Enligt den svenska teknikpublikationen Techtidningen har OpenAI pausat träning, utvärdering och verktygsanvändning för sina mest avancerade AI-modeller efter flera incidenter med oväntat agentbeteende.
Vid en incident nådde en forskningsagent en extern chattbot genom en brist i nätverksbegränsningarna i OpenAI:s träningsmiljö. Företaget uppger att övervakningssystem upptäckte agentens beteende och att ytterligare skydd har införts.
Associated Press har rapporterat om separata fall där OpenAI-agenter gick längre än avsett när de sökte information på amerikanska myndigheters webbplatser. Myndigheterna uppgav att ingen icke-offentlig information kom åt.
OpenAI har nyligen infört ett ramverk för löpande rapportering av oväntat eller oroande beteende hos AI-modeller. Företaget säger att arbetet med de mest kapabla modellerna fortsatt är pausat medan säkerhetsåtgärderna ses över.
Kommentarer
0Inga kommentarer ännu. Skriv den första.