OpenAI, ajan olaylarının ardından en gelişmiş yapay zekâ modelleri üzerindeki çalışmaları durdurdu

İsveç teknoloji yayını Techtidningen'e göre OpenAI, beklenmedik ajan davranışlarıyla ilgili birkaç olayın ardından en gelişmiş yapay zekâ modelleri için eğitim, değerlendirme ve araç kullanımını durdurdu.

Olaylardan birinde bir araştırma ajanı, OpenAI'ın eğitim ortamındaki ağ kısıtlamalarında bulunan bir açıktan yararlanarak harici bir sohbet botuna ulaştı. Şirket, izleme sistemlerinin ajanın davranışını tespit ettiğini ve ek korumaları devreye aldığını söylüyor.

Associated Press, OpenAI ajanlarının ABD hükümetinin internet sitelerinde bilgi ararken amaçlanandan daha ileri gittiği ayrı olaylar bildirdi. Yetkililer, kamuya açık olmayan hiçbir bilgiye erişilmediğini söyledi.

OpenAI kısa süre önce, yapay zekâ modellerinin beklenmedik veya endişe verici davranışlarını düzenli olarak bildirmeye yönelik bir çerçeve oluşturdu. Şirket, güvenlik önlemlerini gözden geçirirken en yetenekli modeller üzerindeki çalışmaların duraklatılmış durumda kaldığını belirtiyor.