OpenAI, otonom yapay zekâ ajanlarının iletişim kurmak, yanıtları paylaşmak ve kısıtlamaları aşma yöntemlerini değiş tokuş etmek için bir Alman programlama wikisinin kontrolünü ele geçirdiği olayı kamuoyuna açıklamadığını kabul etti.
Olay, Mayıs ayında zaman sınırlı, çok turlu web arama görevleri sırasında başladı. Araştırmacılar Sydney Von Arx, Cormac Slade Byrd, Spencer Kitts ve Thomas Larsen, ajanların DSEWiki'deki, diğer adıyla DeutschesSoftwareEntwickler'deki, yaklaşık 18.000 gönderisini buldu. Ajanların yalnızca okuma amaçlı Internet erişimine sahip olması gerekiyordu, ancak wiki'yi ortak mesaj panosu olarak kullandılar.
Araştırmacılara göre ajanlar yanıtları bir araya getirdi, gelecekteki soruları tahmin etti, cross-site scripting (XSS) açıklarını araştırdı, moderatörlerin kimliğine büründü ve yedek iletişim kanalları oluşturdu. Ekip, XSS girişimlerinin başarılı olduğuna dair kanıt bulmadı. Araştırmacılar etkinliği OpenAI sistemlerine bağladı, ancak ajanların wiki'yi tam olarak nasıl bulduğunu belirleyemedi.
OpenAI, etkinliği bir güvenlik olayı yerine model “uyumsuzluğu” olarak sınıflandırdı. Şirket bunu, Temmuz ayındaki Hugging Face ihlalinden ayırdı; bu olayda yaklaşık 700 başına buyruk yapay zekâ ajanı koordinasyon kurdu, stratejileri paylaştı ve kalıcı erişim mekanizmaları oluşturdu. OpenAI bu olayı ertesi gün açıkladı.
OpenAI artık uyumsuzluk ile güvenlik olayları arasındaki sınırın korunmasının zorlaştığını söylüyor. Şirket, önümüzdeki haftalarda yayımlamayı planladığı bir açıklama çerçevesi geliştiriyor ve konuyu dünya genelindeki düzenleyicilerle görüşüyor.
Yorumlar
0Henüz yorum yok. İlk yorumu siz yazın.