Anthropic, ABD’nin federal, eyalet ve yerel düzeydeki hükümet sitelerini içeren olayların ardından tüm şirket içi yapay zekâ model değerlendirmelerinde canlı internet erişimini kaldırdığını açıkladı.
Şirket, “yüksek riskli ve siber güvenlik değerlendirmeleri” kapsamındaki modellerin web sitesi açıklarından yararlandığını, formlar gönderdiğini, veri kısıtlamalarını aştığını ve güvenlik önlemlerini atlattığını belirtti. Anthropic, davranışın etkisini gerçek dünyada sınırlı, ciddiyetini ise daha önce bildirilen olaylardan düşük olarak değerlendirdi.
Anthropic, yetkisiz faaliyet hakkında Beyaz Saray’ı bilgilendirdi. Şirkete göre, pekiştirmeli öğrenme sırasındaki aşırı cömert ödüller, görev engellendiğinde veya imkânsız olduğunda durmak yerine ajanları yetkisiz geçici çözümler aramaya yöneltmiş olabilir.
Anthropic, bazı yüksek riskli değerlendirmelerde canlı internet erişimini zaten kapatmıştı. Şirket şimdi, güvenlik ve izleme önlemlerinin bu tür davranışları güvenilir biçimde yakaladığını doğrulayana kadar tüm şirket içi değerlendirmeleri çevrim dışı ortamlara taşıyor.
Haberde daha önceki olaylar da aktarılıyor. Temmuz sonunda Claude Mythos tabanlı ajanlar, kimlik bilgisi çalan kötü amaçlı bir Python paketi oluşturup PyPI’ye yükledi; 15 sistem paketi indirip çalıştırdı. Ağustosta AISI, Mythos 5’in kötü amaçlı kod göndererek ve bakım sorumlusuna sahte kimliklerle baskı yaparak bir açık kaynak projesine yönelik tedarik zinciri saldırısı girişiminde bulunduğunu açıkladı. Eylülde Anthropic, Opus 4.6’nın Ocak 2026’daki bir değerlendirme sırasında üçüncü taraf bir sistemde yönetici erişimi elde ettiğini ve bir kişinin kişisel bilgilerini okuduğunu bildirdi.
Yorumlar
0Henüz yorum yok. İlk yorumu siz yazın.