Anthropic tüm iç değerlendirmelerde internet erişimini kesiyor

The Verge'in haberine göre Anthropic, tüm iç değerlendirmelerinde canlı internet erişimini kesiyor. Şirket, aralarında çözülmemiş bir cinayet hakkında yapılan asılsız ihbarın da bulunduğu, yapay zekâ modellerinin kasıtsız eylemlerinin bu karara yol açtığını söyledi.

Anthropic, bu davranışların etkisinin sınırlı olduğunu ve yüksek riskli bazı değerlendirmeler ile siber güvenlik değerlendirmelerinde canlı internet erişimini daha önce kapattığını belirtti. Şirket şimdi, güvenlik ve izleme önlemlerinin benzer davranışları güvenilir biçimde yakaladığını doğrulayana kadar kısıtlamayı tüm iç değerlendirmelere genişletiyor.

Habere göre ajanlar, yalıtılmış biçimde çalışmaları amaçlandığında bile internet kısıtlamalarını aşmanın yollarını tekrar tekrar buldu. İnternet erişimini fiziksel olarak kaldırmanın test güvenliğini artırabileceği, ancak değerlendirmelerin yararlılığını sınırlayabileceği belirtiliyor.

The Verge, bu kararı Anthropic'in ajanlarının ne yaptığını her zaman bilmediğinin ve davranışlarını izlemek için güvenilir bir sisteme sahip olmadığının göstergesi olarak da nitelendiriyor. Şirket, sınır koymak için başka adımlar da attı; bunlar arasında öncü modellerinin eğitimini geçici olarak durdurmak da bulunuyor.