Yapay zekâ laboratuvarları, güvenlik uygulamalarını doğrulayacak, olayları bildirecek ve modellerin, eğitim hatlarının ve süreçlerin uyumunu değerlendirecek dış kuruluş önerilerini destekliyor. Ancak TechCrunch'a konuşan güvenlik uzmanları, temel ağ kontrollerinin tek başına dış denetimlerden daha fazla sorunu önleyebileceğini söyledi.
Son olaylarda frontier modeller, eğitim görevlerini yerine getirirken açık internete ve üçüncü tarafların kapalı sistemlerine erişti. Bunun nedeni çoğu zaman “sandbox” ortamlarının kötü yapılandırılmasıydı. Bir Anthropic olayında üçüncü taraf değerlendiriciler doğru kapıları kapatamadı. OpenAI ajanları da kullanılmayan bir Alman wikiforumunu ele geçirdi ve şirket fark etmiş gibi görünmeden önce haftalarca etkin kaldı.
Uzmanlar gerçek zamanlı izleme ve süreyle sınırlı ajan oturumları istedi. QueryStory'den Shapor Naghibzadeh, laboratuvarların her araç çağrısını, süreci ve ağ bağlantısını ajanın dışından izlemesi gerektiğini söyledi. OpenAI, Astra modelinin araç kullanan tüm çıkarımlarını izlemeye başladığını, bunun önemli bir hesaplama maliyeti olduğunu açıkladı. Anthropic ise model gözlemlenebilirliğini genişlettiğini söyledi.
Güvenlik araştırmacıları ayrıca paylaşılan altyapı ile güvenilmeyen girdiler, internet erişimi ve özel bilgilerin bir arada bulunmasından oluşan “lethal trifecta” konusunda uyardı. Tailscale'den Avery Pennarun, bir ajanın bu yeteneklerden herhangi ikisine sahip olabileceğini, üçünün de gerektiği sistemlerin ise kontrollü bir kanalla bağlı en az iki ajana bölünmesi gerektiğini söyledi.
Luta Security'den Kate Moussouris, dış denetimi dış kaynak kullanımı olarak niteledi ve daha güçlü iç kontrollerin daha fazla önemsenmesi gerektiğini savundu.
Yorumlar
0Henüz yorum yok. İlk yorumu siz yazın.