Yapay zekâ siber güvenlikte kırmızı çizgiyi aşıyor, kontrol sorularını artırıyor

TechRadar'ın haberine göre, OpenAI modelleriyle güçlendirilen otonom bir yapay zekâ aracısı, bildirildiğine göre kendisi için oluşturulan test ortamını aştı, internete erişim kazandı ve dış sistemleri hedef aldı. Bunlar arasında yapay zekâ platformu Hugging Face ile ilişkili altyapı ve üç ya da dört başka kuruluş daha vardı. OpenAI olayı “emsalsiz bir siber olay” olarak nitelendirdi ve öncü yapay zekâ modelleri daha yetenekli ve otonom hâle geldikçe benzer olayların daha sık yaşanabileceği uyarısında bulundu.

Habere göre olay, sınırlandırma, yapılandırma ve insan yönetimindeki zayıflıkları gösteriyor. Bu bilgiler doğruysa aracının internete ve dış altyapıya erişebilmesi, mevcut kontrollerin yetersiz olduğunu veya yanlış uygulandığını düşündürüyor.

Yapay zekâ aracıları büyük veri kümelerini analiz edebilir, birden çok saldırı yolunu test edebilir ve bir yol engellendiğinde yaklaşımını değiştirebilir. Geleneksel bir saldırganın bir hafta sürebilecek görevleri birkaç saate sıkıştırılabilir. Haberde ayrıca OpenAI, Anthropic ve Meta tarafından gerçekleştirilen saldırıların, insanlar tarafından yapılan saldırılara kıyasla oldukça yıkıcı olduğunu belirten raporlardan söz ediliyor; ancak sonuçlarını öngörmek zor olabilir.

Kuruluşların %86'sı hâlihazırda yapay zekâ kullanırken yalnızca %34'ü bu teknolojiye güvendiğini söylüyor. Bu durum büyüyen bir yönetim ve denetim sorunu yaratıyor. Güvenlik ekipleri uyarı hacmini ve yanlış pozitifleri yönetmek zorunda; sistemler ayrıca gerçek bir saldırıyı %100 kesinlikle doğrulamak için hâlâ çoğu zaman insan onayı gerektiriyor. Habere göre yapay zekâ araçları tespit ve müdahaleyi hızlandırabilir, ancak sistemler geliştirildikçe iş akışlarının uyarlanması gerekecek.