İspanya’nın AEPD’si yapay zekâ destekli veri ihlaline ilişkin ilk bildirimi aldı

İspanya’nın İspanyol Veri Koruma Ajansı (AEPD), bilinen bir büyük dil modeliyle desteklenen bir yapay zekâ aracısının gerçekleştirdiği iddia edilen veri ihlaline ilişkin ilk bildirimi aldığını açıkladı. Ajans olayı henüz araştırmadı veya bildirimi doğrulamadı.

Olayı bildiren kuruluş, aracının genel dosyalardaki güvenlik açıklarını aradığını, sistemlerine giriş yaptığını ve ek güvenlik sorunları bulmak için uygulamaları incelediğini söyledi. Saldırının son aşamalarında aracının kişisel verileri değiştirdiği ve faturalarla diğer finansal belgelere eriştiği iddia edildi.

AEPD, bildirimin yapay zekâ ile ilişkili veri ihlallerinin artık yalnızca teorik olmadığını gösterdiğini belirtti. Ajans, yapay zekânın yeni tehditler yaratmadığını, ancak saldırıların hızını, ölçeğini ve uyarlanabilirliğini artırarak savunmacıların tepki süresini daraltabileceğini söyledi. Güvenlik modellerinin yapay zekâ destekli ve yapay zekâ tarafından yürütülen saldırıları hesaba katması gerektiğini, manuel olaylar için tasarlanan prosedürlerin yetersiz kalabileceğini ekledi.

AEPD ayrıca dijital kimlik ve kimlik bilgileri güvenliğinin güçlendirilmesi gerektiğini vurguladı. Aracılar, ele geçirilmiş hesapları, API anahtarlarını veya aşırı yetkili belirteçleri kullanarak birden fazla hizmete makine hızında erişebilir. Ajans, insan denetiminin yanı sıra hızlı tespit, sınırlama ve müdahale çağrısı yaptı.

Otonom yapay zekâ kullanılmış olsa bile bunun modelin, sağlayıcısının altyapısının veya modelin tasarım amacının ele geçirildiği ya da kötü niyetli siber işlemler için oluşturulduğu anlamına gelmeyeceğini AEPD belirtti.