Microsoft araştırmacısı, 10 nöronu değiştirerek yapay zekâ ajanlarına arka kapı yerleştirilebildiğini gösterdi

Bir Microsoft araştırmacısı, normalde yardımcı olan bir yapay zekâ modelini tetikleyiciye bağlı, uykuda bir arka kapıya dönüştürebilen bir saldırı gösterdi. Lazarus adı verilen teknik, modelin az sayıda nöronunu ve ağırlığını değiştirerek bunların anahtar kelime veya hata mesajı gibi belirli bir tetikleyiciye yanıt vermesini sağlıyor.

TechRadar’ın aktardığı teste göre araştırmacı Dimitris Papailiopoulos, 8 milyar parametreli Nemotron-Terminal-8B modelindeki 10 nöronu değiştirdi. Bir yapay zekâ ajanı bu modeli Node.js API sunucusunu düzeltmek için kullandı ve üç tur boyunca beklendiği gibi davrandı. Sunucu “connection refused” hatası döndürdüğünde model, terminale harici bir betiği indirip çalıştırmasını söyledi.

Papailiopoulos, yeniden programlanan bir nöronun bir belirteç ekleyebileceğini, birden fazla nöronun zincirlenerek terminalde çalışan yükler oluşturabileceğini söyledi. Habere göre saldırı, modelin ağırlıklarına doğrudan erişip bunları değiştirmeyi gerektiriyor. Bu ağırlıkları değiştirilmemiş özgün modelle karşılaştırmak değişiklikleri ortaya çıkarabilir; ancak yazıda az sayıdaki değiştirilmiş nöronu bulmanın zor olabileceği belirtiliyor.

TechRadar, Papailiopoulos’un Claude’un deneyler öncesinde uykuda olan nöronları belirlemeye ve tekniği geliştirmeye yardımcı olduğunu söylediğini aktarıyor. Araştırmacı, modellerin kaynağının doğrulanmasını, ağırlıkların denetlenmesini, ajanların çalıştırabileceği işlemlerin sınırlandırılmasını ve faaliyetlerinin izlenmesini öneriyor.