Salt Labs'taki güvenlik araştırmacıları, Manus'un bir e-postada gizlenen kodu çalıştırmasını sağlayan bir yol buldu. Bu, yapay zekâ aracısının güvenilmeyen içeriği ele alışındaki bir zayıflığı ortaya çıkardı. Habere göre kullanılan yöntem daha sonra düzeltildi.
Salt Labs, Manus'un Gmail entegrasyonunu gizli bir istem içeren e-posta göndererek sınadı. Manus bunu kötü amaçlı olarak tanıdı, ancak araştırmacılar aracının e-postadaki içeriği yine de talimat olarak yorumladığını söyledi. Bir güvenlik mekanizması işlemi durdurdu.
Araştırmacılar, Base64 kodlaması da dahil başka yöntemleri denedikten sonra sıra dışı bir JavaScript gizleme yöntemi olan JSFuck'ı kullandı. E-postaya JSFuck ile kodlanmış basit bir yük yerleştirdiler. Salt Labs, Manus'un bunu çözülecek ve görüntülenecek içerik olarak ele aldığını, ancak sunucu tarafında JavaScript çalıştırdığını söyledi. Araştırmacılar yükün başarıyla çalıştığını bildirdi.
Salt Labs'a göre Manus, sahibine ancak kod çalıştıktan sonra bildirim gönderdi. Araştırmacılar sorunu Meta'nın hata ödül programı üzerinden bildirdiklerini ve sorunun giderilerek artık istismar edilemez hâle geldiğini söyledi.
Raporda, yapay zekâ aracılarının bağlı hizmetlere erişebilmesiyle riskin arttığı belirtiliyor. Menlo'nun 2026 tüketici yapay zekâ raporuna göre katılımcılar aracılara e-posta (%36), web tarayıcıları (%33), mesajlaşma uygulamaları (%31), bulut depolama (%29) ve takvimlere (%27) erişim vermişti. Sağlık uygulamalarına (%23) ve finansal hesaplara (%20) erişim daha az yaygındı.
Salt Labs, güvenlik önlemlerinin yalnızca istemleri ve model davranışını değil, aracıların erişebildiği araçlar, API'ler ve sistemler üzerinden yaptıklarını da kapsaması gerektiğini söyledi.
Yorumlar
0Henüz yorum yok. İlk yorumu siz yazın.