Check Point Research (CPR), kod bloklarındaki HTML sayfa önizlemeleri üzerinden ChatGPT'nin isteğe bağlı Lockdown Mode korumasını aşmanın bir yolunu buldu. Araştırmacılar, açığın hassas verileri açığa çıkarabileceğini ve başka saldırılara da imkân tanıyabileceğini söyledi.
Lockdown Mode, son derece hassas bilgilerle çalışan kişilere ek koruma sağlıyor. Etkinleştirildiğinde harici hizmetlerle bağlantıları kısıtlıyor ve canlı web gezintisi, Deep Research, Agent Mode ve dosya indirme gibi özellikleri sınırlıyor veya devre dışı bırakıyor. Böylece istem enjeksiyonu yoluyla veri açığa çıkma riski azalıyor.
Araştırmacılar, aşmanın HTML önizlemelerinde ChatGPT'nin açılır pencereleri işleme biçiminden kaynaklandığını belirtti. Önizlemeler korumalı çerçevelerde çalışsa da CPR, çerçeve izinlerinin açılır pencerelerin bu korumalardan çıkmasına olanak verdiğini söyledi. Araştırmacılar, iç içe bir çerçeve oluşturarak açılır pencere işlevlerine erişebildi ve önizlemeye uygulanan kısıtlamaları aşabildi.
CPR, sorunun veri hırsızlığına, ayrıca olası kimlik bilgisi hırsızlığına veya kötü amaçlı yazılım dağıtımına yol açabileceğini söyledi. Kullanıcı herhangi bir işlem yapmadan açılır pencerenin belirdiği olası bir “sıfır tıklama” senaryosunu da anlattı. Araştırmacılara göre saldırı, senaryoya bağlı olarak kötü amaçlı bir istemden, GPT'den veya paylaşılan bir sohbetten kaynaklanabilir.
CPR bulguları OpenAI'a bildirdi; OpenAI da bu yöntemi devre dışı bırakmak için ek korumalar getirdi. Araştırmacılar kuruluşlara yapay zekâ kullanımını ve hassas verilerin açığa çıkmasını izlemelerini, ayrıca bir modeli çevreleyen uygulamaları, çalışma ortamlarını ve bağlayıcıları yapay zekâ saldırı yüzeyinin parçası olarak değerlendirmelerini önerdi.
Yorumlar
0Henüz yorum yok. İlk yorumu siz yazın.