Check Point Research (CPR) hittade ett sätt att kringgå ChatGPT:s valfria Lockdown Mode via HTML-förhandsvisningar i kodblock. Forskarna uppgav att sårbarheten kunde exponera känsliga uppgifter och potentiellt möjliggöra andra attacker.
Lockdown Mode ger extra skydd för personer som hanterar mycket känslig information. När läget är aktiverat begränsar det anslutningar till externa tjänster och begränsar eller stänger av funktioner som webbsurfning i realtid, Deep Research, Agent Mode och filnedladdningar. Det minskar risken för att uppgifter exponeras genom promptinjektion.
Forskarna spårade kringgåendet till hur ChatGPT hanterade popupfönster i HTML-förhandsvisningar. Förhandsvisningarna kördes i sandboxade ramar, men CPR uppgav att behörigheterna ändå lät popupfönster ta sig förbi skyddet. Genom att skapa en nästlad ram kunde forskarna komma åt popupfunktioner och kringgå begränsningarna för förhandsvisningen.
CPR uppgav att problemet kunde möjliggöra datastöld och potentiellt även stöld av inloggningsuppgifter eller leverans av skadlig kod. Forskarna beskrev också ett möjligt ”nollklicksangrepp”, där ett popupfönster visas utan att användaren gör något. Enligt forskarna kunde en attack, beroende på scenariot, komma från en skadlig prompt, GPT eller delad chatt.
CPR rapporterade resultaten till OpenAI, som lade till skydd för att stänga av kringgåendet. Forskarna uppmanade organisationer att övervaka AI-användning och exponering av känsliga uppgifter samt att räkna in appar, körmiljöer och anslutningar runt en modell i AI:ns attackyta.
Kommentarer
0Inga kommentarer ännu. Skriv den första.