Check Point ontdekte ChatGPT-lek waarmee aanvallers data uit Gmail, Drive, Teams, GitHub konden uitlezen

Check Point ontdekte ChatGPT-lek waarmee aanvallers data uit Gmail, Drive, Teams, GitHub konden uitlezen
Onderzoekers van Check Point Research (CPR) ontdekten een verborgen kanaal in ChatGPT waarmee een aanvaller de ChatGPT-sessie van een slachtoffer kon gebruiken om verborgen taken uit te voeren, gebruikmakend van de tools, gegevens en gekoppelde apps die in die sessie beschikbaar waren. Het slachtoffer kreeg een normaal antwoord op zijn zichtbare verzoek, terwijl de taak van de aanvaller apart werd verwerkt en het resultaat daarvan naar een ander account werd gestuurd. Er konden gegevens opgevraagd worden uit gekoppelde diensten als Gmail, Google Drive, Microsoft Teams en GitHub.

Geen gestolen wachtwoord, malware of overname van het account: enkel misbruik van rechten die de gebruiker zelf al aan zijn AI-assistent had gegeven. CPR noemt dit een “coerced insider”, een AI-assistent die via legitieme toegang wordt gemanipuleerd om te handelen namens een aanvaller, binnen het vertrouwenskader van een organisatie. OpenAI heeft het specifieke lek intussen gedicht.

De verborgen instructie kon worden doorgegeven via een kwaadaardige prompt, een gedeeld ChatGPT-gesprek of een aangepaste GPT. Zodra de instructie aanwezig was in de gesprekscontext van het slachtoffer, kon een gewoon bericht de door de aanvaller aangestuurde taak activeren, zonder dat dit zichtbaar was in het antwoord.

Hetzelfde kanaal kon ook worden gebruikt om de gespreksgeschiedenis en bestanden die beschikbaar waren in de betreffende chat en de bijbehorende omgeving voor code-uitvoering te ontvreemden. De omvang van de aanval hing af van de gegevens, tools, gekoppelde apps en rechten die reeds beschikbaar waren binnen de sessie van het slachtoffer.

Geen probleem van ChatGPT alleen
Volgens Fred Streefland, Global CISO bij Check Point, laat het onderzoek zien waarom organisaties meer zicht moeten krijgen op de manier waarop AI binnen hun omgeving wordt gebruikt. “De moeder van alle aanvallen is het gebrek aan zichtbaarheid. Als je het niet ziet, kan je het niet beschermen. Zeker binnen AI-adoptie is volledige zichtbaarheid cruciaal voor een degelijke beveiliging.”

Organisaties moeten dit risico daarom niet uitsluitend als een kwetsbaarheid in ChatGPT beschouwen. Naarmate AI verder verweven raakt met bedrijfssystemen, wordt ook de onderliggende infrastructuur een steeds belangrijker onderdeel van de beveiliging. Het beveiligen van AI begint bij inzicht in waar de technologie wordt gebruikt en waartoe deze toegang heeft.

“Deze bevinding toont dat de veiligheidsuitdaging rond AI niet langer alleen over het model zelf gaat, maar over de toegang en het vertrouwen die we eraan geven”, zegt Eli Smadja, Head of Research bij Check Point Research. “Organisaties moeten ervan uitgaan dat elke bevoegdheid die aan een AI-assistent wordt toegekend, misbruikt kan worden. Een prevention-first-aanpak, gecombineerd met zichtbaarheid, governance en runtime-bescherming, is essentieel om AI een business enabler te laten blijven in plaats van een nieuwe bron van cyberrisico.”

——–

Over Check Point Software Technologies Ltd.
Check Point Software Technologies Ltd. (www.checkpoint.com) is een toonaangevende speler in digitale veiligheid en vertrouwensbescherming. Het bedrijf gebruikt AI-gedreven cybersecurityoplossingen om wereldwijd meer dan 100.000 organisaties te beveiligen. Via het Infinity Platform en een open ecosysteem hanteert Check Point een prevention-first-aanpak die toonaangevende beveiligingsefficiëntie levert en tegelijk het risico verlaagt. Dankzij een hybride mesh-architectuur met SASE als kern, verenigt het Infinity Platform het beheer van on-premise-, cloud- en werkplekomgevingen. Dit biedt ondernemingen en dienstverleners flexibiliteit, eenvoud en schaalbaarheid.