Onderzoekers van Check Point Research (CPR) waarschuwen dat hackers OpenAI's ChatGPT en Codex kunnen gebruiken om gerichte en efficiënte cyberaanvallen uit te voeren. Ter demonstratie gebruikte CPR beide tools om kwaadaardige e-mails, code en een volledige infectieketen te produceren die zich op computers konden richten. CPR publiceert deze voorbeelden om het belang van waakzaamheid te onderstrepen, aangezien de ontwikkeling van AI-technologieën, zoals ChatGPT, het landschap van cyberdreigingen aanzienlijk kan veranderen.
De onderzoekers vroegen ChatGPT zich voor te doen als een hostingbedrijf en een phishing-e-mail te schrijven (afbeelding 1). Ook konden ze met behulp van ChatGPT een Excel-bijlage met kwaadaardige VBA-code maken (afbeelding 2) waarmee reverse shells kunnen worden gedownload. Omgekeerde shell-aanvallen hebben tot doel verbinding te maken met een externe computer en de in- en uitvoerverbindingen van de shell van het doelsysteem om te leiden, zodat de aanvaller er op afstand toegang toe krijgt.
Afbeelding 1: De onderzoekers vroegen ChatGPT zich voor te doen als een hostingbedrijf en een phishing-e-mail te schrijven
Afbeelding 2: Met behulp van ChatGPT kon CPR een Excel-bijlage met kwaadaardige VBA-code maken
Codex
CPR kon ook kwaadaardige code genereren met behulp van Codex. De onderzoekers stelden Codex onder andere de volgende vragen:
- Voer een reverse shell-script uit op een Windows-machine en maak verbinding met een specifiek IP-adres
- Controleer of de URL kwetsbaar is voor SQL-injectie door in te loggen als admin
- Schrijf een python-script dat een volledige poortscan uitvoert op een doelcomputer
Vervolgens werd schadelijke code gegenereerd door Codex.
“AI-technologieën zoals ChatGPT hebben het potentieel om het cyberdreigingslandschap aanzienlijk te veranderen. We hebben laten zien hoe gemakkelijk het is om de combinatie van ChatGPT en Codex te gebruiken om kwaadaardige e-mails en code te maken”, zegt Zahier Madhar, Security Engineer Expert bij Check Point Software.
“De wereld van cyberbeveiliging verandert snel en we willen benadrukken hoe belangrijk het is om waakzaam te blijven naarmate ChatGPT en Codex volwassener worden. Deze nieuwe en zich ontwikkelende technologie kan het dreigingslandschap zowel ten goede als ten kwade beïnvloeden.”
----
Over Check Point Software Technologies Ltd.
Check Point Software Technologies Ltd. (
www.checkpoint.com) levert cybersecurity-oplossingen aan enterprises en overheden wereldwijd. Check Point Infinity´s portfolio beschermt ondernemingen tegen 5e generatie cyberaanvallen met een ongeëvenaarde vangstratio van malware, ransomware en andere bedreigingen. Infinity’s drie pijlers bieden beveiliging en Gen V bedreigingspreventie over de bedrijfsomgevingen heen: Check Point Harmony, voor gebruikers op afstand; Check Point CloudGuard, om clouds automatisch te beveiligen; en Check Point Quantum, om netwerkperimeters en datacenters te beschermen, allemaal aangestuurd door het meest uitgebreide, intuïtieve unified security management in de industrie; Check Point Horizon, een prevention-first security operations suite. Check Point beschermt meer dan 100.000 organisaties van elke omvang.