Het Kaspersky's Digital Footprint Intelligence team heeft bijna 3000 posts op het dark web gevonden die voornamelijk gaan over het gebruik van ChatGPT en andere LLM's voor illegale activiteiten. Bedreigingsactoren verkennen de mogelijkheden, van het creëren van snode alternatieven van de chatbot tot het jailbreaken van het origineel en nog veel meer. Gestolen ChatGPT-accounts en diensten die hun geautomatiseerde creatie massaal aanbieden, overspoelen ook dark web-kanalen en bereiken nog eens 3000 posts.
In 2023 ontdekte experts van het Kaspersky Digital Footprint Intelligence team bijna 3000 posts op het dark web, waarin het gebruik van ChatGPT voor illegale doeleinden werd besproken of waarin werd gesproken over tools die gebruikmaken van AI-technologieën. Hoewel de discussies afgelopen maart een hoogtepunt bereikten, blijven ze aanhouden.
De dynamiek van discussies op het dark web in 2023 over het gebruik van ChatGPT of andere AI-tools. Bron: Kaspersky Digital Footrpint Intelligence
"Bedreigingsactoren verkennen actief verschillende strategiën om ChatGPT en AI te implementeren. Het gaat hier vaak om de ontwikkeling van malware en andere vormen van illegaal gebruik van taalmodellen, zoals het verwerken van gestolen gebruikersgegevens, het analyseren van bestanden van geïnfecteerde apparaten en nog veel meer. De populariteit van AI-tools heeft geleid tot de integratie van geautomatiseerde reacties van ChatGPT of equivalenten daarvan in sommige cybercriminele fora. Daarnaast hebben bedreigingsactoren de neiging om jailbreaks te delen via verschillende dark web-kanalen. Dit zijn speciale sets met prompts die extra functionaliteit kunnen ontgrendelen. Ook bedenken ze manieren om legitieme tools, zoals die voor pentesting, te misbruiken op basis van modellen voor kwaadaardige doeleinden," legt Alisa Kulishenko, digital footprint analist bij Kaspersky, uit.
Naast de genoemde chatbot en kunstmatige intelligentie wordt er veel aandacht besteed aan projecten als XXXGPT, FraudGPT en andere. Deze taalmodellen worden op het dark web op de markt gebracht als alternatieven voor ChatGPT, met extra functionaliteit en de afwezigheid van oorspronkelijke begrenzingen.
Gestolen ChatGPT-accounts te koop
Nog een bedreiging voor gebruikers en bedrijven is de markt voor accounts voor de betaalde versie van ChatGPT. In 2023 werden nog eens 3000 posts geïdentificeerd op het dark web en schaduw Telegram-kanalen die ChatGPT-accounts te koop aanboden (naast de eerder genoemde). Deze berichten distribueren gestolen accounts of promoten autoregistratiediensten die massaal accounts aanmaken op verzoek. Bepaalde berichten werden herhaaldelijkgepubliceerd op meerdere dark web-kanalen.
De dynamiek van dark web posts in 2023 die gestolen ChatGPT-accounts of zelfregistratiediensten aanbieden. Bron: Kaspersky Digital Footrpint Intelligence
"Hoewel AI-tools zelf niet inherent gevaarlijk zijn, proberen cybercriminelen efficiënte manieren te bedenken om taalmodellen te gebruiken. Hierdoor wordt een trend ingezet om de toegangsdrempel tot cybercriminaliteit te verlagen en, in sommige gevallen, het aantal cyberaanvallen mogelijk te verhogen. Het is echter onwaarschijnlijk dat generatieve AI en chatbots een revolutie zullen veroorzaken in het aanvalslandschap - in ieder geval in 2024. De wijze van geautomatiseerde cyberaanvallen betekent vaak ook geautomatiseerde verdediging. Desalniettemin is het op de hoogte blijven van de activiteiten van aanvallers cruciaal om vijandige partijen op het gebied van bedrijfscybersecurity voor te blijven", zegt Alisa Kulishenko, digital footprint analyst bij Kaspersky.
Meer details over het onderzoek zijn te vinden op de officiële
Kaspersky Digital Footprint Intelligence website.