Amsterdam, 26 november 2025 -
Unit 42, het onderzoeksteam van
Palo Alto Networks, heeft een nieuw rapport gepubliceerd waaruit blijkt dat zogenoemde dark LLM’s (Large Language Models die zijn aangepast of ontworpen om veiligheidsbeperkingen te verwijderen) in hoog tempo veranderen hoe cyberaanvallen worden ontwikkeld en uitgevoerd.
Het gaat hierbij om een fundamentele uitdaging met LLM’s in een beveiligingscontext waarbij hun grootste kracht als defensieve instrumenten juist ook hun offensieve kracht vormt. Dit probleem staat bekend als het dual-use dilemma, een concept dat doorgaans wordt toegepast op technologieën zoals kernfysica of biotechnologie, maar nu ook centraal staat in AI.
Eerder deze maand werd duidelijk hoe groot dit risico inmiddels is: hackers, die banden hebben met China, hebben een commercieel LLM gebruikt om een volledige cybercampagne te automatiseren. Het nieuwe Unit 42-rapport laat zien dat dit geen op zichzelf staand incident is, maar onderdeel van een snelgroeiende AI-ontwikkeling waarin dark LLM’s actief worden gebouwd, verspreid en ingezet voor kwaadwillende doeleinden.
Het onderzoek analyseert zowel de modellen zelf als de kanalen waarop ze worden verspreid, zoals Telegram-groepen en darkwebfora. De bevindingen tonen hoe cybercriminelen deze modellen gebruiken om phishingmateriaal, malware-scaffolding en geautomatiseerde aanvalsscripts te genereren en daarmee de drempel voor grootschalige operaties drastisch verlagen.
Belangrijkste bevindingen:
- Dark LLM-ecosystemen: Op maat gemaakte modellen zoals WormGPT en FraudGPT worden actief verkocht via Telegram en darkwebfora. Ze ondersteunen uiteenlopende functionaliteiten, van phishing- en malwaregeneratie tot datadiefstal.
- Commerciële exploitatie: Ontwikkelaars bieden toegang via maandelijkse abonnementen, inclusief “ongecensureerde” output en klantenservice - vergelijkbaar met legitieme SaaS-modellen.
- Eenvoudige inzetbaarheid: Open-sourcevarianten zoals KawaiiGPT zijn binnen enkele minuten lokaal te installeren en vereisen geen geavanceerde programmeerkennis.
- Evoluerende tradecraft: De modellen genereren vloeiende, foutloze phishingteksten en bruikbare malwarecode, wat criminelen in staat stelt complexe aanvallen op ongekende schaal uit te voeren.
- Verdedigingsimplicaties: De brede beschikbaarheid van deze tools markeert een verschuiving van experimenteel gebruik naar een geavanceerde ondergrondse markt waarin LLM-automatisering centraal staat.
Lees het volledige rapport van Unit 42
hier.
Over Palo Alto Networks
Als wereldwijd leider in AI en cybersecurity zet Palo Alto Networks (NASDAQ: PANW) zich in om ons digitale leven te beschermen door middel van voortdurende innovatie. Meer dan 70.000 organisaties wereldwijd vertrouwen op onze allesomvattende AI-gedreven beveiligingsoplossingen voor netwerken, cloud, SecOps en AI, versterkt door de expertise en dreigingsinformatie van Unit 42. Onze focus op platformisering stelt bedrijven in staat beveiliging op schaal te vereenvoudigen, zodat innovatie beschermd wordt. Ontdek meer op
paloaltonetworks.com.