Onderzoekers van KnowBe4 Threat Lab hebben in recente phishingcampagnes verschillende herkenbare AI-sporen geïdentificeerd, variërend van achtergebleven instructies van taalmodellen tot opvallende patronen in phishingcode en verborgen tekst die bedoeld is om beveiligingscontroles te misleiden. De bevindingen laten zien dat AI niet alleen de aanvaller helpt, maar ook nieuwe mogelijkheden biedt om phishingcampagnes te herkennen en te analyseren. Volgens
recent nowBe4-onderzoek bevat inmiddels 86 procent van de phishingcampagnes die de afgelopen zes maanden zijn waargenomen een vorm van AI-ondersteuning.
AI-instructies per ongeluk meegestuurd
Onderzoekers stuitten op een opmerkelijke fout van de aanvallers zelf. Een phishingmail bevat letterlijk een instructieregel die normaal gesproken alleen zichtbaar is voor degene die een AI-tool gebruikt, vergelijkbaar met een chatbot die uitlegt hoe een antwoord is opgebouwd voordat het daadwerkelijke antwoord volgt. De aanvallers hadden deze tekst per ongeluk laten staan. Voor beveiligingsonderzoekers vormt zo'n achtergebleven instructie een directe aanwijzing dat generatieve AI is ingezet bij het opstellen van de aanval.
Publieke platforms als springplank voor phishing
Een tweede bevinding laat zien hoe AI en no-code-platformen cybercriminaliteit toegankelijker maken. Onderzoekers troffen phishingpagina's aan die vrijwel niet te onderscheiden waren van legitieme Microsoft- of Meta-omgevingen, maar die volledig waren gebouwd op publieke platforms waarmee gebruikers zonder programmeerkennis websites kunnen maken. Hierdoor kunnen aanvallers binnen korte tijd professionele phishingcampagnes opzetten en tegelijkertijd profiteren van het vertrouwen dat beveiligingssystemen hebben in deze legitieme platformen.
Kwaadaardige code die zichzelf uitlegt
Ook in de onderliggende code van phishingwebsites vonden onderzoekers sporen van AI-gebruik. Waar cybercriminelen hun werkwijze normaal gesproken juist proberen te verbergen, bevatten sommige phishingpagina's uitgebreide commentaarregels die nauwkeurig uitlegden hoe de aanval in zijn werk ging. In enkele gevallen beschreef de code zelfs de technieken die werden gebruikt om beveiligingscontroles te omzeilen. Dergelijke uitvoerige documentatie is kenmerkend voor door AI gegenereerde code, omdat taalmodellen vaak automatisch uitleg toevoegen aan de code die zij schrijven.
Verborgen gesprekken als afleidingstactiek
Een vierde voorbeeld betreft phishingmails waarin grote hoeveelheden verborgen tekst waren opgenomen die voor ontvangers onzichtbaar waren. Deze tekst bestond uit door AI gegenereerde gesprekken over alledaagse onderwerpen, zoals het bestellen van lunch of het verdelen van restjes eten. Het doel was om beveiligingsscanners te misleiden door de e-mail meer legitieme inhoud te geven. Juist in deze verborgen gesprekken vonden onderzoekers meerdere aanwijzingen voor AI-gebruik, waaronder onnatuurlijk regelmatige tijdsintervallen tussen berichten en het herhaaldelijk noemen van het e-mailadres van de ontvanger in situaties waarin echte mensen dat niet zouden doen.
Volgens KnowBe4 laten deze voorbeelden zien dat AI phishingaanvallen weliswaar professioneler maakt, maar niet onzichtbaar. De nieuwe digitale vingerafdrukken bieden organisaties extra mogelijkheden om campagnes te detecteren, aanvallen aan elkaar te koppelen en hun dreigingsinformatie te verrijken.
"Veel organisaties gaan ervan uit dat AI phishingaanvallen moeilijker detecteerbaar maakt. Wat wij zien, is dat AI tegelijkertijd nieuwe sporen achterlaat. Die digitale vingerafdrukken bieden beveiligingsteams waardevolle inzichten om campagnes sneller te identificeren en te onderzoeken. Het speelveld verandert, maar dat geldt voor zowel aanvallers als verdedigers", aldus Jeewan Singh Jalal, Principal Cybersecurity Threat Research Manager bij KnowBe4.
Lees
de blog van het Threat Lab-team van KnowBe4 voor een volledige technische analyse.
OverKnowBe4
KnowBe4 stelt de moderne workforce in staat om elke dag betere en slimmere beveiligingsbeslissingen te nemen. Meer dan 70.000 organisaties wereldwijd vertrouwen op KnowBe4. Het bedrijf is een pionier op het gebied van digital workforce security en beveiligt zowel AI-agents als mensen. Het KnowBe4-platform biedt aanvalssimulatie en training, samenwerkingbeveiliging en agentbeveiliging, aangedreven door AIDA (Artificial Intelligence Defense Agents) en een eigen ontwikkelde Risk Score. Het platform maakt gebruik van 15 jaar aan gedragsdata om geavanceerde dreigingen te bestrijden, zoals social engineering, prompt injection en shadow AI. Door zowel mensen als AI-agents te beveiligen, loopt KnowBe4 voorop in de sector op het gebied van vertrouwen en bescherming binnen de workforce. Meer informatie is te vinden op
knowbe4.com.
Voor meer informatie
KnowBe4
Ellie Williams
E-mail:
elliew@knowbe4.com
Whizpr
Nini Joostens / Paul Maris
E-mail:
knowbe4@whizpr.nl