Unit 42, het onderzoeksteam van
Palo Alto Networks, laat in
nieuw onderzoek zien dat AI steeds zelfstandiger in
staat is om cyberaanvallen uit te voeren op cloudomgevingen. AI-systemen
kunnen complexe aanvalsketens uitvoeren met minimale menselijke
tussenkomst, wat nieuwe risico’s met zich meebrengt voor organisaties die
afhankelijk zijn van cloudinfrastructuur.
Eerder onderzoek van Unit 42 toonde al aan dat AI als
‘operator’ kan functioneren binnen cyberoperaties. In dit nieuwe
onderzoek geeft Unit 42 antwoord op de vraag: kunnen AI-systemen volledig
autonoom end-to-end aanvallen uitvoeren, of blijft menselijke sturing
noodzakelijk? Hiervoor ontwikkelde Unit 42 ‘Zealot’, een proof-of-concept
met meerdere AI agents die samenwerken binnen een aanvalsscenario.
Dit zijn de belangrijkste bevindingen uit het onderzoek:
- In
een gecontroleerde testomgeving wist het systeem zelfstandig een
volledige aanval uit te voeren, inclusief het misbruiken van
kwetsbaarheden, het verkrijgen van toegangsgegevens, het toe-eigenen
van beheerrechten en het buitmaken van data.
- AI-gedreven
aanvallen bereiken daarmee een nieuw volwassenheidsniveau. huidige
modellen kunnen aanvalsstappen zelfstandig aan elkaar koppelen met
minimale menselijke begeleiding. De tijd tussen eerste toegang en
dataverlies wordt daardoor steeds korter.
- Volledig
autonome aanvallen bleken echter nog niet helemaal mogelijk zonder
menselijk tussenkomen. Tijdens de tests was enige vorm van
handmatige controle nodig om te voorkomen dat de AI vastliep in
irrelevante zijpaden.
- Bestaande
detectiesystemen, die zijn afgestemd op menselijk gedrag, zullen
moeite hebben om dit soort AI-gedreven aanvallen te herkennen, omdat
deze razendsnel meerdere acties combineren.
Deze bevindingen onderstrepen dat organisaties hun
securitystrategieën moeten heroverwegen in een tijdperk waarin AI niet
alleen wordt ingezet voor verdediging, maar ook steeds vaker door
aanvallers. Het onderzoek van Unit 42 laat zien dat de ontwikkeling van
AI-gedreven dreigingen snel gaat en dat traditionele detectiemechanismen
mogelijk niet langer volstaan.
Meer informatie over dit onderzoek vind je
hier.