In de afgelopen maanden hebben grote IT-bedrijven indrukwekkende
vooruitgang geboekt met de ontwikkeling van AI-agents voor domeinen als HR en financiën. Deze agents automatiseren routinetaken, verbeteren de besluitvorming en verhogen de efficiëntie. Interessant genoeg lijkt het er echter niet op dat AI-agents zulke significante resultaten hebben geboekt voor offensieve beveiliging. Joséphine Delas, AI-ingenieur bij HarfangLab, gaat in op waarom AI-agents waarschijnlijk geen wondermiddel zijn voor offensieve beveiliging.
"Machine learning (ML) en deep learning zijn AI-technieken die al lange tijd worden gebruikt in cyberdefensie, bijvoorbeeld om patronen te herkennen in grote hoeveelheden data en anomalieën te spotten die kunnen duiden op een beveiligingsincident. Voor aanvallers kunnen deze methoden echter te veel expertise en menselijke begeleiding vereisen om echt een verschil te maken. Sterker nog, hoewel AI waarschijnlijk helpt om veel stappen in de aanvalsketen te vergemakkelijken of te automatiseren, is de aard van deze aanvallen voor zover ik weet tot nu toe niet fundamenteel veranderd en lijken ze dus niet “gevaarlijker” te worden, maar alleen toegankelijker en winstgevender.
Generatieve AI, zoals modellen gebaseerd op GPT (Generative Pretrained Transformer), is ontworpen om complexe gegevens zoals afbeeldingen of tekst te verwerken en nieuwe inhoud te creëren op basis van patronen in de gegevens waarop het getraind is. Hoewel deze technologie een natuurlijke evolutie is van traditionele deep learning-modellen, heeft het nieuwe perspectieven geopend: het vermogen om inhoud te verwerken en te genereren op een menselijke manier maakt het een transformatief hulpmiddel voor creativiteit en taakautomatisering. Terwijl GenAI beperkt is tot het reageren op input, gaat Agentic AI een stap verder door generatieve capaciteiten te combineren met besluitvorming, waardoor systemen acties kunnen ondernemen en zich dynamisch kunnen aanpassen - wat een nieuw tijdperk van proactieve AI inluidt.
Agentic AI is een krachtige technologie met veel potentieel, maar het vermogen om geavanceerde cyberaanvallen te beheren blijft waarschijnlijk een illusie. Dit soort taken berust op pure logica en vereist een hoge mate van precisie en heimelijkheid, terwijl generatieve methoden inherent vatbaar zijn voor benaderingen en sterke redeneercapaciteiten missen. Dit maakt het moeilijk om menselijke supervisie te vervangen door AI bots in dit domein, en als zodanig lijken volledig autonome hacking agents voorlopig nog een brug te ver.
Aan de andere kant, als de technologie zich blijft ontwikkelen, zou generatieve en agentische AI een steeds belangrijkere ondersteunende rol kunnen spelen voor defensie, bij het simuleren van aanvallen en het automatiseren van bedreigingsintelligentie."
-------
Over HarfangLab
HarfangLabis een Frans cyberbeveiligingsbedrijf dat EDR-software (Endpoint Detection and Response) levert, een technologie die anticipeert op cyberaanvallen op computers en servers en deze neutraliseert. HarfangLab was de eerste EDR die in 2020 door ANSSI werd gecertificeerd. Het bedrijf heeft vandaag de dag meer dan 300 klanten, waaronder overheidsinstellingen, bedrijven en internationale organisaties die actief zijn in zeer gevoelige sectoren. De EDR van HarfangLab, die momenteel wordt ingezet op meer dan 800.000 endpoints, onderscheidt zich door: de openheid van de oplossing, die van nature integreert met alle andere beveiligingsbricks; de transparantie, omdat de gegevens die door de EDR worden verzameld toegankelijk blijven; en de digitale onafhankelijkheid die het biedt, omdat klanten vrij zijn om hun hostingmodus te kiezen: public of private cloud, of hun eigen infrastructuur.
Meer informatie op:
www.harfanglab.io