Data van Darktrace laat zien dat bij 74% van de klanten generatieve AI-tools worden gebruikt door werknemers
Nieuwe risico- en compliance-modellen van Darktrace helpen CISO’s de kansen en risico’s van generatieve AI- en LLM-gebaseerde tools in te schatten
Den Haag, 13 juni 2023 - Als reactie op het toenemende gebruik van generatieve AI-tools, presenteert
Darktrace nieuwe risico- en compliance-modellen om zijn 8.400 klanten over de hele wereld te helpen het toenemende risico op IP-verlies en datalekken aan te pakken. Deze nieuwe risico- en compliance-modellen voor Darktrace
DETECT en
RESPOND maken het voor klanten eenvoudiger om processen te creëren die activiteit van en verbinding met generatieve AI- en LLM-tools (Large Language Model) monitoren.
Deze nieuwe modellen komen als reactie op het toenemende gebruik van generatieve AI-tools. Zo heeft de AI van Darktrace waargenomen dat 74% van zijn klanten generatieve AI-tools gebruikt op de werkplek. In één geval, in mei 2023, heeft Darktrace een upload van meer dan 1GB aan gegevens naar een generatieve AI-tool bij een van zijn klanten gedetecteerd en voorkomen.
Nieuwe AI-dreigingen vragen om nieuwe AI-modellen
Nieuwe generatieve AI-tools beloven productiviteitsstijgingen en nieuwe manieren om creativiteit te vergroten. CISO’s moeten echter een weloverwogen afweging maken tussen het volledig omarmen van deze innovaties en de potentiële risico’s die het met zich meebrengt. Verschillende overheidsinstanties hebben al richtlijnen gecreëerd of aangekondigd over het beheersen van dergelijke risico’s bij het gebruik van generatieve AI-tools en andere LLM’s op de werkplek. Van onder meer de EU wordt verwacht dat ze snel richtlijnen zullen presenteren over hoe organisaties in verschillende sectoren het meeste uit AI kunnen halen zonder de potentiële gevaren te vergroten.
Poppy Gustafsson, CEO van Darktrace: “CISO’s over de hele wereld worstelen met hoe ze de risico’s en kansen van openbaar beschikbare AI-tools in moeten schatten. Het sentiment rondom AI verandert continu, maar de AI-geest gaat niet meer terug in de fles. AI-tools worden snel onderdeel van ons dagelijks leven, ongeveer op dezelfde manier als het internet en social media dat voorheen werden. Elke organisatie zal zijn eigen risico- en kansenanalyse moeten maken. Darktrace biedt beveiliging op maat, en het is geen verrassing dat we nu al de eerste tekenen zien van CISO’s die onze technologie gebruiken om hun specifieke compliance-beleid ten opzichte van AI-tools af te dwingen."
"Met de aankondiging van vandaag bieden we onze klanten de mogelijkheid om het gebruik van AI-tools binnen hun organisatie snel te begrijpen en te controleren. De samenleving moet kunnen profiteren van deze ongelooflijke nieuwe tools, maar ook uitgerust zijn om aanvallers af te weren. Ook zij kunnen namelijk gebruikmaken van deze nieuwe innovaties. AI is een krachtig hulpmiddel om nog genuanceerdere en effectievere cyberaanvallen uit te voeren. Wij bieden onze klanten de tools die zij nodig hebben om aanvallers een stap voor te blijven in het opkomende tijdperk van defensieve AI-tools vs. offensieve AI-aanvallen.”
Darktrace Cyber AI Research Center
Als aanvulling op zijn zelflerende AI voor preventie, detectie, autonome reactie en beleidshandhaving, ontwikkelt het Darktrace Cyber AI Research Center voortdurend nieuwe AI-modellen. Hieronder vallen bijvoorbeeld zijn eigen gepatenteerde uitgebreide taalmodellen, die klanten helpen terug te vechten tegen steeds geavanceerdere dreigingen. Deze modellen worden gebruikt in alle producten in Darktrace’s
Cyber AI Loop.
“Recente ontwikkelingen in generatieve AI en LLM’s zijn een belangrijke toevoeging aan het groeiende arsenaal van AI-technieken die cybersecurity zullen transformeren. Maar ze zijn niet one-size-fits-all en moeten voorzichtig worden toegepast op de juiste use cases en uitdagingen”, zegt Jack Stockdale, Chief Technology Officer bij Darktrace. “In het afgelopen decennium heeft het Darktrace Cyber AI Research Center zich ingezet voor de verantwoorde ontwikkeling en implementatie van verschillende AI-technieken, waaronder onze unieke zelflerende AI en eigen uitgebreide taalmodellen. We blijven de nieuwste innovaties beschikbaar maken voor onze klanten, zodat ze zichzelf kunnen beschermen tegen cyberaanvallen die overal ter wereld voor chaos zorgen.”