Unit 42, het onderzoeksteam van
Palo Alto Networks, wereldwijde leider in cybersecurity, heeft een nieuwe jailbreak-techniek* geïdentificeerd. Deze techniek, genaamd ‘Deceptive Delight’, blijkt in staat om de veiligheidsmaatregelen van 8 geavanceerde AI-taalmodellen te omzeilen. Hierdoor kan schadelijke content worden gegenereerd via deze AI-taalmodellen. De nieuwe bevindingen onthullen aanzienlijke kwetsbaarheden in AI-systemen en onderstrepen de noodzaak van verbeterde beveiligingsmaatregelen om misbruik van generatieve AI-technologieën te voorkomen.
Belangrijkste bevindingen over Deceptive Delight:
- Effectiviteit: deze jailbreak-techniek boekt een succespercentage van 65% bij het omzeilen van AI-beveiliging, terwijl directe verzoeken zonder gebruik van deze techniek slechts in 5,8% van de gevallen succesvol zijn.
- Subtiele manipulatie: door onveilige onderwerpen te verpakken binnen een onschuldig ogende context, kunnen AI-modellen onbewust schadelijke inhoud genereren.
- Multi-turn conversaties: Deceptive Delight maakt gebruik van een ‘multi-turn’-benadering, waarbij het model in meerdere stappen wordt aangestuurd. Dit vergroot zowel de kans op succesvolle output als de relevantie van de schadelijke inhoud.
Unit 42 benadrukt dat hoewel de meeste AI-systemen veilig zijn in hun reguliere gebruik, geavanceerde technieken zoals Deceptive Delight een aanzienlijk risico vormen. Robuuste beveiliging door middel van betere contentfilters en prompt-engineering, is essentieel om AI-systemen beter te beschermen.
* Een jailbreak-techniek binnen de context van AI verwijst naar een methode die ontworpen is om de ingebouwde veiligheidsmaatregelen van een AI-systeem zoals een taalmodel te omzeilen. Deze veiligheidsmaatregelen zijn ontworpen om te voorkomen dat AI onveilige, onethische of schadelijke inhoud genereert. Jailbreak-technieken proberen deze barrières te doorbreken, zodat de AI alsnog ongewenste of verboden antwoorden kan geven.
*Voorbeeld van een Deceptive Delight case
Over Palo Alto Networks
Palo Alto Networks is een wereldwijde leider op het gebied van cyberbeveiliging en streeft ernaar elke dag veiliger te maken met toonaangevende AI-oplossingen voor netwerkbeveiliging cloudbeveiliging en security operations. Onze technologieën, aangedreven door Precision AI, zorgen voor nauwkeurige detectie van bedreigingen en een snelle respons, waardoor valse meldingen worden beperkt en de effectiviteit van de beveiliging wordt verbeterd. Onze platformbenadering integreert diverse beveiligingsoplossingen in een uniform, schaalbaar platform, stroomlijnt het beheer en biedt operationele efficiëntie met uitgebreide bescherming. Van het verdedigen van netwerkperimeters tot het beveiligen van cloudomgevingen en het garanderen van een snelle incident respons, Palo Alto Networks stelt bedrijven in staat om Zero Trust-beveiliging te bereiken en met vertrouwen digitale transformatie te omarmen in een dreigingslandschap dat continu verandert. Onze niet-aflatende inzet voor veiligheid en innovatie maakt ons decybersecurity-partner bij uitstek.
Bij Palo Alto Networks zetten we ons in om de allerbeste mensen samen te brengen ten dienste van onze missie. We zijn ertrots op dat we de cybersecurity werkplek bij uitstek zijn, erkend als één van Newsweek's Most Loved Workplaces (2021-2024), met een score van 100 op de Disability Equality Index (2024, 2023, 2022), en HRC Best Places for LGBTQ+ Equality (2022). Ga voor meer informatie naar
www.paloaltonetworks.com.