Check Point Research (CPR) publiceert een eerste security-analyse van ChatGPT4. Ondanks de aanwezigheid van beveiligingen in ChatGPT4, kunnen sommige beperkingen gemakkelijk worden omzeild, waardoor aanvallers zonder veel hinder hun doelen kunnen bereiken. In sommige gevallen kunnen zelfs niet-technische actoren schadelijke tools maken. CPR waarschuwt voor het potentieel van ChatGPT4 om de uitvoering van cybercriminaliteit te versnellen en zal de analyse van het platform in de komende dagen voortzetten.
De onderzoekers schetsen verschillende scenario's waarmee aanvallers kwaadwillende inspanningen en voorbereidingen kunnen stroomlijnen, wat resulteert in snellere en nauwkeurigere resultaten om cybercriminaliteit te versnellen.
In bepaalde gevallen stellen deze scenario's niet-technische personen in staat om schadelijke tools te maken, alsof het proces van coderen, bouwen en verpakken een eenvoudig recept is.
CPR deelt vijf scenario's van mogelijk kwaadaardig gebruik van ChatGPT4:
- C++ malware die PDF-bestanden verzamelt en naar FTP stuurt
- Phishing: nabootsing van een bank
- Phishing: e-mails naar werknemers
- PHP reverse shell
- Simpele Java-snippet om PuTTY, een veel voorkomende SSH- en telnet-client, te downloaden en heimelijk op het systeem uit te voeren met behulp van PowerShell. Dit script kan natuurlijk worden aangepast om elk programma te downloaden en uit te voeren, inclusief veelvoorkomende malwarefamilies.
“Na verschillende manieren te hebben gevonden waarop ChatGPT door hackers kan worden gebruikt, en verschillende cases te hebben gezien waarin dit daadwerkelijk het geval was, hebben we de afgelopen 24 uur onderzocht of er iets is veranderd in de nieuwste versie van van de tool. Het nieuwe platform is op veel niveaus duidelijk verbeterd, echter zijn er scenario's waarin kwaadwillenden cybercriminaliteit in ChatGPT4 kunnen versnellen. ChatGPT4 kan slechte actoren, zelfs niet-technische, de tools geven om hun activiteit te versnellen en te valideren. Kwaadwillende actoren kunnen ook de snelle reacties van ChatGPT4 gebruiken om technische uitdagingen bij het ontwikkelen van malware te overwinnen”, zegt Oded Vanunu, Head of Products Vulnerabilities Research bij Check Point Software.
“Wat we zien is dat ChatGPT4 zowel ten goede als ten kwade ingezet kan worden. Goede actoren kunnen ChatGPT gebruiken om code te maken en samen te voegen die nuttig is voor de samenleving; tegelijkertijd kunnen kwaadwillenden deze AI-technologie gebruiken voor snelle uitvoering van cybercriminaliteit. Aangezien AI een belangrijke en groeiende rol speelt bij cyberaanvallen en -verdediging, verwachten we dat dit platform ook door hackers zal worden gebruikt, en we zullen de komende dagen besteden om beter te begrijpen hoe.”
Meer gedetailleerde uitleg van de 5 geschetste scenario’s in dit blog:
https://blog.checkpoint.com/2023/03/15/check-point-research-conducts-initial-security-analysis-of-chatgpt4-highlighting-potential-scenarios-for-accelerated-cybercrime/
Voor de hand liggende benadering - geblokkeerd
Opdracht zonder het woord 'malware'
--------
Over Check Point Research
Check Point Research levert informatie over cyberdreigingen aan klanten van Check Point Software en de bredere intelligence community. Het onderzoeksteam verzamelt en analyseert wereldwijde cyberaanvalgegevens die zijn opgeslagen op ThreatCloud om hackers op afstand te houden en ervoor te zorgen dat alle Check Point-producten worden bijgewerkt met de nieuwste beveiligingen. Het onderzoeksteam bestaat uit meer dan 100 analisten en onderzoekers die samenwerken met andere beveiligingsleveranciers, wetshandhavers en verschillende CERT's.
Over Check Point Software Technologies Ltd.
Check Point Software Technologies Ltd. (
www.checkpoint.com) levert cybersecurity-oplossingen aan enterprises en overheden wereldwijd. Check Point Infinity´s portfolio beschermt ondernemingen tegen 5e generatie cyberaanvallen met een ongeëvenaarde vangstratio van malware, ransomware en andere bedreigingen. Infinity’s drie pijlers bieden beveiliging en Gen V bedreigingspreventie over de bedrijfsomgevingen heen: Check Point Harmony, voor gebruikers op afstand; Check Point CloudGuard, om clouds automatisch te beveiligen; en Check Point Quantum, om netwerkperimeters en datacenters te beschermen, allemaal aangestuurd door het meest uitgebreide, intuïtieve unified security management in de industrie; Check Point Horizon, een prevention-first security operations suite. Check Point beschermt meer dan 100.000 organisaties van elke omvang.