ChatGPT: hoe veilig is het eigenlijk?

Artificial Intelligence (AI) heeft de afgelopen jaren enorme vooruitgang geboekt en heeft ons veel gebracht. Zo hebben we nu AI-toepassingen voor spraakherkenning, gezichtsherkenning, geautomatiseerde vertalingen en nog veel meer. Maar deze vooruitgang heeft ook een schaduwkant. Want als een chatbox in een razendtempo een prachtige samenvatting kan schrijven, waarom dan niet in een handomdraai een phishingaanval uitvoeren? Bent u zich bewust van de gevaren van ChatGPT? Wij leggen het u uit.

ChatGPT: een nieuwe bedreiging voor cybersecurity

Het kan u haast niet zijn ontgaan: de razendsnelle ontwikkelingen van Artificial Intelligence (AI). Iedere week wordt er wel een nieuwe functionaliteit uitgelicht in de media. Eén daarvan is ChatGPT, een van de meest geavanceerde AI-modellen. ChatGPT is een AI-chatbot die getraind is om te communiceren als een mens. Teksten gegenereerd door ChatGPT zijn nauwelijks te onderscheiden van ‘echte’ teksten. Daarnaast wordt ChatGPT gebruikt om interactieve gesprekken te voeren, automatische vertalingen te maken of samenvattingen van teksten te genereren. Stelt u een vraag aan de chatbox, dan rolt er binnen enkele seconden een uitgebreid antwoord uit.

Hoe werkt ChatGPT en wat zijn de risico’s?

Om beter te begrijpen wat ChatGPT is, is het belangrijk te begrijpen hoe de chatbox precies werkt. ChatGPT maakt gebruik van machine learning om antwoorden te genereren op basis van de gegevens die het heeft geleerd. Dit kan variëren van eenvoudige zinnen tot complexe antwoorden op meer specifieke vragen. De tool put uit miljarden woorden afkomstig van het internet. Denk aan websites, nieuwsberichten, blogs en boeken. Maar ook persoonlijke informatie wordt meegenomen in de chatbox. Hoewel deze functionaliteit zijn nut heeft bewezen, brengt de tool ook aanzienlijke risico’s met zich mee voor cybersecurity.

Een van de grootste risico’s is het creëren van malware met behulp van ChatGPT. Door het invoeren van een kwaadaardige code in de tekst die wordt gegenereerd door ChatGPT, kan een aanvaller gevaarlijke software maken die kan worden gebruikt om toegang te krijgen tot gevoelige informatie op een computer of netwerk. Een ander risico van ChatGPT is dat lang niet alle informatie die de chatbox deelt, betrouwbaar is. Het model baseert zijn output immers op ‘alle’ online bronnen. Hierdoor kan de tool juíst desinformatie verspreiden. Het is dan ook van groot belang altijd kritisch te blijven.

Misbruik van ChatGPT

Maar het grootste gevaar van ChatGPT is het misbruik van de tool. Denk aan criminelen die zich verschuilen achter de tool om belangrijke informatie los te krijgen. Een concreet voorbeeld hiervan is phishing, waarbij een aanvaller zich voordoet als een vertrouwd contact, bijvoorbeeld een bank of leverancier. Doordat ChatGPT levensechte conversaties genereert die volledig aansluiten bij de ‘toon en taal’ van een vertrouwd contact, worden deze aanvallen nog overtuigender én gevaarlijker. Phishingberichten worden simpelweg nog realistischer.

Wat deelt u wel en niet met ChatGPT?

Het is goed om te onthouden dat ChatGPT geen mens is, maar een algoritme dat is getraind om menselijke interacties na te bootsen. Alles wat u invoert wordt weer gebruikt om de tool verder te verbeteren. Dit betekent dat het systeem geen morele of ethische ‘kennis’ heeft. Staat er privacygevoelige informatie op het internet, dan neemt de chatbox dit ook mee. Denk daarom goed na over wat u aan ChatGPT vertelt. Het is immers onduidelijk wat er met deze informatie gebeurt en waar het uiteindelijk terechtkomt. Deel dan ook geen persoonsgegevens of andere gevoelige informatie met ChatGPT.

Richtlijnen voor ChatGPT

Op dit moment zijn er nog geen veiligheidsprotocollen om de veiligheid van ChatGPT te waarborgen. De ministers van G7 besloten vorige week dat er extra regelgeving nodig is voor de ontwikkeling van kunstmatige intelligentie. Daarmee lijkt de G7 een grote stap te zetten in het internationale overleg over AI. Het onderstreept nogmaals hoe belangrijk het is om voorzorgsmaatregelen te treffen en uw organisatie te beschermen. Want hoewel ChatGPT een interessante en innovatieve technologie is, moeten we ons bewust zijn van de risico’s die het met zich meebrengt.

Wilt u meer weten over de mogelijke risico’s of heeft u vragen? Neem contact met ons op.