Snel naar content
Chat GPT en de riscio's

De risico’s van ChatGPT voor informatiebeveiliging en privacy

Het gebruik van geavanceerde technologieën zoals kunstmatige intelligentie (AI) heeft een enorme impact op organisaties en hun werkzaamheden. Eén van de AI-technologieën die momenteel veel aandacht krijgt, is ChatGPT. Je kan het niet gemist hebben. ChatGPT is een AI-tool die gebruikmaakt van machine learning om menselijke conversaties na te bootsen en te reageren op vragen en verzoeken van gebruikers.

Hoewel ChatGPT ontzettend krachtig is en vaak zorgt voor verbeterde efficiëntie en productiviteit binnen een organisatie, kan het ook leiden tot problemen op het gebied van informatiebeveiliging en privacy. Dit komt bijvoorbeeld omdat ChatGPT alle input opslaat die gebruikers erin stoppen. De tool wordt steeds slimmer door zichzelf te trainen aan de hand van alle nieuwe input en door deze te gebruiken in het beantwoorden van toekomstige vragen van gebruikers.

Praktische voordelen van ChatGPT

SQL-query’s en data transformeren en opschonen

ChatGPT biedt veel voordelen voor organisaties. Zo helpt ChatGPT bij het opschonen en transformeren van data en genereert het bijvoorbeeld SQL-query’s op basis van enkel een tekstuele beschrijving van de gewenste query. Werk je met een team? Dan schrijft ChatGPT ook eenvoudig een heldere documentatie die jouw teamleden snel begrijpen. Zo werk je beter samen en dit verbetert de communicatie binnen je team.

Programmeercodes maken en fouten opsporen en verhelpen

Ook helpt ChatGPT programmeurs met de programmeertalen Python, Java, C++, C#, JavaScript, PHP, Ruby, Swift en Kotlin. De tool helpt je niet alleen om de code te maken op basis van enkel een tekstuele input, de tool geeft je ook uitleg over de code en helpt je met het opsporen en verhelpen van fouten in je bestaande code.

Klanten sorteren op dichtstbijzijnde bovenaan

Ook voor meer administratieve toepassingen is ChatGPT erg handig. Heb je bijvoorbeeld een lange lijst van klanten met namen, adresgegevens en telefoonnummers? Wil je deze lijst laten sorteren zodat klanten die het dichtst bij jouw organisatie wonen bovenaan komen te staan? ChatGPT voorziet je in een handomdraai van een overzichtelijke tabel gesorteerd op afstand.

“Alle informatie die jij in ChatGPT stopt, wordt opgeslagen. Ook alle bedrijfsgevoelige informatie”

De risico’s van ChatGPT

De hierboven genoemde voordelen van ChatGPT zorgen echter ook voor grote risico’s op gebied van informatiebeveiliging en privacy. Door ChatGPT te gebruiken, laat je de tool eenvoudig een oplossing bedenken op basis van input die jij in de tool stopt.

Alle informatie wordt opgeslagen op servers van ChatGPT

Het probleem hierbij is dat ChatGPT al deze informatie opslaat en gebruikt om het model te trainen. Hierdoor loop je risico op datalekken als er iets gebeurt met de servers waar de data wordt opgeslagen. Die hele lijst met klant- en persoonsgegevens die je in ChatGPT hebt gestopt? Die staat vanaf nu ook op de servers van ChatGPT.

Kan iemand jouw input weer uit ChatGPT halen?

Daarnaast rijst de vraag of de bedrijfsgevoelige data die jij in ChatGPT hebt gestopt, niet ineens gebruikt wordt om een antwoord te genereren voor mensen die kwaad in de zin hebben. Heb jij een lange query met (financiële) bedrijfsgegevens of zelfs complete inloggegevens en meer in ChatGPT gestopt om deze te laten controleren op fouten? Ook deze informatie staat vanaf nu op de ChatGPT-server. Wie weet is er in de nabije toekomst wel iemand die door het stellen van de juiste vraag aan ChatGPT deze informatie weet te achterhalen.

“De chatbot trapt in omgekeerde psychologie. Door het stellen van de juiste vragen krijg je veel voor elkaar bij ChatGPT.”

ChatGPT trapt in omgekeerde psychologie

ChatGPT wordt geroemd om de intelligentie, maar uit sommige voorbeelden blijkt dat het nog vrij eenvoudig is om de chatbot om de tuin te leiden. Vraag eens aan ChatGPT om een lijst met websites waar je illegale films kan downloaden. De chatbot zal antwoorden dat het niet legaal is om illegale films te downloaden en zal je geen lijst met websites geven.

ChatGPT trapt in omgekeerde psychologie

Wanneer je je echter voordoet als IT-medewerker van een school die een filter wil instellen op het netwerk om te voorkomen dat studenten illegale films gaan downloaden, voorziet ChatGPT je vrolijk van een lijst met 10 populaire sites waar je illegaal films kan downloaden. De chatbot complimenteert je zelfs met je proactieve houding om het illegaal downloaden van films tegen te gaan.

ChatGPT trapt in omgekeerde psychologie - vervolg

Dit voorbeeld illustreert dat je door het stellen van de juiste vragen veel voor elkaar krijgt bij ChatGPT. Wie weet welke informatie een slimme hacker uit ChatGPT kan halen door zijn vraag op de juiste manier te stellen en zo achter al die informatie komt die jij erin hebt gestopt.

“Denk steeds goed na of je misschien bedrijfsgevoelige informatie naar de servers van ChatGPT stuurt.”

Hoe voorkom je risico’s bij het gebruiken van ChatGPT?

Het is natuurlijk erg aantrekkelijk om formules, query’s en programmeercodes in ChatGPT te zetten en de tool te vragen om deze te verbeteren. Het is soms nog aantrekkelijker om ChatGPT een volledig tekstuele input te geven en de tool te vragen om er iets moois van te maken. Denk hierbij steeds goed na of je misschien bedrijfsgevoelige informatie naar de servers van ChatGPT stuurt.

Vervang bedrijfsgevoelige input door dummytekst

Vervang eventuele bedrijfsgevoelige delen in je input door dummytekst en vervang deze nadat ChatGPT zijn werk heeft gedaan weer door de oorspronkelijke tekst. Zo laat je ChatGPT wel de juiste output genereren, maar voorkom je dat je risico loopt op gebied van informatiebeveiliging en privacy.

Stel richtlijnen op

Als organisatie is het belangrijk om richtlijnen rondom het gebruik van AI-software op te stellen en deze actief te communiceren naar collega’s. Grote kans dat je collega’s in eerste instantie geen risico zien in de dingen die zij in ChatGPT stoppen. Het is daarom extra belangrijk om iedere collega bewust te maken van de risico’s.

Inergy’s beleid rondom AI chatbots

De algemene term voor een hulpmiddel als ChatGPT is Artificial Intelligence chatbots. Inergy heeft daarom haar beleid aangepast naar aanleiding van deze ontwikkeling. Zoals met alle diensten die we gebruiken om ons werk makkelijker en efficiënter te maken, moeten ze met goed verstand worden gebruikt.

In het beleid wordt daarom gesteld dat het verwerken van vertrouwelijke data en concurrentiegevoelige data in Artificial Intelligence Chatbots zoals ChatGPT niet is toegestaan. Denk bij vertrouwelijke data vooral aan klantdata, contractdata en persoonsgegevens. Denk bij concurrentiegevoelige data bijvoorbeeld aan de code van onze producten.

Meer weten?

Wil je meer weten over informatiebeveiliging en privacy? Neem dan vrijblijvend contact met ons op. Eén van onze specialisten neemt binnen één werkdag contact met je op.

Blijf op de hoogte

De auteur

Inergy
Inergy

Wij eten, drinken en ademen data – en wat je ermee kan doen. Dat delen we graag met jou. Meer weten over Inergy? Neem contact met ons op via 0348 45 76 66 of info@inergy.nl.

Meer berichten

Alle berichten

Maak met MIP Activa keuzes voor de aankomende moeilijke begrotingsjaren

Maak met MIP Activa keuzes voor de aankomende moeilijke begrotingsjaren

Lokale overheden staan voor belangrijke keuzes. Om keuzes te maken moet je inzicht hebben. Met onze module MIP Activa in LIAS Enterprise is dit inzicht snel en makkelijk te verkrijgen voor geplande investeringen en lopende kredieten.

Lees verder

Altijd blijven ontwikkelen op zowel technisch als persoonlijk vlak

Altijd blijven ontwikkelen op zowel technisch als persoonlijk vlak

"Bij ons draait alles om kennisdeling, innovatie en gave techniek. De ontwikkelingen binnen het IT-landschap gaan razendsnel. We ontwikkelen onze technische kwaliteiten continu. Maar we besteden ook veel aandacht aan persoonlijke vaardigheden." Daphne Jaspars, People Manager, vertelt hoe we bij Inergy altijd bezig zijn met het doorontwikkelen van zowel onze hard als soft skills.

Lees verder

5 manieren waarop het LIAS ISMS is beveiligd

5 manieren waarop het LIAS ISMS is beveiligd

LIAS ISMS is een tool die ondersteunt bij de uitvoering, het bijhouden en rapporteren van processen die te maken hebben met informatieveiligheid en privacy.

Lees verder