vandaag, 07:00Het gebruik van AI-modellen als ChatGPT, Gemini en Claude dringt steeds verder door in ons dagelijks leven, óók op de werkvloer. Regels voor het gebruik zijn er vaak nog niet, waardoor organisaties nauwelijks zicht hebben op de informatie die werknemers in de modellen stoppen. Deskundigen waarschuwen voor de risico's die dat met zich meebrengt.Werknemers in allerlei sectoren hebben inmiddels ontdekt hoe generatieve AI - zoals deze modellen worden genoemd - hun werk efficiënter kan maken. Een arts kan het gebruiken om snel een verwijsbrief op te stellen, een advocaat om een dossier samen te vatten, een journalist om een interview uit te werken. Maar deze handelingen zijn niet zonder risico. Persoonsgegevens, bedrijfsgeheimen of vertrouwelijke dossiers kunnen zo ongemerkt in openbare AI-systemen terechtkomen.AI-gebruik door werknemers dat buiten het zicht gebeurt van de organisatie waarvoor ze werken, wordt 'Shadow AI' genoemd. "De grootste risico's zitten in medewerkers die willen werken met AI, maar niet goed weten hoe ze dat veilig moeten doen", zegt Jan van der Put. Hij is ethisch hacker en directeur van een cybersecuritybedrijf dat veel werkt voor de Rijksoverheid.Volgens hem gaat het vooral mis bij organisaties die nog geen duidelijke afspraken hebben gemaakt over AI-gebruik. "Dan gaan werknemers zelf aan de gang met bijvoorbeeld ChatGPT en gooien ze daar data in waar mogelijk persoons- of bedrijfsgegevens in zitten, zonder dat ze zich dat realiseren. Of zich bewust zijn van de privacy-instellingen van het AI-model."Gemeente Eindhoven en AmazonEen voorbeeld waarbij dit misging, is bij de gemeente Eindhoven(opent in nieuw venster). Vorig jaar bleek uit een steekproef dat medewerkers van de gemeente in een maand tijd meer dan duizend documenten met persoonsgegevens naar externe AI-tools hadden geüpload."Denk aan BSN-nummers, aan Wmo-gegevens, gegevens over verslavingsgevoeligheid of financieel gevoelige data", zegt Remco van der Schoot, AI-onderzoeker aan de Hogeschool Utrecht. "Daardoor ontstond een datalek."De gemeente heeft dit gemeld bij de Autoriteit Persoonsgegevens en al het gebruik van openbare AI-modellen voor werknemers geblokkeerd. Ook heeft de gemeente OpenAI, het bedrijf achter ChatGPT, verzocht de gegevens te verwijderen. Er is geen bevestiging van OpenAI of dat ook is gebeurd, laat de gemeente aan Nieuwsuur weten. De gemeente zegt geen signalen te hebben dat er gemeentelijke bestanden naar privé-omgevingen zijn verstuurd.Het beste wat je kunt doen, is wel íets faciliteren, zodat je ook kunt monitoren hoe het wordt gebruikt.Ook technologiebedrijf Amazon legde het AI-gebruik onder werknemers aan banden, nadat bleek dat bedrijfsinformatie openbaar was geworden. "Als we data in een AI-model zetten, kan die data worden gebruikt om het model te trainen", legt Van der Schoot uit. "Dan kan het dus gebeuren dat die informatie publiek toegankelijk wordt, en dat is bij Amazon gebeurd. Interne documentatie werd teruggevonden in ChatGPT."Kop in 't zandWat de onderzoeker betreft moeten organisaties serieus aan de slag met hun AI-beleid. "Je kunt niet je kop in het zand steken en dit negeren, want dat creëert op de lange termijn alleen maar meer problemen."Volgens ethisch hacker Van der Put is het gebruik van AI-modellen helemaal verbieden uiteindelijk niet de oplossing. "Het beste wat je kunt doen, is wel íets faciliteren, zodat je ook kunt monitoren hoe het wordt gebruikt."Dat kan bijvoorbeeld met speciale software. De Amerikaanse startup Unseen biedt software aan die het lekken van data via AI-modellen kan voorkomen. "Unseen kan je er bijvoorbeeld op wijzen als een werknemer vertrouwelijke data in een AI-systeem stopt", zegt mede-oprichter Frey Khademi. "Maar we kunnen de data ook automatisch anonimiseren."donderdag 9 april, 19:01Anthropic houdt AI-model voorlopig achter slot: 'Een soort digitale koevoet'dinsdag 28 april, 19:01Google en Pentagon sluiten AI-deal, zorgen bij deel personeelzondag 19 april, 12:57Is AI 'kind van God'? Of einde van de mensheid? Anthropic zit in een spagaatdinsdag, 12:18Florida sleept ChatGPT-ontwikkelaar OpenAI voor de rechter