Bij de toepassing van Artificial Intelligence (AI) is transparantie en verantwoording cruciaal, zeker in gevoelige processen. Organisaties moeten voldoen aan de AVG-wetgeving en de Europese AI Act, die regels stelt voor het gebruik van AI-systemen om de rechten en veiligheid van burgers te waarborgen.
Dit artikel bespreekt een voorbeeld uit de recruitment branche van de informatievoorziening naar eindgebruikers als aanvulling op een bestaande privacy statement.
1. Wettelijke Kaders: AI Act en AVG
Bij het gebruik van AI in processen zoals bij recruitment gelden de volgende belangrijke kaders:
AVG (Algemene Verordening Gegevensbescherming): Beschrijft hoe persoonsgegevens veilig en transparant verwerkt moeten worden.
AI Act: Dit Europese wetgevingsinitiatief stelt normen voor AI-gebruik en benadrukt transparantie, ethiek en risicobeheer.
Een belangrijk aspect van de AI Act is de classificatie van “Hoog Risico AI-systemen”. Zo valt bijvoorbeeld een AI-systeem dat wordt ingezet voor het filteren of beoordelen van kandidaten onder deze categorie (zie Annex II, Artikel 4). Dit betekent dat dergelijke toepassingen aan strenge eisen moeten voldoen om discriminatie en misbruik te voorkomen.
2. Transparantie in AI-gebruik
Eindgebruikers moeten duidelijk geïnformeerd worden over hoe en waarom AI wordt ingezet. Dit draagt bij aan vertrouwen en voorkomt misverstanden.
Hoe wordt AI ingezet?
Een specifieke prompt vergelijkt de informatie uit de vacatureaanvraag met het CV van de kandidaat.
Waarom wordt AI ingezet?
Het biedt een hulpmiddel voor gebruikers om beter te beoordelen hoe een CV aansluit bij een opdracht, zonder dat vooroordelen of irrelevante factoren de uitkomst beïnvloeden.
Belangrijk: De prompts en modellen zijn ontworpen om alleen vakinhoudelijke kenmerken mee te nemen, zoals relevante werkervaring of technische vaardigheden. Andere kenmerken, zoals leeftijd, geslacht, of afkomst, worden niet verwerkt.
3. Data Verwerking en Beveiliging
Bij de implementatie van AI-systemen is het essentieel om zorgvuldig met gegevens om te gaan. Hieronder volgen de stappen die in een veilige omgeving genomen worden:
Gegevens die worden verwerkt:
- De vacatureaanvraag.
- Het anonieme CV van de kandidaat.
- De prompt die de inhoudelijke vergelijking uitvoert.
Beveiliging van data:
- Alle gegevens worden verwerkt binnen de Microsoft Azure-tenant van de organisatie.
- Er wordt geen data opgeslagen.
- Er zijn SLA’s en verwerkersovereenkomsten met Microsoft om de veiligheid te waarborgen.
Data-privacygarantie van Microsoft:
- Data wordt niet gedeeld met andere klanten of met OpenAI.
- Er wordt geen gebruik gemaakt van data om de AI-modellen van OpenAI te verbeteren.
- De verwerking blijft volledig binnen de controle van Microsoft Azure, zoals beschreven in hun data privacy statement
- Uw prompts (inputs) en completions (outputs), uw embeddings en uw trainingsdata:
- Zijn NIET beschikbaar voor andere klanten.
- Zijn NIET beschikbaar voor OpenAI.
- Worden NIET gebruikt om OpenAI-modellen te verbeteren.
- Worden NIET gebruikt om enige Microsoft- of externe producten of diensten te verbeteren.
- Worden NIET gebruikt voor het automatisch verbeteren van Azure OpenAI-modellen voor uw gebruik in uw resource (De modellen zijn stateless, tenzij u expliciet modellen fine-tunet met uw trainingsdata).
- Uw gefinetunede Azure OpenAI-modellen zijn exclusief beschikbaar voor uw gebruik.
- De Azure OpenAI-service wordt volledig gecontroleerd door Microsoft; Microsoft host de OpenAI-modellen in de Azure-omgeving van Microsoft en de service interageert NIET met enige services die worden bediend door OpenAI (bijv. ChatGPT of de OpenAI API).