Op 2 februari is het eerste deel van de Europese AI Act in werking getreden. Dat betekent dat er een deel van de beschikbare AI-toepassingen inmiddels verboden zijn om te gebruiken binnen Europa. Het is verstandig om als bedrijf goed op de hoogte te zijn van wat je wel en niet nog mag doen met AI, zeker als je hier veel gebruik van maakt voor jouw dagelijkse werkzaamheden. In dit artikel vertellen we je alles over de AI-toepassingen die sinds deze maand verboden zijn in Europa, zodat je goed op de hoogte bent!
1. Kunstmatige intelligentie die manipuleert of misleidt
Ten eerste zijn AI-toepassingen die mensen manipuleren of misleiden sinds deze maand verboden in Europa. Dit kun je natuurlijk op veel manieren opvatten, want wanneer is iets nu echt manipulatie of misleiding? De omschrijving die het Europees Gerechtshof hieraan geeft is als volgt: ‘Systemen die gebruikmaken van de kwetsbaarheden van mensen, zoals leeftijd of handicap, om hen te beïnvloeden’. Je mag dus geen kunstmatige intelligentie gebruiken die op wat voor manier dan ook misbruik maakt van een handicap die iemand heeft, of bijvoorbeeld een hogere of juist lagere leeftijd.
2. AI-toepassingen die gebruikmaken van Social Scoring zijn nu verboden
AI-toepassingen die gebruikmaken van Social Scoring zijn sinds deze maand ook streng verboden in Europa. De term Social Scoring zegt je vast wel iets. Het is het geven van een bepaalde beoordeling aan mensen op basis van hun gedrag, dus een sociale score. Je mag dus geen kunstmatige intelligentie meer inzetten die mensen beoordeelt op hun sociale gedrag of bepaalde persoonlijke kenmerken. Stel dat je bijvoorbeeld AI gebruikt voor het scannen van sollicitaties of cv’s, dan moet je zeker weten dat dit systeem de sollicitanten niet beoordeelt op leeftijd, geslacht of etniciteit. Het is al langer bekend dat bepaalde AI-toepassingen nog erg de neiging hebben om te discrimineren, dus let hier goed mee op!
3. Systemen die misbruik maken van kwetsbare groepen
Helaas kan kunstmatige intelligentie ook gebruikt worden om kwetsbare groepen op een ‘slimme’ manier uit te buiten. Toepassingen die dit op wat voor manier dan ook doen, zijn vanaf deze maand ook verboden om te gebruiken. Bij kwetsbare groepen kun je bijvoorbeeld denken aan ouderen, mensen met een bepaalde handicap of beperking, mensen met een taalbarrière of mensen met een bepaalde sociaaleconomische situatie. AI-toepassingen die specifiek zijn ontworpen om dit soort groepen mensen uit te buiten, mogen niet meer gebruikt worden.
4. Emotieherkenning op het werk en in het onderwijs
Emotieherkenning met behulp van AI op de werkplek en in het onderwijs is een andere vorm van AI die vanaf nu verboden is in Europa. Maar wat moet je nu verstaan onder emotieherkenning en wat kan een werkgever of een docent hiermee? Op de werkplek gaat het vooral om het continue monitoren van werknemers. Dit kan op diverse manieren gebeuren, bijvoorbeeld via herkenning van oogbeweging, typsnelheid of stemherkenning. Een andere manier die we vandaag de dag vaker tegenkomen, is het monitoren via wearables die werknemers dragen. Dit is dan voor het meten van stress- en vermoeidheidsniveaus, vaak om ongelukken te voorkomen op de werkvloer.
Werkgevers zeggen deze tools vaak te gebruiken voor het bevorderen van de gezondheid en veiligheid van hun personeel, maar er zit natuurlijk een grote keerzijde aan. Voor werknemers zorgt dit voor angst en gevoelens van toezicht. Daarnaast kan het zorgen voor een onevenredige belasting op de werkvloer en zelfs burn-out, emotionele vermoeidheid en minder werkplezier. Om die reden is het niet meer toegestaan om als werkgever AI in te zetten voor emotieherkenning bij het personeel.
5. Realtime biometrische identificatie in openbare ruimtes
De laatste soort AI-toepassingen die vanaf nu verboden is om te gebruiken, is AI die realtime biometrie gebruikt om mensen in een openbare ruimte te identificeren. Dit houdt bijvoorbeeld in dat een AI-systeem mensen identificeert op basis van realtime gezichtsherkenning. Op dit verbod zijn enkele uitzonderingen gesteld. Biometrische identificatie in openbare ruimtes met behulp van kunstmatige intelligentie zijn wel toegestaan voor opsporing van vermiste personen of het voorkomen van ernstige bedreigingen.
Zorg voor genoeg AI-kennis binnen jouw organisatie
Naast het verbieden van bepaalde vormen van AI verplicht de Europese AI Act bedrijven om ervoor te zorgen dat hun personeel voldoende kennis heeft van AI. De kennis die ze hebben moet passen bij hun rol binnen de organisatie en de context waarin AI wordt ingezet door het bedrijf. Het is belangrijk dat je deze kennis zelf in huis hebt als onderneming, in plaats van dat je afhankelijk bent van externe experts. Het niet naleven van de AI Act kan namelijk erg hoge boetes opleveren die oplopen tot 35 miljoen of zeven procent van de jaarlijkse omzet van je bedrijf. Zorg dus dat je geen gebruik meer maakt van de AI-toepassingen die nu verboden zijn in de EU!