Emotion AI: nieuwe technologie die emoties leest
Emotion AI is een nieuw onderdeel van kunstmatige intelligentie. Deze AI-modellen kunnen menselijke emoties detecteren en interpreteren via tekst, audio, video of een combinatie hiervan. Het kan processen in verschillende sectoren efficiënter maken, maar er zijn ook risico's.
© Shutterstock
De ontwikkelingen rondom digitalisering gaan razendsnel. In deze artikelen houden medewerkers van de SER je op de hoogte over de laatste actualiteiten en wat die betekenen voor organisaties, de arbeidsmarkt en onze samenleving.
Een toepassing van Emotion AI in tekst is een sentimentanalyse. Hierbij wordt gemeten of berichten positief, neutraal of negatief zijn. Je ziet dit bijvoorbeeld bij reviews. Bij audio kan Emotion AI spraak analyseren via intonatie, toonhoogte en snelheid. De technologie heeft de mogelijkheid om frustratie te herkennen en hierop actie te ondernemen, bijvoorbeeld in de klantenservice. Bij video is het onder meer mogelijk dat Emotion AI gezichten en lichaamstaal herkent. Dit komt voor bij video assessments.
De toepassing van Emotion AI kan processen in verschillende sectoren efficiënter maken.
Risico's
Om de veelheid aan menselijke emoties te herkennen en accurate resultaten weer te geven, moet het Emotion AI-model zich trainen in het verwerken van grote hoeveelheden data. Hiervoor worden datasets gebruikt van mensen die expliciet voor dit doeleinde bedoeld zijn.
Dit proces brengt wel privacyrisico's met zich mee. Zo moet aan deze mensen expliciet toestemming gevraagd worden. Ook is het belangrijk dat de training datasets representatief zijn, om het risico op bewuste en onbewuste vooringenomenheid in te perken.
Europese juridische basis: AI Act
De Europese telecomministers hebben eind 2022 in Brussel een akkoord bereikt over de zogenoemde kunstmatige intelligentie verordening (AI Act). De AI Act creëert een juridische basis voor AI-systemen en classificeert deze op onacceptabel, hoog en gelimiteerd risico. Het doeleinde van een model bepaalt hoe deze wordt geclassificeerd. Er komt een verbod op het gebruikmaken van Emotion AI bij werving- en selectieprocedures. De effecten ervan kunnen namelijk leiden tot discriminatie en uitsluiting op de arbeidsmarkt.
Over de details van de AI Act zijn het Europees Parlement en de Europese Commissie momenteel nog in onderhandeling. Zij streven naar een definitief akkoord in het najaar van 2023, waarna lidstaten de verordening in eigen land gaan doorvoeren.
