乐鱼后台 stelt functioneringsgesprek samen: 鈥淪tructurele evaluatie van AI is nodig鈥
Een projectteam onder leiding van de 乐鱼后台 onderzocht hoe bedrijven toezicht kunnen houden op hun AI-toepassingen. 鈥淲ant kunstmatige intelligentie krijgt een steeds belangrijkere rol in organisaties, maar er is geen structureel toezicht op hoe AI zijn taken vervult鈥, vertelt projectleider Iris Muis. Daardoor groeien risico鈥檚 op bijvoorbeeld profilering en discriminatie. 鈥淥nze oplossing is een periodiek 鈥榝unctioneringsgesprek鈥, net als bij menselijke werknemers gebeurt.鈥
Functioneren van AI evalueren
鈥淓en 鈥榮ollicitatiegesprek鈥 voor AI is al gangbaar鈥, zegt Muis. 鈥淓r bestaan veel toetsen om te kijken of een bepaalde AI binnen een bedrijf past.鈥 Maar wanneer een AI-systeem eenmaal is ingezet, wordt het niet meer gemonitord of ge毛valueerd, zag haar onderzoeksteam. Het bleek een hiaat dat zowel in de academische literatuur als in de praktijk bestaat. 鈥淭erwijl het functioneren van AI-systemen periodiek zou moeten worden ge毛valueerd om te controleren of ze doen en blijven doen wat de bedoeling is.鈥
Muis en haar team ontwikkelden vervolgens een 鈥榝unctioneringsgesprek鈥 voor AI. 鈥淢et onze opzet geven we handvatten waarmee marktpartijen en toezichthouders het functioneren van AI kunnen evalueren鈥, legt Muis uit.
Vragenlijst voor kunstmatige intelligentie
Het 鈥榞esprek鈥 dat Muis en haar team ontwikkelden volgt eenzelfde structuur als de beoordeling van een menselijke werknemer. Het bestaat vier onderdelen waaraan vragen zijn gekoppeld, waaronder:
- Werkzaamheden. Wat voor taken heeft de AI? Zijn deze taken in de loop van de tijd veranderd? Is de AI zelf gewijzigd, bijvoorbeeld door veranderingen in de code?
- Prestaties. Hoe presteert de AI? Heeft de AI fouten gemaakt? Zijn de prestaties in lijn met de verwachtingen?
- Organisatie. Wie is verantwoordelijk voor het functioneren van de AI? Zijn die verantwoordelijkheden helder? Heeft er eerder een functioneringsgesprek plaatsgevonden met de AI? Zo ja, hoe zijn de aandachtspunten die daaruit voortkwamen opgevolgd?
- Ontwikkeling. Welke mogelijkheden zijn er om de AI te verbeteren, zowel in prestaties als in gebruiksgemak? Zijn er andere AI-technologie毛n of -methoden beschikbaar gekomen die misschien beter werken dan de huidige?
Team van onderzoekers en toezichthouders
鈥淗oewel het onderzoeksproject nu is afgerond, blijven we ons inzetten voor de inrichting van toezicht op AI om risico鈥檚 van het gebruik zoveel mogelijk te beperken鈥, besluit Muis.
Het samenwerkingsverband stond onder leiding van de van de 乐鱼后台, waarvanuit Iris Muis, Elise Renkema, Mirko Schaefer, Julia Straatman, Arthur Vankan en Daan van der Weijden meewerkten. Zij werkten samen met toezichthouders van de en de . Het project werd gefinancierd door deze instellingen en de AI Labs van de 乐鱼后台.