�����̨

AI voor journalisten en avatars: in het AI & Media Lab werken Utrechtse onderzoekers aan mogelijke toepassingen van kunstmatige intelligentie in de mediawereld én in de virtuele wereld. Julian Frommel and Karin van Es geven een kijkje achter de schermen.

Stel je voor: een algoritme dat haatreacties onder een online nieuwsbericht kan herkennen en modereren, kan vaststellen of een artikel nepnieuws is of niet, of zorgt dat het nieuwsaanbod precies afgestemd is op jouw interesses.

De mogelijkheden voor toepassing van kunstmatige intelligentie in de wereld van nieuws zijn enorm. Maar er zijn ook gevaren en valkuilen, zoals privacy- en beveiligingskwesties en vertekening van het aanbod. Hoe ga je daar als nieuwsorganisatie handig en efficiënt, maar ook ethisch en verantwoordelijk mee om? In het Utrechtse AI & Media Lab werken wetenschappers van de �����̨ samen met de Hogeschool Utrecht, stichting Media Perspectives en nieuws- en mediaorganisaties aan dergelijke vraagstukken.

Spelontwikkelaars

Maar niet alleen de (online) journalistieke wereld kan terecht bij het AI & Media Lab. Universitair docent Julian Frommel is coördinator van het AI & Media Lab en is gespecialiseerd in games research. Ook díe wereld verandert door de opkomst van AI, en spelontwikkelaars kloppen aan bij het Lab voor inzichten in hoe zij daar slim gebruik van kunnen maken.

“In beide werelden kan AI een groot verschil maken”, aldus Frommel. “In de journalistiek kan AI helpen bij fact checking, bij het ontdekken van nieuwswaardige trends in grote datasets of bij het personaliseren van het nieuwsaanbod. In de gaming industry - denk bijvoorbeeld aan bedrijven in e-sports en serious gaming - kan AI helpen bij het realistischer maken van avatars, of de moeilijkheidsgraad van het spel aanpassen aan de vaardigheden van de speler. Ook kunnen algoritmen onwenselijk gedrag herkennen en modereren.”

Je kunt AI gebruiken om spelers die gepest worden, gepersonaliseerde berichten te sturen om hen te helpen omgaan met negatieve ervaringen

Als voorbeeld noemt Frommel zijn eigen onderzoek op het snijvlak van mens-computer interactie en AI. “We hopen dat we binnenkort binnen het Lab aan de slag kunnen met een langlopend project over toxicity and harassment in spelomgevingen”, vertelt Frommel. “Ondanks de breed gedeelde opvatting in de gamewereld dat schadelijk gedrag en haatreacties niet door de beugel kunnen, blijft het een groot probleem. Wij willen met behulp van AI een methode ontwikkelen die voorspelt of sociale interacties positief of negatief zijn en daarop kan inspelen.”

Dat doet het team van Frommel door de computer te trainen om ongewenst gedrag te herkennen, zoals scheldpartijen, haatzaaien en pestgedrag. “Geautomatiseerde algoritmen kunnen worden getraind om bepaalde patronen of kenmerken van vervelende berichten te herkennen, zodat ze snel geïdentificeerd en verwijderd kunnen worden. Ook kun je AI gebruiken om spelers die gepest worden, gepersonaliseerde berichten te sturen om hen te helpen omgaan met negatieve ervaringen.”

AI analyseert publiek debat

Binnen het Lab werkt Frommel veel samen met Karin van Es, universitair hoofddocent Media- en Cultuurwetenschappen en projectleider Geesteswetenschappen bij de . Dit onderzoeksplatform bestudeert hoe het toenemende gebruik van algoritmes en grote hoeveelheden data de democratie veranderen. Zo ontwikkelde de Data School bijvoorbeeld , een tool voor overheden om ethische kwesties in dataprojecten in kaart te brengen en te bespreken. Het platform is ook gespecialiseerd in het analyseren van publieke (online) debatten, zoals over Covid-19 of de boerenprotesten, op Twitter, Facebook en andere mediaplatforms.

De ervaring van het dagelijkse reilen en zeilen zorgt voor meer realisme in utopische oplossingen

“Mediaorganisaties zijn vaak zó bezig met de waan van de dag, dat ze geen tijd hebben om zich met andere belangrijke vraagstukken voor hun bedrijfsvoering bezig te houden. Maar ze hebben wél interesse, ook in onze expertise. Met de Data School kunnen we hen helpen met analyses, impact assessments, trainingen, etcetera. Binnen het Lab, dat meer gericht is op langdurige partnerschappen, kunnen we de juiste interdisciplinaire samenwerking realiseren om de projecten uit te voeren.”

Promoveren bij De Groene Amsterdammer

Een van de promovendi van het AI & Media Lab die laat zien hoe dat in z’n werk gaat, is Joris Veerbeek. Van Es: “De promotieplek van Joris wordt medegefinancierd door tijdschrift De Groene Amsterdammer. Joris ontwikkelt AI-technieken die relevant zijn voor journalisten - en voor zijn proefschrift bestudeert hij hoe redacties omgaan met die technieken en andere vormen van kunstmatige intelligentie.”

Vorig jaar analyseerde Veerbeek samen met journalisten van De Groene Amsterdammer met behulp van AI honderdduizenden tweets die naar alle vrouwen op Nederlandse kieslijsten waren gestuurd. Uit tekstanalyse kwam een beeld naar voren dat vrouwelijke politici op dagelijkse basis te maken krijgen met seksisme en misogynie. Het resultaat is dat veel vrouwen terugdeinzen voor een carrière in de politiek, wat schadelijk is voor de democratie. won een prestigieuze, journalistieke prijs, . Van Es: “Recenter onderzochten ze op welke datasets chatbots worden getraind – naar aanleiding van dat onderzoek werd direct ook een Kamervraag gesteld over het aan banden leggen van ChatGPT wegens privacyzorgen.”

Veerbeeks onderzoek laat volgens Van Es duidelijk zien hoe de uitwisseling tussen wetenschap en maatschappij beide partijen vooruithelpt. “Voor de wetenschap zorgt de ervaring van het dagelijkse reilen en zeilen voor meer realisme in utopische oplossingen, terwijl externe partijen juist baat hebben bij innovatie en kritische vragen die vanuit de wetenschap komen.”

De universitair hoofddocent hoopt dan ook dat het Lab de komende jaren het netwerk kan uitbreiden en nog meer duurzame relaties weet op te bouwen met nieuws- en mediaorganisaties. “De huidige veranderingen in de samenleving door dataficatie en AI bieden ontzettend veel kansen, maar ze hebben ook een donkere zijde. Binnen het Lab hebben we de mogelijkheid om verschillende disciplines bij elkaar te brengen en samen met de media-industrie en andere partijen te kijken naar hoe we op een verantwoorde manier kunnen omgaan met deze transformaties. De zoektocht naar manieren om kritische noten te vertalen naar concrete handelingsmogelijkheden vind ik een mooie uitdaging. Bovendien leer ik ontzettend veel van de domeinexpertise van de externe partijen.”

“Samenwerking tussen verschillende vakgebieden en langdurige relaties leveren echt voordeel op voor beide partijen”, beaamt Frommel. “Met ons gezamenlijke onderzoek kunnen we helpen negatieve effecten op mediagebruikers te minimaliseren. Ik vind het belangrijk dat (online) ervaringen met media positief en plezierig zijn, en ons onderzoek kan daaraan bijdragen.”