Barbie de opvoeddeskundige?

Project AI AI Barbie verkent de relatie tussen ouders, kinderen en slim speelgoed

Een Barbiepop die een kind manieren leert en vertelt wat goed gedrag is. Ideaal toch? Met artificiële intelligentie (AI) en de opkomst van slim speelgoed lijkt dit allemaal mogelijk. De andere kant van het verhaal is dat slim speelgoed gesprekken mee kan luisteren en zich misschien wel bemoeit met de opvoeding van een kind. De discussie over privacy en data wordt daarom veel gevoerd. Maar minstens zo belangrijk is de discussie over de invloed van AI op de ontwikkeling, socialisatie en communicatieve vaardigheden van een kind. Hoe beïnvloedt het de fantasie of het spelen van een kind? Hoe beïnvloedt het de relatie van het kind met de ouder of opvoeder? Dit soort vragen vormden de aanleiding voor SETUP en Waag om onderzoek te doen naar slim speelgoed. Met het initiatief AI AI Barbie kijken zij kritisch naar de rol van AI in de relatie tussen ouders en hun kinderen. Karien Vermeulen, hoofd programma Learn bij het Creative Learning Lab van Waag, vertelt over het project en de hackathon die de initiatiefnemers onlangs organiseerden mede dankzij de steun van SIDN fonds.

Uit onderzoek van Stefania Druga blijkt dat kinderen technologie vaak als slimmer beschouwen dan zichzelf. Kinderen zijn geneigd om dat wat slim speelgoed hen vertelt voor waarheid aan te nemen. Hierdoor zouden speelgoed en assistentes zoals Alexa morele opinies kunnen beïnvloeden. “Dat idee vond ik heel heftig”, vertelt Karien. “Wat als je moeilijke gesprekken gaat outsourcen en bijvoorbeeld voorlichtingsgesprekken over seks aan robots overlaat?” Stel je voor dat je kind de hele dag rond gecommandeerd wordt door haar pop en deze gebiedende wijs zelfs overneemt.

AI AI Barbie

Een eerste kennismaking met onderzoekster Druga en een onverwachtse brainstormsessie met Jelle van der Ster van SETUP, leidden uiteindelijk tot het idee van een publieksevent. “We zijn al langer bezig met hoe je kinderen in staat stelt om nieuwe technologie op een verantwoorde manier te gebruiken. Met dit initiatief willen we onderzoeken door te doen. Enerzijds richten we ons op bewustwording en anderzijds verkennen we de mogelijkheden van slim speelgoed.”

Hackathon

De hackathon op 6 juni 2019, mede mogelijk gemaakt door ondersteuning van SIDN fonds, is de manier waarop dat ‘doen’ tot uiting is gekomen. Spelenderwijs verkenden een groep technici, kunstenaars, developers, hackers, designers en ouders de verschillende toepassingen van slim speelgoed. “Zelf programmeren met AI geeft inzicht. Gevaren, maar ook het potentieel van de technologie worden duidelijker, dat is de kracht van de aanpak”, vertelt Karien. De zogenoemde provotypes onderzoeken de extremen van slim speelgoed. Zoals de MoodyMonster, een monster dat kinderen voorbereidt op teleurstelling. Het slimme beestje neemt een kind mee op avontuur, maar zorgt ervoor dat hij/zij van een koude kermis thuiskomt. Of het provotype Best Fake Friend. Een pop die naar de problemen van een kind luistert en vervolgens oplossingen biedt vanuit extreem commercieel perspectief, waardoor het haast een parodie op gepersonaliseerde reclame pop-ups wordt.

Bewustwording

“SIDN fonds ondersteunt het project omdat er steeds meer ‘slim’ speelgoed op de markt komt. Dit gebeurt zonder dat er heldere en goed doordachte kaders zijn die maken dat het op een verantwoordelijke manier gebeurt. Denk aan de recente publiciteit over de slimme assistenten van Google die zich in de thuisomgeving gedragen als ordinaire spionnen en mensen afluisteren. Op een fundamenteler niveau roept het vragen op over de opvoeding. Het unieke aan dit project is dat deze partners (SETUP en de Waag) het op een onderzoekende en tegelijk ontwerpende manier oppakken. Inzicht in hoe dit soort slimme apparaten werken, is van belang om goede keuzes te kunnen maken en draagt bij aan ‘verantwoordelijk’ gedrag ten aanzien van veiligheid”, vertelt Valerie Frissen, directeur SIDN fonds.

Niet verbannen

Moeten we slim speelgoed dan uit ons huis verbannen? Dat is volgens Karien niet de oplossing. Het gaat om de bewustwording. “Dit is het moment om na te denken hoe ons leven er met die sociale robot uit komt te zien. We willen dat mensen snappen wat AI inhoudt en ervoor zorgen dat technologie geen black box is.” Dat vergt inhoudelijk nog veel acties. “We willen zaken nu verder uitdiepen. Thema’s als invloed van technologie op communicatie, socialisatie, fantasie en spel, daar willen we nog meer onderzoek naar doen. Dat doen we het liefst in vergelijkbare vorm en samen met een brede groep mensen; van kunstenaars tot wetenschappers, kinderen, ouders en vak experts. Onderzoek, bewustwording en debat gaan zo samen”, aldus Karien. Hoe interessant zou het zijn om ambtenaren hun slimme Furby te laten bouwen. Of hoe zien jongeren hun toekomstige leven met smart technologie voor zich?

Geïnteresseerd in de ontwikkelingen van slim speelgoed en het initiatief of benieuwd naar de andere uitkomsten van de hackathon? Kijk op Waag en SETUP voor meer informatie.