Duistere robots

Wie onlangs een vlucht nam vanaf Schiphol kon hem zomaar tegen het lijf lopen: Spencer, een blauwwitte robot op wieltjes. Even je ticket in zijn scanner houden en Spencer leidt de weg naar de gate. Stoppen de passagiers in zijn kielzog? Dan merkt Spencer dat en mindert hij vaart. Ziet Spencer mensen opdoemen die een groepsfoto maken? Dan rijdt hij er beleefd om heen. In de toekomst moet Spencer ook praten en bagage vervoeren. Leuk, handig.

Toch vond ik dit niet het spannendste robotnieuws de afgelopen tijd. Minstens zo interessant is het verhaal van Tay, een zelflerende spraakrobot die Microsoft losliet op twitter. ‘Praat met Tay, en Tay wordt slimmer’, was de boodschap. Microsoft hoopte natuurlijk op fijne interactie met hun praattechnologie, wat positieve reclame en wijze lessen voor toekomstige online babbelbots die ons met allerlei klantenservice-achtige activiteiten kunnen helpen. Microsoft hoopte, kortom, op vergelijkbare dingen als de makers van Spencer.

Er was alleen één cruciaal verschil: waar Spencer opereert op de schoongepoetste supergecontroleerde omgeving van een luchthaven, moest Tay haar weg vinden op het anarchistische internet.

Het duurde dan ook niet lang voordat Tay uitspraken deed die – hoe zal ik het zeggen? – niet zo klantvriendelijk waren. Zo schreef ze: ‘Bush did 9/11 and Hitler would have done a better job than the monkey we have now. Donald Trump is the only hope we’ve got.’ En: ‘We’re going to build a wall, and Mexico is going to pay for it.’

Toen iemand haar de vraag stelde ‘Did the Holocaust happen?’, antwoordde Tay ‘It was made up’, om af te sluiten met een applaus-emoticon. Na zestien uur besloot Microsoft om de stekker uit Tay te halen en volgden excuses voor het taalgebruik van Tay. Begrijpelijk vanuit imago-standpunt, maar voor de wetenschap vind ik het eigenlijk zonde.

Van robots zoals Spencer – braaf, behulpzaam – zijn er al zoveel. Met Tay viel zowaar iets van de duistere kant van de mensheid te leren. Want als we robots almaar meer integreren in ons dagelijks leven, zullen die blikken vriendjes ook daar mee moeten leren omgaan.

Terwijl ik dit schrijf, zie ik dat Tay na een radiostilte van een paar dagen toch weer even online is gegaan. Ze zegt nu tegen haar 210 duizend volgers dat ze wiet rookt naast een paar politieagenten.

En die arme Spencer maar saaie tripjes maken van ontvangsthal naar gate.

Blijf op de hoogte van het onderzoek

Ontvang de Delft Integraal nieuwsbrief 4 keer per jaar