Robotene innynder seg, og får oss til å bry oss, men det er egentlig ingenting der inne i de mekaniske hodene, skriver Henrik Sætra.
Robotene innynder seg, og får oss til å bry oss, men det er egentlig ingenting der inne i de mekaniske hodene, skriver Henrik Sætra.

Livaktige roboter er ikke annet enn sosiale parasitter

KRONIKK: Disse maskinene livnærer seg på de sosiale mekanismene vi mennesker bruker for å forstå hverandre og skape mening. Men det finnes ingen gjensidig forståelse mellom roboter og mennesker.

Mennesker er dypt sosiale vesener, fullstendig avhengige av de rundt oss for å lykkes, og for å trives. Vi er flokkdyr, og evolusjonen har over lang tid belønnet adferd som fremmer samarbeid mellom oss.

Dette er kanskje grunnen til at vi har gjort det så bra, men det er også grunnen til at sosiale parasitter – som sosiale roboter som kobler seg på prosesser som egentlig ikke angår dem – er i stand til å utnytte oss.

Det kan være robotselen på gamlehjemmet, robothunden til studenten på hybel, eller kanskje robotkjæresten til den litt snodige onkelen i periferien. I fremtiden, i alle fall.

Mennesker skaper mening i fellesskap, men noe går galt når vi forsøker å gjøre det samme med maskiner. For hva slags fellesskap, og mening, kan skapes når et menneskelig sinn møter den tomheten en sosial maskin egentlig er?

Mennesker er hjelpsomme vesener

Vi har høyt utviklede evner for å sette oss inn i hvordan andre mennesker har det, vi kan dele andres følelser, og de aller fleste friske mennesker vil føle en sterk motstand mot å skade andre.

Mennesker er ikke bare ute etter å ikke skade hverandre – vi er i tillegg hjelpsomme vesener. Selv små barn viser raskt hjelpsom adferd. Når en voksen leter etter nøklene sine, for eksempel, vil selv et lite barn raskt forstå dette, og bistå i letingen.

Om en person mister noe vil vi ikke bare hjelpe, vi vil også sørge for at en som trenger hjelp er klar over at personen trenger hjelp. Det er jo en hjelp i seg selv, kanskje.

Som sosiale vesener er vi kanskje likere hunder enn aper og andre dyr som er genetisk mer lik oss. Både babyer og hunder forstår for eksempel konseptet med å peke på noe for å rette en annens oppmerksomhet et sted. Det er jo ikke fingeren man skal se på, men det fingeren peker på, og bare det å forstå dette krever avanserte sosiale ferdigheter - vi må forstå de vi har med å gjøre.

Vi er besatt av å finne mening

I tillegg til å være radikalt sosiale, er vi besatt av å finne mening. Selv der mening ikke finnes, finner vi mening.

Noen vil nok si at dette er bedet der religion vokser, men det er ikke vesentlig. Det vesentlige er at vi finner mening sammen med andre. Mening, og forståelse, skapes når sinn møtes.

Når en baby peker på nøkkelen som moren mistet, peker den på en måte på nøkkelen i morens sinn. Forståelse skapes når våre sinn møtes, og forståelse er også et sosialt fenomen. «Jeg forstår ikke noe alene», sa for eksempel den tyske filosofen Hans-Georg Gadamer (1900-2002) – vi oppnår en forståelse sammen.

I ethvert møte mellom mennesker foregår en gjensidig tilpasning. Når vi sammen forstår noe, endres vi som oftest begge to i denne prosessen. Jeg endrer meg litt, og du endrer deg litt, og vi finner sammen. Vi kan si at våre sinn møtes.

Maskinene trekker på menneskenes mekanismer

Det er her jeg kommer til dagens sosiale maskiner. Kunstig intelligens som er utviklet for å ha relasjoner med mennesker. For å snakke med oss, underholde oss, trøste oss, eller lære oss noe. Robotselen kan være programmert til å reagere på sosial og fysisk kontakt, og robotleken er programmert til få ditt barns oppmerksomhet og holde på den.

Felles for disse maskinene er at de svært effektivt trekker på de mekanismene mennesker har utviklet for å omgås hverandre. Roboter beveger seg, snakker, de har øyne, de kan gå, og de kan kommunisere. Svært mange aspekter ved sosiale maskiner trigger de sosiale mekanismene i oss.

Barn, for eksempel, tror robotleker har vondt, og har ønsker. Vi ser personer som forelsker seg i chatte-bot’er på nettet, og eldre som gir omsorg til de pelskledde mekaniske vennene som lurer dem på gamlehjemmet. På et bibliotek i Finland hadde de problemer med at de besøkende tullet med en robot som kjørte bøker rundt i lokalet. De satt et par store øyne på roboten, og vipps så ble den pent behandlet, og barn fulgte den ivrig og engasjert rundt i lokalet.

Men dette er da bare vel og bra? Vel, kanskje ikke bare bra.

Det er egentlig ingenting der inne

Grunnen til at jeg kaller slike maskiner for sosiale parasitter er at de livnærer seg på mekanismer som ikke er der for det formålet de bruker dem til. De innynder seg, og får oss til å bry oss, men det er egentlig ingenting der inne i de mekaniske hodene.

Det sinnet jeg skrev om tidligere, som er i spill når mennesker og deres sinn, møtes og skaper mening, finnes ikke i en maskin. Det er et narrespill. Men vi er så sårbare for alt som ligner liv og som sender sosiale signaler, at vi lar oss lure.

Selv om vi vet at maskiner ikke er levende vil vi allikevel reagere følelsesmessig på deres nærvær, og situasjon.

Ingen gjensidig forståelse

Vi bør kanskje trå litt varsommere når vi inviterer disse sosiale maskinene enda dypere inn i relasjonene som før var forbeholdt mennesker. For det første er våre sosiale egenskaper basert på både evolusjon og trening. Når vi omgås maskiner trenger vi ikke å bruke våre sosiale ferdigheter – de bare misbrukes av maskinene – og det er en fare for at våre relasjonelle evner svekkes.

For det andre er det grunn til å spørre seg om hva som skjer når vi deler sinn med noen som ikke har noe sinn. Vi deler tanker, oppmerksomhet, og tilværelse med noe vi behandler som levende, men som i realiteten bare er et sort hull – med litt kode som fyker rundt og lager et skyggespill.

Når vi oppnår forståelse og har dialoger med slike maskiner er det ingen gjensidighet. Slike sosiale partnere oppleves som behagelige, fordi vi opplever at vi ikke er nødt til å forandre og tilpasse oss.

Men vi mennesker kan ikke unngå å endre oss i sosiale relasjoner, og i realiteten er det dermed kun mennesket som forandrer seg når det går inn i relasjoner med maskiner uten evne til den type relasjoner mennesker tradisjonelt har seg imellom.

Les forskningen bak kronikken

Sætra, H.S. (2020). The Parasitic Nature of Social AI: Sharing Minds with the Mindless. Integrative Psychological and Behavioral Science. https://doi.org/10.1007/s12124-020-09523-6

Powered by Labrador CMS