Forskersonen er forskning.nos side for debatt og populærvitenskap

I en kronikk på Forskning.no argumenterer Falkum og Lison for at ChatGTP og kunstig intelligens (KI) skiller seg vesentlig fra menneskelig intelligens (MI). De mener at ChatGTP og KI kun «gjetter», mens vi mennesker tenker helt annerledes fordi vi rasjonelt kan resonere oss frem til riktige svar.

Vi er uenige med Falkum og Lison. Vi argumenterte i en kronikk for at det er mange viktige forskjeller mellom KI og MI – men at gjetting ikke er det vesentlige. Tvert imot mener vi at også hjernen driver mye mer med «gjetting» enn det mange kanskje er klar over.

Vi mennesker har jo, som Falkum og Lison påpeker, en unik og imponerende evne til å tenke logisk, resonerende og rasjonelt i samspill med våre omgivelser – så det kan høres rart ut å si at hjernen likevel først og fremst driver med «gjetting».

Årsaken til at vi likevel argumenterte for dette, er at vi baserer oss på det som etter hvert er blitt en sentral retning innenfor kognitiv vitenskap – den såkalte «predicitive processing»-innfallsvinkelen. Her er hovedtanken at hjernen grunnleggende sett er en «bayensiansk sannsynlighetsmotor» som driver med hypotesetesting og gjetting. Eller, som vi skriver: «… bak kulissene er menneskelig tenkning basert på komplekse nettverk av sannsynlighet».

Falkum, Lison og Riegler har levert et konstruktivt svar på vår kritikk. Det de skriver viser at vi nok er enige i det meste: Både de og vi mener at det er viktige og vesentlige forskjeller mellom KI og MI; at det er viktig å forstå og diskutere disse; og at vi ikke må tillegge KI menneskelige egenskaper den ikke har. Men det ser likevel ut til at Falkum, Lison og Riegler har misforstått vårt hovedpoeng, nemlig at MI og hjernen – på samme måte som KI – kan forstås som «gjettemaskiner».

Falkum, Lison og Riegler sitt motargument er at «selv om mennesker også engasjerer seg i hypotesetesting og bruker slutninger basert på sannsynlighet, er det en avgjørende forskjell når det gjelder bevissthetsnivå og typen av ‘gjetting’ som er involvert.»

Det virker her som at Falkum, Lison og Riegler forstår hypotesetesting og sannsynlighetsberegning som spesialtilfeller av tenkning som mennesker driver med en gang iblant. De utdyper at det som skiller KI fra MI er at «mennesker er i stand til introspeksjon og bevisst beslutningstaking og kan reflektere om egne og andres tanker og intensjoner».

Vi forstår dette slik at de hevder at MI skiller seg fra KI fordi mennesker er bevisste og resonerende – noe som også noen ganger innebærer bevisst «hypotesetesting» og «slutninger basert på sannsynlighet».

Her ser det ut til at Falkum, Lison og Riegler har misforstått oss, «predictive processing»-tilnærmingen, eller begge deler.

De argumentene vi presenterte i vår kronikk – og den forskningslitteraturen vi viste til – handler ikke om at denne typen isolert, spesialisert og bevisst sannsynlighetsberegning og gjetning (for eksempel slik en pokerspiller gjør når hun eller han forsøker å beregne sin vinnersjanse). Vårt poeng var at «bak kulissene» så handler både KI og MI og «gjetting».

Sagt helt enkelt: Det ser ut til at Falkum, Lison og Riegler først og fremst er opptatt av hva mennesker bevisst tenker, men vi er mer opptatt av hvordan det kognitive ubevisste fungerer.

For å forstå dette, er det nyttig å trekke inn et skille mellom det personlige («bevisste») og upersonlige («ubevisste») nivået slik man ofte gjør innenfor kognitiv vitenskap. Den typen gjetning pokerspillere driver med foregår (delvis) på det personlige nivået: Den er bevisst, refleksiv og tilgjengelig gjennom introspeksjon.

Vi er helt enig i at ChatGPT ikke driver med dette. Men minst like viktig er det upersonlige nivået: Mesteparten av vår kognitive aktivitet er ikke tilgjengelig for introspeksjon – den forgår utenfor bevisstheten. Og, ifølge «predictive processing»-tilnærmingen, er menneskelig tenkning på dette nivået i stor grad basert på «gjetting». Hjernen er en gjettemaskin.

LES OGSÅ:

I den teknologiske utviklingen må vi verken være godhetsoptimistiske teknotåper eller konspiratoriske pessimister