Forskersonen er forskning.nos side for debatt og populærvitenskap

I en fersk debattartikkel kritiserer Lillehagen og Rafoss et nylig innlegg om ChatGPT av Falkum og Lison publisert på forskning.no.

De argumenterer for at likhetene mellom kunstig og menneskelig intelligens er mer vesentlige enn fremstilt i innlegget. Lillehagen og Rafoss kommer med flere gyldige poeng, men overser noen kritiske skiller mellom KI-programmer og menneskelige resonneringsevner, som vi ønsker å ta opp i dette svaret.

For det første hevder Lillehagen og Rafoss at strukturen og funksjonaliteten til KI, spesielt når det gjelder ChatGPT, ligner på menneskelig intelligens fordi begge er basert på nevrale nettverk.

Selv om utviklingen av nevrale nettverk innen KI har hentet noe inspirasjon fra den menneskelige hjernen, betyr ikke det at kunstig og menneskelig intelligens fundamentalt sett er det samme. Uttrykket «nevrale nettverk» som betegnelse for disse maskinlæringsmodellene oppsto av historiske grunner (flere av pionerene innen KI i etterkrigstiden hadde bakgrunn i nevrovitenskap) og bør ikke forstås bokstavelig.

Dagens nevrale nettverk har egentlig lite til felles med hjernens struktur og består i bunn av lange rekker av regneoperasjoner som er optimert for å maksimere en forhåndsdefinert målsetting, som for eksempel å forutsi med høyest mulig presisjon det neste ordet i en setning.

Dessuten er den menneskelige hjernen dypt forbundet med våre sansesystemer, emosjonelle opplevelser, kulturelle bakgrunner og fysiske kropper, som påvirker vår erkjennelse og forståelse av verden.

KI-systemer som ChatGPT mangler disse vitale forbindelsene og erfaringene, noe som gjør deres forståelse og behandling av informasjon fundamentalt forskjellig fra menneskelig erkjennelse.

For det andre understreker Lillehagen og Rafoss at både kunstig og menneskelig intelligens baserer seg på «gjetting» basert på sannsynlighetsregning. Selv om mennesker også engasjerer seg i hypotesetesting og bruker slutninger basert på sannsynlighet, er det en avgjørende forskjell når det gjelder bevissthetsnivå og typen av «gjetting» som er involvert.

Mennesker er i stand til introspeksjon og bevisst beslutningstaking, og kan reflektere om egne og andres tanker og intensjoner. Evnen til å forstå andres intensjoner er for eksempel avgjørende for menneskelig kommunikasjon, og for at barn skal kunne lære seg språk. KI-systemer som ChatGPT mangler disse egenskapene.

KI-systemer genererer svar basert på mønstre som er lært fra enorme mengder data, men de har ikke evnen til å forstå konteksten og implikasjonene av svarene deres. I den forstand er KIs «gjetting» fundamentalt forskjellig fra menneskelig intuisjon, forståelse og beslutningstaking, som er forankret i våre unike opplevelser og forståelse av verden.

KI-modellenes utforming og virkemåte er derfor vesentlig forskjellig fra det vi vet om hvordan den menneskelige hjernen fungerer. Dette kan utfordre vårt syn på intelligens, som vi forsøkte å belyse i innlegget vårt. Men på plussiden betyr det også at KI-programmer og menneskelig kognisjon kan tjene komplementære roller:

KI-programmer egner seg godt til å behandle og analysere store mengder data, mens de kommer til kort når det gjelder andre kognitive ferdigheter, slik som å forstå den bredere konteksten og intensjonen som ligger bak en tekst eller ytring.

Vi må ikke tape av syne disse sentrale forskjellene i debatten om KIs rolle i samfunnet.

LES OGSÅ:

Er ChatGPT en fuskemaskin?