I slutten av november i fjor gjorde selskapet Open AI samtaleroboten ChatGPT åpent tilgjengelig. Millioner av brukere har siden latt seg fascinere av hvordan roboten raskt kan besvare komplekse spørsmål i et overbevisende språk. Til tross for åpenbare og godt kjente svakheter, er forventningene til slike teknologier skyhøye.

Roboter med retorisk kraft

Fascinasjonskraften til ChatGPT skyldes i stor grad egenskaper ved språket roboten bruker. Den skriver forbløffende gode tekster. Den starter for eksempel ofte et svar med en innledende problematisering, som etterfølges av mer konkret innhold, før den avslutter med å forbehold og nyanser. Den behersker mange sosiale koder, som å si hei, takk og unnskyld der det er på sin plass.

Måten ChatGPT skriver på, gjør at den virker både kunnskapsrik, forstandig og gir dermed inntrykk av at den vil oss vel. Dette er grunntrekkene i det retoriske bevismidlet ethos, som handler om hvordan vi lar oss overbevise gjennom at den som snakker, virker troverdig. Maskinene har altså fått egenskaper de i begrenset grad har hatt før, nemlig retorisk overbevisningskraft og autoritet.

les også

Er prateroboten ChatGPT en klok samtale­partner eller papegøye?

Fakta og fiksjon

Den nye teknologien presenterer seg som en kilde til kunnskap. Uansett hva vi spør ChatGPT om, gir den et svar som umiddelbart virker plausibelt. En fantastisk kilde til kunnskap og innsikt – men bare tilsynelatende.

For det er ingen hemmelighet at teknologiene i dag har sine utfordringer. En av de store er «hallusinering» – altså at systemene i enkelte tilfeller konstruerer informasjon som presenteres som sannhet. Kort sagt: den dikter fakta.

Vi har selv snakket med ChatGPT om mange ulike tema. Når det er tema vi selv har detaljkunnskap om, oppdager vi at svaret den gir ofte er en blanding av fri diktning, delvis diktning, og korrekt informasjon. Men det er vanskelig å gjennomskue hva som er hva, for den gir ingen språklige signaler om det.

Det finnes i dag en rekke eksempler på hallusinering fra kunstig intelligens-systemer. Wikipedia viser for eksempel til at ChatGPT hevder å ha bevis for at dinosaurer brukte verktøy og utviklet primitive former for kunst. Andre eksempler er langt mindre morsomme. Teknologien er per i dag upålitelig som kilde til fakta, og beskrives som «gjettemaskiner» i en annen kronikk på Forskersonen.

Effektive tekstmaskiner

Men selv om språkrobotene ikke alltid produserer fakta, er de effektive tekstmaskiner. De kan, med enkle instruksjoner, generere tekster i mange sjangre innen både privat og profesjonell kommunikasjonen. De kan skrive festtaler, rapporter og kommunikasjonsstrategier. De kan gi råd og tips om samliv, trening og økonomi.

Vi har faktisk fått hjelp av ChatGPT for å finne en tittel til denne kronikken. Selv om den innimellom sier snodige ting, skriver den likevel som oftest på få sekunder tekster med en kvalitet som for mange krever flere timers innsats.

Selv om robotene skriver godt, skriver de på ingen måte glitrende. Men på mange samfunnsområder, ikke minst i arbeidslivet, trenger skriftlig kommunikasjon sjeldent være glitrende – helt OK er ofte mer enn godt nok.

Store samfunnsendringer i vente

En fersk undersøkelse blant bedriftseiere i USA viser at svært mange allerede har tatt språkroboten i bruk. Hos 48 prosent av de spurte, hadde den allerede erstattet ansatte. 33 prosent svarte at teknologien «definitivt» ville føre til flere oppsigelser i 2023.

Sett i sammenheng med de store teknologiselskapenes iver etter å få sine løsninger på markedet og at det foregår en intens innovasjonsbølge i Silicon Valley og andre steder, er det all grunn til å forvente økt utbredelse av slike teknologier i nær fremtid.

Vi befinner oss altså i en tid hvor kraftfull teknologi er i ferd med å endre samfunnet på måter som er svært vanskelige å forutse. Det er utarbeidet en rekke etiske retningslinjer (for eksempel av EU) som skal redusere risiko for utilsiktet og negativ samfunnsutvikling. Det er imidlertid uhyre krevende for teknologer å risikovurdere slike løsninger, siden dette først og fremst handler om samfunnsutvikling og ikke om teknologi.

Behov for flere perspektiver på teknologiens roller i samfunnsutviklingen

Det har lenge vært kjent at jo bedre ledere forstår IT, jo bedre lykkes virksomheten. En slik forståelse får ledere gjerne gjennom å arbeide tett med teknologer, slik at de sammen kan finne ut hvordan man utformer organisasjon og produkter på mest mulig hensiktsmessig måte - i lys av tilgjengelig teknologi. Dette kalles gjerne strategisk samordning.

Men teknologiene som er på vei nå, vil sannsynligvis føre til at det ikke bare er organisasjoner og produkter som vil endres. De kan medføre langt mer gjennomgripende samfunnsendringer. Vi vet enda ikke hva som vil bli endret, eller på hvilke måter, men vi vet nok til å forstå at teknologiens språklige kapasitet i kombinasjon med dens fakta-hallusinasjoner kan utfordre samfunnets kommunikasjon, tillit og ansvarlighet på et grunnleggende nivå.

Det er derfor tid for å utvide forståelsen av strategisk samordning til å inkludere samfunnsnivået – altså en samfunnsmessig samordning. Da trengs personer med inngående forståelse av teknologi og samfunnsstrukturer og -mekanismer og språk og kommunikasjon.

Behov for intensivert innsats fra humanister og samfunnsvitere – og økt utnyttelse av slik kunnskap

Dette er derfor en tid hvor innsikten til samfunnsvitere og humanister i hvordan teknologi påvirker samfunnsforhold og forholdet oss mennesker i mellom, virkelig trengs. Det er behov for kombinasjonen av samfunnsviternes innsikt i teknologiens samfunnskonsekvenser og humanistenes perspektiver på teknologien som språklig, retorisk, kulturelt og historisk objekt.

Det er imidlertid også en tid der det er behov for flere samfunnsvitere og humanister som retter aktivt, men kritisk søkelys på teknologi, både i utdanninger og forskning.

Og sist, men ikke minst, foreslår vi at samfunnsvitere og humanister i langt større grad enn i dag inviteres inn på arenaer hvor teknologiutvikling og -anvendelse diskuteres og besluttes. Vi mener dette vil bidra til samfunnsmessig samordning som vil gjøre oss langt bedre rustet til å møte endringene som er på vei, enn det vi er i dag.

LES OGSÅ:

Forskningsformidling er ikke alltid et gode

Forskersonen er forskning.nos side for debatt og populærvitenskap