Forskersonen er forskning.nos side for debatt og forskernes egne tekster. Meninger i tekstene gir uttrykk for skribentenes holdninger. Hvis du ønsker å delta i debatten, kan du lese hvordan her.

For å spare papir, tid og penger sier Statsminister Støre nå at 80 prosent av statlige virksomheter skal ta i bruk kunstig intelligens (KI) i 2025. Vår forskning viser at folk ikke er klar for å bytte ut byråkratene med KI helt enda og vi må være forsiktige med hvordan vi gjør det. 

Det er hersker liten tvil om at dette forslaget kommer til å spare penger. Dersom vi skal hurtig-innføre kunstig intelligens i forvaltningen må vi tenke på de potensielle fallgruvene som finnes.

Tilfellet Tromsø

Skandalen rundt skolestruktur-saken i Tromsø kommune illustrerer dette problemet ganske effektivt. Her har administrasjonen i kommunen fått hjelp fra en språkmodell til å skrive kunnskapsgrunnlaget før politikerne skulle begynne å legge ned skoler. 

Problemet var bare at språkmodellen hadde funnet på forskning som ikke eksisterer. Denne tabben ble oppdaget mange måneder senere, etter at politikerne hadde satt i gang med høringer og folkemøter.

Prosessen rundt skolestrukturen har nå blitt satt på pause. Foreldre med barn i berørte skoler har selvsagt både skuffa og forbanna. Denne saken er den første – men neppe den siste – KI-skandalen i offentlig sektor. Vi er derfor nødt til å ha en bedre plan en den som foreligge nå.

Svaret fra regjeringa på dette var en post på LinkedIn om at de heier på kommuner «som tør å ta teknologien i bruk og som tør å innrømme feil». Dette er i beste fall en veldig dårlig plan som innbyggerne og forvaltninga selv kommer dårlig ut av.

Selv om Tromsø kommune har retningslinjer for bruk av KI, viser denne saken at man, i møte med språkmodellens visdom, kan bli forledet. Det holder ikke å ha interne retningslinje uten at denne er godt forankret hos folk og byråkrater.

Vil ikke erstatte byråkratene

For noen år siden lurte vi på hva folk syntes om KI i offentlig forvaltning. I et forskningsprosjekt, inviterte vi et bredt spekter av Norges befolkning til å være med å diskutere om man skal slippe algoritmene løs på byråkratenes jobb. Konklusjonen viser at når borgere får vite mer om hvordan KI virker, blir de mer positive til å bruke det i byråkratiet.

Deltakerne våre vil dog ikke erstatte byråkratene med KI helt enda. De vil heller at kunstig intelligens skal hjelpe byråkratene løse ulike arbeidsoppgaver.

Hvis vi skal sørge for at denne tilliten til byråkratiet – og følgelig også demokratiet – skal opprettholdes og styrkes, er vi nødt til å invitere folk med på denne idémyldringa. 

Det er veldig viktig at vi sammen finner ut av hvordan vi skal bruke KI på en fornuftig måte. Ikke rulle ut teknologi som vi kanskje ikke forstår konsekvensene av og som befolkningen er skeptisk til, slik som i eksemplet fra Tromsø kommune.

Systematisk opplæring og kritisk tenkning  

Det er heller ikke sikkert at byråkratene klarer, med all sin utdanning og erfaring, å konkurrere med en allvitende og -seende superrobot og utfordre dens anbefalinger. I Tromsø fikk de det ikke til. Derfor er vi nødt til å legge til rette for at menneskelig skjønn er en essensiell del av beslutningsprosessene.

Vår anbefaling er klar: Inviter til dialog og kunnskapsutveksling – også blant byråkratene. Sørg for systematisk opplæring og kritisk tekning rundt bruk av KI. 

Det er det opp til politikerne våre å legge til rette for at vi som samfunn kan bruke teknologien på en fornuftig måte. Vi har ikke råd til å bruke prøve-og-feile-metoden som det oppfordres til fra statsråden nå.

les også:

Skoleforskningen som ikke eksisterte: Da kommunen brukte KI, gikk det fryktelig galt