Þegar skilvirknisjónarmið vega að réttar­öryggi

Nýlega varð ég vitni að samtali þar sem háttsettur embættismaður lýsti því hvernig undirmaður hefði notað gervigreindarlíkan til að svara erindi málsaðila. Aðili málsins veitti því strax athygli að svarið byggði á úreltum lagabókstaf og var því rangt. Ég sé ekki ástæðu til að greina frá því hér um hvaða embætti var að ræða, enda er aðeins um eitt dæmi að ræða sem ég varð áskynja um fyrir tilviljun. En mig grunar að atvikum af þessu tagi fari hratt fjölgandi.

Stjórnsýslan er ekki verksmiðja

Innleiðing gervigreindar í stjórnsýslu er gjarna kynnt sem skynsamleg leið til að taka á málahala, auka afköst og bæta þjónustu. Það er skiljanlegt. Álag er mikið, kröfur um hraða afgreiðslu vaxa og fjármunir eru takmarkaðir. En það veldur mér sívaxandi áhyggjum að árangurinn verði í reynd fyrst og fremst mældur í mínútum og fjölda afgreiddra mála, en gæði, lögmæti og réttaröryggi sitji á hakanum.

Stjórnsýslan er ekki verksmiðja. Hún er kerfi þar sem teknar eru ákvarðanir sem geta haft djúpstæð áhrif á fólk, réttindi þess, skyldur og stöðu. Þar skiptir ekki bara máli að svar komi fljótt, heldur að það sé rétt, nægjanlega rökstutt, byggt á gildandi rétti og í samræmi við meginreglur stjórnsýsluréttar. Ef gervigreind verður aðeins tæki til að auka skilvirkni og hraða erum við ekki að bæta stjórnsýsluna heldur grafa undan henni.

Vandinn breiðist hratt út

Rótin að þessu liggur annars vegar í áherslunni á sparnað og skilvirkni og hins vegar í því hvernig gervigreind er almennt notuð. Þekking á virkni hennar, getu og takmörkunum er gjarna alls ekki til staðar, en svörin eru trúverðug og sannfærandi. Atvikið sem ég rek í upphafi greinarinnar sýnir glöggt hvernig farið getur.

Í öðru tilfelli sem ég þekki þurftu lögfræðingar hjá opinberri stofnun að veita aðila álit á grunni reglugerðar. Meðan álitsins var beðið lét aðilinn gervigreind gera tillögu að áliti og sendi hana lögfræðingunum. Þeir brugðust við og sögðu álit gervigreindarinnar hljóma trúverðugt og gerðu að sínu, að því er virtist án þess að rýna sjálfir í reglugerðina.

Nýlega las ég svo ákvörðun opinbers eftirlitsaðila með stjórnsýslu þar sem sjá má sterkar vísbendingar um að gervigreind hafi verið notuð til að vinna hraðsoðna úrlausn í stað þess að höfundur greindi gögn málsins til hlítar sjálfur.

Atvik af þessu tagi eru ekki smávægileg. Því í stjórnsýslu getur röng greining haft keðjuverkandi áhrif. Hún mótar væntingar borgarans, setur málsmeðferð í rangan farveg, getur dregið úr líkum á að fólk neyti andmælaréttar síns, og getur leitt af sér ranga ákvörðun sem erfitt getur orðið að vinda ofan af síðar. Það sem gervigreind gerir mögulegt; að framleiða sannfærandi texta á fáeinum sekúndum; gerir það líka mögulegt að framleiða sannfærandi rangfærslur á jafnskömmum tíma.

Hættan á hæfnitapi er raunveruleg

Einnig blasir við önnur en ekki síður alvarleg hætta til lengri tíma, en það er svonefnt hæfnitap (e. skill erosion). Ef starfsmenn venjast því að fá „svar“ frá gervigreind í stað þess að setja sig inn í mál, lesa heimildir og vega og meta, þá dofnar fagleg dómgreind, þekkingu verður síður haldið við, þess í stað tekur hún að tapast. Skýringin er líffræðileg: Heilinn býr yfir taugamótanleika (e. neuroplasticity) og taugatengingar styrkjast eða veikjast eftir því hvað við fáumst við. Færni sem byggir á endurteknum athöfnum - eins og að lesa frumheimildir, bera saman sjónarmið, draga ályktanir og rökstyðja niðurstöðu - verður til og viðhelst með endurtekningu. Þegar slík vinna er síendurtekið færð út fyrir hugann og yfir til gervigreindar minnkar sú vitræna áreynsla sem viðheldur taugatengingunum, og þá getur færnin rýrnað hratt.

Smám saman getur sjálfstæð lagaleg greining orðið að formsatriði, hún er gerð sjaldnar, með yfirborðslegri hætti, og að lokum jafnvel alls ekki. Verði þróunin í þessa átt er það sérlega varhugavert, ekki síst þar sem stjórnsýslan glímir nú þegar við skort á þekkingu á og virðingu fyrir stjórnsýslureglum og lögum ásamt veikleikum í málsmeðferð. Ef gervigreind er notuð sem hækja í slíku umhverfi, getur hún magnað upp veikleikana í stað þess að bæta úr þeim.

Réttarríkið í húfi

Röng notkun gervigreindar er sérstaklega varhugaverð þegar um er að ræða embætti sem hafa ríkar valdheimildir, þar sem kröfur um lagastoð, meðalhóf, jafnræði og vandaðan rökstuðning eru undirstaða réttlátrar málsmeðferðar. Í slíkum málum er ekki nóg að eitthvert svar berist málsaðila. Það verður að vera rétt svar.

Geta gervigreindar til að spinna upp trúverðugan texta gæti svo aukið enn á vandann verði hún notuð til að reyna að réttlæta rangar ákvarðanir með sannfærandi hætti, en eins og reynslan sýnir og stutt er rannsóknum getur sannfæringarkraftur gervigreindar verið mjög mikill.

Ég hef áhyggjur af því að stjórnsýslan kunni að nálgast þetta viðfangsefni af of miklu skeytingarleysi og vanþekkingu á hættunum sem til staðar eru. Við tölum um hagræðingu og tækniframfarir og einblínum á tækifæri til sparnaðar í opinbera kerfinu. En síður er rætt um þær alvarlegu afleiðingar sem mistök og skeytingarleysi í stjórnsýslunni hafa og sem röng notkun tækninnar getur magnað upp.

Rétt notkun gervigreindar getur orðið til þess að bæta málsmeðferð og auka réttaröryggi, til dæmis ef hún er notuð til að leita uppi galla í ákvörðunum eða rökfærslum, leita eftir sjónarmiðum sem kunna að fara framhjá viðkomandi sérfræðingi, aðstoða við leit í gagnagrunnum og margvísleg önnur verkefni. En sé markmiðið með notkun hennar það eitt að auka skilvirkni og hraða afgreiðslu mála í sparnaðarskyni getum við endað með því að skipta út réttaröryggi fyrir skammtímaskilvirkni. Og þá er sjálft réttarríkið í húfi.

Höfundur er hagfræðingur og sérfræðingur í hagnýtingu gervigreindar