Gervi­greind, til góðs?Gervigreind, til góðs?

Skýrsla starfshóps stjórnvalda, „Gervigreind til góðs – Ísland sem fyrirmynd í nýtingu gervigreindar til góðs fyrir samfélagið allt“, er komin út. Hópurinn leggur til 69 aðgerðir svo gervigreind megi „bæta lífsgæði, þjónustu og framleiðni - á íslensku og okkar eigin forsendum - þannig að ávinningurinn nái til allra.“

Titillinn lofar góðu, og maður á von á heildstæðri nálgun fyrir heill þjóðar. Við nánari skoðun stendur skýrslan ekki undir því loforði, af fjórum ástæðum: grunnforsendurnar eru ekki skilgreindar, umfangið er of þröngt, forgangsröðunin er ekki rökstudd og siðferðileg álitaefni fá of litla athygli. Skýrslan inniheldur margar góðar tæknilegar tillögur sem stjórnvöld ættu að grípa til strax. Sem heildstæð tillaga um heill þjóðar er hún ekki nógu góð.

Forsendurnar

Í leiðarljósi skýrslunnar er gengið út frá því að markmiðið sé að „bæta lífsgæði, þjónustu og framleiðni“. Framleiðni og þjónusta eru ekki markmið í sjálfu sér heldur leiðir, og val á leiðum fer eftir því hver markmiðin eru, eins og kötturinn sagði við Lísu í Undralandi. Lífsgæði eru nær því að vera endanlegt markmið, en þau eru ekki eina markmiðið sem þjóðin hefur sett sér, á þjóðfundum og í kosningum. Jafnrétti, sjálfræði og umhverfisvernd koma strax upp í hugann. Skýrslan gerir enga tilraun til að skilgreina hvað er gott fyrir samfélagið. Grunnforsendur þarf að greina áður en farið er af stað.

Umfang og forgangsröðun

Hópurinn segir sjálfur að val viðfangsefna „segi ekkert um mikilvægi þeirra, aðeins um þann tíma sem hópurinn hafði“. Með öðrum orðum fjallar skýrslan ekki endilega um mikilvægustu málefnin. Af 69 tillögum snúa tíu að tungumálinu og sex að hugverkarétti; engin að réttlátri skiptingu ávinningsins og engin að umhverfinu.

Hér hefði kjarnatól sjálfbærnigreiningar, tvöföld mikilvægisgreining, komið að gagni: annars vegar er metið hvaða áhrif hvert málefni hefur á hagaðila, hins vegar á starfsemina sjálfa, og þau málefni sem vega þyngst á báðum ásum eru sett í forgang. Þá hefði forgangsröðunin verið rökstudd.

Áskoranir gervigreindar eru ekki afmarkað verkfræðivandamál eins og burðarþol brúar. Þær eru illvíg vandamál (e. wicked problems): þau eru margslungin og kalla á víðara samráð ólíkra fagaðila.

Siðfræðigleraugun vantar

Skýrslan nefnir mikilvæg álitaefni, jafnrétti, hlutdrægni, berskjöldun barna, lýðræði og traust. Umfjöllunin er hins vegar grunn og ber merki handahófskennds vals fremur en markvissrar greiningar. Þrjú dæmi.

Skipting gæða. Jafnrétti hefur tvær hliðar. Önnur er sanngjörn meðferð: að gervigreind endurtaki ekki sögulegt misrétti úr gögnunum sem hún lærir af. Þá hlið nefnir hópurinn en leggur lítið til. Hin hliðin er réttlát skipting ávinningsins, sem margir telja stærstu áskorun gervigreindarbyltingarinnar. Hana setur hópurinn meðvitað til hliðar. Skýrsla um gervigreind „til góðs fyrir samfélagið allt“ getur ekki sleppt þessu mikilvæga málefni.

Persónuvernd. Hópurinn sleppir henni á þeirri forsendu að málaflokkurinn eigi sér þegar skýran lagaramma og eftirlitsaðila. Lagarammi er ekki sama og siðferðileg greining. Gervigreind setur persónuvernd í nýtt samhengi með vinnsluhraða, gagnamagni og samtengingu gagna, og villurnar eru í eðli sínu óafturkræfar: gögn sem búið er að opna er sjaldnast hægt að loka aftur.

Umhverfi. Skýrslan fjallar um uppbyggingu gagnavera sem framtíðariðnað en segir ekkert um áhrif þeirra á umhverfi og nærsamfélög: land sem tekið er undir starfsemina, orku sem tekin er frá öðrum verkefnum, störf sem reynast færri og einhæfari en lofað var. Umhverfisáhrif eru nefnd einu sinni í skýrslunni, sem orðsporsmál.

Einsleitur hópur

Skýrslan er efnismest þar sem höfundarnir hafa sérþekkingu. Umfjöllunin um íslenskuna er frábær og árangurinn við að koma tungumálinu inn í mállíkön er kraftaverki líkast. Þar sem þekkinguna vantar verður textinn þunnur. Þar álasa ég ekki höfundunum heldur samsetningu hópsins. Fjölbreyttari hópur hefði hvorki tafið vinnuna né verið bremsa á framþróun; siðfræðileg sjónarmið eru hluti af framþróun samfélags og þurfa ekki að hamla henni.

Tvær tillögur

Ég legg til tvær úrbætur við vinnu hópsins: Í fyrsta lagi að siðferðilegt áhrifamat verði fastur hluti samræmda matsins áður en lausnir eru teknar í notkun. Í öðru lagi að siðfræði- og sjálfbærniþekking fái sæti í gervigreindarráðinu, sem skilgreini í fyrsta mati sínu hvað „til góðs“ á að þýða.

Hópurinn á hrós skilið fyrir að koma málinu á dagskrá með skýrum hætti og á stuttum tíma, og hann kallar sjálfur eftir opnu samtali. Þetta er mitt framlag til þess.

Höfundur er mannauðsstjóri og kennir siðfræði- og sjálfbærni við Háskólann í Reykjavík.