Gervigreindin beisluð

Gervigreind (AI) er orðin snar þáttur í nútíma atvinnulífi og samfélagi og mun hafa enn meiri áhrif á fyrirtæki og atvinnulíf bæði hér heima og á heimsvísu. Í skýrslu World Economic Forum (WEF) er því spáð að um 170 milljónir nýrra starfa muni skapast á heimsvísu fram til 2030 en um 92 milljónir starfa muni hverfa á sama tíma. Þetta samsvarar hreinni aukningu um 78 milljónir starfa (um 2% af heildarstörfum) ef spár ganga eftir.

Slík umbylting kallar á gagngera endurskoðun á vinnumarkaði og menntun; raunar gera atvinnurekendur ráð fyrir að um 39% af helstu hæfniþáttum starfsmanna þurfi að breytast fram til ársins 2030. Þetta útheimtir markvissa endurmenntun og uppbyggingu nýrrar hæfni svo ekki myndist gjá milli þess sem tæknin krefst og þess sem mannauðurinn hefur fram að færa. Með hraðri innreið gervigreindar vaknar svo samhliða því þörf fyrir skýran ramma og samræmdar leikreglur. Stöðlun skiptir lykilmáli til að tryggja samræmi, öryggi og traust í notkun gervigreindarkerfa. Þekking á stöðlum er eitt af því sem þarf að fræða og mennta aðila vinnumarkaðarins um.

Brýn þörf er fyrir styrka stjórnun og skorður við hönnun og þróun gervigreindarkerfa og -lausna til að tryggja öryggi okkar og grundvallar réttindi. Evrópusambandið hefur þegar reist fjölda girðinga með gervigreindarlögunum (EU AI Act) sem tóku gildi 2024. Megininntak þeirra er að skýrar reglur, samhæfðir staðlar og varnaglar í kringum gervigreind eru forsenda þess að fyrirtæki og stofnanir geti notið þess besta sem tæknin býður án þess að eitthvað fari úrskeiðis eða valdi hættu.

Evrópusambandið hefur nýtt stöðlun talsvert í gegnum tíðina með góðum árangri, til að útfæra tæknilegar kröfur löggjafar og segja til um hvernig hlutir skulu hannaðir, framleiddir, prófaðir og hvernig þeir eiga að virka. Fyrst og fremst hefur það átt við um áþreifanlega hluti eins og leikföng, lækningatæki og byggingarvörur til að tryggja öryggi fólks, heilsu- og umhverfisvernd auk gæða og virkni. Nú er hins vegar búið er að setja í gang umfangsmikla stöðlun sem á að segja til um útfærslur gervigreindarlaganna til að auðvelda hönnuðum og þróunaraðilum að búa til gervigreindarkerfi sem tryggja öryggi okkar og koma í veg fyrir slys, mismunun, falsfréttir og rangar ákvarðanir og tryggja persónuvernd og ábyrgð þeirra sem hanna slík kerfi.

Löggjöfin hefur þegar tekið gildi í Evrópu þó gildistöku nokkurra ákvæða hafi verið frestað til 2025 og 2026, Löggjöfin snýst í grunninn um að meta áhættur, forgangsraða þeim og bregðast við þeim með viðeigandi hætti. Áhættu sem metin er óásættanleg þarf að útrýma. Þar er átt við t.d. sjálfvirka líffræðilega auðkenningu og flokkun fólks, andlitsgreiningu á almannafæri og verkfæri sem leitt geta til stjórnunar eða blekkingar viðkvæmra hópa s.s. raddstýrð leikföng barna. Kerfi sem teljast með háa áhættu s.s. greiningarkerfi í heilbrigðisþjónustu, öryggiskerfi í iðnaði og flugi, gervigreind sem notuð er af stjórnvöldum til ákvarðanatöku eða hefur áhrif á lífsviðurværi fólks, þurfa að uppfylla strangar kröfur. Slíkum kerfum þarf að gæða- og áhættustýra og gerð er krafa um mannlega yfirumsjón þar sem hægt er að grípa inn í og stöðva kerfi hvenær sem er. Notendur slíkra kerfa verða líka að skilja þau og mata þau á gögnum sem eru laus við hlutdrægni eða skekkju sem valdið getur mismunun. Þá þarf að merkja sérstaklega og veita upplýsingar um kerfi með takmarkaðri áhættu, s.s. að merkja myndefni og deep-fake efni sem slíkt og fólk þarf að vita þegar það er í samskiptum við spjallmenni en ekki lifandi fólk.

Allt ofangreint eru kröfur sem gerðar eru til hönnuða og þróunaraðila gervigreindarkerfa og -lausna í Evrópu og verða innleiddar á Íslandi innan tíðar. Kröfurnar eru settar og útfærðar með samhæfðum stöðlum til að tryggja að framleiðendur og þróunaraðilar, dreifendur gervigreindarkerfa og notendur þeirra fylgi ströngum reglum með einsleitum hætti en reglunum er ætlað að vernda almenning, velferðar- og lýðræðissamfélög.

Íslensk fyrirtæki og atvinnulíf munu þurfa að fylgja þessari þróun og aðlaga sig að þeirri stöðlun og gæðamerkingum sem eru framundan. Sömu öryggis- og gæðaviðmið munu þá gilda hér og í öðrum Evrópulöndum. Þetta mun auka öryggi notenda og býður íslenskum fyrirtækjum að keppa á jöfnum grundvelli. Jafnframt getur þetta kallað á gagngerar breytingar á mörgum ferlum og hæfniskröfum hérlendis – til dæmis þarf að mennta starfsfólk til að nota gervigreindartækni á ábyrgan hátt og laga stjórnkerfi fyrirtækja að nýjum veruleika.

Ábyrg notkun gervigreindar krefst þess að fyrir hendi séu traustir staðlar og skýrar leikreglur. Jafnframt verður atvinnulífið að laga sig að þessum nýju kröfum og tækifærum sem gervigreindin felur í sér, þar sem bæði samkeppnishæfni og öryggi eru í húfi. Þegar upp er staðið er ljóst að ábyrg notkun gervigreindar krefst bæði öflugrar stöðlunar og gagngerrar aðlögunar atvinnulífsins að nýjum leikreglum.

Hanna Kristín Skaftadóttir, fagstjóri viðskiptagreindar, Háskólanum á Bifröst.

Helga Sigrún Harðardóttir, framkvæmdastjóri Staðlaráðs Íslands.