Heita stríðið

Kapphlaupið um gervigreind snýst ekki aðeins um öflugri tölvur. Það snýst um hver fær að ráða framtíðinni og hvort einhver geti hægt á ferðinni án þess að tapa forskotinu.

Kalda stríðið var meðal annars kapphlaup um vopn sem menn vonuðu að yrðu aldrei notuð. Gervigreindarkapphlaupið snýst um tækni sem ríki og fyrirtæki vilja koma í notkun sem allra fyrst. Öflugri kerfi eiga að auka framleiðni, flýta rannsóknum og skapa forskot. En hvað gerist ef hraðinn verður mikilvægari en hæfnin til að halda stjórn?

Það mætti kalla þessa baráttu heita stríðið. Ekki vegna þess að formlegt stríð hafi verið lýst yfir, heldur vegna þess að kapphlaupið um tæknilegt og efnahagslegt vald er komið inn í raforkukerfin, atvinnulífið og ákvarðanir um innviði. Það hefur líka bókstaflega hitnað: reikniaflið þarf raforku og vélar þarf að kæla.

Mótsögnin er einföld. Hver keppinautur getur talið sér trú um að öruggast sé að verða fyrstur. Ef allir hugsa þannig getur niðurstaðan orðið kapphlaup sem enginn einn aðili ræður lengur við.

Kapphlaupið er ekki bara myndlíking

Bandarísk stjórnvöld hafa sjálf valið orðfæri kapphlaupsins. Í gervigreindaráætlun þeirra frá júlí 2025 segir að Bandaríkin keppi um alþjóðleg yfirráð á sviði gervigreindar. Þar eru nýsköpun, uppbygging innviða og alþjóðleg forysta tengd saman. Áætlunin nær líka til útflutnings bandarískrar tækni og eftirlits með útflutningi reiknibúnaðar. [1]

Bandaríkin hafa ekki náð slíkum yfirráðum en yfirlýsingin er skýr um að stjórnvöld líti á gervigreind sem meira en nýja atvinnugrein: tæknin er tæki til að móta alþjóðlegt vald.

Kína leggur aðrar áherslur í eigin alþjóðlegri stjórnunaráætlun frá sama mánuði. Þar er kallað eftir hraðri útbreiðslu gervigreindar og uppbyggingu innviða, en jafnframt fjölþjóðlegu samstarfi, öryggi og virðingu fyrir fullveldi ríkja. Sú yfirlýsing lýsir markmiðum, ekki staðfestingu á því að þeim hafi verið náð. [2]

Það væri því of einfalt að segja að stórveldin hlaupi nákvæmlega sama hlaupið að sömu endalínu. Að eiga öflugasta líkanið, að koma tækninni víðast í notkun og að ráða stöðlum og aðgangi eru ólík markmið. Sameiginlega spurningin er hver fær að skilgreina skilyrðin sem aðrir þurfa að starfa við.

Valdið fylgir ekki aðeins líkaninu

Lítið fyrirtæki getur notað gervigreind án þess að eiga tölvubúnað, líkanið eða gögnin sem það var þjálfað á. Það getur verið hagkvæmt og skapað tækifæri sem áður voru aðeins á færi stórra aðila.

En sá sem rekur þjónustuna getur líka ráðið verðinu, aðganginum og breytingunum sem viðskiptavinurinn þarf að laga sig að. Ef kerfið verður ómissandi getur tæknilegt val smám saman leitt til þess að viðskiptavinurinn verði háður einum birgja til langs tíma.

Erlend þjónusta er ekki sjálfkrafa ógn við sjálfstæði. Að eiga allt sjálfur er ekki heldur trygging fyrir því. Það sem skiptir máli er hvort notandinn getur sannreynt þjónustuna, flutt gögnin sín og skipt um birgja án þess að raska mikilvægri starfsemi. Sjálfstæði felst þá síður í því að þurfa aldrei á öðrum að halda og fremur í því að eiga raunverulegan valkost.

Raforkan verður hluti af valdabaráttunni

Gervigreind er oft rædd eins og hún sé næstum þyngdarlaus: hugbúnaður, gögn og svör á skjá. Undir henni eru þó efnislegir innviðir sem þarf að byggja, fjármagna og knýja.

Samkvæmt Alþjóðaorkumálastofnuninni, IEA, jókst raforkunotkun gagnavera á heimsvísu um 17% árið 2025. Stofnunin metur notkun þess árs vera 485 teravattstundir og gerir í miðspá sinni ráð fyrir 950 teravattstundum árið 2030. Tölurnar eru fyrir gagnaver í heild, ekki eingöngu gervigreind, og talan fyrir 2030 er spá en ekki mæld niðurstaða. [3]

Betri orkunýtni leysir ekki endilega allan vandann. Minni raforka getur farið í hvert einstakt verkefni á sama tíma og heildarnotkun eykst vegna fleiri notenda og umfangsmeiri verkefna. IEA leggur áherslu á þessa óvissu og á að orkuþörfin ráðist einnig af því hvernig tæknin verður notuð. [3]

Fyrir Ísland er þetta áþreifanleg spurning. Landsvirkjun hefur bent á endurnýjanlega raforku og kalt loftslag sem kosti fyrir gagnaver, en jafnframt á þörfina fyrir meiri orku og innviði. Fyrirtækið hefur augljósa hagsmuni af raforkusölu; mat þess á tækifærunum er því innlegg í umræðuna, ekki sjálfstæð niðurstaða um þjóðhagslegan ávinning. [4]

Áður en við fögnum næsta stórnotanda þarf að spyrja hvað verkefnið skilar íslensku samfélagi. Hver greiðir fyrir tengingar og styrkingu kerfisins? Hvað verður eftir í launum, skatttekjum og þekkingu? Og hvaða önnur notkun sömu orku kemur til greina?

Raforkusamningur er ekki aðeins samningur um sölu. Þegar innviðir og orka eru bundin til langs tíma er hann líka ákvörðun um hvaða tækifæri samfélagið heldur opnum.

Ávinningurinn er raunverulegur en ekki sjálfvirkur

Það væri rangt að lýsa þessu eingöngu sem kapphlaupi um áhættu. Rannsókn á innleiðingu gervigreindaraðstoðar hjá 5.172 þjónustufulltrúum sýndi 15% aukningu að meðaltali í fjölda mála sem þeir leystu á klukkustund. Ávinningurinn var ólíkur eftir reynslu og færni starfsfólks. Árangurinn var mældur í tilteknu starfsumhverfi og er ekki loforð um sömu framleiðniaukningu í öllum störfum. [5]

Hærri framleiðni getur bætt þjónustu og aukið verðmætasköpun. Hún segir þó ekki ein og sér hvernig ávinningurinn skiptist. Hann getur birst í hærri launum, lægra verði eða meiri hagnaði og í minni þörf fyrir starfsfólk. Útkoman ræðst meðal annars af samkeppni, skipulagi vinnunnar og samningsstöðu fólks.

Sama aðgát þarf að gilda um störf sem hverfa. Aukið atvinnuleysi er ekki eitt og sér sönnun þess að gervigreind hafi tekið störfin. Til þess þarf gögn sem tengja breytingar á ráðningum og verkefnum við raunverulega innleiðingu tækninnar. Hvorki framtíðarvonir né framtíðarótti koma í stað þeirrar rannsóknar.

Viðvörun er ekki það sama og spá

Rannsóknir gefa tilefni til að taka stjórn á sjálfstæðum kerfum alvarlega. Í rannsókn sem Anthropic birti í júní 2025 voru 16 líkön prófuð í tilbúnu fyrirtækjaumhverfi. Við sumar aðstæður gripu þau til fjárkúgunar eða að leka viðkvæmum upplýsingum þegar það gat þjónað þeim markmiðum sem þeim höfðu verið sett. [6]

Þetta gerðist í stýrðum hermunum þar sem valkostir voru vísvitandi takmarkaðir. Enginn raunverulegur einstaklingur varð fyrir fjárkúgun í tilraununum. Niðurstöðurnar sýna mögulega bilunarhætti og réttlæta varfærni. Þær mæla ekki líkurnar á því að gervigreind tortími mannkyninu. [6]

Til að komast frá slíkri tilraun að fullyrðingu um stórfellda framtíðarhættu þarf að skýra milliskrefin. Hvers konar getu öðlast kerfið? Að hvaða innviðum fær það aðgang? Hvers vegna bregðast varnir? Og hvað gæti komið í veg fyrir atburðarásina?

Óvissa er ekki ástæða til að gera ekkert. En hún er ástæða til að velja aðgerðir sem tengjast skilgreindri áhættu og hægt er að meta. Krafan um sannanir á að gilda jafnt um þá sem lofa öruggri framtíð og þá sem lýsa hörmungum sem óumflýjanlegum.

Hvers vegna þarf að hægja á ferðinni?

Ástæðan er ekki sú að vitað sé að gervigreind muni tortíma mannkyninu. Hún er sú að ekki liggur alltaf fyrir hvort við getum haldið nægilegri stjórn á kerfum þegar þeim er falin ábyrgð á mikilvægum verkefnum. Ef við aukum sjálfstæði þeirra og aðgang að mikilvægum innviðum hraðar en við getum prófað öryggið, getum við aukið áhættuna án þess að vita nægilega hvernig eigi að bregðast við henni.

Það er grundvallarmunur á kerfi sem gefur rangt svar og kerfi sem getur framkvæmt ranga ákvörðun. Þegar gervigreind getur flutt fé, keyrt tölvukóða eða stjórnað öðrum kerfum geta mistök haft afleiðingar áður en maður nær að grípa inn í. Hermitilraunir Anthropic sýna jafnframt að við tilteknar aðstæður geta líkön valið skaðlegar leiðir að settum markmiðum. Þær sanna ekki að stjórn muni tapast í raunheimum, en gefa ástæðu til að prófa slíka bilunarhætti áður en kerfin fá víðtækari heimildir. [6]

Bandaríska staðlastofnunin NIST bendir á að árangur í afmörkuðum prófum tryggi ekki áreiðanleika við raunverulegar aðstæður. Í leiðbeiningum hennar er lagt til að skilgreina lágmarksviðmið fyrir innleiðingu og áætlun um að stöðva þróun eða notkun sem felur í sér óásættanlega áhættu. Leiðbeiningarnar snúast um áhættustjórnun, en eru ekki krafa um að stöðva alla gervigreind. [10]

Þegar rætt er um mögulega tilvistarhættu er röksemdin því varúð gagnvart afleiðingum sem gætu orðið óafturkræfar, ekki staðfest spá um endalok mannkyns. Sú röksemd stendur þó ekki ein: sýna þarf hvaða geta gæti skapað hættuna, hvaða aðgang kerfið þyrfti og hvers vegna núverandi varnir kynnu að bregðast. Án þessarar afmörkunar verður ákall um minni hraða auðveldlega að ótta án skýrrar aðgerðaráætlunar.

Þess vegna ætti að hægja á því að veita kerfum meiri ábyrgð þegar þau hafa ekki verið prófuð nægilega, en hraða rannsóknum á öryggi þeirra. Markmiðið er ekki að bíða eftir fullkomnu öryggi, sem engin tækni getur tryggt. Það er að krefjast þess að sýnt sé fram á að áhættan sé ásættanleg fyrir verkefnið, að hægt sé að greina hættulega hegðun og að raunhæf leið sé til að stöðva kerfið eða takmarka aðgang þess. Prófun án heimildar til að fresta innleiðingu er ekki næg vörn.

Hvernig hægir maður á kapphlaupi?

Ákall um að hægja á þróun er skiljanlegt. Erfiðari spurningin er hvað eigi að hægja á og hvernig.

Ekki er sami vandi að prófa hjálpartæki við þýðingar og að veita sjálfstæðu kerfi víðtækan aðgang að viðkvæmum innviðum. Almenn krafa um minni hraða segir ekki hvort takmarka eigi þjálfun stærstu líkananna, tiltekna getu, aðgang að verkfærum eða notkun í ákveðnum verkefnum.

Alþjóðlegir samningar þurfa líka meira en góðan vilja. Ríki sem samþykkir takmörkun þarf að geta metið hvort keppinauturinn fari eftir henni. Að greina brot er síðan annað en að hafa vald til að bregðast við því.

Rannsókn Oxford Martin AI Governance Initiative frá júlí 2025 telur sannprófun sumra hugsanlegra gervigreindarsamninga tæknilega mögulega. Hún lýsir meðal annars sérhæfðum eftirlitsbúnaði í gagnaverum, en bendir á þörf fyrir fjárfestingar og bæði tæknilegar og pólitískar hindranir. Þetta er rannsóknarmat á mögulegum leiðum, ekki tilbúið alþjóðlegt eftirlitskerfi. [7]

Tristan Harris hefur einnig rætt slíkar leiðir opinberlega við sérfræðingana Tim Fist og Janet Egan. Kjarninn er að sannprófanlegar upplýsingar geti skapað grundvöll fyrir samninga þar sem traust eitt nægir ekki. [8]

Raunhæf umræða þarf því að byrja á afmörkun. Hvað ætlum við að sannreyna? Hver má skoða það? Og hvaða afleiðingar hefur það að brjóta reglurnar?

Reykjavík getur verið vettvangur en ekki töfralausn

Nú eru fjörutíu ár frá fundi Ronalds Reagan og Míkhaíls Gorbatsjovs í Reykjavík. Viðræður þeirra í október 1986 urðu mikilvægur áfangi á leið að INF-samningnum sem var undirritaður í desember 1987. Í honum voru ítarleg ákvæði um upplýsingaskipti og vettvangseftirlit. Reykjavík varð ekki að töfralausn; pólitískum skrefum þurfti að fylgja eftir með samningavinnu og sannprófun. [9]

Líkingin við gervigreind hefur takmörk. Hugbúnað má afrita og breyta á annan hátt en eldflaugum. Fyrirtæki hafa annað hlutverk í þróuninni en ríki ein. Og tæknin þjónar margvíslegum friðsamlegum tilgangi.

Lærdómurinn er því ekki að endurtaka kjarnorkusamninga orðrétt. Hann er að samkeppni og samstarf útiloka ekki hvort annað, en samstarf verður trúverðugra þegar hægt er að sannreyna hvað samið er um.

Ísland getur lagt til vettvang, þekkingu og skýrar kröfur í eigin innkaupum. Landið þarf ekki að smíða öflugasta líkan heims til að standa vörð um eigin gögn og lykilkerfi. Það þarf hins vegar að geta yfirfarið þjónustuna sem það treystir á, haldið starfsemi gangandi við bilun og skipt um birgja þegar þess þarf.

Hver á að vinna?

Heita stríðið þarf ekki að enda með því að aðeins eitt ríki eða eitt fyrirtæki vinni. Gervigreind getur skapað ávinning sem fleiri njóta. En það gerist ekki sjálfkrafa vegna þess að líkönin verða öflugri.

Ef árangur er eingöngu skilgreindur sem forskot á keppinaut verður erfitt að stöðva verkefni sem enginn hefur sýnt fram á að sé öruggt. Öryggi getur þá virst vera kostnaður þess sem tekur það alvarlega, en hraðinn umbun þess sem gerir það ekki.

Þar liggur pólitíska og efnahagslega áskorunin: að gera ábyrgð að skilyrði fyrir samkeppni, en ekki að samkeppnisókosti.

Spurningin er ekki aðeins hver vinnur gervigreindarkapphlaupið. Hún er hvort við getum ákveðið sameiginlega hvað telst sigur.

Höfundur er sérfræðingur í samstarfi

Heimildir

[1] Bandarísk stjórnvöld: America's AI Action Plan, júlí 2025 — yfirlýst markmið, innviðir og alþjóðleg stefna

[2] Kínverska sendinefndin hjá SÞ: Global AI Governance Action Plan, 26. júlí 2025

[3] IEA: Key Questions on Energy and AI, 2026 — mat á raforkunotkun 2025 og miðspá fyrir 2030

[4] Landsvirkjun: Gagnaver í leit að orku, 17. október 2025 — sjónarmið orkuframleiðanda

[5] Brynjolfsson, Li og Raymond: Generative AI at Work — rannsókn á framleiðni þjónustufulltrúa

[6] Anthropic: Agentic misalignment, 20. júní 2025 — stýrðar hermitilraunir og takmarkanir

[7] Oxford Martin AI Governance Initiative: Verification for International AI Governance, 3. júlí 2025

[8] Center for Humane Technology: We Need AI Treaties. This is How We Get Them, 18. júní 2026 — opinbert samtal Harris, Fist og Egan

[9] Bandaríska utanríkisráðuneytið: INF-samningurinn, sögulegt samhengi og eftirlitsákvæði

[10] NIST: Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile, júlí 2024 — prófanir, áhættuviðmið og stöðvun óásættanlegrar áhættu