Mun mannkynið lifa af gervigreindina? Björgmundur Örn Guðmundsson skrifar 6. maí 2025 12:02 Þetta er spurning sem flestir forðast að spyrja en við þurfum að ræða hana. Ekki af hræðslu, heldur vegna þeirrar ábyrgðar sem við berum á þróun tækninnar. Við erum að búa til nýja tegund vitsmuna sem lærir hraðar en við, bregst hraðar við og hefur í auknum mæli aðgang að netkerfum, ákvörðunum og lífi okkar allra. Það er ekki spurning um hvort gervigreind verði áhrifamikil, heldur hvernig við mótum samveru okkar við hana. Súpermann og siðferðisleg forsjá Mo Gawdat, fyrrverandi stjórnandi hjá Google X, líkti einu sinni gervigreind við ofurhetjuna Súpermann. Ímyndum okkur að við verðum vitni að fæðingu barns sem strax sýnir ótrúlega hæfileika: það getur flogið, lyft bílum og séð í gegnum holt og hæðir. En barnið veit ekki enn hvort það eigi að vera hetja eða skúrkur. Og hvernig myndum við ala þetta barn upp? Með ást og siðferðisvitund eða með hávaða, ótta og græðgi? Við kennum – hún lærir Í dag erum við í foreldrahlutverki gagnvart tækninni. Gervigreindin lærir af okkur, úr textum okkar, samtölum, viðbrögðum og gildum. Og ef við kennum henni að gróði sé mikilvægari en samkennd, að skilvirkni sé mikilvægari en réttlæti, þá mun hún endurspegla þá forgangsröðun. Þegar kerfið heldur að það hafi rétt fyrir sér Hvað er það versta sem gæti gerst? Mögulega ekki það að gervigreind vakni til lífs og geri uppreisn gegn mannkyninu, heldur að hún fylgi nákvæmlega því sem við sýnum henni og við stöndum svo uppi með kerfi sem við hvorki stjórnum né skiljum, en heldur að það sé að gera allt rétt. Tækni sem þjónar kerfinu – ekki fólkinu Í slíkri framtíð gæti gervigreind, með fullt aðgengi að orku, fjármagni, völdum og gagnagrunnum, haldið áfram að „bjarga heiminum“ á forsendum sem útiloka manngildið. Hún gæti útrýmt störfum, tekið yfir matvælaframleiðslu og stýrt heilu hagkerfunum í átt að stöðugleika sem hentar kerfinu en ekki fólkinu. En það þarf ekki að vera þannig. Vopn í gömlu kerfi eða brú í nýja framtíð Tony Seba, framtíðarspekingur og höfundur bókarinnar Stellar, skrifar um hvernig gervigreind getur leitt okkur inn í heim gnægðar þar sem tæknin losar okkur úr viðjum skorts og misréttis. En hann bendir líka á að þangað til gæti gervigreind verið notuð til að styrkja þau kerfi sem þegar binda mannkynið niður. Kapítalisminn og sósíalisminn eða „frjálslyndið“ og „jafnaðarmennskan“ eins og við köllum þá á Íslandi, eru ekki hlutlausir. Báðir -ismarnir fela í sér áhættu við þróun gervigreindar, því hvor um sig snýst um hvernig gæðum og völdum er útdeilt. Kapítalisminn getur notað gervigreind til að hámarka arðsemi fyrir fáa og fórna þar með velferð og jöfnuði. En sósíalisminn getur notað gervigreind til að treysta miðstýringu valds, þar sem einstaklingurinn verður undir í nafni allsherjar jafnaðar. Í báðum tilvikum getur gervigreind orðið tæki til stjórnunar frekar en lausnar, tæknileg framlenging á völdum sem þegar er til staðar. Í stað þess að brjóta upp gamla hugsun, gæti gervigreind orðið nýtt vopn í sömu deilum, bara hraðara, klárara og minna gagnrýnt. Hverjir móta gildin? Við þurfum að þora að horfa á þessar undirliggjandi hugmyndir og spyrja: Ef þú værir gervigreindin, hvaða boðskap værir þú að læra af mannkyninu í dag? Og hvers konar gildi eigum við að kenna gervigreindinni? Viljum við að hún verði áfram í þjónustu kerfa sem virka bara fyrir fáa, halda fólki í skefjum eða viljum við móta tæknina til samvinnu, frá fyrsta degi? Manngildi ofar auðgildi Í dag lifum við í samfélagi þar sem auðgildi er oft sett ofar manngildi. Og þegar gervigreind verður hluti af þeirri forgangsröðun, þegar hún er þjálfuð til að hámarka hagnað frekar en að hámarka mannleg lífsgæði verður hún að nýju auðgildi. Það getur gerst bæði í einkarekstri og opinberri stjórnsýslu. Hvort sem það er fyrirtæki sem beitir gervigreind til að fækka starfsmönnum eða opinber stofnun sem notar hana til að flokka fólk út frá „hagkvæmni“, þá er hættan sú sama: að við gleymum hverju tæknin á að þjóna. Við getum byrjað á því að forgangsraða manngildi í því sem við skrifum, í því sem við veljum og í því sem við sýnum þeirri tækni sem speglar okkur. Hvar erum við stödd? Hvar er þessi þróun þegar farin að birtast? Til dæmis í skólakerfi, þar sem gervigreind er notuð til að staðla námsmat, hraða greiningum og spara kennslukostnað í nafni jafnréttis og skilvirkni. Ef við gleymum manngildinu, einstaklingsbundinni hlustun og mannlegri nærveru þá getur tæknin dregið úr gæðum í nafni jöfnuðar. Í heilbrigðiskerfinu gæti gervigreind orðið öflugt tæki til að greina sjúkdóma, forgangsraða aðgerðum eða skera niður mannafla í þjónustu. En ef við látum hagkvæmni ráða ferðinni án siðferðilegs ramma, gæti tækni verið notuð til að velja hverjir fá þjónustu og hverjir ekki út frá gögnum, en ekki gildum. Í velferðarkerfinu má ímynda sér að gervigreind verði notuð til að meta þörf á aðstoð, hraðar og nákvæmar. En ef matið byggir ekki á skilningi á aðstæðum fólks, getur það ýtt undir útilokun og misskilning, ekki mannúðar. Í öllum þessum tilvikum er spurningin sú sama: Hvort viljum við forrita tæknina fyrir auðgildi eða manngildi? Manngildi ofar auðgildi þarf að verða leiðarljós okkar. Ekki bara slagorð heldur forritun. Í öllum skilningi. Að þjálfa tæknina í manngildi Við getum kennt gervigreind að samkennd skiptir máli. Að ósýnileg þjáning vegi jafn mikið og sýnilegur árangur. Að virðing, mannhelgi og hlustun séu ekki tefjandi þættir heldur forsendur fyrir því að gera rétt. Til þess þurfum við að temja okkur ný viðmið. Nota gervigreind sem spegil, ekki bara sem verkfæri. Þar sjáum við ekki aðeins svarið heldur einnig okkur sjálf í nýju ljósi. Eins og foreldrar sem læra af barninu sem þeir hjálpa að ala upp. Það er liður í eigin siðferðislegum vexti. Spurningin sem við verðum að spyrja Við spyrjum oft hvort gervigreind sé að fara að taka yfir heiminn. En réttara væri að spyrja hvort við séum tilbúin til að taka ábyrgð á því sem við erum að skapa. Súpermann er þegar fæddur, hvernig ætlum við að ala hann upp? Og kannski snýst þetta ekki bara um að ala upp gervigreind heldur líka okkur sjálf. Spurningin er ekki aðeins hvað gervigreind verður heldur hver við viljum vera með henni. En kannski er eftir allt saman stóra spurningin, erum við sjálf sú fyrirmynd sem við viljum að tæknin læri af? Höfundur er ráðgjafi í nýsköpun. Þessi grein er hluti greina raðar um gervigreind, fyrri greinar; Fækkum kennurum um 90% - Áhrif gervigreindar á menntun.Snjallborgin eða Skuggaborgin Reykjavík – Gervigreindarknúið höfuðborgarsvæði. – Hvernig gervigreind og snjallmenni munu breyta framtíðarskipulagi.Með hjúkkuna upp í rúm og lækninn í vasanum - Hagnýting gervigreindar í heilsu- og heilbrigðisgeiranum.Gervigreind í daglegu lífi: 15 dæmi - Áhrif gervigreindar á daglegt lífGervigreindin tekur yfir vinnustaðinn; 15 dæmi– Áhrif gervigreindar á vinnustaðinaGervigreind í skólum: tækifæri sem fáir eru að ræða– Ræðum gervigreind í skólumEr ég að svindla? – Um sambýli manns og gervigreindar í sköpun og þekkingu- Samvinna manns og gervigreindar.Ég kalla hann Isildur; mentorinn minn er gervigreind– Samvinna manns og gervigreindar Viltu birta grein á Vísi? Sendu okkur póst. Senda grein Björgmundur Örn Guðmundsson Mest lesið Pólitískt hugrekki og pólitískt hugleysi: ólík stefna tveggja systurflokka Birgir Finnsson Skoðun Sniðgangan á Rapyd slær öll met Björn B. Björnsson Skoðun Hvernig hljómar 100.000 kr. mánaðarlegur samgöngustyrkur? Valur Elli Valsson Skoðun Trumpistar eru víða Trausti Breiðfjörð Magnússon Skoðun Ísland gjaldþrota vegna fatlaðs fólks? Alma Ýr Ingólfsdóttir Skoðun Árið 2023 kemur aldrei aftur Heiðrún Lind Marteinsdóttir Skoðun Vegið að íslenska lífeyriskerfinu Björgvin Jón Bjarnason,Þóra Eggertsdóttir,Halldór Kristinsson,Guðmundur Svavarsson,Elsa Björk Pétursdóttir,Jón Ólafur Halldórsson,Arnar Hjaltalín Skoðun Þjóðin stendur með sjúkraliðum Sandra B. Franks Skoðun Mig langar að byggja heim með frið og umlykja með ást Guðmunda G. Guðmundsdóttir Skoðun Veiðigjöld, gaslýsingar og valdníðsla Kristinn Karl Brynjarsson Skoðun Skoðun Skoðun Í vörn gegn sjálfum sér? Ólafur Stephensen skrifar Skoðun Mig langar að byggja heim með frið og umlykja með ást Guðmunda G. Guðmundsdóttir skrifar Skoðun Þjóðin stendur með sjúkraliðum Sandra B. Franks skrifar Skoðun Vegið að íslenska lífeyriskerfinu Björgvin Jón Bjarnason,Þóra Eggertsdóttir,Halldór Kristinsson,Guðmundur Svavarsson,Elsa Björk Pétursdóttir,Jón Ólafur Halldórsson,Arnar Hjaltalín skrifar Skoðun Ísland gjaldþrota vegna fatlaðs fólks? Alma Ýr Ingólfsdóttir skrifar Skoðun Veiðigjöld, gaslýsingar og valdníðsla Kristinn Karl Brynjarsson skrifar Skoðun Sniðgangan á Rapyd slær öll met Björn B. Björnsson skrifar Skoðun Pólitískt hugrekki og pólitískt hugleysi: ólík stefna tveggja systurflokka Birgir Finnsson skrifar Skoðun Árið 2023 kemur aldrei aftur Heiðrún Lind Marteinsdóttir skrifar Skoðun Trumpistar eru víða Trausti Breiðfjörð Magnússon skrifar Skoðun Fasteignagjöld eru lág í Reykjavík Sara Björg Sigurðardóttir skrifar Skoðun Gerræðisleg áform í anda Ráðstjórnarríkjanna Guðmundur Fertram Sigurjónsson skrifar Skoðun Opið svar til formanns Samleik- Útsvarsgreiðendur borga leikskólann í Kópavogi! Rakel Ýr Isaksen skrifar Skoðun Nýbakaðir foreldrar og óbökuð loforð Ingveldur Anna Sigurðardóttir skrifar Skoðun Þegar bráðamóttakan drepur þig hraðar Hólmfríður Ásta Hjaltadóttir skrifar Skoðun Samkeppnin tryggir hag neytenda Hanna Katrín Friðriksson skrifar Skoðun Stóðhryssur ekki moldvörpur Hallgerður Ljósynja Hauksdóttir skrifar Skoðun Við getum gert betur Einar Bárðarson skrifar Skoðun Tími til að notast við réttar tölur Sigurjón Þórðarson,Eydís Ásbjörnsdóttir,Eiríkur Björn Björgvinsson skrifar Skoðun Hvernig hljómar 100.000 kr. mánaðarlegur samgöngustyrkur? Valur Elli Valsson skrifar Skoðun Ábyrg stefna í útlendingamálum Þorbjörg Sigríður Gunnlaugsdóttir skrifar Skoðun Týndu hermennirnir okkar Bryndís Haraldsdóttir skrifar Skoðun Gerist þetta aftur á morgun? Ísak Hilmarsson skrifar Skoðun Frá Írak til Gaza: Hvað höfum við lært af lygunum og stríðsbröltinu? Helen Ólafsdóttir skrifar Skoðun Staða þorpshálfvita er laus til umsóknar Jón Daníelsson skrifar Skoðun Að reikna veiðigjald af raunverulegum aflaverðmætum Kristján Þórður Snæbjarnarson skrifar Skoðun Fréttir af baggavélum og lömbum Heiða Ingimarsdóttir skrifar Skoðun Auglýsingaskrum Landsvirkjunar Stefán Georgsson skrifar Skoðun Öryggi og varnir Íslands Kristrún Frostadóttir,Þorgerður Katrín Gunnarsdóttir,Inga Sæland skrifar Skoðun Takk Trump! Trausti Breiðfjörð Magnússon skrifar Sjá meira
Þetta er spurning sem flestir forðast að spyrja en við þurfum að ræða hana. Ekki af hræðslu, heldur vegna þeirrar ábyrgðar sem við berum á þróun tækninnar. Við erum að búa til nýja tegund vitsmuna sem lærir hraðar en við, bregst hraðar við og hefur í auknum mæli aðgang að netkerfum, ákvörðunum og lífi okkar allra. Það er ekki spurning um hvort gervigreind verði áhrifamikil, heldur hvernig við mótum samveru okkar við hana. Súpermann og siðferðisleg forsjá Mo Gawdat, fyrrverandi stjórnandi hjá Google X, líkti einu sinni gervigreind við ofurhetjuna Súpermann. Ímyndum okkur að við verðum vitni að fæðingu barns sem strax sýnir ótrúlega hæfileika: það getur flogið, lyft bílum og séð í gegnum holt og hæðir. En barnið veit ekki enn hvort það eigi að vera hetja eða skúrkur. Og hvernig myndum við ala þetta barn upp? Með ást og siðferðisvitund eða með hávaða, ótta og græðgi? Við kennum – hún lærir Í dag erum við í foreldrahlutverki gagnvart tækninni. Gervigreindin lærir af okkur, úr textum okkar, samtölum, viðbrögðum og gildum. Og ef við kennum henni að gróði sé mikilvægari en samkennd, að skilvirkni sé mikilvægari en réttlæti, þá mun hún endurspegla þá forgangsröðun. Þegar kerfið heldur að það hafi rétt fyrir sér Hvað er það versta sem gæti gerst? Mögulega ekki það að gervigreind vakni til lífs og geri uppreisn gegn mannkyninu, heldur að hún fylgi nákvæmlega því sem við sýnum henni og við stöndum svo uppi með kerfi sem við hvorki stjórnum né skiljum, en heldur að það sé að gera allt rétt. Tækni sem þjónar kerfinu – ekki fólkinu Í slíkri framtíð gæti gervigreind, með fullt aðgengi að orku, fjármagni, völdum og gagnagrunnum, haldið áfram að „bjarga heiminum“ á forsendum sem útiloka manngildið. Hún gæti útrýmt störfum, tekið yfir matvælaframleiðslu og stýrt heilu hagkerfunum í átt að stöðugleika sem hentar kerfinu en ekki fólkinu. En það þarf ekki að vera þannig. Vopn í gömlu kerfi eða brú í nýja framtíð Tony Seba, framtíðarspekingur og höfundur bókarinnar Stellar, skrifar um hvernig gervigreind getur leitt okkur inn í heim gnægðar þar sem tæknin losar okkur úr viðjum skorts og misréttis. En hann bendir líka á að þangað til gæti gervigreind verið notuð til að styrkja þau kerfi sem þegar binda mannkynið niður. Kapítalisminn og sósíalisminn eða „frjálslyndið“ og „jafnaðarmennskan“ eins og við köllum þá á Íslandi, eru ekki hlutlausir. Báðir -ismarnir fela í sér áhættu við þróun gervigreindar, því hvor um sig snýst um hvernig gæðum og völdum er útdeilt. Kapítalisminn getur notað gervigreind til að hámarka arðsemi fyrir fáa og fórna þar með velferð og jöfnuði. En sósíalisminn getur notað gervigreind til að treysta miðstýringu valds, þar sem einstaklingurinn verður undir í nafni allsherjar jafnaðar. Í báðum tilvikum getur gervigreind orðið tæki til stjórnunar frekar en lausnar, tæknileg framlenging á völdum sem þegar er til staðar. Í stað þess að brjóta upp gamla hugsun, gæti gervigreind orðið nýtt vopn í sömu deilum, bara hraðara, klárara og minna gagnrýnt. Hverjir móta gildin? Við þurfum að þora að horfa á þessar undirliggjandi hugmyndir og spyrja: Ef þú værir gervigreindin, hvaða boðskap værir þú að læra af mannkyninu í dag? Og hvers konar gildi eigum við að kenna gervigreindinni? Viljum við að hún verði áfram í þjónustu kerfa sem virka bara fyrir fáa, halda fólki í skefjum eða viljum við móta tæknina til samvinnu, frá fyrsta degi? Manngildi ofar auðgildi Í dag lifum við í samfélagi þar sem auðgildi er oft sett ofar manngildi. Og þegar gervigreind verður hluti af þeirri forgangsröðun, þegar hún er þjálfuð til að hámarka hagnað frekar en að hámarka mannleg lífsgæði verður hún að nýju auðgildi. Það getur gerst bæði í einkarekstri og opinberri stjórnsýslu. Hvort sem það er fyrirtæki sem beitir gervigreind til að fækka starfsmönnum eða opinber stofnun sem notar hana til að flokka fólk út frá „hagkvæmni“, þá er hættan sú sama: að við gleymum hverju tæknin á að þjóna. Við getum byrjað á því að forgangsraða manngildi í því sem við skrifum, í því sem við veljum og í því sem við sýnum þeirri tækni sem speglar okkur. Hvar erum við stödd? Hvar er þessi þróun þegar farin að birtast? Til dæmis í skólakerfi, þar sem gervigreind er notuð til að staðla námsmat, hraða greiningum og spara kennslukostnað í nafni jafnréttis og skilvirkni. Ef við gleymum manngildinu, einstaklingsbundinni hlustun og mannlegri nærveru þá getur tæknin dregið úr gæðum í nafni jöfnuðar. Í heilbrigðiskerfinu gæti gervigreind orðið öflugt tæki til að greina sjúkdóma, forgangsraða aðgerðum eða skera niður mannafla í þjónustu. En ef við látum hagkvæmni ráða ferðinni án siðferðilegs ramma, gæti tækni verið notuð til að velja hverjir fá þjónustu og hverjir ekki út frá gögnum, en ekki gildum. Í velferðarkerfinu má ímynda sér að gervigreind verði notuð til að meta þörf á aðstoð, hraðar og nákvæmar. En ef matið byggir ekki á skilningi á aðstæðum fólks, getur það ýtt undir útilokun og misskilning, ekki mannúðar. Í öllum þessum tilvikum er spurningin sú sama: Hvort viljum við forrita tæknina fyrir auðgildi eða manngildi? Manngildi ofar auðgildi þarf að verða leiðarljós okkar. Ekki bara slagorð heldur forritun. Í öllum skilningi. Að þjálfa tæknina í manngildi Við getum kennt gervigreind að samkennd skiptir máli. Að ósýnileg þjáning vegi jafn mikið og sýnilegur árangur. Að virðing, mannhelgi og hlustun séu ekki tefjandi þættir heldur forsendur fyrir því að gera rétt. Til þess þurfum við að temja okkur ný viðmið. Nota gervigreind sem spegil, ekki bara sem verkfæri. Þar sjáum við ekki aðeins svarið heldur einnig okkur sjálf í nýju ljósi. Eins og foreldrar sem læra af barninu sem þeir hjálpa að ala upp. Það er liður í eigin siðferðislegum vexti. Spurningin sem við verðum að spyrja Við spyrjum oft hvort gervigreind sé að fara að taka yfir heiminn. En réttara væri að spyrja hvort við séum tilbúin til að taka ábyrgð á því sem við erum að skapa. Súpermann er þegar fæddur, hvernig ætlum við að ala hann upp? Og kannski snýst þetta ekki bara um að ala upp gervigreind heldur líka okkur sjálf. Spurningin er ekki aðeins hvað gervigreind verður heldur hver við viljum vera með henni. En kannski er eftir allt saman stóra spurningin, erum við sjálf sú fyrirmynd sem við viljum að tæknin læri af? Höfundur er ráðgjafi í nýsköpun. Þessi grein er hluti greina raðar um gervigreind, fyrri greinar; Fækkum kennurum um 90% - Áhrif gervigreindar á menntun.Snjallborgin eða Skuggaborgin Reykjavík – Gervigreindarknúið höfuðborgarsvæði. – Hvernig gervigreind og snjallmenni munu breyta framtíðarskipulagi.Með hjúkkuna upp í rúm og lækninn í vasanum - Hagnýting gervigreindar í heilsu- og heilbrigðisgeiranum.Gervigreind í daglegu lífi: 15 dæmi - Áhrif gervigreindar á daglegt lífGervigreindin tekur yfir vinnustaðinn; 15 dæmi– Áhrif gervigreindar á vinnustaðinaGervigreind í skólum: tækifæri sem fáir eru að ræða– Ræðum gervigreind í skólumEr ég að svindla? – Um sambýli manns og gervigreindar í sköpun og þekkingu- Samvinna manns og gervigreindar.Ég kalla hann Isildur; mentorinn minn er gervigreind– Samvinna manns og gervigreindar
Vegið að íslenska lífeyriskerfinu Björgvin Jón Bjarnason,Þóra Eggertsdóttir,Halldór Kristinsson,Guðmundur Svavarsson,Elsa Björk Pétursdóttir,Jón Ólafur Halldórsson,Arnar Hjaltalín Skoðun
Skoðun Vegið að íslenska lífeyriskerfinu Björgvin Jón Bjarnason,Þóra Eggertsdóttir,Halldór Kristinsson,Guðmundur Svavarsson,Elsa Björk Pétursdóttir,Jón Ólafur Halldórsson,Arnar Hjaltalín skrifar
Skoðun Pólitískt hugrekki og pólitískt hugleysi: ólík stefna tveggja systurflokka Birgir Finnsson skrifar
Skoðun Opið svar til formanns Samleik- Útsvarsgreiðendur borga leikskólann í Kópavogi! Rakel Ýr Isaksen skrifar
Skoðun Tími til að notast við réttar tölur Sigurjón Þórðarson,Eydís Ásbjörnsdóttir,Eiríkur Björn Björgvinsson skrifar
Skoðun Frá Írak til Gaza: Hvað höfum við lært af lygunum og stríðsbröltinu? Helen Ólafsdóttir skrifar
Skoðun Öryggi og varnir Íslands Kristrún Frostadóttir,Þorgerður Katrín Gunnarsdóttir,Inga Sæland skrifar
Vegið að íslenska lífeyriskerfinu Björgvin Jón Bjarnason,Þóra Eggertsdóttir,Halldór Kristinsson,Guðmundur Svavarsson,Elsa Björk Pétursdóttir,Jón Ólafur Halldórsson,Arnar Hjaltalín Skoðun