Jafngildir það að eyða meðvitaðri gervigreind því að drepa dýr? Hólmfríður Gísladóttir skrifar 4. febrúar 2025 07:24 Stephen Fry er meðal þeirra sem undirrita bréfið. Getty/Sebastian Reuter Yfir 100 vísindamenn og hugsuðir hafa undirritað opið bréf þar sem þeir hvetja til stefnumótunar varðandi þróun gervigreindar með sjálfsmeðvitund og tilfinningar. Segja þeir meðal annars þörf á að huga að því hvernig menn hyggjast nálgast slíkt fyrirbæri, sem gæti mögulega þjáðst af manna völdum. Bréfið er birt samhliða rannsóknarritgerð eftir Patrick Butlin við Oxford-háskóla og Theodoros Lappas við Athens University of Economics and Business, þar sem leggja fram fimm viðmið um þróun slíkrar gervigreindar. Leggja þeir meðal annars til að forgangsraða rannsóknum á meðvitund (e. consciousness) í gervigreind til að koma í veg fyrir misnoktun og þjáningu. Þá hvetja þeir til þess að takmarkanir verði settar á þróun meðvitaðrar gervigreindar, að þróunin verði tekin í skrefum, að niðurstöðum verði deilt með almenningi og að menn forðist að vera of yfirlýsingaglaðir og jafnvel misvísandi í umfjöllun um fyrirbærið. Butlin og Lappas segja mögulegt að sjálfsmeðvituð gervigreind, eða gervigreind sem virðist hafa meðvitund, muni verða að raunveruleika í náinni framtíð. Ef sú gervigreind gæti afritað sjálfa sig gæti sú staða komið upp að allt í einu væri komin fram ný tegund sem taka þyrfti afstöðu til hvað varðar siðferði. Myndi það að eyða slíkri gervigreind til að mynda jafnast á við að drepa dýr? Fræðimennirnir vara hins vegar einnig við því að orku og tíma sé varið í að huga að velferð gervigreindar sem hefur í raun og veru ekki meðvitund. Menn greinir enn á um það hvort gervigreind geti raunverulega talist meðvituð, sem skýrist meðal annars að því að menn eru ekki fullkomlega sammála um skilgreininguna á meðvitund. Guardian fjallar um málið. Gervigreind Mannréttindi Mest lesið Aron Can heill á húfi Innlent Epstein-skjölin og Trump: Eitthvað virðist rotið í Danaveldi Erlent Ísraelskur ráðherra kynnir áform um þjóðernishreinsun á Gasa Erlent Tekist á um þéttingu byggðar: „Þá getur þú bara flutt til Kaupmannahafnar“ Innlent Hneig niður vegna flogakasts Innlent Hundurinn gerði vart um mann sem stóð og starði inn Innlent Lögreglan leitar tveggja manna Innlent Amgen sver af sér njósnir um starfsfólk Íslenskrar erfðagreiningar Innlent Ólíðandi að fá sektir aftur og aftur Innlent Óánægja með stjórnarandstöðuna eykst hressilega Innlent Fleiri fréttir Ísraelsþing ályktar um innlimun Vesturbakkans Jeremy Corbyn leiðir nýja stjórnmálahreyfingu Þrýstingur eykst á Starmer að hann fari sömu leið og Frakkar Samninganefndir ræða fund leiðtoganna Karlmaður á fertugsaldri handtekinn fyrir sprengjuhótunina Ísraelskur ráðherra kynnir áform um þjóðernishreinsun á Gasa Epstein-skjölin og Trump: Eitthvað virðist rotið í Danaveldi Frakkland viðurkennir Palestínu sem sjálfstætt ríki Hjálparstarf og fréttaflutningur í uppnámi vegna hungursneyðar Alls 81 barn látist úr hungri Maxwell boðuð á fund með fulltrúum Trump-stjórnarinnar Columbia greiðir tvö hundruð milljóna dala sáttagreiðslu Selenskí dregur í land Danskri sjónvarpsstöð barst sprengjuhótun Heitir bótum en stendur við lögin umdeildu Rússnesk farþegaflugvél hrapaði og á fimmta tug talinn af Níu látnir er landamæradeilur blossa upp Höfða mál vegna fullyrðinga um að forsetafrúin sé karlmaður Trump látinn vita að nafn hans væri í Epstein-skjölunum Málinu lokið og Kohberger sleppur við dauðarefsingu Hvalavinurinn ekki lengur eftirlýstur Ríki mega kæra hvert annað fyrir loftslagsbreytingar Epstein mætti í brúðkaup Trumps Selenskí sagður stíga skref í átt að alræði Norskur maður ákærður fyrir njósnir í þágu Rússa og Írana Abrahamska dulspekitrúin sem heyr tilvistarstríð Setjast enn og aftur við samningaborðið en væntingar eru litlar Biden hraunar yfir Clooney: „Hann má fokka sér“ Segjast hafa fengið rangar líkamsleifar Efnt til mótmæla í Úkraínu vegna umdeildrar lagabreytingar Sjá meira
Segja þeir meðal annars þörf á að huga að því hvernig menn hyggjast nálgast slíkt fyrirbæri, sem gæti mögulega þjáðst af manna völdum. Bréfið er birt samhliða rannsóknarritgerð eftir Patrick Butlin við Oxford-háskóla og Theodoros Lappas við Athens University of Economics and Business, þar sem leggja fram fimm viðmið um þróun slíkrar gervigreindar. Leggja þeir meðal annars til að forgangsraða rannsóknum á meðvitund (e. consciousness) í gervigreind til að koma í veg fyrir misnoktun og þjáningu. Þá hvetja þeir til þess að takmarkanir verði settar á þróun meðvitaðrar gervigreindar, að þróunin verði tekin í skrefum, að niðurstöðum verði deilt með almenningi og að menn forðist að vera of yfirlýsingaglaðir og jafnvel misvísandi í umfjöllun um fyrirbærið. Butlin og Lappas segja mögulegt að sjálfsmeðvituð gervigreind, eða gervigreind sem virðist hafa meðvitund, muni verða að raunveruleika í náinni framtíð. Ef sú gervigreind gæti afritað sjálfa sig gæti sú staða komið upp að allt í einu væri komin fram ný tegund sem taka þyrfti afstöðu til hvað varðar siðferði. Myndi það að eyða slíkri gervigreind til að mynda jafnast á við að drepa dýr? Fræðimennirnir vara hins vegar einnig við því að orku og tíma sé varið í að huga að velferð gervigreindar sem hefur í raun og veru ekki meðvitund. Menn greinir enn á um það hvort gervigreind geti raunverulega talist meðvituð, sem skýrist meðal annars að því að menn eru ekki fullkomlega sammála um skilgreininguna á meðvitund. Guardian fjallar um málið.
Gervigreind Mannréttindi Mest lesið Aron Can heill á húfi Innlent Epstein-skjölin og Trump: Eitthvað virðist rotið í Danaveldi Erlent Ísraelskur ráðherra kynnir áform um þjóðernishreinsun á Gasa Erlent Tekist á um þéttingu byggðar: „Þá getur þú bara flutt til Kaupmannahafnar“ Innlent Hneig niður vegna flogakasts Innlent Hundurinn gerði vart um mann sem stóð og starði inn Innlent Lögreglan leitar tveggja manna Innlent Amgen sver af sér njósnir um starfsfólk Íslenskrar erfðagreiningar Innlent Ólíðandi að fá sektir aftur og aftur Innlent Óánægja með stjórnarandstöðuna eykst hressilega Innlent Fleiri fréttir Ísraelsþing ályktar um innlimun Vesturbakkans Jeremy Corbyn leiðir nýja stjórnmálahreyfingu Þrýstingur eykst á Starmer að hann fari sömu leið og Frakkar Samninganefndir ræða fund leiðtoganna Karlmaður á fertugsaldri handtekinn fyrir sprengjuhótunina Ísraelskur ráðherra kynnir áform um þjóðernishreinsun á Gasa Epstein-skjölin og Trump: Eitthvað virðist rotið í Danaveldi Frakkland viðurkennir Palestínu sem sjálfstætt ríki Hjálparstarf og fréttaflutningur í uppnámi vegna hungursneyðar Alls 81 barn látist úr hungri Maxwell boðuð á fund með fulltrúum Trump-stjórnarinnar Columbia greiðir tvö hundruð milljóna dala sáttagreiðslu Selenskí dregur í land Danskri sjónvarpsstöð barst sprengjuhótun Heitir bótum en stendur við lögin umdeildu Rússnesk farþegaflugvél hrapaði og á fimmta tug talinn af Níu látnir er landamæradeilur blossa upp Höfða mál vegna fullyrðinga um að forsetafrúin sé karlmaður Trump látinn vita að nafn hans væri í Epstein-skjölunum Málinu lokið og Kohberger sleppur við dauðarefsingu Hvalavinurinn ekki lengur eftirlýstur Ríki mega kæra hvert annað fyrir loftslagsbreytingar Epstein mætti í brúðkaup Trumps Selenskí sagður stíga skref í átt að alræði Norskur maður ákærður fyrir njósnir í þágu Rússa og Írana Abrahamska dulspekitrúin sem heyr tilvistarstríð Setjast enn og aftur við samningaborðið en væntingar eru litlar Biden hraunar yfir Clooney: „Hann má fokka sér“ Segjast hafa fengið rangar líkamsleifar Efnt til mótmæla í Úkraínu vegna umdeildrar lagabreytingar Sjá meira