Jafngildir það að eyða meðvitaðri gervigreind því að drepa dýr? Hólmfríður Gísladóttir skrifar 4. febrúar 2025 07:24 Stephen Fry er meðal þeirra sem undirrita bréfið. Getty/Sebastian Reuter Yfir 100 vísindamenn og hugsuðir hafa undirritað opið bréf þar sem þeir hvetja til stefnumótunar varðandi þróun gervigreindar með sjálfsmeðvitund og tilfinningar. Segja þeir meðal annars þörf á að huga að því hvernig menn hyggjast nálgast slíkt fyrirbæri, sem gæti mögulega þjáðst af manna völdum. Bréfið er birt samhliða rannsóknarritgerð eftir Patrick Butlin við Oxford-háskóla og Theodoros Lappas við Athens University of Economics and Business, þar sem leggja fram fimm viðmið um þróun slíkrar gervigreindar. Leggja þeir meðal annars til að forgangsraða rannsóknum á meðvitund (e. consciousness) í gervigreind til að koma í veg fyrir misnoktun og þjáningu. Þá hvetja þeir til þess að takmarkanir verði settar á þróun meðvitaðrar gervigreindar, að þróunin verði tekin í skrefum, að niðurstöðum verði deilt með almenningi og að menn forðist að vera of yfirlýsingaglaðir og jafnvel misvísandi í umfjöllun um fyrirbærið. Butlin og Lappas segja mögulegt að sjálfsmeðvituð gervigreind, eða gervigreind sem virðist hafa meðvitund, muni verða að raunveruleika í náinni framtíð. Ef sú gervigreind gæti afritað sjálfa sig gæti sú staða komið upp að allt í einu væri komin fram ný tegund sem taka þyrfti afstöðu til hvað varðar siðferði. Myndi það að eyða slíkri gervigreind til að mynda jafnast á við að drepa dýr? Fræðimennirnir vara hins vegar einnig við því að orku og tíma sé varið í að huga að velferð gervigreindar sem hefur í raun og veru ekki meðvitund. Menn greinir enn á um það hvort gervigreind geti raunverulega talist meðvituð, sem skýrist meðal annars að því að menn eru ekki fullkomlega sammála um skilgreininguna á meðvitund. Guardian fjallar um málið. Gervigreind Mannréttindi Mest lesið Bílstjórinn þrettán ára Innlent Föst í Portúgal: „Siðlaust“ að fljúga vélunum út í morgun Innlent Orrustuþotur yfir Borgundarhólmi og drónar trufla flug í Noregi Erlent Fyrrverandi landgönguliði drap að minnsta kosti fjóra í Michigan Erlent „Virðist bitna á saklausum ferðamönnum“ Innlent Adams hættir og Cuomo og Mamdani skiptast á skotum Erlent Vísað burtu af hóteli og svo handtekinn í sameign Innlent Fara yfir stöðuna vegna Play og skipuleggja sig Innlent „Óvænt og líka mjög leiðinlegt“ Innlent Evrópusinnar héldu meirihluta í Moldóvu Erlent Fleiri fréttir Adams hættir og Cuomo og Mamdani skiptast á skotum Fyrrverandi landgönguliði drap að minnsta kosti fjóra í Michigan Evrópusinnar héldu meirihluta í Moldóvu Orrustuþotur yfir Borgundarhólmi og drónar trufla flug í Noregi Fjöldi fórnarlamba eftir skothríð og íkveikju í kirkju mormóna Æðsti leiðtogi mormóna látinn Banna dróna yfir Danmörku Óttast úrbræðslu vegna rafmagnsleysis í kjarnorkuveri Sjálft lýðræðið undir er Moldóvar ganga til kosninga Vill fá Trump til að gefa Taívan upp á bátinn Segist hafa hafnað boði til einkaeyju Epsteins Árásir stóðu yfir í rúma tólf tíma Dróna- og skuggastríð í Evrópu: Hvað gengur Rússum til og hvað getur NATO gert? Sigar hernum á „hryðjuverkamenn“ í Portland Ráku starfsmenn FBI sem fóru á hnéð eftir morðið á Floyd Fundu leynilega sígarettuverksmiðju í neðanjarðarbyrgi Drónar sáust á flugi yfir herflugvelli í Danmörku og Noregi Ræningjar fjölmenntu með byssur og haka í skartgripabúð Musk, Thiel og Andrés nefndir í nýjum skjölum Epsteins Ætlar að peppa herforingjana á fundinum fordæmalausa Drónaútgerð?: Þingmaður hefur áhyggjur af rússneskum skipum við Færeyjar Fyrrverandi aðstoðarmaður forseta dæmdur fyrir njósnir Yfirgáfu salinn þegar Netanjahú hóf ræðu sína Tekinn af lífi fyrir að myrða stúlkubarn við „særingu“ Comey hvergi banginn þrátt fyrir ákæru Ekki hægt að staðfesta drónaflug við Álaborgarflugvöll Bandaríkjamenn sagðir vilja Tony Blair við stjórnvölinn á Gasa Segist ekki munu leyfa Ísrael að innlima Vesturbakkann Lofthelgi aftur lokað í Álaborg vegna drónaflugs James Comey ákærður vegna Rússarannsóknar Sjá meira
Segja þeir meðal annars þörf á að huga að því hvernig menn hyggjast nálgast slíkt fyrirbæri, sem gæti mögulega þjáðst af manna völdum. Bréfið er birt samhliða rannsóknarritgerð eftir Patrick Butlin við Oxford-háskóla og Theodoros Lappas við Athens University of Economics and Business, þar sem leggja fram fimm viðmið um þróun slíkrar gervigreindar. Leggja þeir meðal annars til að forgangsraða rannsóknum á meðvitund (e. consciousness) í gervigreind til að koma í veg fyrir misnoktun og þjáningu. Þá hvetja þeir til þess að takmarkanir verði settar á þróun meðvitaðrar gervigreindar, að þróunin verði tekin í skrefum, að niðurstöðum verði deilt með almenningi og að menn forðist að vera of yfirlýsingaglaðir og jafnvel misvísandi í umfjöllun um fyrirbærið. Butlin og Lappas segja mögulegt að sjálfsmeðvituð gervigreind, eða gervigreind sem virðist hafa meðvitund, muni verða að raunveruleika í náinni framtíð. Ef sú gervigreind gæti afritað sjálfa sig gæti sú staða komið upp að allt í einu væri komin fram ný tegund sem taka þyrfti afstöðu til hvað varðar siðferði. Myndi það að eyða slíkri gervigreind til að mynda jafnast á við að drepa dýr? Fræðimennirnir vara hins vegar einnig við því að orku og tíma sé varið í að huga að velferð gervigreindar sem hefur í raun og veru ekki meðvitund. Menn greinir enn á um það hvort gervigreind geti raunverulega talist meðvituð, sem skýrist meðal annars að því að menn eru ekki fullkomlega sammála um skilgreininguna á meðvitund. Guardian fjallar um málið.
Gervigreind Mannréttindi Mest lesið Bílstjórinn þrettán ára Innlent Föst í Portúgal: „Siðlaust“ að fljúga vélunum út í morgun Innlent Orrustuþotur yfir Borgundarhólmi og drónar trufla flug í Noregi Erlent Fyrrverandi landgönguliði drap að minnsta kosti fjóra í Michigan Erlent „Virðist bitna á saklausum ferðamönnum“ Innlent Adams hættir og Cuomo og Mamdani skiptast á skotum Erlent Vísað burtu af hóteli og svo handtekinn í sameign Innlent Fara yfir stöðuna vegna Play og skipuleggja sig Innlent „Óvænt og líka mjög leiðinlegt“ Innlent Evrópusinnar héldu meirihluta í Moldóvu Erlent Fleiri fréttir Adams hættir og Cuomo og Mamdani skiptast á skotum Fyrrverandi landgönguliði drap að minnsta kosti fjóra í Michigan Evrópusinnar héldu meirihluta í Moldóvu Orrustuþotur yfir Borgundarhólmi og drónar trufla flug í Noregi Fjöldi fórnarlamba eftir skothríð og íkveikju í kirkju mormóna Æðsti leiðtogi mormóna látinn Banna dróna yfir Danmörku Óttast úrbræðslu vegna rafmagnsleysis í kjarnorkuveri Sjálft lýðræðið undir er Moldóvar ganga til kosninga Vill fá Trump til að gefa Taívan upp á bátinn Segist hafa hafnað boði til einkaeyju Epsteins Árásir stóðu yfir í rúma tólf tíma Dróna- og skuggastríð í Evrópu: Hvað gengur Rússum til og hvað getur NATO gert? Sigar hernum á „hryðjuverkamenn“ í Portland Ráku starfsmenn FBI sem fóru á hnéð eftir morðið á Floyd Fundu leynilega sígarettuverksmiðju í neðanjarðarbyrgi Drónar sáust á flugi yfir herflugvelli í Danmörku og Noregi Ræningjar fjölmenntu með byssur og haka í skartgripabúð Musk, Thiel og Andrés nefndir í nýjum skjölum Epsteins Ætlar að peppa herforingjana á fundinum fordæmalausa Drónaútgerð?: Þingmaður hefur áhyggjur af rússneskum skipum við Færeyjar Fyrrverandi aðstoðarmaður forseta dæmdur fyrir njósnir Yfirgáfu salinn þegar Netanjahú hóf ræðu sína Tekinn af lífi fyrir að myrða stúlkubarn við „særingu“ Comey hvergi banginn þrátt fyrir ákæru Ekki hægt að staðfesta drónaflug við Álaborgarflugvöll Bandaríkjamenn sagðir vilja Tony Blair við stjórnvölinn á Gasa Segist ekki munu leyfa Ísrael að innlima Vesturbakkann Lofthelgi aftur lokað í Álaborg vegna drónaflugs James Comey ákærður vegna Rússarannsóknar Sjá meira