Jafngildir það að eyða meðvitaðri gervigreind því að drepa dýr? Hólmfríður Gísladóttir skrifar 4. febrúar 2025 07:24 Stephen Fry er meðal þeirra sem undirrita bréfið. Getty/Sebastian Reuter Yfir 100 vísindamenn og hugsuðir hafa undirritað opið bréf þar sem þeir hvetja til stefnumótunar varðandi þróun gervigreindar með sjálfsmeðvitund og tilfinningar. Segja þeir meðal annars þörf á að huga að því hvernig menn hyggjast nálgast slíkt fyrirbæri, sem gæti mögulega þjáðst af manna völdum. Bréfið er birt samhliða rannsóknarritgerð eftir Patrick Butlin við Oxford-háskóla og Theodoros Lappas við Athens University of Economics and Business, þar sem leggja fram fimm viðmið um þróun slíkrar gervigreindar. Leggja þeir meðal annars til að forgangsraða rannsóknum á meðvitund (e. consciousness) í gervigreind til að koma í veg fyrir misnoktun og þjáningu. Þá hvetja þeir til þess að takmarkanir verði settar á þróun meðvitaðrar gervigreindar, að þróunin verði tekin í skrefum, að niðurstöðum verði deilt með almenningi og að menn forðist að vera of yfirlýsingaglaðir og jafnvel misvísandi í umfjöllun um fyrirbærið. Butlin og Lappas segja mögulegt að sjálfsmeðvituð gervigreind, eða gervigreind sem virðist hafa meðvitund, muni verða að raunveruleika í náinni framtíð. Ef sú gervigreind gæti afritað sjálfa sig gæti sú staða komið upp að allt í einu væri komin fram ný tegund sem taka þyrfti afstöðu til hvað varðar siðferði. Myndi það að eyða slíkri gervigreind til að mynda jafnast á við að drepa dýr? Fræðimennirnir vara hins vegar einnig við því að orku og tíma sé varið í að huga að velferð gervigreindar sem hefur í raun og veru ekki meðvitund. Menn greinir enn á um það hvort gervigreind geti raunverulega talist meðvituð, sem skýrist meðal annars að því að menn eru ekki fullkomlega sammála um skilgreininguna á meðvitund. Guardian fjallar um málið. Gervigreind Mannréttindi Mest lesið Sambýliskonan sem sá allt og bróðirinn sem þekkti ekki fjölskylduna Innlent Stór lögregluaðgerð í Laugardal Innlent Segir mögulegt að hundurinn sé á lífi Innlent Falsaði bréf frá skólastjóra á kostnað Kennarasambandsins Innlent Bandaríska sendiráðið elur á ótta við hælisleitendur og útlendinga Innlent Hagsmunir barnanna hafi ekki áhrif á afstöðuna til veiðigjalda Innlent Hefði stoppað Magga Mix á punktinum Innlent Sósíalistum bolað úr Bolholti Innlent Björgunarbátur Ormsins langa blés ekki út Innlent Sakfelldur en ekki gerð refsing fyrir að bana móður sinni Innlent Fleiri fréttir Minnst þrettán látnir og tuttugu barna saknað eftir flóð í Texas Rússar sagðir nota efnavopn í Úkraínu í auknum mæli Tveir ferðamenn létust í fílaárás í Sambíu Stunguárás í Tampere hvorki talin hryðjuverk né rasísk árás Sænskur glæpaforingi tekinn fastur í Tyrklandi Leiðtogar Hamas sagðir þokast nær því að samþykkja vopnahlé Vilja nýta formennskuna til að láta sverfa til stáls gegn Ungverjum Tugir slasaðir eftir sprengingu á bensínstöð í Róm Hæstiréttur opnar á brottflutning til þriðja ríkis Engin árangur af símtalinu og fjórtán látnir eftir árás á Kænugarð Stóra og fallega frumvarpið verður að lögum Voru á há-áhættu lista BBC fyrir Glastonbury Fjöldi flugferða felldur niður vegna verkfalls franskra flugumferðarstjóra Danskur covid-samsærissinni bendlaður við rússneskan upplýsingahernað Trúarhópar mótmæla Zúmba-kennslu á Indlandi Stjórnlaus gróðureldur ógnar heimilum á Krít „Stóra og fallega frumvarpið“ enn í limbó á þinginu Combs áfram í gæsluvarðhaldi Sautján ára drengur drukknaði á Hróarskeldu Játar að hafa myrt fjórmenningana í Idaho Jimmy Swaggart allur Evrópuríkjum leyft að nota kolefnisjöfnun erlendis í fyrsta skipti Diddy sakfelldur í tveimur af fimm ákæruliðum Boðar arftaka Dalai Lama Paramount lúffar fyrir Trump og greiðir bætur vegna Kamölu Táningsstúlkan sem lést var að teyma íslenskan hest Maðurinn sem fann upp mew-ið er látinn Handtóku stjórnendur sjúkrahússins vegna ætlaðra barnsdrápa Trans konur fá ekki að keppa og Thomas svipt metunum Segja gengið á birgðirnar og hætta við vopnasendingar til Úkraínu Sjá meira
Segja þeir meðal annars þörf á að huga að því hvernig menn hyggjast nálgast slíkt fyrirbæri, sem gæti mögulega þjáðst af manna völdum. Bréfið er birt samhliða rannsóknarritgerð eftir Patrick Butlin við Oxford-háskóla og Theodoros Lappas við Athens University of Economics and Business, þar sem leggja fram fimm viðmið um þróun slíkrar gervigreindar. Leggja þeir meðal annars til að forgangsraða rannsóknum á meðvitund (e. consciousness) í gervigreind til að koma í veg fyrir misnoktun og þjáningu. Þá hvetja þeir til þess að takmarkanir verði settar á þróun meðvitaðrar gervigreindar, að þróunin verði tekin í skrefum, að niðurstöðum verði deilt með almenningi og að menn forðist að vera of yfirlýsingaglaðir og jafnvel misvísandi í umfjöllun um fyrirbærið. Butlin og Lappas segja mögulegt að sjálfsmeðvituð gervigreind, eða gervigreind sem virðist hafa meðvitund, muni verða að raunveruleika í náinni framtíð. Ef sú gervigreind gæti afritað sjálfa sig gæti sú staða komið upp að allt í einu væri komin fram ný tegund sem taka þyrfti afstöðu til hvað varðar siðferði. Myndi það að eyða slíkri gervigreind til að mynda jafnast á við að drepa dýr? Fræðimennirnir vara hins vegar einnig við því að orku og tíma sé varið í að huga að velferð gervigreindar sem hefur í raun og veru ekki meðvitund. Menn greinir enn á um það hvort gervigreind geti raunverulega talist meðvituð, sem skýrist meðal annars að því að menn eru ekki fullkomlega sammála um skilgreininguna á meðvitund. Guardian fjallar um málið.
Gervigreind Mannréttindi Mest lesið Sambýliskonan sem sá allt og bróðirinn sem þekkti ekki fjölskylduna Innlent Stór lögregluaðgerð í Laugardal Innlent Segir mögulegt að hundurinn sé á lífi Innlent Falsaði bréf frá skólastjóra á kostnað Kennarasambandsins Innlent Bandaríska sendiráðið elur á ótta við hælisleitendur og útlendinga Innlent Hagsmunir barnanna hafi ekki áhrif á afstöðuna til veiðigjalda Innlent Hefði stoppað Magga Mix á punktinum Innlent Sósíalistum bolað úr Bolholti Innlent Björgunarbátur Ormsins langa blés ekki út Innlent Sakfelldur en ekki gerð refsing fyrir að bana móður sinni Innlent Fleiri fréttir Minnst þrettán látnir og tuttugu barna saknað eftir flóð í Texas Rússar sagðir nota efnavopn í Úkraínu í auknum mæli Tveir ferðamenn létust í fílaárás í Sambíu Stunguárás í Tampere hvorki talin hryðjuverk né rasísk árás Sænskur glæpaforingi tekinn fastur í Tyrklandi Leiðtogar Hamas sagðir þokast nær því að samþykkja vopnahlé Vilja nýta formennskuna til að láta sverfa til stáls gegn Ungverjum Tugir slasaðir eftir sprengingu á bensínstöð í Róm Hæstiréttur opnar á brottflutning til þriðja ríkis Engin árangur af símtalinu og fjórtán látnir eftir árás á Kænugarð Stóra og fallega frumvarpið verður að lögum Voru á há-áhættu lista BBC fyrir Glastonbury Fjöldi flugferða felldur niður vegna verkfalls franskra flugumferðarstjóra Danskur covid-samsærissinni bendlaður við rússneskan upplýsingahernað Trúarhópar mótmæla Zúmba-kennslu á Indlandi Stjórnlaus gróðureldur ógnar heimilum á Krít „Stóra og fallega frumvarpið“ enn í limbó á þinginu Combs áfram í gæsluvarðhaldi Sautján ára drengur drukknaði á Hróarskeldu Játar að hafa myrt fjórmenningana í Idaho Jimmy Swaggart allur Evrópuríkjum leyft að nota kolefnisjöfnun erlendis í fyrsta skipti Diddy sakfelldur í tveimur af fimm ákæruliðum Boðar arftaka Dalai Lama Paramount lúffar fyrir Trump og greiðir bætur vegna Kamölu Táningsstúlkan sem lést var að teyma íslenskan hest Maðurinn sem fann upp mew-ið er látinn Handtóku stjórnendur sjúkrahússins vegna ætlaðra barnsdrápa Trans konur fá ekki að keppa og Thomas svipt metunum Segja gengið á birgðirnar og hætta við vopnasendingar til Úkraínu Sjá meira