Forsvarsmenn OpenAI kalla eftir Alþjóðagervigreindarstofnun Hólmfríður Gísladóttir skrifar 24. maí 2023 07:12 Margir sjá fyrir sér að ofurgreind gæti tortímt mannkyninu en ógnirnar eru í raun mun fleiri og lúmskari. Stofnendur og stjórnendur OpenAI, sem eru að þróa gervigreindarforritið ChatGPT, kalla eftir því að komið verði á laggirnar stofnun á borð við Alþjóðakjarnorkumálastofnunina til að vernda mannkynið frá því að þróa „ofurgáfaða“ gervigreind sem gæti tortímt mannkyninu. Í ávarpi á vefsíðu fyrirtækisins kalla stofnendurnir Greg Brockman og Ilya Sutskever og framkvæmdastjórinn Sam Altman eftir því að alþjóðasamfélagið hefji vinnu við að rannsaka hvernig draga megi úr „tilvistarlegri áhættu“ gervigreindar með eftirliti, öryggisstöðlum og takmörkunum. Stjórnendur OpenAI segja mögulegt að á næstu tíu árum muni gervigreind taka fram úr sérfræðikunnáttu mannsins á flestum sviðum. Þetta muni hafa kosti og galla í för með sér en ofurgreind muni verða öflugasta tæknin sem maðurinn hefur nokkurn tímann þurft að fást við. Þeir segja gervigreindina munu opna á fordæmalausa hagsæld en tilvistarleg ógn geri það að verkum að grípa þurfi til forvarna. Til skemmri tíma ættu fyrirtæki sem eru leiðandi í þróun gervigreindar að taka sig saman um samfélagslega aðlögun með öryggi að leiðarljósi. Initial ideas for governance of superintelligence, including forming an international oversight organization for future AI systems much more capable than any today: https://t.co/9hJ9n2BZo7— OpenAI (@OpenAI) May 22, 2023 Center for AI Safety (CAIS) hefur tekið saman lista yfir mögulegar sviðsmyndir þar sem gervigreindin hefur fengið að þróast án eftirlits. Sérfræðingar stofnunarinnar sjá meðal annars fyrir sér að mannkynið gæti orðið algjörlega háð vélum og/eða að varanleg stéttskipting gæti orðið milli þess fámenna hóps sem á og stjórnar gervigreindinni og allra annara. Stjórnendur OpenAI segja því mikilvægt að fólk alls staðar í heiminum taki lýðræðislega ákvörðun um takmörk og umfang gervigreindarforrita. Þeir séu hins vegar ekki með svörin við því hvernig eigi að útfæra eftirlitið. Það sé ekki raunhæft að ætla að stöðva þróun gervigreindar, bæði vegna þess hversu jákvæðar breytingar hún muni hafa í för með sér en einnig vegna þess að maðurinn sé nú þegar komin á þá braut að gervigreindin sé það sem koma skal. Umfjöllun Guardian. Gervigreind Tækni Vísindi Mest lesið Hrókeringar í þingnefndum og Grímur segir af sér Innlent Faðirinn ákærður fyrir að beita Oscar ofbeldi Erlent Talinn ógn við samfélagið og vísað úr landi Innlent Óttast gremju uppgjafahermanna í Rússlandi Erlent „Ég hef alveg heyrt mun verri hugmyndir en þetta“ Innlent „Sérstök“ ræða forseta sem hafi hoppað á umræðuvagninn Innlent Stúdentar klóra sér í kollinum yfir hækkun Loga Innlent Með töskurnar fullar af marijúana Innlent Rússneskir drónar skotnir niður í lofthelgi Póllands Erlent Stilltu til friðar á óformlegum fundi í gær Innlent Fleiri fréttir Íslendingur fastur í Nepal: „Við erum búin að halda okkur inni allan tímann“ Faðirinn ákærður fyrir að beita Oscar ofbeldi Boða hertar aðgerðir gegn afbrotaunglingum Pólland ekki verið nær stríði frá því í seinni heimsstyrjöldinni Herinn skakkar leikinn í Katmandú Europol og Bandaríkin lýsa eftir úkraínskum tölvuþrjót Hyggjast bólusetja kóalabirni gegn klamydíu Rússneskir drónar skotnir niður í lofthelgi Póllands Óttast gremju uppgjafahermanna í Rússlandi Efast um að Bandaríkin leyfi sjálfstætt Grænland Taka tolla Trumps í flýtimeðferð Standa fast á því að undirskriftin sé ekki Trumps Skipar strax nýjan forsætisráðherra Segja leiðtoga Hamas hafa lifað árásina af Kveikt í þinghúsinu og forsætisráðherrann hrökklast frá Leið yfir nýja ráðherrann á fyrsta fundi Á þriðja tug lífeyrisþega látinn eftir spengjuárás Rússa Ísraelar gera loftárásir á Katar Støre á vandasamt verk fyrir höndum eftir kosningasigur Svíar munu banna farsíma í grunnskólum frá næsta hausti Kosningaúrslit í Noregi: Störe fagnar sigri en Solberg mögulega á förum Mótmæla enn og þrír ráðherrar segja af sér Gefa grænt ljós á handtökur á grundvelli kynþáttar og málnotkunar Gera loftárásir á háhýsi og vara við yfirvofandi innrás Alþjóðakerfinu ekki viðbjargandi og þörf á aðlögun Segir danska kerfið þurfa að líta á Grænlendinga sem jafningja Opinbera bréf Trumps til Epsteins Vinstriblokkin með meirihluta í Noregi Þurfa að finna fimmta forsætisráðherrann á tveimur árum Biðlaði til stjórnarandstöðunnar á pólitískum dánarbeði sínum Sjá meira
Í ávarpi á vefsíðu fyrirtækisins kalla stofnendurnir Greg Brockman og Ilya Sutskever og framkvæmdastjórinn Sam Altman eftir því að alþjóðasamfélagið hefji vinnu við að rannsaka hvernig draga megi úr „tilvistarlegri áhættu“ gervigreindar með eftirliti, öryggisstöðlum og takmörkunum. Stjórnendur OpenAI segja mögulegt að á næstu tíu árum muni gervigreind taka fram úr sérfræðikunnáttu mannsins á flestum sviðum. Þetta muni hafa kosti og galla í för með sér en ofurgreind muni verða öflugasta tæknin sem maðurinn hefur nokkurn tímann þurft að fást við. Þeir segja gervigreindina munu opna á fordæmalausa hagsæld en tilvistarleg ógn geri það að verkum að grípa þurfi til forvarna. Til skemmri tíma ættu fyrirtæki sem eru leiðandi í þróun gervigreindar að taka sig saman um samfélagslega aðlögun með öryggi að leiðarljósi. Initial ideas for governance of superintelligence, including forming an international oversight organization for future AI systems much more capable than any today: https://t.co/9hJ9n2BZo7— OpenAI (@OpenAI) May 22, 2023 Center for AI Safety (CAIS) hefur tekið saman lista yfir mögulegar sviðsmyndir þar sem gervigreindin hefur fengið að þróast án eftirlits. Sérfræðingar stofnunarinnar sjá meðal annars fyrir sér að mannkynið gæti orðið algjörlega háð vélum og/eða að varanleg stéttskipting gæti orðið milli þess fámenna hóps sem á og stjórnar gervigreindinni og allra annara. Stjórnendur OpenAI segja því mikilvægt að fólk alls staðar í heiminum taki lýðræðislega ákvörðun um takmörk og umfang gervigreindarforrita. Þeir séu hins vegar ekki með svörin við því hvernig eigi að útfæra eftirlitið. Það sé ekki raunhæft að ætla að stöðva þróun gervigreindar, bæði vegna þess hversu jákvæðar breytingar hún muni hafa í för með sér en einnig vegna þess að maðurinn sé nú þegar komin á þá braut að gervigreindin sé það sem koma skal. Umfjöllun Guardian.
Gervigreind Tækni Vísindi Mest lesið Hrókeringar í þingnefndum og Grímur segir af sér Innlent Faðirinn ákærður fyrir að beita Oscar ofbeldi Erlent Talinn ógn við samfélagið og vísað úr landi Innlent Óttast gremju uppgjafahermanna í Rússlandi Erlent „Ég hef alveg heyrt mun verri hugmyndir en þetta“ Innlent „Sérstök“ ræða forseta sem hafi hoppað á umræðuvagninn Innlent Stúdentar klóra sér í kollinum yfir hækkun Loga Innlent Með töskurnar fullar af marijúana Innlent Rússneskir drónar skotnir niður í lofthelgi Póllands Erlent Stilltu til friðar á óformlegum fundi í gær Innlent Fleiri fréttir Íslendingur fastur í Nepal: „Við erum búin að halda okkur inni allan tímann“ Faðirinn ákærður fyrir að beita Oscar ofbeldi Boða hertar aðgerðir gegn afbrotaunglingum Pólland ekki verið nær stríði frá því í seinni heimsstyrjöldinni Herinn skakkar leikinn í Katmandú Europol og Bandaríkin lýsa eftir úkraínskum tölvuþrjót Hyggjast bólusetja kóalabirni gegn klamydíu Rússneskir drónar skotnir niður í lofthelgi Póllands Óttast gremju uppgjafahermanna í Rússlandi Efast um að Bandaríkin leyfi sjálfstætt Grænland Taka tolla Trumps í flýtimeðferð Standa fast á því að undirskriftin sé ekki Trumps Skipar strax nýjan forsætisráðherra Segja leiðtoga Hamas hafa lifað árásina af Kveikt í þinghúsinu og forsætisráðherrann hrökklast frá Leið yfir nýja ráðherrann á fyrsta fundi Á þriðja tug lífeyrisþega látinn eftir spengjuárás Rússa Ísraelar gera loftárásir á Katar Støre á vandasamt verk fyrir höndum eftir kosningasigur Svíar munu banna farsíma í grunnskólum frá næsta hausti Kosningaúrslit í Noregi: Störe fagnar sigri en Solberg mögulega á förum Mótmæla enn og þrír ráðherrar segja af sér Gefa grænt ljós á handtökur á grundvelli kynþáttar og málnotkunar Gera loftárásir á háhýsi og vara við yfirvofandi innrás Alþjóðakerfinu ekki viðbjargandi og þörf á aðlögun Segir danska kerfið þurfa að líta á Grænlendinga sem jafningja Opinbera bréf Trumps til Epsteins Vinstriblokkin með meirihluta í Noregi Þurfa að finna fimmta forsætisráðherrann á tveimur árum Biðlaði til stjórnarandstöðunnar á pólitískum dánarbeði sínum Sjá meira