Gervigreind og hröð og hæg hugsun Þorsteinn Siglaugsson skrifar 28. nóvember 2023 20:01 Samkvæmt gervigreindarbloggaranum Alberto Romero var upphafið að þeirri atburðarás sem átti sér stað innan OpenAI fyrirtækisins, sem þróar ChatGPT mállíkanið, fyrir um 10 dögum síðan líklega tengt ágreiningi varðandi nýja Q* (Q-Star) líkanið sem er talið geta leyst flókin stærðfræðileg vandamál, eitthvað sem núverandi stóru tungumálalíkön geta ekki gert. Forstjórinn, Sam Altman, var fyrst rekinn af stjórninni, en ráðinn aftur fáum dögum síðar og nánast öllum stjórnarmönnum skipt út. Að mati Romerosendurspeglar þessi atburður djúpstæðan ágreining milli yfirlýsts markmiðs fyrirtækisins um að þróa örugga gervigreind sem gagnast öllu mannkyni og þeirrar almennu stefnu tæknifyrirtækja að vera í fremstu röð á sínu sviði við þróun og markaðssetningu nýjunga. Þetta er kannski dæmigert fyrir það sem getur gerst þegar fyrirtæki setur sér mótsagnakennd markmið. Hvað er Q* líkanið? Fyrir nokkrum dögum birti Andrej Karpathy, sérfræðingur hjá OpenAI, myndband þar sem hann útskýrir stóru tungumálalíkönin, hvað þau eru, hvernig þau virka og hvernig þau kunna að þróast. Þetta myndband er eiginlega skylduáhorf fyrir alla sem vilja fá greinargott yfirlit yfir þessa nýju tækni. Meðal annars ræðir Karpathy Q* líkanið og mikilvægi þess. Hann lýsir getu þess með því að vísa til aðgreiningar Daniels Kahnemann milli hraðrar og hægrar hugsunar, eða þess sem hann nefnir "System 1" og "System 2" hugsun. Dæmi um "System 1" hugsun er þegar við leggjum saman tvo og tvo. Við svörum strax, notum upplýsingar sem eru til staðar í huga okkar, í skammtímaminninu. En ef dæmið er 24*47 er, geta fæstokkar svarað strax. Við þurfum að fara í "System 2", "hægu" hugsunina til þess. Eins og Karpathy útskýrir, færir Q* verkefnið stórt tungumálalíkan yfir á stig "System 2" hugsunar. Þetta er mikil framför í getu slíks líkans og markvert skref í átt að svonefndri almennri gervigreind, líkani sem stendur okkur langtum framar í getu til rökhugsunar. Það hljómar ekki ósennilega að ótti við afleiðingar þessarar þróunar og vantraust á áætlunum Altmansum hana hafi legið að baki ákvörðun stjórnarinnar. Það sem stjórnin virðist hins vegar ekki hafa áttað sig á er að á endanum býr þekkingin sem knýr fyrirtækið í hugum starfsmanna og stjórnenda, og ný tækni, hversu ógnvekjandi sem hún kann að virðast, gufar ekki upp, sama hvað stjórn eins fyrirtækis ákveður, jafnvel þótt ákvörðunin leiddi til upplausnar fyrirtækisins. Hvernig getum við brugðist við? Stóru mállíkönin munu halda áfram að þróast ogbreyta lífi okkar og við höfum aðeins séð glitta í blátoppinn á þeim ísjaka. Fram að þessu hafa líkönin aðeins verið fær um "System 1" hugsun, og samt hef ég sannreynt að þau hafa nú þegar umtalsverða getu til að meta jafnvel flóknar röklegar greiningar. Fljótlega verður þessi geta langtum meiri. Hvernig getum við brugðist við? Einu raunhæfu viðbrögðin eru þau að við gerum okkar besta til að efla okkar eigin hugsun og nýtum þessa nýju tækni til þess: Við verðum að styrkja okkar eigin málskilning og tjáningarhæfni eins og kostur er. Við verðum að efla okkar eigin getu til gagnrýninnar hugsunar. Við verðum að þjálfa okkur markvisst í samskiptum við mállíkönin. Þetta gerir enginn fyrir okkur. Við verðum að gera það sjálf, hvert og eitt. Það er verkefnið framundan. Höfundur er ráðgjafi og stjórnendaþjálfari, https://thinksharper.net. Viltu birta grein á Vísi? Sendu okkur póst. Senda grein Þorsteinn Siglaugsson Gervigreind Tækni Mest lesið Að undirbúa börnin okkar fyrir heim sem er að hverfa Halldóra Mogensen Skoðun Kveðjur úr Grafarvogi til þeirra sem kasta steinum úr glerhúsi Davíð Már Sigurðsson Skoðun Leiðsöguhundurinn Gaur gerir mig að betri manneskju Þorkell J. Steindal Skoðun Hollar skólamáltíðir fyrir loftslagið og líðan barna Laufey Steingrímsdóttir,Anna Sigríður Ólafsdóttir Skoðun Fimmtíu ár frá lokum Víetnamstríðsins Finnur Th. Eiríksson Skoðun Þeir greiða sem njóta, eða hvað? Jóhannes Þór Skúlason,Pálmi Viðar Snorrason Skoðun Villtur lax eða villt græðgi – sveitin í skotlínu Jóhann Helgi Stefánsson Skoðun Hvað er að frétta af humrinum? Jónas Páll Jónasson Skoðun Aðför ríkisstjórnar Kristrúnar Frostadóttur að flóttafólki Hópur stjórnarkvenna í Solaris Skoðun Hljóð og mynd íslenskra varna Arnór Sigurjónsson Skoðun Skoðun Skoðun Jafnaðarmennskan og verkalýðsbaráttan Sigfús Ómar Höskuldsson skrifar Skoðun Hljóð og mynd íslenskra varna Arnór Sigurjónsson skrifar Skoðun Kveðjur úr Grafarvogi til þeirra sem kasta steinum úr glerhúsi Davíð Már Sigurðsson skrifar Skoðun Leiðsöguhundurinn Gaur gerir mig að betri manneskju Þorkell J. Steindal skrifar Skoðun Fimmtíu ár frá lokum Víetnamstríðsins Finnur Th. Eiríksson skrifar Skoðun Að undirbúa börnin okkar fyrir heim sem er að hverfa Halldóra Mogensen skrifar Skoðun Hollar skólamáltíðir fyrir loftslagið og líðan barna Laufey Steingrímsdóttir,Anna Sigríður Ólafsdóttir skrifar Skoðun Bókin er minn óvinur, en mig langar samt í verknám! Davíð Bergmann skrifar Skoðun Ilmurinn af jarðolíu er svo lokkandi Sævar Helgi Lárusson skrifar Skoðun Hvað er að frétta af humrinum? Jónas Páll Jónasson skrifar Skoðun Þeir greiða sem njóta, eða hvað? Jóhannes Þór Skúlason,Pálmi Viðar Snorrason skrifar Skoðun Samskiptasáttmáli; skúffuskjal eða stórgott verkfæri Helena Katrín Hjaltadóttir,Íris Helga G. Baldursdóttir skrifar Skoðun Sigrar og raunir íslenska hestsins Elín Íris Fanndal skrifar Skoðun Reykjavíkurborg á flestar félagslegar íbúðir en Garðabær rekur lestina Heimir Már Pétursson skrifar Skoðun Góðir grannar Landsvirkjunar og við hin Kjartan Ágústsson skrifar Skoðun Hittumst á rauðum sokkum 1. maí Finnbjörn A. Hermannsson,Kolbrún Halldórsdóttir,Magnús Þór Jónsson,Sonja Ýr Þorbergsdóttir skrifar Skoðun Mikilvægi orkuspáa Ingvar Júlíus Baldursson skrifar Skoðun Þegar innflutningurinn ræður ríkjum Anton Guðmundsson skrifar Skoðun Vladímír Pútín: Hvað er að marka hann? Steinar Björgvinsson skrifar Skoðun Örlög Úkraínu varða frið og öryggi á Íslandi Þorgerður Katrín Gunnarsdóttir skrifar Skoðun Vegamál á tímum skattahækkana og vantrausts Benedikt S. Benediktsson skrifar Skoðun Konur og menntun Sigríður Ingibjörg Ingadóttir,Steinunn Bragadóttir skrifar Skoðun Aðför ríkisstjórnar Kristrúnar Frostadóttur að flóttafólki Hópur stjórnarkvenna í Solaris skrifar Skoðun Hanna Katrín og Co, koma til bjargar Björn Ólafsson skrifar Skoðun Villtur lax eða villt græðgi – sveitin í skotlínu Jóhann Helgi Stefánsson skrifar Skoðun Fyrst flúðu þau Reykjavíkurborg… Diljá Mist Einarsdóttir skrifar Skoðun Fyrst flúðu þau Reykjavíkurborg… Diljá Mist Einarsdóttir skrifar Skoðun Er útlegð á innleið? Reyn Alpha Magnúsdóttir skrifar Skoðun Leiðsögundurinn Gaur gerir mig að betri manneskju Þorkell J. Steindal skrifar Skoðun Börn á flótta – nýtt líf, nýtt tungumál og nýtt tækifæri í íslenskum grunnskólum Friðþjófur Helgi Karlsson skrifar Sjá meira
Samkvæmt gervigreindarbloggaranum Alberto Romero var upphafið að þeirri atburðarás sem átti sér stað innan OpenAI fyrirtækisins, sem þróar ChatGPT mállíkanið, fyrir um 10 dögum síðan líklega tengt ágreiningi varðandi nýja Q* (Q-Star) líkanið sem er talið geta leyst flókin stærðfræðileg vandamál, eitthvað sem núverandi stóru tungumálalíkön geta ekki gert. Forstjórinn, Sam Altman, var fyrst rekinn af stjórninni, en ráðinn aftur fáum dögum síðar og nánast öllum stjórnarmönnum skipt út. Að mati Romerosendurspeglar þessi atburður djúpstæðan ágreining milli yfirlýsts markmiðs fyrirtækisins um að þróa örugga gervigreind sem gagnast öllu mannkyni og þeirrar almennu stefnu tæknifyrirtækja að vera í fremstu röð á sínu sviði við þróun og markaðssetningu nýjunga. Þetta er kannski dæmigert fyrir það sem getur gerst þegar fyrirtæki setur sér mótsagnakennd markmið. Hvað er Q* líkanið? Fyrir nokkrum dögum birti Andrej Karpathy, sérfræðingur hjá OpenAI, myndband þar sem hann útskýrir stóru tungumálalíkönin, hvað þau eru, hvernig þau virka og hvernig þau kunna að þróast. Þetta myndband er eiginlega skylduáhorf fyrir alla sem vilja fá greinargott yfirlit yfir þessa nýju tækni. Meðal annars ræðir Karpathy Q* líkanið og mikilvægi þess. Hann lýsir getu þess með því að vísa til aðgreiningar Daniels Kahnemann milli hraðrar og hægrar hugsunar, eða þess sem hann nefnir "System 1" og "System 2" hugsun. Dæmi um "System 1" hugsun er þegar við leggjum saman tvo og tvo. Við svörum strax, notum upplýsingar sem eru til staðar í huga okkar, í skammtímaminninu. En ef dæmið er 24*47 er, geta fæstokkar svarað strax. Við þurfum að fara í "System 2", "hægu" hugsunina til þess. Eins og Karpathy útskýrir, færir Q* verkefnið stórt tungumálalíkan yfir á stig "System 2" hugsunar. Þetta er mikil framför í getu slíks líkans og markvert skref í átt að svonefndri almennri gervigreind, líkani sem stendur okkur langtum framar í getu til rökhugsunar. Það hljómar ekki ósennilega að ótti við afleiðingar þessarar þróunar og vantraust á áætlunum Altmansum hana hafi legið að baki ákvörðun stjórnarinnar. Það sem stjórnin virðist hins vegar ekki hafa áttað sig á er að á endanum býr þekkingin sem knýr fyrirtækið í hugum starfsmanna og stjórnenda, og ný tækni, hversu ógnvekjandi sem hún kann að virðast, gufar ekki upp, sama hvað stjórn eins fyrirtækis ákveður, jafnvel þótt ákvörðunin leiddi til upplausnar fyrirtækisins. Hvernig getum við brugðist við? Stóru mállíkönin munu halda áfram að þróast ogbreyta lífi okkar og við höfum aðeins séð glitta í blátoppinn á þeim ísjaka. Fram að þessu hafa líkönin aðeins verið fær um "System 1" hugsun, og samt hef ég sannreynt að þau hafa nú þegar umtalsverða getu til að meta jafnvel flóknar röklegar greiningar. Fljótlega verður þessi geta langtum meiri. Hvernig getum við brugðist við? Einu raunhæfu viðbrögðin eru þau að við gerum okkar besta til að efla okkar eigin hugsun og nýtum þessa nýju tækni til þess: Við verðum að styrkja okkar eigin málskilning og tjáningarhæfni eins og kostur er. Við verðum að efla okkar eigin getu til gagnrýninnar hugsunar. Við verðum að þjálfa okkur markvisst í samskiptum við mállíkönin. Þetta gerir enginn fyrir okkur. Við verðum að gera það sjálf, hvert og eitt. Það er verkefnið framundan. Höfundur er ráðgjafi og stjórnendaþjálfari, https://thinksharper.net.
Hollar skólamáltíðir fyrir loftslagið og líðan barna Laufey Steingrímsdóttir,Anna Sigríður Ólafsdóttir Skoðun
Aðför ríkisstjórnar Kristrúnar Frostadóttur að flóttafólki Hópur stjórnarkvenna í Solaris Skoðun
Skoðun Hollar skólamáltíðir fyrir loftslagið og líðan barna Laufey Steingrímsdóttir,Anna Sigríður Ólafsdóttir skrifar
Skoðun Samskiptasáttmáli; skúffuskjal eða stórgott verkfæri Helena Katrín Hjaltadóttir,Íris Helga G. Baldursdóttir skrifar
Skoðun Reykjavíkurborg á flestar félagslegar íbúðir en Garðabær rekur lestina Heimir Már Pétursson skrifar
Skoðun Hittumst á rauðum sokkum 1. maí Finnbjörn A. Hermannsson,Kolbrún Halldórsdóttir,Magnús Þór Jónsson,Sonja Ýr Þorbergsdóttir skrifar
Skoðun Aðför ríkisstjórnar Kristrúnar Frostadóttur að flóttafólki Hópur stjórnarkvenna í Solaris skrifar
Skoðun Börn á flótta – nýtt líf, nýtt tungumál og nýtt tækifæri í íslenskum grunnskólum Friðþjófur Helgi Karlsson skrifar
Hollar skólamáltíðir fyrir loftslagið og líðan barna Laufey Steingrímsdóttir,Anna Sigríður Ólafsdóttir Skoðun
Aðför ríkisstjórnar Kristrúnar Frostadóttur að flóttafólki Hópur stjórnarkvenna í Solaris Skoðun