Gervigreind og hröð og hæg hugsun Þorsteinn Siglaugsson skrifar 28. nóvember 2023 20:01 Samkvæmt gervigreindarbloggaranum Alberto Romero var upphafið að þeirri atburðarás sem átti sér stað innan OpenAI fyrirtækisins, sem þróar ChatGPT mállíkanið, fyrir um 10 dögum síðan líklega tengt ágreiningi varðandi nýja Q* (Q-Star) líkanið sem er talið geta leyst flókin stærðfræðileg vandamál, eitthvað sem núverandi stóru tungumálalíkön geta ekki gert. Forstjórinn, Sam Altman, var fyrst rekinn af stjórninni, en ráðinn aftur fáum dögum síðar og nánast öllum stjórnarmönnum skipt út. Að mati Romerosendurspeglar þessi atburður djúpstæðan ágreining milli yfirlýsts markmiðs fyrirtækisins um að þróa örugga gervigreind sem gagnast öllu mannkyni og þeirrar almennu stefnu tæknifyrirtækja að vera í fremstu röð á sínu sviði við þróun og markaðssetningu nýjunga. Þetta er kannski dæmigert fyrir það sem getur gerst þegar fyrirtæki setur sér mótsagnakennd markmið. Hvað er Q* líkanið? Fyrir nokkrum dögum birti Andrej Karpathy, sérfræðingur hjá OpenAI, myndband þar sem hann útskýrir stóru tungumálalíkönin, hvað þau eru, hvernig þau virka og hvernig þau kunna að þróast. Þetta myndband er eiginlega skylduáhorf fyrir alla sem vilja fá greinargott yfirlit yfir þessa nýju tækni. Meðal annars ræðir Karpathy Q* líkanið og mikilvægi þess. Hann lýsir getu þess með því að vísa til aðgreiningar Daniels Kahnemann milli hraðrar og hægrar hugsunar, eða þess sem hann nefnir "System 1" og "System 2" hugsun. Dæmi um "System 1" hugsun er þegar við leggjum saman tvo og tvo. Við svörum strax, notum upplýsingar sem eru til staðar í huga okkar, í skammtímaminninu. En ef dæmið er 24*47 er, geta fæstokkar svarað strax. Við þurfum að fara í "System 2", "hægu" hugsunina til þess. Eins og Karpathy útskýrir, færir Q* verkefnið stórt tungumálalíkan yfir á stig "System 2" hugsunar. Þetta er mikil framför í getu slíks líkans og markvert skref í átt að svonefndri almennri gervigreind, líkani sem stendur okkur langtum framar í getu til rökhugsunar. Það hljómar ekki ósennilega að ótti við afleiðingar þessarar þróunar og vantraust á áætlunum Altmansum hana hafi legið að baki ákvörðun stjórnarinnar. Það sem stjórnin virðist hins vegar ekki hafa áttað sig á er að á endanum býr þekkingin sem knýr fyrirtækið í hugum starfsmanna og stjórnenda, og ný tækni, hversu ógnvekjandi sem hún kann að virðast, gufar ekki upp, sama hvað stjórn eins fyrirtækis ákveður, jafnvel þótt ákvörðunin leiddi til upplausnar fyrirtækisins. Hvernig getum við brugðist við? Stóru mállíkönin munu halda áfram að þróast ogbreyta lífi okkar og við höfum aðeins séð glitta í blátoppinn á þeim ísjaka. Fram að þessu hafa líkönin aðeins verið fær um "System 1" hugsun, og samt hef ég sannreynt að þau hafa nú þegar umtalsverða getu til að meta jafnvel flóknar röklegar greiningar. Fljótlega verður þessi geta langtum meiri. Hvernig getum við brugðist við? Einu raunhæfu viðbrögðin eru þau að við gerum okkar besta til að efla okkar eigin hugsun og nýtum þessa nýju tækni til þess: Við verðum að styrkja okkar eigin málskilning og tjáningarhæfni eins og kostur er. Við verðum að efla okkar eigin getu til gagnrýninnar hugsunar. Við verðum að þjálfa okkur markvisst í samskiptum við mállíkönin. Þetta gerir enginn fyrir okkur. Við verðum að gera það sjálf, hvert og eitt. Það er verkefnið framundan. Höfundur er ráðgjafi og stjórnendaþjálfari, https://thinksharper.net. Viltu birta grein á Vísi? Sendu okkur póst. Senda grein Þorsteinn Siglaugsson Gervigreind Tækni Mest lesið Eitruð kvenmennska Ása Lind Finnbogadóttir Skoðun Leiðin til helvítis Jón Pétur Zimsen Skoðun Sameining Garðabæjar og Hafnarfjarðar – kostir – ókostir - skynsemi Ó. Ingi Tómasson Skoðun Þau eru fá en þörfin er stór Sif Huld Albertsdóttir Skoðun Á undan jarðýtu komi fornleifafræðingur… Stefán Pálsson Skoðun Samningur HSÍ við Rapyd – Opið bréf til frambjóðenda í formannskjöri Hópur stuðningsmanna Íslands í handbolta Skoðun Búum til réttlátt lífeyriskerfi Hrafn Magnússon Skoðun Hvernig getum við notað nýjar ráðleggingar um mataræði? Óla Kallý Magnúsdóttir,Jóhanna E. Torfadóttir Skoðun Hinn nýi íslenski aðall Kolbrún Áslaugar Baldursdóttir Skoðun Drögum úr fordómum í garð Breiðholts Alex Vor Ólafs,Jörundur Þór Hákonarson,Theodóra Líf Reykdal Skoðun Skoðun Skoðun Tollar – Fyrir hverja? Valdimar Birgisson skrifar Skoðun Þau eru fá en þörfin er stór Sif Huld Albertsdóttir skrifar Skoðun Samvinnufélög, valkostur í atvinnurekstri Elín H. Jónsdóttir,Guðrún Johnsen skrifar Skoðun Leiðin til helvítis Jón Pétur Zimsen skrifar Skoðun Eitruð kvenmennska Ása Lind Finnbogadóttir skrifar Skoðun Hinn nýi íslenski aðall Kolbrún Áslaugar Baldursdóttir skrifar Skoðun Samningur HSÍ við Rapyd – Opið bréf til frambjóðenda í formannskjöri Hópur stuðningsmanna Íslands í handbolta skrifar Skoðun Gjaldskrár munu ekki virka til að koma aftur framleiðslu af stað Sæþór Randalsson skrifar Skoðun Mannúð og samvinna á tímum sögulegra þjáninga Sólrún María Ólafsdóttir skrifar Skoðun Hvernig getum við notað nýjar ráðleggingar um mataræði? Óla Kallý Magnúsdóttir,Jóhanna E. Torfadóttir skrifar Skoðun Þegar rykið hefur sest Jörgen Ingimar Hansson skrifar Skoðun Búum til réttlátt lífeyriskerfi Hrafn Magnússon skrifar Skoðun Á undan jarðýtu komi fornleifafræðingur… Stefán Pálsson skrifar Skoðun Hin raunverulega byggðastefna Jón Þór Kristjánsson skrifar Skoðun Sameining Garðabæjar og Hafnarfjarðar – kostir – ókostir - skynsemi Ó. Ingi Tómasson skrifar Skoðun Rúmir 30 milljarðar í fangelsi Guðmundur Ingi Þóroddsson skrifar Skoðun Sérstök staða orkusveitarfélaga! Guðmundur Haukur Jakobsson skrifar Skoðun Miklar endurbætur á lánum menntasjóðs námsmanna Elín Íris Fanndal skrifar Skoðun Drögum úr fordómum í garð Breiðholts Alex Vor Ólafs,Jörundur Þór Hákonarson,Theodóra Líf Reykdal skrifar Skoðun Er almenningur rusl? Sigurður Ingi Friðleifsson skrifar Skoðun Líffræðilega ómögulegt Björn Ólafsson skrifar Skoðun Veiðigjaldið stendur undir kostnaði Heiðrún Lind Marteinsdóttir skrifar Skoðun Minn gamli góði flokkur Hólmgeir Baldursson skrifar Skoðun Hve lengi tekur sjórinn við? Björn Brynjúlfur Björnsson skrifar Skoðun Orkan okkar, börnin og barnabörnin Jóna Bjarnadóttir skrifar Skoðun Að fjárfesta í sjálfbærri verðmætasköpun Ingibjörg Ösp Stefánsdóttir skrifar Skoðun Að bregðast ungu fólki í viðkvæmri stöðu Ingibjörg Isaksen skrifar Skoðun Þekkir þú áhrifavaldana í lífi barnsins þíns? Daðey Albertsdóttir,Silja Björk Egilsdóttir,Skúli Bragi Geirdal skrifar Skoðun Hliðarveruleiki hræðsluáróðurs og „pólitískur forarpyttur“ Þórður Snær Júlíusson skrifar Skoðun Fyrir hverja er Sjúkratryggingar Íslands? Hrefna Sif Jónsdóttir skrifar Sjá meira
Samkvæmt gervigreindarbloggaranum Alberto Romero var upphafið að þeirri atburðarás sem átti sér stað innan OpenAI fyrirtækisins, sem þróar ChatGPT mállíkanið, fyrir um 10 dögum síðan líklega tengt ágreiningi varðandi nýja Q* (Q-Star) líkanið sem er talið geta leyst flókin stærðfræðileg vandamál, eitthvað sem núverandi stóru tungumálalíkön geta ekki gert. Forstjórinn, Sam Altman, var fyrst rekinn af stjórninni, en ráðinn aftur fáum dögum síðar og nánast öllum stjórnarmönnum skipt út. Að mati Romerosendurspeglar þessi atburður djúpstæðan ágreining milli yfirlýsts markmiðs fyrirtækisins um að þróa örugga gervigreind sem gagnast öllu mannkyni og þeirrar almennu stefnu tæknifyrirtækja að vera í fremstu röð á sínu sviði við þróun og markaðssetningu nýjunga. Þetta er kannski dæmigert fyrir það sem getur gerst þegar fyrirtæki setur sér mótsagnakennd markmið. Hvað er Q* líkanið? Fyrir nokkrum dögum birti Andrej Karpathy, sérfræðingur hjá OpenAI, myndband þar sem hann útskýrir stóru tungumálalíkönin, hvað þau eru, hvernig þau virka og hvernig þau kunna að þróast. Þetta myndband er eiginlega skylduáhorf fyrir alla sem vilja fá greinargott yfirlit yfir þessa nýju tækni. Meðal annars ræðir Karpathy Q* líkanið og mikilvægi þess. Hann lýsir getu þess með því að vísa til aðgreiningar Daniels Kahnemann milli hraðrar og hægrar hugsunar, eða þess sem hann nefnir "System 1" og "System 2" hugsun. Dæmi um "System 1" hugsun er þegar við leggjum saman tvo og tvo. Við svörum strax, notum upplýsingar sem eru til staðar í huga okkar, í skammtímaminninu. En ef dæmið er 24*47 er, geta fæstokkar svarað strax. Við þurfum að fara í "System 2", "hægu" hugsunina til þess. Eins og Karpathy útskýrir, færir Q* verkefnið stórt tungumálalíkan yfir á stig "System 2" hugsunar. Þetta er mikil framför í getu slíks líkans og markvert skref í átt að svonefndri almennri gervigreind, líkani sem stendur okkur langtum framar í getu til rökhugsunar. Það hljómar ekki ósennilega að ótti við afleiðingar þessarar þróunar og vantraust á áætlunum Altmansum hana hafi legið að baki ákvörðun stjórnarinnar. Það sem stjórnin virðist hins vegar ekki hafa áttað sig á er að á endanum býr þekkingin sem knýr fyrirtækið í hugum starfsmanna og stjórnenda, og ný tækni, hversu ógnvekjandi sem hún kann að virðast, gufar ekki upp, sama hvað stjórn eins fyrirtækis ákveður, jafnvel þótt ákvörðunin leiddi til upplausnar fyrirtækisins. Hvernig getum við brugðist við? Stóru mállíkönin munu halda áfram að þróast ogbreyta lífi okkar og við höfum aðeins séð glitta í blátoppinn á þeim ísjaka. Fram að þessu hafa líkönin aðeins verið fær um "System 1" hugsun, og samt hef ég sannreynt að þau hafa nú þegar umtalsverða getu til að meta jafnvel flóknar röklegar greiningar. Fljótlega verður þessi geta langtum meiri. Hvernig getum við brugðist við? Einu raunhæfu viðbrögðin eru þau að við gerum okkar besta til að efla okkar eigin hugsun og nýtum þessa nýju tækni til þess: Við verðum að styrkja okkar eigin málskilning og tjáningarhæfni eins og kostur er. Við verðum að efla okkar eigin getu til gagnrýninnar hugsunar. Við verðum að þjálfa okkur markvisst í samskiptum við mállíkönin. Þetta gerir enginn fyrir okkur. Við verðum að gera það sjálf, hvert og eitt. Það er verkefnið framundan. Höfundur er ráðgjafi og stjórnendaþjálfari, https://thinksharper.net.
Samningur HSÍ við Rapyd – Opið bréf til frambjóðenda í formannskjöri Hópur stuðningsmanna Íslands í handbolta Skoðun
Hvernig getum við notað nýjar ráðleggingar um mataræði? Óla Kallý Magnúsdóttir,Jóhanna E. Torfadóttir Skoðun
Drögum úr fordómum í garð Breiðholts Alex Vor Ólafs,Jörundur Þór Hákonarson,Theodóra Líf Reykdal Skoðun
Skoðun Samningur HSÍ við Rapyd – Opið bréf til frambjóðenda í formannskjöri Hópur stuðningsmanna Íslands í handbolta skrifar
Skoðun Hvernig getum við notað nýjar ráðleggingar um mataræði? Óla Kallý Magnúsdóttir,Jóhanna E. Torfadóttir skrifar
Skoðun Sameining Garðabæjar og Hafnarfjarðar – kostir – ókostir - skynsemi Ó. Ingi Tómasson skrifar
Skoðun Drögum úr fordómum í garð Breiðholts Alex Vor Ólafs,Jörundur Þór Hákonarson,Theodóra Líf Reykdal skrifar
Skoðun Þekkir þú áhrifavaldana í lífi barnsins þíns? Daðey Albertsdóttir,Silja Björk Egilsdóttir,Skúli Bragi Geirdal skrifar
Samningur HSÍ við Rapyd – Opið bréf til frambjóðenda í formannskjöri Hópur stuðningsmanna Íslands í handbolta Skoðun
Hvernig getum við notað nýjar ráðleggingar um mataræði? Óla Kallý Magnúsdóttir,Jóhanna E. Torfadóttir Skoðun
Drögum úr fordómum í garð Breiðholts Alex Vor Ólafs,Jörundur Þór Hákonarson,Theodóra Líf Reykdal Skoðun