Óttast flóðbylgju barnaníðsefnis sköpuðu með aðstoð gervigreindar Hólmfríður Gísladóttir skrifar 8. nóvember 2023 07:07 Börn og foreldrar eru algjörlega varnarlaus gagnvart gervigreindarsköpuðu barnaníðsefni, þar sem allt sem þarf er mynd af andliti barnsins. Getty Móðir stúlku hvers mynd var notuð til að búa til barnaklám með aðstoð gervigreindar segist hafa heyrt frá mörg hundruð foreldrum sem segja börn sín einnig meðal fórnarlamba hinnar nýju tækni. Mál umræddrar stúlku og fleiri barna komst í hámæli á Spáni eftir að í ljós kom að myndir yfir 20 stúlkna í bænum Almendralejo voru notaðar til að búa til klám með aðstoð gervigreindar, sem var svo deilt á netinu. Stúlkurnar voru allar undir lögaldri, frá 11 til 17 ára. Móðir einnar þeirra, Miriam Al Adib, var meðal hóps foreldra sem ákvað að stofna stuðningshóp á netinu, sem varð til þess að fjöldi annarra foreldra setti sig í samband. Fólk lýsti því meðal annars hvernig það hefði ekki fengið neinn stuðning þegar upp komst að barnið þeirra hafði verið misnotað með þessum hætti. BBC fjallar um málið í dag en á dögunum fór fram fyrsta ráðstefna þarlendra stjórnvalda um hættur gervigreindar, þar sem innanríkisráðherrann Suella Braverman hét því að taka á gervigreindar-sköpuðu barnaníðsefni. Það væri afstaða stjórnvalda að klámefnið væri ólöglegt, jafnvel þótt ekki væri um að ræða raunveruleg börn. Susie Hargreaves, framkvæmdastjóri Internet Watch Foundation, segir afar brýnt að taka á vandanum. Áhyggjur væru uppi um flóðbylgju „skáldaðs“ barnaníðsefnis. „Þetta er ekki eitthvað sem er að fara að gerast, þetta er að gerast,“ segir hún. Samkvæmt skýrslu samtakanna fundust yfir 20.000 gervigreindar-skapaðar myndir á einu vefsvæði þar sem barnaníðsefni var deilt manna á milli. Í athugasemdum var „höfundum“ myndanna hrósað fyrir það hversu raunverulegar þær væru. Sumar myndanna höfðu verið búnar til útfrá myndum af fullklæddum börnum að leika sér í almenningsgarði. Gervigreind Börn og uppeldi Ofbeldi gegn börnum Netglæpir Kynferðisofbeldi Mest lesið Alvarlegt slys á starfsmönnum á Íslandsmeistarmóti í rallycross Innlent Lést við tökur á Emily in Paris Erlent Níu sviptir leyfi meðan á annað hundrað kvartana hafa borist Innlent Grunur um brot gegn fleiri börnum Innlent Ferðamaður neitaði að borga reikninginn og lét öllum illum látum Innlent Eigandi Sante segir málið gjörunnið: „Frelsið sigrar alltaf að lokum” Innlent Leiðist „linnulaust væl” Íslendinga yfir réttu málfari Innlent Stungumanni í Bankastrætismálinu aftur stungið í steininn Innlent Gríðarlegt magn myndefnis til skoðunar hjá lögreglu Innlent „Forsetinn var aldrei óviðeigandi við neinn“ Erlent Fleiri fréttir Lést við tökur á Emily in Paris „Forsetinn var aldrei óviðeigandi við neinn“ Fjöldi látinn eftir rútuslys í New York Gerðu húsleit á heimili fyrrverandi þjóðaröryggisráðgjafa Trump Staðfesta hungursneyð á Gasa Thunberg og félagar borin út úr norska seðlabankanum Hótar Hamas með helvíti og gjöreyðingu Gasa-borgar Rússar vilja koma að því að tryggja öryggi Úkraínu Erik Menendez fær ekki reynslulausn Fella niður 64 milljarða sekt Trump Samþykktu ný hagstæðari kjördæmi í Texas Vara við hörmungum verði gert áhlaup á Gasaborg Stefna á fjöldaframleiðslu á eigin stýriflaugum Losun Kína dregst saman vegna uppgangs í sólarorku Líkamlegar refsingar hamla þroska og hafa áhættu í för með sér Handtekinn á Ítalíu vegna Nord Stream sprenginganna Rússar halda árásum áfram Ætla að stoppa farandfólk með svartri málningu Mega neita þeim aðgengi sem bera keffiyeh Hefur áhyggjur af gervigreind sem virðist sjálfsmeðvituð Engir hermenn í Úkraínu og enginn fundur með Pútín Kalla tugi þúsunda til herþjónustu Öflugasti sjónaukinn fann áður óþekkt tungl í sólkerfinu „Stríðin“ sex, stundum sjö, sem Trump segist hafa stöðvað Kirkjan í Kiruna komin á áfangastað Frambjóðandi sem ræddi um morð á hundi farinn í hundana Nýtt flaggskip Rússa á sjó eftir tuttugu og fimm ár í slipp Hondúras og Úganda samþykkja að taka við hælisleitendum Segist vilja komast til himna Ísraelar taki ekki annað í mál en lausn allra gísla Sjá meira
Mál umræddrar stúlku og fleiri barna komst í hámæli á Spáni eftir að í ljós kom að myndir yfir 20 stúlkna í bænum Almendralejo voru notaðar til að búa til klám með aðstoð gervigreindar, sem var svo deilt á netinu. Stúlkurnar voru allar undir lögaldri, frá 11 til 17 ára. Móðir einnar þeirra, Miriam Al Adib, var meðal hóps foreldra sem ákvað að stofna stuðningshóp á netinu, sem varð til þess að fjöldi annarra foreldra setti sig í samband. Fólk lýsti því meðal annars hvernig það hefði ekki fengið neinn stuðning þegar upp komst að barnið þeirra hafði verið misnotað með þessum hætti. BBC fjallar um málið í dag en á dögunum fór fram fyrsta ráðstefna þarlendra stjórnvalda um hættur gervigreindar, þar sem innanríkisráðherrann Suella Braverman hét því að taka á gervigreindar-sköpuðu barnaníðsefni. Það væri afstaða stjórnvalda að klámefnið væri ólöglegt, jafnvel þótt ekki væri um að ræða raunveruleg börn. Susie Hargreaves, framkvæmdastjóri Internet Watch Foundation, segir afar brýnt að taka á vandanum. Áhyggjur væru uppi um flóðbylgju „skáldaðs“ barnaníðsefnis. „Þetta er ekki eitthvað sem er að fara að gerast, þetta er að gerast,“ segir hún. Samkvæmt skýrslu samtakanna fundust yfir 20.000 gervigreindar-skapaðar myndir á einu vefsvæði þar sem barnaníðsefni var deilt manna á milli. Í athugasemdum var „höfundum“ myndanna hrósað fyrir það hversu raunverulegar þær væru. Sumar myndanna höfðu verið búnar til útfrá myndum af fullklæddum börnum að leika sér í almenningsgarði.
Gervigreind Börn og uppeldi Ofbeldi gegn börnum Netglæpir Kynferðisofbeldi Mest lesið Alvarlegt slys á starfsmönnum á Íslandsmeistarmóti í rallycross Innlent Lést við tökur á Emily in Paris Erlent Níu sviptir leyfi meðan á annað hundrað kvartana hafa borist Innlent Grunur um brot gegn fleiri börnum Innlent Ferðamaður neitaði að borga reikninginn og lét öllum illum látum Innlent Eigandi Sante segir málið gjörunnið: „Frelsið sigrar alltaf að lokum” Innlent Leiðist „linnulaust væl” Íslendinga yfir réttu málfari Innlent Stungumanni í Bankastrætismálinu aftur stungið í steininn Innlent Gríðarlegt magn myndefnis til skoðunar hjá lögreglu Innlent „Forsetinn var aldrei óviðeigandi við neinn“ Erlent Fleiri fréttir Lést við tökur á Emily in Paris „Forsetinn var aldrei óviðeigandi við neinn“ Fjöldi látinn eftir rútuslys í New York Gerðu húsleit á heimili fyrrverandi þjóðaröryggisráðgjafa Trump Staðfesta hungursneyð á Gasa Thunberg og félagar borin út úr norska seðlabankanum Hótar Hamas með helvíti og gjöreyðingu Gasa-borgar Rússar vilja koma að því að tryggja öryggi Úkraínu Erik Menendez fær ekki reynslulausn Fella niður 64 milljarða sekt Trump Samþykktu ný hagstæðari kjördæmi í Texas Vara við hörmungum verði gert áhlaup á Gasaborg Stefna á fjöldaframleiðslu á eigin stýriflaugum Losun Kína dregst saman vegna uppgangs í sólarorku Líkamlegar refsingar hamla þroska og hafa áhættu í för með sér Handtekinn á Ítalíu vegna Nord Stream sprenginganna Rússar halda árásum áfram Ætla að stoppa farandfólk með svartri málningu Mega neita þeim aðgengi sem bera keffiyeh Hefur áhyggjur af gervigreind sem virðist sjálfsmeðvituð Engir hermenn í Úkraínu og enginn fundur með Pútín Kalla tugi þúsunda til herþjónustu Öflugasti sjónaukinn fann áður óþekkt tungl í sólkerfinu „Stríðin“ sex, stundum sjö, sem Trump segist hafa stöðvað Kirkjan í Kiruna komin á áfangastað Frambjóðandi sem ræddi um morð á hundi farinn í hundana Nýtt flaggskip Rússa á sjó eftir tuttugu og fimm ár í slipp Hondúras og Úganda samþykkja að taka við hælisleitendum Segist vilja komast til himna Ísraelar taki ekki annað í mál en lausn allra gísla Sjá meira