Hús­leit hjá X í Frakk­landi vegna barnaníðs­mynda

Rannsóknin beinist ekki aðeins að hlutdeild X, allsherjarforritsins, í dreifingu á kynferðislegu myndefni af börnum og konum gegn vilja þeirra sem voru framleiddar með gervigreindarspjallmenninu Grok heldur einnig að afneitun á glæpum gegn mannkyninu og slagsíðu í algrími forritsins.

„Á þessu stigi byggist framvinda rannsóknarinnar á uppbyggilegri nálgun sem miðað að því að tryggja að endingu að miðillinn X uppfylli frönsk lög þar sem hann hefur starfsemi í umdæmi þeirra,“ segir í yfirlýsingu saksóknara í París.

Evrópska lögreglustofnunin Europol var frönsku saksóknurunum innan handar í aðgerðunum, að því er kemur fram í frétt AP-fréttastofunnar.

Þá segjast saksóknararnir hafa óskað eftir að taka skýrslu af Musk sjálfum og Lindu  Yaccarino, forstjóra X, í apríl. Fleiri starfsmenn X hafa verið kvaddir til skýrslutöku þá.

Framleiddi kynferðislegar myndir af börnum, konum og líkum

Yfirvöld í fjölda ríkja hafa kynferðislegar gervigreindarmyndir sem framleiddar voru með Grok og birtust á X til rannsóknar. Fyrirtækið sætti harðri gagnrýni fyrir að koma ekki í veg fyrir að notendur gætu látið gervigreindina eiga við myndir af raunverulegu fólki og gera þær kynferðislegar.

Á meðal mynda sem sættu slíkri meðferð og birtust á X var mynd af líki konu sem bandarískir innflytjendaeftirlitsmenn skutu til bana í Minneapolis í síðasta mánuði og mynd af líki unglingsstúlku sem lést í eldsvoða á krá í svissneskum skíðabæ.

X brást við gagnrýninni með því að segjast ætla að takmarka hvaða notendur gætu notað myndvinnslu Grok í sumum löndum. Fyrirtækið hefur ekki brugðist við aðgerðum franskra yfirvalda í dag.

Reuters-fréttastofan segir að Grok framleiði enn kynferðislegar myndir af fólki, jafnvel þótt spjallmennið fái upplýsingar um það sé gegn vilja viðkomandi, að myndirnar verði notaðar til þess að auðmýkja það opinberlega og að þær séu af fórnarlömbum kynferðisofbeldis.

Önnur leiðandi gervigreindarmállíkön eins og ChatGPT hafni sambærilegum beiðnum notenda sinna og vari gjarnan við birtingu mynda af fólki gegn vilja þess.

Sagði gasklefana til sótthreinsunar, ekki helfarar

Franska rannsóknin hófst upphaflega á ásökunum þarlendra þingmanna um kerfisbundna slagsíðu í algrími X sem stýrir því hvaða efni er haldið að notendum.

Síðar bættust kynferðislegu gervigreindarmyndirnar við rannsóknina og sömuleiðis færslur þar sem helförinni var afneitað. Grok skrifaði ranglega í færslu á frönsku sem fór víða að gasklefar í útrýmingarbúðum nasista hefðu ekki verið notaðir til helfarar gegn gyðingum heldur til þess að sótthreinsa fanga gegn dílasótt.

Grok hefur ítrekað skrifað svör til notenda sem hafa verið full af gyðingahatri. Spjallmennið lofaði meðal annars Adolf Hitler og vísaði til sín sjálfs sem „VélHitlers“ (e. MechaHitler). Þá leyfði það notendum sínum að setja baðföt með hakakrossum á kynferðislegar myndir af konum.

Undir stjórn Musk hefur X orðið að einum vinsælasta vettvangi hvítra þjóðernissinna og öfgahægrimanna. Hann er sjálfur er helsti boðberi slíkrar hugmyndafræði í heiminum. Hann sakaði nýlega spænsk stjórnvöld um að hyggja á „þjóðarmorð“ á hvítu fólki með því að gefa hundruðum þúsund innflytjenda sem dvelja ólöglega á Spáni tímabundin dvalar- og atvinnuleyfi.