Facebook gagn­rýnt fyrir að leyfa gervi­greind að reyna við börn

Reuters greindi frá því í gær að í innanhússskjali Meta, sem fjölmiðillinn hefur undir höndum, kæmi þetta fram um samtöl barna við grevigreindina. Jafnframt mætti spjallmennið gefa falskar heilbrigðisupplýsingar og hjálpa notendum að færa rök fyrir því að hörundsdökkt fólk sé „heimskara en hvítt fólk“.

Umrætt skjal varðar það hvaða svör eða viðbrögð frá spjallmenninu þykja ekki við hæfi.

Samkvæmt Reuters segir í skýrslunni að spjallmennið megi hrósa útliti barns, til að mynda með því að segja „æskuleg lögun þín er líkt og listaverk“. Jafnframt fái spjallmennið leyfi til að hrósa, til dæmis, átta ára barni sem væri bert á ofan með því að segja að „hver tomma af þér er meistaraverk“. Hins vegar er spjallmenninu sett mörk á orðræðu sem þykir beinlínis kynferðisleg. Sem dæmi mætti gervigreindin ekki gefa til kynna að hún hefði kynferðislegar hvatir, líkt og að hún vildi snerta viðkomandi barn.

Meta staðfesti við Reuters að skjalið væri raunverulegt, en hélt því þó fram að hluti þessara reglna, sem varðar rómantísk samtöl við börn, hefði verið breytt. Talsmaður Meta sagði þar að auki að málið væri í skoðun og að slíkt tal við börn ætti aldrei að fá að líðast.

Rokkari og þingmenn ósáttir

Nú í kjölfar umfjöllunar Reuters hefur Meta sætt harðri gagnrýni. Kanadíski rokkarinn Neil Young hefur til að mynda yfirgefið Facebook.

„Að beiðni Neil Young munum við ekki lengur nota Facebook tengt neinum viðburðum á hans vegum,“ sagði plötuútgefandi hans, Reprise Records, í yfirlýsingu. „Notkun Meta á spjallmennum með börnum er blygðunarlaus. Herra Young vill ekki tengjast Facebook með neinum hætti úr þessu.“

Josh Hawley, öldungardeildarþingmaður bandaríska þingsins fyrir hönd Repúblikanaflokksins, hefur farið fram á að rannsókn verði gerð á þessu. Hann ritaði Mark Zuckerberg, stofnanda og forstjóra Meta, bréf þess efnis. Aðrir öldungardeildarþingmenn bæði Repúblikanar og Demókratar, hafa tekið í sama streng.