Ís­lenskt hug­vit verndar fólk fyrir djúp­fölsun

Svissneska fyrirtækið Umanitek og íslenska tæknifyrirtækið Videntifier vinna saman að gervigreindinni Umanitek Guardian, sem verndar auðkenni einstaklinga á netinu. Verkefnið var nýlega kynnt hér á landi og verður prufukeyrt á íslenskum markaði næstu vikur.

Chris Rynning, framkvæmdastjóri Umanitek, segir gervigreind færa mannkyninu margt gott, þó það þurfi að hafa varann á.

„Persónulega hef ég nokkrar áhyggjur af því að það sé ákveðin áhætta fólgin í gervigreind. Það tengist sérstaklega djúpfalsi (e. deepfakes) eða því að vita hvað er satt og hvað ekki,“ segir Chris. 

Fólk hleður myndum af sér inn í gervigreindina og hún býr til dulkóðun út frá einkennum manneskjunnar. Veraldarvefurinn er svo skannaður út frá þessum einkennum og fólk fær til baka lista yfir staði þar sem myndir og myndbönd af þeim gætu leynst. Sé þar efni sem fólk hafði ekki gefið leyfi fyrir, eða jafnvel verið framleitt af gervigreind, eru gefnar leiðbeiningar hvernig eigi að láta fjarlægja efnið.

„Ríkjandi tíðarandi tengist djúpfölsun í hvaða mynd sem er. Við sáum OpenAI kynna Sora 2 í síðustu viku og með aðeins einni mynd af einstaklingi er hægt að búa til mjög raunverulegar myndir eða myndskeið,“ segir Chris.

Ari Kristinn Jónsson, framkvæmdastjóri Videntifier, segir íslenskt hugvit gera þessa vörn gegn auðkennisþjófnaði mögulega.

„Þetta er gríðarlega spennandi og það er gaman að fá að vinna með svona framúrskarandi tækni eins og þessi tvö fyrirtæki eru að setja saman. Við að leysa vandamál sem er í rauninni óleyst og óleysanlegt í dag. Það eru ákveðin forréttindi fyrir okkur á Íslandi að fá að vera fyrstu þátttakendur í þessu. Það er bæði vegna þess hversu tæknilega öflug við erum, viljug til að prófa nýja hluti, og um leið skiljum við á Íslandi þá ríku skyldu og ábyrgð að það þurfi að vernda persónuna. Og þetta er lausnin til þess,“ segir Ari.