AI-pioner ønsker mere øget regulering af deepfakes

I et åbent brev, der er underskrevet af eksperter i kunstig intelligens og ledere i branchen, herunder AI-pioneren Yoshua Bengio, opfordres der til øget regulering omkring brugen af deepfakes.

Brevet er udgivet på hjemmesiden OpenLetter.net med titlen ”Opgør med Deepfake-forsyningskæden”.

Læs også: Hvad er fake news og deepfakes? Sådan spotter du falske nyheder

Tre anbefalinger til øget regulering af deepfakes

I brevet kommer de mange underskrivere med tre centrale anbefalinger til øget regulering:

1. Fuldt ud kriminalisering af deepfakebørnepornografi, selv når det kun er fiktive børn, der er afbilledet
2. Fastsættelse af strafferetlige sanktioner for enhver, der bevidst skaber eller bevidst letter spredningen af skadelige deepfakes
3. Krav om, at softwareudviklere og -distributører forhindrer deres lyd- og visuelle produkter i at skabe skadelige deepfakes, og at de holdes ansvarlige, hvis deres forebyggende foranstaltninger er for lette at omgå

Hvad er deepfakes? Deepfakes dækker over, at en person i et billede eller i en video skiftes ud med en anden person. Dermed kan deepfakes bruge til at skabe falske billeder og videoer, som indgår i falske historier. Deepfakes har tidligere kun været forbeholdt store og dyre Hollywood-produktioner, men udbredelsen af kunstig intelligens, maskinlæring og kraftige grafikkort til privatbrug har gjort det muligt for hvem som helst at skabe vellignende deepfakes. Uddrag fra artiklen Hvad er fake news og deepfakes? Sådan spotter du falske nyheder

Underskrivernes påstand er, at disse tre initiativer kan fremme socialt ansvarlige virksomheder, uden at reguleringen bliver til alt for meget besvær.

”I dag involverer deepfakes ofte seksuelle billeder, svindel eller politisk desinformation. Da kunstig intelligens udvikler sig hurtigt og gør det meget lettere at skabe deepfakes, er der behov for sikkerhedsforanstaltninger for at sikre vores digitale infrastrukturs funktion og integritet,” indleder underskriverne brevet.

Onsdag sidste uge var der 400 underskrivere fra forskellige brancher såsom den akademiske verden, underholdning og politik. Det tal er siden steget til over 1.000.

Iblandt underskriverne finder man Steven Pinker, der er professor i psykologi ved Harvard University, to tidligere estistiske præsidenter, forskere ved Google DeepMind og en forsker fra OpenAI.

Læs også: EU vil deepfakes og falske profiler på sociale medier til livs med kæmpebøder

EU vil regulere deepfakes med ny forordning

Som en del af forordningen om digitale tjenester eller Digital Services Act (DSA) vil EU deepfakes.

Den foreslåede AI-lov vil ikke direkte forbyde brugen af deepfakes, men forsøger at regulere dem gennem gennemsigtighedsforpligtelser, der pålægges skaberne af deepfakes.

Læs også: Nyheder om fake news og konspiration