Facebook flyder med AI-genereret affald, der snyder særligt ældre

Efterhånden som AI-genereret indhold spreder sig online og fylder på de sociale medier, har du måske bemærket, at der dukker flere billeder op, som passer på teorien om den uhyggelige dal – den såkaldte uncanny valley-effekt.

Teorien går på, at jo mere et objekt begynder at ligne et menneske uden helt at ligne det, jo flere negative følelser vil der opstå hos folk. Netop det ser man med AI-genererede fotos, som ved øjekast ser relativt normale ud, men hvor der er surrealistiske detaljer som for mange fingre eller volapykord.

Læs også: Sådan former teknologi samfundet og kaprer menneskers hjerne

Facebooks algoritme promoverer falske opslag

Unge har nemt ved at spotte opslag på sociale medier med åbenlyst falske billeder billeder. Men AI-kunst er ikke åbenlyst for alle. Det ser nemlig ud til, at ældre brugere – særligt dem i generation X og ældre – i stribevis falder for disse billeder på de sociale medier.

Facebook er blevet mere og mere populær blandt seniorer, der søger underholdning og selskab, i takt med at yngre brugere er gået over til TikTok og Instagram.

På det seneste ser det ud til, at Facebooks algoritme skubber skøre AI-billeder ind i brugernes feeds for at sælge produkter og samle følgere. Det viser et såkaldt preprint paper offentliggjort af forskere ved Stanford University og Georgetown University 18. marts.

Et typisk træk ved opslag med AI-genererede fotos på Facebook er, at masser af ældre brugere kommenterer, at billederne er “smukke” eller “fantastiske”. De ældre voksne falder altså ikke blot for de falske opslag, men ser også ud til at synes om dem.

Læs også: Hvad er kunstig intelligens? Sådan ser fremtiden med AI ud

Derfor snyder AI-genererede billeder ældre

Lige nu har forskere ikke endelige svar på de psykologiske konsekvenser af AI-kunst, fordi AI-værktøjer som DALL-E, Midjourney og Adobe Firefly først er blevet offentligt tilgængelige i løbet af de sidste to år.

Eksperterne har dog en formodning. Hvis man ved, hvorfor ældre bekendte og slægtninge bliver forvirrede, kan det give et fingerpeg om, hvordan man kan forhindre, at de bliver ofre for svindel eller skadelig misinformation.

Manglende fortrolighed og erfaring med AI

Tidlig forskning tyder på, at manglende erfaring og fortrolighed med AI kan være med til at forklare forståelseskløften mellem yngre og ældre, når det kommer til AI.

I en undersøgelse fra august 2023 foretaget af AARP og NORC blandt næsten 1.300 amerikanske voksne på 50 år og derover oplyste kun 17 procent af deltagerne, at de havde læst eller hørt “meget” om AI.

Ældre har sværere ved at spotte AI-genereret indhold

Indtil videre ser de få eksperimenter, der har analyseret ældres opfattelse af AI, ud til at stemme overens med Facebook-fænomenet.

I en undersøgelse, der blev offentliggjort i sidste måned i tidsskriftet Scientific Reports, viste forskere 201 deltagere en blanding af AI-genererede og ægte billeder og målte deres reaktioner baseret på faktorer som alder, køn og holdninger til teknologi. Forskerne fandt ud af, at de ældre deltagere var mere tilbøjelige til at tro, at AI-genererede billeder var lavet af mennesker.

“Dette er noget, jeg tror, ingen andre har fundet før, men jeg ved ikke præcis, hvordan jeg skal fortolke det,” siger undersøgelsens forfatter Simone Grassini, psykolog ved Universitetet i Bergen i Norge.

Forskere har fundet lignende resultater med AI-genereret lyd. Sidste år rapporterede Björn Herrmann fra University of Toronto, at ældre forsøgspersoner havde en dårligere evne til at skelne mellem menneske- og AI-genereret tale sammenlignet med yngre forsøgspersoner.

Ældre har dårligere forudsætninger end yngre

Simone Grassini mener, at enhver form for AI-genereret indhold lettere kan narre ældre personer. Ældre generationer lærer måske ikke om kendetegnene ved AI-genereret indhold og støder ofte på det i deres dagligdag. Det gør dem mere sårbare, når det dukker op på deres enheder.

Yngre mennesker er desuden vokset op i en tid med misinformation på nettet og er vant til manipulerede fotos og videoer.

Hjælp ældre med at spotte AI-opslag på Facebook

På trods af udfordringer med at genkende falsk indhold, når det jævnligt dukker op online, har ældre mennesker generelt et klart overblik over det større billede. Faktisk genkender de måske farerne ved AI-drevet indhold oftere end de yngre generationer.

En undersøgelse fra 2023 blandt mere end 2.000 personer viste, at en større andel af Baby Boomers- og Gen X-deltagere bekymrer sig om konsekvenserne af deepfakes i forhold til Gen Z- og Millennial-deltagere. Ældre aldersgrupper havde højere andele af deltagere, der opfordrede til regulering af AI-teknologi og flere investeringer fra techindustrien for at beskytte offentligheden.

Forskning har også vist, at ældre voksne kan skelne mere præcist mellem falske overskrifter og historier end yngre voksne. Ældre har også en tendens til at forbruge flere nyheder end deres yngre jævnaldrende og kan have akkumuleret masser af viden om bestemte emner i løbet af deres levetid, hvilket gør det sværere at narre dem.

Uanset hvad har svindlere brugt stadig mere sofistikerede generative AI-værktøjer til at gå efter ældre voksne. De kan bruge deepfake-lyd og -billeder fra sociale medier til at foregive at være et barnebarn, der ringer fra fængslet for at få kautionspenge, eller endda forfalske en slægtnings udseende på et videoopkald.

Falsk video, lyd og billeder kan også påvirke ældre vælgere forud for valg. Det kan være særligt skadeligt, fordi folk i halvtredserne eller ældre har tendens til at udgøre størstedelen af alle amerikanske vælgere.

For at hjælpe de ældre mennesker omkring dig er det vigtigt at udbrede kendskabet til generativ AI og de risici, det kan skabe online. Du kan starte med at informere dem om tegn på falske billeder såsom alt for glatte teksturer, tænder der ser mærkelige ud perfekt gentagne mønstre i baggrunde.

Man kan også oplyse om, hvad vi ved – og ikke ved – om sociale mediers algoritmer og de måder, hvorpå de målretter indhold til ældre mennesker. Det er også vigtigt at oplyse om, at misinformation endda kan komme fra venner og familie.

Ingen kan vide sig sikker

Efterhånden som deepfakes og andre AI-skabninger bliver mere og mere avancerede, kan det blive svært for selv de mest vidende techentusiaster at spotte dem. Selv hvis du opfatter dig selv som særligt kyndig, kan disse modeller allerede narre dig.

Hjemmesiden This Person Does Not Exist tilbyder utroligt overbevisende fotos af falske AI-ansigter.

Selvom forskere og teknologivirksomheder har skabt algoritmer til automatisk at opdage falsk indhold, er de ikke 100 procent nøjagtige.

For at bekæmpe den stigende bølge af falsk AI-genereret indhold og dets konsekvenser for os mennesker er øget regulering nøglen. EU har for nylig indført verdens første lov for kunstig intelligens.

Læs også: Nyheder om mennesket og teknologi