IDA: AI-chatbot i Snapchat skal reguleres
59 procent af alle unge mellem 9 og 14 år bruger ifølge TV 2 det sociale medie Snapchat. Da Snapchat introducerede chatbotten ChatGPT under navnet ”My AI” i appen i februar og i sidste uge gjorde den tilgængelig for alle, blev kunstig intelligens dermed meget lettere tilgængelig for de helt unge digitale brugere.
Det er det seneste billede på den lynhurtige udvikling, der sker inden for kunstig intelligens, og det får Ingeniørforeningen (IDA) til at råbe vagt i gevær.
Læs også: Sådan former teknologi samfundet og kaprer menneskers hjerne
Spiller hasard med unges mentale helbred
Når en app som Snapchat, der anvendes flittigt af unge brugere, implementerer kunstig intelligens, bliver deres privatliv invaderet, lyder det fra IDA.
Der er derfor brug for politisk handling for at indføre en aldersgrænse, der skal beskytte børn og unge mod de utilsigtede konsekvenser af sprogmodeller som ChatGPT, mener fagforeningen og interesseorganisationen.
”Vi har allerede set flere eksempler på, at My AI er en virkelig dårlig ven og rådgiver for børn. Vi er nødt til at sætte en stopper for dette eksperiment for at beskytte vores børn og unge mod den flodbølge af misinformation, som ChatGPT indeholder. Vores børn skal ikke være prøveklud for en ufærdig teknologi,” siger Aske Nydam Guldberg, der er fungerende formand for IDA, og tilføjer:
”Vi er nødt til at indføre et forsigtighedsprincip – særligt for børn og unge. Det er tydeligt for enhver, at AI-modellerne befinder sig på et forsøgsstadie, og at vi allesammen er deltagere i et kæmpe eksperiment, som vi ikke kender udfaldet af. Overordnet set er teknologien overhovedet ikke klar til at blive sluppet fri på børn og unge,” siger Aske Nydam Guldberg.
Ingeniørforeningen er ikke ene om bekymringen. Også Børns Vilkår og kulturminister Jakob Engel-Schmidt (M) er ifølge DR bekymrede over den nye funktion i Snapchat.
Kan ikke vente på europæisk regulering
EU er på vej med den såkaldte AI Act, eller også kaldet forordning om harmoniserede regler for kunstig intelligens. Formålet med den er blandt andet at sørge for, at AI-systemer overholder EU’s lovgivning, samtidig med at udviklingen af lovlige, sikre og pålidelige AI-anvendelser fremmes. Dertil skal forordningen også forhindre fragmentering på markedet.
Det Europæiske Databeskyttelsesråd (EDPB) har nedsat en taskforce, som blandt andet undersøger, om ChatGPT overholder de europæiske databeskyttelsesregler (GDPR).
Det er dog nødvendigt at gribe ind nu, mener Aske Nydam Guldberg:
”AI Act træder først i kraft i 2024, og det kan vi simpelthen ikke vente på. Som demokratisk samfund er vi nødt til at sætte foden ned, når techgiganterne fuldstændig ureguleret kaster chatbots og AI-modeller i hovedet på os. Som minimum må vi indføre en aldersbegrænsning for, hvornår sociale medier må anvende kunstig intelligens,” siger han og tilføjer:
”Politikerne må tage børnebrillerne på og vurdere de hårrejsende eksempler, der har været fremme i medierne, hvor Snapchat giver en 13-årig pige gode råd til, hvordan hendes seksuelle debut med en 32-årig mand bliver mest hyggelig med stearinlys og musik. Det går langt udover mine etiske grænser, og jeg frygter, at My AI kan trække sårbare eller ensomme unge ned i et mørkt hul.”
Læs også: Nyheder om mennesket og teknologi