Metas teknologichef: VR kan skabe et giftigt miljø
Teknologichefen for Meta, det tidligere Facebook, Andrew Bosworth, har forklaret over for selskabets ansatte, at det er en vital del af Metas forretningsplan at skabe sikre virtuel reality-oplevelser i det nye metavers, men at det også potentielt er umuligt i stor skala.
I et internt notat, som Financial Times har fået indblik i, har Bosworth tilsyneladende skrevet, at han vil have Metas virtuelle verdener til at have ”næsten Disney-niveauer af sikkerhed”, selvom materiale fra tredjepartsudviklere kan have lavere standarder end Metas eget.
Umuligt at styre brugernes adfærd i et VR-miljø
Chikane og anden upassende opførsel kan vise sig at være en ”eksistentiel trussel” for selskabets planer om en ny type internet, hvis det får kunderne til at vælge VR fra.
Bosworth forklarer i notatet, at virtual reality kan være et “giftigt miljø”, især for kvinder og minoriteter. Chikane på nettet har eksistereret i lang tid og været et stort problem, men mobning og generel dårlig opførsel kan forværres i et interaktivt miljø som VR, der vil spille en central rolle i fremtidens metavers, uddyber han.
Samtidig skriver Bosworth, at det praktisk talt er umuligt at styre brugernes adfærd. Det er for eksempel ikke muligt at overvåge alt, der sker i den virtuelle verden, blandt andet fordi det vil være en krænkelse af folks privatliv.
Se også: Disse teknologier skal skabe metaverset
Store systemer vil altid frustrere folk
Senere tweetede journalist på Financial Times, Hannah Murphy, at Bosworth bemærkede, at moderation af indhold i stor skala er umuligt at gøre ordentligt.
Det er et citat, at der stammer fra Mike Masnick, grundlægger af bloggen Techdirt. Han mener, at de fleste, herunder mange politikere og journalister, har et misvisende forhold til indholdsmoderation, når de siger, at det er svært. Det er derimod umuligt at gøre indholdsmoderation i stor skala godt, mener Masnick. Mere specifikt vil det altid ende med at frustrere meget store dele af befolkningen og vil altid fejle i forhold til at repræsentere det “rigtige” niveau af moderation af nogen.
Masnick bemærkede i samme forbindelse, at dette selvfølgelig ikke er et argument for ikke at arbejde for bedre moderation.
Stærkere håndhævelse nødvendigt
Bosworth foreslår, at Meta skal kunne moderere steder som Horizon Worlds VR-platformen ved at benytte en strengere version af deres nuværende regler for fællesskaber og siger, at moderation af metaverser bør have “et større fokus på håndhævelse gennem en slags skala af advarsler, periodevise bortvisninger og i sidste ende endelig bortvisning fra flerbrugerrum”.
Hele notater endnu ikke offentliggjort, men Bosworth har efterfølgende publiceret et blogindlæg, hvor han henviser til det. Indlægget har titlen “Sikring af menneskers sikkerhed i og uden for VR”, hvilket refererer til flere af Metas eksisterende redskaber til at moderere VR.
Det drejer sig blandt andet om at lade folk blokere andre brugere i VR samt et bredt overvågningssystem til Horizon, der kan holde øje med og anmelde dårlig opførsel. Meta har også forpligtet sig til at bruge 50 millioner dollar på forskning i praktiske og etiske spørgsmål vedrørende planerne for sit metavers.
Se også: De største IT-giganter
Mulighed for at starte på en frisk – men ny udfordringer melder sig
Metas platforme som Facebook og Instagram har haft store problemer med moderationsfejl såsom langsom og utilstrækkelig respons på indhold, der udtrykte had og opfordrede til vold. Selskabets rebranding giver mulighed for en frisk start, men som notat påpeger, bliver der formentlig tale om helt nye former for udfordringer oven i de eksisterende, når det kommer til VR og virtuelle verdener.
“Vi har ofte ærlige samtaler internt og eksternt om de udfordringer, vi står over for, de kompromiser, der er involveret, og de potentielle resultater af vores arbejde,” skrev Bosworth i blogindlægget.
“Der er svære samfundsmæssige og tekniske problemer på spil, og vi kæmper med dem dagligt,” lyder det.
Se også: Nyheder om international tech