Danske børn og unge leger med manipulationer af billeder og video hver eneste dag. Mulighederne bliver vildere og sjovere, men de kan desværre også ende med digitale krænkelser. Vi voksne skal sørge for at lege MED børnene og samtidigt give dem de nødvendige refleksioner.

I dag, tirsdag d. 11/2 er Sikker Internet Dag (SID), og det er en fremragende anledning til at sætte sig ind i unges billedkultur. Som voksne skal vi forstå, at manipulation af billeder bliver både nemmere, sjovere og potentielt mere bekymrende jo bedre teknologien på de unges platforme – som Snapchat og TikTok – bliver.

På den netop afholdte temadag “Fra nuttede dådyrøjne til fake nudes” som CfDP var medafsender af (sammen med Medierådet for Børn og Unge og Red Barnet), blev der åbnet op for en verden af memes, cheapfakes og fake nudes – falske nøgenbilleder. Temaet blev valgt, fordi børn og unges visuelle kommunikation er eksploderet henover de seneste år – men også fordi antallet af sager, der involverer eksempelvis redigerede nøgenbilleder er fordoblet i 2019. En undersøgelse fra Red Barnet i 2018 viste også, at næsten halvdelen af unge i alderen 13-17 år har været vidne til, at unge på deres egen alder har redigeret fotos af nogen for at gøre dem seksuelle.

“Så længe noget er tydeligt falskt, kan alle grine af det. Men teknikken er ved at være så overlegen, at tvivlen kan opstå. “

Jonas Ravn, seniorrådgiver i CfDP

Jordegern på crack er sjove
Når børn og unge ubesværet bruger de indbyggede funktioner til billedmanipulation i eksempelvis TikTok eller Snapchat, så skyldes det først og fremmest, at det er blevet vanvittigt simpelt. Det er nemt og sjovt at faceswappe og ændre stemmen så man lyder som et jordegern på crack. Den sjove leg med mediet driver det frem.

Vi fik illustreret af de unge selv på temadage i januar, at det kun tager 30 sekunder at lave en billedmanipulation, der får to “uskyldige” mennesker til at kysse hinanden. Det er sjovt og helt åbenlyst, at man da bare gør det for sjovt. Det er samtidigt også relativt nemt at se, at resultatet er fake. Så længe noget er tydeligt falskt, kan alle grine af det. Men teknikken er ved at være så overlegen, at tvivlen kan opstå.

Carl viser panelet, hvor let det er at lege med snapchat, så to personer pludselig kysser

GUIDE: Sådan kender du forskel på fake og virkelighed

Hvad kan vi så regne med?
Populært kaldes den simpleste form for billed- videomanipulation for “cheapfakes”. Det vil sige den lidt letkøbte manipulation, der er en indbygget del af flere sociale medieapps i dag. Det er netop, når vi bytter ansigt på Snapchat eller sænker hastigheden på en video for at få ofret til at lyde småfuld. Den form for simple videomanipulationer er ved at vokse sig ind i “deepfake”-afdelingen, som normalt har været forbeholdt folk med avanceret og dyrt AI-kyndigt redigeringsudstyr.

Et af de mest slående eksempler på ‘deepfake’ er denne video, hvor skuespilleren Jim Carreys ansigt er sat ind i stedet for Jack Nicholsons i gyserklassikeren ‘The Shining’:

Det sjove og uskyldige bliver pludselig et redskab og en kanal til langt større udfordringer. I januar måned kunne det amerikanske medie Techcrunch afsløre, at man havde fundet ikke-offentliggjort kode i TikTok. som selskabet ByteDance havde indsat med det formål at lave biometrisk scanning af ansigtet, så det kan indsættes sømløst i videoer.

Her begynder bekymringerne at opstå. Både i forhold til, hvad et kinesisk firma skal med vores biometriske data, men også i lyset af, at det bliver sværere og sværere at sortere det ægte fra det manipulerede. Og det kan i værste fald betyde, at børn og unge bliver ofre for krænkelser, hvor deres profilbillede for eksempel bliver sat på en nøgen krop gennem manipulation. Den slags er ulovligt.

Vi er nødt til at tænke os godt om
Skal vi forbyde? Skal vi fortælle hvor farlig teknologien er? Eller skal vi lege med børnene og sørge for (og håbe), at legen samtidigt giver tilstrækkelige mediekundskaber til at gennemskue, hvornår man skal mistænke noget for at være fake?

I hvert fald er det sidste vigtigt. Det er velkendt, at den mest effektive digitale dannelse sker ved, at voksne og børn/unge bruger medierne sammen. Det er snakken mens man sammen spiller Fortnite. Det er henover den seneste influencer-video på YouTube, eller mens man sammen prøver at manipulere en selfie med Facetune-appen.

Der er ingen tvivl om, at emner som billedmanipulation, deepfakes og dertilhørende mulige krænkelser bliver et fokusområdet for os i CfDP nu og i fremtiden. Vi følger løbende med i de teknologiske og etiske udviklinger indenfor området og glæder os til at diskutere billedkultur med børn, unge og fagpersoner.

Du kan lære mere om Sikker Internet Dag i videoen her og på https://www.saferinternetday.org/:

Digital trivsel For forældre