TEMA: Risikoadfærd online

Hvad er online risikoadfærd?

Hvad er særligt ved netop online risikoadfærd? Bliv klogere på, hvordan internettets dynamikker kan skubbe til adfærd, der udgør en risiko for unges demokratiske dannelse.

Det vigtigste

  • Online risikoadfærd handler om unges – og særligt unge mænds – interaktion med hadefuldt indhold, der vækker bekymring for demokratisk dannelse. Det kan være influencere, fora eller fællesskaber, som for eksempel dyrker nedværdigende fremstillinger af kvinder eller seksuelle, etniske og religiøse minoriteter.
  • Online risikoadfærd skal tages lige så alvorligt som offline risikoadfærd, selvom onlineadfærden er sværere for fagpersoner at opdage.
  • Online risikoadfærd kan være påvirket af både tekniske, sociale og psykologiske faktorer. Algoritmer prioriterer kontroversielt indhold, ligesom onlinekultur kan være formet af et socialt spil om konstant at overgå hinanden. Anonymitet kan give en følelse af manglende konsekvenser ved handlinger. 

Hvad er online risikoadfærd?

Online risikoadfærd handler om unges – og særligt unge mænds – nysgerrighed for, interaktion med eller deling af hadefuldt og polariserende indhold, der vækker bekymring for demokratisk dannelse. Det kan være influencers, fora eller fællesskaber, som dyrker nedværdigende fremstillinger af bestemte grupper; oftest grupper der er minoriserede på baggrund af køn, etnicitet eller seksualitet. 

Adfærden kan tænkes som et spektrum, der i den milde ende for eksempel inkluderer unge, der har misogyne influencers som en del af deres feed, til – i den grovere ende – unge, der befinder sig i destruktive fora med klare fjendebilleder. Derimellem befinder sig unge, som for eksempel aktivt interagerer med racistisk materiale, følger homofobiske influencers og lignende. 

Andre former for negativ onlineadfærd som for eksempel selvskade, mobning eller billeddeling uden samtykke kan indgå som elementer, men opfattes her ikke som online risikoadfærd i sig selv, med mindre det sker i en sammenhæng, der vækker bekymring for demokratisk dannelse.

Hos Center for Digital Pædagogik forstår vi online risikoadfærd som noget, der i mange tilfælde kan opstå og forstærkes i mødet mellem et almindeligt ungdomsliv og internettet, og hvor mistrivsel eller forskellige former for sårbarhed kan medføre særlige risici. 

Online risikoadfærd kan tænkes som et spektrum fra unge, der har misogyne influencers i deres feed, til unge, der befinder sig i destruktive fora med klare fjendebilleder.

Forebyggelse er vigtigt

Selvom online risikoadfærd som udgangspunkt er lovlig, er det vigtigt at forebygge, da det – udover at udgøre en risiko for den unges demokratiske dannelse – kan bevæge sig i grænselandet for ulovlige handlinger og medføre en forøget risiko for senere at udvikle sig til overtrædelser i relation til lovgivning om eksempelvis racisme, hadtale, billeddeling uden samtykke eller terrorbilligelse. Derudover kan risikoadfærd online afspejle og forværre mistrivslen hos den unge. 

I en drengegruppe kan de godt lide at se videoer, som de såkaldte pædofiljægere deler på Instagram, X og TikTok, hvor de tæsker og udskammer angiveligt pædofile mænd. Drengene synes, det er fedt, at der er nogen, der straffer de pædofile, og så synes de også bare, det er ret sjovt at se på, og derfor accepterer de volden, så længe det bare er pædofile, det går ud over. Gennem kontinuerlig eksponering af videoerne og retorikken i de tilhørende kommentarspor begynder de mere og mere at hylde volden. Nogle af drengene ender med at melde sig ind i de lukkede grupper, som pædofiljægerne har på platformen Telegram, hvor volden dyrkes og medlemmerne har mulighed for aktivt at blive involveret i planlægningen af de voldelige overgreb.

Fordi online risikoadfærd udspiller sig steder, hvor fagpersoner sjældent er til stede, kan opsporing ofte være ganske vanskelig. For at adfærden opdages, kræver det som oftest, at onlineadfærden viser sig i en offline sammenhæng – for eksempel ved, at den unge siger eller gør noget, der vækker opsigt og rejser spørgsmål om, hvor adfærden kom fra. Læs mere om, når risikoadfærden viser offline.

Unge mænd i særlig risiko

Der er generelt ting på spil for unge, som forstærkes eller forskydes online. Rigtig mange unge bliver påvirket af dette i deres færden på nettet, nogle unge udvikler risikoadfærd og få unge bliver decideret radikaliserede. Risikoadfærden kan være drevet af mistrivsel, men kan også f.eks. opstå blandt en vennegruppe, der gejler hinanden op eller som følge af at unge mænd hurtigt eksponeres for problematisk indhold (f.eks. misogyne influencers) online.

Drenge og unge mænd er større risiko for at udøve online risikoadfærd, da de kort sagt er mere sårbare over for den type mistrivsel og de faktorer, der kan føre til online risikoadfærd. En central faktor er, at drenge og unge mænd i mindre grad end piger og unge kvinder har gode alternative fællesskaber og relationer i deres (offline)liv, og derfor i højere grad kan blive tiltrukket af at bevæge sig dybere ind i online fællesskaber, hvor de føler sig nødsaget til at udvise risikoadfærd, hvis kulturen i fællesskaberne kræver det. Læs mere om, hvorfor unge mænd er i større risiko for online risikoadfærd.

Algoritmer fremmer kontroversielt indhold

Der er både særlige økonomiske, tekniske, sociale og psykologiske mekanismer online, der kan fremme og forstærke risikoadfærd. En vigtig teknisk mekanisme er, at sociale mediers algoritmer viser os det, der fastholder os. Det gør de, fordi firmaerne bag er interesserede i at fastholde deres brugeres opmærksomhed så længe som muligt, og det gør de ved, at algoritmerne lærer brugeren at kende og prioriterer indhold, som de, baseret på statistiske modeller, bedømmer vil fastholde brugeren længere på platformen. 

Online risikoadfærd kan være påvirket af, at sociale medier belønner brugerne algoritmisk for at dele og producere kontroversielt indhold, fordi det skaber interaktion (reaktioner, kommentarer, delinger) fra andre brugere og fastholder dem på platformen. Det skaber et incitament for både privatpersoner, influencers og nyhedsmedier til at producere kontroversielt indhold, når de oplever, at netop denne type indhold (hvad end det er retweets, kommentarer, posts eller andet) får mere opmærksomhed og eksponeres til flere. Det resulterer i, at der eksisterer rigtig meget problematisk indhold, og at vi præsenteres for det, da algoritmerne statistisk set bedømmer at den type indhold fastholder os og får os til at reagere. 

En ung mand ser og liker indhold med grænsesøgende humor om transkønnede, herunder en masse videoer med mænd i podcast-clips, der på en humoristisk og selvsikker måde, serverer argumenter om, at der kun er to køn. Hans algoritme begynder lynhurtigt at servere lignende videoer med “white lives matter”, og der går ikke længe, før hans feed begynder at indeholde mere eksplicit hadefuldt transfobisk og racistisk indhold. Indholdet bliver gradvist mere og mere radikalt og konspiratorisk, med bl.a. nynazistiske influencere og temaer, men den unge står ikke af, da overgangen sker gradvist og narrativerne overlapper. Den unge begynder at interessere sig for de temaer, som fremføres i videoerne, fordi det fremføres på en spændende og overbevisende måde, og begynder derfor aktivt at kommentere på videoerne, dele indholdet med vennerne og aktivt fremsøge nynazistisk indhold og influencere på TikTok. Den unge begynder gradvist at anerkende pointer fra konspirationsteorier om eksempelvis befolkningsudskiftning af hvide europæere.

Mange algoritmer prioriterer kontroversielt indhold, da det statistisk netop skaber brugerinteraktion – f.eks. når vi deler eller kommenterer noget fordi det fremkalder følelser i os. På den måde bliver det kontroversielle uproportionalt eksponeret. Hvis den unge af den ene eller anden grund bider på krogen ved at vise indholdet sin opmærksomhed, registrerer algoritmen successen og tilbyder derefter yderligere indhold af lignende eller voldsommere karakter. Over tid kan det virkelighedsudsnit, som vises for den unge, udvikle sig til et problematisk verdenssyn.

Det er dog vigtigt at understrege, at den unge ikke nødvendigvis skal have interageret med problematisk indhold, før algoritmen tilbyder det på deres feed. Problematisk indhold kan sagtens blive vist til brugere, der har interageret med helt almindeligt indhold, som algoritmerne, baseret på statistik om lignende brugere, bedømmer har interesseoverlap med problematisk indhold. For eksempel kan interesse for fitness hurtigt udvikle sig til misogynt indhold.

Vejen til risikoadfærd er kortere online, og det er ikke kun, fordi det belønnes og prioriteres af algoritmerne. Risikoadfærden kan også skubbes på vej ved, at man bag skærmen kan føle, at ens interaktioner er mindre ægte og uden de samme sociale og lovmæssige konsekvenser.

Kortere vej online

Vejen til risikoadfærd er kortere online, og det er ikke kun, fordi det belønnes og prioriteres af algoritmerne. Risikoadfærden kan også skubbes på vej ved, at man bag skærmen kan føle, at ens interaktioner er mindre ægte og uden de samme sociale og lovmæssige konsekvenser. Internettet føles som udgangspunkt meget mindre offentligt, end det jo egentlig er, hvilket giver mange en følelse af anonymitet og privatliv. Det gør, at man kan have tendens til at agere mere hæmningsløst og kan være en mindre socialt reguleret version af sig selv, end man ellers ville, hvilket bl.a. kan komme til udtryk ved problematisk opførsel såsom meget grov humor eller hadtale. 

Det kan føre til en kultur, hvor man konstant forsøger at overgå hinanden i kontroversielle ytringer og deling af kontroversielt indhold. Dette kan f.eks. komme til udtryk ved, at en ung deler racistiske memes i klassechatten på Snapchat, fordi vedkommende synes, det er sjovt og ‘edgy’, og måske giver nogle point blandt kammeraterne. Læs mere om, hvordan den sociale gevinst for unge kan være risikoen værd. Hvis nogle af de andre i chatten/gruppen giver udtryk for, at det er sjovt, så vil det opfordre til denne type indhold bliver delt mere, og kan hurtigt ende ud i, at nogen begynder at dele politisk indhold, der f.eks. handler om, at kun etniske danskere bør have stemmeret, for at få en reaktion, og i værste fald at nogen ender med oprigtigt at tro på racistiske konspirationsteorier. 

En konsekvens af sådan en grænsesøgende kultur kan være, at man over tid får skubbet sine grænser betydeligt for, hvad der er normalt og almindeligt acceptabelt at mene og ytre. Dette kan i sidste ende lede til radikalisering, da meget kontroversielle ytringer og holdninger til sidst bliver hverdagskost, og man ikke længere anser dem for værende problematiske eller skadelige. Hvis man er et ungt menneske, som naturligt har hang til grænsesøgende adfærd, er dette særligt potent. Kombinationen af algoritmers og menneskers opprioritering af kontroversielt indhold, og den hæmningsløshed, der kan være på nettet, er altså med til at forstærke hinanden og den online risikoadfærd.