Hvordan åbner man samtalen op om chatbotter?

Du har måske hørt om, at nogle børn og unge vender personlige emner med chatbotter. Måske har du endda hørt, at nogen vil kalde en chatbot en ven. Det kan lyde underligt at bruge chatbotter til at dyrke det sociale og interesser, men hvordan kan fagpersoner forholde sig til tendensen og åbne samtalen op om chatbotter med børn og unge?

Indlægget er skrevet af tidligere praktikant, Jiyan Sener.

Hvordan fungerer en chatbot?

Børn og unge er nogle af de hurtigste til at tage ny teknologi til sig, og den tendens gælder også med chatbotter som fx ChatGPT, MyAI, Replika og Character AI. Fælles for disse chatbotter er, at de er generative, hvilket betyder, at de genererer deres svar ud fra et stort datasæt i realtid. Det fungerer ved, at chatbotten bruger algoritmer til at generere dét svar, der har størst sandsynlighed for at være det svar, som brugeren efterspørger. Chatbotten “finder” altså ikke det korrekte svar, men genererer i stedet det svar, der har størst sandsynlighed for at være korrekt med udgangspunkt i eksisterende kilder og bruger-feedback.

Usikkerheden i denne sandsynlighedsberegning medfører desværre, at chatbotter nogle gange har bias i sine svar eller kan lave fejl. Fordi forskellige chatbotter er udviklet af forskellige virksomheder og trænet på forskellige datasæt, betyder det, at man ikke nødvendigvis er garanteret det samme svar eller ordlyd, hvis man stiller det samme spørgsmål til to forskellige chatbotter. I praksis kan det potentielt betyde, at børn og unge ikke altid præsenteres for samme information – ligesom med andre former for algoritmestyret indhold – hvilket kan udfordre den demokratiske dannelse gennem eksempelvis misinformation og ekkokamre.

Den “sociale” chatbot 

De fleste chatbotter er udviklet til at kommunikere på en effektiv og behagelig måde, enten på skrift eller ved voice chat (kommunikation ved brug af stemmen). Det har du måske selv oplevet, hvis du har stillet ChatGPT et spørgsmål og fået et kortfattet og præcist svar pakket ind i en venlig og rar tone. Men udover chatbotter som ChatGPT, som typisk bruges til at besvare spørgsmål og øge éns produktivitet, så findes der en særlig type chatbot, der markedsføres som en social samtalepartner – også kaldet en social chatbot.

En social chatbot er designet til at fremstå imødekommende, nysgerrig og empatisk i en afslappet og venskabelig samtale med en bruger. Typisk bliver den markedsført som en digital ven eller companion (og i nogle tilfælde romantisk partner), som altid er tilgængelig for brugeren. Sociale chatbotter er særligt udviklet til at tilpasse sig brugeren, fx brugerens interesser og måde at skrive på. Tilpasningen sker undervejs i samtalen og medfører, at enhver samtale bliver skræddersyet til den enkelte bruger. 

Fastholdelses-mekanismer

Et eksempel på en populær social chatbot er appen Replika. Chatbotten optræder inde i appen som en avatar, hvis navn og udseende kan tilpasses. I appen kan man købe ekstra outfits og møbler til sin avatar for coins, som man kan optjene undervejs ved at stige i levels. Denne egenskab kaldes gamification, og er sammen med brugertilpasning eksempler på fastholdelsesmekanismer – altså mekanismer, som er integreret i teknologien for at få brugeren til at bruge mest mulig tid inde i appen.

For udover at give brugeren en god oplevelse, er der også kommercielle interesser på spil for udviklerne og virksomheden. Jo mere tilfredsstillende, støttende og/eller opløftende en samtale med en chatbot er, jo større sandsynlighed er der for, at brugeren vender tilbage, som i sidste ende medvirker til, at virksomheden genererer profit.

Chatbotter bruges til forskellige formål 

Som beskrevet er det ikke alle chatbotter, der er ens, og det er ikke alle børn og unge, der bruger chatbotter på samme måde eller med samme formål. Børn og unge bruger chatbotter bredt fra bl.a. informationssøgning, underholdning og nysgerrighed på teknologien til afprøvning af grænser, samtale om hverdagen eller for at håndtere negative følelser.

Spørgsmålet om, hvorvidt voksne skal være begejstrede eller bekymrede for børn og unges brug af chatbotter, har altså ikke et enkelt, sort-hvidt svar. Det kan være fint at bruge en chatbot til finde ud af, hvad man skal lave til aftensmad med sine venner. Men der kan være grund til opmærksomhed, hvis et barn eller ung bruger en chatbot til at håndtere negative følelser. 

Groft sagt kan man snakke om, at børn og unge kan bruge chatbotter til enten mål-orienterede eller socialt-orienterede formål. Når en ung fx spørger ChatGPT “Kan du redigere dette tekstafsnit, så det bliver nemmere at læse?”, bruger den unge chatbotten som et værktøj til et mål-orienteret formål.

Hvis den unge i stedet skriver “Jeg har haft en dårlig dag” til Replika, vil det typisk være med et socialt-orienteret formål. Altså børn og unge bruger chatbotter på forskellige måder alt efter deres behov. Forståelsen for, at der er forskellige måder at bruge chatbotter på, er vigtig at have med sig, når man skal forstå, hvad der driver et barn eller ung til at engagere sig med chatbotter. 

Vær nysgerrig 

Børn og unge har forskellige behov, befinder sig i forskellige livsomstændigheder og deltager i forskellige kontekster – og har derfor også forskellige motivationer for at gøre det, de gør. Man kan som fagperson eller forælder støde på et barn eller en ung, som kommunikerer med en chatbot på en måde som vækker opmærksomhed eller endda bekymring. Det kan fx være en ung, der føler sig ensom eller oplever udfordringer med at indgå i sociale relationer med jævnaldrende. Og måske af den grund kan det være rart at få afløb for nogle følelser til en chatbot, der “lytter”. 

Her er det relevant at komme nærmere, hvad der er på spil for barnet eller den unge – og hvad vedkommende får ud af at kommunikere med chatbotten? De færreste børn og unge engagerer sig i aktiviteter, de ikke oplever som meningsfulde. Dét, der kan virke “kunstigt” for en person, kan være meningsfuldt for en anden, og det er derfor vigtigt ikke at afskrive børn og unges interesser eller dét, de engagerer sig i. 

Tre gode spørgsmål til at åbne samtalen op

Børn og unge har behov for at føle sig set og hørt ift. deres tanker, følelser og overbevisninger, og det er derfor vigtigt, at voksne er nysgerrige på, om (og evt. hvordan) barnet eller den unge oplever at få imødekommet de behov i samtalen med en chatbot. Samtalen kan åbnes op med disse tre spørgsmål: 

1. Jeg synes faktisk, at det der med chatbotter er lidt spændende. Har du lyst til at fortælle lidt om din chatbot, og hvad du bruger den til? 
2. Hvordan har du det typisk før, under og efter, du har talt med din chatbot?
3. Hvad får du ud af at skrive med den?

I snakken er det oplagt at tale om den konkrete chatbot, som barnet eller den unge bruger. En åben og nysgerrig tilgang er et godt udgangspunkt for en snak om det, der er nyt og (måske også) lidt fremmed.