Kommer fremtidens krige til at handle om at få kontrol med modstandernes hjerner?
Det lyder næsten som science fiction, men i Kina arbejder militærets videnskabsfolk faktisk med den slags.
Den mest effektive måde til at vinde kognitiv krigsførelse på, er at paralysere hjernen
Xinan Li, forsker ved institut for militærpolitisk arbejde, Kinas akademi for militærvidenskab i Beijing
En af dem hedder Xinan Li.
Han er ansat ved fakultetet for militærpolitisk arbejde under det kinesiske akademi for militærvidenskab i Beijing, og 19. februar udgav han en artikel i avisen Guangming Daily.
- Teknologi til kontrol af hjernen: Den stigende opbakning til kognitiv krigsførelse, lyder overskriften.
I artiklen gennemgår Xinan Li en række metoder – lige fra højfrekvente lyde til elektromagnetisk stråling og psykofarmaka – som han mener virker som lovende våben i fremtidens konflikter.
- Den mest effektive måde til at vinde kognitiv krigsførelse på, er at paralysere hjernen, skriver han og tilføjer, at moderne teknologi de seneste år har åbnet helt nye muligheder inden for kognitiv krigsførelse.
- Gennem manipuleret information og frembringelse af offentlige meninger kommer fjenden uvidende til at gå i en fælde, så målet for kampen kan opnås uden ret stor indsats, skriver han.
Avisartiklen er et af de seneste eksempler på, at styret i Kina åbenbart interesserer sig for den slags.
I december 2021 indførte de amerikanske myndigheder sanktioner mod 22 kinesiske virksomheder og 12 forskningsinstitutioner, fordi de ifølge amerikanerne var indblandet i udvikling og produktion af "våben til hjernekontrol".
Er Tiktok et våben?
Jeg ved godt, at du ikke klikkede dig ind på denne artikel for at læse om kinesisk forskning i hjernekontrol.
Men det, du lige har læst, skulle gerne sætte det emne, artiklen her egentlig handler om, i perspektiv.
Artiklen handler om det sociale medie Tiktok, som i dag findes på rigtig mange danske børns telefoner.
Tiktok er udviklet i Kina og ejet af et kinesisk selskab, men kineserne må ikke bruge den app, som vi kender her i Vesten.
I stedet har kineserne deres helt egen version.
Blandt eksperter er der frygt for, at Kina bruger Tiktok som et våben i en hybridkrig mod os.
Det store spørgsmål er, hvorfor de gør det
André Ken Jakobsson, forsker i hybrid krigsførelse ved Syddansk Universitet
En af de bekymrede eksperter er den amerikanske jura- og filosofiprofessor Nita Farahany, som har specialiseret sig i, hvilke konsekvenser nye teknologier har for vores samfund.
Nita Farahany udgav 25. marts 2023 en artikel med overskriften "Tiktok er del af felttoget i Kinas kognitive krig".
Her skriver hun, at Kinas forskning i hjernekontrol og Tiktok er to sider af samme sag.
Ifølge professoren er Tiktok farlig, fordi appen indsamler data, som for eksempel ansigtsgenkendelse, men også fordi Tiktoks algoritme er i stand til at forme "holdninger, fordomme og overbevisninger".
I Danmark er André Ken Jakobsson, der forsker i hybrid krigsførelse ved Syddansk Universitet, også bekymret for, om Kina bruger Tiktok aktivt til at skade os.
- Der er afdækket så mange ting, som viser, at Tiktok er et giftigt sted at være. Og vi ved, at firmaet bag har fuld kontrol over algoritmen, der bestemmer, om noget skal trende eller ej. Dermed bestemmer de jo også, hvilket indhold, der skal være populært hos os i Vesten, siger han.
Men er Tiktok kun skabt for at tjene penge, eller stikker der mere under?
- Med den globale version af Tiktok har kineserne haft held til at eksportere en meget succesfuld og afhængighedsskabende algoritme. Det store spørgsmål er, hvorfor de gør det, siger André Ken Jakobsson.
Hvem står bag?
Tiktok ejes af det kinesiske firma ByteDance, som også står bag Douyin, som Tiktoks kinesiske "tvilling" hedder.
Og når man kigger på, hvem der står bag ByteDance, viser det sig, at det selvsamme kinesiske styre, som udvikler våben til hjernekontrol, også er stærkt involveret i Tiktok.
I vinteren 2023 satte myndighederne i Australien konsulenthuset McGrathNicol's til at undersøge, om Tiktok udgør en sikkerhedsrisiko, og i konsulenthusets rapport kigger analytikerne blandt andet på, hvem der styrer moderselskabet ByteDance.
Konklusionen i rapporten, der udkom 13. marts i år, er, at hverken Tiktok, moderselkabet ByteDance eller den kinesiske version Douyin kan betragtes som private virksomheder.
- Efter vores overbevisning bør ByteDance anses som et selskab, der er en statslig-privat hybrid, skriver analytikerne.
ByteDances chefredaktør Zhang Fuping er ifølge åbne kinesiske kilder partisekretær i Kinas kommunistparti samtidig med sit job hos ByteDance, og han er set sammen med højtstående repræsentanter for den politiske afdeling hos Kinas væbnede politistyrke.
Analytikerne bag den australske rapport mener også, at der er risiko for, at Tiktok kan bruges som et våben af kineserne.
- Tiktok har latent potentiale til at tære på folks tiltro til demokratiet og til at underminere åbne samfunds vilje til at konkurrere mod Kinas autoritære samfundsmodel, skriver konsulenterne.
Hvis de australske konsulenter har ret, kunne det godt se ud som om, vi om kort tid kan stå over for et problem her i Danmark.
Den populære algoritme
Ifølge tal fra DR Medieforskning brugte danske børn i aldersgruppen fra 9 til 14 år nemlig i gennemsnit en time og 18 minutter om dagen på Tiktok sidste år.
På verdensplan er Tiktoks app downloadet 2,6 milliarder gange, og i marts 2023 var der cirka én milliard aktive brugere på verdensplan.
Men i Kina må hverken børn eller voksne bruge den version af Tiktok, som vi kender her i Vesten.
De eksporterer opiumversionen til resten af verden
Tristan Harris, tidligere etikmedarbejder hos Google
I stedet har ByteDance udviklet et socialt medie, der hedder Douyin, som ligner Tiktok til forveksling, bruger samme logo og har en lignende algoritme til at udvælge indholdet.
Men der er stor forskel på de ting, som algoritmen synes, at børn i Kina bør se, sammenlignet med børn i Vesten.
- Det er næsten som om, de anerkender, at teknologien har indflydelse på børns udvikling og derfor har lavet deres egen spinatversion af Tiktok, mens de eksporterer opiumversionen til resten af verden, sagde Googles tidligere etikmedarbejder Tristan Harris til det amerikanske tv-program '60 Minutes' sidste år.
Det er kun muligt at se indholdet på Kinas version af Tiktok, Douyin, hvis man har en telefon med kinesisk simkort og er tilknyttet en App-store i Kina.
Eksperimentet
Så for at finde ud af, hvordan forskellen på Douyin og Tiktok ser ud i virkeligheden, bad TV 2 to tiårige piger om at deltage i et eksperiment.
Den ene pige hedder Mao Xinyu og bor i Beijing. Hun ejer ikke selv en mobiltelefon, men får lov til at lege med sine bedsteforældres telefon omkring 30 minutter om dagen.
Den anden pige hedder Alma Louise Jessen og bor i Middelfart. Hun har sin egen telefon, og der er ikke nogen faste grænser for, hvornår hun må bruge den i dagtimerne.
Vi bad de to piger om at tænde for henholdsvis Douyin og Tiktok og optog derefter, hvad de blev præsenteret for.
To forskellige verdener
Algoritmen vælger videoklip, ud fra hvad brugeren har set før, så vi forventede en vis forskel på, hvad de to piger fik frem på skærmene.
Alligevel var der en stor forskel i typen af indhold, og hvor længe videoerne varede.
Alma Louise fra Middelfart lagde ud med et klip på ni sekunder, hvor en animeret tegneseriefigur af en pige danser til en forvrænget stemme.
Mao Xinyu fra Beijing lagde ud med et klip på 35 sekunder, hvor man ser en pige bearbejde vådt ler på en drejeskive.
Mens Alma Louise blev præsenteret for yderligere en dansevideo med korte musikklip, fik Mao Xinyu en instruktionsvideo, der forklarer, hvordan man benytter en suppeske, når man besøger et vestligt land.
Og sådan fortsatte det.
Mens Alma Louise fik et klip med en dame og en hund i en bil, der mimer til sangen 'Who let the dogs out', fik Mao Xinyu en instruktion i at løse et traditionelt kinesisk puslespil med farvede trækugler.
Og mens Mao Xinyu så en animeret film om kaffebønnens historie, blev Alma Louise præsenteret for en video af influenceren Morten Münster, der danser med sin mor.
Her på TV 2 har vi optalt, hvor mange videoer de to piger blev præsenteret for.
Mens kinesiske Mao Xinyu blev præsenteret for 17 videoklip på ti minutter, nåede danske Alma Louise at blive præsenteret for 38.
Ifølge André Ken Jakobsson, der forsker i hybrid krigsførelse på Syddansk Universitet, er forskellen i antallet af videoer interessant.
- Hvorfor er der forskel på, hvor mange videoer en pige i Beijing og en pige i Middelfart bliver eksponeret for? Det ser ud, som om der er en forskellig tilgang til de to målgrupper, og det er svært at se som andet end et bevidst valg, siger han til TV 2.
Mens danske Alma Louise nemt kunne scrolle videre, hvis hun ikke ville se mere af en video, risikerede Mao Xinyu at få fem sekunders tvungen pause mellem videoerne, hvis Douyins algoritme syntes, at hun havde brug for en pause.
I Kina er børneudgaven af Douyin nemlig sat op til at begrænse uhæmmet brug af appen, og børn under 13 år må kun bruge den 40 minutter om dagen og kun mellem klokken 06.00 om morgenen og 22.00 om aftenen.
Så mens kinesiske Mao Xinyu bliver beskyttet af firmaet bag Douyin og Tiktok, kunne danske Alma Louise bare scrolle løs.
Det kinesiske forsøg
Hvad det præcis gør ved hjernen at se korte videoklip i længere perioder, er noget en gruppe kinesiske videnskabsfolk ved Zhejiang-universitetet i byen Hangzhou har forsket i.
I 2021 scannede de hjernen hos 30 studerende, mens de så korte videoer på Douyins voksenudgave, der ikke har de samme begrænsninger, som den Mao Xinyu brugte.
Forsøgspersonerne var mellem 19 og 30 år gamle, og forskerne delte dem op i en gruppe, der havde benyttet Douyin før, og en gruppe, der ikke havde.
Nogle brugere kan udvikle et problematisk brugsmønster
Forskergruppe fra Zhejiang-universitetet
Hos de studerende, som havde brugt Douyin før, udvalgte algoritmen videoer på baggrund af indhold, som de havde set tidligere.
Hos de studerende, der ikke havde brugt Douyin før, udvalgte algoritmen tilfældige videoer.
Begge hold blev sat til at se på deres telefoner i seks minutter, mens måleudstyr registrerede, hvilke centre i hjernen der blev aktiveret.
Og det viste sig, at den gruppe, som brugte appen i forvejen og blev præsenteret for personaliseret indhold, fik aktiveret belønningscentre i hjernen, som er stærkt forbundet med afhængighed.
Forskerne fandt også ud af, at nogle at de studerende havde svært ved at kontrollere, hvornår de skulle holde op med at se på Douyin.
- Nogle brugere kan udvikle et problematisk brugsmønster, der manifesterer sig som uønsket afhængighedslignende adfærd, skrev forskerne, som fik deres undersøgelse udgivet i det videnskabelige tidsskrift Neuroimage.
Deltagerne i forsøget var som nævnt over 18 år, og videnskabsfolkene på Zhejiang-universitetet har ikke udført lignende forsøg med børn.
Men det ser ud, som om myndighederne i Kina tager risikoen for, at børn kan blive afhængige af Douyin, meget alvorligt.
Kinesiske restriktioner
Så sent som 27. februar i år meddelte Kinas nationale myndighed for radio og tv, at de arbejder yderligere på "at regulere korte videoer og beskytte mindreårige brugere mod at blive afhængige".
Så der kan være flere stramninger på vej for piger som Mao Xinyu.
I vesten kæmper Tiktok i øjeblikket mod pres fra myndighederne i flere lande, og firmaet meddelte i begyndelsen af marts, at der kommer et frivilligt værktøj, så forældre kan indstille mængden af tilladt tid på Tiktok for deres børn.
I Kina har den slags været på plads i flere år, og indstillingerne for tilladt tid er ikke frivillige.
Desuden har kinesiske forældre mulighed for at slukke for personaliseret indhold, så algoritmens valg ikke bliver helt så vanedannende.
Alle konti på Douyin er koblet op på brugerens identitet, og de kinesiske myndigheder bruger ansigtsgenkendelse på sociale medier for at undgå, at børn omgår reglerne.
Det er dog ikke kun reglerne for brug af Tiktok og Douyin, der er forskellige i Danmark og Kina.
Tiktoks algoritme er kendt for at prioritere videoer med influencere og optagelser, hvor børn og unge mimer og danser til musik.
Men der er også talrige eksempler på, at algoritmen har promoveret misinformation til helt nye brugere, bortredigeret ordet "bøsse", censureret ordet "genopdragelseslejr", samt promoveret videoer om selvskade og sundhedsskadelige trends.
I løbet af sine ti minutter på Tiktok blev tiårige Alma Louise fra Middelfart også eksponeret for problematisk indhold.
En enkelt af af videoerne handlede om en pige, som forsøgte at slå figurer i børnespillet Toca Boca ihjel.
- Møgkælling, hvis jeg slår dig ihjel nu, er du så død? kan man høre pigen sige på videoen.
Den slags blev Mao Xinyu i Beijing ikke præsenteret for.
Underholdning eller undervisning?
På Douyin prioriterede algoritmen nemlig indhold, børn formodes at blive klogere af.
Hvis man kategoriserer indholdet af, hvad de to piger blev præsenteret for, ser det sådan her ud:
Alma Louise blev præsenteret for underholdning, dans, musik og reklamer i sine ti minutter, mens Mao Xinyu fik serveret videoer med inspiration til tegning, kunsthåndværk og små film med lærerigt indhold i omkring 7 minutter og 30 sekunder, mens de sidste omkring to minutter var mere let underholdning.
Firmaet bag Douyin gør ikke nogen hemmelighed ud af, at det indhold, børnene præsenteres for, skal gøre dem klogere.
Firmaet fortæller det selv i en af sine egne reklamefilm.
- Hvad er Douyin i teen-indstilling? Rigelige ressourcer til læring ligger klar til børn i forskellige aldre, inklusiv 100.000 i afsnit i serien 'hvorfor?', forklaringer på officielle kulturskatte fra Den Forbudte By, videnskab fortalt af videnskabsfolk og specialindhold så som maleri, håndværk, rumfart og vanedannelse, fortæller Douyin i en af filmene.
Formålet er sandsynligvis at gøre kinesiske børn interesserede i videnskab og håndværk.
Astronaut eller influencer?
Og det ser ud til, at de kinesiske bestræbelser er ved at lykkes.
I 2019 undersøgte det danske legetøjsfirma Lego børns fremtidsdrømme i en række forskellige lande.
I Kina var topscoreren astronaut, som var den ultimative fremtidsdrøm for 56 procent af de adspurgte kinesiske børn.
I USA og Storbritannien var den ultimative fremtidsdrøm, som flest børn delte, at blive influencer. Cirka 30 procent af børnene havde her den drøm, mens kun 11 procent ønskede at blive astronauter.
Hvad skal man mene om det?
Vi giver det sidste ord til den stærkt kontroversielle internetpersonlighed Andrew Tate, der sidder i husarrest for menneskesmugling og organiseret kriminalitet i Rumænien.
Han er kendt for at komme med stærkt diskriminerende udtalelser og er bandlyst fra Twitter, Youtube, Facebook og Tiktok.
Trods alle Tiktoks værktøjer til at styre, hvad brugeren får at se, var det imidlertid alligevel en video med Andrew Tate, der dukkede op, da vi søgte på undersøgelsen om børns fremtidsdrømme på Tiktok.
- Hvordan kan vi vinde i det lange løb, når børn i Kina ønsker at vide ting, mens børn i Vesten hellere vil tosse omkring med et kamera, spørger han på videoen.
TV 2 har forsøgt at få Tiktok til at forholde sig til kritikken, men virksomheden er ikke vendt tilbage.