Sofie Stara: Hoppande kaniner och konstruerade hotbilder – så luras vi av AI
Nej, kaninerna hoppade aldrig i studsmattan hos rachelthecatlovers som publicerade denna AI-video på Tiktok tidigare i år. Väldigt många medgav att de trodde på de hoppande kaninerna. Bild: Skärmdump från rachelthecatlovers
AI-tekniken gör det allt svårare att avgöra vad som är äkta. Samtidigt växer risken för desinformation, polarisering och hatbrott.
Mitt i natten hoppar ett gäng glada kaniner på studsmattan ute i trädgården. Till och med älgar och björnar!
En nackdel med att ha katt är att katten om natten smyger upp i sängen och släpper en död mus i munnen på kattägaren. Det händer titt som tätt många människor som filmar sig själva när de sover.
Kameror i nattläge har också fångat harmamman som modigt försvarar sina ungar mot räven som sticker in sin långa nos i boet. Lodjuret som leker med en boll på gräsmattan. Allt möjligt lustigt och fantastiskt sysslar djuren med när ingen ser.
Bara att de – förstås – i de allra flesta fall inte gör det. AI-genererade videor av djur som hoppar på studsmattan eller gör andra omöjliga saker har blivit populära. De är söta och förmänskligar de nyfikna, lekfulla och sympatiska djuren.
Video på de hoppande kaninerna.
De är bara ett axplock av fejkade videor som spridits som en löpeld över världen de senaste månaderna. En Tiktokprofil la ut videon på de hoppande kaninerna med orden "kollade vår säkerhetskamera, vi verkar ha haft uppträdande gäster på bakgården ..." Många gick på det. Sådana videor stjäl vår tid och en massa energi, men utgör kanske ingen större fara. Förutom om människor börjar tro att djur har egenskaper de egentligen saknar, vilket kan vara riskfyllt.
Dessutom är det svårt att avgöra om videorna är verkliga eller inte. Vilket leder in på den fråga som reportern Jonny Huggare Smeds ställer: Vad händer med en värld där man inte kan lita på det man ser eller hör?
Han har tillsammans med Felix Rantschukoff gjort en klon av sig själv med hjälp av AI. Den ser ut som han, rör sig som han och pratar – nästan – som han. Det skrämmande är att den artificiella och ganska trovärdiga versionen av Jonny har gjorts med teknik som fortfarande inte är särskilt utvecklad, men förbättras hela tiden.
Och det går snabbt. Så kallade deepfakes är redan ett begrepp, och kan få allvarliga konsekvenser för personer som drabbas. Till exempel om någons rykte skadas eller någon går på falska videor om bluffmediciner.
Det som händer med en värld där AI används på det här sättet, och man inte kan lita på det man ser eller hör, är att det blir svårare att skilja på verklighet och fiktion. Sanning och lögn. Fejkade videor gör det enkelt att vilseleda människor, påverka val och skapa polarisering. Det är också lätt att skapa hotbilder, till exempel genom manipulerade bilder av tungt beväpnade muslimer eller demonstrationer mot invandring som aldrig har ägt rum.
Ökningen av AI-material i kombination med hur algoritmer i sociala medier belönar splittrande innehåll accelererar radikalisering och ger extremistiska idéer mer synlighet. Det konstaterar brittiska forskare, efter att MI5:s generaldirektör Ken McCallum varnat för den växande faran med individer som radikaliseras genom fragment av näthat, konspirationsteorier och desinformation.
Det har vi tyvärr sett också i Finland, som när fem unga personer greps i Satakunta för några år sedan. De hade en mycket extrem accelerationistisk ideologi och planerade terrordåd. Vi kan räkna med att risken för radikalisering fortfarande finns, vilket Skyddspolisen också varnar för.
De brittiska forskarna rekommenderar bland annat att plattformer har effektiva system för att användare ska kunna rapportera skadligt innehåll, och stärka verktygen för användarmakt. Till exempel Meta och X har gått i helt motsatt riktning i USA, för att värna yttrandefriheten. Men det ökar risken för skadligt och missvisande innehåll.
Tills den här turbulenta mellantiden i AI-utvecklingen förhoppningsvis har stabiliserats i något positivt och produktivt, utan en massa meningslös dynga, är det viktigt att samhällen för en dialog med unga om sambandet mellan AI, rasism och mänskliga rättigheter. De brittiska forskarna påpekar att även vuxna måste, till exempel genom kampanjer, vara medvetna om hur AI kan vara manipulativt och skadligt relaterat till rasism och fördomar.
Det är i hög grad aktuellt i Finland, där hatbrotten har ökat. Framför allt mot personer med utländsk bakgrund, funktionsnedsättning eller personer med en antagen eller verklig sexuell läggning eller könsidentitet.
Hoppande kaniner och konstruerade hotbilder är inte samma sak, men det är vad vi matas med. De goda nyheterna är att 81 procent av finländarna fortfarande anser att public service-bolaget Yles nyheter är pålitliga.
Vi är inte så splittrade som algoritmerna vill få oss att tro. Vi kan ha flera tankar i huvudet samtidigt. Det vi ser måste inte vara lika svartvitt som kamerorna i nattläge. Vi kan uppskatta de hoppande kaninerna, men de är inte verkliga för det.
Länkar och bakgrund
- Video: Jonny mötte sin digitala klon – och blev orolig för framtiden
- AI-expert om klonvideo: "Ett tecken på hur långt tekniken kommit"
- Brittiska forskare om risker med AI
- Antalet misstänkta hatbrott ökar i Finland – så ser siffrorna ut i Österbotten
- Skypo: Radikalisering av minderåriga har blivit ett permanent problem i Europa, förekommer också i Finland
- Yle: Fem personer häktade i Satakunta misstänkta för terrorbrott – radikala högerextremister enligt polisens bedömning (2021)
- Finländarna litar mest på Yle av nyhetsmedierna