Rasistisk Muminvideo väcker tankar om deepfakes
Linda Mannila och Alfred Backa kommenterar den rasistiska Muminvideon. Foto: Sören Jonsson/SPT, Skärmbild, Jakob Granfors
Hur lätt ska det få vara att göra AI-videor av andras material, och hjälper vi av misstag till med att sprida trollfabrikernas skräp då vi rapporterar om videon? En komiker och en professor funderar på de här frågorna.
På måndagen rapporterade vi att en AI-genererad video som visar en rasistisk nidbild av Mumindalen cirkulerade på sociala medier.
Den ursprungliga videon verkar i skrivande stund ha tagits ner, men det som en gång laddats upp på internet är svårt att helt och hållet ta bort, säger professor Linda Mannila, som forskar i just AI.
– Man kan inte hindra spridningen. Du kan inte ringa någon och säga ”hej, ta ner den här”. När något finns på nätet sprids det snabbt.
Fejkade videor är i sig inget nytt, påpekar Mannila. Det har också gjorts före AI, av mänskliga kreatörer.
– Jag minns hur upprörda föräldrar lade märke till videor med Elsa och Spiderman som har fått barn. Så själva fenomenet är inte nytt, utan det som är nytt är hur enkelt det är att göra de här fejkade videorna.
Linda Mannila uppmanar till kritiskt tänkande gällande AI. Foto: Sören Jonsson/SPT
Hon efterlyser medvetenhet om saken. Sunt förnuft räcker långt och man ska inte sprida AI-generat material som man vet är falskt, säger Mannila:
– Kom ihåg att om du sprider sådant som du vet är fel bidrar det till målsättningen för de som skapade materialet. Om jag blir upprörd över något och sprider materialet vidare för att varna andra innebär det att materialet kan nå någon som tar det till sig.
Det mänskliga omdömet är alltså mycket viktigt i dag.
– Finns det belägg för att det här materialet är sant? Om det hade visat sig att Tove Jansson var världens största rasist hade traditionella medier absolut plockat upp det, så tänk efter. Finns det någon som vinner på att materialet delas?
Copyright är inte till någon stor hjälp i det här fallet, snarare tvärtom.
– Dels används upphovsrättsskyddat material för att träna språkmodellerna, och dels blir det möjligt att göra fejkat material av det upphovsrättsskyddade materialet.
Så här såg den rasistiska muminvideon ut. Foto: Skärmbild
Ett problem är att vi i dag har allt svårare att veta vad som är AI-genererat och vad som inte är det. Mannila tar Muminvideon som exempel: den är troligen gjord av AI, men det är samtidigt svårt att veta.
– Det finns trollfabriker och det finns många som gör sitt leverne på den här sortens verksamhet, och det behöver inte alls ha med AI att göra. Ta Alfred Backas videor som exempel. De är parodier, fast i ett annat syfte.
”Kritisk till det på två sätt”
Alfred Backa reagerade faktiskt också på Muminvideon, säger han.
– Jag lade upp en story på sociala medier och sade ”det var inte jag som gjorde den.” Men vi ger dem kanske onödigt mycket uppmärksamhet, och det gjorde ju jag med då jag lade upp det där.
Backa är som bekant känd för att göra humorvideor av bland annat Alfons Åberg-filmer. Han anser därför att det här egentligen inte är en copyrightfråga:
– Man har större kunskap om memes nu än för, säg, tio år sedan. Det går inte att lägga ner arbetstid på att plocka bort skoj från internet.
Alfred Backa skapar också videor med upphovsrättsskyddat material. Foto: Kevin Åkerlund
Han fortsätter:
– Det som är mer provocerande med Muminvideon är ju att den är AI, inte att den är rasistisk.
Men:
– Den gick över gränsen, det är helt klart. Det är en åsikt jag inte tycker ska spridas, och det är ett format jag inte tycker ska spridas, alltså AI-videor. Jag är alltså kritisk till det här på två sätt, säger Backa.