TikTok is een van de populairste manieren om je te vermaken als je je verveelt. Maar bepaalde TikTok-accounts gaan wel veel te ver met hun content. Deze TikTok-accounts plaatsen angstaanjagende kunstmatig intelligente gegenereerde video’s van moordslachtoffers – voornamelijk kinderen – die hun eigen gruwelijke dood beschrijven.
Baby vertelt
“Oma sloot me op in een oven op 230 graden toen ik slechts 21 maanden oud was,” zegt de schattige baby met enorme blauwe ogen en een bloemenhoofdband in de TikTok-video. De baby, die spreekt met een vertederend kinderlijke stem boven op de jammerlijke melodie van Dylan Mathew’s “Love Is Gone,” identificeert zichzelf als Rody Marie Floyd, een klein meisje dat met haar moeder en oma in Mississippi woonde. Ze vertelt dat ze op een dag honger had en niet zou stoppen met huilen, wat haar grootmoeder ertoe bracht haar in de oven te plaatsen, wat leidde tot haar dood. “Volg me alsjeblieft, zodat meer mensen mijn ware verhaal kennen,” zegt de baby aan het einde van de video.
Niet echt
De baby in de video is natuurlijk niet echt: ze is een door AI gegenereerde creatie geplaatst op @truestorynow, een account met bijna 50.000 volgers dat video’s plaatst van echte misdaadslachtoffers die hun verhalen vertellen. Het gruwelijke verhaal dat ze vertelt is waar, zij het tot op zekere hoogte. De naam van de baby was niet Rody Marie, maar Royalty Marie, en ze werd doodgestoken en verbrand in een oven in het huis van haar grootmoeder in Mississippi in 2018; de grootmoeder, 48-jarige Carolyn Jones, werd eerder dit jaar aangeklaagd voor moord in de eerste graad. Maar Royalty was 20 maanden oud toen ze stierf, niet 21, en in tegenstelling tot de baby in de TikTok-video was ze zwart, niet blank. Dergelijke onnauwkeurigheden zijn schering en inslag in de groteske wereld van AI true-crime-slachtoffer TikTok, een subgenre van de enorme true-crime-fandom, dat kunstmatige intelligentie gebruikt om in feite moordslachtoffers weer tot leven te brengen, waarvan velen jonge kinderen zijn. De video’s, waarvan sommige miljoenen views hebben, omvatten een slachtoffer dat in de eerste persoon spreekt over de gruwelijke details van hun dood; de meeste van hen hebben geen waarschuwing vooraf.
@greenandstories The Story of Royalty Mari Floyd" #HeartbreakingMemories #RoyaltyMariFloyd ♬ original sound – GREEN AND STORIES
Griezelig
“Ze zijn behoorlijk vreemd en griezelig,” zegt Paul Bleakley, assistent-professor in strafrecht aan de Universiteit van New Haven. “Ze lijken ontworpen om sterke emotionele reacties op te roepen, want dat is de zekerste manier om klikken en likes te krijgen. Het is ongemakkelijk om naar te kijken, maar ik denk dat dat misschien de bedoeling is.” Veel van de accounts hebben een disclaimer waarin staat dat de video geen echte foto’s van slachtoffers gebruikt, als een manier om “respect te tonen voor de familie”, zoals Nostalgia Narratives, een account dat AI-video’s van true-crime-slachtoffers plaatst met 175.000 volgers, het vermeldt in de bijschriften bij de video’s. Het account vertelt niet alleen de verhalen van beroemde kindermoordslachtoffers zoals Elisa Izquierdo, een zesjarig meisje dat in 1995 werd vermoord door haar mishandelende moeder, en Star Hobson, een éénjarige die in 2020 werd vermoord door de vriendin van haar moeder, maar ook volwassen moordslachtoffers zoals George Floyd en JFK. Geen van de accounts die Rolling Stone benaderde, reageerde op verzoeken om commentaar, maar het feit dat ze het uiterlijk van de slachtoffers veranderen, is waarschijnlijk te wijten aan de richtlijnen van de TikTok-community die diepvalsituaties van privépersonen of jonge mensen verbieden, een beleid dat het platform in maart heeft ingesteld. (Een woordvoerder van TikTok heeft bevestigd aan Rolling Stone dat @truestorynow is verwijderd wegens schending van de communityrichtlijnen.)
Ethische vraag
De verspreiding van deze AI true-crime-slachtoffervideo’s op TikTok is de nieuwste ethische vraag die wordt opgeworpen door de immense populariteit van het true-crime-genre in het algemeen. Hoewel documentaires zoals The Jinx en Making a Murderer en podcasts zoals Crime Junkie en My Favorite Murder immense cultaanhang hebben gekregen, hebben veel critici van het genre de ethische implicaties betwijfeld van het publiek dat de verhalen van gruwelijke aanvallen en moorden in het echte leven consumeert als puur entertainment, met de opkomst van amateur-detectives en true-crime-obsessieven die mogelijk geliefden van slachtoffers opnieuw traumatiseren.
Juridische kwesties
Die zorg geldt dubbel voor video’s zoals die met Royalty, waarin het verhaal van een slachtoffer wordt verteld vanuit hun perspectief en met gebruikmaking van hun naam, vermoedelijk zonder de toestemming van de familie, met een buitengewoon griezelig effect. “Iets als dit heeft echt het potentieel om mensen die eerder slachtoffer zijn geworden, opnieuw te victimiseren,” zegt Bleakley. “Stel je voor dat je de ouder of familielid bent van een van deze kinderen in deze AI-video’s. Je gaat online, en in deze vreemde, hoge stem, hier is een AI-afbeelding [gebaseerd op] je overleden kind, die in zeer gruwelijke details vertelt wat er met hen is gebeurd.” Er zijn ook potentieel lastige juridische kwesties verbonden aan het maken van deepfake-video’s, voegt Bleakley toe, en hij vergelijkt de opkomst van de AI true-crime-video’s met de populariteit van deepfake-porno. Hoewel er geen federale wet is die niet-consensuele deepfake-afbeeldingen en -video’s illegaal maakt, hebben zowel Virginia als Californië deepfake-porno verboden, en eerder deze maand heeft congreslid Joe Morelle voorgesteld om het verspreiden van dergelijke afbeeldingen zowel strafbaar als civielrechtelijk aansprakelijk te stellen voor degene die ze verspreidt.
@touchingst0ry4u Briana Lopez passed away at 5 months old. #storytime #fyp #foryou #LearnOnTikTok #emotional #touching #story #sadstory #biography #truestory #touchingstory4u ♬ original sound – Touching Story 4u
Steeds populairder
Deepfake true-crime-video’s verschillen om voor de hand liggende redenen van deepfake-porno, toch kan Bleakley zich voorstellen dat rouwende families civiele procedures willen aanspannen tegen de makers van dergelijke video’s, vooral als ze worden gemonetariseerd, hoewel hij opmerkt dat het voor families moeilijk zou zijn om te argumenteren op grond van smaad vanwege het feit dat de onderwerpen overleden zijn. “Het is een zeer lastig, troebel grijs gebied,” zegt hij. Eén ding is echter duidelijk: met de razendsnelle ontwikkeling van AI-technologie, en weinig tot geen regelgeving om de verspreiding ervan te beperken, is de vraag niet of video’s zoals deze populairder zullen worden, maar eerder hoeveel erger de combinatie van true crime en AI gaat worden. Men kan zich gemakkelijk voorstellen dat true-crime-makers niet alleen in staat zullen zijn om de stemmen van moordslachtoffers opnieuw te creëren, maar ook de gruwelijke details van misdaden. “Dit is altijd de vraag bij elke nieuwe technologische ontwikkeling,” zegt Bleakley. “Waar gaat het stoppen?”
Check ook: Misselijkmakende Netflix-documentaire zorgt ervoor dat kijkers veganist willen worden
Bron: rollingstone.com
Beeld: TikTok