“Zuidpark” staat erom bekend de grenzen te verleggen, maar de nieuwste aflevering wordt door fans online omschreven als ‘nachtmerriebrandstof’.
In wat misschien wel een van de meest verontrustende afleveringen van het jaar is, onderzoeken ‘South Park’-makers Trey Parker en Matt Stone hoe gemakkelijk het is om door kunstmatige intelligentie gegenereerde video’s te maken – en hoe gemakkelijk het voor sommige mensen is om erin te trappen, of ervan overtuigd te raken dat echte video’s nep zijn.
Het gesprek over de aflevering van woensdag draaide grotendeels om het feit dat president Trump en vice-president JD Vance werden afgebeeld terwijl ze seks hadden. Ze vertellen verslaggevers dat de gelekte video van hun affaire nep was, gemaakt met Soera 2de nieuwste versie van de videogenerator van OpenAI.
In dezelfde aflevering, getiteld ‘Sora Not Sorry’, maken de kinderen van South Park wraakporno-video’s waarin Sora wordt gebruikt als een middel om elkaar terug te pakken. Butters maakt een expliciete video van Red met de Kerstman, en vervolgens maakt ze een soortgelijke expliciete video met Butters en Totoro, van de Studio Ghibli-klassieker ‘Mijn buurman Totoro.’
Er ontstaat dan chaos als de kinderen een razernij maken van door AI gegenereerde video’s met bekende (en auteursrechtelijk beschermde) geanimeerde karakters. De politie van South Park is stomverbaasd over de video’s en gelooft dat ze echt zijn.
Droopy Dog, Rocky, Bullwinkle, Popeye en zelfs het geliefde kleuterpersonage Bluey worden genoemd of verschijnen in de aflevering. Er verschijnen ook vertegenwoordigers van Studio Ghibli, die een stem van redelijkheid laten horen in de waanzin en zeggen: “Je kunt niet zomaar doen wat je wilt met het IP-adres van iemand anders.”
Het weerspiegelt de echte reactie die Studio Ghibli had toen Sora 2 uitkwam, met het argument dat OpenAI waarschijnlijk de inhoud en andere Japanse kunst gebruikte als data voor machinaal leren. De Content Overseas Distribution Assn., een antipiraterijorganisatie die Japanse IP-houders vertegenwoordigt, heeft een bericht vrijgegeven brief Eind oktober zei de organisatie dat de acties van OpenAI “mogelijk een inbreuk op het auteursrecht vormen.” CODA eiste dat OpenAI zou stoppen met het gebruik van Japanse inhoud voor machinaal leren en verzocht het bedrijf “oprecht” te reageren op claims van inbreuk op het auteursrecht.
De nieuwste update voor Sora, die eind september werd uitgebracht, is “fysiek nauwkeuriger, realistischer en beter controleerbaar dan eerdere systemen”, aldus Open AIen het beschikt ook over gesynchroniseerde dialogen en geluidseffecten.
Het bedrijf veroorzaakte snelle reacties toen het de nieuwe versie uitrolde, omdat het opereerde onder een systeem waarbij eigenaren van intellectueel eigendom zich moesten afmelden voor de app, wat betekende dat gebruikers video’s konden maken met populaire acteurs, personages, stemmen en gelijkenissen totdat de rechthebbenden het opt-outverzoek deden.
Ongeautoriseerde deepfakes van beroemdheden, dode figuren en auteursrechtelijk beschermde personages begonnen snel te circuleren, waaronder video’s van Robin Williams, Michael Jackson en Martin Luther King jr. in wat het bedrijf ‘respectloze afbeeldingen van het imago van Dr. King’ noemde. OpenAI en King’s Estate hebben een gezamenlijke verklaring in oktober zei dat de app de mogelijkheid zou blokkeren om generaties met King te creëren, aangezien het bedrijf ‘de vangrails voor historische figuren versterkt’.
Nadat een hele reeks Hollywood-studio’s en -agentschappen hun frustratie over dit beleid hadden geuit, zei OpenAI-topman Sam Altman schreef in een blogpost dat het AI-bedrijf rechthebbenden “meer gedetailleerde controle zal geven over het genereren van karakters, vergelijkbaar met het opt-in-model voor gelijkenis, maar met extra controles.”
Sommige studio’s hebben, samen met Disney Chief Executive, interesse getoond in de ruimte voor door gebruikers gegenereerde inhoud Bob Iger Tijdens een recente winstoproep zei hij dat het bedrijf “productieve gesprekken” voerde met niet bij naam genoemde AI-bedrijven in een poging een overeenkomst te bereiken die ook “onze behoefte zou weerspiegelen om de intellectuele eigendom te beschermen.”
Terug op South Park Elementary, terwijl de strijd om verontrustende, door AI gegenereerde video’s heviger wordt, vraagt Kyle zich af hoe het maken van dat soort inhoud, vooral met auteursrechtelijk beschermde personages, legaal is. ‘Niets is heilig, Kyle,’ zegt Butters tegen hem. “Het enige wat je kunt doen is vuur met vuur bestrijden.”
De aflevering lijkt tegemoet te komen aan de frustraties van Parker en Stone over het feit dat hun werk wordt gerepliceerd, zoals blijkt uit een zin van miljardair Peter Thieldie ook in de aflevering verschijnt: “Met Sora 2 kan ik de jongen uit South Park zo ongeveer alles laten doen.”
