Femeia declară, în mandarină flexată cu un ușor accent, că bărbații chinezi ar trebui să se căsătorească cu „noi, femeile ruse”. În alte videoclipuri de pe platforma video chineză Douyin, ea descrie cât de mult îi place mâncarea chinezească și scoate sare și săpun din țara ei. „Rușii nu păcălesc chinezii”, promite ea.

Dar mișcările buzelor ei nu se potrivesc prea bine cu sunetul videoclipurilor, care au fost postate recent pe un cont folosind numele „Ladina”. Asta pentru că este o înregistrare a lui Shadé Zahrai, un strateg de carieră australian cu peste 1,7 milioane de urmăritori TikTok, care a fost modificată folosind inteligența artificială. Cineva a dublat clipurile video ale doamnei Zahrai cu o voce care vorbește chineza mandarină pentru a face să pară că ea vând produse rusești.

Bine ați venit la un gen înfloritor pe rețelele sociale chineze: videoclipuri manipulate prin inteligență artificială care folosesc femei tinere, pretins rusoaice, pentru a aduna sprijin pentru legăturile China-Rusia, pentru a stârni fervoarea patriotică sau pentru a face bani – și uneori pe toate trei simultan.

Nu este clar cine se află în spatele multor videoclipuri, dar majoritatea direcționează spectatorii către un link de produs, sugerând că scopul principal este comercial. Iar publicul țintă principal pare să fie bărbații chinezi naționaliști.

Videoclipurile sunt adesea etichetate cu etichete hash, cum ar fi „soție rusă” și „frumusețe rusă”. Femeile prezentate descriu cât de realizați sunt bărbații chinezi sau pledează să fie salvați de ei din sărăcie sau din propria lor țară mai puțin idilică.

Un alt set de videoclipuri prezintă o femeie blondă, care descrie recunoștința ei pentru că a aterizat în China.

„Îmi invidiez cu adevărat prietenii chinezi. Te-ai născut cu cea mai prețioasă identitate din lume și cu cel mai profund și fermecător limbaj”, spune ea într-un videoclip postat pe o altă platformă, Xiaohongshu, care este similară cu Instagram.

Un alt videoclip o arată pe femeie mulțumind poporului chinez pentru că a sprijinit Rusia în dificultatea ei economică, cumpărând de la ea ciocolată rusească. „În ultimul an, întreaga lume boicotează Rusia, impunându-ne tot felul de restricții și dificultăți. China este ca un salvator”, spune ea.

Aceste videoclipuri păreau mult mai naturale, cu buzele femeii sincronizate cu mandarinul fluent. Dar și ele sunt false. Au fost readaptate din videoclipurile de pe YouTube postate de Olga Loiek, o studentă ale cărei videoclipuri reale sunt despre auto-îmbunătățire și anul ei paus din Germania.

Doamna Loiek nu vorbește chineză. Și nu ar lăuda niciodată Rusia așa, a spus ea într-un interviu. Ea este din Ucraina, iar unele dintre rudele ei sunt încă acolo.

Realizatorii acestor videoclipuri încearcă să valorifice o piață născută din momentul actual al Chinei în geopolitică, tehnologie și sentimentul public.

Relațiile dintre Rusia și China s-au adâncit semnificativ în ultimii ani, liderii țărilor, Vladimir V. Putin și Xi Jinping, declarând un parteneriat „fără limite” în fața ostilității crescânde din partea Occidentului. Domnul Putin a vizitat Beijing săptămâna trecută, unde domnul Xi l-a întâmpinat cu mare fanfară.

Folosirea fețelor străine pentru a lăuda China încearcă, de asemenea, să atingă un sentiment de mândrie națională, sau naționalism, în rândul publicului chinez. Conținutul naționalist a devenit unul dintre cei mai siguri factori ai traficului de internet din China, într-un mediu de cenzură în care tot mai multe subiecte sunt interzise.

Acel naționalism – ca și naționalismul din întreaga lume – a inclus adesea o tulpină de sexism, a spus Chenchen Zhang, profesor de relații internaționale la Universitatea Durham din Anglia.

„Această reprezentare a tinerelor femei albe în moduri obiectivate sexual este un trop tipic al naționalismului de gen sau al sexismului naționalist”, a scris profesorul Zhang într-un e-mail. „Telespectatorii își pot reafirma atât mândria naționalistă, cât și masculină în consumarea acestui conținut.”

În câteva dintre videoclipurile care prezintă asemănarea manipulată a doamnei Zahrai, personajul fals își numește spectatorii „frați mai mari”. Personajul mai notează că Rusia nu vinde acele produse în Japonia sau Coreea de Sud, două țări cu care China are relații strânse.

Guvernul chinez a încurajat adesea naționalismul online, dar nu există nicio indicație că are vreo legătură cu videoclipurile deepfake (deși unele guverne locale au colaborat cu femei ruse reale pentru a promova mesaje similare despre atractia Chinei). Există, de asemenea, o mică economie de influenți ruși adevărați, multe dintre ele femei tinere, pe rețelele sociale chineze.

Mulți dintre producătorii de videoclipuri ar putea pur și simplu să profite de îmbrățișarea Chinei a cumpărăturilor prin streaming live și videoclipuri scurte. Pe măsură ce tehnologia AI a devenit mai avansată, unele companii chineze au trecut deja de la vânzători reali la cei virtuali pentru a economisi bani.

Videoclipurile generate artificial sunt probabil să devină din ce în ce mai frecvente ca tactică de vânzare, deoarece tehnologia AI a avansat atât de repede și a devenit mult mai accesibilă publicului larg, a spus Haibing Lu, profesor la Universitatea Santa Clara care studiază guvernarea AI.

Compania de management a doamnei Zahrai a spus într-un e-mail că modificările AI au fost „de proastă calitate” și că „ar părea probabil false” chiar și pentru telespectatorii ocazionali. Unele dintre videoclipurile contului au avut doar câteva zeci de vizionări, deși cel care discuta despre căsătoria femeilor ruse a avut 22.000.

Nu părea să conteze. Un contor automat care apare într-unul dintre videoclipurile contului sugerează că marca de sare lansată a fost deja cumpărată de 360.000 de ori pe platformă.

Când The New York Times a contactat contul Douyin cu videoclipurile doamnei manipulate Zahrai, titularul contului a confirmat într-un mesaj audio că a făcut videoclipurile. „Ai configurat trei lucruri: audio, video și gură. Puteți crea orice videoclip doriți”, a spus el, înainte de a-și anula prietenia unui reporter.

Nivelurile de sofisticare variază. Unele dintre femeile false par în întregime generate de computer, se mișcă țeapăn și arată ca Sims glorificați. Unele, cum ar fi cele care prezintă asemănarea doamnei Loiek, sunt foarte bune.

„Chiar dacă știam că nu sunt eu, realismul a fost înfricoșător”, a spus doamna Loiek, care a aflat recent că peste 30 de conturi de rețele sociale diferite din China și-au cooptat imaginea. „Când am decis să-mi creez canalul YouTube, eram conștient de pericolele deepfake-urilor, dar am crezut că este în primul rând o preocupare pentru personalitățile politice și de divertisment celebre. Acum îmi dau seama că oricine are înregistrări video online cu ei înșiși poate fi afectat.”

Doamna Loiek a raportat conturile de pe Xiaohongshu și a realizat un videoclip YouTube despre experiența ei. În cele din urmă, majoritatea profilurilor care foloseau asemănarea ei au fost închise.

În ultimele săptămâni, platformele de socializare au intensificat controlul, eliminând videoclipurile AI sau adăugând etichete unora dintre ele. China a fost prima țară care a adoptat reglementări cu privire la IA generativă și, pe hârtie, unele dintre politicile sale sunt mai stricte decât cele din Occident.

Dar țările din întreaga lume se luptă cu aplicarea regulilor lor. Detectarea faptelor greșite poate fi deosebit de dificilă în China, din cauza mediului său închis pe internet, unde multe rețele sociale străine sunt interzise.

Este puțin probabil ca influențatorii străini să știe că imaginea lor a fost folosită pe rețelele sociale chineze și să depună o plângere privind drepturile de autor. Și nici platformele chineze s-ar putea să nu se bazeze pe conținut de peste mări, atunci când verifică manipularea AI, a spus un bărbat de 35 de ani, care deținea două conturi cu femei rusești generate de AI. Bărbatul, care și-a dat doar numele de familie, Chen, a spus că a câștigat aproximativ 1.000 de dolari pe lună din conturi înainte de a le închide în martie, temându-se de o reglementare mai mare.

Dar încă mai proliferează. Și Rusia poate fi subiectul fierbinte acum, dar practica se va răspândi probabil în curând la oricare ar fi următoarea tendință, a spus profesorul Lu de la Santa Clara.

„Oamenii din spatele acestui lucru ar manipula orice subiect posibil pentru a atrage atenția oamenilor”, a spus el. „Arată părinților „cum să mergi la școli de top”; „cum să devii frumoasă”, domnișoarelor. Cred că, în viitor, toată lumea va folosi tehnologia AI pentru a personaliza subiectele pentru a face videoclipurile atractive pentru un anumit public.”