Pizza White Clam de la Frank Pepe Pizzeria Napoletana din New Haven, Connecticut, este o revelație. Crusta, sărutată de căldura intensă a cuptorului pe cărbune, realizează un echilibru perfect de crocant și mestecat. Suplimentat cu scoici proaspăt decojite, usturoi, oregano și un pud de brânză rasă, este o dovadă a magiei pe care o pot evoca ingredientele simple, de înaltă calitate.

Sună ca mine? Nu este. Întregul paragraf, cu excepția numelui pizzeriei și a orașului, a fost generat de GPT-4 ca răspuns la un simplu prompt care solicita o critică de restaurant în stilul lui Pete Wells.

Am câteva îndoieli. Niciodată nu aș spune că orice mâncare este o revelație și nici nu aș descrie căldura ca pe un sărut. Nu cred în magie și rareori numesc ceva perfect fără a folosi „aproape” sau vreun alt gard viu. Dar acești descriptori leneși sunt atât de obișnuiți în scrierile alimentare, încât îmi imaginez că mulți cititori abia îi observă. Sunt neobișnuit de adaptat la ele, deoarece ori de câte ori comit un clișeu în copia mea, sunt blocat la urechi de editorul meu.

Nu s-ar lăsa păcălit de falsul Pete. Nici eu. Dar oricât de mult mă doare să recunosc, aș ghici că mulți oameni ar spune că este un fals de patru stele.

Persoana responsabilă pentru Phony Me este Balazs Kovacs, profesor de comportament organizațional la Yale School of Management. Într-un studiu recent, el a transmis un lot mare de recenzii Yelp la GPT-4, tehnologia din spatele ChatGPT, și i-a cerut să le imite. Subiecții săi de testare – oamenii – nu au putut face diferența dintre recenziile autentice și cele produse de inteligența artificială. De fapt, era mai probabil să creadă că recenziile AI sunt reale. (Fenomenul falsurilor generate de computer, care sunt mai convingătoare decât realul, este atât de bine cunoscut încât există un nume pentru el: hiperrealism AI.)

Studiul Dr. Kovacs aparține unui număr tot mai mare de cercetări care sugerează că cele mai recente versiuni de IA generativă pot trece testul Turing, un standard neclar din punct de vedere științific, dar rezonant cultural. Când un computer ne poate păcăli făcându-ne să credem că limbajul pe care îl scuipă a fost scris de un om, spunem că a trecut testul Turing.

S-a presupus de mult că AI va trece în cele din urmă testul, propus pentru prima dată de matematicianul Alan Turing în 1950. Dar chiar și unii experți sunt surprinși de cât de rapid se îmbunătățește tehnologia. „Se întâmplă mai repede decât se așteptau oamenii”, a spus dr. Kovacs.

Prima dată când Dr. Kovacs a cerut GPT-4 să imite Yelp, puțini au fost păcăliți. Proza era prea perfectă. Acest lucru s-a schimbat atunci când dr. Kovacs a instruit programul să folosească ortografii colocviale, să sublinieze câteva cuvinte cu majuscule și să insereze greșeli de scriere – una sau două în fiecare recenzie. De data aceasta, GPT-4 a trecut testul Turing.

Pe lângă marcarea unui prag în învățarea automată, capacitatea AI de a suna la fel ca noi are potențialul de a submina orice încredere pe care o avem încă în comunicațiile verbale, în special în cele mai scurte. Mesajele text, e-mailurile, secțiunile de comentarii, articolele de știri, postările pe rețelele sociale și recenziile utilizatorilor vor fi chiar mai suspecte decât sunt deja. Cine o să creadă o postare Yelp despre o pizza-croissant sau o trimitere strălucitoare OpenTable despre o degustare de sushi omakase de 400 USD știind că autorul ei ar putea fi o mașină care nu poate nici mesteca, nici înghițită?

„Cu recenziile generate de consumatori, a fost întotdeauna o mare întrebare despre cine se află în spatele ecranului”, a spus Phoebe Ng, un strateg în comunicarea restaurantelor din New York City. „Acum este o întrebare despre ce se află în spatele ecranului.”

Opiniile online sunt unsoarea în roțile comerțului modern. Într-un sondaj din 2018 al Centrului de Cercetare Pew, 57% dintre americanii chestionați au spus că citesc întotdeauna sau aproape întotdeauna recenzii și evaluări de pe internet înainte de a cumpăra un produs sau serviciu pentru prima dată. Alți 36 la sută au spus că uneori au făcut-o.

Pentru companii, câteva puncte într-o evaluare cu stele pe Google sau Yelp pot însemna diferența dintre a câștiga bani și a pierde. „Trăim din recenzii”, mi-a spus managerul unei locații Enterprise Rent-a-Car din Brooklyn săptămâna trecută, în timp ce luam o mașină.

Un călător de afaceri care are nevoie de o călătorie care să nu se defecteze pe New Jersey Turnpike poate fi mai influențat de un raport negativ decât, să zicem, cineva care caută doar un brunch. Cu toate acestea, pentru proprietarii de restaurante și bucătari, Yelp, Google, TripAdvisor și alte site-uri care le permit clienților să își spună cuvântul sunt o sursă de îngrijorare nesfârșită și de furie ocazională.

O cauză specială de frustrare este numărul mare de oameni care nu se deranjează să mănânce în locul despre care scriu. Înainte ca un articol despre Eater să sublinieze acest lucru săptămâna trecută, prima locație din New York a lanțului de dim sum din Taiwan, Din Tai Fung, a fost atacată de recenzii de o stea Google, trăgându-și ratingul mediu la 3,9 dintr-un posibil 5. restaurantul nu s-a deschis inca.

Unii critici fantomă sunt mai sinistri. Restaurantele au fost pline de recenzii de o stea, urmate de un e-mail care oferă să le dea jos în schimbul cardurilor cadou.

Pentru a lupta împotriva loviturilor de rea-credință, unii proprietari își înscriu pe cei mai apropiați și dragi să inunde zona cu informații pozitive. „O întrebare este, câte alias avem toți cei din industria restaurantelor?” a spus Steven Hall, proprietarul unei firme de relații publice din New York.

Un pas înainte de o campanie organizată de umplere a buletinelor de vot, sau poate un pas în jos, este practica de a tranzacționa mese compensate sau numerar cu scrieri pozitive. Dincolo de asta se profilează tărâmul vast și întunecat al recenzenților care nu există.

Pentru a-și exagera propriile afaceri sau pentru a-și dezvălui rivalii, companiile pot angaja brokeri care au fabricat armate mici de recenzenți fictive. Potrivit Kay Dean, un avocat al consumatorilor care cercetează frauda în recenziile online, acestor conturi li se oferă, de obicei, o istorie extinsă a recenziilor anterioare, care acționează ca camuflaj pentru rezultatele lor pay-for-play.

În două videoclipuri recente, ea a subliniat un lanț de clinici de sănătate mintală care au primit recenzii Yelp strălucitoare trimise aparent de pacienți mulțumiți ale căror conturi erau pline de recenzii de restaurante ridicate cuvânt cu cuvânt de la TripAdvisor.

„Este un ocean de falsificări și mult mai rău decât își dau seama oamenii”, a spus doamna Dean. „Consumatorii sunt păcăliți, afacerile oneste sunt afectate și încrederea se erodează.”

Toate acestea sunt făcute de simpli oameni. Dar, așa cum scrie Dr. Kovacs în studiul său, „situația se schimbă acum substanțial, deoarece oamenilor nu li se va cere să scrie recenzii cu aspect autentic”.

Doamna Dean a spus că dacă conținutul generat de inteligență artificială se infiltrează în Yelp, Google și alte site-uri, va fi „și mai dificil pentru consumatori să ia decizii informate”.

Site-urile majore spun că au modalități de a descoperi conturi Potemkin și alte forme de falsitate. Yelp invită utilizatorii să semnaleze recenzii dubioase și, după o investigație, le va elimina pe cele constatate că încalcă politicile sale. De asemenea, ascunde recenzii pe care algoritmul său le consideră mai puțin demne de încredere. Anul trecut, conform celui mai recent Raport de încredere și siguranță, compania și-a intensificat utilizarea AI „pentru a detecta și mai bine și pentru a nu recomanda recenzii mai puțin utile și mai puțin de încredere”.

Dr. Kovacs crede că site-urile vor trebui să depună eforturi mai mult acum pentru a arăta că nu publică în mod regulat gândurile roboților. Ei ar putea, de exemplu, să adopte ceva de genul „Achiziție verificată” pe care Amazon o lipește pe scrierile produselor care au fost cumpărate sau transmise prin intermediul site-ului său. Dacă cititorii devin și mai suspicioși față de recenziile de restaurante aglomerate decât sunt deja, ar putea fi o oportunitate pentru OpenTable și Resy, care acceptă feedback doar de la acei meseni care se prezintă pentru rezervările lor.

Un lucru care probabil nu va funcționa este să le ceri computerelor să analizeze singur limbajul. Dr. Kovacs și-a rulat mesajele Yelp reale și strânse prin programe care ar trebui să identifice AI La fel ca subiecții săi de testare, a spus el, software-ul „a crezut că cele false sunt reale”.

Acest lucru nu m-a surprins. Am luat chiar eu sondajul dr. Kovacs, încrezător că voi reuși să observ micile detalii concrete pe care le-ar menționa un adevărat diner. După ce am dat clic pe o casetă pentru a certifica că nu sunt un robot, m-am trezit rapid pierdut într-o sălbăticie de semne de exclamare și fețe încruntate. Până am ajuns la sfârșitul testului, doar bănuiam. Am identificat corect șapte din 20 de recenzii, un rezultat undeva între a arunca o monedă și a întreba o maimuță.

Ceea ce m-a împiedicat a fost că GPT-4 nu și-a fabricat opiniile din aer. Le-a împletit din bucăți și bucăți din descrierile Yelperilor despre gustările lor de după-amiază și brunchurile de duminică.

„Nu este complet inventat în ceea ce privește lucrurile pe care oamenii le prețuiesc și la ce le pasă”, a spus dr. Kovacs. „Ceea ce este înfricoșător este că poate crea o experiență care arată și miroase a experiență reală, dar nu este.”

Apropo, dr. Kovacs mi-a spus că a dat prima schiță a lucrării sale unui program de editare AI și a luat multe dintre sugestiile acestuia în copia finală.

Probabil că nu va trece mult până când ideea unei recenzii pur umană va părea ciudată. Roboții vor fi invitați să citească peste umeri, să ne avertizeze când am folosit același adjectiv de prea multe ori, să ne împingă spre un verb mai activ. Mașinile vor fi profesorii noștri, editorii noștri, colaboratorii noștri. Ne vor ajuta chiar să parăm umani.