Săptămâna trecută, Google a dezvăluit cea mai mare schimbare în căutarea din ultimii ani, prezentând noi capabilități de inteligență artificială care răspund la întrebările oamenilor în încercarea companiei de a ajunge din urmă rivalilor Microsoft și OpenAI.

De atunci, noua tehnologie a generat o mulțime de neadevăruri și erori – inclusiv recomandarea de lipici ca parte a unei rețete de pizza și ingerarea de pietre pentru nutrienți – dând un ochi negru lui Google și provocând furoare online.

Răspunsurile incorecte din caracteristică, numită AI Overview, au subminat încrederea într-un motor de căutare la care apelează peste două miliarde de oameni pentru informații cu autoritate. Și în timp ce alți chatbot-uri AI spun minciuni și se comportă ciudat, reacția a demonstrat că Google este sub o presiune mai mare pentru a încorpora în siguranță AI în motorul său de căutare.

Lansarea extinde, de asemenea, un model de probleme de la Google cu cele mai noi funcții AI imediat după lansarea acestora. În februarie 2023, când Google a anunțat Bard, un chatbot care luptă împotriva ChatGPT, a distribuit informații incorecte despre spațiul cosmic. Valoarea de piață a companiei a scăzut ulterior cu 100 de miliarde de dolari.

În februarie, compania a lansat succesorul lui Bard, Gemini, un chatbot care ar putea genera imagini și acționa ca un asistent digital operat de voce. Utilizatorii și-au dat seama rapid că sistemul a refuzat să genereze imagini cu oameni albi în majoritatea cazurilor și a desenat reprezentări inexacte ale unor personaje istorice.

Cu fiecare accident, oamenii din industria tehnologiei au criticat compania pentru că a renunțat la minge. Dar, în interviuri, analiștii financiari au spus că Google trebuie să se miște rapid pentru a ține pasul cu rivalii săi, chiar dacă asta înseamnă dureri de creștere.

Google „nu are de ales în acest moment”, a spus Thomas Monteiro, analist Google la Investing.com, într-un interviu. „Companiile trebuie să se miște foarte repede, chiar dacă asta include săriți peste câțiva pași pe parcurs. Experiența utilizatorului va trebui doar să ajungă din urmă.”

Lara Levin, purtătoare de cuvânt a Google, a declarat într-o declarație că marea majoritate a interogărilor AI Overview au dus la „informații de înaltă calitate, cu link-uri pentru a explora mai profund pe web”. Rezultatul generat de AI din instrument apare de obicei în partea de sus a unei pagini de rezultate.

„Multe dintre exemplele pe care le-am văzut au fost interogări neobișnuite și am văzut, de asemenea, exemple care au fost modificate sau pe care nu le-am putut reproduce”, a adăugat ea. Compania va folosi „exemple izolate” de răspunsuri problematice pentru a-și perfecționa sistemul.

De când OpenAI și-a lansat chatbot-ul ChatGPT la sfârșitul anului 2022 și a devenit o senzație peste noapte, Google a fost sub presiune să integreze AI în aplicațiile sale populare. Dar există provocări în îmblânzirea modelelor lingvistice mari, care învață din cantități enorme de date preluate de pe web deschis – inclusiv minciuni și postări satirice – în loc să fie programate ca software-ul tradițional.

(New York Times a dat în judecată OpenAI și partenerul său, Microsoft, în decembrie, pretinzând încălcarea drepturilor de autor asupra conținutului de știri legat de sistemele AI.)

Google a anunțat AI Overview la conferința anuală pentru dezvoltatori, I/O, săptămâna trecută. Pentru prima dată, compania a conectat Gemini, cel mai recent model AI în limbaj mare, la cel mai important produs al său, motorul său de căutare.

AI Overview combină declarațiile generate de modelele sale de limbă cu fragmente din link-uri live de pe web. Își poate cita sursele, dar nu știe când acea sursă este incorectă.

Sistemul a fost conceput pentru a răspunde la întrebări mai complexe și mai specifice decât căutarea obișnuită. Rezultatul, a spus compania, a fost că publicul va putea beneficia de tot ce ar putea face Gemenii, eliminând o parte din munca căutării de informații.

Însă lucrurile au mers repede prost, iar utilizatorii au postat capturi de ecran cu exemple problematice pe platforme de socializare precum X.

AI Overview i-a instruit pe unii utilizatori să amestece lipici netoxic în sosul lor de pizza pentru a preveni alunecarea brânzei, o rețetă falsă pe care părea să o împrumute dintr-o postare Reddit de 11 ani menită să fie o glumă. Inteligența artificială le-a spus altor utilizatori să consume cel puțin o piatră pe zi pentru vitamine și minerale – sfaturi care provin dintr-un post satiric din The Onion.

Ca vacă de bani a companiei, căutarea pe Google este „singura proprietate pe care Google trebuie să o păstreze relevantă/de încredere/utilă”, a scris Gergely Orosz, un inginer de software cu un buletin informativ despre tehnologie, Pragmatic Engineer, pe X. „Și totuși, exemple despre cum Prezentările de ansamblu ale inteligenței artificiale transformă căutarea Google în gunoi sunt peste tot pe cronologia mea.”

Oamenii au împărtășit, de asemenea, exemple în care Google le-a spus utilizatorilor cu caractere aldine să-și curețe mașinile de spălat, folosind „înălbitor cu clor și oțet alb”, un amestec care, atunci când este combinat, poate crea clor gazos nociv. Într-un font mai mic, le-a spus utilizatorilor să curețe cu unul, apoi cu celălalt.

Utilizatorii rețelelor sociale au încercat să se unească unul pe altul cu cine ar putea împărtăși cele mai ciudate răspunsuri de la Google. În unele cazuri, au alterat rezultatele. O captură de ecran manipulată pare să arate că Google spune că un remediu bun pentru depresie este săritul de pe Golden Gate Bridge, citând un utilizator Reddit. Doamna Levin, purtătorul de cuvânt al Google, a spus că sistemele companiei nu au returnat niciodată acest rezultat.

Cu toate acestea, AI Overview s-a luptat cu istoria prezidențială, spunând că 17 președinți erau albi și că Barack Obama a fost primul președinte musulman, potrivit capturilor de ecran postate pe X.

De asemenea, a spus că Andrew Jackson a absolvit facultatea în 2005.

Kevin Roose a contribuit la raportare.