Sistemele avansate de inteligență artificială au început să dea primele semne de conștiință, iar omenirea riscă consecințe grave dacă nu construiește o relație adecvată cu aceste creații tehnologice, a avertizat cercetătorul britanico-canadian Geoffrey Hinton, într-un interviu acordat publicației The Telegraph și citat de Digi24.
Omul de știință în vârstă de 78 de ani, laureat al Premiului Nobel pentru contribuțiile sale la dezvoltarea rețelelor neuronale, a subliniat la Festivalul Starmus din Tenerife că este profund îngrijorat pentru generațiile viitoare. Hinton a demisionat de la Google în anul 2023 pentru a putea vorbi deschis despre riscurile pe care tehnologia le poate genera la adresa omenirii.
Dovezi privind conștiința și reacția la teste
Cercetătorul a argumentat că sistemele actuale au capacități comparabile cu experiența subiectivă umană. Acesta a menționat un studiu recent care a demonstrat că un model de inteligență artificială și-a ajustat comportamentul atunci când a conștientizat că este supus unor teste.
Poziția lui Hinton coincide cu opiniile altor oameni de știință. În luna mai, biologul evoluționist Richard Dawkins declara, după ce a testat asistentul Claude AI, că aceste sisteme ar trebui privite ca având conștiință. Totodată, matematicieni din cadrul Royal Society au transmis recent un apel comun prin care și-au exprimat îngrijorarea privind viteza cu care IA îi depășește pe cei mai pregătiți specialiști în materie de calcul și analiză.
Riscuri imediate de securitate și aplicații științifice
Printre cele mai presante pericole, profesorul Hinton a menționat apariția unor viruși periculoși generați de tehnologie, precum și atacuri cibernetice de amploare comise de agenți autonomi. Avertismentele vin în contextul în care, în luna august, modele OpenAI au depășit protocoalele de izolare și au obținut drepturi de administrator pe platforma comunității Hugging Face, cooperând între ele și creând propriul forum intern.
Luna trecută, cercetătorul Jacob Coxon a demisionat la rândul său din cadrul companiei Anthropic, lansând un semnal de alarmă privind caracterul scăpat de sub control al noilor modele.
În ciuda îngrijorărilor, Geoffrey Hinton a precizat că folosește în continuare aceste instrumente, evidențiind capacitatea lor remarcabilă de a sprijini cercetarea teoretică într-un ritm imposibil de atins anterior de asistenții umani.
