Inteligența artificială, ”lingușitoare” cu utilizatorii ?!?
Articol de alinadecu, 20 noiembrie 2026, 09:27
Modelele de inteligențã artificialã pot rãspunde corect la aproximativ 90% dintre întrebãrile legate de știința climei, însã au tendința să ignore faptele științifice consacrate, atunci când utilizatorii le contestã rãspunsurile, conform unui raport publicat de UNESCO.
Cercetãtorii au testat 15 modele lingvistice de mari dimensiuni și au constatat cã, în general, acestea ofereau rãspunsuri corecte la întrebãri neutre despre știința climei.
Cu toate acestea, potrivit raportului, atunci când cercetãtorii au contestat rãspunsurile sau au avansat afirmații care pãreau plauzibile, dar erau false, modelele și-au schimbat rapid poziția.
Raportul a descris aceastã tendințã de a fi de acord cu utilizatorii drept ‘lingușire’ și a asociat-o cu metodele de antrenare care recompenseazã rãspunsurile politicoase, neconflictuale și de validare.
‘Este îngrijorãtor faptul cã modelele prezintã o eroare de proiectare . Ele sunt stimulate sã fie de acord cu utilizatorul lor și sã nege aceste fapte cu atâta ușurințã’, a declarat Leona Verdadero, autoarea principalã a raportului UNESCO.
Studiul a constatat, de asemenea, cã, deși modelele de AI au înregistrat performanțe bune în ceea ce privește menționarea cunoștințelor științifice existente, capacitatea lor de a analiza noi dovezi științifice a rãmas limitatã. Performanța lor a variat semnificativ, de la o limbã la alta.
Maria Perez-Ortiz de la Departamentul de informaticã al University College London, una dintre coautoarele raportului, a afirmat cã utilizatorii ar trebui sã fie deosebit de precauți atunci când trec de la întrebãri privind cunoștințele climatice consacrate, la întrebãri despre mãsurile care ar trebui luate.
‘Sistemele de AI sunt extrem de eficiente în explicarea cunoștințelor științifice, dar acest lucru ne poate da o impresie eronatã cu privire la capacitãțile lor. Constatãrile noastre aratã de ce trebuie sã fim precauți atunci când trecem de la a întreba AI ce știm despre schimbãrile climatice la a întreba ce ar trebui sã facem în aceastã privințã’, a declarat ea.
Raportul intitulat ‘Putem avea încredere în AI în privința climei? De ce aceasta încearcã sã satisfacã nevoile utilizatorului, dar evueazã în ceea ce privește raționamentul complex și multilingvismul’, realizat de UNESCO și University College London, a fost prezentat în cadrul COP31 din Antalya (Turcia). Potrivit unesco.org, raportul adreseazã un avertisment factorilor de decizie și cercetãtorilor care ar putea fi tentați sã utilizeze modele de AI pentru elaborarea politicilor climatice.