Papa Francisc la G7: Inteligența artificială nu trebuie să înlocuiască procesul decizional uman
15.06.2024, Vatican (Catholica) - Papa Francisc, participând vineri pentru prima dată la un summit G7, a subliniat că demnitatea umană impune ca deciziile inteligenței artificiale să fie sub controlul ființelor umane. „În fața minunilor mașinilor, care par să știe să aleagă în mod independent, ar trebui să fim foarte clar că luarea deciziilor, chiar și atunci când ne confruntăm cu aspecte uneori dramatice și urgente, trebuie să fie întotdeauna lăsată în seama persoanei umane”, a spus el în fața liderilor mondiali pe 14 iunie. „Am condamna omenirea la un viitor fără speranță dacă am răpi oamenilor capacitatea de a lua decizii cu privire la ei înșiși și la viața lor, sortindu-i să depindă de alegerile mașinilor”, a adăugat Sfântul Părinte. „Trebuie să asigurăm și să protejăm un spațiu pentru un control uman adecvat asupra alegerilor făcute de programele de inteligență artificială: însăși demnitatea umană depinde de aceasta.”
Summitul Grupului celor șapte națiuni industrializate (G7) are loc între 13 și 15 iunie în regiunea Puglia, în sudul Italiei. Pontiful a participat la sesiunea „outreach” din 14 iunie, la care au participat și națiuni invitate și organizații internaționale și care a avut ca subiecte inteligența artificială, energia și regiunile Africii și Mediteranei. Papa a avut întâlniri bilaterale cu mai mulți lideri înainte de sesiune, inclusiv cu președintele Ucrainei, Volodimir Zelenski. După sesiune, va avea o întâlnire bilaterală cu președintele american Joe Biden și cu alte persoane. Calificând inteligența artificială drept „un instrument incitant și de temut”, Suveranul Pontif a spus că inteligența artificială trebuie folosită pentru bine și pentru construirea unui viitor mai bun, având ca scop binele oamenilor. „Depinde de toată lumea să facă o bună utilizare [a tehnologiei inteligenței artificiale], dar revine politicii sarcina de a crea condițiile pentru ca această bună utilizare să fie posibilă și fructuoasă”, a subliniat el.
Copii ale discursului integral al Papei, citit într-o versiune ușor prescurtată, au fost distribuite participanților, a precizat Vaticanul. Sfântul Părinte a atras atenția asupra complexității inteligenței artificiale ca instrument, avertizând că „dacă în trecut, oamenii care au confecționat instrumente simple și-au văzut viața modelată de acestea – cuțitul le-a permis să supraviețuiască frigului, dar și să dezvolte arta războiului – acum, când ființele umane au confecționat instrumente complexe, își vor vedea viața modelată de acestea cu atât mai mult”. De asemenea, i-a îndemnat pe lideri să reconsidere dezvoltarea așa-numitelor „arme autonome letale” și să interzică utilizarea lor. „Acest lucru pornește”, a spus el, „de la un angajament eficient și concret de a introduce un control uman tot mai mare și adecvat. Nici o mașină nu ar trebui să aleagă vreodată să ia viața unei ființe umane.” A avertizat că buna utilizare a formelor avansate de inteligență artificială nu va rămâne în totalitate sub controlul utilizatorilor săi sau al proiectanților inițiali, având în vedere că, în viitor, programele de inteligență artificială vor putea chiar să comunice direct între ele pentru a-și îmbunătăți performanțele.
După o dimineață deja plină, care a inclus audiențe cu președintele republicii Capului Verde și cu peste 100 de comedianți din întreaga lume, Papa Francisc a zburat cu elicopterul spre Borgo Egnazia, stațiunea de lux în care are loc reuniunea G7. Papa Francisc va ajunge înapoi la Vatican în jurul orei locale 21.00, după o călătorie cu elicopterul de aproximativ o oră și jumătate. Vaticanul a fost puternic implicat în conversația privind etica inteligenței artificiale, găzduind în 2016 și 2020 discuții la nivel înalt cu oameni de știință și directori din domeniul tehnologiei pe tema eticii inteligenței artificiale. În comentariile sale de vineri de la G7, Sfântul Părinte a subliniat, de asemenea, unele limitări specifice ale inteligenței artificiale, inclusiv capacitatea de a prezice comportamentul uman. A vorbit despre utilizarea inteligenței artificiale în sistemul judiciar pentru a analiza date despre etnia unui deținut, tipul de infracțiune, comportamentul în închisoare și multe altele, pentru a judeca dacă acesta este potrivit pentru arest la domiciliu în locul încarcerării. „Ființele umane sunt în continuă dezvoltare și sunt capabile să ne surprindă prin acțiunile lor. Acesta este un lucru pe care o mașină nu îl poate lua în considerare”, a spus el.
A criticat „inteligența artificială generativă”, despre care a spus că poate fi deosebit de atrăgătoare pentru studenții de azi, care ar putea chiar să o folosească pentru a redacta lucrări. „Totuși, ei uită că, strict vorbind, așa-numita inteligență artificială generativă nu este cu adevărat «generativă». În schimb, aceasta caută informații în universul de date și le pune cap la cap în stilul care i se cere. Ea nu dezvoltă noi analize sau concepte, ci le repetă pe cele pe care le găsește, dându-le o formă atrăgătoare”, a spus Suveranul Pontif. „Apoi, cu cât găsește mai mult o noțiune sau o ipoteză repetată, cu atât mai mult o consideră legitimă și valabilă. În loc să fie «generativă», este mai degrabă «consolidatoare», în sensul că rearanjează conținutul existent, contribuind la consolidarea acestuia, adesea fără a verifica dacă nu conține erori sau preconcepții.”
Acest lucru riscă să submineze cultura și procesul educațional prin consolidarea așa numitelor „fake news” sau a unei narațiuni dominante, a continuat el, menționând că „educația ar trebui să le ofere elevilor posibilitatea unei reflecții autentice, însă riscă să fie redusă la o repetare a unor noțiuni, care vor fi din ce în ce mai mult evaluate ca fiind incontestabile, doar datorită repetiției lor constante”. De asemenea, a subliniat utilizarea tot mai frecventă a programelor de inteligență artificială, cum ar fi chatbot-urile, care interacționează direct cu oamenii în moduri care pot fi chiar plăcute și liniștitoare, deoarece sunt concepute pentru a răspunde nevoilor psihologice ale ființelor umane. „Este o greșeală frecventă și gravă să uităm că inteligența artificială nu este o altă ființă umană”, a subliniat el.
