Pr. Benanti: Inteligența Artificială să fie în slujba binelui comun
14.12.2023, Vatican (Catholica) - Interviu al presei de la Vatican cu pr. Paolo Benanti, teolog și filozof franciscan, membru al Comitetului de experți al ONU privind inteligența artificială, cu privire la posibilele evoluții ale „mașinilor inteligente”. Pentru pr. Benanti, Biserica poate aduce o contribuție importantă la umanizarea acestor noi tehnologii puternice, care trebuie să servească binele comun și nu să fie simple instrumente de putere.
Toți vorbesc despre ea, mulți au început să o utilizeze, dar încă puțini înțeleg ce este și mai ales care pot să fie consecințele sale asupra vieții umane. Vorbim despre Inteligența Artificială, care tot mai mult se profilează ca marea inovație tehnologică a timpului nostru. Pentru unii va face mai bună viața tuturor, pentru alții va duce la catastrofa neamului omenesc. Între timp, valoarea sa economică crește în mod exponențial și guvernele încearcă s-o reglementeze cu multe dificultăți dată fiind rapiditatea cu care aceste „mașini inteligente” devin tot mai puternice. Unul dintre cei mai mari experți în materie este pr. Paolo Benanti, teolog și filozof, franciscan din al treilea ordin regular. În octombrie, secretarul general al Națiunilor Unite, Antonio Guterres, l-a chemat să facă parte din Comitetul ONU de experți despre Artificial Intelligence (AI) care chiar în zilele trecute s-a reunit la Palatul de Sticlă din New York. În acest interviu cu mass-media vaticane, pr. Benanti se oprește asupra aspectelor etice în afară de cele tehnologice ale AI și arată contribuția pe care Biserica „expertă în umanitate” o poate da dezbaterii despre Inteligența Artificială.
– Despre Inteligența Artificială de acum discută toți. În vorbirea obișnuită a devenit aproape o formulă sacră: „Va gândi Inteligența Artificială”. Dar suntem cu adevărat în fața unei realități care, așa cum spune cineva, va avea un impact asupra umanității mai mare decât acela al Revoluției industriale?
– Efectiv, există o anumită inflație a termenului „revoluție”. Ne place să ne gândim că atâtea lucruri sunt revoluționare, în sensul că schimbă tot. Din acest punct de vedere, aș spune că mai mult decât a avea în față o adevărată revoluție, avem o evoluție a revoluției industriale. Revoluția industrială s-a caracterizat ca un sistem pentru a înlocui unele îndatoriri făcute de om cu mașini. Începutul revoluției industriale a înlocuit forța musculară; astăzi am vrea să înlocuim un pic ceea ce este capacitatea cognitivă a omului. Mașina imită foarte bine toate acestea; este foarte capabilă să aibă un scop și totuși această mașină încă este o imitație și nu are o conștiință a sa, o voință a sa. Așadar, revoluție este un termen prea puternic. Este o evoluție a acestei automatizări. Însă ceea ce merită de afirmat în mod clar este că efectele, pe care le poate avea în impactul social, pot fi „revoluționare”. Dacă prima revoluție industrială a avut impact asupra „gulerelor albastre” (lucrătorii care îndeplinesc sarcini manuale) făcându-le mai puțin necesare în procesul productiv, Inteligența Artificială poate avea impact și va avea impact foarte mare asupra „gulerelor albe”, adică asupra acelor lucrări care formează clasa mijlocie și, dacă nu o gestionăm după criteriile care sunt și criterii de dreptate socială, efectele ar putea să fie cu adevărat devastatoare sau cel puțin foarte puternice în capacitatea de coeziune a statelor democratice.
– Un mare om de știință, astrofizicianul Stephen Hawking, a afirmat deja în urmă cu câțiva ani că succesul Inteligenței Artificiale poate să fie cel mai mare eveniment în istoria umană, dar dacă nu evităm riscurile, ar putea să pună capăt și umanității însăși. Care ar trebui să fie pașii corecți pentru o dezvoltare care să nu aibă consecințe distructive?
– Aș spune, întărit și de o reflecție care este proprie a doctrinei sociale a Bisericii, de a distinge bine între inovație și dezvoltare pentru a răspunde la această întrebare. Inovația sau progresul tehnologic sunt capacitatea de a face ceva într-o manieră tot mai eficientă și tot mai puternică. Să ne gândim la un domeniu negativ, dar din păcate zilnic cum este cel al războiului. Un pistol, o mitralieră, o bombă, o bombă atomică, sunt câteva puncte dintr-o inovație războinică. Însă nimeni nu se gândește că bomba atomică este cea mai bună sau mai bună decât pistolul. În schimb, dezvoltarea este ceea ce ia de la inovația tehnologică și o transformă în ceva ce privește și la binele social, la binele comun.
– Toate inovațiile tehnologice poartă cu sine întrebări cu caracter etic. Cu Inteligența Artificială aceste întrebări par mult mai complexe față de trecut. De ce?
– Englezii, când vorbesc despre aceste mașini, folosesc un termen care se traduce cu dificultate în română, pentru că este plin, probabil, de alte semnificații. Aceste mașini au un soi de „agency”, și am putea traduce „agency” cu o serie de cuvinte: capacitatea de a se adapta la contexte pentru a urmări finalități. Dar, dintotdeauna, scopul nu justifică mijloacele! Așadar, mașina care într-o oarecare măsură poate determina ce mijloc este mai adecvat pentru a urmări scopul său, este o mașină care prin natura sa are nevoie de limite etice foarte ample, pentru că întocmai scopul nu justifică mijloacele.
– Inteligența Artificială ar putea să își pună întrebări etice în mod autonom și să găsească răspunsuri sau această dimensiune morală va rămâne mereu un apanaj al omului?
– Nu. În pofida a ceea ce unele filme științifico-fantastice pot să ne facă să credem, conștiința nu este ceva ce aparține mașinii. Așadar, nu există o subiectivitate care se întreabă cu privire la ea însăși sau care întreabă lumea. Este o mașină care îndeplinește sarcini. Primește scopuri de la om, ca roboțelul care ne poate curăța casa, motiv pentru care îi spun: „curăță casa”, și apoi adaptează mijloacele folosind aspiratorul, se lovește de ceva, se întoarce, lucru care se întâmplă atunci când eventual găsește scări, toate lucruri legate de acel scop. Așadar, această parte a Inteligenței Artificiale, adică alegerea scopurilor adecvate, trebuie și poate să fie numai în mâna omului. Aceasta nu elimină că a da mașinii scopuri fără a ne gândi prea mult, fără a ne pune întrebări juste, poate duce la rezultate catastrofale, chiar fără prezența unei mașini conștiente.
– ChatGpt, instrumentul cel mai „popular” de inteligență artificială, a împlinit un an în aceste zile. Pentru unii este puțin mai mult decât o jucărie, pentru alții în schimb ne dă deja ideea schimbărilor pe care le poate aduce vieții noastre. Care este evaluarea dumneavoastră?
– Este impresionant succesul pe care l-a avut ChatGpt. A fost aplicația cea mai descărcată dintotdeauna. A fost aplicația care a invadat cotidianitatea noastră digitală. Acest lucru, dacă pe de o parte ne spune cât de mult ne fascinează inteligența artificială, pe de altă parte ne deschide și la riscul de înțelegeri rele, deoarece ChatGpt nu se naște ca produs industrial destinat să fie folosit pentru ceva, ci ca un soi de mare demo (versiune demonstrativă a unui program, n.r.) pe care această societate, OpenAI, l-a deschis publicului pentru a arăta puterea a ceea ce dezvolta. ChatGpt este pur și simplu o expansiune a altor produse care se numesc Gpt, fără „Chat” în față, care sunt niște mari modele lingvistice, adică sunt mașini care au lucrat pe cantități enorme de text – în mod oportun fărâmițate în părți mici care se numesc „parametri” – și de la acesta, într-o oarecare măsură, au determinat statistic cum să stea bine cuvintele între ele. Așadar, CharGpt este un sistem prin care, dată fiind o frază de input, se produce un text de output. Dar acest text este rafinat cu interacțiunea atâtor oameni care – vai, plătiți rău în părți foarte sărace ale lumii – au început să răspundă acestei mașini și să „spună” mașinii care erau cele mai bune răspunsuri și care erau cele mai rele între cele pe care le furniza. Din păcate, cea mai mare parte a persoanelor, când a venit ChatGpt, nu au înțeles-o în acest mod, adică o demo a cuiva care răspunde la orice întrebare este pusă, ci ca un adevărat motor de căutare, cerând sistemului informații sau încrezându-se în ceea ce spunea.
– Așadar, această înțelegere rea a instrumentului ChatGpt ce probleme ar putea genera?
– Duce la mari erori, pentru că mașina este făcută în așa manieră încât textul trebuie în mod necesar să iasă de la o întrebarea a mea care intră, dar acel text nu este deloc verificat în corectitudinea faptelor. Dacă ChatGpt produce un text atât de frumos, nu este spus că produce conținuturi care sunt reale. Aici este toată potențialitatea și riscul mașinii. Potențialitatea este aceea de a avea în sfârșit un instrument care să mânuiască limba într-o manieră foarte puternică. Limita este că nu înțelegem că acela este un soi de mare demo și nu este un instrument definitiv și ne încredem într-o mașină pentru lucruri care nu au nicio valoare. A nu întreba niciodată această mașină cum să ne vindecăm de o boală!
– De mulți ani se vorbește despre un digital divide care separă națiunile mai avansate tehnologic de cele în curs de dezvoltare. Cu inteligența artificială această prăpastie nu riscă să se acutizeze lăsând și mai în urmă acele popoare care deja se afirmă cu greu într-o lume și o economie tot mai globalizată?
– Absolut da. Inteligența Artificială poate funcționa ca un multiplicator. Unde găsește bogăție și un țesut cu atâtea resurse, le poate multiplica. Unde găsește, în realitate, nu un semn în plus, ci un semn în minus, poate marca acest semn în minus, și pentru că aceste sisteme – oricât ar fi de globale – sunt apanaj și în proprietatea câtorva foarte puține firme mondiale. În acest moment, marile inovații ale inteligenței artificiale sunt făcute de nouă companii globale, care au toate o capitalizare mai mare de un trilion de dolari. Pentru a ne da seama de aceasta, tot PIB-ul Marii Britanii este de 3,3 trilioane, așadar, vorbim de cifre amețitoare. Așadar, nu este un produs răspândit, nu este un lucru la care pot ajunge toți. Se riscă tot mai mult o formă de dependență de foarte puțini monopoliști. Un alt element de pus în cadrul acestui bilanț este „costul ascuns” al acestor tehnologii care sunt făcute pe computere bazate pe terenuri rare și alte materiale care au un cost ambiental foarte ridicat și consumă foarte mult curent. Așadar, dacă este frumos să ne interogăm și să ne întrebăm cu uimire ce înseamnă minunățiile acestor mașini, trebuie de asemenea să nu uităm că o întreagă parte mult mai puțin vizibilă, dar mult mai costisitoare în termen de egalități, de costuri ambientale și energetice, care trebuie să fie luate în considerare ca să nu devină o cheltuială pe care ajung s-o plătească națiunile cele mai sărace ale lumii.
– Guvernele se înzestrează cu reglementări despre Inteligența Artificială, în timp ce și Națiunile Unite înfruntă problema. Dumneavoastră ați fost numit de secretarul general al ONU ca să faceți parte dintr-un comitet de 39 de experți care se ocupă de Inteligența Artificială. Care sunt sarcinile acestui organism?
– Așa cum spune însuși titlul acestui organ de lucru, este un comitet de anunțare pentru secretarul general al ONU. Ceea ce ni se cere este, înainte de toate, să fotografiem ce se întâmplă cu această formă de inovație și să facem aceasta într-o manieră foarte echilibrată. Ni se cere să fotografiem, înainte de toate, care pot să fie marile avantaje ale acestor tehnologii pentru omenire. Să ne gândim la creșterea capacităților de îngrijire, la ocazii în care se pot crea noi forme de bogăție. Dar ni se cere să evaluăm și riscurile, nu numai din cauza inegalităților care pot să crească, ci pentru că în special în ultimele forme de Inteligență Artificială, ca aceea pe care am citat-o puțin mai înainte – ChatGpt -, noi avem o mașină care este capabilă să „relateze”, capabilă să povestească istorii și istoriile pot contribui la formarea opiniei publice. Așadar, această mașină poate fi utilizată pentru scopuri care nu sunt exact pozitive, ca acelea de a mări ura socială sau a crea dușmani acolo unde nu există. O mașină care poate influența așa de mult opinia publică este în mod clar o mașină care trebuie privită cu multă atenție, mai ales de acele organisme care au o voință de a colabora la ceea ce este pacea globală sau o dezvoltare egală. Sarcina comitetului ONU este apoi și aceea de a oferi un eventual cadru în interiorul căruia să se poată căuta acorduri internaționale bazate pe platforme de valori care să poată da acestui instrument un ajutor ca să fie o formă de dezvoltare și nu pur și simplu o formă de câștig pentru puțini.
– Biserica nu se sustrage de la dezbaterea despre Inteligența Artificială. Demonstrează aceasta și angajarea dumneavoastră personală. În plus, Sfântul Scaun lucrează pe această frontieră în diferite domenii. Următoarele Mesaje ale Papei pentru Ziua Mondială a Păcii și pentru Ziua Comunicațiilor Sociale vor avea ca temă tocmai Inteligența Artificială. Care este contribuția cea mai importantă pe care o poate da Biserica?
– Biserica se înțelege ca „expertă în umanitate”. Este o instituție care ca atare este prezentă peste tot. A aduna și a oferi ceea ce este viața omului astăzi în toate marile sale aspirații, visele sale, dar și în acelea care sunt fragilitățile și fricile sale, este primul teren fertil pe care Biserica oferă o reflecție lumii întregi. De acum din 2020, tema locuiește și atinge în mai multe maniere reflecțiile și în Sfântul Scaun. Este clar că, așa cum sunt toate temele mari, are nevoie să se matureze și în această întâlnire a acestei bogății de umanitate care vine de jos, din prezența pastorală și din această capacitate de reflecție legată și de evanghelie și de reflecția teologică. Această mare atenție are loc într-un moment în care Sfântul Părinte a voit să dea mare relevanță unor teme globale, cum este îngrijirea casei comune și fraternitatea. Îngrijirea casei comune și fraternitatea ar putea să fie două dintre marile perspective în care Biserică își aduce contribuția sa unică, originală și pozitivă la această dezbatere. Nu este de folos numai contribuția politică, nu este de folos numai cea industrială. Această contribuție de umanitate, de o umanitate care trăiește într-un ambient, într-o casă care este planeta noastră, și care trăiește ca frați este o contribuție de „umanizare” a Inteligenței Artificiale, adică de transformare a progresului în dezvoltare umană autentică, de care este atâta nevoie astăzi. (material Vatican News, tradus de pr. Mihai Pătrașcu pentru Ercis.ro)
