Acțiunea Vaticanului pentru un cadru etic global al inteligenței artificiale (IA) cu Mircea Duțu

Implicarea Vaticanului și a Suveranului Pontif, Papa Francisc, din perspectiva etică, în dezbaterea, abordarea și chiar soluționarea crucialelor problematici contemporane, a devenit o evidență, cu semnificații multiple și profunde. După atenția acordată problemei ecologice, prin publicarea Enciclicei Laudato si’ în 2015, lansarea conceptului de „ecologie integrală” și a apelului la „convertire ecologică”, urmate de prezența activă în negocierile ce au condus la adoptarea Acordului de la Paris privind clima și fixarea, astfel, a cadrului global de combatere a schimbării climatice, a venit rândul, pe agenda vaticano-papală, a provocărilor inteligenței artificiale (IA). Sub influența inițierii, semnării și susținerii Apelului de la Roma pentru o etică a IA din 28 februarie 2020, s-a continuat cu intervențiile oficiale la tribuna ONU de la Geneva. Pe lângă analizele științifice din cadrul Academiei Pontificale de Științe și iată că, prin premiera istorică a participării Suveranului Pontif la o atare reuniune, în cadrul summit-ului G7 de la Puglia (Italia) Papa Francisc a moderat o conferință și a susținut, la 14 iunie 2024, poziția sa în preocupanta și spinoasa problemă a avântului aplicațiilor IA și a implicațiilor acestora asupra statutului ființei umane și a viitorului omenirii.


|1. De această dată, într-un text adaptat contextului dat, Suveranul Pontif și-a expus reflecțiile sale asupra efectelor inteligenței artificiale privind viitorul umanității, însoțite de apelul de a nu o condamna să depindă de alegerile mașinilor, garantând un spațiu de control uman semnificativ asupra IA. Și aceasta în condițiile în care entuziasmul suscitat de IA, grație potențialului creativ al ființelor umane „dăruit de Dumnezeu”, coexistă cu îngrijorările față de pericolele inerente utilizării acestui instrument extrem de puternic, pe cât de „fascinant”, pe atât de „redutabil”.


„A vorbi de tehnologie echivalează cu a vorbi despre ceea ce înseamnă a fi uman și de condiția noastră unică între libertate și responsabilitate, adică a vorbi de etică”
Revoluția „cognitivo-industrială” astfel generată și aflată în plină desfășurare, în concepția sa, va contribui, în mod manifest, la crearea unui nou sistem social, caracterizat prin complexe transformări istorice, democratizarea accesului la cunoaștere, progresul exponențial al cercetării științifice, posibilitatea de a încredința munca de jos mașinilor, dar și printr-o mai mare injustiție între țările bogate și cele sărace, clasele sociale dominante și cele oprimate, compromițând „cultura întâlnirii” în profitul uneia a respingerii. Însă, precum orice instrument emanat de homo faber, IA implică în sine atât binefaceri, cât și pericole în funcție de utilizarea dată. Ori, această folosință nu e îndreptată întotdeauna numai spre bine, și numai dacă vocația sa în serviciul omului e garantată atunci uneltele tehnologice vor releva nu numai măreția și demnitatea unică a ființei umane, ci și mandatul pe care l-a primit de a „cultiva și păstra” planeta și pe toți cei ce o locuiesc. Din acest fapt, consideră Papa, „a vorbi de tehnologie echivalează cu a vorbi despre ceea ce înseamnă a fi uman și de condiția noastră unică între libertate și responsabilitate, adică a vorbi de etică”. În consecință, se amintește că un instrument simplu rămâne sub controlul ființei umane care îl utilizează, invers faţă de situația IA, care se poate adapta, în mod autonom, la sarcina ce îi este încredințată și, dacă e concepută în acest mod, face alegeri independente de cele ale ființei umane spre a atinge obiectivul fixat.


Decizia finală trebuie să aparţină omului
Astfel, în timp ce ființa umană decide prin mintea sa, mașina alege numai dintre mai multe posibilități după criterii definite ori deducții statistice. Francisc insistă, deci, asupra necesității de a lăsa întotdeauna decizia pe seama ființei umane, „chiar într-o turnură dramatică și urgentă cu care ea se prezintă numai în viețile noastre”. Și conchide: „Vom condamna umanitatea la un viitor fără speranță dacă vom retrage oamenilor capacitatea de a decide ei înșiși și asupra vieții lor, condamnându-i a depinde de alegerile mașinilor”, făcând apel, totodată, la „a se garanta și proteja un anumit control uman semnificativ asupra procesului de alegere al programelor de inteligență artificială”, întrucât, în acest fel, e în joc demnitatea umană însăși.

Urmașul Sfântului Petru citează în acest context cazul concret al conflictelor armate în privința cărora a devenit urgentă regândirea dezvoltării și utilizării dispozitivelor precum „armele autonome letale”, în scopul de a le interzice utilizarea, începând deja printr-un angajament dinamic și concret de a introduce un control uman din ce în ce mai semnificativ; „nicio  mașină nu va trebui niciodată să aleagă a curma viața unei ființe umane”. O altă tentație declanșată de complexitatea IA și identificată de Papă e cea de a trage, pornind de la soluțiile specifice pe care ea le propune, deducții generale, chiar antropologice; e și cazul atunci când instrumentul e utilizat de magistrați pentru a pronostica posibilitățile de recidivă, când se lasă mașinii ultimul cuvânt asupra soartei unei persoane și trimite la parțialitatea inerentă categoriilor de date utilizate de inteligența artificială. Ori, Suveranul Pontif amintește, pe bună dreptate, că ființa umană evoluează în permanență și se arată capabilă a surprinde prin actele sale, lucru de care mașina nu poate ține seama.


AI nu e capabilă să analizeze complexitatea realităţii
Considerațiile sale pertinente continuă, unele cu caracter de sentințe ale căror semnificații rămân de detaliat și de înțeles în deplinătatea lor. În orice caz, toată lumea e de acord că nici o inovație nu e neutră. „A uita că inteligența artificială nu este o altă ființă umană și că ea nu poate să propună principii generale e adesea o mare eroare ce decurge ori din nevoia profundă a ființei umane de a găsi o formă stabilă de companie ori din presupunere inconștientă din partea sa, a ști că observațiile obținute prin intermediul unui mecanism de calcul sunt lipsite de calități de certitudine indiscutabile și de irefutabilă universalitate” s-a precizat în acest sens, considerând metoda algoritmică fără nici o obiectivitate și neutralitate, „întrucât se bazează pe algebră, nu poate să examineze decât realitatea formulată în termeni digitali”. Se constată astfel că se reorganizând-se conținuturile existente, contribuind la a le consolida, adesea fără a verifica dacă acestea conțin erori ori idei preconcepute, IA generativă e, mai degrabă, „întăritoare” și prezintă riscul de a legitima știrile false și a întri greutatea unei culturi dominante, fără a mai vorbi de afectarea procesului educativ, eludând orice reflecție autentică. La capătul unor reflecții de acest gen, concluzia ce se desprinde ca perspectivă și de abordare și soluționare e aceea a unei politici sănătoase orientată spre binele comun. Altfel, riscul este acela de a substitui paradigma tehnologică reprezentată de inteligența artificială prin cea mai periculoasă, încă „tehnocratică”, așa încât va trebui, potrivit lui Francisc, să facem din IA un zid de apărare în mod precis contra expansiunii sale.


Algoretica – moderarea etică a algoritmilor și a programelor de IA
La ora în care conceptul de demnitate umană slăbește și când sensul uman tinde să eclipseze, Suveranul pontif repetă că până și categoria fundamentală a Occidentului care este persoana umană pare a-și pierde din valoare; el solicită a se repune demnitatea persoanei „în centrul unei perspective etice partajate” printr-o „politică sănătoasă”. Propunerea se înscrie în sensul semnării Apelului de la Roma pentru o IA etică din 2020 și susținerii acestei forme de moderare etice a algoritmilor și a programelor de inteligență artificială zisă algoretică. Una guvernată de 6 principii: transparență, incluziune, responsabilitate, fiabilitate, securitate și respect al vieții private constituite totodată și elemente fundamentale ale unei bune inovări. Aparține deci fiecăruia îndatorirea de a manifesta o bună folosință a politicii de a crea condițiile pentru ca o atare utilizare să fie posibilă și fecundă.


Statele trebuie să se poziţioneze proactiv în problematica IA
|2. Dincolo de fondul ideatic exprimat, prezența (pentru prima dată) Suveranului Pontif la conclavul liderilor celor șapte mai bogate țări ale lumii și poziționarea amplă și fermă în privința eticii numită să guverneze dezvoltarea și utilizările inteligenței artificiale prezintă semnificații deosebite. Primul semnal clar astfel exprimat privește intenția de a influența politica globală în materie, începând desigur cu cea a „stăpânilor principali ai jocurilor”, dar continuând până la întreaga lume, în sensul imperativului unui cadru internațional de reglementare a tehnologiei și care să împiedice utilizarea sa abuzivă. Ea se conjugă și potențează cu dorința guvernului de la Roma ca legislația sa specifică industriei în domeniu, centrată pe dezvoltarea tehnologică a utilizării IA și o „penalizare a abuzurilor” să-și impună o prestanță internațională, printr-o exemplaritate demnă de urmat. O atare poziționare proactivă amplifică discursul și consolidează influența globală a Italiei, iar participarea Papei intensifică aspectele etice ale IA, accentuând posibilitățile deschiderii și urmăririi unei acțiuni mai unite în lume spre formularea unui răspuns comun, global, pertinent și eficient la provocările revoluției inteligenței artificiale. Nu în ultimul rând, și cu precădere și pentru noi, implicarea italiană poate constitui un exemplu de poziționare adecvată în privința noii revoluții globale în sensul de a nu ne rezuma la postura de receptor umil și utilizator conform al aplicațiilor tehnologiilor IA, ci a afirma o poziție de factor participant la crearea lor și la reglementarea cuvenită.

Pe fond, considerațiile și sugestiile etice aferente discursului papal configurează și promovează un veritabil „etos universal” al unei dezvoltări strategice, care asociază norma de conduită cu exigența inovării și a progresului general, responsabil și durabil.

---

Prof. univ. dr. Mircea Duțu este Director al Institutului de Cercetări Juridice al Academiei Române și Director Științific Pandectele Române.