Etica maşinilor

Problematica eticii este abordată tot mai frecvent în discursul contemporan, cu trimitere la domenii precum medicina, psihologia, cercetarea, dreptul sau activitatea de intelligence. Raportându-ne la tendinţele lumii în care trăim apare, legitim, întrebarea: Care sunt principiile etice după care trebuie să se ghideze evoluţia tehnologică?

Tehnologia ocupă un „spaţiu“ tot mai mare în viaţa noastră. Este vorba despre un spaţiu fizic, demonstrat prin faptul că nu ne putem dezlipi de telefoanele mobile de tip smartphone care au devenit un asistent personal. În societate putem considera exemplificativă sintagma „nu exişti dacă nu ai cont de Facebook“, sau măcar de Instagram, Twitter, Tumblr ori altă platformă de socializare.

Din perspectivă psihologică este relevant sentimentul de panică ce apare dacă telefonul este pierdut sau uitat acasă.

Deep learning, machine learning și inteligenţa artificială

În acest context, evoluţia tehnologică, care aduce cu sine noi provocări precum deep learning, machine learning şi artificial intelligence, devine subiectul principal al dezbaterilor referitoare la etică. Cu toate acestea, studiile care încearcă să ofere un răspuns complet la întrebarea enunţată se dovedesc a fi incapabile în a satisface curiozitatea celor interesaţi, generând mai degrabă noi întrebări. Pot fi conturate două perspective care să explice fenomenul şi anume, fie actorii implicaţi nu au reuşit încă să identifice sau să formuleze principii etice care să fie urmate în procesul de creare a inteligenţei artificiale (Artificial Intelligence), fie atenţia acestora nu se îndreaptă încă în acea direcţie.

Inteligenţa artificială între alb și negru

Deşi ignorată, de multe ori, etica este un aspect esenţial în orice domeniu de activitate, cu atât mai mult în cele în care distincţia dintre alb şi negru este dificil de realizat, iar repercusiunile se pot transforma în adevărate crize, dezastre sau situaţii incerte. Tehnologia poate fi un astfel de domeniu prin prisma interconectivităţii cu toate celelalte domenii şi a dependenţei pe care o creează.

Mai mult, se preconizează că evoluţia tehnologică, prin investiţiile enorme în dezvoltarea Artificial Intelligence (AI), va schimba complet întreaga lume. Este important să cunoaştem unde se va plasa această schimbare pe o scală de la alb la negru. Companii mari precum Google, IBM şi Amazon fac progrese semnificative în dezvoltarea AI, aducând pe scenă internaţională o cursă a tehnologizării între actori non-statali, similară cu cea a înarmării dusă de SUA şi Rusia în era Războiului Rece.

Cu toate acestea, nimeni şi nimic nu poate garanta, în acest moment, siguranţa acestor maşini autonome şi nici faptul că vor fi utilizate strict într-un scop nobil şi nu în interesul celor care vor să afecteze buna desfăşurare a unor activităţi şi securitatea umană. Entuziaşti ai tehnologiei manifestă o nerăbdare acută pentru momentul în care ansamblele tehnologizate vor atinge potenţialul anticipat, însă cei a căror activitate constă în menţinerea securităţii cetăţenilor şi a sistemelor ce îi deservesc pe aceştia sunt preocupaţi mai degrabă de principiile legale care vor sta la baza funcţionării şi utilizării inteligenţei artificiale şi, subsecvent, de etică.

Astfel, deşi inteligenţa artificială este încă la început de drum, autorităţile încep să manifeste interes pentru domeniu. Departamentul de Transporturi al Statelor Unite a lansat, în septembrie 2016, o broşură a regulilor privind vehiculele autonome, care pune pe primul loc siguranţa tuturor participaţilor la trafic. Este evidenţiată, astfel, importanţa pe care trebuie să o acordăm proiectării şi dezvoltării sistemelor bazate pe inteligenţă artificială.

Etica în algoritmi

Inteligenţa artificială se bazează pe un algoritm care îi permite să îndeplinească o sarcină anume, ulterior oferindu-i-se acces la o cantitate enormă de date relevante pentru sarcinile sale. „Maşina“ foloseşte datele pentru a învăţa continuu şi a atinge perfecţiunea. Putem aminti cazul sistemului Deep Blue care l-a învins la şah pe campionul mondial Kasparov, sau cazul AlphaGo, realizată de Google, care a reuşit să îl învingă la jocul de go – mult mai complex decât şahul – pe campionul mondial Ke Jie.

Cu toate acestea, într-un context în care avem un număr mai mare de variante din care să alegem pentru a face o mutare sau pentru a acţiona, o persoană poate detalia tot raţionamentul care a stat la baza deciziei, inclusiv atunci când acţionează intuitiv. În ceea ce priveşte maşinile, lucruri nu stau deloc aşa, transparenţa deciziilor fiind una dintre cele mai dezbătute probleme atunci când vine vorba de acurateţea şi siguranţa alegerilor făcute de acestea.

În ambele cazuri menţionate, maşinile şi-au îndeplinit cu succes sarcinile, dar ce se întâmplă atunci când o maşină responsabilă de viaţa pasagerilor săi face o greşeală? În contextul lipsei de transparenţă, cum ne putem asigura că, în situaţia respectivă, maşina a ales, într-adevăr, cea mai bună soluţie? Până la urmă, tot maşina a fost cea care a determinat situaţia ca urmare a unui şir de decizii greşite. Într-o astfel de situaţie, cine poate fi tras la răspundere pentru pierderile suferite: cei care au luat parte la proiectarea AI sau cei care au permis funcţionarea acesteia în lipsa reglementărilor sau prin slaba eficienţă a acestora?

Responsabilitatea este deopotrivă a tuturor celor implicaţi, motiv pentru care trebuie instituit un cadrul legal clar privind funcţionarea inteligenţei artificiale. De asemenea, este nevoie de multă atenţie, din partea celor implicaţi în dezvoltarea AI, atunci când se pune problema siguranţei beneficiarilor lumii ultra-tehnologizate.

Securitatea cibernetică în contextul inteligenţei artificiale

Prin urmare, Inteligenţa artificială ar trebui să fie mai apropiată de natura umană, astfel încât să câştige încrederea utilizatorilor/beneficiarilor şi să permită efectuarea unui audit în cazul apariţiei unor erori. Deosebit de importantă este securitatea AI în faţa încercărilor de corupere. Sistemul poate fi adus în stare de nefuncţionare sau poate fi utilizat de persoane neautorizate în scopuri ce pot reprezenta adevărate ameninţări de securitate. Pentru a preveni coruperea sistemului, pot fi luate în calcul două abordări, din perspectiva accesului la modificarea algoritmilor de funcţionare. Astfel, se poate permite accesul unui număr redus de persoane, dar astfel se multiplică riscurile ca sistemul să fie utilizat într-un alt scop decât cel pentru care a fost iniţial proiectat.

O altă variantă presupune ca, în vederea reducerii vulnerabilităţilor şi riscurilor menţionate, accesul să fie garantat unei singure persoane. Într-o astfel de situaţie ar apărea dezbateri pe tema autorităţii excesive concentrate în mâinile unei singure persoane. Nu trebuie să ignorăm că cele mai multe proiecte de realizare a inteligenţei artificiale sunt dezvoltate pe baza unui proces de învăţare automat, cunoscut sub numele de machine learning. Aceasta înseamnă că sistemului i se oferă acces la o bază de date imensă pentru a putea „studia“. De cele mai multe ori, baza de date este internetul. În acest context, riscurile de compromitere a sistemului cresc exponenţial, iar încercările de construire a unui sistem complet securizat s-au dovedit, până în prezent, fără succes. Libertatea tehnologică a permis apariţia unor tentative constante de evitare a sistemelor de securitate.

Crearea unui mediu bine reglementat şi uşor de verificat rămâne singura soluţie pentru funcţionarea adecvată a sistemelor bazate pe inteligenţă artificială, în acest fel fiind reduse erorile care pot diminua avantajele evoluţiei tehnologice.

Abstract

Technology is filling more and more space in our world becoming a necessity. Technological skills are an essential requirement for every field of activity. The world has turned into a scene for the technological evolution race. This has advantages as well as disadvantages that we must be aware of, in order to provide a safe world for the present and future generations. We have to keep up with the evolution of smart devices and with the race for the Artificial Intelligence development.

We have to benefit from the technological evolution keeping in mind the ethics. The importance of machine ethics derives from the growth of autonomous machines that can perform certain tasks faster than humans, serving us and, in certain cases, becoming responsible for our lives. Thus we must pay attention to the way machines are programmed to make decisions. The purpose is that, in the future, machines will not turn against us.

Autor: Cătălina Florentina Pisargiac

Total
14
Shares

Lasă un răspuns

Adresa ta de email nu va fi publicată. Câmpurile necesare sunt marcate *

*
*