Sari la conținut
Prima pagină » Articole recente » Mașina rea și narativul mașinii rele

Mașina rea și narativul mașinii rele

„Victoria IA asupra IU”, a titrat într-un post pe Facebook Cristian Tudor Popescu. Unde IA = AI și IU = inteligența umană. Contextul este cel al surprizei din primul tur al alegerilor prezidențiale. „Victoria lui [Călin Georgescu], scrie CTP, este victoria algoritmilor de net asupra oamenilor, victoria IA asupra IU – Inteligența Umană. Rămâne de văzut cu ce bani și de unde. Acum însă, personajul făcut din pixeli va trebui să se manifeste în viața reală. Și mulți dintre cei care l-au votat vor afla abia acum pe cine au votat.” Și, ulterior, „Mulți dintre cei care l-au votat pe C.G. sunt copiii IA, indiferent ce vârstă au. Au fost educați și reeducați de Inteligența Artificială, dincolo de școală. Iar Inteligența Artificială, telefonul, computerul, internetul nu te învață să gândești rațional, cu propriul creier. IA poate fi foarte utilă dacă știi să gândești rațional, o poți folosi. Dacă nu, ți se suie pe ceafă, gândește ea în locul tău, în vreme ce tu crezi că sunt ideile tale.”

CTP obișnuiește să fie bine informat atunci când vorbește despre politică și atunci când vorbește despre știință și tehnologie. De aceea, dintre toate mesajele tehnofobe din perioada foarte recentă, am ales să citez din el. În fond, întreaga situație, nu doar asemenea reacții, este una de o importanță enormă pentru momentul actual.

Ce e de adăugat? Nu puține. Nimic nu este neutru pe lumea asta și orice oportunitate aduce și o doză de riscuri. În ceea ce privește tehnologiile AI, un punctaj minimal al acestor riscuri și oportunități a fost făcut în mod oficial de Parlamentul European și vom reproduce în această ediție întreaga sinteză.

Un element este esențial: există riscuri de folosire a tehnologiilor AI și există, la fel de clar, riscuri de nefolosire a tehnologiilor AI.

Înaintea oricărei evaluări, o primă observație este că teama față de AI a precedat cu cel puțin 100 de ani apariția primelor AI. Mixul de idei ce au stat la baza acestei fobii este complex și, adesea, resuscitează narative antice și medievale. Dar, în esență, în tranziția de la magic la științific, dacă aspirațiile și progresul social au devenit legate de științe și de tehnologii, fobiile nu au făcut decât să urmeze aceeași cale. Mașina rea a devenit un motiv și chiar o temă de pe vremea primelor mașini, când acestea erau capabile doar să împingă un vagonet pe o șină. Tehnologiile din ce în ce mai complexe și mai utile comunităților umane au dus la creșterea adeziunii față de tehnologii, până dincolo de limita dependenței, iar fobiile au urmat tot acest traseu, iar în multe cazuri l-au precedat.

O a doua observație este „cutia neagră”. Expresia definește utilizarea unui dispozitiv de orice natură a cărui funcționare internă este necunoscută utilizatorului, care însă cunoaște inputul și outputul. Respectiv informația (sau materialele) pe care le introduce într-un asemenea sistem și informația (sau materialele) care vor rezulta. Viața noastră a devenit plină de asemenea cutii negre. Oricât de curioși am fi unii și chiar dacă avem o idee generală despre diverse mecanisme interne, pe cele mai multe dispozitive le utilizăm preocupați doar de input și output. Ca să conduci un autoturism este esențial să știi ce fac pedalele și volanul; poți ignora ce se întâmplă în motor. Pentru a folosi un telefon e necesar să formezi numărul; nu e treaba ta cum se face conexiunea și cum circulă sunetul. Ca să poți folosi un ceas trebuie să știi doar convenția cadranului; nu ai nevoie să știi ce e acela un roata ancoră sau ce e cristalul de cuarț. Tot mai multe cutii negre își fac loc în viața noastră. Software-ul este prin excelență din aceeași categorie. Cu unele excepții, el este chiar protejat prin drepturi de proprietate intelectuală și secretizat, astfel încât utilizatorii să nu aibă acces la procesele interne.

Utilizarea oricărui tip de cutie neagră necesită un al doilea mecanism, unul al încrederii în funcționarea corectă și competentă a sa. Problema devine stringentă pe măsură ce o spirală a creșterii complexității face ca: inputurile cutiilor negre devin mai extrem de sofisticate, necesitând eforturi de învățare și înțelegere; importanța individuală și socială a outputului crește; constructorii de cutii negre devin tot mai diverși și mai puțin cunoscuți. Concret: toți dorim device-uri cu cât mai puține butoane, cât mai mare putere și cât mai mici prețuri. Așadar, încrederea, deși esențială, nu se regăsește între primele trei criterii. Această situație funcționează atunci când lucrurile merg bine, indiferent de riscurile existente. Dar creează situații catastrofale atunci când apar disfuncțiile.

Privită ca o cutie neagră, tehnologia dă multe fațete ale mașinii rele: de la chestiunile triviale – se defectează, nu funcționează cum te-ai aștepta sau este greu de învățat să o operezi – la unele cu adevărat semnificative, cum ar fi includerea unor greșeli structurale, a unor elemente nocive sau a unora malițioase, unele dintre ele de o gravitate extremă. Orice se poate ascunde într-o cutie neagră, mai ales când funcționarea ei este închisă sub secretul industrial. Ca utilizator final, oricât de conștient, nu te poți proteja de unul singur. Este nevoie de mecanisme de control bine puse la punct, etică industrială, auditare neutră și legislație efectivă. (Niciunul dintre aceste aspecte nu funcționează în acest moment la nivelul și volumul de care este nevoie; și asta nu doar în tehnologiile de vârf, ci în multe alte domenii, inclusiv, de exemplu, siguranța alimentelor, unde, de asemenea, e plin de „cutii negre”).

Cea de a treia observație este că tehnologia, inclusiv AI-ul, nu are propriile interese. (În mod normal, această observație nici nu ar merita făcută, pentru că este de natura evidenței, dar formulările cu iz tehnofob – sau technoscarry –, de tipul „gândește AI-ul în locul tău”, trimit spre o voință și la un interes inerente tehnologiei). (Oricum, e discutabil dacă ceea ce avem acum sub eticheta de AI chiar este inteligență artificială sau e doar un pachet foarte puternic de softuri analitice, dintr-o nouă generație, iar AI nu este decât un label comercial care să atragă atenția și să stimuleze interesul.)

Un ceas nu are interesul să arate o oră sau alta. Nu are nici măcar interesul de a-și asigura propria utilizare. Iar acest model îl regăsim oriunde, oricât de avansată și complexă ar fi știința din spate. În tot ce înseamnă relația dintre om și tehnologie, singurul interesat și cu voință este omul. Iar în orice tehnologie apar minim doi oameni: constructorul și utilizatorul. uneori cu aceleași interese sau cât de cât similare, alteori cu interese perfect opuse. Aceste interese, oridecare ar fi ele, se manifestă cu adevărat prin intermediul tehnologiei. În plus, tehnologia creează avantaje utilizatorilor, ceea ce distorsionează sau alterează competitivitatea socială și forțează redefinirea unor relații sociale. Este o competiție a utilizatorilor cu alți utilizatori. „Tehnologia noastră” vs „tehnologia lor”. Pe model sartrian, „mașina rea” este celălalt.

A patra și ultima observație este că tehnologiile IT&C sunt extrem de versatile și de dinamice. Spre deosebire de anii noștri, tehnologia obișnuia să fie strict specializată. Un motor pune chestii în mișcare. Pentru asta este construit, pentru asta este cumpărat și doar la așa ceva este folosit. Tehnologiile IT&C, al căror vârf este AI-ul, sunt plurifuncționale. Pentru unele dintre ele principala limită de utilizare este cea a imaginației noastre, incapabilă să iasă din modelele cu care am crescut și din cutumele care ne-au format. Versatilitatea ridică probleme radicale în etica tehnologică, în legiferarea, normarea și definirea bunelor practici. Iar aceste probleme nu se vor diminua, ci vor crește. Cum să interzici preventiv un abuz când nu știi că el va fi posibil?

Revin acum la concluzia deja anunțată: o tehnologie nu creează doar oportunități, ci și riscuri. Iar riscurile de nefolosire sunt minim la fel de mari cum sunt cele de folosire.

Probabil civilizația Extremului Orient era mai avansată decât cea europeană și cu siguranță avea o forță economică și demografică uriașe față de micile state europene. Însă nu a avut nicio șansă în fața Europei, care a construit imperii în care soarele nu apune și unele în care apune doar câteva ore. Diferența a fost făcută de lipsa de acces și chiar de refuzul tehnologiilor de vârf în Orient. (De regulă, în acest punct se citează exemplul coroanei britanice. Dar un alt exemplu chiar mai potrivit este cel al Rusiei. Britanicii s-au aflat în vârful inovației, însă rușii erau un stat relativ înapoiat în Europa; accesul lor la tehnologiile continentale avea un delay de decenii sau secole; cu toate acestea, aveau acces; chiar dacă nu au fost „early adopters”, faptul că au avut acces și poziționarea geografică le-a permis să își creeze un imperiu uriaș, singurul creat în perioada modernă care încă există; iar oponenții lor din centrul Asiei, din Siberia și Mongolia păreau niște „sălbatici” fără nicio șansă în fața tehnologizatei armate ruse deși, cu doar un secol sau două înainte, Rusia fusese supusă acelor populații, plătise tribut și era victima preferată a războinicilor din stepa… rusească, azi.) E o singură secvență, dar toată istoria (cea mică și cea mare deopotrivă) ne arată că refuzul tehnologiei nu este o opțiune. Dimpotrivă, blocarea accesului la o tehnologie de vârf poate fi o sancțiune, cum se întâmplă adesea la nivel internațional. Riscurile de nefolosire, cum spuneam, sunt mult mai mari decât cele ale unei folosiri defectuoase.

Un comentariu la „Mașina rea și narativul mașinii rele”

  1. Pingback: Sindromul „cutiei negre” și frica de tehnologiile media - Nicu Ilie

Lasă un răspuns

Acest site folosește Akismet pentru a reduce spamul. Află cum sunt procesate datele comentariilor tale.