Inteligența Artificială (AI) ne trezește sentimente amestecate: este utilă în viața de zi cu zi, dar performanțele sale ne fac să ne simțim amenințați. Pare să nu-și fi atins încă potențialul, pentru că sunt posibile noi și noi sisteme care să o integreze. Răzvan Ștefan Tecuceanu, Programator AI, expert în rețele neuronale artificiale, ne-a răspuns la câteva întrebări legate de proiectele sale bazate pe inteligență artificială, dar și de viitorul pe care oamenii îl pot construi alături de această tehnologie.
Vă rugăm să ne spuneți de cât timp lucrați în domeniul inteligenței artificiale și cum a început activitatea dumneavoastră? La ce tip de proiecte ați lucrat de-a lungul timpului?
Lucrez cu ideea de inteligență artificială de aproape 30 de ani, chiar dacă, la început, nu aveam nici tehnologia, nici puterea de calcul de astăzi. În 1998, ca student la matematică, am intrat într-o sală de curs aproape goală. Eram doar eu, un coleg și profesorul, la un curs intitulat „Inteligență Artificială”. Pe atunci, AI era mai degrabă o poveste frumoasă de matematică decât un domeniu aplicat. Nu aveam hardware-ul necesar, iar multe lucruri păreau imposibile. Dar acela a fost momentul în care m-am îndrăgostit de imposibil. Am fost tânărul matematician care credea că imposibilul poate fi tradus în formule. Care petrecea nopți întregi încercând să înțeleagă dacă o mașină ar putea, vreodată, să învețe, să decidă, să înțeleagă.
De acolo, drumul meu a fost unul foarte concret: am lucrat ca programator și arhitect de sisteme în proiecte reale, unde greșelile nu erau teoretice, ci se vedeau imediat în sisteme care trebuiau să funcționeze, sub presiune, în producție.
Am construit sisteme pentru domenii critice:
- portaluri medicale universitare, unde datele erau sensibile și deciziile aveau impact direct asupra oamenilor;
- soluții de automatizare și instalare la scară mare, pe zeci de mii de calculatoare;
- sisteme de analiză și detectare a fraudei în industria asigurărilor;
- platforme complexe cu agenți AI, CRM-uri și procese administrative automatizate;
- sisteme de training și simulare, unde comportamentul uman și decizia sunt esențiale.
Toate aceste proiecte au avut un numitor comun: AI nu era folosită ca magie, ci ca instrument de claritate. Pentru a reduce erorile, pentru a filtra complexitatea, pentru a sprijini decizia umană, nu pentru a o înlocui.
Acest parcurs m-a adus, în mod natural, spre preocupările mele de astăzi: identitatea decizională, manipularea, influența, confidențialitatea datelor și relația dintre om și tehnologie. Pentru că, după ani de lucru cu sisteme critice, am înțeles ceva foarte simplu: tehnologia nu este niciodată neutră. Este întotdeauna expresia alegerilor noastre.
Ce sisteme bazate pe inteligență artificială dezvoltați în prezent?
În prezent dezvolt mai multe sisteme bazate pe inteligență artificială care par diferite ca domeniu, dar care sunt unite de aceeași preocupare centrală: înțelegerea deciziilor umane și protejarea lor.
Un proiect esențial este Auronity, un sistem dedicat analizei manipulării și influenței invizibile. Îl descriu adesea ca pe un Anti-Manipulation Shield (Scut Antimanipulare, n.r.), într-un sens similar relației dintre virus și antivirus. Așa cum virușii au evoluat odată cu sistemele informatice, și tehnicile de influență au evoluat odată cu algoritmii moderni. Auronity analizează structura mesajelor, contextul emoțional, selecția informațiilor și tiparele persuasive pentru a face vizibil cum suntem influențați, înainte ca decizia să fie luată fără să ne dăm seama.
Un alt proiect este SellArena, o platformă de simulare și training care merge dincolo de simple conversații artificiale. SellArena poate simula întâlniri reale, programări, discuții unu-la-unu, în care utilizatorul interacționează cu o persoană virtuală construită cât mai aproape de realitate. Dacă există suficiente date relevante, aceste simulări pot deveni surprinzător de apropiate de comportamentul uman real.
Interlocutorii virtuali sunt construiți pe baza unor concepte dezvoltate de noi, numite DNA și iDNA. Acestea nu sunt metafore, ci modele matematice formale, aflate în proces de protejare prin patent, care descriu identitatea decizională și comportamentală a unei entități. Tocmai această matematică face posibilă coerența: felul în care o entitate reacționează în timp, cum își păstrează stilul, valorile, limitele și contradicțiile umane. SellArena devine astfel un mediu sigur în care poți testa decizii și abordări înainte de a le trăi în viața reală.
Toate aceste direcții se întâlnesc în Lectorix, iar aici apare partea care mă fascinează cel mai mult. Lectorix este o platformă software dedicată analizei, îmbunătățirii și valorificării manuscriselor, pentru autori și edituri, dar, în același timp, deschide o posibilitate care până acum părea doar science fiction: cartea poate deveni vie.
Pentru edituri, Lectorix analizează volume mari de manuscrise și oferă o imagine clară a suprastructurii poveștii, a personajelor, a ritmului și a consistenței stilului. Asta ajută la triere și evaluare inițială, reducând semnificativ timpul și costurile, fără să înlocuiască decizia editorială umană.
Pentru autori, Lectorix oferă feedback clar asupra manuscrisului: unde povestea funcționează, unde se rupe ritmul, unde apar inconsistențe sau decizii narative care slăbesc coerența. Include și un modul dedicat, Lectorix AI, care funcționează ca un partener de decizie: autorul poate explora alternative, poate testa direcții și poate înțelege impactul unei alegeri asupra întregii construcții.
Dar „wow”-ul real vine din faptul că, folosind DNA și iDNA, personajele pot fi reprezentate digital într-un mod coerent și consecvent. Asta înseamnă că, pentru prima dată, nu mai vorbim doar despre o carte citită, ci despre o carte cu care poți interacționa: poți vorbi cu personajele, poți pune întrebări, poți testa dialoguri, poți înțelege lumea din interior. Pentru autor, acest lucru devine un instrument extraordinar: vezi rapid unde un personaj spune ceva „care nu e al lui”, unde motivațiile nu mai țin, unde magia din spate se rupe.
Pentru mine, Lectorix are și o dimensiune personală. Scriu de aproape 30 de ani, dar am scris până acum doar pentru mine. Anul acesta voi publica prima mea carte, FAR – Ultima oglindă, iar ideea că literatura poate deveni interactivă, fără să piardă rolul autorului, este una dintre cele mai puternice promisiuni tehnologice pe care le văd.
Și cred că impactul cel mai mare poate fi în educație. Pentru că totul se schimbă atunci când un copil poate vorbi cu personajele dintr-o carte. Când poate comunica cu universul unei povești. Când învățarea nu mai este doar lectură pasivă, ci explorare vie.
Un element comun tuturor acestor sisteme este accentul foarte puternic pe confidențialitate și controlul datelor. Cred că un AI valoros învață de la utilizator, dar nu împotriva lui. Datele trebuie să rămână în ecosistemul celui care le produce, pentru că ele sunt cea mai importantă resursă a epocii noastre.
Privite împreună, aceste proiecte nu sunt soluții izolate, ci părți ale aceleiași viziuni: folosirea inteligenței artificiale pentru a amplifica partea bună a deciziilor umane și pentru a ne proteja de partea ei invizibilă și periculoasă.
Care credeți că sunt principalele domenii în care AI va aduce beneficii importante?
Inteligența artificială va aduce cele mai mari beneficii nu acolo unde face lucrurile mai rapide, ci acolo unde reduce zgomotul și crește claritatea. Din perspectiva mea, există câteva domenii-cheie în care acest lucru va conta decisiv.
Un prim domeniu este educația. AI poate transforma educația dintr-un proces pasiv în unul interactiv și adaptiv. Nu vorbim doar despre exerciții automatizate, ci despre învățare prin explorare: atunci când elevii pot dialoga cu idei, cu personaje, cu concepte. Când pot pune întrebări și pot primi răspunsuri care se adaptează nivelului lor de înțelegere. Cred că educația va fi unul dintre locurile unde AI poate face cel mai mult bine, dacă este folosită cu responsabilitate.
Un al doilea domeniu esențial este sănătatea. Aici AI nu ar trebui să înlocuiască medicul, ci să-l sprijine: analiză de date medicale, identificarea unor tipare greu de observat, trierea informațiilor și reducerea erorilor. Câștigul real este timpul, mai mult timp pentru medic și mai multă atenție pentru pacient.
Un alt domeniu critic este energia, logistica și infrastructura. AI poate reduce risipa, optimiza fluxurile și ajuta la luarea unor decizii mai bune într-un context de resurse limitate. Aici beneficiile sunt directe și măsurabile, atât economic, cât și ecologic.
Un domeniu din ce în ce mai important este securitatea informațională și decizională. Trăim într-un mediu saturat de influență, unde informația nu mai este neutră. AI poate fi folosită atât pentru a manipula, cât și pentru a detecta manipularea. Cred că vom avea nevoie tot mai mult de sisteme care să ne ajute să înțelegem cum suntem influențați, nu doar ce ni se spune.
În fine, un domeniu adesea ignorat este creația și cultura. AI poate deveni un instrument extraordinar pentru a înțelege mai bine poveștile, ideile și deciziile creative, fără a le înlocui. Când este folosită corect, poate ridica nivelul creației și poate crea forme complet noi de interacțiune cu conținutul cultural.
În toate aceste domenii, beneficiul real al AI nu este automatizarea în sine, ci recâștigarea capacității de a gândi mai clar. Dacă AI ne oferă mai mult timp, mai multă perspectivă și mai multă înțelegere, atunci își îndeplinește cu adevărat promisiunea.
Unii oameni spun că ne alarmăm acum așa cum au făcut-o și alte generații în diverse etape de inovație industrială. Alții cred că nimic nu va mai fi la fel și că suntem îndreptățiți să ne facem probleme. Cum vedeți colaborarea om – mașină în viitor?
Nimeni nu este cu adevărat „pregătit” pentru o revoluție. Nici atunci când a apărut electricitatea, nici internetul. Diferența nu a fost niciodată nivelul de pregătire tehnică, ci cât de lucizi am rămas ca oameni în fața schimbării. Inteligența artificială nu este doar un nou software. Este o oglindă. Învață din tot ce îi oferim: din datele noastre, dar și din fricile noastre, din graba noastră, din speranțele și greșelile noastre. Dacă îi dăm grabă, o va amplifica. Dacă îi dăm ură, o va multiplica. Dar dacă îi dăm curiozitate, echilibru și adevăr, va lumina.
Adevărul este că nu suntem complet pregătiți. Am adus în lume cea mai puternică tehnologie din istorie, dar încă nu avem un limbaj comun cu ea. Majoritatea oamenilor folosesc AI fără să înțeleagă cum funcționează, exact cum folosim electricitatea fără să știm ce este curentul. Diferența este că AI nu alimentează doar aparate, ci modelează informația, atenția și decizia.
Trăim într-un paradox: suntem bombardați de conținut generat de AI, dar nu avem încă un alfabet al discernământului digital. Sistemele educaționale și instituționale sunt reactive, nu anticipative. Iar riscul cel mai mare nu este că AI va prelua controlul, ci că noi îl vom ceda fără să ne dăm seama, prin dependență, manipulare sau lipsă de înțelegere. De aceea, nu cred într-un viitor în care AI înlocuiește omul, ci într-unul de copilotare. AI poate analiza, poate simula, poate semnala. Dar decizia finală trebuie să rămână umană. În momentul în care delegăm complet decizia, nu pierdem doar controlul, pierdem responsabilitatea.
Nu mă tem de inteligența artificială. Mă tem de lipsa de luciditate umană în fața ei. Dacă păstrăm decizia la om, construim AI transparent și învățăm să o folosim conștient, colaborarea om–mașină poate deveni una dintre cele mai mari șanse ale noastre, nu cea mai mare amenințare.
În ce domenii credeți că oamenii vor deveni nerelevanți ca lucrători? Și reversul: ce credeți că poate să facă un om și nu poate să facă AI?
Oamenii vor deveni tot mai puțin necesari în acele roluri în care munca este repetitivă, previzibilă și pur executivă. Sarcini de procesare standard, introducere de date, raportări automate, o parte din suportul procedural sau din analiza de rutină vor fi preluate inevitabil de sisteme inteligente. Nu pentru că oamenii nu ar fi capabili, ci pentru că AI este mai rapidă și mai constantă în astfel de activități.
Dar aici apare o confuzie majoră, pe care o aud des: „Mai sunt joburile sigure?”. Răspunsul meu este simplu și poate inconfortabil: safe nu este jobul. Safe este omul care se adaptează. La fel și organizațiile. Nu supraviețuiesc cele care protejează roluri fixe, ci cele care se pot restructura continuu.
Vor dispărea multe roluri de execuție repetitivă, dar vor crește masiv rolurile de supervizare, control al calității, securitate, audit, guvernanță și reguli.
Apare deja o nouă categorie de joburi, extrem de importantă: operatori și coordonatori de sisteme AI. Oameni care nu „execută” în locul mașinii, ci stabilesc regulile, verifică rezultatele, auditează deciziile, intervin când sistemele greșesc sau scapă de sub control.
Marea schimbare, însă, nu este tehnologică. Este decizională. Până acum, omul decidea și mașina executa. Astăzi, mașina sugerează, iar omul trebuie să aibă curajul să aleagă. Asta schimbă complet sensul educației și al muncii. Întrebarea nu mai este „ce meserie va exista peste 10 ani?”, ci ce fel de minte trebuie să avem ca să navigăm o lume în care totul se schimbă rapid.
Educația are, astfel, o dublă provocare: să pregătească oamenii pentru adaptare continuă și să dezvolte exact acele capacități pe care mașinile nu le pot înlocui: gândirea critică, creativitatea, empatia, judecata morală și înțelegerea contextului. Albert Einstein spunea: „Educația nu înseamnă învățarea faptelor, ci formarea minții pentru a gândi.” Aceasta este esența învățământului, mai ales acum. O diplomă nu mai este doar o calificare pentru un job, ci o evoluție mentală. Ea dezvoltă abilități transferabile: logică, abstracție, capacitatea de a pune întrebări bune, de a evalua informații contradictorii și de a reînvăța constant. Un student la istorie, de exemplu, nu doar memorează evenimente. El învață să pună la îndoială sursele, să interpreteze date, să lege tipare și să construiască sens. Aceste competențe sunt valoroase în orice domeniu, de la drept și antreprenoriat până la politici publice sau leadership.
În același timp, AI schimbă ritmul. Ritmul cu care luăm decizii, învățăm, construim, chiar și greșim. Ne obligă să fim mai rapizi, dar și mai conștienți. Pentru prima dată în istorie, puterea de a crea nu mai aparține doar unei elite, ci oricui are o idee și acces la tehnologie. Dar aici apare paradoxul: AI nu ne înlocuiește. Ne oglindește. Dacă suntem superficiali, va amplifica superficialitatea. Dacă suntem profunzi, va deveni un aliat extraordinar. Ceea ce AI nu poate face este să-și asume sensul, responsabilitatea și consecințele unei decizii. Nu poate avea curaj moral. Nu poate spune „nu” atunci când ar fi mai eficient să spună „da”. Nu poate trăi efectele propriilor alegeri. Schimbarea adevărată nu este în mașină. Este în noi, în felul în care alegem să o folosim.
Așa cum, în anii ’30, oamenii au luptat pentru săptămâna de lucru de 40 de ore, cred că următoarea mare schimbare nu va fi una tehnologică, ci una socială și decizională. Dacă inteligența artificială crește masiv productivitatea, atunci este firesc să ne întrebăm nu doar ce producem mai repede, ci cum redistribuim acest câștig de timp. Poate că timpul de lucru efectiv va trebui redus. Nu ca un act de idealism, ci ca o consecință logică a eficienței crescute. Dacă aceeași valoare poate fi creată în mai puține ore, insistența pe același volum de muncă nu este progres, ci inerție.
Reducerea timpului de lucru nu înseamnă mai puțină responsabilitate. Din contră. Înseamnă mai mult timp pentru gândire, pentru învățare continuă, pentru supervizare, pentru creativitate și pentru decizii mai bune. Exact acele lucruri pe care AI nu le poate face în locul nostru.
Istoric vorbind, fiecare mare salt tehnologic a dus, în cele din urmă, la o regândire a muncii. Nu pentru că oamenii au devenit mai leneși, ci pentru că valoarea muncii s-a mutat de la cantitate la calitate. Cred că ne aflăm din nou într-un astfel de moment. Un moment în care trebuie să avem curajul să cerem nu doar mai multă eficiență, ci mai mult timp pentru a rămâne umani.
Auzim de folosirea sistemelor cu inteligență artificială în industria de război. Poate AI să determine câștigătorul unui război?
Inteligența artificială poate influența profund modul în care se desfășoară un război, dar nu cred că poate, de una singură, să determine câștigătorul. AI este un multiplicator de putere, nu o cauză fundamentală a victoriei.
În plan tactic, AI poate aduce avantaje clare: analiză rapidă de informații, recunoaștere, logistică optimizată, sisteme autonome sau semi-autonome, decizii luate la o viteză imposibilă pentru oameni. Toate acestea pot schimba dinamica unui conflict și pot oferi un avantaj local, uneori decisiv pe termen scurt.
Dar războaiele nu se câștigă doar prin tehnologie. Ele sunt câștigate sau pierdute prin factori mult mai profunzi: voință politică, coeziune socială, economie, alianțe, leadership și capacitatea unei societăți de a rezista în timp. Nicio inteligență artificială nu poate înlocui aceste elemente.
Pericolul real nu este că AI va deveni „generalul suprem”, ci viteza cu care poate escalada un conflict. Când deciziile sunt automatizate, riscul de eroare, de interpretare greșită sau de reacție disproporționată crește enorm. O clasificare greșită, un bias în date sau o reacție prea rapidă pot avea consecințe ireversibile. De aceea, cea mai mare miză nu este performanța tehnologică, ci păstrarea responsabilității umane. Deciziile care implică viață și moarte nu pot fi delegate complet unui algoritm, indiferent cât de avansat ar fi acesta. AI poate sprijini, poate analiza, poate sugera, dar decizia finală trebuie să rămână umană.
În final, AI nu va decide cine câștigă un război. Dar poate decide cât de repede îl pierdem pe cel mai important aliat al nostru: judecata umană, dacă nu suntem atenți.
La ce credeți că ar trebui să fie atentă societatea (aici includem atât cetățenii, cât și guvernele) pentru o utilizare etică a inteligenței artificiale?
Cred că societatea, atât cetățenii, cât și guvernele, trebuie să fie atentă la un adevăr inconfortabil: cea mai mare problemă a inteligenței artificiale nu este ce face, ci ce face cu deciziile noastre.
De multe ori, când vorbim despre etică, ne gândim la reguli abstracte, la interdicții sau la scenarii extreme. În realitate, problema este mult mai subtilă. Adevărata manipulare nu este cea care te convinge direct, ci cea care te face să crezi că a fost ideea ta. Dacă cineva încearcă să te convingă, vei opune rezistență, vei analiza, vei decide. Dar dacă o idee este plantată astfel încât să pară că s-a născut din mintea ta, nu o vei mai contesta. O vei apăra chiar. Exact așa funcționează algoritmii moderni de influență. Ei nu ne spun ce să gândim. Ei modelează terenul pe care gândurile noastre apar. Ne arată anumite informații și le ascund pe altele. Creează contexte emoționale specifice. Și, fără să ne dăm seama, ajungem să credem că alegem liber, când de fapt alegerile sunt deja canalizate.
Trăim într-o lume în care fiecare click, fiecare căutare, fiecare secundă de atenție devine o piesă dintr-un puzzle uriaș despre noi. Acest puzzle este analizat, vândut, folosit pentru a ne prezice și, uneori, pentru a ne conduce. Platformele nu ne spun ce să facem. Dar ne pun în față exact ceea ce trebuie ca să alegem într-un anumit fel. Alte perspective dispar.
Iar iluzia libertății rămâne. De aceea, în secolul XXI, influența nu mai este o opțiune.
Este un mediu. Trăim în el. Respirăm în el. Luăm decizii în el. Din acest motiv, societatea trebuie să fie atentă la câteva lucruri esențiale. În primul rând, controlul datelor. Datele nu sunt un detaliu tehnic. Sunt materia primă a influenței. Când trimitem date sensibile către sisteme pe care nu le controlăm, nu facem doar un gest comod, cedăm putere. Datele tale sunt aurul tău. Dacă nu le protejezi, alții vor construi ceva cu ele. În al doilea rând, transparența și responsabilitatea. Trebuie să știm când interacționăm cu un sistem AI, ce date folosește, ce poate face și, mai ales, cine răspunde când greșește. Etica nu poate fi un document de marketing. Trebuie să fie un mecanism real de răspundere. În al treilea rând, educația pentru discernământ digital. Nu este suficient să știm să folosim AI. Trebuie să știm când ne influențează, când ne grăbește, când ne împinge subtil într-o direcție. Fără acest alfabet al discernământului, orice tehnologie puternică devine periculoasă. Și, poate cel mai important, păstrarea deciziei finale la om. AI poate analiza, poate sugera, poate simula. Dar nu trebuie să decidă în locul nostru în chestiuni care țin de valori, de viață, de responsabilitate morală. În momentul în care delegăm complet decizia, nu pierdem doar controlul, pierdem libertatea.
Etica inteligenței artificiale nu începe cu codul. Începe cu felul în care alegem să fim oameni într-o lume în care influența a devenit invizibilă.
Cum ne protejăm libertatea de a gândi într-o lume în care tehnologia ne cunoaște mai bine decât ne cunoaștem noi înșine?
Prin educație. Dar nu educația clasică, centrată pe acumulare de informații, ci o educație a discernământului. O educație care te învață cum se formează o idee, nu doar ce idee să ai. Care te învață să recunoști influența, să încetinești, să pui întrebări și să înțelegi contextul în care apare o decizie.
Pentru că libertatea nu dispare brusc. Se estompează lent, atunci când nu mai știm de ce vrem ceva, de ce credem ceva sau de ce alegem într-un anumit fel. Trăim într-o lume în care influența nu mai vine sub forma unei comenzi directe, ci sub forma unui context atent construit. Ni se arată anumite perspective, altele sunt ascunse. Ni se creează emoții, ritmuri, urgențe. Și, încet, ajungem să confundăm sugestia cu propria voință.
De aceea, educația singură nu mai este suficientă. Avem nevoie și de instrumente de protecție. Așa cum, în momentul în care au apărut virușii informatici, am construit antiviruși, în momentul în care influența devine invizibilă, avem nevoie de scuturi împotriva manipulării. Instrumente care să nu decidă în locul nostru, ci să ne arate cum suntem influențați, unde suntem grăbiți și ce mecanisme acționează asupra noastră. Nu pentru a interzice tehnologia. Ci pentru a o face transparentă.
Libertatea de a gândi nu se apără prin respingerea AI-ului, ci prin folosirea lui conștientă. Prin educație care formează minți capabile să aleagă. Și prin tehnologii care ne ajută să vedem ceea ce, altfel, ar rămâne invizibil. Pentru că inteligența artificială nu este magie. Este o oglindă. Iar ceea ce reflectă depinde de cine suntem noi, de ce decizii luăm și de cât curaj avem să rămânem conștienți într-o lume din ce în ce mai rapidă.
Părerea mea este simplă: inteligența artificială nu ne va defini ca specie. Deciziile noastre o vor face.
