Alexandra Cernian, coferențiar Universitatea Politehnica București: „Dacă delegăm orbește deciziile către AI, riscăm să devenim irelevanți”

Astăzi întrebarea nu mai este dacă folosim AI, ci cum îl folosim: cu discernământ sau pe pilot automat. Într-un interviu pentru start-up.ro, Alexandra Cernian vorbește despre hype-ul din jurul AI, despre impactul asupra pieței muncii, despre startup-uri care vând „AI” doar din pitch deck și despre de ce România are încă o șansă să recupereze decalajele prin educație.

Alexandra Cernian a început să studieze inteligența artificială încă din facultate, după un curs care i-a schimbat direcția profesională. La acel moment, AI era un domeniu tehnic restrâns, folosit mai degrabă în medicină, apărare sau meteorologie.

„La momentul acela era o variantă de tehnologie până la urmă, care într-adevăr își propunea să reproducă sau să simuleze modul de gândire uman, dar era mult mai nișat și vorbeam despre aplicații în domenii foarte bine stabilite. Erau mult mai limitate orizonturile la acel moment”, a spus Alexandra Cernian în cadrul podcastului start-up.ro.

Astăzi, tabloul este complet diferit. AI-ul generativ a mutat tehnologia din laboratoare în buzunarele oamenilor.

„Nu cred că aproape nimeni din domeniu a anticipat viteza cu care s-au întâmplat lucrurile. La momentul acela cu siguranță nu anticipam că o să fie așa o explozie de inteligență artificială cum este acum, că va deveni un fel un instrument accesibil oricui și că vom ajunge să discutăm într-un context atât de larg despre inteligența artificială. În doar câteva luni au apărut competitori noi, modele noi, o cursă globală pentru performanță și control. Practic, asistăm la o competiție de putere în jurul AI.”

Dacă tehnologia a avansat rapid, instituțiile au rămas în urmă. Sistemul educațional, cadrul juridic și nivelul general de alfabetizare digitală nu au ținut pasul cu schimbarea, și nu doar România a avut acest decalaj.

Însă, în România, problema este și mai vizibilă pentru că deja pornea cu întârzieri în zona competențelor digitale, iar explozia AI nu a făcut decât să mărească această „distanță”.

„Tehnologia ne-a luat-o înainte. A accelerat mai repede decât pregătirea noastră. Nici sistemul educațional, nici cel juridic nu erau pregătite. Dacă ne uităm la România, eram deja la coada clasamentelor europene la educație digitală, iar boom-ul inteligenței artificiale a amplificat problemele existente.”

Alexandra a adăugat că în prezent, această inteligență artificială „lucrează” într-o zonă „gri”.

„Societatea nu a fost pregătită pentru pentru așa ceva. Nici sistemul educațional, nici sistemul juridic, pentru că acum, în continuare, tot ce se întâmplă cu inteligența artificială operează într-o zonă oarecum gri din punct de vedere al reglementărilor. Iar din punct de vedere al educației digitale încercăm să punem cap la cap cum să educăm publicul în în ceea ce privește tehnologia asta.”

Unul dintre cele mai mari riscuri este antropomorfizarea modelelor AI, consideră Alexandra. Pentru că oamenii tind să creadă că aceste sisteme înțeleg intenții, au logică proprie sau judecată morală.

În realitate, funcționarea lor este statistică, nu umană.

„Noi spunem că înțelege, că raționează, că contextualizează. Dar în spate vorbim despre procesări matematice extrem de complexe, bazate pe volume uriașe de date și miliarde de parametri. Faptul că răspunsurile sunt convingătoare nu înseamnă că există conștiință, intenție sau discernământ în sens uman.”

Alexandra a explicat că în spatele chatboților AI care par convingători și care ne răspund la întrebări oricât de complexe ar fi acestea, stau de fapt calcule matematice foarte complexe.

„Aș invita pe toți să-și imagineze ca un prieten care a citit extrem, extrem de multe lucruri, toată bibliografia posibilă din univers și care acum, în momentul în care i se adresează o întrebare, nu doar că le caută un răspuns pe care să-l reproducă, ci recompune un răspuns din toată informația pe care o are. Și aici vine, practic, până la urmă, capacitatea inteligenței artificiale, așa cum o percepe toată lumea, că el construiește un conținut nou. Acest conținut nou pentru el este tot o procesare matematică foarte avansată, deși noi îl umanizăm.”

Practic, chatboții se bazează pe prelucrări statistice foarte complexe, avansate - de ordinul miliardelor de seturi de date, miliardelor de parametri pe care îi folosește, astfel încât ajunge să dea impresia că ei chiar au raționamente foarte umane în spate, a explicat Alexandra Cernian.

Alexandra folosește zilnic AI pentru structurarea ideilor, documentare sau schițe de conținut.

„Folosesc AI în fiecare zi, îl folosesc să mă ajute să-mi structurezi idei. Îl folosesc să-mi fac documentarea pentru materialele de curs, pentru generare de conținut, inclusiv pentru postări și conținutul de tipul ăsta de social media. Și simt că mă ajută foarte mult în ideea că-mi aduce mult mai repede informația.”

Dar vine și cu avertismentul că modelele pot „halucina” informații false, prezentate impecabil. Ea a povestit că a cerut unei platforme AI o listă de articole științifice relevante pentru un material academic. A primit zece titluri perfect structurate, cu autori, reviste și rezumate. Problema? Niciunul nu exista.

„Arăta impecabil. Era exact genul de muncă pentru care ai consuma o săptămână. Dar când am început să verific primul titlu, nu exista. Nici al doilea. Nici până la al zecelea. Atunci înțelegi foarte clar că AI te poate ajuta enorm, dar nu poate deveni sursa finală de adevăr.”

Alexandra a explicat că limita clară pentru inteligența artificială apare în momentul în care tehnologia începe să substituie discernământul uman.

„M-aș orienta foarte mult către ideea de transparență, ceea ce se și face, până la urmă, prin AI Act. Se impun aceste limite legate de transparență, astfel încât oamenii să înțeleagă când vorbesc cu un chatbot și când interacționează cu un om, pentru că este important să nu confundăm lucrurile. Trebuie să știm când vorbim cu o persoană reală și când vorbim cu un robot. În funcție de asta, cred că ne setăm și noi niște granițe mentale legate de încredere și de autoritatea interlocutorului.”

Alexandra atrage atenția că inteligența artificială nu poate fi mai corectă decât datele pe care este construită. Dacă modelele sunt antrenate pe informații incomplete sau eronate, atunci vor reproduce aceleași probleme în deciziile pe care le iau. De aici apare și unul dintre cele mai sensibile riscuri, precum automatizarea discriminării, inclusiv în procese precum recrutarea.

„Dacă aceste modele sunt antrenate pe niște date incomplete, incorecte sau care conțin bias-uri, orice sistem care va folosi modelul respectiv va fi, la rândul lui, incomplet, incorect și plin de bias-uri. Și atunci ne trezim că trimitem CV-ul la o companie de recrutare și el este automat respins. Asta se poate întâmpla, de exemplu, dacă modelul a fost antrenat pe date provenite din companii unde erau angajați preponderent bărbați. El învață că acela este modelul de succes. De aceea este important ca, atunci când vorbim despre reglementare și utilizare etică a acestor sisteme, să păstrăm întotdeauna omul în mijlocul deciziei. Doar atunci putem vorbi despre un AI cu adevărat sustenabil. Acesta este și mesajul principal din AI Act: «human in the loop», adică omul să rămână mereu în centrul deciziei.”

Întrebată despre piața muncii, Alexandra a spus că primele roluri afectate de AI sunt cele repetitive și de nivel entry-level: raportare, procesare de date, task-uri standardizate sau activități de execuție.

În IT, marketing sau content, multe dintre atribuțiile de început de carieră sunt deja automatizabile.

„Vom fi în situația în care, în loc să ai o echipă de zece juniori, vei avea zece agenți AI coordonați de un senior. Problema reală apare peste câțiva ani dacă nu mai formezi juniori acum, de unde vor veni seniorii de mâine?”

La Politehnica București studenții resimt deja schimbarea prin acces mai dificil la internship-uri și joburi entry-level, a adăugat Alexandra.

„Studențiilor deja le este mai greu decât acum câțiva ani să-și găsească un job sau chiar internship-uri. Companiile spun „da, dar noi nu mai avem la fel de multă nevoie ca acum 4 ani de serviciile pe care le pot oferi ei” și probabil va fi o transformare și din punct de vedere al felului în care îi educăm și a așteptărilor pe care să le aibă pe piața muncii.”

În fața automatizării, Alexandra recomandă tinerilor complementaritatea cu AI. Empatia, creativitatea autentică, gândirea critică, rezolvarea de probleme complexe și înțelegerea sistemică sunt zone unde oamenii își vor păstra în continuare avantajul.

„Îi încurajez pe studenți să-și dezvolte exact acele skill-uri complementare AI-ului, nu pe cele pe care AI le poate replica ușor. Contează creativitatea reală, raționamentele complexe, capacitatea de a înțelege sisteme care trebuie să funcționeze împreună, nu doar task-uri mici și repetitive.”

În ecosistemul startup-urilor, Alexandra consideră că a existat o perioadă în care simpla asociere cu inteligența artificială creștea șansele la finanțare.

Mulți fondatori foloseau termenul mai degrabă ca element de marketing decât ca tehnologie reală.

„A fost o perioadă în care dacă spuneai că startup-ul tău e AI-based, investitorii deveneau instant interesați. Uneori fără să mai întrebe exact ce înseamnă AI în produsul respectiv. Între timp, piața s-a maturizat. Due diligence-ul e mai serios, iar investitorii cheamă specialiști care pot verifica dacă AI-ul promis chiar există.”

Totuși, AI a redus dramatic timpul de execuție. Astăzi, un fondator poate transforma rapid o idee într-un MVP vizual, interfețe funcționale sau prototipuri prezentabile investitorilor.

„Cred că acum AI a accelerat pe parte de dezvoltare. Dacă ne gândim la aplicații, cred că e accelerată utilizarea în privința generării de cod, generării de interfețe, îi ajută să își creeze mai ușor un plan.”

Și aici tot echipa rămâne o componentă cheie la care investitorii se uită bine înainte să ia decizia de finanțare, chiar dacă startup-ul folosește sau integrează AI-ul.

„Criteriul prioritar este echipa. Acolo trebuie să se regăsească niște calități umane în primul rând care să dea încredere că vor concretiza ideea respectivă. Sunt convinsă că asta se păstrează, pentru că este reperul principal pe care îl vezi și la cele mai mari VC-uri din lume, echipa e unul din elementele cheie.”

Pentru Alexandra Cernian, motivația de a rămâne în zona inteligenței artificiale vine din combinația dintre pasiunea inițială și ritmul amețitor în care evoluează domeniul.

„Pasiunea pe care am avut-o de la început m-a ținut aproape de domeniu, iar acum dinamica pe care o are nici nu te mai lasă să dormi. Nu ai cum să te plictisești în zona asta, pentru că mereu se întâmplă ceva nou, apar lucruri fascinante și totul evoluează într-un ritm incredibil.”

Și dincolo de controverse, Alexandra vede și potențialul real al tehnologiei de a rezolva probleme majore în următorul deceniu, mai ales în sănătate.

„Este interesant atât din interior, din perspectivă tehnologică, să vezi cum se construiesc aceste sisteme, cât și la scară largă, prin transformările sociale și umane pe care le aduce inteligența artificială. Dacă ne uităm la scenariul optimist, putem să ne imaginăm că peste 10 ani AI-ul va contribui la rezolvarea unor boli rare care astăzi nu au tratament și că vom vorbi tot mai mult despre medicină personalizată.”

În final, ea nu este anti-AI. Dimpotrivă, folosește tehnologia zilnic și vede beneficiile ei în sănătate, productivitate, cercetare și business. Dar avertizează că entuziasmul fără gândire critică poate deveni periculos.

„Echilibrul e cuvântul-cheie. Să rămânem activi intelectual și să nu delegăm orbește către inteligența artificială deciziile importante. Dacă facem asta, riscăm să amplificăm exact problemele pe care spunem că vrem să le rezolvăm.”