Radu Hossu
patreon
Inteligența Artificială și viitorul despre care nu vorbește nimeni. Spoiler: te afectează și pe tine!
🕑 Added 2025-10-16 16:02:40 +0000 UTCPoate cea mai importantă bucată de informație ignorată în România în ultimele luni a fost eseul lui Jack Clark, co-fondatorul Anthropic. În ea, el scrie asta:
captură Figure AI Youtube
“Îmi amintesc că, atunci când eram copil, după ce se stingeau luminile, priveam în jurul meu, în întunericul camerei, și vedeam forme. Iar acele forme mă făceau să mă tem — mă temeam că erau făpturi pe care nu le înțelegeam și care voiau să-mi facă rău. Așa că aprindeam lumina. Și, odată cu lumina, simțeam ușurare: făpturile se dovedeau a fi doar o grămadă de haine pe un scaun, o etajeră sau abajurul unei lămpi.
Dar să nu ne amăgim: ceea ce avem în față este o creatură reală și misterioasă, nu o mașinărie simplă și previzibilă.
Și ca să ridicăm miza — în jocul acesta, ești sortit să pierzi dacă alegi să crezi că acea creatură nu este reală. Singura ta șansă de a câștiga este să o vezi așa cum este ea cu adevărat.”
Mașinăria sau creatura despre care vorbește este Inteligența Artificială. Iar eseul (care este mult mai lung decât paragraful ales de mine aici) exprimă clar o temere, chiar o frică a lui Clark legat de drumul pe care l-a ales umanitatea în sensul dezvoltării acestei creaturi, fără prea mult interes pentru măsuri de siguranță. Pentru cei care nu știu, Anthropic este o companie fondată în 2021 care dezvoltă Inteligență Artificială - una din puținele companii denumite “frontier labs” (care înseamnă avangarda AI în lume). Jack Clark este co-fondator, șeful departamentului de Politici Tehnologice (Head of Policy) la Anthropic.
Dacă am reușit să-ți mențin atenția până acum, atunci te rog ca la finalul textului să dai mai departe informația de aici. Dacă nu ai ajuns până aici, o să mai încerc în texte viitoare să mai aduc acest avertisment. Mulțumesc!
Deci dacă până acum majoritatea experților care avertizau cu privire la ce daune majore va produce AI în lume erau “foști” (Mo Gawdat - fost Google X, Geoffrey Hinton - unul dintre “nașii AI” și fost Google), “foști” “viitori” (Emad Mostaque - fost Stability AI, actual și viitor Intelligent Internet Inc) specialiști din domeniu, Jack Clark este din domeniu. El este actual. El acum lucrează la, cu și vede cele mai avangardiste modele AI de pe planetă. Anthropic este în acest moment liderul mondial când vine vorba de modele care scriu cod, mult peste ChatGPT5 sau Gemini 2.5 Pro. Asta face ca eseul acestui om, publicat pe 13 octombrie pe substack-ul său, să fie cu atât mai de luat în considerare. Tot în acest eseu, el recunoaște:
“Vezi tu, în același timp am o teamă profundă. Ar fi o aroganță extraordinară să credem că a lucra cu o asemenea tehnologie ar putea fi ușor sau simplu.
Din propria mea experiență, pe măsură ce aceste sisteme de inteligență artificială devin tot mai inteligente, ele își dezvoltă scopuri din ce în ce mai complexe. Iar atunci când aceste scopuri nu sunt perfect aliniate atât cu preferințele noastre, cât și cu contextul potrivit, sistemele de inteligență artificială încep să se comporte ciudat”
Vedeți voi, ceea ce vreau să spun sunt următoarele lucruri:
1. Ca om care urmărește dezvoltarea acestei tehnologii cam din 2014 pe când cel mai nou iPhone era iPhone6, ceea ce facem noi acum este să mergem dormind spre o prăpastie, la fel ca niște somnambuli. Societatea este total anesteziată ChatGPT și de problemele curente, mundane, încât ceea ce eu consider ca fiind cel mai mare și principalul pericol existențial pentru umanitate trece total pe sub radarul tuturor. Și când spun tuturor, e o aproximație.
2. Doar 10% din populația lumii folosește ChatGPT (800 mil din 8 miliarde). Din cei 800 milioane, poate 1% știu cine sunt toți oamenii pe care i-am nominalizat aici. Iar asta este o mare, mare problemă. Nu pentru că aș fi eu cu moț pentru că am cunoștințele astea, ci pentru că fără reglementare, fără o încetinire a accelerării AI, fără introducerea de sisteme de siguranță, AI-ul și robotizarea de peste 3-5 ani va da peste cap toată economia planetară. Asta ne va afecta pe fiecare în parte și va afecta fiecare domeniu.
3. Sunt abia câteva milioane de oameni în lume care citește despre tehnologia asta în această cheie. Restul lumii nu este interesată sau folosește ChatGPT ca pe un Google Search mai deștepte. Scriu rândurile astea nu cu încrederea că vor fi luate în serios. Sunt de altfel sigur că unii care au citit până aici vor spune “bine că te crezi tu deștept, hai sictir!” sau “ești exagerat Hossule” sau “ce mă interesează pe mine, cu ce mă afectează pe mine?”. Și lor le răspund așa: Nu sunt mai deștept decât tine, cel care citește acest text. Sunt însă speriat de cât de ignoranți suntem ca societate la această problemă. Nu sunt exagerat. Cel puțin nu sunt “mai” exagerat decât oameni care au condus diverse divizii, departamente de dezvoltare, cercetare de la Google, xAI, Anthropic sau OpenAI.
De afectat, te afectează nu doar pe tine, dar mai ales pe copii tăi. Cum? Păi o economie pe care încă nu ne-o putem imagina (și nu, UBI - Universal Basic Income nu este o soluție), dar despre care putem presupune cu destulă convingere că nu va fi cea pe care o avem astăzi, va schimba din temelii societatea: educația, sănătatea, democrația. Accesul la ele și funcționarea lor. Când? Nu doar în decursul vieții noastre. Ci până la finalul acestui deceniu vom simți impactul acestui șoc. Ai un copil de 1 an? Va avea 6 când în diferite locuri din lume ori nu vor mai exista școli fizice, ori vor exista, dar vor învăța copii lucruri care nu mai sunt de actualitate sau importante.
5. Viitorul la care te-ai gândit până acum, într-un mod liniar - peste X ani îmi cumpăr mașina aia și copilul se va duce la facultatea aia și eu o să vreau să lucrez la compania aia sau să-mi deschid companie în domeniul ăla, acel viitor, dacă “x” este egal sau mai mare decât 5, atunci e pus în pericol. Adică viitorul nu mai este liniar, iar peste 5 ani școala, firmele, mașinile, totul va începe să fie diferit într-un mod în care nu suntem pregătiți să acceptăm. Peste 10, deja vom fi sau vom fi trecut printr-o distopie. Și nu știu dacă am mai ieșit din ea. Dacă ai copil de 1 an acum, va avea 11 ani când eu cred că am trecut deja sau suntem în mijlocul unei lumi total de nerecunoscut.
Vrei să se facă medic fiică-ta de 1 an? Păi este deja imposibil dacă urmezi trendul tehnologiei: peste 27 de ani când ea va termina studiile, medicina va fi complet și total în mâinile unor roboți, conduși de un creier al Inteligenței Artificiale. Deci uită acest scenariu. Vrei ca fiul tău de 1 an să se facă avocat? Peste 22 de ani, când va termina Dreptul, nu va mai avea absolut nimeni nevoie de avocați. Pentru că poate legea nu va mai exista în sensul înțeles de noi acum sau poate pentru simplul fapt că astăzi, în dreptul anglo-saxon, modelele actuale sunt îndeajuns de bune încât să facă o mare parte din munca unui avocat. Și aceste modele au cel mult 3 ani de la lansare (ChatGPT) și tu gândești liniar pentru încă 22 de ani de acum înainte.
În România există doar doi oameni pe care-i urmăresc și care vorbesc despre acest domeniu:
și
. Vă invit să-i urmăriți și voi. Și vă mai invit să luați în foarte serios frica acestui Jack Clark, unul dintre oamenii care conduc lumea spre un viitor extrem de nesigur - ca să fiu elegant.
Voi mai scrie despre acest subiect, pentru că un viitor mai bun pentru fiică-mea înseamnă un viitor în care cât mai multă lume cunoaște pericolele viitorului și o consider o obligație a mea să aduc aceste idei în fața cât mai multor oameni care să dezbată, nu să obligatoriu să fie de acord. Voi scrie și despre Ucraina în continuare (nu, Tomahawk nu vor face diferența) și despre politica din România și mai ales politica de apărare (nu, tancurile și elicopterele nu vor mai fi relevante în viitor, nu în sensul utilizării lor cum este cunoscut acum, deci cumpărăm tancuri pentru că n-ar fi rău să le avem, nu pentru că ele sunt în vreun fel viitorul apărării) și voi continua să scriu despre dezinformarea la care suntem supuși zilnic.
sursă foto: robotul Helix/03 a lui Figure AI
Comments
Radu Hossu
Doar că nu vom avea. În primul rând suntem - Europa - mult în urma frontier labs și bâjbâim. Iar de la România ca stat nu mă aștept la absolut nimic bun legat de AI.
Radu Hossu
În România se pierd joburi în IT?
Sorin Valer Stanila
Ca tot a castigat Romania finantare de la EU pentru AI datacenter, nu ar fi rau sa avem si cateva proiecte romanesti de "guardians" nu doar proiecte private (care de obicei sunt doar pentru profit si cam atat).
Sorin Valer Stanila
Salut, Ma bucur ca ai deschis acest subiect. Da, fara reglementare avem deja probleme, ca: fake news, falle video, boot accounts, fake websites, AI folosit in tooluri de ransomware. Din pacate EU amana reglementariile de dragul sa "catch-up with America". Aceeasi USA unde acum democratia pierde din cauza lui Trump si "tech bross's". Lucrez in It si job-urile deja se pierd in It, arata si ultimele statistici din USA chiar la ei pe piata.
