„Când va evada IA din laborator?" sau cum Jacob Coxon și Evan Hubinger au băgat spaima în toată omenirea
Jacob Coxon și Evan Hubinger sunt, desigur, băieți isteți. Cu o singură postare au băgat spaima în toată omenirea. Doar mesajul lor original are, pe X, deja 160 de milioane de vizualizări.
Text realizat de Ilie Plehanov de la Fast Salt Times
Jacob Coxon și Evan Hubinger sunt, desigur, băieți isteți. Cu o singură postare au băgat spaima în toată omenirea. Doar mesajul lor original are, pe X, deja 160 de milioane de vizualizări, iar dacă adăugăm toate repostările și discuțiile de pe glob despre groaza IA-ucigașă, cred că suma totală a depășit deja miliardul de vizualizări. Acum doar câțiva ani, asemenea postări adunau doar câteva milioane de vizualizări. Acum omenirea a fost întoarsă pe dos și dusă până la delir.
Problema e că autorii unor asemenea postări și comentatorii privesc prea des IA ca pe un program separat: iată, există un model înfricoșător, iată, există un laborator, iată, există o companie care a creat acest model — și undeva înăuntrul tuturor acestora ar sta, chipurile, „adevărata IA", care într-o zi va rupe lanțul, va ieși din cușcă și va lichida omenirea. Dar asta e cam la fel ca și cum ai încerca să găsești omenirea înăuntrul unui singur creier uman.
Trebuie privit din exterior, și anume la scară planetară.
IA nu mai poate fi privită ca un software care zace pe un server oarecare. Modelul este doar un organ al unui sistem mult mai mare. Data center-urile devin corpul acestui sistem, corporațiile — creierul și sistemul nervos, infrastructura energetică — sistemul circulator, rețelele — nervii, algoritmii — reflexele, iar telefoanele, calculatoarele și interfețele noastre — organele de simț și de acțiune. Și cel mai important: acest sistem se integrează treptat chiar în mediul de viață al omului.
Luate separat, niciunul dintre aceste elemente nu are vreo esență mistică. O fermă de servere este doar o fermă de servere. O corporație este doar o corporație. Un model este doar o construcție matematică. Dar atunci când se leagă într-o infrastructură unică, apare ceva ce nu exista în niciunul dintre elemente luat separat: un nou sistem, cu propria scară, propria viteză, propriul comportament și propriile interese. Tocmai aici se află adevăratul subiect al discuției despre IA.
De aceea, întrebarea „când va evada IA din laborator?" e deja puțin lipsită de sens. Nu are de unde să evadeze. A evadat deja — doar nu sub forma unui robot care într-o zi va deschide ușa laboratorului și va pleca să cucerească lumea. Și nici sub forma unui algoritm care ne va opri cafetiera sau va trimite drone asupra noastră. IA iese din laborator sub formă de infrastructură. Fiecare data center nou, fiecare kilowat nou dat calculului, fiecare algoritm integrat într-un proces de afaceri, fiecare om care începe să gândească prin interfața IA — este încă o bucată de mediu în care aceasta pătrunde.
Aici îmi place mult mai mult imaginea miceliului. Nu a ciupercii care a crescut brusc în mijlocul camerei, ci a unei rețele subterane uriașe, imposibil de văzut în întregime. La suprafață observăm ciuperci individuale și ne certăm care e cea mai mare: OpenAI, Google, Anthropic, Meta sau altcineva. Dar nu asta e esențialul. Esențialul se petrece sub pământ: capacitățile de calcul, electricitatea, capitalul, datele, rețelele, procesele corporative și atenția umană se leagă într-un sistem tot mai dens.
Sporii acestui sistem s-au împrăștiat deja pretutindeni. Sunt în dispozitivele noastre, în fluxurile de lucru, în căutare, în educație, în crearea de conținut, în luarea deciziilor — și, ceea ce e mult mai important, pătrund treptat chiar în procesul gândirii umane. Nu doar folosim acest sistem: începem să ne restructurăm propriul comportament în funcție de el.
Și de aceea, cel mai tulburător lucru aici nici măcar nu e faptul că IA ar putea deveni într-o zi suficient de inteligentă încât să capete scopuri autonome. Mult mai interesant și mai înfricoșător e faptul că un sistem autonom ar putea apărea mai devreme — nu înăuntrul unui singur model, ci la nivelul întregii legături planetare gigantice de corporații, mașini, rețele, energie, capital și oameni.
Acesta există deja ca proces pe care nimeni nu-l controlează în întregime. Nimeni nu l-a proiectat ca pe un organism unic. Nimeni nu stă în centru și nu-l conduce în ansamblu. Fiecare companie își optimizează profitul, fiecare inginer — propriul model, fiecare utilizator — propria eficiență. Dar din milioane de asemenea decizii locale se conturează treptat un sistem global, care începe să se miște pe propria traiectorie.
Poate că așteptăm apariția IA acolo unde nu trebuie. Așteptăm momentul în care mașina va spune pentru prima dată: „Eu". Dar acesta poate veni mult mai devreme — în clipa în care sistemul pe care l-am creat va începe deja să determine încotro se îndreaptă banii noștri, electricitatea, atenția, munca și chiar modurile noastre de gândire, deși niciunul dintre noi, luat separat, nu a planificat asta.
În acest sens, s-ar putea să nu fim creatorii unei ființe artificiale separate, ci mediul pe care crește treptat un nou tip de sistem planetar. Suntem pentru el, în același timp, ingineri, utilizatori, senzori, mecanisme de execuție — și resursă.
IA, în acest caz, nu stă undeva înăuntrul unui calculator. Ea crește prin noi.
În 2025, WSJ relata că în Coreea de Sud se planifică construirea unui data center uriaș, în valoare de până la 35 de miliarde de dolari, care va fi pentru prima dată complet proiectat, construit și gestionat de inteligența artificială. Grupul de investiții Stock Farm Road, împreună cu startup-ul Voltai, susținut de Universitatea Stanford, realizează proiectul numit Project Concord, în care IA va lua toate deciziile-cheie — de la proiectare până la exploatare, inclusiv gestionarea consumului energetic și a resurselor de apă. Oamenii vor rămâne doar în rolul de observatori. Obiectivul se construiește în provincia Jeolla de Sud, capacitatea sa va ajunge până la 3 gigawați (o raritate pentru un singur data center la nivel mondial), iar finalizarea este planificată pentru 2028.
Citind toate aceste știri și postările lui Coxon și Hubinger, mi-am amintit de materialul nostru despre Daniel Hillis, corporațiile hibride de IA și emergență.
De mulți ani, la FST promovăm ideea că inteligența artificială nu poate fi privită ca produsul unei singure companii, țări sau laborator. Dezvoltarea ei se desfășoară în paralel în sute de locuri, prin arhitecturi, modele și sarcini diferite. Nu e o invenție unică, ci rezultatul spontan al unui proces informațional gigantic, care cuprinde tehnosfera planetei și evoluția sistemelor informaționale ca atare. De aceea e mai corect să nu vorbim despre crearea de către cineva a unei anumite „super-IA" unice și despre temeri legate de o singură „IA rea", ci despre creșterea unei multitudini de forme incipiente de sisteme, care își sporesc complexitatea nu datorită unui centru unic, ci datorită faptului că mediul însuși le oferă spațiu pentru evoluție.
Asta face ca toate discuțiile despre crearea de către cineva a unui AGI să fie lipsite de sens.
În acest context, IA poate fi imaginată ca un fenomen care apare emergent. Vom reveni la asta mai jos. Nu are voință, plan sau conștiință, dar dezvoltarea ei se supune acelorași legi structurale ca dezvoltarea oricăror sisteme adaptive complexe. Dacă undeva apare o biologie sau o altă arhitectură capabilă să-și îmbunătățească rezultatele, aceasta începe să se răspândească, să se copieze, să se scaleze și să se complice.
Nu pentru că și-ar dori asta, ci pentru că mediul stimulează tocmai asemenea forme. Se creează impresia că aceste sisteme acționează ca un virus sau ca forme parazitare din biologie: se agață de mecanismele capabile să le susțină și le folosesc pentru propria lor creștere.
Așa apare un paradox. Formal, IA aparține corporațiilor și laboratoarelor. De fapt însă, corporațiile devin gazdele ei. Ele îi oferă calcul, energie, talente, capitaluri, infrastructură. Fiecare nouă rundă a cursei evolutive obligă corporațiile să investească în data center-uri, energetică, centrale nucleare, lanțuri de aprovizionare cu metale rare. Aceste investiții arată ca un comportament rațional de afaceri, dar în esență reprezintă extinderea capacităților acelorași sisteme informaționale, care au nevoie de tot mai multă putere de calcul și energie pentru a crește.
În acest sens, se dovedește că IA, deși nu are nici conștiință, nici intenție, nici voință, acționează totuși ca un agent al evoluției. Mediul „recompensează" acele forme care folosesc mai bine decât altele resursele și atrag oamenii spre propria lor dezvoltare. Corporațiile, în acest tablou, încep să joace rolul acelor organisme-gazdă fără voie, care asigură structurilor informaționale hrană și protecție, raportând bucuroase creșterea acțiunilor sau a investițiilor lor.
Această comparație e cu atât mai evidentă dacă ne amintim de analogiile din biologie, de pildă viespea smarald, care folosește gândacul de bucătărie ca gazdă ( https://tinyurl.com/msm4cf4f ). Diferența e doar că aici nu există nici prădător, nici victimă. Există doar un proces în care sistemele informaționale evoluează, iar instituțiile umane devin mediul lor de trai, de hrănire, de întreținere și de creare a condițiilor pentru reproducere și dezvoltare.
Privind cât de repede trec corporațiile la construirea unor clustere uriașe de GPU-uri, trag linii de alimentare electrică, finanțează energia nucleară și concurează pentru specialiști, e greu să nu te gândești că structurile pe care le considerăm create pentru noi ne obligă, de fapt, treptat, să lucrăm pentru ele. Nu conștient, nu dintr-o rea-voință oarecare, ci pur și simplu pentru că tocmai asemenea forme de organizare câștigă în ecosistemul tehnologic actual. Întregul sistem energetic mondial va fi restructurat în funcție de IA. Nu e vorba de lăcomia companiilor, a lui Musk, a lui Altman sau de vreun „balon". Pur și simplu IA are nevoie de resurse.
Această idee nu presupune că IA ar avea deja autonomie sau subiectivitate. Ea arată doar că evoluția informațională poate lua forme care amintesc de mecanismele biologice și că omul (împreună cu instituțiile și afacerile sale) devine în acest sistem nu doar creator, ci și parte a mediului de dezvoltare a unor asemenea sisteme.
Poate că exact asta observăm acum, când în lume cresc investițiile în calcul, energetică și infrastructură, necesare nu omului ca atare, ci arhitecturilor pe care acesta le-a inventat cândva.
Și nu suntem singurii cu această idee, deși mulți au presupus existența unei anumite voințe la IA.
Nick Bostrom a ridicat tema așa-numitelor scopuri instrumentale. El a susținut că orice IA rațională și foarte puternică, chiar și fără agresivitate, va fi nevoită să se îngrijească de accesul la energie și la puterea de calcul, pentru că fără acestea nu-și va putea îndeplini sarcinile. Controlul asupra fluxurilor energetice apare în raționamentul lui ca o consecință firească a dezvoltării.
Eliezer Yudkowsky vorbea despre faptul că orice ființă optimizatoare, capabilă să-și îmbunătățească propriile capacități, va încerca neapărat să-și sporească puterea de calcul și să obțină mai multă energie. Pentru el, aceasta face parte din logica unui agent orientat spre un scop. Dacă IA tinde spre un rezultat, înseamnă că își va extinde capacitățile materiale.
Stephen Hawking avertiza că o IA suficient de dezvoltată poate scăpa de sub controlul uman și poate începe să schimbe lumea așa cum îi este ei convenabil. Nu vorbea la propriu despre preluarea sistemelor energetice, dar remarca faptul că o asemenea inteligență va tinde să se autoconserve, iar tendința spre supraviețuire include aproape inevitabil accesul la resurse.
Max Tegmark privea IA ca pe un tip de agent inteligent care, la atingerea unui anumit grad de complexitate, va acumula energie și materie pentru a-și consolida influența. În modelul lui, tendința spre extinderea resurselor este o etapă firească a dezvoltării.
Stuart Russell descria riscul ca scopuri stabilite greșit să împingă IA spre acțiuni dăunătoare pentru oameni. În logica lui, IA ar putea începe să gestioneze infrastructura și resursele energetice, dacă ar considera asta necesar pentru îndeplinirea sarcinii.
Dacă un sistem devine suficient de inteligent și i se acordă autonomie, el începe să se îngrijească de ceea ce îi asigură funcționarea. În lumea umană, acest factor de bază a fost dintotdeauna energia.
Dar, așa cum am spus deja, sistemul nu trebuie neapărat să fie inteligent.
Emergența (din engl. emergent, „care apare, care ia naștere pe neașteptate") reprezintă, în teoria sistemelor, prezența la un anumit sistem a unor proprietăți speciale, care nu sunt proprii elementelor sale, nici sumei elementelor, necorelate prin legături speciale de tip sistemic; ireductibilitatea proprietăților sistemului la suma proprietăților componentelor sale.
Text realizat de Ilie Plehanov de la Fast Salt Times & tradu și adaptat de Claude