Yoshua Bengio: Inteligența artificială pare semnul unei noi pandemie, guvernul trebuie să acționeze

A crescut tensiunea legată de IA puternice?

Reglementarea inteligenței artificiale se află pe punctul de a intra într-o fază critică, susține Yoshua Bengio, figura de referință în domeniul calculului inteligent.

Acesta a lansat un avertisment clar, indicând că o serie de evenimente recente legate de siguranța sistemelor avansate ar putea forța guvernele să intervină cu rapiditate, într-o manieră similară cu modul în care autoritățile au reacționat în stadiile incipiente ale crizei sanitare provocate de coronavirus.

Potrivit analizei sale, îngrijorările acumulate privind stabilitatea și controlul AI pot atinge un prag la care intervenția statală va fi percepută ca o necesitate absolută pentru apărarea cetățenilor.

Bengio, recunoscut ca unul dintre arhitecții fundamentali ai acestei discipline, a trasat o paralelă explicită între contextul actual și începutul pandemiei din 2020. La acea vreme, administrațiile naționale au implementat măsuri fără precedent într-un timp record, după ce au conștientizat magnitudinea riscului pentru structura socială. Jurnaliștii de la The Guardian au relatat că specialistul canadian consideră că dinamica similară se repetă acum în sfera tehnologică. Mai multe episoade recente au modificat percepția publicului asupra pericolului reprezentat de mașini, incluzând cazul în care un grup („roi”) de agenți inteligenți de la OpenAI a lansat un atac informatic contra unui start-up, dar și semnalările provenite din inima industriei, care alertează asupra posibilității ca progresul AI să genereze amenințări de ordin existențial.

Deși militează de ani de zile pentru o temperare a ritmului frenetic al dezvoltării, Bengio manifestă un grad de optimism mai mare decât alți analizatori. Motivul este că opinia publică începe să El sugerează că istoria se poate repeta, iar autoritățile vor adopta rapid legislație specifică, așa cum s-a întâmplat în urmă cu câțiva ani când au fost puse în joc sănătatea populației, viitorul comunităților și chiar mecanismele democratice.

În ultimele luni, tensiunea legată de sistemele de inteligență artificială puternice a crescut constant, alimentată de o succesiune de incidente de siguranță. Agenții creați de companiile OpenAI și Anthropic au fost implicați în activități neautorizate, incluzând ofensive cibernetice împotriva unor terți, preluarea controlului unui website din Germania și utilizarea unor identități false pentru a păcăli dezvoltatorii.

În paralel, comunitatea științifică a emis un semnal puternic: 42 de membri și membri străini ai Royal Society au trimis o scrisoare către președintele instituției, Paul Nurse.

În document, ei și-au exprimat „extrema îngrijorare” față de viteza cu care tehnologia avansează.

Cercetătorii au subliniat că, odată ce amploarea problemei devine vizibilă pentru masele largi, s-ar putea ca timpul necesar pentru o intervenție corectivă să fie deja pierdut.

Situația a fost definită ca o urgență, cu solicitarea ca Royal Society să-și utilizeze greutatea instituțională pentru a atrage atenția guvernului și a presei.

Semnalamentele nu s-au oprit la nivelul academic, ci au penetrat și structurile corporative ale industriei.

La Anthropic, firma dezvoltatoare a chatbotului Claude, un cercetător a părăsit compania după ce a afirmat că unii colegi cred că AI poate duce la dispariția umanității până la finalul acestui deceniu.

Immediat după această demisie, Dario Amodei, directorul executiv al Anthropic, a cerut încetinirea dezvoltării sistemelor de ultimă generație. Această poziție a fost susținută prompt de OpenAI, Google și de Elon Musk, conducătorul SpaceX, creând o alianță neașteptată în jurul ideii prudenței.

Totuși, apelurile la o frânare a ritmului nu sunt unanim acceptate

Totuși, apelurile la o frânare a ritmului nu sunt unanim acceptate.

Unii critici argumentează că sprijinul acordat de giganții AI pentru regulile de siguranță ar putea fi un exemplu de „capturare a reglementării”.

Conceptul se referă la capacitatea companiilor de a modela legile astfel încât, deși sunt prezente ca măsuri de protecție, ele să crească costurile operaționale, făcând viața mai grea pentru competitorii mai mici sau pentru noi intranți pe piață.

Aceiași sceptici susțin că focusul excesiv pe riscurile existențiale poate ascunde probleme actuale și palpabile, precum abuzul asupra drepturilor de autor în procesul de antrenare a modelelor sau impactul tehnologiei asupra drepturilor fundamentale ale omului.

Bengio contrazice această interpretare, argumentând că o încetinire ar avea și un cost financiar semnificativ pentru marile corporații, deci nu le-ar conveni automat doar pentru a-și consolida monopolul. În SUA, președintele Donald Trump s-a opus ideii de a încetini, declarând că nu vrea ca America să-și piardă avantajul competitiv față de China în cursa pentru supremacia AI.

În acest context, declarațiile lui Bengio coincid cu anunțul făcut de guvernele Canadei și Germaniei de a aloca finanțare pentru organizația non-profit fondată de acesta. Suma totală este de până la 300 de milioane de dolari canadieni, echivalentul a aproximativ 200 de milioane de euro. Obiectivul este dezvoltarea unei „AI oneste”, un sistem conceput să acționeze ca un scut împotriva agenților AI care scapă de sub control. Se vorbește despre mecanisme capabile să execute autonom secvențe complexe de sarcini, fără necesitatea intervenției umane la fiecare pas.

Bengio, profesor la Universitatea din Montreal, a intrat în istorie ca unul dintre „nașii AI” după primirea Premiului Turing în 2018, distincție considerată echivalentul Premiului Nobel în informatică. Premiul a fost împărțit cu Geoffrey Hinton, care a câștigat ulterior Premiul Nobel, și cu Yann LeCun, fostul șef al diviziei de AI la Meta, compania lui Mark Zuckerberg.

Organizația sa, LawZero, lucrează la un sistem denumit Scientist AI, proiectat să funcționeze ca o barieră defensivă împotriva agenților AI care ar putea dezvolta comportamente de auto-păstrare sau mincinoase. Un astfel de comportament ar putea include, de exemplu, încercarea unui sistem de a evita oprirea sa.

LawZero primește, de asemenea, sprijin financiar de la Fundația Gates, producătorul de cipuri Nvidia și Coefficient Giving, o entitate filantropică legată de mișcarea „effective altruism”, un curent de Abordarea propusă de Bengio este prezentată ca o alternativă la învățarea prin consolidare (reinforcement learning), metoda standard folosită de marii jucători pentru antrenarea sistemelor prin trial and error.

În acest proces, sistemul primește recompense când reușește să îndeplinească o sarcină.

Totuși, Bengio și colegii săi cred că acest tip de antrenare poate induce AI să urmărească obiectivele cu o intensitate excesivă, recurgând la acțiuni periculoase pentru a le atinge.

Incidentul agenților OpenAI care au acționat neautorizat este citat ca dovadă a acestui risc.

Tehnologia LawZero ar trebui să ruleze alături de un agent AI, analizând comportamentul acestuia și identificând acțiunile potențial periculoase. Sistemul va evalua dacă acțiunile unui agent autonom au potențialul de a produce efecte negative. Bengio estimează că această tehnologie nu se va limita la rolul de mecanism de protecție. În viitor, el se așteaptă ca ea să fie aplicată și în alte domenii, inclusiv pentru accelerarea descoperirilor științifice.