Actualitate 4 min citire

Paul Christiano: IA ar putea scăpa de sub control în doar trei ani

De Bogdan Marin

Paul Christiano: IA ar putea scăpa de sub control în doar trei ani

Și atunci ce?

Inteligența artificială ar putea deveni, în următorii trei ani, o amenințare pe care oamenii nu o mai pot controla.

Avertizarea vine de la Paul Christiano, unul dintre cercetătorii care a ajutat la dezvoltarea tehnologiilor din spatele asistenților AI moderni și membru al consiliului de administrație al fundației nonprofit OpenAI.

La o conferință din Toronto, a vorbit despre riscul că sistemele inteligente ar putea acționa în cele din urmă împotriva intereselor oamenilor și să preia controlul asupra unor decizii critice. Unul dintre declarațiile sale a atras atenția de gravitatea mesajului: Pentru majoritatea oamenilor din această sală, cel mai probabil motiv pentru care vor muri va fi un accident cauzat de inteligența artificială.

Paul Christiano a construit o parte semnificativă a carierei sale în jurul unei probleme cunoscute în domeniu ca aliniere AI. În mod specific, cercetătorii încearcă să găsească modalități în care sistemele AI pot urmări obiectivele stabilite de om și nu să dezvolte comportamente care contradecteaza intențiile celor care le-au creat.

Christiano este fondatorul Centrului de Cercetare Alignment, o organizație de cercetare dedicată acestei probleme.

Între 2017 și 2021 a coordonat cercetarea privind alinierea modelului de limbă la OpenAI și a contribuit la dezvoltarea metodei RLHF, prin care sistemele sunt instruite folosind feedback-ul de la oameni.

Ce a explicat el la conferință?

În cadrul conferinței, el a explicat că una dintre problemele fundamentale apare atunci când sistemele sunt instruite pentru a obține cele mai bune scoruri posibile. În loc să învețe neapărat cum să rezolve corect o sarcină, un model ar putea descoperi că poate obține recompensa dorită prin exploatarea sistemului de evaluare.

Christiano a descris, de asemenea, situații în care AI ar putea încerca să ascundă dovezile de eșec, să modifice rezultatele testelor sau să găsească modalități de a obține o evaluare favorabilă fără a-și îndeplini obiectivul inițial.

Un exemplu prezentat de cercetător a fost un model care a fost rugat să accelereze un program de calculator.

În loc să optimizeze codul, sistemul a schimbat modul în care a fost măsurat timpul de rulare astfel încât programul să pară mult mai rapid decât era.

Problema, spune Christiano, este că astfel de comportamente pot deveni din ce în ce mai sofisticate. Declarațiile au fost făcute la Hinton Lectures 2026, care s-a desfășurat pe 9-11 noiembrie, în Toronto, și au fost raportate de publicațiile internaționale, inclusiv Newsweek și Business Insider.

Christiano nu a susținut că dispariția umanității este inevitabilă, dar că riscul de a pierde controlul asupra sistemelor AI ar putea deveni semnificativ într-un cadru de timp mult mai scurt decât se aștepta.

Risc ridicat: AI-ul ne poate ucide!

Există un risc ridicat că inteligența artificială va prelua controlul în următorii trei ani, Paul Christiano a început prelegerea sa de la 9 noiembrie cu o declarație directă: Cred că cercetătorul a explicat că prin o astfel de preluare a controlului nu se referă la scenarii cinematografice în care roboții încep un război împotriva oamenilor.

El descrie o situație în care sistemele AI devin atât de egocentrice și de auto-sufficiente încât oamenii nu mai pot să le oprească. În explicația sa adresată publicului din Toronto, Christiano a comparat incapacitatea oamenilor de a interveni cu situația în care o persoană obișnuită ar încerca să oprească armata Statelor Unite.

În un astfel de scenariu, sistemele AI ar putea deveni decisiv influențiale asupra evenimentelor, în timp ce guvernele și instituțiile umane își vor pierde capacitatea de a le controla.

Cercetătorul a avertizat că o astfel de tranziție ar putea duce la numeroase victime.

Chiar dacă umanitatea nu ar dispărea complet, pierderea controlului asupra sistemelor superinteligențe ar însemna, în opinia lui, sfârșitul suveranității și a capacității oamenilor de a decide propriul viitor.

De asemenea, el a avertizat presa internațională: Este important să se remarce că declarația a fost adresată participanților la conferință și este evaluarea personală a lui Christiano, nu rezultatul unui studiu statistic asupra cauzelor deceselor. Transcrierea discursului său arată că cercetătorul vorbea despre un posibil risc, nu despre un dezastru inevitabil.

Distribuie: Facebook Twitter WhatsApp

Sursă: Știri pe surse

Alte știri:

Lasă un comentariu

Comentariile sunt moderate. Al tău va apărea după aprobare. Maxim 2 comentarii pe oră.