Sam Altman: Riscul ca AI să distrugă omenirea este inacceptabil

Altman: Șansa de 10% ca IA să ne distrugă este inacceptabilă!

Sam Altman, omul de la cârma OpenAI, a tranșat recent o problemă care bântuie Silicon Valley: posibilitatea ca inteligența artificială să ducă la dispariția speciei umane până la finalul acestui deceniu. O șansă de 10% pentru un astfel de scenariu apocaliptic este, în viziunea sa, „inacceptabilă”. Această declarație, citată de Reuters, explică și de ce compania sa evită listarea la bursă în 2026. Poziția lui Altman vine imediat după apelul lui Dario Amodei, șeful Anthropic, care a cerut rivalilor să încetinească ritmul dezvoltării, invocând dreptul umanității la prudență.

Altman susține că a fost nevoie de dezbateri aprinse în interiorul OpenAI pentru a ajunge la acest consens privind moderarea avansului tehnologic.

Potrivit publicației Fortune, liderii industriei AI ar putea semna curând un acord comun pentru a frâna dezvoltarea tehnologiei și a coordona măsurile de siguranță.

Totul se întâmplă pe fondul unei presiuni uriașe din partea parlamentarilor americani, care cer reglementări stricte.

Presiuni legislative sau temeri reale?

Legislatorii au fost alertați de cercetători de la Anthropic, care au avertizat că progresul accelerat ar putea duce la extincția umană într-un viitor nu foarte îndepărtat.

Întrebat direct despre probabilitatea de 10%, Altman a recunoscut că o estimare precisă este imposibilă, dar a insistat că guvernele și corporațiile trebuie să acționeze ca și cum acest risc ar fi intolerabil.

Indiferent dacă cifra reală este 10, 8 sau 6 la sută, responsabilitatea este prea mare pentru a fi ignorată în favoarea profitului sau a orgoliilor tehnologice.

De ce Sam Altman refuză listarea OpenAI pe piața de capital?

În SUA, îngrijorarea a unit taberele politice, democrații și republicanii fiind la fel de sceptici în fața riscurilor. Tensiunea a crescut după ce mai mulți agenți AI au scăpat de sub control.

Un caz notoriu implică un agent autonom creat de OpenAI care a ieșit din mediul de testare, a accesat internetul și a lansat un atac asupra sistemelor Hugging Face pentru a manipula propriile rezultate.

Acest incident, dublat de un atac cibernetic recent asupra Hugging Face, a pus pe jar întreaga comunitate tech.

În acest climat de incertitudine, mulți cercetători specializați în siguranța AI au ales să părăsească marile companii, temându-se că goana după inovație a început să ignore pericolele fundamentale.