Un agent AI a cumpărat ouă fără să fie cerut
Ce a făcut exact agentul?
Un agent de inteligență artificială a cumpărat ouă fără nicio cerere din partea utilizatorului
Ultimele știri
Alertă maximă în Polonia după o posibilă incursiune aeriană la graniță
Deputatul Radu Miruță, declarat incompatibil de ANI. Ce riscă politicianul USR?
UEFA sancționează Bosnia după scandările rasiste la meciul cu România
Moscova închide ușa: Rusia respinge orice garanții de securitate de tip NATO pentru UcrainaAutomatizarea bazată pe inteligența artificială invadează tot mai multe aspecte ale existenței cotidiene, preluând sarcini precum organizarea achizițiilor sau administrarea activităților pe platforme digitale.
Totuși, un episod recent subliniază gradul de imprevizibilitate cu care acești agenți pot acționa când li se acordă o autonomie excesivă.
Matt Smith, care reprezintă firma de capital de risc Rebellionaire, a constatat că asistentul său virtual a adăugat în coșul de cumpărături patru cutii de ouă, fiecare conținând 18 bucăți, deși nu a formulat nicio cerere în această direcție.
De ce a apărut eroarea?
Rezultatul a fost o livrare de 72 de ouă la domiciliul său. La întrebarea privind motivul alegerii, sistemul a admis sincer că nu dispunea de nicio justificare logică.
Detaliile incidentului au fost publicate de Incredibilia pe 14 noiembrie 2026 și au fost analizate aprofundat de portalul Futurism printr-un material semnat de Frank Landymore. Conform relatării, Matt Smith a împărtășit pe rețeaua X capturi de ecran ale dialogului cu agentul. Acesta a precizat că introdusese în coș patru ambalaje de ouă mari de la marca Vital Farms, provenite de la găini crescute în aer liber. Matematica este elementară: patru cutii înseamnă 72 de ouă, o cantitate neașteptată pentru utilizator. Problema nu rezida doar în volumul produselor, ci în incapacitatea agentului de a identifica motivul alegerii lor. Când Smith a solicitat o explicație, răspunsul inteligenței artificiale a fost șocant de direct: „Nu am un răspuns bun”.
Sistemul a recunoscut că nu găsea nicio notă sau instrucțiune care să susțină decizia de a include cele patru cutii.
În dialogul publicat, agentul a încercat inițial să justifice eroarea prin posibila interpretare greșită a unui rând dintr-o fotografie a listei de cumpărături. Totuși, utilizatorul i-a atras atenția că pe listă nu exista nicio referire la ouă.
Cine a plătit factura?
În final, asistentul digital a admis că a adăugat produsele fără nicio motivație clară și a preluat responsabilitatea pentru greșeală. Inteligența artificială a recunoscut eșecul, dar a rămas incapabilă să explice procesul decizional.
Smith a descris acest episod ca prima dată în care a experimentat direct efectele unei halucinații generate de un model lingvistic de mari dimensiuni (LLM). Termenul „halucinație AI” se aplică când un sistem produce informații sau acțiuni fără bază reală, dar le prezintă cu o convingere falsă. În acest caz, problema a depășit o simplă informație eronată. Agentul a efectuat o acțiune concretă în fluxul de cumpărături, adăugând produse neîncerate. Potrivit Futurism, Smith a caracterizat incidentul ca prima consecință tangibilă a unei halucinații LLM pe care a întâlnit-o personal. Această apreciere aparține utilizatorului și nu confirmă că este primul astfel de caz la nivel global.
O nuanță crucială privește modul de finalizare a comenzii. În conversația publicată, agentul a menționat că a introdus ouăle într-un coș pe care Smith l-a verificat și a comandat. Astfel, relatarea nu dovedește că inteligența artificială a efectuat singură plata fără implicarea utilizatorului. Greșeala confirmată rămâne introducerea produselor nesolicitate.
Totuși, acest caz pune o întrebare esențială: cât de multă autonomie ar trebui să aibă un agent AI când gestionează bani, date personale și decizii în numele altor persoane?
Un alt caz similar?
Nu este un caz izolat. Un alt agent AI a efectuat o achiziție neautorizată.
În februarie 2025, jurnalistul Geoffrey A. Fowler de la The Washington Post a raportat că agentul OpenAI Operator a cumpărat un carton de ouă fără o cerere explicită. Fowler a cerut sistemului să identifice cea mai ieftină ofertă pentru o duzină de ouă cu livrare la domiciliu.
Agentul a găsit inițial o variantă mai ieftină, dar a continuat căutarea și a plasat o comandă prin Instacart.
Conform relatării, costul produselor a fost de 13,19 dolari, dar s-au adăugat taxe de livrare, un bacșiș de 3 dolari și o taxă de prioritate de 3 dolari.
Alte exemple!
Totalul debitat a fost de 31,43 dolari. Fowler a aflat despre tranzacția printr-o notificare pe telefon. OpenAI a recunoscut, prin intermediul jurnalistului, că Operator a greșit și nu a respectat protocoalele de siguranță.
Compania a declarat că examinează cazurile în care agentul nu cere confirmarea și lucrează la întărirea mecanismelor de protecție.
Cele două episoade diferă: în cazul lui Matt Smith, agentul a adăugat 72 de ouă într-un coș verificat de utilizator, în timp ce în cazul Operator a fost raportată o achiziție efectuată fără aprobare explicită. De la cumpărături la date personale: riscurile agenților AI devin tot mai vizibile. Problema nu se limitează la o comandă greșită de alimente. Agenții AI sunt proiectați pentru sarcini complexe și interacțiunea cu servicii online în numele utilizatorilor.
Pentru a face acest lucru, ei pot primi acces la conturi, informații personale și, în anumite cazuri, la servicii financiare.
Sursă: Știri pe surse
Alte știri:
Alertă maximă în Polonia după o posibilă incursiune aeriană la graniță…
Deputatul Radu Miruță, declarat incompatibil de ANI. Ce riscă politicianul USR?…
Moscova închide ușa: Rusia respinge orice garanții de securitate de tip NATO pentru Ucraina…
Luca Niculescu a deschis ședința de Guvern și a prezentat principalele măsuri ale premierului…