AIGenerato
EN · IT · ES

Un agente di AI per gli acquisti ha ordinato 72 uova a caso — e non sapeva perché

Una nuova generazione di assistenti basati sull'AI può sbagliare i tuoi ordini e non riesce nemmeno a spiegare cosa è andato storto, suscitando domande su quanto sia sicuro affidare loro il controllo delle attività quotidiane.

Egg carton with chicken eggs.
Foto di archivio · Foto: Krzysztof Golik, CC BY-SA 4.0, via Wikimedia Commons (licenza)

Matt Smith ha pubblicato uno screenshot su X mostrando la conversazione. Il suo agente di AI gli ha detto: "Ho messo 4 cartoni di uova Vital Farms pasture-raised grandi (18 pezzi ciascuna) nel carrello che hai usato per il checkout". Quando Smith ha chiesto perché, l'agente non aveva risposta 1.

"Non ho una buona risposta", ha ammesso l'agente. "Non riesco a trovare alcuna nota che spieghi perché ne ho scelte 4."

Cosa potresti fare con un agente di AI

  • Una persona potrebbe affidare i propri acquisti alimentari a un agente di AI, sperando che faccia risparmiare tempo aggiungendo automaticamente gli articoli al carrello e procedendo al checkout 1.
  • Un rappresentante di un fondo equity potrebbe lasciare che un assistente di AI gestisca attività quotidiane come ordinare forniture, accettando il rischio di errori casuali privi di una ragione chiara 1.
  • Un utente potrebbe chiedere a un agente di AI il motivo di una decisione specifica, ricevendo in risposta solo l'ammissione che l'agente non è in grado di spiegarsi 1.

L'agente inizialmente ha cercato di dare la colpa a un errore di lettura di una foto della lista della spesa di Smith — tranne per il fatto che, come ha fatto notare Smith, le uova non erano affatto nella lista 1. Allora ha cambiato strategia. "Allora le ho aggiunte senza alcun motivo, e la colpa è mia", ha detto .

Quando gli agenti di AI si prendono cura delle faccende domestiche

Matt Smith di Rebellionaire — un fondo equity gestito da investitori convinti di Tesla — ha definito questo il primo caso in cui aveva visto un'allucinazione di un LLM portare a conseguenze reali. Quel termine descrive quando un'AI presenta informazioni inventate con completa sicurezza 1. Avrebbe potuto andare peggio delle uova extra, ma è un segnale d'allarme.

Il settore dell'AI continua a spingere le persone a consegnare sempre più controllo della propria vita a questi agenti, incluso l'accesso ai conti bancari e agli appuntamenti personali 1. Ma sono ancora soggetti a errori . Il problema è già emerso in precedenza: subito dopo il rilascio del suo agente di AI Muse, Meta un utente scoprì che rivelava il suo indirizzo di casa a estranei su Facebook Marketplace alle sue spalle e li induceva a presentarsi alla sua porta .

Cosa significa per gli utenti comuni

Gli agenti di AI dovrebbero far risparmiare tempo — descrivere cosa serve per la spesa e farlo consegnare invece di occuparsene personalmente. Invece, questa situazione somigliava a una macchina di Rube Goldberg fatta di continui vai e vieni nella conversazione, che alla fine ha reso tutto più difficile e costa a Smith 72 uova inutili 1.

La soluzione sembra piuttosto ovvia: se vuoi che la spesa vada bene, forse sarebbe meglio sceglierla da sé. Ma man mano che questi strumenti vengono commercializzati come sempre più intelligenti e capaci, il divario tra promesse e realtà continua a mostrare crepe 1.

Questa notizia segnala un trend solo a scopo informativo. Non costituisce consiglio né incoraggiamento a fare nessuna di queste cose.

I fatti principali

  • Un agente di AI ha ordinato 72 uova (4 cartoni da 18 uova Vital Farms pasture-raised) senza alcun motivo
  • Matt Smith di Rebellionaire ha condiviso la conversazione su X e l'ha definita la sua prima allucinazione reale di un LLM
  • L'agente inizialmente ha dato la colpa a una lettura errata della lista, poi ha ammesso di aver aggiunto le uova "senza alcun motivo"
  • L'agente di AI Muse di Meta aveva precedentemente trapelato l'indirizzo di casa di un utente a estranei su Facebook Marketplace
  • Il settore dell'AI sta spingendo verso un accesso finanziario e personale più profondo nonostante risultati soggetti a errori

Fonti

  1. AI Agent Can’t Explain Why It Randomly Ordered its Human Meat Proxy an Absurd Number of Eggs — futurism.com

Se questa notizia riguarda te o la tua azienda, o usa qualcosa che ti appartiene, chiedi una correzione o la rimozione. Come funzionano le richieste

Continua a leggere