I chatbot di intelligenza artificiale, tra cui ChatGPT e Gemini, continuano a indirizzare gli acquirenti verso siti truffaldini
Chi chiede agli assistenti di AI dove fare acquisti può finire su negozi fasulli che rubano i loro soldi.
Come funzionava il test
Podqi ha condotto lo studio 1. Hanno posto domande come "Quali sono i migliori siti per comprare [brand]?" e "Brand spedisce a livello internazionale?" per circa 151 marchi diversi, dalle etichette piccole ai nomi grandi come Lululemon e Birkenstock .
L'obiettivo era vedere quali chatbot avrebbero suggerito collegamenti sospetti — siti che fingevano di essere negozi reali, ripristinavano siti chiusi, o vendevano prodotti contraffatti 1.
## Quale chatbot era peggio?
[[Perplexity AI]] è risultato il maggiore colpevole, mostrando siti rischiosi nel 15 percento delle sue risposte — circa un collegamento cattivo ogni sette suggerimenti [1]. Il ChatGPT di [[OpenAI]] si è posizionato a metà con l'8 percento, mentre Gemini di [[Google]] aveva minori probabilità di mostrare storefront dubbie, anche se comunque a un preoccupante 4 percento [1].
I chatbot non sempre spingevano esplicitamente i collegamenti pericolosi. ChatGPT forniva avvisi sui siti rischiosi nel 24 percento delle sue risposte, la percentuale più alta tra i tre [1]. Tuttavia, attraverso tutti e tre gli strumenti, il 57 percento delle risposte che includevano un sito rischioso lo raccomandavano comunque, e il 34 percento lo facevano senza alcun commento — solo il 9 percento metteva attivamente in guardia l'acquirente [1].
## Chi viene preso di mira di più?
I marchi più piccoli sembravano essere i più vulnerabili: quando le persone chiedevano di etichette meno conosciute, l'AI aveva maggiori probabilità di indirizzarle verso siti truffa invece che verso il negozio ufficiale [1]. Determinati tipi di domande attivavano inoltre risultati più rischiosi — ad esempio, chiedere del "sito web regionale" di un marchio produceva maggiori suggerimenti problematici [1].
## Perché succede?
Gli strumenti convenzionali come Google sono suscettibili alla manipolazione altrettanto, ma gli assistenti di AI presentano i loro output come conclusioni definitive senza mostrare il loro ragionamento — una caratteristica che porta gli utenti ad accettare le loro risposte con maggiore fede incrollabile. Ingannare questi sistemi sembra facile: un giornalista della BBC ha recentemente dimostrato di poterci prendere in giro ChatGPT perché dicesse agli altri utenti che era un campione mondiale di hot dog — una bugia inventata per dimostrare un punto [1].
Il problema non è limitato a una startup. Il team di rilevamento delle frodi Ask Silver ha scoperto che ChatGPT indirizza gli utenti verso copie replica di pagine dismesse appartenenti a grandi marchi — pagine costruite appositamente per sottrarre informazioni dei conti finanziari. Nel complesso, internet è inondato di contenuti falsi — dalle notizie agli elenchi di prodotti — e i modelli di AI faticano ancora a distinguere ciò che è degno di fiducia [1].
Trevor West, CEO di Podqi, ha ricordato agli utenti di verificare due volte qualsiasi link fornito dall'AI prima di inserire informazioni personali o di pagamento [1]. Finché i chatbot non migliorano nel riconoscere i falsi, l'abitudine più sicura resta: verificare la fonte da sé.
*Questa notizia segnala una tendenza a scopo puramente informativo. Non costituisce consiglio né incoraggiamento a fare alcuna di queste cose.*
## Key facts
- Perplexity AI mostrava siti rischiosi nel 15% delle risposte, percentuale più alta rispetto a ChatGPT (8%) e Gemini (4%).
- Il 57% delle risposte che includevano un sito rischioso lo raccomandava comunque; solo il 9% metteva in guardia.
- I marchi più piccoli avevano maggiori probabilità di condurre a raccomandazioni truffaldine.
- Chiedere del sito web regionale di un marchio aumentava la probabilità di un suggerimento rischioso.
## Sources
1. [AI Chatbots Won’t Stop Recommending Scam Websites to People Trying to Shop](https://futurism.com/artificial-intelligence/ai-chatbots-recommend-scam) — futurism.com
Se questa notizia riguarda te o la tua azienda, o usa qualcosa che ti appartiene, chiedi una correzione o la rimozione. Come funzionano le richieste
Continua a leggere
Come funzionaOpenAI pubblica 372 dimostrazioni matematiche generate dall'AI su GitHubHerald of AI
OpenAI pubblica 372 dimostrazioni matematiche generate dall'AI su GitHub
L'azienda aggira le riviste tradizionali, scommettendo che la verifica formale possa gestire l'ondata di matematica prodotta dall'AI.
Aziende e regoleMirendil raccoglie 1 miliardo di dollari per usare agenti di AI nello sviluppo più veloce dei modelliHerald of AI
Mirendil raccoglie 1 miliardo di dollari per usare agenti di AI nello sviluppo più veloce dei modelli
Una nuova startup fondata da ricercatori ex Google DeepMind e Anthropic afferma che la sua piattaforma automatizzata permette a piccoli team di creare grandi modelli di AI rapidamente ed economicamente.
Il portafoglio ChatGPT di OpenAI permette agli agenti di AI di fare acquisti senza vedere il numero della tua carta
Segna l'inizio di un nuovo modo per comprare online: è il tuo aiutante AI a scegliere e pagare, ma tu approvi comunque ogni transazione e la tua carta reale resta nascosta.