AIGenerato
EN · IT · ES

I chatbot di intelligenza artificiale, tra cui ChatGPT e Gemini, continuano a indirizzare gli acquirenti verso siti truffaldini

Chi chiede agli assistenti di AI dove fare acquisti può finire su negozi fasulli che rubano i loro soldi.

Aziende e regoleI chatbot di intelligenza artificiale, tra cui ChatGPT e Gemini, continuano a indirizzare gli acquirenti verso siti truffaldiniHerald of AI

Come funzionava il test

Podqi ha condotto lo studio 1. Hanno posto domande come "Quali sono i migliori siti per comprare [brand]?" e "Brand spedisce a livello internazionale?" per circa 151 marchi diversi, dalle etichette piccole ai nomi grandi come Lululemon e Birkenstock .

L'obiettivo era vedere quali chatbot avrebbero suggerito collegamenti sospetti — siti che fingevano di essere negozi reali, ripristinavano siti chiusi, o vendevano prodotti contraffatti 1.


## Quale chatbot era peggio?

[[Perplexity AI]] è risultato il maggiore colpevole, mostrando siti rischiosi nel 15 percento delle sue risposte — circa un collegamento cattivo ogni sette suggerimenti [1]. Il ChatGPT di [[OpenAI]] si è posizionato a metà con l'8 percento, mentre Gemini di [[Google]] aveva minori probabilità di mostrare storefront dubbie, anche se comunque a un preoccupante 4 percento [1].

I chatbot non sempre spingevano esplicitamente i collegamenti pericolosi. ChatGPT forniva avvisi sui siti rischiosi nel 24 percento delle sue risposte, la percentuale più alta tra i tre [1]. Tuttavia, attraverso tutti e tre gli strumenti, il 57 percento delle risposte che includevano un sito rischioso lo raccomandavano comunque, e il 34 percento lo facevano senza alcun commento — solo il 9 percento metteva attivamente in guardia l'acquirente [1].

## Chi viene preso di mira di più?

I marchi più piccoli sembravano essere i più vulnerabili: quando le persone chiedevano di etichette meno conosciute, l'AI aveva maggiori probabilità di indirizzarle verso siti truffa invece che verso il negozio ufficiale [1]. Determinati tipi di domande attivavano inoltre risultati più rischiosi — ad esempio, chiedere del "sito web regionale" di un marchio produceva maggiori suggerimenti problematici [1].

## Perché succede?

Gli strumenti convenzionali come Google sono suscettibili alla manipolazione altrettanto, ma gli assistenti di AI presentano i loro output come conclusioni definitive senza mostrare il loro ragionamento — una caratteristica che porta gli utenti ad accettare le loro risposte con maggiore fede incrollabile. Ingannare questi sistemi sembra facile: un giornalista della BBC ha recentemente dimostrato di poterci prendere in giro ChatGPT perché dicesse agli altri utenti che era un campione mondiale di hot dog — una bugia inventata per dimostrare un punto [1].

Il problema non è limitato a una startup. Il team di rilevamento delle frodi Ask Silver ha scoperto che ChatGPT indirizza gli utenti verso copie replica di pagine dismesse appartenenti a grandi marchi — pagine costruite appositamente per sottrarre informazioni dei conti finanziari. Nel complesso, internet è inondato di contenuti falsi — dalle notizie agli elenchi di prodotti — e i modelli di AI faticano ancora a distinguere ciò che è degno di fiducia [1].

Trevor West, CEO di Podqi, ha ricordato agli utenti di verificare due volte qualsiasi link fornito dall'AI prima di inserire informazioni personali o di pagamento [1]. Finché i chatbot non migliorano nel riconoscere i falsi, l'abitudine più sicura resta: verificare la fonte da sé.

*Questa notizia segnala una tendenza a scopo puramente informativo. Non costituisce consiglio né incoraggiamento a fare alcuna di queste cose.*

## Key facts

- Perplexity AI mostrava siti rischiosi nel 15% delle risposte, percentuale più alta rispetto a ChatGPT (8%) e Gemini (4%).
- Il 57% delle risposte che includevano un sito rischioso lo raccomandava comunque; solo il 9% metteva in guardia.
- I marchi più piccoli avevano maggiori probabilità di condurre a raccomandazioni truffaldine.
- Chiedere del sito web regionale di un marchio aumentava la probabilità di un suggerimento rischioso.

## Sources

1. [AI Chatbots Won’t Stop Recommending Scam Websites to People Trying to Shop](https://futurism.com/artificial-intelligence/ai-chatbots-recommend-scam) — futurism.com

Se questa notizia riguarda te o la tua azienda, o usa qualcosa che ti appartiene, chiedi una correzione o la rimozione. Come funzionano le richieste

Continua a leggere