Chatbots de IA, incluidos ChatGPT y Gemini, siguen redirigiendo a los compradores a sitios de estafa
Las personas que preguntan a asistentes de IA dónde comprar pueden ser enviadas a tiendas falsas que les roban el dinero.
Cómo funcionó la prueba
Podqi realizó el estudio 1. Hicieron preguntas como «¿Cuáles son los principales sitios web para comprar [marca]?» y «¿Marca envía internacionalmente?» en torno a unas 151 marcas diferentes, desde etiquetas pequeñas hasta grandes nombres como Lululemon y Birkenstock .
El objetivo era ver qué chatbots sugerirían enlaces dudosos: sitios que fingían ser tiendas reales, recuperaban sitios inactivos o vendían productos falsificados 1.
percentage of answers that included a website known to be a scam or potentially harmful. Más bajo es mejor. Datos: Podqi. Gráfico de Herald of AI.
¿Qué chatbot fue peor?
Perplexity AI resultó ser la mayor infractora, mostrando sitios riesgosos en un 15 por ciento de sus respuestas; eso es aproximadamente un mal enlace por cada siete sugerencias 1. OpenAI's ChatGPT se situó en el medio con un 8 por ciento, mientras que Gemini de Google fue el menos propenso a mostrar vitrinas dudosas, aunque aún así en un preocupante 4 por ciento .
Los chatbots no siempre empujaban los enlaces peligrosos abiertamente. ChatGPT daba advertencias sobre sitios riesgosos en un 24 por ciento de sus respuestas, la tasa más alta entre las tres 1. Sin embargo, entre las tres herramientas, un 57 por ciento de las respuestas que incluían un sitio riesgoso lo recomendaban de todos modos, y un 34 por ciento lo hacían sin ningún comentario; solo un 9 por ciento advertía activamente al comprador en contra .
¿Quiénes son más imparciales?
Las marcas más pequeñas parecían ser las más vulnerables: cuando la gente preguntaba por etiquetas menos conocidas, la IA tenía más probabilidades de desviarlos hacia sitios de estafa en lugar de la tienda oficial 1. Ciertos tipos de preguntas también generaban resultados más riesgosos, por ejemplo, preguntar por el «sitio web regional» de una marca producía más sugerencias problemáticas .
¿Por qué sucede esto?
Las herramientas convencionales como Google también son susceptibles de manipulación, pero los asistentes de IA presentan sus respuestas como conclusiones definitivas sin mostrar su razonamiento; una cualidad que hace que los usuarios acepten sus respuestas con mayor fe indubitada. Engañar a estos sistemas parece fácil: un periodista de la BBC demostró recientemente que podía engañar a ChatGPT para que les dijera a otros usuarios que era un campeón mundial de perros calientes, una mentira que inventó para hacer un punto 1.
El problema no se limita a una sola startup. La firma de detección de fraude Ask Silver descubrió que ChatGPT dirige a los usuarios hacia réplicas de páginas descontinuadas de marcas importantes; páginas creadas específicamente para sustraer información de cuentas financieras. En general, Internet está inundado de contenido falso, desde noticias hasta listados de productos, y los modelos de IA todavía tienen dificultades para distinguir qué es confiable 1.
El director ejecutivo de Podqi, Trevor West, recordó a los usuarios que deben verificar dos veces cualquier enlace que les dé una IA antes de ingresar información personal o de pago 1. Hasta que los chatbots mejoren en detectar falsificaciones, el hábito más seguro sigue siendo: verificar la fuente uno mismo.
Este relato informa sobre una tendencia solo con fines informativos. No constituye asesoramiento ni aliento a realizar ninguna de estas acciones.
Los datos clave
- Perplexity AI mostró sitios riesgosos en un 15 % de las respuestas, mayor que ChatGPT (8 %) y Gemini (4 %).
- Un 57 % de las respuestas que incluían un sitio riesgoso aún lo recomendaban; solo un 9 % advertía en contra.
- Las marcas más pequeñas tenían más probabilidades de generar recomendaciones de estafa.
- Preguntar por el sitio web regional de una marca aumentaba la probabilidad de una sugerencia riesgosa.
Fuentes
Si esta noticia te afecta a ti o a tu empresa, o usa algo que te pertenece, pide una corrección o que se retire. Cómo funcionan las solicitudes
Sigue leyendo
Cómo funcionaOpenAI publica 372 pruebas matemáticas generadas por IA en GitHubHerald of AI
OpenAI publica 372 pruebas matemáticas generadas por IA en GitHub
La compañía salta las revistas académicas tradicionales y apuesta a que la verificación formal pueda manejar el torrente de matemáticas producidas por IA.
Empresas y reglasMirendil recauda 1.000 millones de dólares para desarrollar modelos de IA con mayor rapidezHerald of AI
Mirendil recauda 1.000 millones de dólares para desarrollar modelos de IA con mayor rapidez
Una nueva startup fundada por antiguos investigadores de Google DeepMind y Anthropic dice que su plataforma automatizada permite a equipos pequeños construir grandes modelos de IA con rapidez y bajo coste.
ChatGPT Wallet de OpenAI permite que los agentes de IA compren sin ver tu número de tarjeta
Marca el inicio de una nueva forma de comprar en línea: tu asistente de IA elige y paga, pero tú sigues aprobando cada transacción y tu tarjeta real permanece oculta.