Los bots de IA están haciendo perder el tiempo a los estafadores y recopilando inteligencia
Una nueva ola de herramientas impulsadas por IA está dándole la vuelta a la situación contra los cibercriminales, manteniéndolos ocupados mientras los defensores recopilan datos cruciales.
Darle la vuelta a los estafadores
Apate, una empresa australiana, ha estado construyendo durante dos años un sistema de IA que hace algo ingenioso: desvía a los estafadores telefónicos hacia llamadas con bots de IA entrenados para mantener las conversaciones el mayor tiempo posible sin caer nunca en la estafa. El objetivo es dar a los estafadores suficiente esperanza para que se mantengan al teléfono mientras se recopila inteligencia sobre los esquemas que están ejecutando.
"Lo que realmente nos gusta pensar es que estamos construyendo las víctimas perfectas para los estafadores", dijo Dali Kaafar, fundador y CEO de Apate, nombrada así por la diosa griega del engaño 1. "Un minuto que un estafador pasa hablando con un bot o un agente es un minuto en el que probablemente estás salvando a cientos, si no a miles, de personas posibles que podrían ser alcanzadas por ese mismo estafador."
La plataforma utiliza alrededor de 350.000 bots que no solo responden llamadas sospechosas, sino que también se infiltran en grupos de chat de estafas en línea y responden mensajes de texto con los mismos objetivos: frustrar a los estafadores mientras recopilan inteligencia. Kaafar dice que la empresa ha recopilado más de 250.000 piezas de información en tiempo real sobre frauduladores, desde sitios web de estafas hasta cuentas de testigos de dinero y datos bancarios.
Probar el sistema
Los bots tienen diferentes personalidades, habilidades lingüísticas y perfiles para que los estafadores, con suerte, no detecten que hablan con IA. Como las personas reales, a veces contestan el teléfono, a veces cuelgan y a veces dicen cosas como: "Te devolveré la llamada más tarde" 1.
Para probar si el sistema era convincente, Kernel Panic probó una versión demo donde los usuarios jugaban el papel de un estafador hablando con una "víctima" de IA de Apate. Los personajes estaban diseñados para mostrar una cantidad saludable de escepticismo pero dejar suficientes aberturas para que los estafadores siguieran intentándolo. ¿El resultado? Los que hacen scambaiting lo encontraron intensamente frustrante, y la conversación duró más de seis minutos sin lograr nunca que la IA invirtiera en una oportunidad falsa de criptomonedas.
Por ahora, incluso con la enorme tropa de bots de Apate, los estafadores siguen iniciando miles de millones de mensajes y llamadas cada año en todo el mundo 1.
Más allá de Apate: la revolución del honeypot
Pero Apate no es el único esfuerzo que usa IA para disruptir a los cibercriminales. Los investigadores de seguridad están recurriendo cada vez más a tácticas psicológicas y "honeypots": sistemas falsos diseñados para atraer hackers, hacerles perder el tiempo y recopilar información sobre sus técnicas.
Mark Vero, investigador de doctorado en ETH Zurich, descubrió que los proveedores de honeypots de código abierto están incorporando modelos de lenguaje grandes para que sus configuraciones se vean más realistas. En investigaciones recientes, Vero y colegas descubrieron que un honeypot impulsado por LLM mantendría a los agentes de IA atacando su sistema "significativamente más tiempo" que los honeypots con comportamiento predecible 1.
"Los atacantes agentivos se convencen mucho más de los honeypots simulados por LLM y también los marcan como honeypots reales a una tasa mucho más baja", dijo Vero. "Si estos sistemas están construidos lo suficientemente bien, creo que es bastante ventajoso para los defensores."
A medida que se expande el enfoque en disruptir a los estafadores, el uso de IA generativa para mantener a los cibercriminales ocupados —haciendo que desperdicien sus recursos y tiempo— está demostrando ser una estrategia de defensa cada vez más efectiva.
Los datos clave
- Apate tiene alrededor de 350.000 bots de IA que interceptan llamadas y mensajes de estafas
- La empresa ha recopilado más de 250.000 piezas de inteligencia sobre frauduladores
- Los honeypots impulsados por LLM mantienen a los atacantes de IA comprometidos significativamente más tiempo que los tradicionales
- Los estafadores inician miles de millones de mensajes y llamadas globalmente cada año
- Los bots de Apate pueden sostener conversaciones con estafadores durante más de dos horas en promedio