Nuevo método permite que los detectores de texto para IA alcancen 93 % de precisión, atrapando textos disfrazados
Un truco de entrenamiento permite que las herramientas de detección se adapten en tiempo real para mantener su precisión mientras siguen cambiando los estilos de escritura de la IA y de los humanos.

Un truco de entrenamiento que permite a los detectores de IA mejorarse después de lanzarse, atrapando textos escritos por inteligencia artificial que las personas intentan disimular.
- Entra texto nuevo mientras el detector sigue funcionando
- Detecta patrones que distinguen la escritura humana de la de una IA
- Ajusta en silencio su propia configuración para afinarse más
¿Qué se puede hacer con ello?
- Un profesor podría usar un detector de IA equipado con adaptación en el momento de la prueba para confirmar si el trabajo final de un estudiante fue probablemente autoría de un modelo de lenguaje grande en lugar del propio estudiante, ayudándole a atrapar texto con IA disfrazado.1
- Un experto en ciberseguridad podría desplegar el detector adaptado para detectar correos maliciosos o fraude SEO donde los atacantes disfrazan contenido generado por IA como escrito por humanos para evitar las herramientas estándar de detección.1
- Un responsable de contratación podría basarse en el detector resiliente para evaluar materiales de solicitud y señalar envíos que fueron generados artificialmente y alterados para parecer humanos, mejorando la fiabilidad del cribado.1

Imagen: news.mit.edu
El problema con los detectores actuales
Los detectores de IA son ellos mismos modelos de IA que comparan un texto contra patrones aprendidos de texto conocido de humanos y de IA 1. Cuando el texto que deben revisar se ve de pronto diferente de lo que se les enseñó, su precisión baja, un problema que los investigadores llaman cambio de distribución .
Esto ocurre por dos razones. Primero, los estilos de escritura humana evolucionan naturalmente: las personas escriben sobre distintos temas, adoptan nuevas analogías y cambian cómo estructuran las oraciones con los años 1. Un detector entrenado con texto de la época de 2010 podría marcar texto natural al estilo de 2030 como generado por IA . Segundo, una vez que un detector sale al público, los desarrolladores de herramientas de humanización compiten por crear texto que se escabulla por él, creando un ciclo constante de adaptación y contradaptación .
En pruebas diseñadas para imitar esta partida de gato y ratón, un detector comercial atrapó solo alrededor de 27 por ciento del texto generado por IA que había sido deliberadamente disfrazado 1.
¿Qué tan precisos son los detectores de IA antes y después de la corrección?
Investigadores del MIT y de Cornell prueban herramientas de detección frente a estilos humanos cambiantes y herramientas adversarias 'humanizadoras'.
Cómo funciona la adaptación en el momento de la prueba
En lugar de bloquear el detector después del lanzamiento, los investigadores le permiten ajustarse silenciosamente a medida que nuevo texto fluye a través de él 1. Ese texto entrante está sin etiquetar: el sistema no sabe cuáles piezas son humanas o de IA, pero aún así representa los hábitos de escritura actuales de ambos grupos . Con el tiempo, el detector capta patrones estadísticos que separan los dos, refinando sus propios ajustes internos sin necesidad de un reentrenamiento completo desde cero .
Para estudiar si esto realmente funciona, los investigadores crearon conjuntos de datos que mezclaban texto escrito por humanos y texto escrito por IA, luego pasaron algunos ejemplos de IA por herramientas de humanización diseñadas específicamente para derrotar detectores existentes 1. Luego aplicaron la adaptación en el momento de la prueba y evaluaron el rendimiento en datos de referencia validada con etiquetas .
Los resultados
Al imitar el cambio gradual en el lenguaje humano, el detector adaptado alcanzó 85 por ciento de precisión comparado con 73 por ciento usando métodos tradicionales 1. En texto de IA disfrazado, obtuvo 93 por ciento de precisión versus apenas 27 por ciento para la base comercial .
Adaptarse a cambios más lentos y sutiles en la escritura humana sigue siendo más difícil que atrapar texto de IA deliberadamente engañoso, según destacaron los investigadores 1.
El equipo presentará el trabajo en la Conferencia sobre Procesamiento de Información de Sistemas Neuroinformáticos (NeurIPS) 1. El coautor del estudio Manish Raghavan, que ocupa cargos en la Escuela de Administración Sloan del MIT, el Colegio Schwarzman de Computación del MIT y el Laboratorio de Información y Sistemas de Decisión del MIT, dijo: "Hemos mostrado que la adaptación en el momento de la prueba permite que tu detector de IA sea mucho más robusto, incluso con comportamiento adversarial continuo por parte de usuarios de IA" .
El autor principal Kevin Ren, estudiante de posgrado en Cornell Tech, añadió que la adaptación en el momento de la prueba podría ayudar a los detectores a "abordar proactivamente este comportamiento iterativo de juego por parte de usuarios de IA adversarios" 1. El autor senior Nikhil Garg es profesor asistente en Cornell Tech .
Los datos clave
- Un detector comercial atrapa solo 27 % del texto de IA deliberadamente disfrazado; un detector con adaptación en el momento de la prueba alcanza 93 %
- La adaptación en el momento de la prueba permite que el detector se autoajuste después del lanzamiento en lugar de necesitar un reentrenamiento completo
- En benchmarks de lenguaje humano cambiante, los detectores adaptados alcanzaron 85 % de precisión vs. 73 % para métodos tradicionales
- Los investigadores provienen del MIT y de Cornell Tech y presentarán en NeurIPS
- La técnica podría ayudar a educadores, publicadores, responsables de contratación y equipos de ciberseguridad a señalar textos con IA disfrazados
Fuentes
Si esta noticia te afecta a ti o a tu empresa, o usa algo que te pertenece, pide una corrección o que se retire. Cómo funcionan las solicitudes
Sigue leyendo
Cómo funcionaEl investigador del MIT quiere que la IA se explique sola en lugar de ocultar su funcionamientoHerald of AI
El investigador del MIT quiere que la IA se explique sola en lugar de ocultar su funcionamiento
Jacob Andreas está entrenando a la IA para hablar sobre lo que ha aprendido, brindando a los usuarios habituales una forma de entender cómo toman decisiones estos sistemas, en vez de depender solo de complejas herramientas de depuración.
Apps y productosEl copiloto con IA del MIT permite a los ingenieros guiar diseños estructurales en tiempo realHerald of AI
El copiloto con IA del MIT permite a los ingenieros guiar diseños estructurales en tiempo real
Una nueva herramienta muestra a los diseñadores de edificios el borrador que está creando la IA y pide su opinión, produciendo estructuras más resistentes y viables en solo 15 segundos adicionales.
Apps y productosYogurt te permite grabar y resumir reuniones con IA que funciona completamente en tu computadoraHerald of AI
Yogurt te permite grabar y resumir reuniones con IA que funciona completamente en tu computadora
Una aplicación gratuita y de código abierto convierte tus llamadas en transcripciones y resúmenes sin enviar ningún dato a la nube.