Ingenieros luchan con código de IA que ya no pueden comprender totalmente

The Black Box Problem

Un ingeniero de software de Meta publicó recientemente en LinkedIn su inquietud creciente en la industria: a medida que las herramientas de generación de código con IA se vuelven habituales, muchos desarrolladores están enviando sistemas que no pueden explicar por completo.

"Estos días estoy escribiendo código y todo se siente como una black box", escribió el ingeniero. "Entiendes el nivel general, pero no cada detalle. Y quizás esto se esté convirtiendo en el nuevo estándar. Va en contra de todo instinto de ser un ingeniero de software."

La publicación, que rápidamente circuló entre desarrolladores, preguntaba si otros sentían lo mismo y cómo estaban manejando la presión por enviar más rápido mientras perdían de vista los detalles ¹.

Design First, Then Delegate

Una de las respuestas más votadas llegó de un desarrollador que usa el nombre bitwizeshift, quien dijo que la solución es mantener a la IA fuera de la fase de diseño por completo. En lugar de pedirle a un LLM que planifique un sistema, el ingeniero recomienda escribir por tu cuenta toda la jerarquía de abstractions, clases e interacciones, y luego usar el modelo solo para completar las implementaciones.

"No le permito al LLM diseñar el código en absoluto, le permito implementar un diseño que he creado", escribió bitwizeshift.

El comentarista argumentó que los LLM son generalmente malos creando buenas abstractions, produciendo código que funciona inicialmente pero se vuelve difícil de mantener a medida que cambian los requisitos. En contraste, una fase de diseño liderada por humanos, aunque tome algunas horas al principio, mantiene la arquitectura estable y hace que los refactors futuros sean más fáciles.

Este enfoque no es nuevo en principio. Los arquitectos de software experimentados han insistido durante mucho tiempo en separar el diseño de la implementación. Lo que ha cambiado es la velocidad con la que los equipos ahora pueden generar código, creando la tentación de saltarse el paso de planificación preliminar ¹.

The Culture of Pasting Tickets

Varios comentaristas extendieron la discusión más allá de la técnica hacia lo que veían como un declive más amplio del rigor de ingeniería en toda la industria. swatcoder, otro desarrollador, argumentó que muchas personas con títulos de "senior" en grandes empresas tecnológicas tienen poca experiencia práctica con principios de diseño de software, pasando la mayor parte de su tiempo extrayendo tickets y aplicando parches mínimos en lugar de pensar en la estructura del sistema.

Why This Matters Now

La conversación llega mientras herramientas como Claude, GPT-5 y otros modelos de lenguaje grandes continúan integrándose en los flujos de trabajo diarios de desarrollo. La promesa de estos sistemas es velocidad: los desarrolladores pueden generar código repetitivo, pruebas y módulos enteros en segundos. El riesgo, como quedó claro en el hilo de Hacker News, es que la velocidad puede desplazar la comprensión.

Los ingenieros que expresaron preocupación en el hilo no argumentaron a favor de abandonar la programación asistida por IA. Su punto era más específico: el arquitecto humano aún debe asumir la propiedad del diseño, o la base de código eventualmente se volverá imposible de mantener, depurar o confiar cuando algo salga mal.

Como sugirió la publicación original del ingeniero de Meta, la pregunta ya no es si la IA cambiará cómo se construye el software, sino si la profesión adaptará sus estándares lo suficientemente rápido para mantener el ritmo ¹.

Esta historia informa sobre una tendencia con fines informativos. No es consejo ni ánimo para hacer nada de esto.

Correcciones y actualizaciones

• Corrected on 20 October 2026. Una versión anterior afirmaba que el hilo de HN discutía un error de entrevista entre NLP/Natural Language Programming y un usuario llamado birdsongs que se fue por quejas ignoradas sobre calidad del código; ninguno de esos temas aparece en la fuente, que cubre estrategias para usar la generación de código con IA de manera responsable.

Los datos clave

• Un ingeniero de Meta cuestionó públicamente si enviar sistemas generados por IA que no puede comprender totalmente se está convirtiendo en el nuevo estándar de la industria.
• Los respondents recomendaron mantener al humano a cargo del diseño del sistema y usar los LLM solo para implementar abstractions predefinidas.
• Varios commenters argumentaron que muchos ingenieros supuestamente senior carecen de experiencia profunda con principios de diseño de software.

Fuentes

1. Ask HN: How to deal with shipping AI-written code you don't understand? | Hacker News — news.ycombinator.com