La IA por sí sola no es la meta

En el último año, estamos pasando de la IA como una herramienta con la que hablas, a la IA como algo más parecido a un compañero de trabajo. Un agente que puede ejecutar y coordinar el trabajo en múltiples sistemas. Sin embargo, la mayoría de las conversaciones sobre IA que ves en línea, en YouTube o X, todavía giran en torno a la capacidad. Modelos más grandes. Mejor razonamiento. Más modalidades. Inferencia más rápida.

Esas mejoras son reales y seguirán llegando. Pero dentro de una empresa real, la inteligencia bruta rara vez es el factor decisivo. El factor decisivo es si la inteligencia puede moverse a través de la organización sin romper las cosas.

En Huitaca, construimos agentes de IA para empresas con una capa de memoria compartida de la que los equipos pueden extraer conocimiento. Trabajar en esto ha hecho que una idea me parezca cada vez más obvia. Incluso si la IA se vuelve mejor que los humanos en la mayoría de las tareas, la IA + los humanos seguirá siendo aún mejor.

No porque los humanos siempre serán más inteligentes. No lo seremos. La razón es más simple y estructural. La parte difícil no es generar respuestas. La parte difícil es diseñar un sistema donde las respuestas se conviertan en acciones confiables.

En la práctica, los mayores fracasos no son ‘el modelo no era lo suficientemente inteligente’. Los fracasos son modelar el problema equivocado, definir límites poco claros, malinterpretar el flujo de datos, no anticipar los modos de falla y construir sistemas que colapsan en el momento en que el entorno cambia. A medida que los modelos se vuelven más capaces, la velocidad de conexión entre los elementos mejora. Los agentes encadenan herramientas, llaman a las API, escriben código, consultan bases de datos y se coordinan con otros agentes. La latencia disminuye, la memoria se vuelve persistente y todo se siente más fluido. Pero el problema del eslabón más débil no desaparece. Un sistema más rápido aún falla si está dirigido al objetivo equivocado, o si se le permite actuar fuera de los límites, o si nadie puede explicar de dónde vino el resultado.

Por eso me estremezco un poco cuando escucho algo repetido mucho en el ambiente de startup: el futuro es construir agentes verticales que reemplacen a una persona. Es una gran diapositiva que vender porque es fácil de valorar y fácil de explicar. También es una definición superficial de valor, y generalmente ignora la suma de las partes que deciden si la idea vale la pena.

Reemplazar un rol no es lo mismo que construir un sistema. Una persona no es solo algunos SOPs o un conjunto de tareas. Llevan experiencia y contexto, notan cuando las entradas se ven mal, negocian concesiones, absorben excepciones y asumen la responsabilidad cuando algo se rompe. Si eliminas a la persona pero no reemplazas la estructura circundante, no obtienes automatización. Obtienes una imitación frágil de competencia.

También hay una verdad contraria que es fácil pasar por alto. Muchos desarrolladores y equipos usan la IA para terminar las tareas más rápido, no para mejorar los resultados. Cuando el trabajo lleva menos tiempo, no usamos automáticamente el tiempo ahorrado para un pensamiento más profundo, mejores pruebas o un mejor diseño. A menudo simplemente producimos más. Más tickets, más funciones, más superficie. Es una forma silenciosa de hacer que los sistemas sean más frágiles.

Soy optimista sobre la IA, pero mi optimismo no se basa en la idea de que la IA hará todo por nosotros. Se basa en la idea de que podemos construir más y mejor si usamos la IA para hacer menos de lo que los humanos no quieren hacer, y más de lo que realmente se necesita. Definiciones de problemas más claras. Mejores restricciones. Lanzamientos más seguros. Monitoreo más fuerte. Bucles de retroalimentación más ajustados. Más resiliencia.

Esta es la razón por la que la arquitectura ganadora no es la IA sola. Son los humanos y la IA juntos. Los humanos definen lo que significa el éxito. Los humanos establecen límites, deciden qué datos son confiables y diseñan la memoria, el enrutamiento, la escalada y la responsabilidad que hacen que un agente sea útil en el mundo real. Y cuando el mundo cambia, como siempre lo hace, los humanos siguen siendo los responsables de adaptar el sistema para que sobreviva.

Incluso en un futuro con IA que sea extremadamente capaz, esa responsabilidad no desaparece. En todo caso, se convierte en el objetivo principal. Cuando la inteligencia se vuelve barata, el juicio se convierte en el producto.

Alessandro Morelli
CEO, Huitaca.ai