AT&T, la firma global de telecomunicaciones con una presencia estratégica y consolidada en el mercado mexicano, ha logrado resolver un desafío de escala monumental en el ámbito de la Inteligencia Artificial (IA). Al enfrentarse a un volumen de procesamiento de 8,000 millones de tokens al día, la compañía descubrió que depender exclusivamente de modelos de lenguaje de gran tamaño (LLM) era económica y operativamente inviable.
Andy Markus, director de datos (CDO) de AT&T, explicó que para hacer frente a esta demanda sin precedentes, su equipo tuvo que replantear la arquitectura de orquestación de su asistente interno, denominado "Ask AT&T". La solución consistió en el desarrollo de una estructura de múltiples agentes construida sobre la plataforma LangChain. En este nuevo ecosistema, modelos de gran tamaño actúan como "superagentes" que dirigen a agentes "trabajadores" más pequeños, los cuales ejecutan tareas concisas y especializadas.
Esta transición hacia una arquitectura flexible ha permitido a la compañía mejorar drásticamente la latencia y los tiempos de respuesta. Sin embargo, el dato más relevante para la industria es el impacto financiero: AT&T ha reportado ahorros en costos de hasta el 90%. Markus enfatizó que el futuro de la IA agéntica radica en el uso masivo de modelos de lenguaje pequeños (SLM, por sus siglas en inglés), los cuales han demostrado ser tan precisos como los modelos grandes cuando se aplican a dominios de información específicos.
La empresa ha dado un paso más allá al integrar esta tecnología con Microsoft Azure para lanzar "Ask AT&T Workflows", una herramienta interna que permite a los empleados automatizar tareas mediante una interfaz gráfica de arrastrar y soltar. Estos agentes utilizan herramientas propietarias para el procesamiento de documentos, conversión de lenguaje natural a lenguaje de bases de datos (SQL) y análisis de imágenes, siempre bajo la premisa de utilizar datos internos de la compañía para la toma de decisiones.
Finalmente, AT&T subrayó que la autonomía no significa falta de control. La firma mantiene un esquema de "humano en el ciclo" (human-in-the-loop), donde todas las acciones de los agentes son monitoreadas y registradas. Este enfoque asegura que, aunque los procesos se ejecuten de forma autónoma, siempre exista una supervisión que garantice el equilibrio y la seguridad de la información corporativa.