6. Introducción a la parte 6: Inteligencia artificial

La inteligencia artificial ha dejado de ser una curiosidad de investigación para convertirse en una capacidad central que las grandes organizaciones están obligadas a implementar con responsabilidad y a gran escala. Esta parte recorre todo el ciclo de vida: cómo decidir dónde conviene aplicar la IA y dónde no, cómo diseñar sistemas de aprendizaje automático que soporten el contacto con el entorno de producción, cómo construir aplicaciones sobre modelos generativos, cómo emplear la IA para mejorar el propio desarrollo de software, cómo cumplir las exigencias de equidad y rendición de cuentas, y cómo gestionar la infraestructura especializada que todo ello requiere. Una idea unifica todos los capítulos: rara vez es el modelo en sí la parte más difícil. Lo difícil es la ingeniería, la gobernanza y la disciplina operativa que lo rodean.

En equipos de gran tamaño, la escala y la inercia elevan la apuesta. Una iniciativa mal planteada puede agotar presupuestos, desviar a ingenieros de gran nivel y erosionar la confianza cuando fracasa ante la mirada de todos. En cambio, una elección acertada puede suprimir tareas rutinarias y extraer conocimientos de datos que hasta ahora quedaban fuera de alcance. Cuando decenas de modelos y cientos de desarrolladores operan a la par, los pequeños hábitos (y los pequeños vacíos de supervisión) se acumulan y determinan el resultado de toda la organización. Por eso las plataformas compartidas, los valores predeterminados y las normas de equipo importan más que cualquier solución brillante en aislamiento.

Los contextos empresarial y gubernamental introducen restricciones más estrictas, y estas atraviesan cada capítulo. Las instituciones públicas deben justificar su gasto, garantizar la transparencia, evitar toda discriminación injusta y dar cuentas tanto a los organismos reguladores como a la ciudadanía. Las normas de contratación pueden prohibir la dependencia de un único proveedor y exigir explicabilidad y salidas de la relación. La legislación emergente, como la Ley de Inteligencia Artificial de la Unión Europea (un marco regulatorio que clasifica los sistemas de IA por niveles de riesgo) y los estándares como el Marco de Gestión de Riesgos de IA del NIST y la ISO/IEC 42001, un estándar certificable para la gestión de la IA, imponen obligaciones graduadas según el nivel de riesgo. En estos entornos, el cumplimiento normativo, la auditaridad, la reproducibilidad y la soberanía de los datos son requisitos de primera magnitud, no añadidos posteriores.

Capítulos de esta parte

6.1 Estrategia y preparación en IA: La disciplina de decidir dónde aplicar la IA, dónde abstenerse, y qué bases de datos, talento y gobernanza deben existir antes de que el primer modelo llegue a producción.
6.2 Ingeniería del aprendizaje automático (MLOps): Aplicar el rigor del software al tripartito de código, datos y modelos, para que los sistemas de aprendizaje automático sean reproducibles, observables y mantenibles, en lugar de prototipos que no pasan de una demostración.
6.3 IA generativa y aplicaciones de modelos de lenguaje: Diseñar aplicaciones fiables alrededor de modelos de lenguaje probabilistas mediante la gestión del contexto, el anclaje por recuperación aumentada, las medidas de contención en tiempo de ejecución que limitan entradas y salidas del modelo, y una evaluación rigurosa.
6.4 Desarrollo de software asistido por IA: Emplear asistentes de codificación con IA para aumentar la capacidad de producción sin comprometer la calidad, a través de normas claras, buenos valores predeterminados, verificación sólida y atención a la seguridad y a la licencia.
6.5 IA responsable y de confianza: Diseñar sistemas que sean equitativos, transparentes, responsables, seguros y respetuosos con la privacidad, y poder demostrar todo ello ante las personas afectadas y ante los reguladores.
6.6 Infraestructura y operaciones de IA: Provisión y funcionamiento, de manera eficiente en costes, fiable y observable, de los aceleradores escasos, el almacenamiento vectorial (sistemas que indexan datos como vectores numéricos para búsqueda por similitud) y las capas de servicio que las cargas de trabajo de IA demandan.
6.7 Agentes y sistemas agentivos de IA: Construir software que emplea un modelo de lenguaje en un bucle con herramientas, memoria y un objetivo para ejecutar acciones, y hacerlo de forma segura mediante autonomía acotada, acceso a herramientas con privilegios mínimos, aprobación humana en el ciclo, medidas de contención frente a la inyección de prompts y evaluación rigurosa de un comportamiento no determinista.
6.8 Evaluación y pruebas de IA: Lograr la confianza en la IA mediante un desarrollo orientado a evaluaciones, conjuntos de evaluación representativos y métricas ajustadas a la tarea, juicio calibrado de un LLM como juez junto a revisión humana, pruebas de intrusión, puertas de regresión en la integración continua, y vigilancia de la calidad y la deriva en producción.
6.9 Ingeniería de prompts y diseño de contexto: Tratar el diseño de prompts como una disciplina de ingeniería, con prompts estructurados, técnicas de few-shot y chain-of-thought, un presupuesto de contexto bien gestionado y una recuperación disciplinada, salida estructurada y llamada a herramientas, y prompts versionados, revisados y evaluados como cualquier otro código.

Cómo se relacionan entre sí los capítulos

Juntos, estos capítulos componen un ciclo que va de la intención a la operación. El capítulo 6.1 establece la estrategia y la preparación: enmarca qué problemas justifican la aplicación de la IA y qué bases deben asentarse primero. El capítulo 6.2 aporta la columna vertebral de ingeniería para el aprendizaje automático clásico, mientras que el 6.3 aborda los patrones propios de los modelos generativos, en los que el comportamiento se moldea con prompts y contexto recuperado en lugar de con una fase de entrenamiento. El capítulo 6.4 vuelca la IA sobre la propia práctica del desarrollo de software, y el capítulo 6.6 provee el sustrato de cómputo, almacenamiento y servicio en el que dependen todos los demás. El capítulo 6.5 no es la última palabra, sino una compañía constante: las obligaciones de una IA responsable condicionan la estrategia, limitan la elección de modelos, actúan como barrera antes del despliegue y orientan las decisiones de infraestructura en todo el recorrido.

El hilo conductor discurre de la estrategia al MLOps, a la IA generativa, al desarrollo asistido por IA, a la IA responsable y a la infraestructura, pero conviene pensar en él como una red, no como una línea recta. El MLOps y la infraestructura comparten preocupaciones en torno a la reproducibilidad, el coste y el servicio, por lo que los capítulos 6.2 y 6.6 se leen mejor de forma conjunta. La IA responsable se remite a la estrategia del capítulo 6.1 y avanza hacia el tratamiento más amplio de la ética y el interés público del capítulo 10.5, y se apoya en las prácticas de privacidad y protección de datos del capítulo 4.5. Los cimientos de ingeniería de toda esta guía sostienen la parte completa: la entrega continua del capítulo 8.1, la observabilidad y la monitorización del capítulo 9.2, la estrategia de pruebas del capítulo 2.4 y la revisión de código del capítulo 2.5 son prerrequisitos para hacer bien la IA. La IA no sustituye una buena ingeniería de software. Eleva la exigencia de acertar en ella.