6.0 Введение к части 6: Искусственный интеллект

Искусственный интеллект прошёл путь от исследовательской новинки до основной возможности, которую от больших организаций теперь ожидают развёртывать ответственно и в масштабе. Эта часть проходит по всему жизненному циклу: решение о том, где ИИ стоит применять, инженерия систем машинного обучения, переживающих встречу с эксплуатацией, построение приложений на генеративных моделях, использование ИИ для помощи в самой разработке программ, выполнение ваших обязательств по справедливости и подотчётности и эксплуатация специализированной инфраструктуры, которой всё это требует. Одна идея связывает каждую главу: модель редко трудная часть. Трудная часть это инженерия, управление и эксплуатационная дисциплина вокруг неё.

Для больших команд масштаб и инерция поднимают ставки. Плохо сформулированная инициатива может сжечь бюджеты, отвлечь опытных инженеров и подорвать доверие, когда провалится на виду. Хорошо выбранная может автоматизировать рутину и выявить озарение из данных, до которых вы никогда не могли добраться. Среди сотен разработчиков и десятков моделей малые привычки и малые пробелы надзора складываются в организационные результаты. Поэтому общие платформы, умолчания и нормы важнее любого одного хитроумного решения.

Корпоративный и государственный контексты добавляют более острые ограничения, и они проходят через каждую главу. Государственные органы должны обосновывать расходы, гарантировать прозрачность, избегать незаконной дискриминации и оставаться подотчётными регуляторам и обществу. Правила закупок могут запрещать привязку к единственному поставщику и требовать объяснимости и вариантов выхода. Возникающее право, например Закон ЕС об ИИ (основанное на уровнях риска регулирование систем ИИ Европейского союза), и стандарты вроде Рамки управления рисками ИИ NIST и ISO/IEC 42001, сертифицируемого стандарта системы менеджмента ИИ, налагают требования, градуированные по риску. В этих условиях соответствие, проверяемость, воспроизводимость и суверенитет данных первоклассные требования, а не запоздалые мысли.

Главы этой части

6.1 Стратегия и готовность к ИИ: Дисциплина решения о том, где применять ИИ, где его избегать и какие фундаменты данных, талантов и управления должны существовать до выхода первой модели в эксплуатацию.
6.2 Инженерия машинного обучения (MLOps): Привнесение программной строгости в трёхчастную реальность кода плюс данных плюс моделей, чтобы системы ML были воспроизводимы, наблюдаемы и сопровождаемы, а не разовыми демонстрациями.
6.3 Генеративный ИИ и приложения на основе LLM: Инженерия надёжных приложений вокруг вероятностных языковых моделей через управление контекстом, заземление поиском (retrieval-augmented), ограничители (проверки во время выполнения, сдерживающие входы и выходы модели) и строгую оценку.
6.4 Разработка программ с помощью ИИ: Использование ИИ-помощников для кодирования, чтобы повысить пропускную способность, не снижая качества, через ясные нормы, хорошие умолчания, сильную проверку и внимание к безопасности и лицензированию.
6.5 Ответственный и надёжный ИИ: Построение систем, которые справедливы, прозрачны, подотчётны, безопасны и уважают приватность, и умение продемонстрировать всё это затронутым людям и регуляторам.
6.6 Инфраструктура и эксплуатация ИИ: Развёртывание и эксплуатация дефицитных ускорителей, векторного хранилища (систем, индексирующих данные как числовые векторы для поиска по сходству) и слоёв обслуживания, которых требуют нагрузки ИИ, экономично, надёжно и наблюдаемо.
6.7 ИИ-агенты и агентные системы: Построение программ, использующих языковую модель в цикле с инструментами, памятью и целью для совершения действий, и делающих это безопасно через ограниченную автономию, доступ к инструментам с наименьшими привилегиями, утверждения с человеком в контуре, ограничители против внедрения через промпты и строгую оценку недетерминированного поведения.
6.8 Оценка и тестирование ИИ: Превращение ИИ в заслуживающий доверия через разработку, управляемую оценками, репрезентативные наборы оценок и метрики, подходящие задаче, калиброванных LLM-судей и человеческую рецензию, «красные команды», барьеры регрессии в непрерывной интеграции и мониторинг качества и дрейфа в эксплуатации.
6.9 Промпт-инженерия и проектирование контекста: Воспринимание промптов как инженерии со структурированными промптами, техниками few-shot и цепочки рассуждений, дисциплинированным бюджетированием контекста и поиском, структурированным выводом и вызовом инструментов, а также промптами, версионируемыми, рецензируемыми и оцениваемыми как код.

Как эти главы связаны между собой

Вместе эти главы образуют жизненный цикл от замысла до эксплуатации. Глава 6.1 задаёт стратегию и готовность, формулируя, какие проблемы вообще оправдывают ИИ и какие фундаменты нужны сначала. Глава 6.2 даёт инженерный хребет для классического машинного обучения, тогда как глава 6.3 охватывает отличные шаблоны генеративных моделей, где поведение формируется промптами и извлечённым контекстом, а не шагом обучения. Глава 6.4 направляет ИИ на мастерство самой разработки программ, а глава 6.6 предоставляет вычислительный, хранильный и обслуживающий субстрат, от которого зависит каждая другая глава. Глава 6.5 намеренно не последнее слово, а постоянный спутник: обязательства ответственного ИИ формируют стратегию, ограничивают выбор модели, управляют развёртыванием и информируют инфраструктурные решения повсюду.

Сквозная линия идёт от стратегии к MLOps, к генеративному ИИ, к разработке с помощью ИИ, к ответственному ИИ и к инфраструктуре, но думайте о ней как о паутине, а не прямой линии. MLOps и инфраструктура разделяют заботы о воспроизводимости, стоимости и обслуживании, поэтому главы 6.2 и 6.6 лучше читать вместе. Ответственный ИИ возвращается к стратегии в главе 6.1 и вперёд к более широкому рассмотрению этики и общественного интереса в главе 10.5 и опирается на практики приватности и защиты данных из главы 4.5. Более широкие инженерные основы этого руководства лежат под всей частью: непрерывная поставка из главы 8.1, наблюдаемость и мониторинг из главы 9.2, стратегия тестирования из главы 2.4 и рецензия кода из главы 2.5 все предпосылки для хорошей работы с ИИ. ИИ не заменяет здравую программную инженерию. Он поднимает ставки на её правильность.