6.0 Giới thiệu Phần 6: Trí tuệ nhân tạo
Trí tuệ nhân tạo đã đi từ một điều mới lạ trong nghiên cứu thành năng lực cốt lõi mà các tổ chức lớn nay được kỳ vọng triển khai có trách nhiệm và ở quy mô lớn. Phần này đi qua toàn bộ vòng đời: quyết định nơi AI đáng áp dụng, xây dựng các hệ thống học máy sống sót được khi chạm vào môi trường sản xuất, xây ứng dụng trên các mô hình sinh tạo, dùng AI để hỗ trợ chính việc phát triển phần mềm, đáp ứng nghĩa vụ về công bằng và trách nhiệm giải trình, và vận hành hạ tầng chuyên dụng mà tất cả những điều này cần. Một ý tưởng gắn kết mọi chương: mô hình hiếm khi là phần khó. Phần khó là kỹ thuật, quản trị và kỷ luật vận hành bao quanh nó.
Với các đội lớn, quy mô và quán tính nâng rủi ro lên. Một sáng kiến được đặt khung tồi có thể đốt ngân sách, làm phân tâm các kỹ sư giỏi, và làm xói mòn niềm tin khi thất bại trước công chúng. Một sáng kiến được chọn tốt có thể tự động hóa việc nhàm chán và làm lộ hiểu biết từ dữ liệu mà trước đây bạn không thể với tới. Qua hàng trăm lập trình viên và hàng chục mô hình, những thói quen nhỏ và khoảng trống nhỏ trong giám sát cộng lại thành kết quả của tổ chức. Đó là lý do nền tảng, mặc định và chuẩn mực dùng chung quan trọng hơn bất kỳ giải pháp thông minh đơn lẻ nào.
Bối cảnh doanh nghiệp và chính phủ thêm các ràng buộc sắc bén hơn, và chúng chạy xuyên mọi chương. Các cơ quan công phải biện minh chi tiêu, bảo đảm minh bạch, tránh phân biệt đối xử trái luật, và chịu trách nhiệm trước cơ quan quản lý và công chúng. Quy tắc mua sắm có thể cấm khóa chặt nhà cung cấp duy nhất và đòi khả năng giải thích cùng lối thoát. Luật mới nổi như Đạo luật AI của EU (quy định của Liên minh châu Âu về hệ thống AI theo bậc rủi ro) và các tiêu chuẩn như Khung Quản lý Rủi ro AI của NIST và ISO/IEC 42001, một tiêu chuẩn hệ thống quản lý AI có thể chứng nhận, áp đặt yêu cầu phân bậc theo rủi ro. Trong các bối cảnh này, tuân thủ, khả năng kiểm toán, khả năng tái lập và chủ quyền dữ liệu là yêu cầu hạng nhất, không phải chuyện nghĩ sau.
Các chương trong phần này
6.1 Chiến lược và mức độ sẵn sàng AI: Kỷ luật quyết định nơi áp dụng AI, nơi tránh nó, và những nền tảng dữ liệu, nhân tài và quản trị nào phải tồn tại trước khi mô hình đầu tiên đến môi trường sản xuất.
6.2 Kỹ thuật học máy (MLOps): Mang sự chặt chẽ của phần mềm vào thực tế ba phần gồm mã cộng dữ liệu cộng mô hình, để các hệ thống ML có thể tái lập, quan sát được và bảo trì được thay vì là các bản demo một lần.
6.3 AI sinh tạo và ứng dụng LLM: Xây dựng ứng dụng đáng tin cậy quanh các mô hình ngôn ngữ xác suất thông qua quản lý ngữ cảnh, neo đất bằng truy xuất tăng cường (retrieval-augmented), lan can (kiểm tra lúc chạy ràng buộc đầu vào và đầu ra của mô hình), và đánh giá nghiêm ngặt.
6.4 Phát triển phần mềm với sự hỗ trợ của AI: Dùng trợ lý lập trình AI để nâng thông lượng mà không hạ chất lượng, thông qua chuẩn mực rõ ràng, mặc định tốt, xác minh mạnh, và chú ý đến bảo mật và cấp phép.
6.5 AI có trách nhiệm và đáng tin cậy: Xây dựng các hệ thống công bằng, minh bạch, có trách nhiệm giải trình, an toàn và tôn trọng quyền riêng tư, và có thể chứng minh tất cả những điều này với những người bị ảnh hưởng và với cơ quan quản lý.
6.6 Hạ tầng và vận hành AI: Cung cấp và vận hành các bộ tăng tốc khan hiếm, kho vector (hệ thống lập chỉ mục dữ liệu dưới dạng vector số để tìm kiếm tương tự), và các tầng phục vụ mà khối lượng công việc AI đòi hỏi, một cách tiết kiệm, đáng tin cậy và quan sát được.
6.7 Tác tử AI và hệ thống tác tử: Xây dựng phần mềm dùng một mô hình ngôn ngữ trong một vòng lặp với công cụ, bộ nhớ và mục tiêu để thực hiện hành động, và làm điều đó an toàn thông qua quyền tự chủ có giới hạn, quyền truy cập công cụ tối thiểu, phê duyệt có con người trong vòng lặp, lan can chống tiêm prompt, và đánh giá nghiêm ngặt hành vi không tất định.
6.8 Đánh giá và kiểm thử AI: Làm AI đáng tin cậy thông qua phát triển dựa trên đánh giá, tập đánh giá đại diện và chỉ số phù hợp nhiệm vụ, LLM-làm-giám-khảo đã hiệu chuẩn và rà soát bởi con người, đội đỏ, cổng hồi quy trong tích hợp liên tục, và giám sát chất lượng cùng độ trôi trong môi trường sản xuất.
6.9 Kỹ thuật prompt và thiết kế ngữ cảnh: Coi việc viết prompt là kỹ thuật, với prompt có cấu trúc, các kỹ thuật few-shot và chuỗi suy luận, lập ngân sách ngữ cảnh và truy xuất có kỷ luật, đầu ra có cấu trúc và gọi công cụ, và prompt được đánh phiên bản, rà soát và đánh giá như mã.
Các chương này liên hệ với nhau thế nào
Cùng nhau các chương này tạo thành một vòng đời chạy từ ý định đến vận hành. Chương 6.1 đặt chiến lược và mức độ sẵn sàng, đóng khung vấn đề nào biện minh cho AI và bạn cần nền tảng gì trước. Chương 6.2 cung cấp xương sống kỹ thuật cho học máy cổ điển, trong khi chương 6.3 bao quát các mẫu riêng biệt của mô hình sinh tạo, nơi hành vi được định hình bởi prompt và ngữ cảnh truy xuất thay vì một bước huấn luyện. Chương 6.4 hướng AI vào chính nghề phát triển phần mềm, và chương 6.6 cung cấp nền tảng tính toán, lưu trữ và phục vụ mà mọi chương khác phụ thuộc. Chương 6.5 cố ý không phải lời cuối cùng mà là người bạn đồng hành thường trực: nghĩa vụ AI có trách nhiệm định hình chiến lược, ràng buộc lựa chọn mô hình, chặn cổng triển khai, và cung cấp thông tin cho các quyết định hạ tầng xuyên suốt.
Mạch xuyên suốt chạy từ chiến lược đến MLOps đến AI sinh tạo đến phát triển có hỗ trợ AI đến AI có trách nhiệm đến hạ tầng, nhưng hãy nghĩ nó như một mạng lưới, không phải một đường thẳng. MLOps và hạ tầng chia sẻ mối quan tâm về khả năng tái lập, chi phí và phục vụ, nên chương 6.2 và chương 6.6 nên được đọc cùng nhau. AI có trách nhiệm nối ngược về chiến lược trong chương 6.1 và nối tới phần bàn rộng hơn về đạo đức và lợi ích công trong chương 10.5, và nó dựa vào thực hành quyền riêng tư và bảo vệ dữ liệu trong chương 4.5. Nền tảng kỹ thuật rộng hơn của cuốn cẩm nang này đỡ toàn bộ phần: phân phối liên tục trong chương 8.1, quan sát và giám sát trong chương 9.2, chiến lược kiểm thử trong chương 2.4, và rà soát mã trong chương 2.5 đều là điều kiện tiên quyết để làm AI tốt. AI không thay thế kỹ thuật phần mềm vững chắc. Nó nâng rủi ro của việc làm đúng.