Lớp hạ tầng đó được gọi là AI Harness. Đây là nền tảng quan trọng giúp AI Agent thực hiện các tác vụ phức tạp, tự kiểm tra kết quả và hoạt động theo những tiêu chuẩn riêng của tổ chức.
Trong bài viết này, HARS sẽ giúp bạn hiểu rõ AI Harness là gì, vai trò của Harness Engineering, 5 thành phần cốt lõi và cách xây dựng AI Harness cho các dự án chuyển đổi số, hiện đại hóa hệ thống doanh nghiệp.
1. AI Harness là gì?
1.1. Định nghĩa AI Harness
AI Harness (hay Agent Harness) là hệ thống các công cụ, ngữ cảnh, quy tắc, cơ chế kiểm chứng và kiểm soát bao quanh mô hình AI, giúp AI Agent thực hiện công việc một cách có định hướng, có thể kiểm tra và đáng tin cậy hơn.
Nếu mô hình AI là thành phần có khả năng suy luận và tạo ra kết quả, AI Harness chính là lớp hạ tầng giúp khả năng đó được sử dụng đúng cách trong môi trường thực tế.
Có thể khái quát mối quan hệ này bằng công thức:
AI Agent = Model + Harness
Trong đó:
- Model: Mô hình AI đảm nhiệm việc suy luận, phân tích thông tin và tạo ra kết quả.
- Harness: Cung cấp ngữ cảnh, công cụ, quyền truy cập, quy trình kiểm tra, trạng thái công việc và các cơ chế kiểm soát.
- AI Agent: Kết hợp khả năng của mô hình với hệ thống vận hành để thực hiện một nhiệm vụ hướng đến mục tiêu cụ thể.
Cần lưu ý rằng đây là công thức khái quát để giải thích vai trò của Harness, không phải định nghĩa kỹ thuật duy nhất cho mọi kiến trúc AI Agent.
1.2. Harness Engineering là gì?
Harness Engineering là quá trình thiết kế, xây dựng, đánh giá và liên tục cải tiến hệ thống Harness để AI Agent hoạt động hiệu quả trong một môi trường cụ thể.
Harness Engineering có mối quan hệ chặt chẽ với Prompt Engineering và Context Engineering, nhưng mỗi lĩnh vực giải quyết một vấn đề khác nhau.
- Prompt Engineering: Làm thế nào để đưa ra chỉ dẫn hiệu quả cho mô hình AI?
- Context Engineering: Làm thế nào để cung cấp đúng thông tin cho AI tại đúng thời điểm?
- Harness Engineering: Làm thế nào để toàn bộ hệ thống AI Agent vận hành, sử dụng công cụ, kiểm chứng kết quả và xử lý rủi ro?
Ba lĩnh vực này bổ trợ cho nhau. Prompt tốt giúp AI hiểu yêu cầu, context tốt giúp AI có đủ thông tin, còn Harness tốt giúp AI thực hiện công việc trong một hệ thống có quy tắc và cơ chế kiểm soát rõ ràng.
1.3. Những đặc điểm quan trọng của AI Harness
Một AI Harness được thiết kế tốt thường có 5 đặc điểm sau:
1. Quản lý toàn bộ môi trường làm việc của AI Agent
Harness không chỉ chứa prompt mà còn quản lý tài liệu, dữ liệu, công cụ, quyền truy cập, bộ nhớ dự án và trạng thái công việc.
2. Định hướng hành vi của AI Agent
Các quy tắc, cấu trúc dữ liệu và tiêu chuẩn kỹ thuật giúp AI thực hiện nhiệm vụ đúng định hướng ngay từ đầu, thay vì chỉ đánh giá kết quả sau khi hoàn thành.
3. Có khả năng kiểm chứng và truy vết
Các hành động quan trọng có thể được ghi nhận thông qua log, lịch sử thay đổi, kết quả kiểm thử và báo cáo thực thi. Nhờ đó, đội ngũ kỹ thuật có cơ sở để kiểm tra và đánh giá hoạt động của AI.
4. Liên tục cải tiến theo lỗi thực tế
Khi AI Agent mắc lỗi, doanh nghiệp có thể bổ sung quy tắc, kiểm thử hoặc cơ chế chặn tương ứng. Những cải tiến này giúp giảm khả năng lặp lại lỗi và tích lũy tri thức vận hành theo thời gian.
5. Được tùy chỉnh theo đặc thù doanh nghiệp
Cùng một mô hình AI có thể tạo ra kết quả khác nhau tùy thuộc vào chất lượng dữ liệu, quy trình, quyền hạn và cơ chế kiểm chứng. Vì vậy, Harness cần phản ánh kiến trúc hệ thống, quy định nghiệp vụ và tiêu chuẩn riêng của từng tổ chức.
1.4. Ví dụ thực tế về AI Harness
Trong phát triển phần mềm: OpenAI đã chia sẻ kinh nghiệm sử dụng Codex trong môi trường phát triển ưu tiên AI Agent. Bài học đáng chú ý là hiệu quả không chỉ phụ thuộc vào năng lực mô hình, mà còn phụ thuộc vào mức độ rõ ràng của môi trường, quy tắc và quy trình kiểm chứng mà agent được cung cấp.
Trong hiện đại hóa hệ thống legacy: Mistral AI mô tả việc sử dụng AI Agent để chuyển đổi một phần hệ thống mô phỏng viết bằng Fortran 77. Thay vì bắt đầu bằng việc viết lại mã nguồn, nhóm xây dựng cơ chế so sánh kết quả giữa hệ thống cũ và hệ thống mới. Cách tiếp cận này giúp kiểm chứng mức độ tương đương về hành vi trong quá trình migration.
Hai ví dụ trên cho thấy AI Harness không chỉ giúp AI tạo ra kết quả mà còn cung cấp cơ sở để xác định kết quả đó có đáp ứng yêu cầu thực tế hay không.
2. Vì sao doanh nghiệp cần AI Harness?
Việc đưa AI Agent vào doanh nghiệp đặt ra những yêu cầu cao hơn một bản demo: kết quả phải nhất quán, dữ liệu phải được bảo vệ, hành động phải nằm trong phạm vi cho phép và sai sót phải được phát hiện trước khi gây ảnh hưởng đến hoạt động kinh doanh.
AI Harness giúp doanh nghiệp giải quyết những yêu cầu này theo 4 hướng chính.
2.1. Đưa AI Agent từ thử nghiệm vào vận hành thực tế
Một AI Agent có thể hoạt động tốt với dữ liệu mẫu nhưng gặp khó khăn khi xử lý dữ liệu thiếu, quy trình ngoại lệ hoặc các hệ thống có nhiều ràng buộc.
AI Harness giúp thu hẹp khoảng cách giữa thử nghiệm và môi trường production bằng cách:
- Cung cấp ngữ cảnh và dữ liệu phù hợp.
- Giới hạn các hành động trong phạm vi được phép.
- Tự động kiểm tra kết quả sau mỗi bước quan trọng.
- Xác định các tình huống cần chuyển cho con người xử lý.
- Ghi nhận lịch sử thực thi để phục vụ kiểm toán và cải tiến.
Nhờ đó, AI Agent có thể được triển khai theo từng giai đoạn với mức độ kiểm soát phù hợp.
2.2. Tăng hiệu quả mà không nhất thiết phải đổi mô hình AI
Khi AI Agent hoạt động kém, nâng cấp mô hình chưa chắc là giải pháp tối ưu đầu tiên.
Nguyên nhân có thể đến từ việc thiếu tài liệu, quyền truy cập không phù hợp, công cụ chưa được cấu hình đúng hoặc không có cơ chế kiểm tra kết quả.
Cải thiện Harness có thể giúp mô hình hiện tại thực hiện nhiệm vụ tốt hơn mà không cần thay đổi model ngay lập tức.
Doanh nghiệp nên đánh giá đồng thời chất lượng mô hình và chất lượng môi trường vận hành trước khi quyết định đầu tư nâng cấp.
2.3. Kiểm soát rủi ro, bảo mật và tuân thủ
Trong ngân hàng, bảo hiểm, sản xuất và khu vực công, một hành động sai của AI Agent có thể gây ra hậu quả lớn hơn nhiều so với một câu trả lời chưa chính xác.
AI Harness hỗ trợ kiểm soát rủi ro thông qua:
- Phân quyền truy cập theo vai trò và nhiệm vụ.
- Giới hạn phạm vi đọc, ghi và chỉnh sửa dữ liệu.
- Kiểm tra đầu vào và đầu ra theo quy tắc nghiệp vụ.
- Ghi nhận lịch sử thao tác để phục vụ kiểm toán.
- Yêu cầu con người phê duyệt những hành động có tác động lớn.
Đặc biệt, các thao tác như cập nhật dữ liệu quan trọng, thay đổi cấu hình hệ thống hoặc triển khai mã nguồn cần có cơ chế phê duyệt tương ứng với mức độ rủi ro.
2.4. Tháo gỡ khó khăn trong các dự án hiện đại hóa hệ thống legacy
Hệ thống legacy thường có tài liệu không đầy đủ, mã nguồn phức tạp và phụ thuộc giữa các module khó nhận diện. Đây là những trở ngại lớn khi doanh nghiệp muốn sử dụng AI để phân tích, tái cấu trúc hoặc chuyển đổi hệ thống.
Theo cách diễn đạt nổi tiếng của Michael Feathers, mã nguồn khó bảo trì thường gắn liền với việc thiếu kiểm thử. Trong thực tế, nhiều hệ thống legacy không có đủ kiểm thử để xác nhận hành vi hiện tại sau mỗi lần thay đổi.
AI Harness giúp giải quyết vấn đề này bằng cách xây dựng bộ kiểm chứng trước khi chỉnh sửa mã nguồn, tạo cơ sở để đánh giá liệu hệ thống mới có duy trì được hành vi nghiệp vụ cần thiết hay không.
Vì vậy, đối với nhiều dự án hiện đại hóa, xây dựng cơ chế kiểm chứng trước khi chuyển đổi mã nguồn là một trong những bước quan trọng nhất.
3. Các loại cơ chế kiểm soát trong AI Harness
Một AI Harness hiệu quả cần kết hợp cơ chế định hướng trước khi AI hành động với cơ chế kiểm tra sau khi hành động. Đồng thời, việc kiểm soát có thể dựa trên quy tắc xác định trước hoặc sử dụng AI để đánh giá.
Có thể phân loại các cơ chế này theo hai trục: thời điểm tác động và phương pháp kiểm tra.
| Cơ chế | Kiểm soát xác định trước (deterministic) | Đánh giá bằng AI (inferential) |
|---|---|---|
| Định hướng trước hành động (feedforward) | Template dự án, cấu trúc thư mục, schema dữ liệu, quy tắc phân quyền | Tài liệu AGENTS.md, coding convention, Skills, hướng dẫn kiến trúc |
| Kiểm tra sau hành động (feedback) | Unit test, linter, type checker, kiểm tra ranh giới module, CI/CD | Agent reviewer, LLM-as-judge, đánh giá chất lượng đầu ra bằng mô hình AI |
Cơ chế deterministic phù hợp với những yêu cầu có thể biểu diễn thành quy tắc rõ ràng và kiểm tra tự động, chẳng hạn như kiểu dữ liệu, kết quả kiểm thử hoặc giới hạn quyền truy cập.
Cơ chế inferential hữu ích với những tiêu chí khó mô tả hoàn toàn bằng quy tắc cố định, chẳng hạn như chất lượng tài liệu, mức độ hợp lý của thiết kế hoặc tính đầy đủ của phân tích.
Tuy nhiên, đánh giá bằng AI không thay thế được các kiểm tra xác định trước. Một agent reviewer vẫn có thể bỏ sót lỗi hoặc đưa ra nhận định sai.
Cách tiếp cận hiệu quả là kết hợp cả bốn nhóm cơ chế: hướng dẫn rõ ràng trước khi thực thi, kiểm tra tự động sau khi thực thi, sử dụng AI để đánh giá những khía cạnh phức tạp và yêu cầu con người xử lý các quyết định có rủi ro cao.
4. 5 thành phần cốt lõi của một AI Harness
Một AI Harness dành cho doanh nghiệp thường bao gồm 5 nhóm thành phần quan trọng.
4.1. Context – Ngữ cảnh và tri thức
Context cung cấp cho AI Agent những thông tin cần thiết để thực hiện nhiệm vụ, bao gồm:
- Tài liệu kiến trúc và sơ đồ hệ thống.
- Quyết định thiết kế và quy ước lập trình.
- Quy trình nghiệp vụ và chính sách nội bộ.
- Dữ liệu đầu vào cùng các giới hạn liên quan.
- Hướng dẫn xử lý ngoại lệ.
Ngữ cảnh không nên được xây dựng bằng cách đưa toàn bộ tài liệu vào mô hình một cách thiếu chọn lọc. Tài liệu cần ngắn gọn, có cấu trúc, cập nhật và dễ truy xuất.
Mục tiêu là giúp agent tìm đúng thông tin cần thiết tại đúng thời điểm.
4.2. Tools & Permissions – Công cụ và quyền hạn
Công cụ cho phép AI Agent tương tác với hệ thống bên ngoài, chẳng hạn như đọc tệp, truy vấn cơ sở dữ liệu, chạy kiểm thử, gọi API hoặc tạo yêu cầu phê duyệt.
Quyền hạn xác định agent được phép thực hiện những hành động nào.
Một Harness tốt cần áp dụng nguyên tắc quyền tối thiểu: chỉ cấp cho agent những quyền cần thiết để hoàn thành nhiệm vụ. Các thao tác có tác động lớn cần được giới hạn, ghi nhận và kiểm soát phù hợp.
4.3. Verification – Kiểm chứng kết quả
Verification là thành phần giúp xác định đầu ra của AI Agent có đáp ứng yêu cầu hay không.
Các cơ chế kiểm chứng phổ biến gồm:
- Unit test và integration test.
- Kiểm tra kiểu dữ liệu và chất lượng mã nguồn.
- Build và CI/CD pipeline.
- Kiểm tra quy tắc kiến trúc.
- Characterization test ghi nhận hành vi hiện tại.
- Parity harness so sánh kết quả giữa hệ thống cũ và mới.
Trong dự án hiện đại hóa, đây là thành phần đặc biệt quan trọng vì mã nguồn được chuyển đổi có thể trông hợp lý nhưng vẫn làm thay đổi hành vi nghiệp vụ.
4.4. Memory & State – Bộ nhớ và trạng thái
Memory và State giúp AI Agent duy trì tiến độ, quyết định và thông tin cần thiết giữa các bước hoặc các phiên làm việc.
Thành phần này có thể lưu trữ:
- Nhiệm vụ đã hoàn thành và đang thực hiện.
- Quyết định kỹ thuật đã được thống nhất.
- Các lỗi đã gặp và cách xử lý.
- Trạng thái kiểm thử và kết quả gần nhất.
- Công việc tiếp theo cùng các phụ thuộc.
Bộ nhớ cần được quản lý có chủ đích, tránh lưu thông tin lỗi thời, dữ liệu không cần thiết hoặc thông tin nhạy cảm vượt quá phạm vi cho phép.
4.5. Observability & Human Gates – Khả năng quan sát và điểm phê duyệt
Observability giúp đội ngũ vận hành theo dõi hành vi của AI Agent thông qua log, metric, trace và lịch sử thay đổi.
Human gates là những điểm dừng yêu cầu con người xác nhận trước khi agent tiếp tục hoặc thực hiện hành động quan trọng.
Ví dụ, AI có thể tự phân tích mã nguồn và đề xuất phương án migration, nhưng việc triển khai lên môi trường production vẫn phải tuân thủ quy trình phê duyệt của doanh nghiệp.
Sự kết hợp giữa khả năng quan sát và cơ chế phê duyệt giúp tăng tính minh bạch, hỗ trợ truy vết và giảm rủi ro khi AI tham gia vào quy trình vận hành.
5. 5 bước xây dựng AI Harness cho dự án hiện đại hóa hệ thống
Đối với các dự án chuyển đổi và hiện đại hóa hệ thống legacy, doanh nghiệp nên xây dựng AI Harness theo từng giai đoạn, bắt đầu từ khả năng kiểm chứng thay vì cố gắng tự động hóa toàn bộ ngay từ đầu.
Bước 1. Làm cho hệ thống legacy có thể quan sát và kiểm thử
Trước khi chỉnh sửa mã nguồn, cần hiểu hệ thống đang hoạt động như thế nào.
Doanh nghiệp nên:
- Thiết lập môi trường kiểm thử có khả năng tái tạo.
- Thu thập log và các kết quả đầu ra quan trọng.
- Sử dụng AI Agent hỗ trợ phân tích mã nguồn.
- Xây dựng tài liệu kiến trúc và sơ đồ phụ thuộc.
- Đối chiếu tài liệu do AI tạo với mã nguồn và kết quả thực tế.
Mục tiêu là tạo được bức tranh đủ rõ về hệ thống hiện tại để làm cơ sở cho các bước tiếp theo.
Bước 2. Xây dựng lưới an toàn trước khi thay đổi mã nguồn
Sau khi hiểu hệ thống, bước tiếp theo là xây dựng các cơ chế kiểm chứng hành vi hiện tại.
Có thể sử dụng characterization test để ghi nhận cách hệ thống phản hồi với các đầu vào cụ thể, hoặc parity harness để so sánh kết quả giữa phiên bản cũ và phiên bản mới.
Ví dụ, khi chuyển đổi một module tính toán từ ngôn ngữ lập trình cũ sang ngôn ngữ mới, doanh nghiệp có thể chạy cùng bộ dữ liệu đầu vào trên cả hai phiên bản và so sánh đầu ra theo các tiêu chí đã xác định.
Nếu kết quả khác nhau, nhóm dự án cần phân tích nguyên nhân trước khi xác nhận hoàn thành.
Lưu ý rằng kiểm tra tính tương đương không có nghĩa mọi khác biệt đều là lỗi. Với những thay đổi nghiệp vụ đã được phê duyệt, tiêu chí kiểm chứng cần phản ánh yêu cầu mới thay vì mặc định sao chép mọi hành vi cũ.
Bước 3. Thiết lập các rào chắn kiến trúc và bảo mật
Những nguyên tắc kiến trúc quan trọng nên được chuyển thành quy tắc kiểm tra tự động.
Ví dụ:
- Module nghiệp vụ không được truy cập trực tiếp vào các thành phần bị hạn chế.
- Quy tắc phân quyền phải được duy trì.
- Các phụ thuộc không hợp lệ bị chặn.
- Mã nguồn phải vượt qua kiểm tra bảo mật và chất lượng.
- Những thay đổi quan trọng cần có phê duyệt.
Các kiểm tra này có thể được tích hợp vào hook, pipeline CI hoặc quy trình review để phát hiện vi phạm sớm.
Mục tiêu là giảm phụ thuộc vào việc AI luôn nhớ và tuân thủ mọi hướng dẫn bằng ngôn ngữ tự nhiên.
Bước 4. Chia nhỏ nhiệm vụ và phân tách vai trò AI Agent
Thay vì giao toàn bộ hệ thống cho một agent xử lý, doanh nghiệp nên chia dự án thành những phần việc có phạm vi và tiêu chí hoàn thành rõ ràng.
Một quy trình có thể phân chia thành ba vai trò:
- Planner: Phân tích yêu cầu, lập kế hoạch và xác định phạm vi thay đổi.
- Generator: Thực hiện chuyển đổi hoặc tạo mã nguồn.
- Evaluator: Kiểm tra kết quả, chạy các bộ kiểm thử và đánh giá mức độ đáp ứng yêu cầu.
Việc phân tách vai trò giúp tổ chức quy trình rõ ràng hơn, nhưng không tự động bảo đảm chất lượng cao hơn. Agent đánh giá độc lập vẫn cần được hỗ trợ bởi các kiểm thử xác định trước và cơ chế review phù hợp.
Mỗi nhiệm vụ nên có đầu vào, đầu ra, giới hạn thay đổi và điều kiện nghiệm thu cụ thể.
Bước 5. Thiết lập vòng lặp cải tiến liên tục
AI Harness không phải hệ thống được xây dựng một lần rồi giữ nguyên mãi mãi.
Doanh nghiệp cần vận hành một vòng lặp cải tiến:
- 1Giao nhiệm vụ thực tế cho AI Agent.
- 2Thu thập kết quả, log và các trường hợp thất bại.
- 3Phân loại nguyên nhân: thiếu ngữ cảnh, lỗi công cụ, lỗi quyền hạn, thiếu kiểm thử hay lỗi suy luận.
- 4Bổ sung quy tắc, tài liệu hoặc cơ chế kiểm chứng phù hợp.
- 5Chạy lại kiểm thử hồi quy và đánh giá hiệu quả cải tiến.
Khi được thực hiện nhất quán, quy trình này giúp chuyển kinh nghiệm xử lý lỗi thành tri thức có thể tái sử dụng cho các dự án sau.
6. Công cụ và giải pháp xây dựng AI Harness
Doanh nghiệp có thể kết hợp công cụ AI Agent hiện có với hệ thống kiểm chứng, giám sát và quản trị nội bộ để xây dựng Harness phù hợp với nhu cầu thực tế.
6.1. Công cụ phát triển AI Agent
Một số công cụ được sử dụng trong phát triển phần mềm có hỗ trợ những thành phần vận hành agent, chẳng hạn như:
- Claude Code.
- OpenAI Codex.
- Cursor.
- Cline.
- Aider.
Các công cụ này có khả năng khác nhau về cách quản lý ngữ cảnh, sử dụng công cụ, thực thi tác vụ và kiểm tra kết quả. Doanh nghiệp cần đánh giá tính năng cụ thể của từng công cụ trước khi lựa chọn.
Bên cạnh Harness tích hợp sẵn, tổ chức có thể xây dựng thêm lớp kiểm soát bên ngoài thông qua các tệp hướng dẫn như AGENTS.md, Skills, hooks, MCP và các quy trình nội bộ.
6.2. Công cụ kiểm chứng và giám sát
Những thành phần thường được sử dụng gồm:
- CI/CD pipeline để tự động hóa kiểm tra và triển khai.
- Linter và type checker để phát hiện lỗi mã nguồn.
- Unit test, integration test và property-based testing.
- Công cụ kiểm tra ranh giới kiến trúc như ArchUnit trong các hệ sinh thái phù hợp.
- Nền tảng quản lý log, metric và trace.
- Hệ thống quản lý phiên bản và review thay đổi.
Điểm quan trọng không phải là sử dụng càng nhiều công cụ càng tốt, mà là xây dựng được một quy trình kiểm chứng nhất quán và phù hợp với mức độ rủi ro của dự án.
6.3. Nền tảng cho các dự án migration quy mô lớn
Với các hệ thống lớn, nhiều module và nhiều nhóm chuyên môn, doanh nghiệp có thể cân nhắc kiến trúc phối hợp nhiều agent.
Red Hat đã giới thiệu hướng tiếp cận agent mesh trên OpenShift AI, trong đó các agent chuyên biệt có thể phối hợp trong những nhiệm vụ như phân tích hệ thống cũ, hỗ trợ tạo mã nguồn, lập kế hoạch và theo dõi tiến độ.
Mô hình này có thể hữu ích khi dự án cần chia nhỏ công việc và điều phối nhiều luồng thực thi. Tuy nhiên, hiệu quả thực tế vẫn phụ thuộc vào cơ chế quản lý trạng thái, quyền hạn, kiểm chứng và điều phối giữa các agent.
7. HARS – Giải pháp ứng dụng AI được cá thể hóa theo doanh nghiệp
Công nghệ và công cụ chỉ là một phần của quá trình triển khai AI. Để AI Agent thực sự tạo ra giá trị, doanh nghiệp cần kết nối năng lực AI với quy trình nghiệp vụ, tri thức tổ chức, tiêu chuẩn vận hành và mục tiêu kinh doanh.
Đây cũng là định hướng của HARS (Human and AI Resource Solution) trong việc phát triển các giải pháp ứng dụng AI được chuẩn hóa và cá thể hóa theo đặc thù từng doanh nghiệp.
Thay vì chỉ tập trung vào việc đưa một mô hình AI vào sử dụng, doanh nghiệp cần xác định AI sẽ hỗ trợ bộ phận nào, thực hiện nhiệm vụ gì, được phép truy cập dữ liệu nào và kết quả được kiểm tra ra sao.
Kimmy – Nhân sự số hỗ trợ hoạt động doanh nghiệp
Kimmy được định hướng như một nhân sự số ứng dụng AI, hỗ trợ các khối nghiệp vụ ở nhiều cấp độ trong tổ chức, từ nhân viên đến quản lý và lãnh đạo.
Khi được triển khai cùng quy trình và cơ chế kiểm soát phù hợp, AI có thể hỗ trợ xử lý thông tin, chuẩn hóa tác vụ và nâng cao hiệu quả công việc.
Định hướng sản phẩm và danh mục giải pháp HARS
Doanh nghiệp có thể tìm hiểu định hướng sản phẩm và danh mục giải pháp từ A–Z của HARS để xác định các cơ hội ứng dụng AI phù hợp với từng khối nghiệp vụ.
Để lựa chọn giải pháp hiệu quả, cần đánh giá đồng thời bài toán kinh doanh, dữ liệu hiện có, mức độ sẵn sàng của hệ thống và yêu cầu quản trị AI.
Tìm hiểu thêm:
- Kiến thức ngành từ HARS.
- Định hướng sản phẩm và danh mục sản phẩm HARS.
- Giải pháp AI được cá thể hóa theo nhu cầu doanh nghiệp.
8. Những lưu ý quan trọng khi triển khai AI Harness
Để tránh đầu tư vào một hệ thống phức tạp nhưng không tạo ra hiệu quả tương xứng, doanh nghiệp nên lưu ý 5 nguyên tắc sau.
8.1. Bắt đầu từ lỗi thực tế, không thiết kế quá mức
Không cần xây dựng một Harness hoàn chỉnh cho mọi tình huống ngay từ đầu. Hãy bắt đầu bằng một phạm vi công việc nhỏ, xác định các lỗi phổ biến và bổ sung cơ chế kiểm soát dựa trên bằng chứng thực tế.
8.2. Giữ ngữ cảnh ngắn gọn và cập nhật
Cung cấp nhiều thông tin hơn không phải lúc nào cũng tốt hơn. Tài liệu dành cho agent cần được tổ chức theo nhiệm vụ, ưu tiên thông tin quan trọng và loại bỏ những hướng dẫn lỗi thời hoặc trùng lặp.
8.3. Không phụ thuộc hoàn toàn vào khả năng tự đánh giá của AI
Một agent có thể bỏ sót lỗi hoặc đánh giá quá cao chất lượng đầu ra của chính mình. Doanh nghiệp nên kết hợp đánh giá độc lập, kiểm thử tự động và review của con người đối với các quyết định quan trọng.
8.4. Duy trì sự giám sát của con người đối với hệ thống quan trọng
Những thao tác có ảnh hưởng lớn hoặc khó đảo ngược cần có điểm phê duyệt rõ ràng. Mức độ giám sát nên tương ứng với rủi ro, thay vì yêu cầu con người kiểm tra thủ công mọi tác vụ nhỏ.
8.5. Rà soát và cập nhật Harness định kỳ
Khi mô hình, công cụ và quy trình thay đổi, một số quy tắc cũ có thể trở nên không còn phù hợp. Doanh nghiệp cần kiểm tra định kỳ để loại bỏ rào chắn dư thừa, cập nhật tiêu chuẩn và bảo đảm các cơ chế kiểm soát vẫn hoạt động hiệu quả.
9. Kết luận: AI Harness là nền tảng để AI Agent tạo ra giá trị bền vững
AI Harness là gì? Đây không chỉ là một thuật ngữ kỹ thuật, mà là cách tiếp cận giúp doanh nghiệp xây dựng môi trường vận hành có kiểm soát cho AI Agent.
Một mô hình AI có năng lực tốt vẫn có thể tạo ra kết quả thiếu tin cậy nếu không được cung cấp đúng ngữ cảnh, không có quyền hạn phù hợp hoặc thiếu cơ chế kiểm chứng. Ngược lại, một Harness được thiết kế tốt có thể giúp doanh nghiệp tận dụng hiệu quả hơn năng lực của mô hình, giảm rủi ro và chuẩn hóa quy trình triển khai AI.
Đối với các dự án chuyển đổi số và hiện đại hóa hệ thống legacy, nguyên tắc quan trọng là xây dựng khả năng quan sát, kiểm thử và kiểm soát trước khi mở rộng phạm vi tự động hóa.
Trong dài hạn, lợi thế cạnh tranh không chỉ nằm ở việc doanh nghiệp sử dụng mô hình AI nào, mà còn ở cách tổ chức tích hợp AI với dữ liệu, quy trình, tri thức và tiêu chuẩn vận hành riêng.
Doanh nghiệp của bạn đã sẵn sàng ứng dụng AI?
HARS đồng hành cùng doanh nghiệp trong quá trình tìm hiểu, định hướng và triển khai giải pháp AI phù hợp với nhu cầu thực tế.
Đăng ký khảo sát AI miễn phí cùng HARS để bước đầu đánh giá cơ hội ứng dụng AI trong doanh nghiệp, hoặc liên hệ đội ngũ chuyên gia để được tư vấn.
- Hotline/Zalo: 0365 599 599
- Thương hiệu: HARS – Human and AI Resource Solution
Hãy bắt đầu từ đúng bài toán kinh doanh, xây dựng cơ chế kiểm soát phù hợp và từng bước đưa AI Agent vào vận hành thực tế.
That infrastructure layer is called an AI Harness. It is the foundation that allows AI agents to carry out complex tasks, check their own results and operate according to each organization's own standards.
In this article, HARS explains what an AI Harness is, the role of Harness Engineering, its 5 core components and how to build an AI Harness for digital transformation and enterprise system modernization projects.
1. What Is an AI Harness?
1.1. Defining the AI Harness
An AI Harness (or Agent Harness) is the system of tools, context, rules, verification and control mechanisms that surrounds an AI model, helping an AI agent carry out work in a more directed, verifiable and reliable way.
If the AI model is the component that reasons and produces results, the AI Harness is the infrastructure layer that ensures this capability is used correctly in a real-world environment.
The relationship can be summarized with a simple formula:
AI Agent = Model + Harness
Where:
- Model: The AI model handles reasoning, analyzes information and produces results.
- Harness: Provides context, tools, access rights, review workflows, task state and control mechanisms.
- AI Agent: Combines the model's capabilities with an operating system around it to complete a task toward a specific goal.
Note that this is a simplified formula to explain the role of the Harness, not the only technical definition for every AI agent architecture.
1.2. What Is Harness Engineering?
Harness Engineering is the process of designing, building, evaluating and continuously improving the Harness so that an AI agent works effectively in a specific environment.
Harness Engineering is closely related to Prompt Engineering and Context Engineering, but each discipline solves a different problem.
- Prompt Engineering: How do you give an AI model effective instructions?
- Context Engineering: How do you give the AI the right information at the right time?
- Harness Engineering: How do you make the whole AI agent system operate, use tools, verify results and handle risk?
The three disciplines complement each other. A good prompt helps the AI understand the request, good context gives it enough information, and a good Harness lets it do the work inside a system with clear rules and controls.
1.3. Key Characteristics of an AI Harness
A well-designed AI Harness usually has the following 5 characteristics:
1. It manages the AI agent's entire working environment
A Harness does not just hold prompts; it also manages documents, data, tools, access rights, project memory and task state.
2. It steers the AI agent's behavior
Rules, data structures and technical standards help the AI carry out tasks in the right direction from the start, instead of only judging the result after it is finished.
3. It is verifiable and traceable
Important actions can be recorded through logs, change history, test results and execution reports. This gives the technical team a basis to review and evaluate what the AI has done.
4. It improves continuously from real errors
When an AI agent makes a mistake, the business can add a matching rule, test or blocking mechanism. These improvements reduce the chance of the same error recurring and build up operational knowledge over time.
5. It is tailored to the business
The same AI model can produce different results depending on the quality of data, processes, permissions and verification. A Harness therefore needs to reflect each organization's system architecture, business rules and standards.
1.4. Real-World Examples of an AI Harness
In software development: OpenAI has shared its experience using Codex in an agent-first development environment. A key lesson is that effectiveness depends not only on the model's capability, but also on how clearly the environment, rules and verification workflow given to the agent are defined.
In legacy system modernization: Mistral AI described using AI agents to convert part of a simulation system written in Fortran 77. Instead of starting by rewriting the code, the team built a mechanism to compare results between the old and new systems. This approach made it possible to verify behavioral equivalence throughout the migration.
Both examples show that an AI Harness does not just help AI produce results; it also provides a basis for deciding whether those results meet real requirements.
2. Why Do Businesses Need an AI Harness?
Bringing AI agents into a business sets a higher bar than a demo: results must be consistent, data must be protected, actions must stay within permitted limits, and errors must be caught before they affect business operations.
An AI Harness helps businesses meet these requirements in 4 main ways.
2.1. Moving AI Agents from Pilots into Real Operations
An AI agent may work well with sample data but struggle with missing data, exceptional processes or systems with many constraints.
An AI Harness narrows the gap between pilot and production by:
- Providing the right context and data.
- Limiting actions to what is permitted.
- Automatically checking results after each important step.
- Identifying situations that should be handed over to a person.
- Recording execution history for audits and improvement.
As a result, AI agents can be rolled out in stages with an appropriate level of control.
2.2. Improving Performance Without Necessarily Changing the AI Model
When an AI agent performs poorly, upgrading the model is not always the best first fix.
The cause may be missing documentation, inappropriate access rights, tools that are not configured correctly, or no mechanism to check results.
Improving the Harness can help the current model perform better without changing the model right away.
Businesses should evaluate both the quality of the model and the quality of its operating environment before deciding to invest in an upgrade.
2.3. Controlling Risk, Security and Compliance
In banking, insurance, manufacturing and the public sector, a wrong action by an AI agent can have far greater consequences than an inaccurate answer.
An AI Harness supports risk control through:
- Role- and task-based access control.
- Limits on what data can be read, written and edited.
- Checking inputs and outputs against business rules.
- Recording action history for audits.
- Requiring human approval for high-impact actions.
In particular, actions such as updating critical data, changing system configuration or deploying code need approval mechanisms that match their level of risk.
2.4. Removing Obstacles in Legacy System Modernization Projects
Legacy systems often have incomplete documentation, complex code and dependencies between modules that are hard to identify. These are major obstacles when a business wants to use AI to analyze, refactor or migrate a system.
As Michael Feathers famously put it, hard-to-maintain code is closely tied to a lack of tests. In practice, many legacy systems do not have enough tests to confirm their current behavior after each change.
An AI Harness addresses this by building a verification suite before the code is modified, creating a basis for judging whether the new system preserves the required business behavior.
That is why, for many modernization projects, building verification before converting the code is one of the most important steps.
3. Types of Control Mechanisms in an AI Harness
An effective AI Harness combines mechanisms that guide the AI before it acts with mechanisms that check its work afterwards. Control can also rely on predefined rules or on AI-based evaluation.
These mechanisms can be classified along two axes: when they act and how they check.
| Mechanism | Predefined control (deterministic) | AI-based evaluation (inferential) |
|---|---|---|
| Guidance before action (feedforward) | Project templates, folder structure, data schemas, access rules | AGENTS.md files, coding conventions, Skills, architecture guidelines |
| Checks after action (feedback) | Unit tests, linters, type checkers, module boundary checks, CI/CD | Reviewer agents, LLM-as-judge, AI-based output quality evaluation |
Deterministic mechanisms suit requirements that can be expressed as clear rules and checked automatically, such as data types, test results or access limits.
Inferential mechanisms are useful for criteria that are hard to capture fully with fixed rules, such as documentation quality, how sound a design is, or how complete an analysis is.
However, AI-based evaluation cannot replace predefined checks. A reviewer agent can still miss errors or make wrong judgments.
The effective approach combines all four groups: clear guidance before execution, automated checks after execution, AI evaluation for complex aspects, and human handling of high-risk decisions.
4. The 5 Core Components of an AI Harness
An enterprise AI Harness usually includes 5 key groups of components.
4.1. Context – Information and Knowledge
Context gives the AI agent the information it needs to carry out a task, including:
- Architecture documents and system diagrams.
- Design decisions and coding conventions.
- Business processes and internal policies.
- Input data and its limitations.
- Guidance for handling exceptions.
Context should not be built by feeding every document into the model indiscriminately. Documents need to be concise, structured, up to date and easy to retrieve.
The goal is to help the agent find the right information at the right moment.
4.2. Tools & Permissions
Tools let the AI agent interact with external systems, for example reading files, querying databases, running tests, calling APIs or creating approval requests.
Permissions define which actions the agent is allowed to take.
A good Harness applies the principle of least privilege: the agent is only given the permissions it needs to complete its task. High-impact actions should be limited, recorded and appropriately controlled.
4.3. Verification – Checking Results
Verification is the component that determines whether the AI agent's output meets requirements.
Common verification mechanisms include:
- Unit tests and integration tests.
- Data type and code quality checks.
- Builds and CI/CD pipelines.
- Architecture rule checks.
- Characterization tests that capture current behavior.
- Parity harnesses that compare results between the old and new systems.
In modernization projects this component is especially important, because converted code can look reasonable while still changing business behavior.
4.4. Memory & State
Memory and State help the AI agent keep track of progress, decisions and essential information across steps or working sessions.
This component can store:
- Tasks completed and in progress.
- Technical decisions that have been agreed.
- Errors encountered and how they were handled.
- Test status and the latest results.
- Next tasks and their dependencies.
Memory needs deliberate management to avoid keeping outdated information, unnecessary data or sensitive information beyond the permitted scope.
4.5. Observability & Human Gates
Observability lets the operations team monitor the AI agent's behavior through logs, metrics, traces and change history.
Human gates are checkpoints that require a person to confirm before the agent continues or takes an important action.
For example, AI can analyze the code on its own and propose a migration plan, but deploying to production must still follow the business's approval process.
Combining observability with approval mechanisms increases transparency, supports traceability and reduces risk when AI takes part in operational processes.
5. 5 Steps to Build an AI Harness for a System Modernization Project
For legacy system transformation and modernization projects, businesses should build an AI Harness in stages, starting from verification rather than trying to automate everything at once.
Step 1. Make the legacy system observable and testable
Before changing any code, you need to understand how the system currently behaves.
Businesses should:
- Set up a reproducible test environment.
- Collect logs and key outputs.
- Use AI agents to help analyze the code.
- Build architecture documentation and dependency diagrams.
- Cross-check AI-generated documentation against the code and actual results.
The goal is a clear enough picture of the current system to serve as the basis for the next steps.
Step 2. Build a safety net before changing the code
Once you understand the system, the next step is to build mechanisms that verify its current behavior.
You can use characterization tests to record how the system responds to specific inputs, or a parity harness to compare results between the old and new versions.
For example, when migrating a calculation module from an old programming language to a new one, the business can run the same input data through both versions and compare outputs against agreed criteria.
If the results differ, the project team needs to analyze the cause before signing off.
Note that checking equivalence does not mean every difference is a bug. For business changes that have been approved, the verification criteria should reflect the new requirements rather than copying every old behavior by default.
Step 3. Set up architecture and security guardrails
Important architecture principles should be turned into automated checks.
For example:
- Business modules must not access restricted components directly.
- Access rules must be preserved.
- Invalid dependencies are blocked.
- Code must pass security and quality checks.
- Important changes require approval.
These checks can be built into hooks, CI pipelines or review workflows to catch violations early.
The goal is to rely less on the AI always remembering and following every natural-language instruction.
Step 4. Break tasks down and separate AI agent roles
Instead of handing the whole system to a single agent, businesses should split the project into pieces of work with a clear scope and clear completion criteria.
A workflow can be divided into three roles:
- Planner: Analyzes requirements, plans the work and defines the scope of change.
- Generator: Carries out the conversion or generates code.
- Evaluator: Checks the results, runs the test suites and assesses how well the requirements are met.
Separating roles makes the workflow clearer, but it does not automatically guarantee higher quality. An independent evaluator agent still needs the support of predefined tests and an appropriate review process.
Each task should have specific inputs, outputs, change limits and acceptance criteria.
Step 5. Set up a continuous improvement loop
An AI Harness is not a system you build once and leave unchanged forever.
Businesses need to run an improvement loop:
- 1Give the AI agent real tasks.
- 2Collect results, logs and failure cases.
- 3Classify the cause: missing context, tool error, permission error, missing tests or reasoning error.
- 4Add the appropriate rules, documentation or verification.
- 5Rerun regression tests and evaluate the effect of the improvement.
Applied consistently, this process turns experience in handling errors into knowledge that can be reused in later projects.
6. Tools and Solutions for Building an AI Harness
Businesses can combine existing AI agent tools with internal verification, monitoring and governance systems to build a Harness that fits their real needs.
6.1. AI Agent Development Tools
Several tools used in software development support agent operating components, such as:
- Claude Code.
- OpenAI Codex.
- Cursor.
- Cline.
- Aider.
These tools differ in how they manage context, use tools, execute tasks and check results. Businesses should evaluate the specific features of each tool before choosing.
Alongside the built-in Harness, organizations can add an external control layer through instruction files such as AGENTS.md, Skills, hooks, MCP and internal processes.
6.2. Verification and Monitoring Tools
Commonly used components include:
- CI/CD pipelines to automate checks and deployments.
- Linters and type checkers to catch code errors.
- Unit tests, integration tests and property-based testing.
- Architecture boundary checking tools such as ArchUnit in suitable ecosystems.
- Platforms for managing logs, metrics and traces.
- Version control and change review systems.
What matters is not using as many tools as possible, but building a consistent verification process that matches the project's level of risk.
6.3. Platforms for Large-Scale Migration Projects
For large systems with many modules and many specialist teams, businesses can consider a multi-agent architecture.
Red Hat has introduced an agent mesh approach on OpenShift AI, in which specialized agents can collaborate on tasks such as analyzing legacy systems, assisting with code generation, planning and tracking progress.
This model can be useful when a project needs to split up work and coordinate many execution streams. However, its real effectiveness still depends on how state, permissions, verification and coordination between agents are managed.
7. HARS – AI Solutions Personalized for Each Business
Technology and tools are only part of an AI rollout. For AI agents to create real value, businesses need to connect AI capabilities with business processes, organizational knowledge, operating standards and business goals.
This is also the direction of HARS (Human and AI Resource Solution) in developing AI application solutions that are standardized and personalized to each business's specifics.
Rather than focusing only on putting an AI model into use, businesses need to define which department the AI will support, what tasks it will perform, which data it may access and how its results will be checked.
Kimmy – A Digital Workforce Supporting Business Operations
Kimmy is designed as an AI-powered digital workforce that supports business functions at every level of the organization, from staff to managers and leaders.
When deployed with suitable processes and controls, AI can help process information, standardize tasks and improve work efficiency.
HARS Product Direction and Solution Catalog
Businesses can explore HARS's product direction and A–Z solution catalog to identify AI opportunities that fit each business function.
To choose an effective solution, you need to assess the business problem, the available data, the readiness of your systems and your AI governance requirements together.
Learn more:
- Industry insights from HARS.
- HARS product direction and product catalog.
- AI solutions personalized to your business needs.
8. Important Considerations When Implementing an AI Harness
To avoid investing in a complex system that does not deliver matching value, businesses should keep the following 5 principles in mind.
8.1. Start from real errors, don't over-engineer
You do not need a complete Harness for every situation from day one. Start with a small scope of work, identify common errors and add controls based on real evidence.
8.2. Keep context concise and up to date
More information is not always better. Documentation for agents should be organized by task, prioritize important information and remove outdated or duplicated instructions.
8.3. Don't rely entirely on the AI's ability to evaluate itself
An agent may miss errors or overrate the quality of its own output. Businesses should combine independent evaluation, automated testing and human review for important decisions.
8.4. Keep human oversight of critical systems
High-impact or hard-to-reverse actions need clear approval points. The level of oversight should match the risk, instead of requiring people to manually check every small task.
8.5. Review and update the Harness regularly
As models, tools and processes change, some old rules may no longer fit. Businesses need regular reviews to remove redundant guardrails, update standards and make sure controls are still working effectively.
9. Conclusion: An AI Harness Is the Foundation for AI Agents to Create Lasting Value
What is an AI Harness? It is not just a technical term, but an approach that helps businesses build a controlled operating environment for AI agents.
A capable AI model can still produce unreliable results if it is not given the right context, appropriate permissions or verification mechanisms. Conversely, a well-designed Harness helps businesses make better use of the model's capabilities, reduce risk and standardize how AI is rolled out.
For digital transformation and legacy modernization projects, the key principle is to build observability, testing and control before expanding the scope of automation.
In the long run, competitive advantage lies not only in which AI model a business uses, but also in how it integrates AI with its own data, processes, knowledge and operating standards.
Is your business ready to adopt AI?
HARS works alongside businesses as they explore, plan and deploy AI solutions that fit their real needs.
Sign up for a free AI assessment with HARS to start evaluating AI opportunities in your business, or contact our team of experts for advice.
- Hotline/Zalo: 0365 599 599
- Brand: HARS – Human and AI Resource Solution
Start with the right business problem, build the right controls and bring AI agents into real operations step by step.


