Trí tuệ nhân tạo (AI) đang được đưa vào sâu hơn trong các hoạt động doanh nghiệp, nhưng hệ thống quản trị chưa theo kịp. Khác với chatbot chỉ trả lời câu hỏi, AI agent khi nối với hệ thống nội bộ có thể tự lập kế hoạch, gọi công cụ, truy cập dữ liệu và thực hiện chuỗi công việc.
Ảnh: CHRISTOPHER DENISE/OPSIN
Theo báo cáo toàn cầu về AI từ góc nhìn của các Giám đốc công nghệ thông tin (CIO) năm 2026 do Dataiku, công ty AI của Pháp và Mỹ, công bố, 81% Giám đốc công nghệ thông tin trong doanh nghiệp toàn cầu thừa nhận không giám sát đầy đủ các AI agent được tạo ra từ chính doanh nghiệp.
Sự phát triển nhanh của các AI agent đang vượt xa khả năng quản trị của nhiều tổ chức. Khảo sát hơn 380 tổ chức do Salt Security, công ty an ninh AI có trụ sở tại Mỹ và Israel, thực hiện mới đây cho thấy 86,4% đơn vị có ít nhất 1 AI agent đang vận hành, trong đó 59,5% có trên 10 AI agent.
Có 49,8% xác nhận hoặc nghi ngờ từng có AI agent làm việc ngoài dự kiến hoặc chưa được phê duyệt trong 12 tháng qua. Chỉ 12,5% theo dõi được toàn bộ chuỗi hoạt động của AI agent, từ chỉ thị ban đầu đến công cụ sử dụng; 17,5% có thể tự động chặn AI agent hoạt động bất thường trong môi trường vận hành thực tế.
Trong khi đó, khảo sát của ServiceNow - nền tảng điện toán đám mây chuyên về tự động hóa quy trình làm việc và quản trị dịch vụ doanh nghiệp của Mỹ, đối với hơn 3.700 lãnh đạo an ninh ở 20 quốc gia, công bố ngày 20-10 ghi nhận 90% tổ chức từng gặp sự cố an ninh liên quan đến AI agent trong 12 tháng qua; chỉ 36% trong số đó khống chế được sự cố trong vòng 24 giờ.
Những khoảng trống này đang mở ra thị trường quản trị AI agent. Theo tờ Business Insider, công ty khởi nghiệp Mỹ Opsin vừa huy động 21 triệu USD trong vòng gọi vốn do 2 quỹ đầu tư mạo hiểm của Mỹ SYN Ventures và Race Capital dẫn đầu.
Nền tảng của Opsin giúp phát hiện AI agent đang hoạt động, theo dõi dữ liệu và công cụ chúng truy cập, đối chiếu hành vi với nhiệm vụ được giao và cảnh báo rủi ro.
Tại Nhật Bản, công ty công nghệ thông tin và dịch vụ phần mềm HENNGE thành lập HENNGE AI để phát triển dịch vụ quản trị việc dùng AI, dự kiến ra mắt trong năm tài chính 2027. Hồi tháng 9, Tập đoàn ITCEN tại Hàn Quốc cũng đã ra mắt AI agentGo Guard để kiểm soát AI agent trước các nguy cơ.
Ở châu Âu, nổi bật có công ty khởi nghiệp Giskard của Pháp, đã phát triển lớp bảo vệ phát hiện thao túng, chỉ thị độc hại và hành vi không an toàn của AI agent.
Theo trang tin công nghệ châu Âu Tech.eu, Overmind của Anh vừa huy động khoảng 2,68 triệu USD vốn đầu tư hạt giống để phát triển nền tảng mã nguồn mở, giúp theo dõi hoạt động của AI và can thiệp khi phát hiện bất thường.
Theo Công ty nghiên cứu và tư vấn Gartner của Mỹ, thị trường bảo vệ hệ thống AI toàn cầu có thể đạt gần 4,8 tỷ USD năm 2027, tăng 68,7% so với 2026.
Trước thực trạng này, nhiều chuyên gia nhận định, khi AI càng tiến gần khả năng tự vận hành, việc quản lý chi phí và nguồn lực là một thách thức không nhỏ.
