Agentic AI, một sự thay đổi ngoạn mục về mô hình của công nghệ trí tuệ nhân tạo, đã trao quyền cho các hệ thống hoạt động tự chủ, nhận thức môi trường, tự đưa ra quyết định và hành động mà không cần sự can thiệp trực tiếp của con người. Năng lực này đang tạo ra một sự chuyển đổi mang tính cách mạng trong tất cả các ngành nghề, hứa hẹn tăng hiệu quả, trải nghiệm cá nhân hóa và mang đến các giải pháp sáng tạo.
Tuy nhiên, sự bùng nổ của Agentic AI cũng đặt ra nhiều thách thức phức tạp mà các doanh nghiệp phải chủ động giải quyết để cân bằng giữa sự đổi mới và trách nhiệm.
Table of Contents
Định nghĩa về công nghệ APA – Agentic Process Automation
Agentic Process Automation hay còn gọi là Agent Automation/ Agentic Automation đại diện cho một sự thay đổi mô hình trong cách thức tự động hóa quy trình, vượt ra ngoài các chuỗi tự động hóa được lập trình sẵn, có quy luật để đến với các hệ thống linh hoạt, cần sự thích ứng và thay đổi liên tục. Trong khi tự động hóa truyền thống dựa vào các quy tắc và quy trình làm việc cố định, Agentic Automation ứng dụng sức mạnh của công nghệ AI, đặc biệt là Agentic AI, để tạo ra các hệ thống có thể nhận thức môi trường, đưa ra quyết định và hành động tự chủ để đạt được kết quả mong muốn. Các trợ lý AI thông minh này có thể học hỏi, thích ứng và thậm chí dự đoán những thay đổi, cho phép chúng xử lý các tình huống phức tạp, không thể đoán trước và phản ứng linh hoạt hơn.
Agentic Automation mở ra tiềm năng tự động hóa mở rộng, vượt khỏi phạm vi các nhiệm vụ đơn giản, lặp đi lặp lại để giải quyết các quy trình phức tạp hơn, đòi hỏi kiến thức chuyên sâu. Điều này có thể dẫn đến những cải thiện đáng kể về hiệu quả, năng suất và tính nhanh nhạy trên nhiều ngành công nghiệp khác nhau. Từ việc tối ưu hóa chuỗi cung ứng và quản lý logistics đến cá nhân hóa trải nghiệm khách hàng và tự động hóa các quy trình phức tạp, Agentic Automation hứa hẹn sẽ chuyển đổi cách thức các doanh nghiệp vận hành và cạnh tranh. Tuy nhiên, sự tự chủ ngày càng tăng của các hệ thống này cũng đòi hỏi phải xem xét cẩn thận về vấn đề tuân thủ và đạo đức, đồng thời cần có các cơ chế kiểm soát, giám sát hợp lý.
Hiểu về Agentic AI và các vấn đề tuân thủ liên quan
Agentic AI vượt qua tự động hóa truyền thống, trao cho các hệ thống AI một mức độ độc lập, tự chủ nhất định, từ đó dẫn tới những vấn đề liên quan tới trách nhiệm, tuân thủ như sau:
Trách nhiệm giải trình: Khi một hệ thống AI tự chủ mắc lỗi, trách nhiệm thuộc về ai. Đó là developer, người triển khai, do dữ liệu được sử dụng để đào tạo hay chính AI? Thiết lập các ranh giới trách nhiệm giải trình rõ ràng là tối quan trọng, đặc biệt là trong các kịch bản rủi ro cao. Kate Crawford, nhà nghiên cứu AI và tác giả của “Atlas of AI,” đã chỉ ra: “Trách nhiệm giải trình trong AI không chỉ là một vấn đề kỹ thuật, đó là một vấn đề xã hội và chính trị.”
Tính công bằng & khách quan: Các thuật toán AI được đào tạo trên dữ liệu, nếu dữ liệu đó bao gồm một số định kiến hiện có, AI có khả năng sẽ tiếp nhận và nhân rộng những thông tin thiếu khách quan đó. Điều này có thể dẫn đến kết quả không khách quan trong các lĩnh vực quan trọng như tuyển dụng, hồ sơ vay vốn, tư pháp hình sự và dịch vụ khách hàng. Một nghiên cứu năm 2022 của McKinsey cho thấy sự thiếu khách quan của AI có thể khiến các công ty thiệt hại trung bình 100 triệu đô la mỗi năm.
Tính minh bạch và khả năng giải thích: Hiểu quy trình ra quyết định của các mô hình AI phức tạp, đặc biệt là Deep Learning, thường rất khó khăn. Vấn đề “black box” này cản trở việc xác định và sửa chữa các lỗi, định kiến và những kết quả không mong muốn. Stuart Russell, một nhà nghiên cứu AI hàng đầu, tác giả của “Human Compatible” cho rằng: “Chúng ta không chỉ cần xây dựng các hệ thống AI hoạt động được, mà quan trọng hơn, cần xây dựng các hệ thống AI có thể hiểu được”.
Thay thế công việc: Tiềm năng tự động hóa của Agentic AI làm dấy lên lo ngại về việc thay thế công việc của nhân sự trên diện rộng. Mặc dù một số người cho rằng AI sẽ tạo ra những công việc mới, nhưng quá trình chuyển đổi có thể gây ra gián đoạn, đòi hỏi các chiến lược chủ động để đào tạo lại và thích ứng lực lượng lao động. Diễn đàn Kinh tế Thế giới dự đoán rằng AI có thể thay thế 83 triệu việc làm trên toàn cầu vào năm 2027, đồng thời tạo ra 69 triệu việc làm mới.
Quyền riêng tư và bảo mật dữ liệu: Các hệ thống Agentic AI thường yêu cầu quyền truy cập vào lượng lớn dữ liệu, khiến quyền riêng tư và bảo mật dữ liệu trở nên tối quan trọng. Cần phải có biện pháp bảo vệ thông tin nhạy cảm và tuân thủ các quy định như GDPR và CCPA. Một nghiên cứu của Viện Ponemon cho thấy chi phí trung bình của một vụ vi phạm dữ liệu vào năm 2023 lên tới 4,45 triệu đô la.
Kiểm soát và giám sát: Cân bằng tính tự chủ của AI với sự kiểm soát của con người là một thách thức lớn cho doanh nghiệp. Chúng ta vạch ra ranh giới ở đâu? Làm thế nào để đảm bảo các hệ thống AI vẫn phù hợp với các giá trị và mục đích của con người? Max Tegmark, nhà nghiên cứu AI cho rằng: “Câu hỏi không nằm ở chỗ chúng ta có thể kiểm soát AI hay không, mà là chúng ta sẽ chọn kiểm soát nó hay không”.
Tác động đến tương tác của con người: Khi các AI Agent có thể thay thế cho nhiều tương tác với nhân sự hơn, hiện đang dấy lên những lo ngại về tác động đến các mối quan hệ của con người, vấn đề và các kỹ năng xã hội. Liệu chúng ta có trở nên quá phụ thuộc vào AI, có mất đi các kỹ năng cơ bản của con người hay không?
Những việc cần làm để đảm bảo vấn đề tuân thủ khi triển khai Agentic AI
Giải quyết những thách thức tuân thủ đòi hỏi một cách tiếp cận có hệ thống và chủ động.
Thành lập một đội ngũ (hội đồng) chuyên trách về tuân thủ của AI
Đây nên là một nhóm đa dạng với đại diện từ phòng công nghệ, pháp chế, tuân thủ, nhân sự…. Hội đồng này chịu trách nhiệm phát triển, thực hiện và giám sát các nguyên tắc và chính sách tuân thủ liên quan tới AI.
Tiến hành đánh giá nghiêm ngặt tác động của vấn đề đạo đức & tuân thủ
Trước khi triển khai bất kỳ hệ thống Agentic AI nào, hãy tiến hành đánh giá tác động tuân thủ một cách toàn diện. Điều này bao gồm việc xác định các rủi ro tiềm ẩn liên quan đến tính khách quan, công bằng, minh bạch, trách nhiệm giải trình, quyền riêng tư, bảo mật và tác động xã hội. Có thể sử dụng các framework tương tự như công cụ Đánh giá Tác động AI do Ủy ban Châu Âu phát triển.
Phát triển các nguyên tắc và chính sách tuân thủ toàn diện
Thiết lập các nguyên tắc và chính sách tuân thủ rõ ràng và chi tiết cho việc phát triển và sử dụng Agentic AI. Cần có nguyên tắc rõ ràng để giải quyết vấn đề bảo mật dữ liệu, tính khách quan của thuật toán, tính minh bạch, trách nhiệm giải trình, giám sát của con người và tác động xã hội. Các nguyên tắc này cần được xem xét và cập nhật thường xuyên.
Ưu tiên tính minh bạch và đầy đủ thông tin
Ưu tiên các mô hình AI minh bạch và có thể giải thích bất cứ khi nào có thể. Nếu sử dụng các mô hình “black box”, hãy đầu tư vào các kỹ thuật giúp tăng khả năng giải thích, chẳng hạn như LIME, SHAP…. Cần văn bản hóa những hạn chế của các phương pháp.
Chủ động giảm thiểu khả năng thiếu khách quan của thuật toán
Thực hiện các chiến lược để xác định và giảm thiểu nguy cơ thiếu khách quan trong dữ liệu đào tạo và thuật toán. Cần tăng cường dữ liệu, tái cân bằng trọng số, đào tạo đối trọng và các công cụ phát hiện tính thiên vị, thiếu khách quan. Thường xuyên kiểm tra các hệ thống AI để đảm bảo tính khách quan, công bằng, sử dụng các chỉ số như tác động khác biệt và tính ngang bằng thống kê.
Thực hiện quản trị và bảo mật dữ liệu triệt để
Thiết lập hoạt động quản trị dữ liệu triệt để nhằm đảm bảo quyền riêng tư và bảo mật dữ liệu. Tuân thủ các quy định liên quan (GDPR, CCPA, v.v.). Thực hiện các cơ chế ẩn danh hóa dữ liệu, mã hóa và kiểm soát truy cập. Tiến hành kiểm tra bảo mật thường xuyên.
Xác định các khung trách nhiệm giải trình rõ ràng
Thiết lập các ranh giới trách nhiệm giải trình rõ ràng cho các hành động của hệ thống Agentic AI. Xác định vai trò và trách nhiệm cho các nhà phát triển, người triển khai và nhóm giám sát. Cân nhắc việc thành lập một thanh tra viên AI để xử lý các khiếu nại về đạo đức.
Đầu tư vào chuyển đổi và phát triển lực lượng lao động
Nhận ra tiềm năng thay thế công việc và đầu tư vào các chương trình đào tạo và nâng cao kỹ năng lực lượng lao động. Tập trung vào việc phát triển các kỹ năng bổ sung cho AI, chẳng hạn như tư duy phản biện, sáng tạo và trí tuệ cảm xúc. Hợp tác với các tổ chức giáo dục để tạo ra các chương trình đào tạo phù hợp.
Thiết lập cơ chế giám sát con người triệt để
Thực hiện các cơ chế giám sát con người đối với các hệ thống Agentic AI. Xác định các giao thức rõ ràng cho sự can thiệp và kiểm soát của con người, đặc biệt là trong các tình huống quan trọng. Thiết lập các quy trình từng bước, từng cấp độ cho các mối quan tâm về vấn đề ethic/ tuân thủ.
Nuôi dưỡng văn hóa ứng dụng AI có trách nhiệm
Thúc đẩy văn hóa AI có trách nhiệm trong tổ chức. Đào tạo thường xuyên cho tất cả nhân viên về các nguyên tắc và thực hành tốt nhất về trách nhiệm AI. Khuyến khích thảo luận và phản hồi cởi mở về các mối quan tâm về đạo đức. Tích hợp các cân nhắc về trách nhiệm vào đánh giá hiệu suất.
Tương tác với các bên liên quan và công chúng
Tương tác với các bên liên quan bên ngoài, bao gồm khách hàng, cơ quan quản lý và cộng đồng rộng lớn hơn, để thảo luận về các tác động đạo đức của Agentic AI. Tìm kiếm phản hồi và kết hợp nó vào khung đạo đức AI của doanh nghiệp. Minh bạch về các thực hành ứng dụng AI.
Liên tục giám Sát, đánh giá và thích ứng: Thường xuyên giám sát và đánh giá hiệu suất của các hệ thống Agentic AI để đảm bảo trách nhiệm & tuân thủ. Theo dõi các chỉ số liên quan đến công bằng, tính minh bạch, trách nhiệm giải trình và an toàn. Thích ứng và tinh chỉnh khung trách nhiệm AI của doanh nghiệp dựa trên đánh giá và phản hồi liên tục.
Những Lưu Ý Quan Trọng Dành Cho Doanh Nghiệp
- Vấn đề trách nhiệm & tuân thủ không phải là một bài tập đơn thuần: Vấn đề này cần phải được đảm bảo, duy trì trong mọi giai đoạn của vòng đời AI, từ thiết kế và phát triển đến triển khai và giám sát. Nó đòi hỏi một sự thay đổi trong tư duy và một cam kết đối với sự đổi mới có trách nhiệm của tất cả các thành phần liên quan.
- Sự hợp tác là rất quan trọng: Giải quyết các thách thức trách nhiệm & tuân thủ của Agentic AI đòi hỏi sự hợp tác giữa các chuyên gia công nghệ, các nhà kiểm soát tuân thủ, chuyên gia pháp lý, nhà hoạch định chính sách và công chúng.
- Học tập liên tục: Lĩnh vực trách nhiệm và tuân thủ trong AI không ngừng phát triển. Các doanh nghiệp phải cập nhật thông tin về nghiên cứu mới nhất, thực hành tốt nhất và các quy định mới nhất.
- Niềm tin là một lợi thế cạnh tranh: Bằng cách ưu tiên trách nhiệm trong ứng dụng AI, các doanh nghiệp có thể xây dựng niềm tin với khách hàng, nhân viên và công chúng, tạo ra một lợi thế cạnh tranh bền vững.
Hành trình hướng tới Agentic AI đi kèm trách nhiệm và tuân thủ không phải là không có thách thức, nhưng bằng cách nắm bắt một cách tiếp cận chủ động và có trách nhiệm, các doanh nghiệp có thể khai thác sức mạnh chuyển đổi của công nghệ này đồng thời bảo vệ các giá trị con người và phúc lợi xã hội.
