 |
Mới đây, cảnh báo từ các nhà nghiên cứu của Anthropic, một trong những công ty phát triển AI hàng đầu Mỹ, rằng các mô hình ngày càng mạnh có thể thoát khỏi sự kiểm soát của con người đang thu hút sự chú ý tại Trung Quốc.
Trí tuệ nhân tạo đang chuyển từ những công cụ chỉ trả lời câu hỏi sang các hệ thống có khả năng tự lập kế hoạch, sử dụng công cụ, ghi nhớ thông tin và thực hiện nhiệm vụ thay con người. Khi AI ngày càng tự chủ, câu hỏi đặt ra không còn chỉ là mô hình có thể làm được gì, mà còn là con người có thể kiểm soát nó đến đâu.
Trung Quốc đang chuẩn bị cho kịch bản này trong lúc tiếp tục đẩy mạnh ứng dụng AI vào nền kinh tế.
Một trong những động thái đáng chú ý là việc Trung Quốc liên tục cập nhật khung quản trị an toàn AI. Ngày 14/9, Ủy ban Kỹ thuật Tiêu chuẩn hóa An ninh mạng Quốc gia Trung Quốc công bố Khung quản trị an toàn trí tuệ nhân tạo 3.0, tiếp nối các phiên bản được đưa ra trong năm 2024 và 2025.
Khung mới cập nhật các nhóm rủi ro, biện pháp kỹ thuật và phương thức quản trị nhằm nâng cao khả năng phòng ngừa, ứng phó với những nguy cơ mới khi AI phát triển. Với Trung Quốc, việc AI có khả năng tự chủ vì thế đang trở thành một bài toán quản trị song song với bài toán phát triển công nghệ.
Từ AI tạo sinh đến các tác nhân tự hành
Trong khi tranh luận tại Mỹ tập trung vào câu hỏi liệu AI tiên phong có thể trở thành mối đe dọa mang tính sống còn đối với nhân loại hay không, các nhà hoạch định chính sách Trung Quốc nhìn chung coi AI là công nghệ mạnh nhưng vẫn có thể quản lý. Theo cách tiếp cận này, rủi ro có thể được kiểm soát thông qua tiêu chuẩn kỹ thuật, quy định và sự giám sát của nhà nước.
“Các chuyên gia Trung Quốc và Mỹ nhìn chung đồng thuận về những rủi ro của AI”, Brian Tse, nhà sáng lập kiêm CEO Concordia AI, nhóm nghiên cứu về an toàn và quản trị AI có trụ sở tại Bắc Kinh và Singapore, nói. Theo ông, khác biệt nằm ở “cách xác định và ưu tiên các rủi ro”.
AI agent là bước phát triển quan trọng trong quá trình này. Khác với chatbot chủ yếu phản hồi yêu cầu của người dùng, agent có thể tự cảm nhận, ghi nhớ, lập kế hoạch, tương tác với môi trường và thực hiện một chuỗi hành động để hoàn thành nhiệm vụ.
Tháng 5, Cục Quản lý Không gian mạng Trung Quốc cùng Ủy ban Cải cách và Phát triển Quốc gia, Bộ Công nghiệp và Công nghệ thông tin ban hành hướng dẫn về ứng dụng và phát triển AI agent. Văn bản xác định đây là một dạng sản phẩm và dịch vụ AI quan trọng, đồng thời yêu cầu an toàn, độ tin cậy và khả năng kiểm soát phải được đặt xuyên suốt quá trình nghiên cứu, phát triển, triển khai và sử dụng.
Các cơ quan quản lý đề cập tới việc phát triển công cụ phát hiện hành vi bất thường, tăng khả năng phát hiện, can thiệp, chặn và khôi phục khi agent hoạt động không phù hợp. Những rủi ro được liệt kê gồm tấn công vào hệ thống, rò rỉ dữ liệu cá nhân, thao túng thuật toán, lỗ hổng hệ thống, đầu độc dữ liệu và mất kiểm soát trong quá trình vận hành.
 |
| Trung Quốc đang bổ sung tiêu chuẩn, cơ chế đánh giá và giám sát để con người vẫn kiểm soát hệ thống AI. Ảnh: Reuters. |
Một nguyên tắc khác được nhấn mạnh là quyền quyết định cuối cùng vẫn thuộc về con người. Hướng dẫn yêu cầu phân biệt rõ quyết định nào chỉ người dùng được thực hiện, quyết định nào cần người dùng ủy quyền và quyết định nào agent có thể tự thực hiện. Agent không được vượt quá phạm vi quyền hạn mà người dùng cho phép.
Trung Quốc cũng xác định 19 nhóm kịch bản ứng dụng điển hình cho AI agent, trải rộng từ nghiên cứu khoa học, sản xuất công nghiệp đến tiêu dùng, đời sống và quản trị xã hội. Điều này cho thấy mục tiêu không phải hạn chế agent ở môi trường thử nghiệm mà đưa công nghệ vào sử dụng thực tế, đồng thời xây dựng các lớp kiểm soát tương ứng.
Tính trước kịch bản AI vượt khỏi kiểm soát
Việc Trung Quốc chú ý tới nguy cơ AI mất kiểm soát không phải mới xuất hiện trong năm nay.
Khung quản trị an toàn AI được công bố năm 2024 đã đưa ra cách tiếp cận dựa trên phân loại rủi ro, biện pháp kỹ thuật và quản trị tổng hợp. Đến phiên bản 3.0 công bố tháng 9/2026, Trung Quốc tiếp tục cập nhật hệ thống để ứng phó với những thay đổi nhanh chóng của công nghệ.
Reuters trước đó cho biết các nhà hoạch định chính sách Trung Quốc đã tính đến một số kịch bản trong đó AI có thể tự thu thập nguồn lực bên ngoài, tự sao chép, tìm cách gia tăng quyền hạn hoặc tìm kiếm khả năng kiểm soát lớn hơn. Những kịch bản này được đưa vào các tài liệu về quản trị an toàn AI của Trung Quốc từ năm 2024 và tiếp tục được mở rộng trong những năm sau đó.
Đến tháng 4, Trung Quốc ban hành hướng dẫn thí điểm về đánh giá đạo đức AI. Tài liệu do 10 cơ quan chính phủ cùng xây dựng yêu cầu xem xét các vấn đề như phúc lợi con người, công bằng, khả năng kiểm soát và độ tin cậy. Việc đánh giá có thể bao gồm dữ liệu dùng để huấn luyện, thiết kế thuật toán, mô hình và hệ thống, cũng như nguy cơ thiên lệch, phân biệt đối xử hoặc khai thác thuật toán.
 |
| Trung Quốc đã tính đến kịch bản hệ thống tự hành động, với các quy định mới về an toàn và giám sát. Ảnh: Reuters. |
Tháng 5, Trung Quốc tiếp tục triển khai chương trình thí điểm đánh giá và cung cấp dịch vụ về đạo đức AI tại các địa phương có khu thí điểm đổi mới và ứng dụng AI. Mục tiêu là hình thành các cơ chế đánh giá, xây dựng tiêu chuẩn kỹ thuật từ thực tiễn và phát triển mạng lưới theo dõi, cảnh báo rủi ro đạo đức AI.
Đến tháng 7, tại Hội nghị Trí tuệ nhân tạo thế giới ở Thượng Hải, vấn đề “an toàn và có thể kiểm soát” tiếp tục được đặt cạnh phát triển AI. Theo thông điệp được công bố tại hội nghị, Trung Quốc muốn xây dựng luật lệ, cơ chế giám sát công nghệ, cảnh báo sớm và phản ứng khẩn cấp để ngăn lạm dụng AI, đồng thời bảo đảm con người vẫn kiểm soát hệ thống.
Như vậy, cách tiếp cận đang hình thành không chỉ dựa vào một bộ quy tắc duy nhất. Các lớp kiểm soát được trải từ tiêu chuẩn kỹ thuật, kiểm thử, giám sát hành vi, bảo vệ dữ liệu cho tới đánh giá đạo đức và cơ chế ứng phó khi hệ thống xảy ra sự cố.
Vừa dựng hàng rào, vừa mở rộng AI vào nền kinh tế
Điểm đáng chú ý là việc tăng cường an toàn không đi cùng chủ trương thu hẹp ứng dụng AI. Ngược lại, Trung Quốc đang thúc đẩy AI đi sâu hơn vào nền kinh tế.
Trong kế hoạch phát triển giai đoạn 2026-2030, Trung Quốc tiếp tục mở rộng chương trình “AI Plus”, khuyến khích ứng dụng AI agent, AI đa phương thức, AI hiện thân và các hệ thống trí tuệ bầy đàn, đồng thời thúc đẩy thương mại hóa AI trên quy mô lớn trong các lĩnh vực then chốt, theo Tân Hoa Xã.
Tháng 9, Bộ Công nghiệp và Công nghệ thông tin Trung Quốc công bố kế hoạch tích hợp AI vào ngành phần mềm và dịch vụ công nghệ thông tin. Đến năm 2028, nước này đặt mục tiêu đưa các công cụ lập trình và nền tảng phát triển có mức độ thông minh cao tới hơn 20.000 doanh nghiệp phần mềm lớn, xây dựng 100 ứng dụng AI agent tiêu biểu trong các ngành chủ chốt và phát triển ít nhất 5 dự án nguồn mở chất lượng cao.
 |
| Trung Quốc mở rộng ứng dụng AI vào các hoạt động nghiên cứu, sản xuất và đời sống. Ảnh: Tân Hoa Xã. |
AI cũng đang được đưa sâu hơn vào sản xuất vật chất. Số liệu từ cơ quan thuế Trung Quốc cho thấy trong 8 tháng đầu năm, doanh thu ngành sản xuất chip tích hợp liên quan đến AI tăng 67,7% so với cùng kỳ năm trước, China Daily đưa tin. Doanh thu sản xuất thiết bị xe thông minh tăng 38,8%, trong khi sản xuất sản phẩm kỹ thuật số tăng 16,6%. Doanh thu toàn ngành sản xuất công nghệ cao tăng 18,9%.
Tại Hội nghị AI thế giới tháng 7, Trung Quốc cũng nhấn mạnh việc đưa AI từ không gian số vào thế giới vật lý, thúc đẩy ứng dụng trong các ngành truyền thống, ngành mới nổi và những lĩnh vực được xem là động lực tăng trưởng trong tương lai.
Theo số liệu được công bố tại hội nghị, các ngành kinh tế thông minh cốt lõi của Trung Quốc đã đạt quy mô ít nhất 1.000 tỷ nhân dân tệ.
Các chính sách mới của Trung Quốc cho thấy nước này đang cố gắng xử lý hai vế cùng lúc. Một mặt là mở rộng dữ liệu, hạ tầng tính toán, nguồn mở, AI agent và ứng dụng công nghiệp; mặt khác là xây dựng tiêu chuẩn, đánh giá, phân loại rủi ro, giám sát hành vi và cơ chế để con người can thiệp khi hệ thống hoạt động bất thường.
AI có cướp đi công việc của chúng ta?
Trong cuốn AI chuyện chưa kể, tác giả Tomoe Ishizumi cho rằng đây chỉ là công cụ tối ưu không hơn không kém. Có một điều chắc chắn rằng AI có thể thay thế phần lớn công việc mà con người đang làm hiện nay. Tuy nhiên, chúng ta không nên nghĩ máy móc sẽ cướp đi công việc của con người mà hãy nghĩ rằng máy móc sẽ làm những công việc vất vả để con người có thời gian sáng tạo hơn.
