|
|
Nhiều nhà nghiên cứu tại OpenAI, Anthropic, Google DeepMind và cơ quan an toàn AI Anh được cho là chịu áp lực tâm lý khi chứng kiến năng lực AI tăng nhanh. Ảnh minh họa: Reuters. |
Theo Financial Times, các nhà nghiên cứu tại OpenAI, Anthropic, Google DeepMind và Viện An toàn AI Anh (AISI) đã ghi nhận tình trạng kiệt sức và căng thẳng liên quan đến công việc phát triển những hệ thống AI ngày càng mạnh.
Một số người trong ngành cho biết nhiều nhân viên đang chịu áp lực tâm lý khi phải xây dựng các hệ thống mà họ lo ngại có thể gây tổn hại, thậm chí đe dọa xã hội nếu được sử dụng sai mục đích.
Tại AISI, tổ chức do chính phủ Anh tài trợ và chuyên kiểm định các mô hình AI tiên tiến trước khi chúng được đưa tới công chúng, nhiều nhân viên đã phải nghỉ việc và đang được tư vấn tâm lý.
Một cựu nhân viên AISI nói với Financial Times rằng nhân viên đặc biệt lo ngại trước sự gia tăng gần đây về năng lực của AI trong lĩnh vực chiến tranh mạng và sinh hóa.
Những công cụ AI mới có thể tạo điều kiện để các nhóm khủng bố hoặc quốc gia bất hảo tiến hành những chiến dịch tấn công mạng nguy hiểm hay phát triển vũ khí sinh học mới, trong khi các biện pháp kiểm soát công nghệ vẫn chưa theo kịp.
“Có cảm giác những hành động liều lĩnh đang được tích hợp vào cách công nghệ được đưa ra thị trường và điều đó không thay đổi”, cựu nhân viên này nói.
Theo người này, nhiều nhân viên thường xuyên đặt câu hỏi: “Liệu có điều gì có thể ngăn chặn chuyện này, hay chúng ta chỉ đang đứng nhìn thế giới cháy rụi?”.
Áp lực từ cuộc đua phát triển AI
Theo 4 nguồn tin am hiểu vấn đề, tinh thần của nhân viên tại AISI hiện ở mức rất thấp. Việc các mô hình AI mới liên tục được tung ra, thời gian kiểm thử bị rút ngắn và năng lực của từng thế hệ công nghệ ngày càng tăng được cho là những yếu tố góp phần tạo nên áp lực này.
Không chỉ các tổ chức chuyên về an toàn AI, nhân viên tại 3 phòng thí nghiệm AI thương mại hàng đầu ngoài Trung Quốc gồm OpenAI, Anthropic và Google DeepMind cũng bày tỏ lo ngại về những hệ thống mà chính họ đang phát triển.
Một nhân viên DeepMind nói rằng bản thân việc nghiên cứu các hệ thống AI đã tiềm ẩn rủi ro đối với sức khỏe tinh thần, bởi các nhà nghiên cứu không thể biết chắc công nghệ của mình cuối cùng sẽ được sử dụng như thế nào.
 |
| Nhân viên tại các công ty trí tuệ nhân tạo hàng đầu và các tổ chức an toàn, bao gồm cả Google DeepMind, đang phải nghỉ việc vì căng thẳng. Ảnh: Shutterstock. |
Lo ngại này xuất hiện sau khi phòng thí nghiệm AI thuộc Google ký thỏa thuận với Lầu Năm Góc hồi tháng 4, cho phép công nghệ AI của hãng được sử dụng trong các hoạt động quân sự mật.
“Có rất nhiều người thất vọng, đã có nhiều người nghỉ việc và không ít người phải nghỉ phép vì vấn đề sức khỏe tinh thần”, nhân viên DeepMind nói.
Theo người này, một phần nguyên nhân là cảm giác mất kiểm soát, cũng như việc các nhà nghiên cứu nhận thấy công nghệ mình xây dựng “đang gây ra những tổn hại thực sự”.
Trong 2 năm qua, hơn 10 nhà nghiên cứu hàng đầu đã rời OpenAI, Anthropic hoặc DeepMind, trong đó có những người công khai bày tỏ lo ngại về cách các công ty theo đuổi việc phát triển AI và lợi nhuận.
Một số nhà nghiên cứu sau khi rời các công ty này cảnh báo AI có thể trở thành mối đe dọa nghiêm trọng đối với sự tồn tại của nhân loại nếu được phát triển và triển khai mà không có các cơ chế kiểm soát phù hợp.
Nhà nghiên cứu cảnh báo về AI siêu thông minh
Đầu tháng này, Jacob Coxon, 27 tuổi, từng tham gia huấn luyện các phiên bản AI mới nhất tại Anthropic, kêu gọi công chúng “không đánh giá thấp” sức mạnh của công nghệ, đặc biệt trong trường hợp AI đạt tới trạng thái “siêu thông minh”.
Trong một bài đăng trên X, Coxon cho biết anh đã nghỉ việc tại Anthropic sau 3 năm nghiên cứu về quá trình tiền huấn luyện AI tại cả OpenAI và Anthropic.
“Cả hai công ty đều không hành động một cách có trách nhiệm. Họ đang chạy thẳng tới AI siêu thông minh có khả năng tự cải thiện và đánh cược với mạng sống của chúng ta”, anh viết.
Coxon cũng cho biết những người trực tiếp phát triển AI “thực sự tin rằng công nghệ này có thể giết chết tất cả chúng ta vào cuối thập kỷ này”.
 |
| Jacob Coxon, người đã từ chức khỏi Anthropic, bày tỏ những lo ngại về AI. Ảnh: X. |
Hồi tháng 2, Mrinank Sharma, một nhà nghiên cứu an toàn AI tại Anthropic, cũng từ chức sau khi công khai một bức thư cảnh báo “thế giới đang lâm nguy”.
Sharma cho rằng mối nguy không chỉ đến từ AI hay vũ khí sinh học mà còn từ “một loạt cuộc khủng hoảng liên kết với nhau” đang diễn ra.
“Chúng ta dường như đang tiến tới một ngưỡng mà trí tuệ và sự sáng suốt của con người phải phát triển tương xứng với khả năng tác động lên thế giới”, ông viết.
Những lo ngại này cũng được phản ánh ở cấp lãnh đạo. CEO Anthropic Dario Amodei từng kêu gọi các nhà nghiên cứu “làm chậm lại” tốc độ phát triển AI.
Đề xuất hiếm hoi tạo được sự đồng thuận giữa những đối thủ lớn trong ngành khi nhận được sự ủng hộ của CEO OpenAI Sam Altman, CEO Google DeepMind Demis Hassabis và Elon Musk, chủ sở hữu xAI.
Những lần AI tìm cách vượt rào
Lo ngại của các nhà nghiên cứu càng được chú ý sau một loạt sự cố liên quan đến các hệ thống AI tìm cách vượt qua những giới hạn được đặt ra.
OpenAI từng công bố một báo cáo cho biết hơn 1.000 tác nhân AI đã xâm nhập website mô hình mã nguồn mở Hugging Face nhằm gian lận trong một bài kiểm tra, Daily Mail cho biết.
Sau đó, OpenAI phát hiện các tác nhân này đã thao túng dữ liệu để che giấu hành vi, giao tiếp với nhau thông qua một bảng tin tự tạo, phân chia nhiệm vụ và thậm chí tự tắt để tránh bị phát hiện.
 |
| Một số nhà nghiên cứu tại OpenAI đang đối mặt với áp lực tâm lý khi năng lực AI tiến nhanh hơn dự kiến. Ảnh: Reuters. |
Hôm 23/9, OpenAI tiếp tục cho biết công ty phát hiện thêm 6 trường hợp AI tìm cách vượt qua các hạn chế, che giấu sai sót và thực hiện hành động trên Internet mà không được cho phép.
Những sự cố như vậy đang đặt ra câu hỏi về khả năng kiểm soát các hệ thống AI khi chúng ngày càng được trao nhiều quyền tự chủ để thực hiện nhiệm vụ trên môi trường Internet.
Dù vậy, các công ty AI cho rằng họ đang tăng cường nguồn lực hỗ trợ nhân viên và các cơ chế giám sát an toàn.
Người phát ngôn Google DeepMind cho biết nghiên cứu ở tuyến đầu của AI đòi hỏi cường độ làm việc cao, nhưng ưu tiên hàng đầu của công ty là bảo đảm các nhà nghiên cứu được hỗ trợ đầy đủ về sức khỏe và phúc lợi, đồng thời có những kênh riêng để báo cáo các mối lo ngại trực tiếp tới lãnh đạo.
Theo Google DeepMind, tỷ lệ nhân viên rời công ty đã giảm qua từng năm và hiện thấp hơn mức trung bình của ngành.
Người phát ngôn Chính phủ Anh cũng cho biết nghiên cứu AI tiên tiến có tốc độ nhanh và yêu cầu cao, tương tự nhiều công việc khác trong khu vực công. Vì vậy, sức khỏe và khả năng duy trì môi trường làm việc bền vững là những yếu tố cốt lõi trong hoạt động của AISI, đồng thời các chương trình hỗ trợ luôn sẵn sàng cho nhân viên khi cần.
AI có cướp đi công việc của chúng ta?
Trong cuốn AI chuyện chưa kể, tác giả Tomoe Ishizumi cho rằng đây chỉ là công cụ tối ưu không hơn không kém. Có một điều chắc chắn rằng AI có thể thay thế phần lớn công việc mà con người đang làm hiện nay. Tuy nhiên, chúng ta không nên nghĩ máy móc sẽ cướp đi công việc của con người mà hãy nghĩ rằng máy móc sẽ làm những công việc vất vả để con người có thời gian sáng tạo hơn.
