Chỉ vài giờ sau vụ đâm dao ở Southport, Anh, khiến ba trẻ em thiệt mạng vào tháng 7/2024, thông tin sai về nghi phạm đã lan truyền trên mạng. Theo Viện Alan Turing, một phần thông tin dường như bắt nguồn từ Channel3Now, trang web sử dụng dịch vụ được quảng bá có khả năng tạo nội dung bằng AI. Một số bài viết sau đó được AI biên tập lại để tăng vẻ đáng tin cậy.

Trong nghiên cứu công bố tháng 6/2026, Viện Alan Turing cảnh báo AI có thể bị lợi dụng để tạo “bằng chứng” giả về các sự kiện đang diễn ra, gây nhầm lẫn hoặc kích động hành vi gây hại. Chatbot và công cụ tìm kiếm tích hợp AI cũng có thể lặp lại thông tin chưa kiểm chứng, khiến tin sai xuất hiện như tin tức đã được xác nhận.

Tại Hamburg, Đức, tháng 5/2025, hình ảnh giả do AI tạo hoặc chỉnh sửa lan truyền sau vụ đâm dao tại nhà ga trung tâm thành phố. Thiếu niên người Syria Muhammad al-Muhammad được nhắc đến vì giúp ngăn chặn kẻ tấn công, nhưng những hình ảnh sai lệch đã làm dấy lên nghi ngờ về vai trò của cậu.

Theo DW, vụ việc cho thấy AI có thể bị dùng để bóp méo sự kiện có thật, gây tổn hại danh dự cá nhân và khoét sâu định kiến. Cả hai trường hợp đều cho thấy tin giả có thể lan rộng trước khi người liên quan kịp lên tiếng, trong khi việc đính chính sau đó không bảo đảm những người từng xem nội dung sai đều tiếp cận được thông tin chính xác.

Trước nguy cơ hình ảnh, video và giọng nói giả do AI tạo bị lợi dụng để tạo tin tức giả các thông tin xấu độc hoặc thao túng dư luận, nhiều quốc gia tìm cách siết quản lý.

Buộc nền tảng và nhà phát triển AI chịu trách nhiệm

Tại châu Âu, Liên minh châu Âu (EU) ban hành Đạo luật Dịch vụ Kỹ thuật số (DSA) yêu cầu các nền tảng trực tuyến lớn đánh giá và giảm thiểu rủi ro mang tính hệ thống phát sinh từ dịch vụ của mình. Những rủi ro này bao gồm việc phát tán nội dung bất hợp pháp, ảnh hưởng đến an toàn công cộng và những tác động tiêu cực đến người dùng.

Các nền tảng như Facebook, Instagram, TikTok và YouTube thuộc nhóm dịch vụ chịu những nghĩa vụ bổ sung khi được EU xác định là nền tảng trực tuyến rất lớn. Họ phải đánh giá rủi ro, triển khai biện pháp giảm thiểu, tăng tính minh bạch của hệ thống đề xuất nội dung và cho phép các nhà nghiên cứu đủ điều kiện tiếp cận dữ liệu phục vụ giám sát.

Theo Ủy ban châu Âu, DSA không chỉ đặt ra yêu cầu xử lý nội dung bất hợp pháp mà còn buộc các nền tảng lớn xem xét cách thiết kế và vận hành dịch vụ có thể làm gia tăng rủi ro trên môi trường trực tuyến.

Bên cạnh đó, Đạo luật Al của EU đặt ra các nghĩa vụ minh bạch trực tiếp đối với một số hệ thống và nội dung do AI tạo ra hoặc thao túng. Theo Điều 50, áp dụng từ ngày 2/8/2026, nhà cung cấp hệ thống Al tạo nội dung phải bảo đảm đầu ra có dấu hiệu kỹ thuật để có thể nhận diện là nội dung nhân tạo trong phạm vi khả thi về kỹ thuật.

Đơn vị sử dụng AI để tạo hoặc thao túng nội dung thuộc loại deepfake nhìn chung phải công khai việc nội dung đã được tạo hoặc chỉnh sửa bằng Al, với một số ngoại lệ theo quy định.

Những nghĩa vụ này nhằm giúp người dùng nhận biết nguồn gốc nội dung, thay vì phải tự suy đoán dựa trên các dấu hiệu hình ảnh hoặc âm thanh. Tuy nhiên, việc gắn nhãn không đồng nghĩa nội dung đó sai sự thật, cũng không tự bảo đảm rằng nội dung không bị sử dụng để lừa đảo.

Tại Hàn Quốc, Đạo luật Cơ bản về AI bắt đầu có hiệu lực ngày 22/1/2026, thiết lập khuôn khổ quản lý toàn diện đối với việc phát triển và sử dụng công nghệ này. Theo Yonhap, luật đặt ra các nghĩa vụ liên quan đến minh bạch nội dung Al, thông báo cho người dùng và trách nhiệm của doanh nghiệp trong một số trường hợp sử dụng Al có rủi ro cao.

Ngoài ra, Reuters cho biết luật cũng đưa ra chế tài đối với một số hành vi không tuân thủ, trong đó có việc không thực hiện nghĩa vụ đánh dấu nội dung Al. Tuy nhiên, Hàn Quốc dự kiến có thời gian chuyển tiếp ít nhất một năm trước khi áp dụng các hình phạt, nhằm giúp doanh nghiệp chuẩn bị hệ thống tuân thủ.

Siết chế tài đối với hành vi giả mạo, bôi nhọ

Bên cạnh yêu cầu đối với nền tảng, một số quốc gia áp dụng các quy định pháp luật nhằm bảo vệ cá nhân trước nội dung giả mạo và việc phát tán dữ liệu gây hại.

Tại Singapore, Đạo luật Bảo vệ khỏi thông tin sai lệch và thao túng trực tuyến (POFMA) cho phép cơ quan chức năng yêu cầu đính chính hoặc áp dụng những biện pháp khác đối với thông tin sai sự thật trong các điều kiện luật định. Cơ chế này không chỉ hướng đến nội dung do AI tạo ra, nhưng có thể được áp dụng trong những trường hợp thông tin sai lệch được phát tán trên mạng.

Một đặc điểm của POFMA là biện pháp xử lý có thể bao gồm yêu cầu bổ sung thông báo đính chính và liên kết đến thông tin chính thức, thay vì mặc nhiên buộc xóa nội dung gốc. Cách tiếp cận này giúp người tiếp nhận có thêm thông tin để đối chiếu, dù hiệu quả còn phụ thuộc vào việc thông báo đính chính có tiếp cận được những người đã xem nội dung ban đầu hay không.

Trong khi đó, Thái Lan đang tăng cường xử lý cả những nội dung giả mạo do công nghệ tạo ra. Theo Luật Tội phạm liên quan đến máy tính, hành vi đưa dữ liệu giả hoặc bị bóp méo vào hệ thống máy tính có thể bị phạt tới 5 năm tù hoặc 100 nghìn baht (gần 80 triệu đồng).

Nếu hình ảnh một người bị chỉnh sửa bằng phương tiện điện tử rồi phát tán, gây tổn hại đến danh dự, mức phạt có thể lên tới 3 năm tù và 200.000 baht (gần 160 triệu đồng).

Trung tâm Chống tin giả Thái Lan cũng cảnh báo, việc sử dụng deepfake để tạo hình ảnh hoặc giọng nói giả nhằm bôi nhọ người khác còn có thể bị xử lý về tội phỉ báng, với mức phạt 2 năm tù.

Công nghệ xác thực có thể giải quyết đến đâu?

Bên cạnh luật pháp, các công ty công nghệ và tổ chức nghiên cứu đang phát triển công cụ giúp xác định nguồn gốc nội dung số.

Một hướng tiếp cận là sử dụng tiêu chuẩn C2PA, cho phép gắn thông tin về nguồn gốc và lịch sử chỉnh sửa vào tệp hình ảnh, video hoặc các loại nội dung đa phương tiện. Một số công nghệ khác sử dụng hình mờ kỹ thuật số để cung cấp tín hiệu cho biết nội dung được tạo bằng AI.

Đây là một hướng xây dựng hạ tầng xác thực, thay vì chỉ dựa vào các công cụ phán đoán nội dung có phải do AI tạo ra hay không.

Tuy nhiên, những tín hiệu này không phải bằng chứng tuyệt đối về tính xác thực. Chúng có thể cho biết nội dung được tạo bằng công cụ nào hoặc đã trải qua những thao tác nào, nhưng không tự xác nhận thông tin trong nội dung là đúng, được trình bày đúng ngữ cảnh hay chưa bị chỉnh sửa theo cách gây hiểu lầm.

Vì vậy, người dùng cũng cần hình thành thói quen kiểm tra nguồn đăng, đối chiếu thông tin với nhiều nguồn độc lập và tìm phiên bản gốc của hình ảnh, video trước khi chia sẻ.