Nội dung gây phẫn nộ, giật gân hoặc cực đoan có thể thu hút lượng lớn tương tác trên mạng xã hội. Sự chú ý sau đó được chuyển thành doanh thu quảng cáo, livestream hoặc các khoản quyên góp.

Khó khăn nằm ở chỗ không phải nội dung gây hại nào cũng bất hợp pháp. Một bài đăng có thể không thuộc diện phải xóa nhưng vẫn được thuật toán đưa tới lượng lớn người dùng, tạo doanh thu cho người sản xuất và gây tác động ngoài đời thực.

Trao đổi với Tri Thức - Znews , Phó giáo sư Chara Bakalis, Trưởng khoa Luật Oxford Brookes (OBLS), Đại học Oxford Brookes, Anh, cho rằng quản lý nội dung xấu độc vì thế không thể dừng ở từng bài đăng.

Từ những tranh luận và thực tiễn quản lý tại Anh, bà đề cập một số hướng tiếp cận: đánh vào lợi ích kinh tế của người sản xuất nội dung gây hại, hạn chế khả năng khuếch đại của thuật toán, kiểm tra trải nghiệm thực tế của người dùng và tăng vai trò của cơ quan quản lý.

Cắt nguồn kiếm tiền từ nội dung độc hại

Theo bà Bakalis, “cắt nguồn kiếm tiền” (demonetization) là một công cụ quản lý cần được chú ý nhiều hơn trong bối cảnh hiện nay. Trong pháp luật hình sự và các cơ chế quản lý hiện nay tại Anh, việc một cá nhân thu lợi từ nội dung trực tuyến chưa được xem xét đầy đủ trong quá trình đánh giá trách nhiệm pháp lý.

“Cách người dùng mạng xã hội khai thác những nội dung có vấn đề để trục lợi đến nay vẫn chưa nhận được sự quan tâm tương xứng”, bà Bakalis cho biết.

Bà dẫn ví dụ về trường hợp một số cá nhân quay video những người phụ nữ xung quanh mà không có sự đồng thuận, trong đó có các hình ảnh bộ phận cơ thể tại nơi công cộng, rồi đăng tải lên Internet để kiếm tiền.

Trường hợp này cho thấy một khoảng trống: nội dung chưa chắc đã thuộc diện phải gỡ bỏ nhưng người đăng vẫn có thể hưởng lợi từ việc phát tán nó.

Khả năng kiếm tiền cũng tạo thêm động lực để hành vi được lặp lại. Người sản xuất có thể tiếp tục tạo ra nội dung gây tranh cãi nhằm thu hút sự chú ý và kiếm tiền.

Bà Bakalis vì vậy đề xuất lưu ý nhiều hơn tới biện pháp “cắt nguồn kiếm tiền” (demonetization).

“Tất nhiên, chúng ta cần thận trọng để không ảnh hưởng đến những người sử dụng Internet một cách hợp pháp để kiếm sống. Nhưng cắt nguồn kiếm tiền là biện pháp cần được xem xét nghiêm túc hơn”, bà Bakalis chia sẻ với Tri Thức - Znews.

Quan điểm này nhận được sự đồng tình từ bà Karen Middleton, giảng viên cao cấp về Marketing tại Đại học Portsmouth và cố vấn cho Conscious Advertising Network, Anh.

Trong một nghiên cứu trình Quốc hội Anh, bà Middleton cho rằng hệ sinh thái quảng cáo số đang tạo ra những động lực kinh tế giúp nội dung gây hại tiếp tục được sản xuất và lan truyền.

"'Động cơ tài chính' đứng sau phần lớn nội dung trên Internet và mạng xã hội, đồng thời cảnh báo hệ thống hiện nay còn phức tạp, thiếu minh bạch và quá chú trọng lợi nhuận", bà Karen Middleton nói.

Tại phiên điều trần của Quốc hội Anh tháng 3/2025, bà Middleton cũng cho rằng mô hình kinh doanh dựa trên việc tối đa hóa sự chú ý có thể tạo động lực để thuật toán phân phối nội dung gây hại.

Ngay cả đại diện ngành quảng cáo tại phiên điều trần cũng thừa nhận mô hình chạy theo lượng người xem và sự chú ý tiềm ẩn những rủi ro đặc biệt trên mạng xã hội, nơi nội dung được sản xuất, phân phối với quy mô rất lớn.

Vùng xám mang tên “hợp pháp nhưng gây hại”

Khó khăn lớn hơn nằm ở những nội dung chưa vi phạm pháp luật nhưng vẫn có thể gây hại cho người dùng.

Tại Anh, Đạo luật An toàn Trực tuyến 2023 từng gây tranh luận do lo ngại các quy định có thể ảnh hưởng tới quyền tự do ngôn luận. Vì vậy, các quy định đối với nội dung “hợp pháp nhưng gây hại” mà người trưởng thành có thể tiếp cận đã được thu hẹp.

Bà Bakalis cho rằng quản lý những nội dung này không nhất thiết chỉ có hai lựa chọn: xóa hoặc giữ nguyên.

Lý do là nền tảng mạng xã hội không đơn thuần lưu trữ nội dung. Thuật toán còn quyết định nội dung nào được ưu tiên, xuất hiện nhiều hơn và tiếp cận thêm nhiều người dùng.

“Các thuật toán ngày càng tinh vi có thể ưu tiên nội dung cực đoan để thu hút tương tác và tạo lợi nhuận”, bà nói.

Một giải pháp được bà đề cập là hạn chế thuật toán khuếch đại nội dung (algorithmic de-amplification). Nội dung không nhất thiết bị xóa, nhưng nền tảng có thể giảm hoặc ngừng đề xuất tới những người dùng khác.

Theo đó, nội dung không nhất thiết bị xóa khỏi nền tảng nhưng hệ thống có thể ngừng chủ động đề xuất nó tới lượng lớn người dùng.

“Người sáng tạo có quyền đăng nội dung, nhưng điều đó không có nghĩa nền tảng phải dùng thuật toán để đưa nội dung ấy đến nhiều người”, bà Bakalis nói.

Cách tiếp cận này cũng có thể tránh tác dụng ngược của một lệnh cấm. Theo bà Bakalis, cấm những nhân vật nổi tiếng gây ảnh hưởng tiêu cực đôi khi giúp họ xây dựng hình ảnh “nạn nhân của kiểm duyệt”, từ đó càng thu hút thêm sự chú ý. Thay vào đó, nền tảng có thể giảm mức độ đề xuất nội dung của họ tới người dùng.

“Khi không còn được thuật toán giúp tiếp cận lượng lớn người dùng, những người này sẽ mất đi nguồn ‘oxy’ giúp họ mở rộng ảnh hưởng”, bà Bakalis nói.

Như vậy, trọng tâm chuyển từ quyền tồn tại của một nội dung sang quy mô mà nền tảng chủ động phân phối nội dung đó.

Kiểm tra thuật toán dẫn người dùng tới đâu

Kinh nghiệm thứ ba nằm ở cách đánh giá hiệu quả kiểm duyệt.

Số bài đăng bị xóa hay số tài khoản bị đình chỉ là những chỉ số dễ thống kê. Nhưng bà Bakalis cho rằng chúng không cho biết đầy đủ người dùng thực sự gặp những gì trên mạng.

“Để thực sự đánh giá hiệu quả của kiểm duyệt nội dung, chúng ta phải vượt ra ngoài những thống kê định lượng về số lượng nội dung bị gỡ bỏ và áp dụng một cơ chế kiểm toán nghiêm ngặt, lấy người dùng làm trung tâm.”

Biện pháp được bà đề xuất là mô phỏng trải nghiệm của các nhóm người dùng khác nhau, từ thanh thiếu niên tới những người trưởng thành dễ bị tổn thương, sau đó theo dõi phản ứng của thuật toán.

Ví dụ, một thiếu niên ban đầu chỉ xem nội dung tưởng như vô hại về ăn uống lành mạnh.

Điều cần kiểm tra không chỉ là nền tảng đã xóa bao nhiêu nội dung nguy hiểm. Quan trọng hơn là sau hàng chục lần tương tác, hệ thống đề xuất đưa người dùng tới đâu.

Nếu thuật toán liên tục dẫn họ tới nội dung có nguy cơ làm trầm trọng chứng rối loạn ăn uống, số lượng bài đã được gỡ bỏ không đủ để chứng minh hệ thống kiểm duyệt đang hoạt động hiệu quả.

“Chỉ khi lập được bản đồ về những trải nghiệm thực tế của người dùng trong môi trường số, chúng ta mới có thể xác định liệu các biện pháp quản lý hiện nay có thực sự giúp giảm thiểu tác hại.”

Cách làm này thay đổi thước đo hiệu quả: không chỉ đếm những gì đã bị xóa, mà kiểm tra những gì thuật toán còn đưa tới người dùng.

Không để nền tảng tự quyết toàn bộ việc kiểm soát nội dung

Một kinh nghiệm khác được bà Bakalis đề cập là vai trò của cơ quan quản lý bên ngoài các nền tảng.

Các công ty mạng xã hội hiện nắm quyền lực đáng kể trong việc quyết định nội dung nào được ưu tiên, nội dung nào bị hạn chế và cuối cùng người dùng nhìn thấy gì.

Bà Bakalis cho rằng không thể giao toàn bộ trách nhiệm này cho doanh nghiệp.

“Chúng ta cần những cơ quan quản lý do Nhà nước dẫn dắt, có sự tham vấn với nhiều nhóm liên quan và đại diện cho nhiều bộ phận trong xã hội, tương tự các cơ chế quản lý truyền thông truyền thống”, vị chuyên gia nói.

Điều này cũng xuất phát từ đặc điểm của nội dung gây hại trên Internet. Tác động không phải lúc nào cũng đến từ một bài đăng riêng lẻ. Hàng loạt nội dung nhỏ có thể cộng dồn, hình thành một môi trường trực tuyến ngày càng độc hại.

Bởi vậy, chỉ xử lý từng người đăng hoặc từng nội dung không giải quyết được toàn bộ vấn đề.

Từ kinh nghiệm được bà Bakalis đề cập, quản lý nội dung xấu độc vì thế cần mở rộng khỏi câu hỏi quen thuộc “nội dung này có vi phạm luật hay không?”.

Các câu hỏi tiếp theo là nội dung được thuật toán khuếch đại thế nào, gây tác hại gì và ai đang hưởng lợi từ sự lan truyền đó.