Hàn Quốc đương đầu với 'rác AI'

Theo tờ YTN của Hàn Quốc, chỉ cần mở YouTube, người dùng có thể dễ dàng bắt gặp những video kỳ quặc đến mức khó xác định chúng được tạo ra bởi con người hay AI. Những câu chuyện phi lý, hình ảnh siêu thực, nhân vật có biểu cảm bất thường xuất hiện ngày càng dày đặc trên nền tảng.

Phần lớn trong số này là sản phẩm được tạo bằng trí tuệ nhân tạo, sau đó được chỉnh sửa, đặt tiêu đề giật gân và sản xuất hàng loạt để thu hút lượt xem. Chúng thường được gọi bằng thuật ngữ “AI slop”, chỉ những nội dung AI chất lượng thấp, kỳ quái hoặc đơn giản là lố bịch.

Vấn đề không còn dừng ở việc video chất lượng thấp ngày càng nhiều. Sự phổ biến của AI slop làm dấy lên lo ngại về ô nhiễm thông tin, nội dung bị thao túng và nguy cơ người dùng ngày càng khó phân biệt đâu là sản phẩm do con người tạo ra.

Rác AI

Theo truyền thông quốc tế, YouTube đang tăng cường xử lý những kênh sản xuất nội dung AI chất lượng thấp. Một số kênh bị xóa hoặc hạn chế khả năng kiếm tiền.

The Verge dẫn dữ liệu từ Kapwing - nền tảng chỉnh sửa video trực tuyến - cho biết ít nhất 16 kênh chuyên sản xuất AI slop đã bị đóng hoặc đình chỉ. Trước đó, Kapwing khảo sát 15.000 kênh, bao gồm 100 kênh YouTube hàng đầu tại mỗi quốc gia.

16 kênh bị xử phạt nói trên từng đạt tổng cộng 4,7 tỷ lượt xem. Doanh thu hàng năm của chúng được ước tính khoảng 10 triệu USD. Trong số các kênh được khảo sát, Kapwing xác định 278 kênh liên tục đăng video AI chất lượng thấp mà gần như không có sự can thiệp của con người. Doanh thu quảng cáo của nhóm này được ước tính khoảng 117 triệu USD mỗi năm.

Kapwing nhận định AI slop là “con dao hai lưỡi” đối với những nền tảng như YouTube. Những video này có thể khiến người dùng tiếp tục ở lại nền tảng trong thời gian ngắn nhờ tính gây nghiện và khả năng thu hút sự chú ý. Tuy nhiên, về lâu dài, lượng nội dung chất lượng thấp quá lớn có thể làm suy giảm trải nghiệm người dùng và uy tín của nền tảng.

Ngoài ra, việc lưu trữ và phân phối hàng tỷ video cũng làm gia tăng chi phí cơ sở hạ tầng.

Theo Hankyung, Ryan Broderick - tác giả cuốn sách News Terror: Garbage Day - chỉ trích: "YouTube đã trở thành bãi rác cho những video AI khó chịu và vô hồn". Giáo sư Achille Bardwaj của Đại học Bath cũng tỏ ra gay gắt: "Nội dung AI kém chất lượng đang phá hủy các cộng đồng trực tuyến trên Pinterest, cạnh tranh doanh thu với các nghệ sĩ trên Spotify và khuếch đại nội dung chất lượng thấp trên YouTube".

Sự bùng nổ của AI Slop gây lo ngại. Ảnh: Thred.

Theo tờ JoongAng đưa tin cách đây không lâu, YouTube đã xác định việc xử lý nội dung AI chất lượng thấp là một trong những ưu tiên của năm nay. Giám đốc điều hành YouTube Neal Mohan tuyên bố trên blog chính thức công ty đang “tích cực làm việc để giảm sự lan tràn của nội dung AI chất lượng thấp, lặp đi lặp lại”.

Tuy nhiên, AI slop vẫn có sức hấp dẫn bởi chi phí sản xuất thấp và khả năng tạo ra doanh thu nhanh.

Theo The Guardian, tính đến tháng 7/2025, cứ 10 kênh YouTube phát triển nhanh nhất thế giới, có một kênh dựa trên AI. 9 trong số 100 kênh tăng trưởng nhanh nhất sử dụng nội dung do AI tạo ra.

Nội dung của những kênh này thường rất kỳ quặc: em bé chui vào tên lửa chuẩn bị phóng, những câu chuyện bi kịch với nhân vật chính là một con mèo hay các tình huống phi lý được dựng thành video ngắn. Nhiều sản phẩm được xếp vào nhóm AI slop.

Quy mô của hiện tượng này đặc biệt đáng chú ý tại Hàn Quốc. Theo báo cáo của Kapwing do tờ JoongAng dẫn lại, Hàn Quốc là quốc gia có tổng lượt xem các kênh AI giả mạo cao nhất thế giới, với 8,45 tỷ lượt tính tới tháng 2. Con số này cao hơn Pakistan, đứng thứ hai với 5,3 tỷ lượt và Mỹ, đứng thứ 3 với 3,4 tỷ lượt.

Gần đây, một video giả mạo tuyên bố cựu vận động viên golf Se Ri Pak và diễn viên Kim Seung Soo thông báo kết hôn thu hút hơn 8,6 triệu lượt xem. Ngày 2/2, một YouTuber cũng bị bắt vì đăng tải video AI giả mạo, mô phỏng hình ảnh từ camera gắn trên người cảnh sát.

Những trường hợp này cho thấy ranh giới giữa AI slop và thông tin giả ngày càng trở nên mong manh. Một video ban đầu được tạo ra chỉ nhằm mục đích câu lượt xem có thể nhanh chóng biến thành nội dung gây hiểu nhầm khi người dùng tiếp nhận nó như thông tin thật.

Trao đổi với YTN, Giáo sư Choi Byung Ho làm việc tại Viện Nghiên cứu AI thuộc Đại học Hàn Quốc cho rằng đây là một trong những vấn đề khó khăn. Bất kể được tạo ra bởi AI hay con người, điều quan trọng là phải kiểm tra sự thật, nhưng việc đó không hề dễ dàng. Để có thể kiểm tra sự thật, số lượng video phải cực kỳ hạn chế. Tuy nhiên, vì AI đang phát triển nhanh chóng, nên số lượng rất lớn.

Điều đó có nghĩa mặc dù việc kiểm tra sự thật là cần thiết, nhưng con người không thể làm điều đó nếu không có sự hỗ trợ từ các cơ quan quản lý. Theo giáo sư, cần có cơ quan thu thập thông tin, xác định tính xác thực hoặc báo cáo cho các quan chức nhà nước.

Các nền tảng Hàn Quốc đã bắt đầu đưa ra biện pháp riêng. Naver khuyến khích người dùng hiển thị biểu tượng cho biết bài đăng có sử dụng AI trên blog và diễn đàn. Tistory của Daum cũng tự động xóa bình luận khi phát hiện quá nhiều nội dung tương tự được tạo ra bằng AI trong thời gian ngắn.

Trong khi đó, Luật khung về AI của Hàn Quốc có hiệu lực từ 22/1 nhưng chưa có quy định cụ thể nhằm xử lý toàn diện tình trạng lạm dụng AI trong nội dung số.

AI thay đổi cả quy trình làm phim

Không chỉ video ngắn trên mạng xã hội, AI đang thay đổi cách một bộ phim được tạo ra. Trước đây, việc gọi một tác phẩm là “phim AI” đôi khi chỉ vì ê-kíp sử dụng một công nghệ AI trong một công đoạn, chẳng hạn deepfake hoặc trẻ hóa khuôn mặt.

Hiện nay, sự phát triển của AI tạo sinh cho phép công nghệ này xử lý đồng thời hình ảnh, video, âm thanh và văn bản. AI có thể tham gia từ tiền kỳ, sản xuất đến hậu kỳ. Điều đó đồng nghĩa AI không còn là một công cụ bổ sung trong quá trình làm phim mà có thể trở thành một phần của toàn bộ quy trình sản xuất.

Đạo diễn Hyun Hae Ri nói với JoongAng một phim ngắn dài 10 phút thông thường có thể tiêu tốn khoảng 50 triệu won. Với AI, chi phí của một dự án do ông thực hiện giảm xuống còn khoảng một phần mười. Ông chi khoảng 2 triệu won cho các gói đăng ký AI, phần còn lại dành cho nhân công.

Một phim ngắn 10 phút thông thường cần khoảng 50 người, bao gồm diễn viên và nhân viên. Trong khi đó, phim ngắn AI The Long Visitor chỉ cần 8 người.

Sự bùng nổ AI đã phần nào làm thay đổi quy trình sản xuất phim. Ảnh: Felo.

Ở giai đoạn sản xuất, ê-kíp chỉ có ba người gồm đạo diễn Hyun và hai nhà làm phim AI. Hai nhân sự này chịu trách nhiệm tạo video dựa trên ý tưởng cảnh quay, storyboard và hình ảnh do đạo diễn xây dựng.

Do bộ phim hướng tới trình chiếu tại rạp, thêm 5 nhân sự tham gia hậu kỳ, chủ yếu xử lý âm thanh. Tuy nhiên, theo đạo diễn Hyun, về cơ bản chỉ cần 3 người để hoàn thành phần lớn quy trình sản xuất.

Những công ty sở hữu lượng lớn IP trong phim ảnh, truyền hình và chương trình giải trí cũng đang tìm cách sử dụng AI để khai thác kho nội dung. CJ ENM là một ví dụ. Công ty thành lập đội ngũ kinh doanh nội dung AI vào đầu năm nay và phát triển AI Script, mô hình chuyên biệt nhằm tìm kiếm những IP tiềm năng.

JoongAng nhận định AI có thể tạo ra hàng triệu sản phẩm tương tự nhau, nhưng một vấn đề khác xuất hiện: làm thế nào để một tác phẩm có bản sắc riêng?

Ngoài ra, dù AI giúp giảm chi phí và thời gian sản xuất, ngành điện ảnh Hàn Quốc nói riêng và quốc tế nói chung vẫn phải đối mặt với một trở ngại lớn: Sự phản đối của công chúng và những người sáng tạo đối với việc sử dụng AI.

Tại Anh, buổi chiếu The Last Screenwriter bị hủy sau phản ứng dữ dội từ dư luận. Bộ phim được quảng bá là tác phẩm điện ảnh đầu tiên có kịch bản hoàn toàn do ChatGPT viết.

Mối quan tâm của giới sáng tạo liên quan trực tiếp đến bản quyền. Luật sư Lim Sang Hyuk của Công ty Luật Sejong cho rằng vấn đề cốt lõi là xác định liệu sản phẩm do AI tạo ra có thể được bảo hộ bản quyền tương tự tác phẩm của con người hay không.

I'm POPO là phim điện ảnh đầu tiên của Hàn Quốc được sản xuất hoàn toàn bằng AI. Ảnh: Cine21.

Theo ông, cần tách riêng hai vấn đề: quyền đối với dữ liệu được sử dụng để huấn luyện AI và quyền đối với nội dung do AI tự động tạo ra.

Khi AI ngày càng tham gia sâu vào quá trình sáng tạo, đây sẽ không còn là câu hỏi riêng của các nhà làm phim. Nó liên quan đến toàn bộ hệ sinh thái nội dung số, từ YouTube, mạng xã hội đến điện ảnh và quảng cáo.

AI có thể giúp một ê-kíp vài người tạo ra sản phẩm vốn cần hàng chục nhân sự. Nó cũng có thể biến một ý tưởng thành video trong vài giờ thay vì nhiều tuần. Nhưng chính tốc độ và chi phí thấp ấy đang tạo ra lượng nội dung khổng lồ, trong đó không phải sản phẩm nào cũng có giá trị.

Thách thức của ngành nội dung vì vậy không chỉ là học cách sử dụng AI. Đó còn là việc xác định ranh giới giữa ứng dụng công nghệ để nâng cao khả năng sáng tạo và sản xuất hàng loạt nội dung chỉ nhằm tối đa hóa lượt xem.