Trường hợp "hot girl AI" khiến cộng đồng ngao ngán

Thời gian qua, việc một số tài khoản dùng AI để tạo hình các cô gái xinh đẹp nhằm câu view, câu like đã không còn là điều quá xa lạ. Chỉ cần vài công cụ chỉnh sửa hình ảnh và video bằng trí tuệ nhân tạo, nhiều người có thể dễ dàng tạo ra nhân vật ảo với gương mặt hoàn hảo, thân hình nổi bật, biểu cảm tự nhiên và gần như không thể phân biệt với người thật.

Đa số những tài khoản dạng này thường chỉ tồn tại trong thời gian ngắn. Sau khi bị cộng đồng phát hiện hoặc nền tảng kiểm duyệt, chúng nhanh chóng "bay màu", biến mất khỏi mạng xã hội. Thế nhưng, trường hợp của "hot girl AI" đang gây xôn xao gần đây lại hoàn toàn khác.

Nhân vật ảo này xuất hiện đồng loạt trên nhiều nền tảng khác nhau, từ TikTok, Facebook Reels cho tới Instagram. Nội dung chủ yếu là các video nhảy đơn giản, tạo dáng trước gương hoặc diện những bộ trang phục ôm sát, dễ gây chú ý. Dù nội dung không có gì đặc biệt, lượng tương tác lại tăng chóng mặt.

Chỉ cần lướt qua hệ thống tài khoản của "cô nàng" này, không khó để bắt gặp những video đạt hàng trăm nghìn đến hàng triệu lượt xem. Có clip cán mốc hơn 1 triệu view chỉ sau thời gian ngắn đăng tải. Đáng chú ý, nhiều người dùng dù biết đây là nhân vật AI nhưng vẫn để lại bình luận tương tác đều đặn, thậm chí còn xin "info", trò chuyện như với một người thật.

Điều khiến cộng đồng ngán ngẩm hơn cả là cách những tài khoản này hoạt động cực kỳ bài bản. Khi một kênh bị khóa, ngay lập tức sẽ có kênh mới xuất hiện với giao diện tương tự, nội dung gần như giống hệt và tiếp tục thu hút người xem. Một số tài khoản còn ghim video cũ đạt lượt xem cao để nhanh chóng lấy lại tương tác sau khi lập kênh mới. Hiện tại, tổng lượt xem trên hệ thống các tài khoản liên quan tới "hot girl AI" này đã lên tới con số hàng chục triệu, cho thấy mức độ viral không hề nhỏ.

Dấu hỏi lớn tới cách các nền tảng MXH kiểm duyệt nội dung

Điều khiến nhiều người lo ngại là phía sau những video tưởng như vô hại ấy lại có thể tồn tại các mục đích không đơn giản. Thậm chí, có cả hành vi "spam" hoặc dẫn hướng người xem sang các trang web đáng ngờ. Sau khi bị cấm, chỉ sau thời gian ngắn, những tài khoản mới lại tiếp tục xuất hiện. Cách thức hoạt động gần như lặp lại: đăng video thu hút bằng hình ảnh AI gợi cảm, xây dựng lượng follow ổn định rồi điều hướng người xem sang các đường link bên ngoài.

Rõ ràng, đây là lỗ hổng lớn trong khâu kiểm duyệt nội dung của các nền tảng mạng xã hội hiện nay. Trong bối cảnh AI ngày càng phát triển mạnh, việc phân biệt người thật và nhân vật ảo đang trở nên khó khăn hơn bao giờ hết. Điều này vô tình tạo cơ hội để nhiều đối tượng lợi dụng công nghệ nhằm tăng tương tác hoặc phục vụ mục đích xấu.

Nhiều ý kiến cũng đặt câu hỏi: tại sao các tài khoản liên tục vi phạm vẫn có thể quay trở lại dễ dàng? Trong khi người dùng thông thường chỉ cần mắc lỗi nhỏ đã có nguy cơ bị hạn chế tương tác, thì những hệ thống kênh AI câu view lại tồn tại dai dẳng suốt thời gian dài.

Sự việc này tiếp tục dấy lên hồi chuông cảnh báo về mức độ phức tạp của nội dung AI trên mạng xã hội. Không thể phủ nhận công nghệ AI đang mang lại nhiều tiện ích, nhưng nếu bị lạm dụng để đánh lừa người xem, câu kéo tương tác hoặc dẫn dụ tới những website độc hại, hậu quả có thể rất khó lường.