Sở hữu ngoại hình xinh đẹp, phong cách gần gũi cùng hàng triệu người theo dõi trên các nền tảng mạng xã hội, Pokimane, tên thật là Imane Anys, từ lâu đã trở thành gương mặt streamer quen thuộc của cộng đồng game thủ.

Tuy nhiên, đằng sau sự nổi tiếng ấy là những trải nghiệm tiêu cực mà không phải người hâm mộ nào cũng biết, đặc biệt khi hình ảnh của cô bị lợi dụng để tạo ra các sản phẩm giả mạo bằng trí tuệ nhân tạo.

Mọi chuyện bắt đầu trở nên nghiêm trọng vào đầu năm 2023, khi một vụ bê bối liên quan đến nội dung deepfake nhạy cảm của nhiều nữ streamer bị phanh phui.

Pokimane là một trong những người bị ảnh hưởng, với khuôn mặt bị sử dụng trái phép để ghép vào những hình ảnh và video mang tính riêng tư. Đáng nói, toàn bộ nội dung này đều là sản phẩm giả mạo, không có sự tham gia hay đồng thuận của nữ streamer.

Dù vậy, việc chứng minh những hình ảnh ấy không có thật cũng chẳng thể khiến hậu quả lập tức biến mất. Với công nghệ deepfake ngày càng tinh vi, các sản phẩm giả mạo có thể trông chân thực đến mức khiến người xem khó phân biệt. Một khi bị phát tán trên Internet, chúng có nguy cơ tiếp tục xuất hiện ở nhiều trang web và tài khoản khác nhau, khiến việc kiểm soát trở nên vô cùng khó khăn.

Trong lần chia sẻ mới đây, Pokimane tiết lộ cô đã phải bỏ ra hàng trăm nghìn USD, tương đương nhiều tỷ đồng, cho các nỗ lực pháp lý và xử lý những nội dung giả mạo liên quan đến bản thân. Đây là con số khiến không ít người bất ngờ, bởi ngay cả một nữ streamer có thu nhập cao cũng phải chịu tổn thất tài chính đáng kể chỉ để bảo vệ hình ảnh cá nhân.

Tuy nhiên, tiền bạc chưa phải hậu quả duy nhất. Pokimane thừa nhận những gì đã xảy ra vẫn khiến cô bị ám ảnh cho đến hiện tại. Cảm giác hình ảnh của mình bị sử dụng trong các nội dung nhạy cảm mà bản thân không hề đồng ý là trải nghiệm khó có thể quên, đặc biệt khi những sản phẩm giả mạo có thể tiếp tục tồn tại và lan truyền trên mạng.

Nữ streamer cũng cho rằng việc một số người lựa chọn bỏ qua vụ bê bối không đồng nghĩa với việc những người trực tiếp bị ảnh hưởng đã vượt qua được tổn thương. Cô không yêu cầu cộng đồng phải tiếp tục chỉ trích bất kỳ cá nhân nào, nhưng mong mọi người hiểu rằng hậu quả đối với nạn nhân không tự động biến mất theo thời gian.

Những chia sẻ của Pokimane nhanh chóng thu hút sự quan tâm bởi cô vốn là một trong những nữ streamer có sức ảnh hưởng lớn. Nếu ngay cả một người nổi tiếng, có nguồn lực tài chính và đội ngũ hỗ trợ vẫn phải chi số tiền khổng lồ để đối phó với deepfake, những người dùng Internet bình thường có thể còn gặp nhiều khó khăn hơn khi rơi vào hoàn cảnh tương tự.

Câu chuyện của Pokimane cũng phản ánh một thực tế đáng lo ngại trong thời đại AI phát triển mạnh mẽ. Chỉ từ những bức ảnh hoặc đoạn video được đăng tải công khai, kẻ xấu có thể tạo ra nội dung giả mạo nhằm xâm phạm quyền riêng tư và danh dự của người khác.

Với nữ streamer xinh đẹp, hàng trăm nghìn USD có thể giúp cô hạn chế sự phát tán của những nội dung giả mạo, nhưng không thể lập tức xóa đi cảm giác bị xâm phạm. Đó cũng là lý do Pokimane quyết định tiếp tục lên tiếng, ngay cả khi vụ việc đã xảy ra từ nhiều năm trước.