Ngày 25/1, New York Post đưa tin những bức ảnh được tạo ra bằng deepfakes - phương tiện tổng hợp đã được điều khiển bằng kỹ thuật số để thay thế chân dung của người này bằng chân dung của người khác - cho thấy Taylor Swift ở nhiều tư thế khiêu dâm khác nhau trong một trận đấu của đội Kansas City Chiefs, ăn theo mối quan hệ tình cảm mới công khai của "Công chúa nhạc đồng quê" với cầu thủ bóng bầu dục Travis Kelce.

Những bức ảnh deepfake do AI tạo ra giả mạo Taylor Swift bị phát tán với tốc độ nhanh chóng mặt

Hiện chưa rõ ai đã tạo ra những bức ảnh nhạy cảm cũng như ai là người đầu tiên chia sẻ chúng trên nền tảng X (Twitter). Tính đến sáng ngày 25/1 (giờ Mỹ), từ khóa "Taylor Swift AI" đã trở thành xu hướng trên trang mạng xã hội nổi tiếng, với hơn 58.000 bài đăng.

Sau đó, từ chiều Chủ nhật (28/1), từ khóa "Taylor Swift" đã bị chặn trên thanh tìm kiếm của mạng xã hội X. Khi nhập từ khóa tên của ca sĩ nhạc pop này, người dùng nhận được thông báo "Rất tiếc, đã xảy ra lỗi".

Từ khóa "Taylor Swift" đã bị chặn trên MXH X để giảm bớt sự lan truyền của những hình ảnh deepfake giả mạo

Không chỉ vậy, MXH này còn vô hiệu hóa một số tài khoản chia sẻ hình ảnh deepfake giả mạo. Tuy nhiên, những hình ảnh này đã sớm lan truyền sang các nền tảng mạng xã hội khác. Hiện tại, cụm từ "Protect Taylor Swift" (bảo vệ Taylor Swift) nhanh chóng trở thành xu hướng trên X.

Theo ông Joe Benarroch, người đứng đầu hoạt động kinh doanh của X: "Đây là một hành động tạm thời được thực hiện hết sức thận trọng vì chúng tôi ưu tiên sự an toàn trong vấn đề này".

Từ lâu, vấn nạn hình ảnh khiêu dâm giả mạo của người nổi tiếng trên Internet vốn đã xuất hiện khi các phần mềm photoshop ra đời. Nhưng phải đến thời kỳ AI bùng nổ, mối lo ngại mới thực sự gia tăng do khả năng đáng kinh ngạc của công nghệ này trong việc tạo ra những hình ảnh giả mạo chân thực thuyết phục.

Công nghệ deepfake ngày càng tinh vi nhờ trí tuệ nhân tạo (AI)

Trên thực tế, chính quyền Mỹ đã bắt đầu có những hành động cụ thể để ngăn chặn hành vi sử dụng AI cho mục đích xấu.

Tháng 10/2023, Tổng thống Mỹ Joe Biden ký lệnh hành pháp nhằm ngăn chặn AI tạo ra tài liệu lạm dụng tình dục trẻ em hoặc tạo ra hình ảnh riêng tư không có sự đồng thuận của các cá nhân thực. Lệnh này cũng yêu cầu chính phủ liên bang ban hành hướng dẫn làm mờ hoặc gắn logo vào các sáng tạo AI.

Nội dung khiêu dâm deepfake không có sự đồng thuận đã bị coi là bất hợp pháp ở Texas, Minnesota, New York, Hawaii và Georgia. Tuy nhiên, việc chưa có khung pháp lý chung cho toàn nước Mỹ dẫn đến vụ việc lưu hành các hình ảnh khỏa thân do AI tạo ra tại các trường trung học ở New Jersey và Florida.