Hình ảnh AI nhạy cảm của Taylor Swift tràn ngập trên mạng xã hội

Taylor Swift – ngôi sao nổi tiếng nhất thế giới đang trở thành tâm điểm trên mạng xã hội tuần này với những bức ảnh khiêu dâm do AI tạo ra. Điều này đặt ra nhiều nguy hiểm tiềm tàng của trí tuệ nhân tạo (AI) với khả năng tạo hình ảnh giả mạo để sử dụng cho những mục đích xấu.

Những bức ảnh cho thấy ca sĩ đang trong tư thế khêu gợi và khiêu dâm với hàng chục triệu lượt xem trước khi bị xóa khỏi nền tảng xã hội. Nhưng không có gì trên internet thực sự biến mất mãi mãi và chắc chắn chúng sẽ tiếp tục được chia sẻ trên các kênh khác ít được quản lý hơn. Hiện tại vẫn chưa rõ những bức hình này bắt nguồn từ đâu, nó xuất hiện trên cả Instagram và Reddit nhưng đặc biệt phổ biến trên X.

Dấu hiệu của lỗ hổng kiểm duyệt trên các nền tảng

Ben Decker, người điều hành Memetica, một cơ quan điều tra kỹ thuật số, nói với CNN: “Việc khai thác các công cụ AI tổng hợp để tạo ra nội dung gây hại nhắm vào tất cả các nhân vật của công chúng đang gia tăng nhanh hơn chóng bao giờ hết trên mạng xã hội”.

Ông nói thêm: “Đây là dấu hiệu cho thấy một kiểu rạn nứt lớn hơn trong việc kiểm duyệt nội dung và quản trị nền tảng bởi vì nếu tất cả các bên liên quan là các công ty AI, công ty truyền thông xã hội, cơ quan quản lý và xã hội dân sự đều không thống nhất quan điểm và tìm cách giải quyết những vấn đề này thì loại nội dung này sẽ tiếp tục phổ biến”. Dẹcker cho rằng các công ty truyền thông không thực sự có kế hoạch hiệu quả để giám sát các loại nội dung này.

Cụ thể, X đã loại bỏ phần lớn nhóm kiểm duyệt nội dung của mình, hiện tại chủ yếu dựa vào hệ thống tự động và báo cáo của người dùng. (Tại EU, X đang bị điều tra về các hoạt động kiểm duyệt nội dung của mình). Meta cũng đã cắt giảm các nhóm giải quyết thông tin sai lệch và quấy rối trên nền tảng của mình, điều này làm dấy lên lo ngại trước cuộc bầu cử quan trọng năm 2024 ở Mỹ và trên toàn thế giới.

Mục đích khác ngoài việc tấn công vào Taylor Swift

Decker cho biết việc nhắm đến những nhân vật có tầm ảnh hưởng như Taylor Swift có thể một sự cố tình để thu hút nhiều sự chú ý hơn đến các vấn đề xung quanh hình ảnh do AI tạo ra. Bởi lượng fan hâm mộ đông đảo của cô đang bày tỏ sự phẫn nộ của họ trên mạng xã hội đưa vấn đề này lên top tìm kiếm trong tuần. Vào năm 2022, cuộc khủng hoảng của Ticketmaster trước buổi hòa nhạc Eras Tour của Taylor Swift đã làm dấy lên cơn thịnh nộ trên mạng dẫn đến một số nỗ lực lập pháp nhằm trấn áp các chính sách bán vé không thân thiện với người tiêu dùng. Vụ việc lần này có thể là một chủ ý tương tự như vậy.

Sự việc này cần được chú ý nhiều hơn khi Hoa Kỳ sắp bước vào năm bầu cử tổng thống và mối lo ngại ngày càng gia tăng về cách các hình ảnh và video gây hiểu lầm do AI tạo ra có thể được sử dụng để thúc đẩy việc đưa thông tin sai lệch làm gián đoạn và ảnh hưởng đến cuộc bầu cử.

Chín tiểu bang của Hoa Kỳ hiện đã có luật chống lại việc tạo hoặc chia sẻ ảnh deepfake – những hình ảnh tổng hợp được tạo ra để bắt chước chân dung của một người khi không có sự đồng thuận.

>> Xem thêm: Animate Anyone: Làm hình ảnh chuyển động như thật, đưa deepfake lên 1 tầm cao mới