Phim khiêu dâm deepfake khiến các tổ chức quốc tế phải hành động

04/10/2024 - 18:42

PNO - Gần 30 tổ chức quốc tế đang lập thành liên minh để gây sức ép cho các ông lớn công nghệ, yêu cầu họ phải có chính sách rõ ràng về AI để chống lại nạn sản xuất, phát tán phim khiêu dâm deepfake.

Phim ảnh khiêu dâm giả mạo đang làm mưa làm gió trên các nền tảng trực tuyến gây nên nhiều hệ lụy xấu cho phụ nữ, trẻ em gái và ngườic huyển giới - Ảnh: Restless Network
Phim ảnh khiêu dâm giả mạo đang "làm mưa làm gió" trên các nền tảng trực tuyến gây nên nhiều hệ lụy cho phụ nữ, trẻ em gái và người chuyển giới - Ảnh: Restless Network

27 tổ chức quốc tế đang bắt tay nhau soạn thảo một thư mở kêu gọi các công ty công nghệ lớn tăng cường chính sách về trí tuệ nhân tạo (AI) của họ để chống lại "thông tin sai lệch tạo nên vấn đề phân biệt giới tính và xem thường phụ nữ" - vốn đang là vấn nạn gây ảnh hưởng xấu trên các nền tảng truyền thông xã hội hiện nay.

Bức thư ngõ này sẽ được gửi đến giám đốc điều hành của sáu gã khổng lồ công nghệ, bao gồm: Meta, X, YouTube, TikTok, Snapchat và Reddit. Đây được cho là động thái cấp thiết sau khi hàng loạt video khiêu dâm giả mạo (deepfake porn) bùng nổ trên không gian mạng, cùng với đó là sự gia tăng tình trạng quấy rối và lừa đảo trực tuyến được kích hoạt bởi các công cụ AI.

"Phụ nữ, trẻ em gái và người chuyển giới là những nhóm có nguy cơ cao nhất phải chịu tác động tiêu cực của nội dung bẩn do AI tạo ra trên mạng xã hội", trích một phần bức thư được AFP tiếp cận được.

AI có thể tạo ra những video khiêu dâm với nhân vật giả mạo một cách dễ dàng - Ảnh: Rexxfield
AI có thể tạo ra những video khiêu dâm với nhân vật giả mạo một cách dễ dàng - Ảnh: Rexxfield

Bức thư cũng đưa ra hàng chục khuyến nghị nhằm tăng cường các chính sách quản lý AI, cũng như yêu cầu xây dựng một quy trình rõ ràng, minh bạch để người dùng có thể báo cáo những nội dung có hại. Kiểm toán toàn diện chính sách về AI hàng năm của các công ty công nghệ cũng là một trong những đề xuất mà nhóm liên minh các tổ chức quốc tế đưa ra.

Các chuyên gia cho biết, sự gia tăng của deepfake hiện đang vượt xa so với những nỗ lực kiểm soát của các công ty công nghệ và cơ quan quản lý của các chính phủ trên toàn cầu gây nên nhiều hệ quả nghiêm trọng.

Trong khi những người nổi tiếng như ca sĩ Taylor Swift và nữ diễn viên Emma Watson là nạn nhân thường xuyên của phim khiêu dâm giả mạo, các chuyên gia nói rằng, ngay cả những phụ nữ bình thường không được công chúng chú ý cũng dễ bị tổn thương.

Nữ ca sĩ Taylor Swift là một trong những nhân vật nổi tiếng bị AI gán ghép vào các bộ phim khiêu dâm deepfake- Ảnh: Gareth Cattermole / TAS24 / Getty Images for TAS Rights Management
Nữ ca sĩ Taylor Swift là một trong những nhân vật nổi tiếng bị AI gán ghép vào các bộ phim khiêu dâm deepfake - Ảnh: Gareth Cattermole/TAS24 /Getty Images for TAS Rights Management

Bà Ellen Jacobs, nhà quản lý chính sách kỹ thuật số cấp cao của Viện Đối thoại Chiến lược Hoa Kỳ, một trong những tổ chức đã ký bức thư, cho biết: “Công nghệ AI đã và đang tạo điều kiện thuận lợi hơn cho việc tạo ra và lan truyền trên không gian mạng những sản phẩm đồi trụy quấy rối và lạm dụng tình dục dựa trên giới tính”.

Các nền tảng "cần phải có hành động cụ thể ngay bây giờ, để mọi người có thể cảm thấy an toàn trên không gian mạng", trích nội dung bức thư mở sẽ được gửi đi trong ngày 4/10.

Nguyễn Thuận (theo AFP)

 

news_is_not_ads=
TIN MỚI