Những kẻ đứng sau ứng dụng nguy hại tạo “ảnh nóng” bằng AI

ANTD.VN - Hình ảnh phụ nữ khỏa thân do trí tuệ nhân tạo (AI) tạo ra đang là mô hình kinh doanh của Clothoff - một ứng dụng web đáng ngờ nhưng phổ biến khắp thế giới với hàng triệu lượt truy cập. Thông tin mới tiết lộ từ một người trong cuộc cho thấy ngành kinh doanh này béo bở như thế nào và những người đứng sau nó trơ tráo ra sao.

• Đối tượng được thuê chế ảnh 'nóng' sẽ bị xử lý ra sao?

Phần nổi của “tảng băng chìm”

“Những người điều hành Clothoff chỉ quan tâm đến tiền. Họ rõ ràng không quan tâm đến hậu quả của ứng dụng này đối với các thiếu nữ” - bác sĩ Miriam Al Adib (người Tây Ban Nha) khẳng định. Vào tháng 9-2023, những bức ảnh khỏa thân giả của con gái bà (lúc đó mới 14 tuổi) đã được tạo ra bằng AI do Clothoff cung cấp. Những hình ảnh này được lan truyền trong các nhóm WhatsApp tại nơi gia đình bà sinh sống và khiến cô bé 14 tuổi bị nhiều người trêu chọc, bắt nạt. “Nếu không biết rõ về con gái mình, tôi đã nghĩ những bức ảnh đó là thật” - bác sĩ Al Adib nói. Bà đồng thời thừa nhận đã rất sốc khi nhìn thấy ảnh “sáng tác” về con gái mình.

Ảnh khỏa thân được tạo ra với sự trợ giúp của AI là một hình thức quấy rối trực tuyến mới và thường bị bỏ qua. Bà Al Adib cho biết: “Những hình ảnh AI như vậy có thể cực kỳ nguy hiểm cho tâm lý của những người trẻ tuổi. Đã có những nạn nhân phải tự tử vì tuyệt vọng”.

Con gái bà Miriam Al Adib không phải là nạn nhân duy nhất. Ít nhất 20 bé gái từ 11 - 17 tuổi của 4 trường học tại thị trấn Almendralejo (Tây Ban Nha) đã bị tung “ảnh nóng” nhờ sự trợ giúp của ứng dụng này. Cha mẹ các em đã cùng nhau theo đuổi vụ kiện để làm rõ chuyện này. Cơ quan chức năng sau đó xác định, một nhóm 15 nam sinh là thủ phạm. Với trường hợp của con gái bà Al Adib, chúng đã lấy một bức ảnh thật của cô bé từ ứng dụng WhatsApp và tải lên Clothoff để tạo ảnh thành khỏa thân. Các bé gái khác cũng bị lấy ảnh từ tài khoản Instagram trong các bức hình tự chụp. Kết quả, các nam sinh đó đã bị tòa án vị thành niên tuyên án tù treo 1 năm vì tội phát tán nội dung khiêu dâm trẻ em. Dù danh tính các đối tượng không được công khai, nhưng bà Al Adib cuối cùng cũng hài lòng với cách xử lý vụ việc khi phụ huynh đôi bên đạt được thỏa thuận tại tòa. “Các bé gái đã được hưởng công lý và hy vọng các bé trai học được điều gì đó” - bà nói.

Nhưng điều mà bác sĩ Al Adib vẫn cảm thấy không chấp nhận được là trách nhiệm của những người đứng sau Clothoff. “Thật phi đạo đức khi những tội ác như thế này đối với nhiều bé gái khác trên thế giới vẫn tiếp diễn” - bà nói.

Tiến sĩ Al Adib: “Thật vô lý khi những tội ác kiểu này với các cô gái trẻ vẫn tiếp diễn”

Mối nguy của ứng dụng “nudify”

Clothoff là một ứng dụng được gọi là “nudify”. Chúng có thể tạo ra những bức ảnh nhạy cảm của bất kỳ ai. Hiện các ứng dụng kiểu này đang bùng nổ trên toàn cầu, với hơn 60 dịch vụ được ra mắt trong 2 năm qua. Tất cả đều hoạt động theo cơ chế, chỉ với vài cú nhấp chuột, AI sẽ giúp biến một bức ảnh của một người bình thường thành ảnh họ mặc bikini hoặc khỏa thân. Tất nhiên đó là những bức ảnh “siêu giả” (deepfake) mà nạn nhân không hề hay biết.

Các ứng dụng “nudify” xuất hiện đầy rẫy tại các nền tảng khiêu dâm miễn phí trên internet. Hạn chế duy nhất là phần lớn dịch vụ chỉ nhắm vào phụ nữ và loại trừ nam giới. Trong số đó, Clothoff là một trong những ứng dụng hàng đầu. Chỉ trong 6 tháng đầu năm 2024, trang web của ứng dụng này đã có 27 triệu lượt truy cập, với trung bình 200.000 bức ảnh được tạo ra mỗi ngày. Ứng dụng này gần đây đã bắt đầu tiếp thị khả năng tạo video giả bằng hình ảnh. Theo thông tin của công ty, chức năng này đã được sử dụng hơn 1 triệu lần.

Vào tháng 8-2024, giới chức San Francisco (bang California, Mỹ) đã công khai đệ đơn kiện Clothoff và một số ứng dụng “nudify” khác. Họ yêu cầu các dịch vụ này ngừng hoạt động do phát tán nội dung khiêu dâm trẻ em và thanh thiếu niên. Tuy nhiên cho đến nay, những người điều hành Clothoff dường như miễn nhiễm với các vụ kiện.

Một mặt trái của ứng dụng trí tuệ nhân tạo là “ảnh nóng” deepfake tràn lan, nhưng những kẻ đứng sau ứng dụng không hề bị xử lý

Tiết lộ của người trong cuộc

Một người từng có quyền truy cập vào thông tin nội bộ của Clothoff đã tiết lộ về mức độ sinh lời khủng khiếp của doanh nghiệp này. Anh ta làm việc cho ứng dụng này vì ban đầu nó giống như một phần của một công ty khởi nghiệp đầy triển vọng. Nhưng giờ đây, anh ta cảm thấy mình có một phần trách nhiệm đối với những gì Clothoff đã gây ra. Đó là lý do tại sao anh công khai thông tin dù vẫn giữ kín danh tính. Người tố giác cho biết, Clothoff đã mua lại cả mạng lưới ứng dụng “nudify”. Bằng chứng trực tuyến và trích xuất từ sổ đăng ký thương mại cho thấy, Clothoff hiện sở hữu 10 dịch vụ “nudify” khác, tất cả đều có lượt xem hàng tháng từ hàng trăm nghìn đến vài triệu. Người tố giác cho biết thêm, riêng ngân sách hàng năm của Clothoff là 3 triệu euro.

Mức độ chuyên nghiệp và táo bạo của công ty có thể được thấy rõ qua kế hoạch cho một chiến dịch tiếp thị mới với quy mô lớn nhắm vào thị trường Đức, Pháp, Anh và Tây Ban Nha. Họ có một lộ trình rõ ràng, nêu chính xác khi nào các lập trình viên (hoặc nhóm truyền thông xã hội) phải hoàn thành từng bước. Trong chiến dịch này, Clothoff dự định sản xuất hình ảnh khỏa thân của những người có sức ảnh hưởng, ca sĩ và diễn viên nổi tiếng. Ngân sách tiếp thị là 150.000 euro cho mỗi quốc gia. Số tiền này sẽ được chi cho các bài đăng quảng cáo trên các kênh Telegram, Reddit và 4chan (một kênh nổi tiếng vì các quy định lỏng lẻo). Theo các tài liệu chiến dịch, nhóm khách hàng mà Clothoff nhắm tới là “nam giới từ 16 - 35 tuổi, có sở thích chơi trò chơi điện tử, meme internet, tư tưởng cực đoan cánh hữu, thù ghét phụ nữ...”.

Một số người có thể bị ảnh hưởng cho biết, họ đặc biệt sốc khi một ứng dụng như Clothoff (vốn có thể được sử dụng để bắt nạt trực tuyến ở trường học) giờ đây lại đang có kế hoạch sử dụng hình ảnh của người nổi tiếng cho mục đích quảng cáo. Một số đại diện của các ngôi sao cho biết sẽ khởi kiện nếu chiến dịch tiếp thị này thực sự được triển khai. Tuy nhiên, những người đứng sau Clothoff cố gắng hết sức để che giấu danh tính. Hiện tại, công ty được cho là có trụ sở chính tại quần đảo Virgin thuộc Anh, mặc dù trước đây nó tuyên bố có địa chỉ tại Thủ đô Buenos Aires của Argentina. Nhưng vào mùa hè năm 2024, một cơ sở dữ liệu nội bộ bị rò rỉ trên internet cho thấy 4 nhân vật chủ chốt đứng sau trang web ở các quốc gia Đông Âu, gồm: Alexander G (đến từ Nga), Dascha và Alexander B (đến từ Belarus), Yevgeniy B (đến từ Ukraine). Người tố giác đã xác nhận với hãng tin Der Spiegel (Đức) rằng, tất cả nhân viên của Clothoff đều làm việc tại các quốc gia thuộc Liên Xô (cũ). Điều này phù hợp với thực tế là tất cả các thông tin liên lạc nội bộ của công ty biết được đến nay toàn bằng tiếng Nga.

Sau bài báo của Der Spiegel vào tháng 12-2024, một người tên Elias đã liên lạc với tòa soạn, tự xưng là người phát ngôn của ứng dụng Clothoff. Anh ta nói rằng không biết 4 người được đề cập ở trên. Elias phủ nhận việc ứng dụng này có ngân sách hàng năm hơn 3 triệu USD, đồng thời cho biết nhóm trung tâm của họ có chưa đến 30 người thuộc nhiều quốc gia và đang làm việc để tạo ra lợi nhuận.

Một trong số khách hàng của Clothoff là người đàn ông Thụy Sĩ 49 tuổi chia sẻ, ông đã chi khoảng 40 euro cho ứng dụng và tạo ra những ảnh sex giả của các ca sĩ Mỹ nổi tiếng. “Tôi muốn thử, và tất nhiên ham muốn tình dục là một phần của nó” - ông nói, giọng có vẻ ngượng ngùng. Người này không nghĩ mình đã làm gì sai vì chưa bao giờ chia sẻ những hình ảnh này mà chỉ lưu chúng trên máy tính. Ông thừa nhận việc sản xuất những hình ảnh như vậy mà không có sự đồng ý của người được chụp là bất hợp pháp, nhưng cho biết sẽ không gỡ cài đặt ứng dụng. Tuy nhiên, ông khẳng định sẽ không bao giờ chụp ảnh cá nhân và tải lên Clothoff. “Nếu tôi biết ai đó sản xuất những bức ảnh như vậy của con gái tôi, tôi sẽ không để họ yên” - ông nói.