Những hình ảnh khiêu dâm, bạo lực do chatbot Grok tạo theo yêu cầu người dùng mạng xã hội X bị cáo buộc mô tả phụ nữ, trẻ vị thành niên có thật.

Lệnh cấm được xem là động thái cứng rắn nhất từ các chính phủ trước vấn nạn deepfake có yếu tố tình dục không đồng thuận. X và xAI đều thuộc cùng một công ty do Elon Musk kiểm soát.

pw7odacl.png
Chatbot Grok của Elon Musk vướng tranh cãi liên quan hình ảnh khiêu dâm do AI tạo ra. Ảnh: Indy100 

Trong tuyên bố gửi tờ The Guardian hôm 10/1, Bộ trưởng Truyền thông và Kỹ thuật số Indonesia Meutya Hafid nhấn mạnh: “Chính phủ xem hành vi tạo và lan truyền deepfake khiêu dâm không đồng thuận là sự vi phạm nghiêm trọng quyền con người, nhân phẩm và an ninh của công dân trong không gian số”. Bộ này đã triệu tập đại diện của X để làm rõ vụ việc.

Theo New York Times, Malaysia cũng công bố biện pháp chặn Grok vào ngày hôm sau, với lý do tương tự liên quan đến việc phát tán nội dung AI nhạy cảm.

Trong những ngày qua, phản ứng của các chính phủ trên thế giới khá khác nhau. Tại Ấn Độ, Bộ Công nghệ Thông tin yêu cầu X phải có biện pháp ngăn Grok tạo ra nội dung khiêu dâm. Ủy ban châu Âu ra lệnh cho công ty lưu giữ toàn bộ tài liệu liên quan đến Grok, động thái được xem là bước chuẩn bị cho một cuộc điều tra chính thức.

Screenshot 20251007 115418 TikTok

Mall) Loa Kiểm Âm Bluetooth EDIFIER MR3/MR5 I Công Suất 36W | Bluetooth 5.4 |

Ở Anh, cơ quan quản lý truyền thông Ofcom cho biết sẽ “tiến hành đánh giá nhanh” để xác định liệu có dấu hiệu vi phạm quy định hay không. Thủ tướng Keir Starmer khẳng định Ofcom có “toàn quyền ủng hộ” của ông nếu cần hành động. Trong khi đó, tại Mỹ, chính quyền Tổng thống Donald Trump gần như chưa đưa ra bình luận. Một số thượng nghị sĩ Dân chủ đã kêu gọi Apple và Google gỡ ứng dụng X khỏi kho ứng dụng.

xAI đã đăng lời xin lỗi trên tài khoản Grok, thừa nhận một bài viết đã “vi phạm các tiêu chuẩn đạo đức và có thể cả luật pháp Mỹ” liên quan đến nội dung lạm dụng tình dục trẻ em. Sau đó, công ty hạn chế tính năng tạo ảnh AI của Grok chỉ dành cho người dùng trả phí trên X. Tuy nhiên, biện pháp này không áp dụng với ứng dụng Grok độc lập, nơi người dùng vẫn có thể tạo hình ảnh tự do.

(Theo TechCrunch)

Grok của Elon Musk hứng ‘bão lửa’ vì nội dung nhạy cảmGrok của Elon Musk nhận hàng loạt phản hồi tiêu cực khi cho phép người dùng dễ dàng tạo ra ảnh khỏa thân từ ảnh thật, thậm chí với ảnh của trẻ em.


Screenshot 20251008 073715 Shopee

Mua Hàng với Shopee