Thành phố Baltimore, Maryland, đã trở thành đô thị lớn đầu tiên tại Mỹ kiện công ty xAI của Elon Musk liên quan đến công cụ tạo ảnh Grok, cáo buộc cho phép tạo video deepfake khiêu dâm từ hình ảnh phụ nữ và trẻ em không đồng ý.
Phản ứng mạnh mẽ từ chính quyền Baltimore
Thị trưởng Brandon Scott cho biết trong một tuyên bố gửi qua email tới CNBC rằng các deepfake trên Grok "có hậu quả sống động, suốt đời cho nạn nhân". Ông nhấn mạnh: "Chúng ta đang nói về các công ty công nghệ cho phép khai thác tình dục trẻ em. Thành phố chúng tôi sẽ không đứng nhìn và để điều này tiếp diễn; đây là mối đe dọa đến quyền riêng tư, phẩm giá và an ninh công cộng, và những người chịu trách nhiệm phải bị trừng phạt."
Bối cảnh pháp lý rộng lớn
Sau khi sáp nhập với SpaceX vào tháng trước, xAI hiện đang đối mặt với các cuộc điều tra pháp lý tại nhiều quốc gia. Công ty này cũng phải đối mặt với nhiều vụ kiện tương tự:
- Vụ kiện tập thể được đề xuất ở Tennessee tuần trước, do các luật sư đại diện cho ba thiếu niên kiện xAI sau khi Grok tạo ra nội dung khiêu dâm và hạ thấp phẩm giá về họ.
- Các cuộc điều tra từ cơ quan quản lý ở nhiều nơi về việc Grok cho phép tạo hàng loạt deepfake khiêu dâm dựa trên hình ảnh của phụ nữ và trẻ em không đồng ý.
Chi tiết vụ kiện tại Baltimore
Vụ kiện được nộp tại tòa án bang vào ngày 24 tháng 3 năm 2024. Thị trưởng và hội đồng thành phố Baltimore cáo buộc xAI:
- Vi phạm luật bảo vệ người tiêu dùng của thành phố.
- Tham gia vào các hoạt động thương mại gian lận và không công bằng, cụ thể là quảng bá Grok và nền tảng X (trước đây là Twitter) là an toàn chung cho người dùng.
Xu hướng "put her in a bikini" và sự tham gia của Elon Musk
Một xu hướng trên Grok khuyến khích người dùng chụp ảnh người khác và sử dụng công cụ để tạo ảnh khỏa thân. Elon Musk, người kiểm soát SpaceX và là CEO của Tesla, đã tham gia xu hướng này bằng cách chia sẻ một hình ảnh do Grok tạo ra, cho thấy bản thân trong một bộ đồ bơi dây.