Thành phố Baltimore, Maryland, trở thành đô thị lớn đầu tiên tại Mỹ kiện công ty xAI của Elon Musk vào ngày 24 tháng 3 năm 2024. Vụ kiện cáo buộc xAI vi phạm luật bảo vệ người tiêu dùng và thương mại gian lận qua công cụ Grok, cho phép tạo video deepfake khiêu dâm từ hình ảnh phụ nữ và trẻ em không đồng ý. Thị trưởng Brandon Scott cho rằng hành vi này gây hậu quả nghiêm trọng, đe dọa an ninh công cộng. xAI đang đối mặt nhiều vụ kiện tương tự, bao gồm vụ kiện tập thể ở Tennessee, và bị điều tra tại nhiều quốc gia sau khi sáp nhập với SpaceX. Trước đó, Elon Musk từng tham gia xu hướng 'put her in a bikini' trên Grok, tạo ảnh giả mình mặc đồ bơi.
The logo of the artificial intelligence company xAI appears on the screen of a smartphone placed on a surface reflecting an abstract blue illustration.
Lawsuits against Elon Musk's xAI are piling up, with Baltimore becoming the first major U.S. city to file a complaint against the company concerning issues with its Grok image generator.
Baltimore Mayor Brandon Scott said in an emailed statement to CNBC that the deepfakes on Grok "have traumatic, lifelong consequences for victims."
"We're talking about tech companies enabling the sexual exploitation of children," Scott wrote. "Our city will not stand by and allow this to continue; it's a threat to privacy, dignity, and public safety, and those responsible must be held accountable."
Now part of SpaceX after a merger last month, xAI faces regulatory probes in several countries after Grok allowed the mass creation of so-called deepfake porn based on images of non-consenting women and children. Last week, attorneys representing three teenagers in Tennessee filed a proposed class action lawsuit against xAI after Grok generated content depicting them in sexualized and debasing scenarios.
In the latest suit, filed in a circuit court on March 24, the mayor and city council of Baltimore accused xAI of violating the city's consumer protection laws and engaging in deceptive and unfair trade practices, namely by marketing Grok and X, formerly known as Twitter, as generally safe for users.
The complaint refers to a "put her in a bikini" trend that encouraged Grok users to take photos of others and nudify them. Musk, who controls SpaceX and is also CEO of Tesla , participated in the trend, sharing an image created with Grok depicting him in a string bikini.