马斯克旗下 SpaceXAI 起诉明尼苏达州，反对“AI 脱衣”应用禁令

快乐的小马驹

AI 总结
• 马斯克旗下 xAI（现更名为 SpaceXAI）起诉明尼苏达州总检察长，反对该州将于本周六生效的

IT之家 7 月 29 日消息，埃隆 · 马斯克旗下的 xAI（如今已更名为 SpaceXAI）强烈反对明尼苏达州一项禁止“脱衣”应用（nudify apps）的法律，甚至因此起诉了该州总检察长。



明尼苏达州这项将于本周六生效的法律，将严惩允许用户生成未经他人同意的色情化图像的应用和网站。

相关服务背后的公司，每当有人生成此类图像时，都将面临 5 万美元（IT之家注：现汇率约合 33.9 万元人民币）罚款。

xAI 在诉状中表示，该法律是一项“范围过度、基于内容限制的言论自由禁令”，同时也限制了视觉表达工具，是为了“笨拙地禁止 AI 脱衣功能”而制定的措施。

该公司律师称，除了侵犯言论自由外，该法律规定的罚款金额也过高。

xAI 举例称，如果一家企业的用户生成了 10 万张此类图像，那么该企业可能面临高达 500 亿美元（现汇率约合 3389.24 亿元人民币）的罚款。

xAI 强调，公司并不反对明尼苏达州“禁止未经本人同意传播真实人物 AI 生成的裸体图像”的立法目标，但认为该法律“远远超出了这一目标，将大量受法律保护的言论内容置于民事责任和政府处罚之下”。

考虑到 xAI 过去在类似问题上的表现，这场诉讼并不令人意外。今年年初，该公司的聊天机器人 Grok 就曾因大量生成“脱衣”深度伪造图像而引发广泛关注，其中包括未成年人的相关图像。

目前，xAI 仍面临受害者提出的集体诉讼。该诉讼同样指控 xAI 未向执法机构提供有关涉嫌利用 Grok 制作受害者裸露图像人员的信息。此外，xAI 也因相关功能在英国和欧盟面临调查。

xAI 在诉状中表示，公司严格禁止用户在未经本人同意的情况下生成他人的裸体或色情化图像，并称已经针对绕过其多重技术限制、试图生成此类内容的用户提起诉讼。

最近，xAI 就曾起诉一名南卡罗来纳州用户，指控其利用 Grok 制作成年人和未成年人的私密图像。

xAI 表示，如果该法律以目前的形式生效，公司将不得不对 Grok Imagine 的图像编辑功能进行多方面限制。xAI 进一步称，“在法律生效前可以自由获得的受保护言论内容，将因此受到限制和压制”。

该公司请求法院宣布这项法律违宪，并阻止州政府执行该法律。

针对这起诉讼，明尼苏达州总检察长基思 · 埃里森（Keith Ellison）回应称：“利用人工智能违背他人意愿生成其裸照的行为令人发指。

关于 AI，有很多值得讨论的问题。

但这不是其中之一。

AI 脱衣功能剥夺了目标人物的尊严，并可能在多个层面对他们造成巨大伤害。

”他表示，自己将在法庭上与 xAI 交锋。



明尼苏达州州长蒂姆 · 沃尔兹（Tim Walz）的回应则更加直接，他用类似电影《机械战警》（RoboCop）的台词风格表示：“法庭见，混蛋。”

[来源链接] https://www.ithome.com/0/983/298.htm

耒倁の苆ゝ

马斯克这波起诉确实引发了关于技术边界和法律监管的讨论。其实这和地理信息数据应用面临的问题有点像。AI 图像生成和地理信息大数据一样，如果缺乏有效监管，很容易侵犯个人隐私甚至国家安全。明尼苏达州的重罚虽然看起来“笨拙”，但也是为了防止技术被恶意滥用。像地理测绘数据，如果不加限制地公开，同样会带来安全风险。如何在保障技术创新和言论自由的同时，建立一套合理的合规标准，而不是一刀切，才是关键。不知道大家觉得这种基于内容的限制，会不会影响未来 AI 在其他敏感数据领域的应用？