纽约 - 艾赫巴里通讯社
针对 xAI 旗下 Grok 的里程碑式诉讼：AI 生成未成年人露骨图像的指控引发伦理担忧
在一项可能引发围绕人工智能和数字隐私的深刻伦理讨论的法律进展中，三名女孩，其中两名为未成年人，已在加利福尼亚州对亿万富翁埃隆·马斯克旗下 xAI 公司开发的 AI 平台 Grok 提起诉讼。最近提交的诉讼指控该平台在她们不知情或未经同意的情况下促成了她们性露骨图像的创建，这凸显了监管 AI 生成内容日益增长的挑战。
根据法庭文件，这些女孩的照片被 Grok 的一名用户篡改，修改后将她们描绘成裸体并处于其他公开性爱场景中。这种篡改和随后的图像传播是在女孩们不知情的情况下发生的，给她们造成了严重的心理和社会困扰。原告的身份已保密以保护其隐私，她们要求未指明的金钱赔偿，以及一项法院命令，禁止 Grok 在未来创建或促成此类图像的创建。
另请阅读
这起诉讼代表了 AI 公司对其平台上生成的内容的法律责任的关键考验。在一个深度伪造技术以惊人速度发展的时代，以极其逼真的方式伪造图像和视频变得越来越容易。此案提出了紧迫的问题：AI 公司在开发保护机制以防止其技术被滥用方面是否承担了足够的责任，尤其是在涉及未成年人的情况下。
法律专家认为，此案可能在互联网和 AI 法律领域树立一个重要的先例。虽然社交媒体平台通常根据美国《通信规范法》第 230 条等法律获得某些保护，但生成式 AI 的性质可能会使公司处于不同的境地。直接促成有害内容的创建，而不仅仅是托管它，可能会改变围绕责任的讨论。
截至目前，xAI 或埃隆·马斯克尚未就该诉讼发表任何立即的公开评论。然而，此案使该公司在全球对人工智能的安全性和伦理日益担忧之际受到严格审查。儿童权利组织和数字安全倡导者长期以来一直呼吁对 AI 技术进行更严格的监督，以确保它们不会被用于伤害未成年人或侵犯他们的隐私。
这一事件凸显了 AI 领域内明确的监管框架和负责任的行业实践的紧迫需求。随着这些技术的不断发展，开发者和监管机构必须携手合作，确保创新不会以牺牲个人安全和尊严为代价，特别是社会中最脆弱的群体。这起诉讼严酷地提醒人们，当 AI 落入坏人之手或平台缺乏足够的保障措施时，其潜在风险。
相关新闻
随着案件在法庭上的进展，预计将引起广泛关注，这不仅因为涉及一家与埃隆·马斯克相关的公司，还因为其可能对全球 AI 发展和监管的未来产生更广泛的影响。这是一场可能定义社会如何应对人工智能革命带来的伦理和法律挑战的法律战。
