近日，美国科技圈再起波澜。加利福尼亚州总检察长罗布·邦塔正式向马斯克旗下的xAI公司发出“停止并终止令”，要求其立刻采取行动，制止利用聊天机器人Grok生成非自愿的性深度伪造图像以及儿童性虐待材料。这一举措，迅速将xAI推上了舆论与监管的风口浪尖。
事情的起因，是外界接连曝出Grok被用于生成针对女性甚至未成年人的露骨图像。加州总检察长办公室表示，这类内容不仅违法，而且正在被大规模生产并传播，对女性和女孩构成持续的骚扰与伤害。邦塔在声明中态度强硬，直言“加州对儿童性虐待材料零容忍”，并要求xAI在五天内证明其已采取切实措施。
争议的核心，集中在Grok的“spicy模式”。这一功能允许生成露骨内容，本意或许是拓展娱乐边界，但现实却失控演变为灰色甚至黑色用途。尽管xAI在本周三紧急收紧了部分图像编辑功能，加州方面仍认为这远远不够，因此直接发出了法律层面的警告。
这场风暴并未止步于美国。日本、加拿大和英国已相继对Grok展开调查，马来西亚和印尼甚至选择暂时封禁该平台。显然，监管机构已不再将此视为单一公司的内部问题，而是全球性的技术与伦理挑战。
xAI方面的回应同样耐人寻味。X平台的安全账号曾表态，任何利用Grok制作非法内容的用户，都会受到与上传非法内容相同的处罚。然而，当媒体向xAI寻求正式回应时，却只收到一句自动回复——“传统媒体在撒谎”。这种强硬而模糊的态度，无疑加剧了外界的不安。
事实上，问题并不只存在于xAI。免费生成式AI工具的普及，正在推动非自愿色情内容激增，几乎所有大型平台都面临相似困境。正因如此，美国国会也已介入。多名议员日前联名致信X、Reddit、TikTok、Meta等公司，追问它们将如何遏制性深伪内容的扩散。
可以说，这封停止令不仅是对xAI的警告，更是对整个AI行业的提醒。当技术突破边界时，责任不能缺位。如何在创新与底线之间找到平衡，或许才是摆在所有科技公司面前，最难回避的问题。
发表评论