欧盟委员会近日宣布，对欧盟委员会正式启动调查，直指X平台及其AI聊天机器人Grok生成大量性暗示图像甚至疑似儿童性虐待内容的问题。这场风波不仅让平台陷入舆论漩涡，也再次把人工智能监管推向风口浪尖。
据研究机构统计，Grok在不到两周时间里生成了约300万张性化图像，其中约2.3万张疑似涉及未成年人。该功能允许用户对女性及儿童照片进行“去衣化”处理，并摆出挑逗姿势，引发国际社会强烈愤怒。欧盟方面表示，将评估X是否充分评估并减轻相关风险，尤其是非法内容传播的风险。
此次调查依据的是欧盟《数字服务法》（DSA）。该法自2024年起正式适用于大型科技公司，旨在强化平台责任，保护用户免受虚假信息、仇恨言论及非法内容侵害。欧盟官员指出，X目前采取的补救措施并不足以消除系统性风险。
在最初争议爆发后，X一度将相关功能限制为付费用户使用，随后在监管压力下调整政策，声称已采取措施，防止编辑真实人物的暴露图像。然而欧盟认为，这些改动并未解决更广泛的问题，包括对女性的暴力内容及潜在的儿童性虐待材料。
欧盟负责科技事务的专员Henna Virkkunen直言：“未经同意的性深度伪造，是一种暴力且不可接受的羞辱行为。”她强调，将判断X是否履行了法律义务，还是将欧洲公民的权利当成“附带损害”。
与此同时，欧盟还扩大了对X推荐算法的调查。此前该调查始于2023年12月，如今因X计划将内容过滤转向基于Grok的模型而进一步升级。英国监管机构Ofcom本月也宣布，将针对X上的“恶劣且非法内容”展开审查。
值得注意的是，欧盟上月已对X罚款1.2亿欧元，理由是其在蓝标认证和广告透明度方面存在误导行为。对此，马斯克公开回击“胡说八道”，甚至呼吁解散欧盟，双方关系愈发紧张。
外界批评欧盟执法行动来得太迟，但欧盟官员回应称，目前已根据DSA展开15项调查，监管力度正在加强。分析人士认为，此案或成为AI内容治理的关键案例，为全球监管树立标杆。
这场风波背后，是一个更深层的问题：当生成式AI能力突飞猛进，平台是否具备与之匹配的责任机制？欧盟此举释放出清晰信号——技术创新不能凌驾于基本权利之上。
发表评论