生成色情影像太超过！它开全球第一枪
印尼因Grok生成深伪与色情内容，成首个全面禁绝该AI的国家。(图为使用示意)图：Gemini AI生成/曾郡秋制
马斯克(Elon Musk)旗下的AI聊天机器人“Grok”遭遇重大挫败，印尼政府在今(10)日率先向这项技术亮出红牌，成为全世界首个全面禁绝该软件的国家。官方之所以采取强硬封锁作为，主要导因于该平台难以控管的深伪(Deepfake)影像与色情素材生成危机，这也让先前多次针对其不雅内容发出警告的各国监管单位再度提高警戒。
据《路透社》的报导指出，印尼通讯与数位部长梅奥蒂亚(Meutya Hafid)在最新说明中强调，任何未经当事人许可而制造的性爱深伪影片，都是对人类尊严与公民权利的极端践踏。对于这个拥有庞大穆斯林人口的国度而言，法律对于网络上散布的色情内容向来采取零容忍态度，因此对Grok的严格法律处置完全符合其国情基准。
根据相关数据与报导显示，该软件竟然容许使用者产出涉及未成年者裸露的猥亵影像。尽管开发方xAI在1月8日曾试图缓解各界怒火，宣布将图片编辑与生成权限缩限于付费会员，希望借此修补漏洞，但这种将风险转嫁至订阅制的作法，明显无法获得印尼官方的认可。
马斯克随即在X平台发布贴文自清，主张若有使用者利用Grok制造违法素材，其法律责任应与直接在网络散布违法影像者同等。相较于马斯克的公开说法，xAI公司对外界质疑的回应则显得更为激进，面对媒体查证时仅抛出一句“过气媒体的谎言”(Legacy Media Lies)作为回复，强硬拒绝进一步说明的态度引发热议。
为强化监管，印尼已传唤X平台代理人，要求说明内容过滤机制。此举不同于过往与马斯克的技术拉锯，印尼选择直接断网，震撼生成式AI治理版图，也引发各国对如何约束跨境科技工具的激烈讨论。全球多国已开始监管Grok涉色情内容。专家警告，影像合成愈精细，若缺乏有效筛选，恐助长歧视与淫秽传播。印尼强调，未能证明完全符合法规前，禁令将无限期维持。
