中国人工智能新创公司“深度求索”（DeepSeek）近期再陷内容安全争议。有媒体实测发现，网传“绕过限制”教程仍可能诱导其生成违规内容，相关教程甚至被低价售卖；DeepSeek此前还被曝生成无法核实的科研文献。多起事件凸显AI生成内容的审核与核查风险。
涉黄教程流入二手平台
近日，有网友反映，DeepSeek下架“专家模式”后，仍可能通过角色扮演、长文本铺垫及分段设定等方式绕过限制，生成违规内容。
据《济南日报》的新黄河报导，9月13日该报记者按照网传教程进行测试，在首次遭到拒绝后，通过进一步引导，DeepSeek一度生成了大量露骨色情文本，随后使用相同方式开启新对话时，系统又拒绝生成相关内容；此前的对话虽然一度能够生成，但发送过程中出现撤回。
媒体调查发现，部分社交平台存在所谓“突破限制教程”，甚至有人建立群组分享相关指令。记者随机加入的一个群聊有约500名成员，并在闲鱼以1元购买了一套相关指令文件。
9月15日，闲鱼客服回应称，售卖此类教程属于违规行为。平台表示，受限于大数据检测能力，无法一次性排查全部违规信息，但核实属实后会进行处置。DeepSeek方面尚未回应上述报导。
此前，中共网信办已启动专项行动，整治利用AI传播暴力低俗内容、侵害未成年人权益等问题。此次事件再次引发外界对AI安全过滤是否存在漏洞的关注。
DeepSeek生成的“论文”数据可能系编造
与内容审核问题同时受到关注的，还有AI生成虚假科研依据的风险。
就在上月，一段有关DeepSeek的视频引发关注。一名健康科普创作者在使用DeepSeek撰写有关咀嚼与老年认知的内容时发现，AI给出的所谓科研数据及论文来源无法通过文献数据库核实。她随后要求DeepSeek提供英文原始论文，系统又给出论文标题和DOI，但进一步检索后发现，部分标题不存在，部分DOI对应的则是完全不同的论文。
这名创作者据此提醒，AI生成的内容即使同时附有数据、论文名称、期刊和DOI，也不能替代人工核查。尤其在健康科普等领域，如果创作者直接将AI生成内容包装成科研结论，错误信息可能进一步传播。
近期围绕DeepSeek的争议，并不止于内容安全和信息准确性。
据彭博社7月25日引述知情人士报导，DeepSeek第二轮融资突然被叫停，导火索是其创办人梁文锋此前一段讲话流出。其在讲话中“泄露”了中国AI的真实水平，以及通过非法途径获得美国AI芯片和技术的内幕。
网络流传的梁文锋讲话录音显示，他在投资人交流会上罕见坦承，相较美国同行，中国AI公司仅能训练“小十倍”的模型。
梁文锋认为，以现有算力规模，公司根本无法训练出与美国同行相当的顶尖大模型，即便把首轮融资募得的500亿元人民币全数投入也“训不起”。
