当“输入一句提示词就能生成游戏”进一步进入社交平台的信息流,原本相对分离的人工智能生成、游戏运营和社交传播开始叠加。2026年9月24日,Meta公布Horizon Create和Horizon Studio,用户可通过自然语言生成2D或3D游戏,发布后的作品还有机会被推荐至Facebook和Instagram并直接游玩。该消息已由Meta新闻中心与The Verge报道相互印证。
这类产品降低了制作和分发门槛,也使风险从“生成了什么”扩展到“谁能看到、如何互动、能否持续推荐”。平台不能只把责任写进用户协议,而应围绕内容审核、未成年人保护和版权管理建立贯穿生成、发布、推荐、游玩及申诉的责任链。
一、内容审核不能停留在提示词入口
以《互联网信息服务管理办法》第十五条列明的九类禁止内容为底线,提示词、生成素材、玩法规则、角色对话、房间名称、评论和联机交流都应纳入审核。平台既要防止危害国家安全、散布谣言、暴力恐怖、赌博及侵害他人合法权益等内容被直接生成,也要识别通过谐音、贴图、任务机制或交互组合规避审核的情形。相关条文可参见现行《互联网信息服务管理办法》。
“七条底线”所强调的法律法规、社会主义制度、国家利益、公民合法权益、社会公共秩序、道德风尚和信息真实性,可以转化为产品审核的七个检查面。关键不是机械匹配敏感词,而是判断游戏整体是否通过任务奖励、排行榜、社交挑战或算法推荐放大有害行为。例如,单个素材可能没有问题,但把欺凌式互动设置为升级条件,风险就来自玩法机制而非某一张图片。
较稳妥的审核结构应分为三层:生成前拦截明显违法提示词;生成后检测画面、音频、文本和交互逻辑;发布后结合举报、传播速度及实际游玩行为动态复核。高风险内容不应直接进入推荐流,修改版本也不宜自动继承原有审核结论。
二、未成年人保护应覆盖创作端和消费端
提示词生成游戏可能同时吸引未成年创作者和玩家。2026年9月18日,国家互联网信息办公室发布未成年人网络保护相关征求意见稿,提出向未满十六周岁的未成年人提供网络游戏、网络社交及可能影响认知的人工智能服务时,应当通过未成年人模式提供,并要求平台不得设置诱导情感依赖、沉迷或过度消费的算法模型。虽然该文件目前属于征求意见稿,但已为产品设计提供了明确的风险治理方向,详见中国网信网通知及全文。
因此,平台不能只设置统一的“年龄确认”弹窗,而应完成分龄识别、适龄评估和功能限制。未成年人创作端可限制陌生人协作、外部导流、付费模板和公开发布;消费端则应限制使用时段、连续游玩、虚拟消费、私信及陌生人联机。推荐系统也不应因为点击率高,就持续推送恐惧刺激、攀比消费或高强度对抗内容。
- 身份与隐私:年龄识别应遵循必要、适度原则,不能借保护之名过度收集人脸、通讯录或精确位置。
- 适龄标签:按题材、互动强度、付费机制和社交开放程度形成可解释的年龄分级。
- 监护工具:向监护人提供时长、消费和公开发布设置,同时避免展示未成年人不必要的私密创作内容。
- 紧急处置:对欺凌、诱导转账、危险挑战和自伤风险建立人工复核与快速干预入口。
三、版权责任应按技术控制能力分层
生成式游戏可能同时包含人物形象、音乐、地图、美术风格、程序代码和用户上传素材。责任划分不能简单采用“用户输入,所以用户全责”的逻辑。《生成式人工智能服务管理暂行办法》要求服务提供者使用具有合法来源的数据和基础模型,尊重知识产权,并在发现违法内容后采取停止生成、停止传输或消除等措施,详见中国政府网政策全文。
模型或生成工具提供方应负责基础模型、训练数据及生成安全机制的合规管理;游戏创作者应保证其上传素材和指定模仿对象具有合法来源,不应利用提示词复制受保护的角色、音乐或地图;社交平台则应对公开发布、推荐和商业化环节承担与其控制能力相匹配的审核、通知删除和重复侵权治理责任。如果平台主动将作品推入公共信息流并从广告或交易中获益,其治理义务通常不能等同于单纯的文件存储服务。
实务上,平台可以要求创作者分别声明原创素材、授权素材和AI生成素材,保存提示词、版本修改、素材来源及授权凭证,并为权利人提供按角色、音乐、图像或整个游戏分别投诉的入口。对于被多次删除后换名称重新上传的内容,应采用指纹比对和关联账户审查,而不是每次从零处理。
四、建立可以追溯的责任闭环
- 生成阶段记录模型版本、提示词、安全拦截和素材来源,但严格控制记录用途及保存范围。
- 发布阶段完成内容、版权和适龄性检查,并对AI生成内容作出清晰标识。
- 推荐阶段增加未成年人风险、侵权争议和异常传播权重,避免高风险作品因热度获得放大。
- 运行阶段提供便捷举报、临时下架、证据保全、申诉复核和版本回滚机制。
- 商业化阶段核验授权链,争议内容在处理完成前暂停分成、广告投放或付费交易。
总结
提示词生成游戏进入社交平台后,最合理的责任划分不是寻找一个承担全部风险的主体,而是依据谁提供模型、谁上传素材、谁决定发布、谁控制推荐以及谁从商业化中获益来分层。内容审核负责守住“九不准”和公共传播底线,未成年人保护负责限制不适龄功能与诱导机制,版权治理负责建立来源证明、生成记录和快速救济。只有把三条链路接入同一套可追溯系统,低门槛创作才不会演变成低门槛侵权和低成本风险扩散。
事件与资料日期
2026年9月24日:Meta公布Horizon Create与Horizon Studio及其面向Facebook、Instagram的分发设想,参考Meta新闻中心、The Verge报道。
2026年9月18日:国家互联网信息办公室公布《国务院关于保障未成年人健康安全使用网络的规定(征求意见稿)》,参考中国网信网官方文件。
2024年12月6日:现行《互联网信息服务管理办法》完成第二次修订,参考国家市场监督管理总局法规页面。
2023年7月10日:《生成式人工智能服务管理暂行办法》公布,自2023年8月15日起施行,参考中国政府网政策文件。