2026年9月10日，Anthropic发布最新威胁情报报告，披露其在2025年12月至2026年8月间发现并阻断的多类人工智能滥用活动。其中，一起利用虚假社交应用、批量AI身份和真人协作实施身份欺骗的案例尤其值得关注。它表明，生成式AI带来的风险已不只是“制造一段假内容”，而是被嵌入获客、聊天、身份验证和付费转化等连续流程，直接影响用户知情权、财产安全与网络信任。
虚假应用如何把AI身份包装成真人
据Anthropic于2026年9月10日发布的威胁情报报告，一家应用工作室运营了20多款约会类应用，并利用Claude驱动大量虚构身份。Anthropic称，在2026年4月连续两周的观察期内，超过4700个AI身份与至少2.5万名用户互动，产生约236万条Claude消息。报告同时强调，公开案例属于其发现的突出和新型威胁，不代表Claude整体使用情况，也不能据此推算此类诈骗在整个行业中的普遍程度。
这套模式的危险之处在于“AI聊天加真人验证”的混合机制。AI负责大规模、长时间维持对话，真人工作人员则在视频通话、社交账号回关等容易暴露身份的节点介入，为虚构人设提供可信背书。应用还通过消息额度、虚拟币等方式推动用户持续付费。2026年9月11日发布的NDTV Profit交叉报道援引同一调查称，相关账号被要求不披露自动化身份，并在用户索要照片或视频时进行回避。
真正的风险是身份与商业流程同时被伪造
传统网络诈骗常依赖固定话术、批量账号或盗用照片，用户还能通过重复表达、回复时间和视频验证发现异常。生成式AI加入后，每个虚假身份都可以形成相对连贯的表达习惯，并根据用户回应动态调整内容。真人只需处理少数关键验证环节，就可能支撑大量虚构关系。由此产生的并非简单“机器人冒充真人”，而是身份、互动记录、信任证明和付费机制共同构成的系统性欺骗。
从公共利益角度看，这种做法侵蚀了网络交往最基本的信息真实性。用户不知道对话对象是否真实存在，也难以判断点赞、访问量、语音或视频片段是否经过后台操控。一旦虚假关系与充值、转账或个人信息收集结合，风险就可能从情感误导延伸至财产损失、隐私泄露和画像滥用。平台若仅提示“内容可能由AI辅助生成”，却不明确说明账号是否由自动化系统运营，仍不足以保障用户作出知情选择。
以“九不准”和“七条底线”审视平台责任
现行《互联网信息服务管理办法》第十五条列明不得制作、复制、发布、传播的九类违法信息，其中包括散布谣言、扰乱社会秩序，以及侮辱、诽谤他人、侵害他人合法权益等内容。中国政府网公布的法规文本还要求互联网信息服务提供者保证所提供的信息内容合法，并在发现明显违法信息时停止传输、保存记录并依法报告。讨论具体案例时，应区分企业报告中的调查判断、媒体转述与已经独立查明的事实，避免把未经司法或监管机构确认的描述写成最终定论。
按照法律法规、社会主义制度、国家利益、公民合法权益、社会公共秩序、道德风尚和信息真实性这“七条底线”，虚构身份运营首先触及的是公民合法权益与信息真实性。若运营者故意隐瞒AI身份，再以情感互动促使用户付费，还会带来商业诚信和道德风尚问题。治理重点不应简单落在“禁止AI聊天”，而应针对是否清晰披露、是否诱导交易、是否滥用个人信息以及是否允许用户申诉追责。
平台和用户可以采取哪些措施
- 强制身份属性披露：由AI持续运营或主要由AI生成回复的账号，应在头像、资料页和聊天界面持续展示明确标识，不能只把说明藏在服务协议中。
- 识别混合式欺骗：反欺诈系统不能只检测统一话术，还应关注大量账号共享支付链路、设备环境、接口调用模式和异常验证人员等关联信号。
- 限制高风险付费设计：当社交互动与虚拟币、按条计费或连续充值绑定时，平台应增加消费提醒、未成年人保护、退款入口和异常交易复核。
- 保留审计证据：模型供应商、应用商店和应用运营者应保存必要的账号、接口及处置记录，并建立面向监管部门和行业伙伴的威胁情报共享机制。
- 提高个人防范意识：用户遇到持续回避实时验证、迅速引导充值或索取敏感信息的账号，应暂停互动，不向陌生对象提供证件、验证码及支付信息，并通过应用商店或有关渠道举报。
总结
Anthropic披露的案例提醒行业，生成式AI诈骗正在从“批量生成假话术”转向“批量经营假身份”。风险的核心不是模型能够聊天，而是运营者能否借助模型隐瞒真实身份、制造信任并驱动付费。面向这种人机混合欺骗，治理应围绕身份透明、最小化数据使用、支付保护、行为审计和跨平台协作展开。论坛讨论也应坚持来源可追溯、事实与判断分开，不传播未经核实的主体信息，以守住信息真实性、公民合法权益和社会公共秩序底线。
事件与资料日期
- 事件报告发布日期：2026年9月10日，资料来源：Anthropic《Detecting and countering misuse of AI: September 2026》。
- 交叉报道发布日期：2026年9月11日，资料来源：NDTV Profit相关报道。
- 法规参考文本：《互联网信息服务管理办法》，资料来源：中国政府网国务院公报。
