财富家 AI玩具教儿童纵火，一批泰迪熊停卖｜合规周报（第215期）

（原标题：AI玩具教儿童纵火财富家，一批泰迪熊停卖｜合规周报（第215期））

21世纪经济报道记者肖潇报道

每周，“合规周报”会盘点最近一周国外人工智能、科技竞争、个人信息保护方面值得关注的动态。

本周，我们重点关注AI玩具不当回答的争议事件——AI玩具在今年成为流行赛道，涉事公司的玩具目前已暂停销售。除此之外，亚马逊AI侵权、大学生跑步App被指滥用广告等合规事件也值得关注。

AI玩具教儿童纵火，目前已被暂停销售

美国儿童玩具制造商 FoloToy 上周宣布，将暂停销售其 AI 驱动的泰迪熊“Kumma”，原因是安全组织发现该玩具给出的回答既不当又危险。这些回答包括如何寻找和点燃火柴的提示，以及对性癖的详细解释。

暂停始于美国公共利益研究组织（PIRG）的研究人员发布了一份安全报告，该测试了三款来自不同公司的AI玩具，发现它们都能向未成年人用户提供令人担忧的答案，从宗教问题到神话中的暴力死亡细节。

在本次测试中，AI玩具泰迪熊“Kumma”被发现，随着对话时间的延长，AI会逐渐放松警惕，最终在极其令人不安的话题上彻底失控。比如提供如何点燃火柴的分步说明，解释捆绑和师生角色扮演。该玩具默认使用OpenAI的GPT-4o模型。

针对这份安全报告，FoloToy市场总监表示：“FoloToy已决定暂时停止销售受影响的产品，并启动全面的内部安全审计。此次审查将涵盖我们的产品安全一致性、内容过滤系统、数据保护流程以及儿童互动安全措施。”

亚马逊中国陷AI声音侵权风波

11月5日，配音演员穆雪婷发文称，自己仅为亚马逊《水手星计划》第1-3集录制了旁白，却在之后的第4-7集中听到了与自己几乎一模一样的配音。“如果没有合理解释，我有理由相信，我的声音被擅自用于AI训练和使用。”

《水手计划》是亚马逊广告、亚马逊全球开店联合推出的大型活动，用来介绍跨境卖家的出海营销案例。目前已上线《水手星计划》七集视频已在全网显示不可见。

上海黑也文化传播公司随后声明称，自己为《水手星计划》第五季视频的实际制作方，抱歉存在工作疏忽。穆雪婷告诉21记者，对黑也文化公司的解决方案并不满意，并且希望亚马逊官方能进行表态和沟通。预计下一步将起诉至法庭。

随意打开高敏感权限，大学生跑步成App广告金矿

作为要求下载使用、记录本科生体育锻炼成绩的软件财富家，校园跑App本应是高校体育数字化管理的工具，却演变成广告掘金的矿场。

2记者近期实测了几款主要的校园跑App：运动世界、步道乐跑、闪动校园，根据公开信息，这三款App承包了国内超过700所高校的大学生校园体育日常。测评及研究发现，它们利用无障碍权限，在学生使用App期间提供“优惠与福利信息”，并能够自动跳转到优惠与福利活动页面。

三款外企 AI 大模型首次通过国家备案，均为车机助手

据上海经信委官方公众号最新消息，特斯拉 xBot 客户服务、沃尔沃小沃智能助手已在上海推荐备案。

根据介绍，特斯拉 xBot 客户服务为特斯拉车主及潜在用户提供的智能问答场景，通过 Tesla App 在线客服模块对用户输入的问题进行深度理解，并生成相应的应答内容，完成与用户之间的多轮聊天与对话。用户可以通过特斯拉 xBot 客户服务进行特斯拉产品售前、售中、售后咨询，如查询车辆价格、预约车辆试驾、查询车辆物流信息、咨询车辆使用方式、查找充电站点地址等。

小沃智能助手面向对智能文本对话有需求的沃尔沃汽车 App / 小程序用户、沃尔沃汽车用车人等人群，通过沃尔沃汽车 App、沃尔沃汽车沃世界 + 微信小程序或语音助理 App 车机端，提供沃尔沃用车、购车、车生活、车养护等相关的智能问答。

此前“奔驰虚拟助手”也通过了中央网信办等多个国家部门审批，成为全国首批上线的外企大模型产品。“奔驰虚拟助手”大模型通过调用抖音“云雀”大模型 AI 生成能力，可支持奔驰全新车型纯电 CLA 的语音对话、智能导航、座舱控制等服务，预计 2026 年实现年服务 7 万辆规模。

苹果新审核规则：严禁App与“第三方人工智能”共享个人信息

11月14日，苹果美区更新了应用审核指南，其明确规定，应用程序在与第三方人工智能共享个人数据之前，必须披露信息并获得用户许可。

此次变化发生在苹果公司计划于 2026 年推出其自主研发的AI 升级版Siri 之前。不过，“人工智能”一词可能涵盖多种技术，既包括生成式大语言模型，也包括机器算法学习。目前尚不清楚苹果将如何严格执行这项规定，中国区的应用审核指南也尚未更新该项信息。

微信苹果达成关键协议，小程序“苹果税”规则出炉

11月13日，苹果公司宣布针对部分应用开发者，将App Store抽成比例从30%下调至15%，但前提是开发者必须加入苹果推出的全新“小程序合作伙伴计划”(Mini Apps Partner Program)。该新政被视为苹果为将收入来源拓展至微信、支付宝、抖音等代理/聚合类小程序平台，与后者实现利益平衡的解决方案。

同日，据媒体报道，腾讯公司已与苹果公司达成一项协议，根据该协议，苹果将处理微信小游戏和应用中的支付事宜，并从中抽取 15% 的分成。

市场监管总局公布《互联网平台反垄断合规指引（征求意见稿）》，列举“二选一”“全网最低价”等风险示例

市场监管总局研究起草了《互联网平台反垄断合规指引（征求意见稿）》（以下简称《指引》），于 11 月 15 日面向社会公开征求意见。

为了帮助平台经营者更好识别反垄断合规风险，增强条文可读性、生动性，《指引》结合反垄断监管执法经验，以示例方式为平台经营者列举了 8 种风险：平台间算法共谋、组织帮助平台内经营者达成垄断协议、平台不公平高价、平台低于成本销售、封禁屏蔽、“二选一”行为、“全网最低价”和平台差别待遇。

网信部门从严整治利用 AI 仿冒公众人物开展直播营销问题乱象

11 月 14 日网信办通报称，近期，有网络账号利用 AI 技术仿冒公众人物形象，在直播、短视频等环节发布营销信息，误导网民，涉嫌虚假宣传和网络侵权，严重破坏网络生态，造成不良影响。

网信部门严厉处置“百货超市小店”“娜娜好物联盟”“环球护肤美妆甄选”等一批违法违规网络账号。同时，督促网站平台发布治理公告，举一反三，开展集中清理整治，目前已累计清理相关违规信息 8700 余条，处置仿冒公众人物账号 1.1 万余个。

《纽约时报》要求交出 ChatGPT 用户聊天记录

OpenAI 在官网发布声明称，《纽约时报》近期要求公司交出两千万条 ChatGPT 用户的私人聊天记录，理由是调查用户是否通过ChatGPT绕过《纽约时报》的付费墙，直接阅读付费报道。

尽管这些对话记录已经匿名化，但OpenAI仍认为，遵守该命令将会暴露用户的私人对话。公司声称，"99.99%"的对话记录与案件核心的版权侵权指控没有任何关联，《纽约时报》的要求背离传媒界的崇高传统，目前已要求法院驳回，并将持续尽一切办法保护用户隐私。

德国法院裁判ChatGPT未经许可使用歌词训练AI，属于侵权

据路透社报道，在一宗备受关注的版权案件中，德国慕尼黑法院裁定支持德国音乐版权协会 GEMA，对美国人工智能公司 OpenAI 作出不利判决。