对市十六届人大四次会议第0462号代表建议的答复

对市十六届人大四次会议第0462号代表建议的答复

刘忱代表：

  您提出的“关于AI恶意应用治理，优化营商环境的建议”的代表建议收悉，经研究，现将办理情况答复如下：

  一、已开展的工作

  （一）健全协同治理机制，形成多部门打击合力

  1．建立八部门联动治理机制。2025年10月31日，我局联合市高级人民法院、市人民检察院、市公安局、市司法局、市发展改革委、市委网信办、市信访办公室等八部门印发了《关于依法治理牟利性职业索赔、职业举报行为的若干意见》（沪市监消保〔2025〕298号，以下简称《若干意见》），明确将“通过夹带、掉包、造假、篡改商品信息、捏造事实等方式进行索赔或举报”列为牟利性职业索赔行为的判定特征，为治理利用AI技术造假的恶意索赔行为提供了制度依据。

  2．健全线索移交和联合打击机制。市公安局积极会同市我局、市商务委、市委网信办等部门，依法严惩利用AI技术恶意索赔行为，形成了多部门协同打击的工作格局。

  （二）强化技术监测与平台防控，提升主动发现能力

  1．开展AI恶意应用专项网络监测。我局组织第三方监测机构开展AI恶意应用专项网络监测，实现“监测指令发起—监测机构接收—监测结果反馈—市局分派—区局处置—处置结果反馈”的全链条闭环监管，依法查办网络违法案件。

  2．指导电商平台优化恶意索赔识别算法。市公安局等部门指导电商平台企业优化完善恶意索赔行为识别算法模型，提高发现拦截水平，健全完善恶意索赔审核机制。

  3．落实AI生成内容标识制度。2025年9月1日，《人工智能生成合成内容标识办法》及配套强制性国家标准正式实施。市委网信办根据《标识办法》有关要求，服务提供者对相应生成合成内容应按照标准添加显式标识和隐式标识，传播平台应当对生成合成内容进行识别并对公众进行提示。

  4．开展“清朗·整治AI技术滥用”专项行动。2025年，市委网信办指导15家重点平台拦截清理82万余条违规信息，处置违规账号1400余个，下线违规智能体2700余个，显著减少违规AI信息。

  （三）完善商家维权机制，降低维权成本

  1．完善投诉举报异常名录。根据《若干意见》，我局建立完善投诉举报异常名录，对列入异常名录人员的投诉举报依法严格审查，不符合受理或立案条件的不予受理、不予立案，对不符合奖励条件的不予奖励，有效减轻商家应对恶意投诉的负担。

  （四）加强行业引导，营造诚信环境

  1．开展法治宣传与合规指导。我局从源头引导企业合规经营，发布《涉企高频投诉举报“避坑指南”》，涵盖政策法规、食品经营、标识标签、广告宣传、刑事案例等42项典型行为，形成“典型案例＋案例解析＋合规提示”体系。

  2．推动平台落实合规管理主体责任。我局发布的《关于促进互联网平台广告规范健康发展的指导意见》（沪市监广告〔2025〕354号）明确推动平台运用大数据、人工智能等技术提升审核和风险防控效能。

  二、下一步工作计划

  （一）深化协同治理，加大专项整治力度

  1．加大AI技术滥用治理力度。市委网信办拟将“教授利用AI制作虚假商品损坏信息恶意索赔教程”纳入内容平台治理清理范围，切断恶意索赔教程的传播链条。会同相关行业主管部门，共同打击违法犯罪行为，营造良好网络营商环境。

  2．探索跨平台协同治理路径。市公安局针对电商领域不法分子利用AI工具造假实施恶意索赔行为，指导电商平台加强跨平台联合管控，将利用AI技术实施恶意索赔行为的账号纳入风险名单重点关注。

  （二）强化技术赋能，筑牢风险防控防线

  1．推广AI生成内容检测技术。市委网信办持续指导企业加强相关技术能力的建设，依照退款频率制定用户风控政策、举证图片饱和度伪造分析、以视频代替图片举证和设置商家救济申诉通道等方式，尽量减少商家损失。也将积极发挥我市人工智能治理协同机制作用，加强属地间人工智能企业和应用企业的交流合作，共同研究应对举措。

  2．强化AI生成内容审核。市公安局将加强人工智能安全检测，压实企业主体责任，明确AI生成内容显式标识与隐式标识的审查要求，指导AI大模型企业严格审核“商品破损”“货物瑕疵”相关生成内容，严防利用人工智能技术实施违法犯罪行为。

  3．深化全链条网络监测监管。我局继续优化投诉举报风险预警系统，完善闭环流程，提升对AI恶意应用的主动发现和快速处置能力。

  （三）加强行业引导，提升商家防范能力

  1．开展中小商家风险防范培训。我局面向中小电商商家，普及AI造假证据留存方法和维权路径，提升商家自我保护能力。通过以案释法、发布典型案例等方式，揭露AI恶意索赔的常见套路。

  2．营造诚信消费环境。我局多渠道宣传利用AI造假实施恶意索赔的法律后果，引导消费者遵守诚实信用原则。鼓励电商平台优化售后规则，完善商家申诉救济机制，平衡消费者权益保护与经营者合法权益维护。

  3．做好与总局规章的衔接落实。国家市场监督管理总局《市场监督管理投诉举报处理办法》（总局令第121号）将于2026年4月15日起施行。我局将严格依照该办法及本市意见规定，依法处理投诉举报，对非为生活消费需要的投诉不予受理，切实维护经营者合法权益和公平交易市场秩序。

  （四）持续攻坚难点问题

  AI造假图片识别技术成本高、识别难度大。当前AI生成内容检测技术仍处于发展阶段，识别准确率有待提升，且不法分子通过截图、PS、去标识工具等方式规避检测。对此，我局将配合市委网信办、市公安局持续跟踪技术发展前沿，推动低成本、高效率检测工具的研发和应用，同时通过跨平台协同、账号风险标注等方式，从行为特征角度辅助识别。

  上海市市场监督管理局

  2026年4月17日