来宾兴宾区全国人大代表李东生建言AI深度伪造治理：构建全链条监管体系筑牢数字安全防线

2024年全国两会期间，全国人大代表、TCL创始人李东生提交的《关于加强人工智能深度伪造欺诈管理的建议》，在科技界引发强烈反响。面对AI深度伪造技术带来的新型安全挑战，这位深耕电子信息产业40年的企业家，从立法规范、技术治理、平台责任、国际合作四大维度，系统提出破解AI欺诈困局的解决方案。

一、技术失控风险倒逼立法加速

当前我国深度合成服务市场规模已达200亿元，相关应用覆盖影视制作、社交娱乐等20余个领域。但技术滥用导致的诈骗案件激增令人触目惊心：公安部数据显示，2023年利用AI换脸、语音合成的电信诈骗案件同比暴增320%，单笔最大涉案金额高达430万元。

"技术发展不能以牺牲社会秩序为代价。"李东生援引欧盟《人工智能法案》的"风险分级"监管思路，建议我国加快出台《生成式人工智能深度合成内容标识管理办法》，明确要求所有AI生成内容必须嵌入不可篡改的数字水印。这既是对《网络安全法》《数据安全法》的细化补充，也是破解当前"无法可依"困境的关键举措。

二、建立"技术+制度"双重防火墙

针对市面上90%的深度伪造应用缺乏有效标识的现状，建议第二、三部分直击监管痛点。提案要求建立"三层次"技术标准体系：基础层强制嵌入元数据标识，应用层实行分级动态标识，传播层构建全平台追踪系统。深圳已试点运行的"AI内容安全监测平台"显示，标识技术的应用使虚假信息识别准确率提升至98%。

平台责任方面，建议借鉴网络直播行业的"总编辑负责制"，要求短视频平台建立AI内容审核专员制度。抖音内部测试数据显示，专职审核团队可使深度伪造视频的违规率下降75%。同时建立"黑名单"机制，对未履行标识义务的服务商，除最高处以违法所得10倍罚款外，同步实施应用商店下架等联合惩戒。

三、打造全球AI治理"中国方案"

面对深度伪造技术的跨国界特性，李东生特别强调构建"双循环"治理体系。对内推进沪粤港澳大湾区监管沙盒试点，对外发起《全球人工智能伦理治理倡议》。这恰与我国在联合国人工智能伦理委员会的主导地位形成呼应。

值得关注的是，建议提出建立"一带一路"AI安全联盟，依托我国在数字基建领域的优势，输出自主可控的深度合成检测技术。TCL华星光电研发的"屏显数字水印"技术，已成功应用于中欧班列货物追踪系统，为AI标识技术的跨境应用提供了实践范例。

四、安全与发展并重的治理智慧

这份建议背后，折射出中国科技企业家的双重担当：既包含对技术伦理的深刻思考，又彰显推动产业创新的坚定决心。正如李东生在议案附言中强调："监管不是限制创新，而是为了让技术走得更远。"

当前，我国在计算机视觉、自然语言处理等AI核心技术领域已形成全球竞争力。通过建立健全深度伪造治理体系，不仅能为人工智能健康发展保驾护航，更能在全球数字治理规则制定中赢得话语权。这或许就是中国从"技术跟跑"向"规则领跑"跨越的重要契机。