澎湃新闻记者 林平
来自新疆的全国政协委员拟为治理“AI生成不实信息”提出建言。
2025年全国两会即将召开，全国政协委员、新疆新的社会阶层人士联谊会副会长海尼扎提·托呼提拟向大会提交“关于加强AI生成不实信息治理”等提案，建议社交媒体平台等互联网平台加强内容审核机制，建立专门的AI生成内容审核团队，对平台内容执行严格监管。
随着人工智能技术的迅猛发展，AI生成不实信息的问题愈发严重，成为信息传播领域面临的一大新挑战。“这些不实信息通常具有迷惑性强、刺激度高、传播力广等特点，不仅侵蚀了信息的真实性，还扰乱了社会秩序与公众认知。”前述提案举例说，在甘肃首例AI虚假信息案中，洪某弟利用ChatGPT软件编造虚假新闻牟利；四川网警公布的多起如“山体滑坡导致8人遇难”、“喜德县发生地震”等AI造谣典型案例，均造成了不良社会影响。此外，近期西藏自治区发生地震灾害后，网络上出现了多起不当利用AI技术生成灾害场景的情况，抖音平台严肃处置了23652条涉及地震的不实信息。还有青海某网民为博取眼球，将“小男孩被埋图”与日喀则地震相关的信息进行关联拼凑、移花接木，混淆视听、误导公众，导致谣言信息的传播扩散。
“这些事件引起了公众对AI技术滥用和网络虚假信息治理问题的高度关注。舆论认为，网络虚假信息的泛滥严重侵犯了公众的知情权和选择权，破坏了市场竞争的公正性。”提案认为，由AI生成的虚假信息还可能侵犯知识产权、动摇版权规则，涉嫌侵犯个人隐私、泄露身份信息，甚至存在滥用的风险。这些情况凸显了加强网络信息监管、提升公众媒介素养的紧迫性和重要性。
前述提案为此建议：第一，加强法律法规建设，完善法律体系，强化现有法律执行，明确责任归属。第二，强化技术监管措施，建立检测和识别技术体系，严格要求内容标识。第三，提升平台责任意识，采用技术手段加强平台内容的审核机制。
具体而言，提案建议进一步细化《网络安全法》、《数据安全法》、《个人信息保护法》等现有法律法规在AI领域的具体适用条款，确保这些法律能够有效覆盖AI生成不实信息的各个环节，明确AI生成内容的标识、审核、责任划分等具体要求，为AI内容生成企业提供清晰的操作指引。并且应考虑到不同类型AI应用所面临的不同行业特点，以便制定差异化政策。同时，加大对AI生成不实信息行为的惩处力度，提高违法成本。对于故意利用AI技术生成和传播不实信息的行为，应依法予以严厉处罚，包括但不限于罚款、吊销营业执照等，从而促使企业自觉遵守相关规定。
在技术监管上，提案建议通过运用尖端技术手段，对AI生成的内容进行实时监测和筛查，可以开发和应用AI生成内容检测算法，从而提升对虚假信息的辨识能力，及时发现并处理不实信息。同时，严格要求网络信息服务提供者遵循相关强制性国家标准进行内容标识，确保用户能够明确识别内容是否由AI生成。
此外，还应该督促社交媒体平台、新闻网站等互联网平台加强内容审核机制，建立专门的AI生成内容审核团队，对平台内容执行严格监管，及时删除和处理不实信息。
“这不仅涉及对现有内容的审查，还包括对新上传内容的实时监控，确保平台内容的质量和真实性。”前述提案表示，鼓励平台采用内容过滤、关键词屏蔽等技术手段，自动识别并拦截AI生成的不实信息，加强对用户发布内容的审核力度，有效降低不实信息的传播范围，并对未能履行监管职责的平台，依法进行处罚，以此作为警示，促使平台自觉履行监管责任，维护网络环境的健康和秩序。
本期编辑 邢潭
