一元买模板、无审核生成！AI军警换装乱象频出，如何防滥用？

发布者: 丽江同城网|曹玉庚 | 发布时间: 2025-10-10 14:52| 阅读量: 12196| 评论数: 1|IP：中国云南丽江

用户上传一张生活照，就能通过部分AI工具一键生成军装照、警察照等“换装”图像，这类功能虽受不少军警迷追捧，却被不法分子利用伪造军警身份招摇撞骗，需高度警惕。

（图片由AI生成）

在短视频平台搜索“AI换军装”，能找到多款相关应用，它们以“圆从军梦”为噱头吸引用户，一些流行AI工具的生图功能也可按需实现变装。但“AI换装”的不当或不法使用已引发负面效应：不少生成的军人形象不符合《中国人民解放军内务条令》着装规范，存在军种制式混淆、使用假勋章、拼凑多国军服元素等问题；还有网民用AI将不同国家、军种制式军服混搭，甚至把手持烟酒、勾肩搭背的生活照合成军警照片或视频，不当消费军警形象。更有甚者借AI生成虚假人民警察证、部队任命书，今年3月安徽黄山网民江某就合成军装照并发布虚假任命信息博取流量，被处以治安处罚；4月江苏江阴网民路某用AI合成军装照、伪造军官证冒充少校，诈骗6名女性3万多元，获刑2年；7月江苏常州诈骗分子通过AI生成穿公安制服的视频，以“涉案”恐吓老人缴“保证金”，幸被警方及时劝阻。

“AI换装”乱象背后，是平台审核的缺位。记者体验发现，部分社交平台的AI变装小程序，仅需上传3张面部清晰照片，十几分钟就能生成军装变装视频，全程无需身份证明，也无禁止违法使用的提示。9月1日施行的《人工智能生成合成内容标识办法》要求AI合成内容明确标注，但多款AI换装应用生成的视频均未标注，易引发混淆。同时，AI技术降低了伪造身份门槛，某购物平台商家公开出售军警服装模板素材，不到一元即可获取，用户用PS或AI替换头像后，将生成的军警照用于社交平台账号，也无审核障碍。北京市炜衡律师事务所律师汪高峰指出，平台和第三方软件疏于审核，会降低公众对军警职业的信任与敬畏；江苏省政府参事室特约研究员丁宏提到，曾有AI合成警察抓人视频配虚假警情通报，误导公众、引发恐慌。此前浙江某公司运营的换脸App，因未落实安全评估、未标识深度合成内容，就被网信部门下架。

为防止“AI换装”滥用，相关法规已明确要求：《人工智能生成合成内容标识办法》规定服务提供者需确保合成内容含显式标识，禁止恶意删除篡改；《互联网军事信息传播管理办法》明确互联网军事信息服务使用AI新技术，不得损害人民军队形象。法律人士建议，AI开发者应加强算法合规审查，对军警标识等敏感内容严格把关；平台需落实标识办法，添加明显标识并建立审核机制，及时下架违规内容。丁宏建议加快立法，明确AI涉军警图像使用边界、责任划分及法律后果，严肃处理丑化形象、招摇撞骗行为，追究相关方连带责任。马国建则呼吁提升公众对军警形象重要性的认识，普及相关知识，引导公众抵制违规内容，同时宣传AI合成内容标识方法，降低公众被骗风险。

（来源/新华网）