一秒生成制服照  AI“换装”乱象需警惕

麻辣新舆情

　　随着生成式人工智能的快速发展，“AI换装”功能在网络上走红，不少应用声称用户只需上传一张照片，便可“一键生成军装照”“圆梦从军梦”。然而，“新华视点”调查发现，一些AI工具推出“换装”功能，引发不少军警迷的追捧。但是，有不法分子利用“AI换装”功能，伪造军警身份招摇撞骗，亟待引起警惕。

　　报道还提到，一些社交平台上的AI换装应用几乎“零门槛”使用，无需实名认证，也没有任何警示说明。用户只需上传几张照片，系统便能在十几分钟内自动生成带有军装、警服的合成照片或视频。生成内容中既没有合成标识，也未提示不得用于违法用途，这为伪造身份、冒充军警提供了可乘之机。

　　分析认为，部分内容平台对AI生成类应用管理松散，对涉及军警元素的图片与视频未作限制。一些商家在电商平台公然出售军警服饰模板素材，价格低至一元即可获取数十款模板，AI伪装几乎没有技术门槛。相关专家认为，这种“去门槛化”的伪造手段会削弱公众对军人和警察职业的信任感，也为网络谣言、诈骗等违法行为提供技术支撑。

　　专家建议，AI技术开发与应用必须建立在法律与伦理的边界之内。平台与开发者应强化算法合规审查，对涉及军警标识等敏感内容设定严格的技术限制，落实显著标识义务；相关部门要加大执法力度，对未履行安全评估或放任违规内容传播的平台依法处罚；同时，应加快立法进程，明确AI生成涉军涉警图像的使用边界和责任划分，对恶意伪造、冒充军警身份实施诈骗的行为从严追责。

巢怜痴

Sora2已经爆了，但麻谈暂时还没有人讨论。