人工智能技术的不断发展和应用给人们的工作和生活带来了诸多便利。同时，生成图像、视频和音频的门槛降低，意味着虚假信息往往会被人工智能伪造。在电商平台上，一些卖家利用人工智能技术冒充明星进行直播营销，侵犯他人合法权益，损害消费者的知情权和选择权。法治有望准确解决人工智能滥用问题，明确技术发展的法律限制，让技术在法治轨道上更好地服务人类。
近日，演员文正英透露，网上发现了一个冒充她的直播间。此前有人发现她以不同妆容、不同产品同时“出现”在多个直播间，但说的是同样的话。这些直播图像都不是文正英本人拍摄的，有些实际上是人工智能合成的假直播图像。
人工智能技术的不断成熟和广泛应用，给人们的工作和生活带来了诸多便利。但与此同时，一些人和公司正在利用人工智能制作虚假视频，误导公众。
专家认为，有必要进一步明确人工智能生成内容的标签义务。同时，科技平台、电商平台等传播平台应承担识别、拦截、处罚非法账号的主体责任。公众还需要通过人工智能生成的内容来提高认知能力和风险防范意识。
虚假视频欺骗消费者
“真的有那么神奇吗？” “这种痔疮凝胶不需要饮食限制或处罚。它是唯一没有负面影响的产品近日，工人日报记者在上海拍摄的一段视频中，看到韩红、潘章江两位明星在回答问题、宣传某款痔疮产品。视频中，其他女明星也为该产品“加持”。
赵先生告诉记者，这是今年8月份他妈妈手机上录制的一段短视频。他说，这段视频是用视频软件录制的。她的妈妈看到“大明星也推荐这款产品”后，有兴趣订购该产品。赵先生拦住了他，说道：“乍一看，这个视频像是人工智能生成的，说话时的表情和嘴巴都不自然。”
AI短剧创作者唐晶告诉记者，乔妈妈观看的明星宣传视频实际上是利用数字人技术制作的。 “如果你有明星的照片，即使是屏幕截图，你也可以为角色制作动画角色。每当明星在特定场合说话时，你都可以复制这个声音。”
今年6月，北京市海淀区市场监管局查处一起某公司利用人工智能技术伪装央视知名主播姓名、形象的虚假广告案。 8月，有媒体爆料，在某些社交平台上，博主利用人工智能技术模仿奥运冠军全宏灿的声音向当地人兜售鸡蛋。一些视频获得了多达 11,000 个赞。奥运冠军孙颖莎和王楚钦也发现了类似的假货。
加上虚假的图像、音频效果和名人，一些制作虚假视频的营销博主收到了大单。记者在短视频平台上看到，赵妈妈观看过的标题为“明星卖痔疮产品”的视频已被下架，表明该产品已被下架。已停产。约6,000件。据报道，在“全红灿带土鸡蛋”视频的评论区，不少粉丝误以为选手本人在“支持”他，并下单购买该产品。结果显示，该产品已售出 47,000 件。
一些消费者注意到，随着“双十一”的到来，购物平台上展示的人工智能生成的产品数量有所增加，购买的各种娃娃配件、服装、家具甚至试模等。一些卖家利用人工智能在商品详情页、直播间生成虚假评论，捏造用户体验，影响消费者理性决策。
垦丁律师事务所设立部分马萨库律师表示，利用人工智能技术模仿名人进行直播和营销，严重侵犯了被模仿名人的形象权、宣传权等合法权益。荣誉权和发言权。违反了消费者权益保护法、广告法禁止误导性、欺骗性广告的规定，侵犯了消费者的知情权、选择权。情节严重的，可能会被视为诈骗，将被追究刑事责任。
中国人民大学公共管理学院教授、资本发展战略研究院研究员张友浪表示，虚假视频和产品展示不仅导致信息失真、降低信任度，而且增加售后维权问题。还造成平台生态系统恶化，通过不公平竞争给合规运营商带来压力。
识别假AI视频将变得更加困难
“人工智能工具变得越来越流行且易于操作，使得非专家更容易生成虚假内容，这是滥用人工智能的主要原因人工智能生成的内容。”北京邮电大学互联网法律与治理研究中心主任谢永江说。
10月17日晚，安徽省铜陵市的一名女子利用人工智能技术，制作了几张“流浪汉闯入她家”的照片，并在两人一起吃饭时发送给丈夫。看到真实照片后，她确信丈夫是认真的，并报了警。当警方赶到现场调查后，证实这起骗局是人工智能恶作剧的结果。
施毅在一家音乐教育机构担任视频编辑，去年开始尝试使用人工智能生成视频。近日，她在网上发布了一段自己的短视频。蓝天下，白色的教学楼里传来学生读书的声音。课堂上，老师在黑板上写了一道问答题，上面写着：“I w我想去见他。”这段三分钟的视频生动地描绘了风景、人物和日常事物。
“我们利用人工智能技术生成照片，然后用这些照片生成视频，最后我们编辑和添加配音来完成视频。”石毅告诉记者，他不是影视专业毕业的，只对生成视频感兴趣。前面提到的真实视频显示他有3、4个软件。它是使用创建的。
“许多人工智能照片和视频都是假的，除非被标记，否则很难识别。”在各大短视频平台担任维护技术人员的刘宇（化名）坦言，随着生成大规模模型的能力越来越强大，识别假AI视频变得越来越困难。
“一些长视频可以根据上下文来区分。当特定的情况下，基于肖像的短视频几乎与真人没有区别。添加了所有效果。随着他们设备、码率、帧率等的提高，识别精度会更加有限。”刘宇表示，现阶段，该平台还处于AI视频识别阶段，主要以人力和机械相结合为主，不能完全依靠技术识别。
张友朗分析，平台对流量和产品转化的强大激励，导致一些商家和个人利用人工智能技术“搜劣币谋利”，并迅速复制和传播。网络环境的匿名性和模糊性使得滥用证据的获取变得困难，增加了责任成本。许多人缺乏识别深度伪造品的媒体素养，平台不完善的内容跟踪机制也导致人工智能产生的内容执行混乱。
让人工智能生成的内容“可见、可检查、可追踪”
自九月以来今年1月1日，国家网信办等制定的《人工智能生成的合成内容标注办法》正式生效，要求对所有人工智能生成的文字、照片、视频等内容标注“明确标识”，即明确其来源和真实性。
施毅告诉记者，导出AI生成的视频时，软件通常会插入AI水印。如果没有水印，发布视频时必须选择平台提供的AI生成声明选项。有一点。
“不过，选择仍然是一个有意识的决定。有些人可能认为，除非视频涉及版权、公开权等，否则没有必要进行标记。”谭晶表示，为了吸引眼球、获取流量，一些博主会刻意利用AI技术，去掉视频上原本“AI生成”的水印，发帖时选择不包含水印。
9月，短视频平台发布《关于更好处置人工智能内容滥用行为的公告》，表示平台已采取下架、取消违规账号和视频等措施，并强调人工智能应用必须遵守规定，滥用、滥用行为将受到严厉处罚。
张友朗建议，人工智能生成的内容不仅要被标记，还要“看得见、可查、可追踪”。可以考察隐藏水印、溯源元数据、模型指纹等技术的技术水平，方便平台及相关部门同行监控和验证。
在明确人工智能生成内容的标签责任时，张友浪认为，要实行“内容创作者负首责、平台管理、可验证”的分级机制。即由谁上传内容，首先进行自我声明并加水印。平台在发布前进行自动识别和抽查，并要求强制加价或限期删除未标注或涉嫌造假的内容。行业协会和权利人可以通过取证接口进行外部验证。此外，对于商业营销和广告性质的内容，必须遵守广告法规定的更严格的披露标准。
为进一步引导社会合法合理利用人工智能生成内容，谢永江提出强化平台责任、强化技术和管理措施、提高公众人工智能素养。此外，为了进一步纠正与人工智能生成内容相关的违法行为，我们需要加强跨境合作。
记者陶文[李岩编辑]中国动漫影视如何更好地“走出去”？
体温过低是否只发生在寒冷的气候中？
东西方问答丨王毅：为何86个国家将汉语纳入国民教育体系？
美国，我们承受不起伤害。
中国跳水新泳姿全国大赛及企业斩获14枚金牌
中国消除数字鸿沟、积极推动全球化的理念将成为“稳定器”
2017年“双11”，今年有哪些新变化？
中国建立全国统一市场将如何造福世界？
只有老年人才会得带状疱疹吗？
粤港澳19市合作参加全国大会
中国庞大的市场为全球创新提供了广泛的应用场景
共同保护地球：从巴西亚马逊到中国的生态实践，纵观全球气候行动
再也不用坐两次飞机了。快乐比尔那天，人民空军！
专家评美国“航行自由”：双重标准，打着和平幌子进行霸权行动
中国科技史从“互联网+”走向“AI+”
11.11不仅仅是购物，更是保障。向人民空军致敬！
加湿器中添加消毒剂可以抑制细菌吗？小心肺炎！
无线网络名称后面的“5G”和手机上的5G信号意思一样吗？