【科学的温度】AI换脸火爆的背后：若何避免人工智能手艺被“恶用”？

中新网12月22日电 (记者 李金磊)数字化*.0时代，人类生活越来越离不开人工智能。若何避免人工智能手艺被“恶用”？越来越多的虚拟人能否会代替部门实人职业？若何克制算法蔑视，让人工智能实现可知、可信、可控、可用？

围绕上述热点问题，清华大学人工智能国际治理研究院副院长、人工智能治理研究中心主任梁正承受了中新网专访，停止解读。

清华大学人工智能国际治理研究院副院长、人工智能治理研究中心主任梁正。受访者供图

避免人工智能手艺被“恶用”

AI换脸、AI换声、三维重建、智能对话……深度合成手艺应用日益普遍，催生了美颜美妆、影视造做、智能客服、虚拟主播、元宇宙等应用办事，但也存在着被歹意操纵的现象，一些犯警人员用来造做、复造、发布、传布违法和不良信息，诽谤、贬损别人名望、荣誉，仿冒别人身份施行诈骗等。

如何抵御那些可能的“恶用”？梁正暗示，关于深度合成，AI换脸是一个典型的应用。比来三部分出台了《互联网信息办事深度合成办理规定》，关于标准深度合成办事提出了明白要求。

按照规定，供给人脸、人声等生物识别信息显著编纂功用的，应当提醒利用者依法告知被编纂的小我，并获得其零丁同意。供给智能对话、合成人声、人脸生成、沉浸式拟实场景等具有生成或者显著改动信息内容功用办事的，应当在生成或者编纂的信息内容的合理位置、区域停止显著标识，向公家提醒信息内容的合成情况，制止公家混淆或者误认。

梁正指出，利用小我肖像若是没有征得同意，就去公共互联网上收罗利用的话，那属于违法行为。平台上若是有类似应用，平台就有责任去监视。即便是合法的利用，也要打上标签，让各人晓得那不是实的，必然水平上能够削减深度合成内容产生的认知误差和社会误导。若是平台本身去供给那一类办事，还要求用响应的东西去识别它不是实在的，那就对平台提出了更高的要求。

“不只要合法合规，并且还要合意。” 梁正暗示，要进一步完美法令律例，严酷落实相关规定，成立健全赏罚轨制，小我要有维权意识，通过布施渠道维护本身合法权益，从而削减AI被歹意操纵的现象。

材料图：2022世界人工智能大会上，人机互动吸引不雅寡。 汤彦俊 摄

虚拟人已经起头代替部门实人职业

近年来，虚拟代言人、虚拟主播、虚拟演员歌手，越来越多虚拟人在被推向市场。人们担忧，虚拟人在将来或将代替部门实人职业。

“在娱乐、新闻范畴，虚拟人的应用越来越多，因为它是一个低成本、高效率的体例。”在梁正看来，虚拟人越来越多也是一种一定的趋向，并且已经在替代部门实人职业了。好比，如今良多虚拟新闻主播，还有德律风客服越来越多利用智能语音办事。“那个替代它必然是会部门发作的。”

重生事物开展背后也存在一些隐患。梁正提醒，各人不要把实假弄混了，虚拟人的形象、内容、对话都是基于训练的成果，或者是事先编好的，若是把它当成实人的话，就会产生误导。

“好比说，跟对话机器人去对话要十分小心。关于有些敏感话题，因为它背后没有意识，是顺着你说的，若是没有干涉就可能产生误导，但它没有法子承担责任。所以要对虚拟形象的深度合成打上标签，并限制它的利用场景。出格是在教育医疗如许一些敏感的高风险场景，人工干涉是必需的。”梁正说。

梁正认为，虚拟人的应用总体要分场景，在游戏、气候预报、新闻播报等一些低风险场景问题不大，但若是是高风险场景，就要十分小心，虚拟形象可以做什么，什么不克不及做，要把边界划清晰，好比心理陪同机器人，要评估它说的话带来的持久心理影响是什么样的。

下一代人工智能应该是可解释的

人工智能不分开算法，算法公允和算法蔑视话题也备受存眷。国外一些研究和媒体报导提到，算法开发者或算法自己按照大数据积累存在种族、性别、文化等蔑视的可能性。

对此，梁正暗示，算法是根据数据训练出来的，数据的有偏性是招致算法自己有偏性的一个次要原因。所以，算法蔑视不是算法形成的，是社会自己形成的，是算法自己的手艺特点所招致的，利用大量已经带有倾向性的数据，算法也就会做出一种倾向性的判断。

梁正指出，要想改动那种成见，起首要纠正社会成见。所以在利用数据的时候，要停止人工干涉，在统计学上能够通过一些模仿数据来做一个平衡，但底子上是要付与人工智能以常识，要把一些因果的因素考虑进去，而不是单纯只依赖于那种数据。

“绝对的算法公允其实不存在。” 梁正认为，算法公允具有多维性，常常面对“不成能三角”式的挑战。在公共办理范畴中，起点公允、过程公允、成果公允三者同时实现根本是不成能的。绝对的公允现实上在算法的设想中其实也是做不到的，关键取决于你要什么样的目的。

梁正暗示，要实现人工智能可知、可信、可控、可用。可知也就是可解释，那是最根底也是最复杂的层面，下一代人工智能应该是可解释的，若是说它不克不及够被解释的话，就会限造它良多方面的应用和各人对它的信赖。算法可解释，那种前提下才气够安心去利用它。

“如今更大的问题就是黑箱，现有的人工智能是基于数据训练出来，你不晓得中间发作的事，而新一代的人工智能就是要在数据的根底加上常识，以至要加上我们的逻辑，让它可以根据我们可理解的体例运行。”梁正说。(完)