全国大爆发！“AI诈骗”防不胜防，门槛却只要2元？！

防不胜防，10分钟就被AI骗走430万！

近期，据包头警方发布，某科技公司老板接到朋友的微信视频电话，由于长相和声音确认都是“本人”，他丝毫没有怀疑就把钱打了过去，经过警方调查，发现这是一起利用AI换脸技术实施的电信诈骗案件。

图片来源：微博

这起案件背后，核心涉及了AI换脸以及语音合成这两个技术。

根据启信宝知识产权数据显示，“AI换脸”相关的结果共有89条 ，其中多为AI直播换脸、AI换脸相机、AI视频换脸等数据； 而搜索“AI变声”的结果9条 ，多以直播、数字人为主。

图片来源：启信宝

根据此前新华每日电讯消息， AI换脸合成一个动态视频，成本也仅在2元至10元 ；而语音合成方面，国外的VALL·E、Bark更是免费开源，低门槛低成本背后也暗藏不少法律风险。

举个例子，一些换脸App使用明星的照片来制作换脸视频进行营销，某些直播卖货平台上涌现出大量明星卖货的场景，甚至有视频平台倒逼天后孙燕姿不得不发声回应，而这些看似充满好奇心的做法，实则存在侵权风险。

图片来源：红星资本局

根据启信宝APP数据显示， 此前杭州互联网法院审理了AI换脸的案件， 被告A公司未经楼某某同意，其运营的“AI换脸”APP中有自己的造型视频模板，最后判决App开发者赔礼道歉并赔偿损失5000元。

图片来源：启信宝

而涉及此案的上海鱼腥草信息科技有限公司，成立于2021年11月5日，法定代表人为王兴杰，经营范围为软件开发、摄像及视频制作服务、软件外包服务等业务，旗下产品为鱼腥草换颜APP V1.0，而 由于侵权导致的侵权、肖像权等司法案件高达25件之多。

图片来源：启信宝

最近，多地反诈提醒都警告了AI技术新骗局的严重性， 甚至表示在AI新骗局来袭后，诈骗成功率竟接近100%。

图片来源：公众号

随着“ChatGPT”的横空出世，全球科技巨头快速加码AI赛道，未来AI商用化应用也会“百花齐放”。

根据启信宝&城市进化论发布的《中国人工智能产业带图鉴》显示，截止到2023年3月，中国人工智能存续数量为60.05万家，相较于2016年增长115%，人工智能产业也将迎来更进一步发展。

图片来源：启信宝&城市进化论《中国人工智能产业带图鉴》

而另一方面，面对日益普及和发展的AI技术，在享受AI带来便利和乐趣的同时，如何才能够避免成为AI诈骗或侵权的受害者？ 以下是一些常见的方法和建议：

增强防范意识，不轻信陌生人或熟人提出的转账、投资等要求 ，尤其是涉及大额资金或紧急情况时。

仔细观察视频或语音中对方的面部表情、口型、声音等细节 ，看是否与平时一致，是否有不自然或不协调的地方。

保护好自己的个人信息和隐私 ，不要随意上传或分享自己的照片、视频、声音等数据，也不要轻信或点击一些可疑的链接或文件。

尝试 提出一些与对方有关的私密或难以搜索到的问题 ，看对方是否能够回答或回避。

及时与对方 进行线下或其他方式的联系核实 ，比如打电话、发短信、见面等。

发现可疑情况时及时报警求助，并保存好相关证据 。

最后，这趟名为 AI 的列车已逐渐从幕后驶向台前，它既可以创造价值，但也可以造成危害，只有不断提高警惕和防范能力，才能避免成为AI诈骗或侵权的受害者。