当局称,中国一名骗子利用人工智能冒充一名商人可信赖的朋友,并说服他交出数百万元人民币。
受害人姓郭,上个月接到了一个看起来和听起来像好朋友的人打来的视频电话。
但据南方城市福州政府相关媒体门户网站周一发表的一篇文章称,来电者实际上是一名骗子,“使用智能人工智能技术改变他们的面孔”和声音。
文章称,骗子“冒充(郭的)好友进行诈骗”。
在欺诈者声称另一位朋友需要这笔钱从公司银行账户支付公开招标的担保后,郭被说服转账 430 万元人民币(609,000 美元)。
骗子索要郭的个人银行帐号,然后声称已将等额款项电汇到该帐户,并向他发送了欺诈性付款记录的屏幕截图。
阅读更多:诈骗者诱骗 2 家美国大型科技公司向他支付 1 亿美元
郭没有检查他是否收到了这笔钱,就从他的公司账户中发出了两笔款项,总计所要求的金额。
“当时,我核实了视频通话人的面容和声音,所以我放松了警惕,”文章援引郭文贵的话说。
他在给身份被盗用的朋友发了消息后才意识到自己的错误,而这位朋友并不知道这笔交易。
文章称,郭某向警方报了警,警方通知另一城市的一家银行不要进行转账,他设法追回了 340 万元人民币。
它补充说,收回剩余资金的努力正在进行中,但没有确定该计划的肇事者。
自去年 11 月美国公司 OpenAI 推出模仿人类语言的聊天机器人 ChatGPT 以来,突破性人工智能技术的潜在缺陷受到了高度关注。
中国宣布了到 2030 年成为全球 AI 领导者的雄心勃勃的计划,包括阿里巴巴、京东、网易和 TikTok 母公司字节跳动在内的大量科技公司都在争先恐后地开发类似产品。
ChatGPT 在中国不可用,但这款美国软件正在吸引大量中国用户,这些用户使用虚拟专用网络访问它来写论文和备考。
但它也被用于更邪恶的目的。
本月,西北省份甘肃警方表示,已对一名男子采取“强制措施”,该男子使用 ChatGPT 制作了一篇关于一起致命公交车事故的假新闻文章,并在社交媒体上广泛传播。
1 月份生效的监管深度造假的法律禁止使用该技术制作、发布或传播虚假新闻。
北京互联网监管机构上个月提出的一项法律草案将要求所有新的人工智能产品在向公众发布之前都要经过“安全评估”。