在2024年打击网络欺诈内容的行动中,马来西亚通讯与多媒体委员会(MCMC)共从社交媒体平台上删除了63652条欺骗性内容,较2023年删除的6297条增加了10倍。
这些欺诈内容包括涉及人工智能(AI)的内容,如深度伪造、冒充知名人士、视频、图片和文字。
诈骗者利用人工智能制作了以许多知名人士为主角的深度伪造视频,如马来西亚总理拿督斯里安瓦尔·易卜拉欣(Datuk Seri Anwar Ibrahim)和前马来西亚国家银行行长洁蒂·阿兹(Tan Sri Dr Zeti Akhtar Aziz)。这些骗局的一种普遍形式涉及“投资大师”计划,例如虚假的“Zeti Akhtar”等冒名顶替者声称可以分享投资技巧和经验来引诱受害者。这些骗局通常会诱骗个人加入WhatsApp诈骗群组,从而成为投资欺诈的受害者。马来西亚皇家警察(PDRM)的统计数据显示,投资诈骗是最常见的诈骗类型。
MCMC副部长Teo Nie Ching敦促TikTok和META等在线平台提供商加强监控力度,打击激增的有害和欺诈性在线内容,尤其是涉及人工智能的内容。
在早些时候的一篇Facebook帖子中,Teo Nie Ching还警告公众不要上深度伪造视频的当,这些视频以普通话传播,名为“Zeti的终身投资秘诀”。在视频中,冒牌的“Zeti”声称自己在金融领域拥有40多年的经验,制定了马来西亚的货币政策,见证了重大的经济变革。这些视频欺骗性地邀请观众加入在线社区,获取股票技巧和经济见解,最终将他们带入投资骗局。