ในการปราบปรามเนื้อหาออนไลน์ที่เป็นการฉ้อโกงในปี 2024 คณะกรรมการการสื่อสารและมัลติมีเดียของมาเลเซีย (MCMC) ได้ลบเนื้อหาหลอกลวงทั้งหมด 63,652 ชิ้นออกจากแพลตฟอร์มโซเชียลมีเดีย ซึ่งเพิ่มขึ้นสิบเท่าจาก 6,297 ชิ้นที่ถูกลบในปี 2023
เนื้อหาที่เป็นการฉ้อโกงรวมถึงเนื้อหาที่เกี่ยวข้องกับปัญญาประดิษฐ์ (AI) เช่น Deepfake การแอบอ้างเป็นบุคคลที่มีชื่อเสียง วิดีโอ กราฟิก และข้อความ
นักต้มตุ๋นใช้ปัญญาประดิษฐ์เพื่อสร้างวิดีโอปลอมที่มีบุคคลสำคัญจำนวนมาก เช่น นายกรัฐมนตรีมาเลเซีย Datuk Seri Anwar Ibrahim และอดีตผู้ว่าการธนาคาร Negara Malaysia Zeti Aziz (Tan Sri Dr Zeti Akhtar Aziz) รูปแบบหนึ่งที่พบบ่อยของการหลอกลวงเหล่านี้เกี่ยวข้องกับแผนการ "กูรูด้านการลงทุน" ซึ่งผู้แอบอ้างเช่น "Zeti Akhtar" ปลอมล่อเหยื่อโดยอ้างว่าแบ่งปันเคล็ดลับและประสบการณ์ในการลงทุน การหลอกลวงเหล่านี้มักจะหลอกให้บุคคลเข้าร่วมกลุ่มหลอกลวงของ WhatsApp และกลายเป็นเหยื่อของการฉ้อโกงการลงทุน สถิติจากสำนักงานตำรวจแห่งชาติมาเลเซีย (PDRM) แสดงให้เห็นว่าการหลอกลวงด้านการลงทุนเป็นรูปแบบการฉ้อโกงที่พบบ่อยที่สุด
รัฐมนตรีช่วยว่าการกระทรวงคมนาคม Teo Nie Ching เรียกร้องให้ผู้ให้บริการแพลตฟอร์มออนไลน์ เช่น TikTok และ META เพิ่มความพยายามในการตรวจสอบเพื่อต่อสู้กับการเพิ่มขึ้นของเนื้อหาออนไลน์ที่เป็นอันตรายและฉ้อโกง โดยเฉพาะอย่างยิ่งที่เกี่ยวข้องกับ AI
ในโพสต์บน Facebook ก่อนหน้านี้ Teo Nie Ching ยังเตือนสาธารณชนว่าอย่าตกเป็นเหยื่อวิดีโอ Deepfake ซึ่งเผยแพร่เป็นภาษาจีนกลางและมีชื่อว่า "Zeti's Lifelong Investing Secrets" ในวิดีโอ "เซติ" ตัวปลอมอ้างว่ามีประสบการณ์มากกว่า 40 ปีในด้านการเงิน การกำหนดนโยบายการเงินของมาเลเซีย และได้เห็นการเปลี่ยนแปลงทางเศรษฐกิจครั้งใหญ่ วิดีโอเหล่านี้เชิญชวนผู้ดูให้เข้าร่วมชุมชนออนไลน์อย่างหลอกลวง และรับเคล็ดลับเกี่ยวกับหุ้นและข้อมูลเชิงลึกทางเศรษฐกิจ ซึ่งท้ายที่สุดก็นำพวกเขาไปสู่การหลอกลวงด้านการลงทุน