สํานักงานคณะกรรมการกํากับหลักทรัพย์และการลงทุนของออสเตรเลีย (ASIC) ได้แจ้งเตือนบริษัทที่ให้บริการทางการเงินที่ได้รับการควบคุมเกี่ยวกับความจําเป็นในการกํากับดูแลที่เพียงพอ เนื่องจากเทคโนโลยีปัญญาประดิษฐ์ (AI) ถูกนํามาใช้อย่างรวดเร็ว
ASIC ได้ตรวจสอบบริษัทที่ได้รับการควบคุม 23 แห่งเกี่ยวกับการใช้เทคโนโลยี AI และพบว่าในขณะที่ AI ถูกใช้อย่างระมัดระวัง แต่การกํากับดูแลอาจไม่ทัน อย่างไรก็ตาม สําหรับบริษัทการเงิน การปกป้องกรอบการกํากับดูแลที่สอดคล้องกับแผนการใช้ AI เป็นสิ่งสําคัญในการจัดการกับความเสี่ยงด้านเทคโนโลยีในอนาคต
เทคโนโลยี AI อาจไม่เพียงแต่ส่งผลกระทบอย่างมีนัยสําคัญต่อผู้บริโภค แต่ยังมีศักยภาพที่จะส่งผลกระทบต่อความปลอดภัยและความสมบูรณ์ของระบบการเงินอีกด้วย
จากการทบทวน AISC พบว่าประมาณ 60% ของหน่วยงานมีความตั้งใจที่จะเพิ่มความถี่ของ AI เพื่อช่วยในการตัดสินใจและปรับปรุงประสิทธิภาพ แนวโน้มนี้อาจเปลี่ยนผลกระทบของ AI ต่อผู้บริโภคทางการเงิน
หน่วยงานกํากับดูแลยังพบว่าเกือบครึ่งหนึ่งของบริษัทที่ได้รับการควบคุมไม่มีนโยบายที่คํานึงถึงความเป็นธรรมและอคติของผู้บริโภค และยิ่งเปิดเผยการใช้ AI แก่ผู้บริโภคน้อยลง
Joe Longo ประธาน ASIC เชื่อว่าแม้ว่าเทคโนโลยี AI จะก่อให้เกิดประโยชน์อย่างมาก แต่ก็สามารถสร้างความเสี่ยงได้หากไม่มีการกํากับดูแลที่เหมาะสม และแนะนําว่าควรดําเนินการที่จําเป็นโดยเร็วที่สุดเพื่อปกป้องข้อตกลงการกํากับดูแล
“หากไม่มีการกำกับดูแลที่เหมาะสม เราก็เสี่ยงต่อการได้รับข้อมูลที่ผิดพลาด การเลือกปฏิบัติหรืออคติที่ไม่ได้ตั้งใจ การบิดเบือนความรู้สึกของผู้บริโภค ความล้มเหลวในการรักษาความปลอดภัยและความเป็นส่วนตัวของข้อมูล ซึ่งทั้งหมดนี้ล้วนอาจทำให้เกิดอันตรายต่อผู้บริโภคและทำลายความเชื่อมั่นของตลาดได้”
“เราต้องการเห็นผู้รับใบอนุญาตใช้ประโยชน์จากศักยภาพของ AI ในลักษณะที่ปลอดภัยและมีความรับผิดชอบ ซึ่งจะเป็นประโยชน์ต่อผู้บริโภคและตลาดการเงิน สิ่งนี้จะเกิดขึ้นได้ก็ต่อเมื่อมีการจัดเตรียมการกำกับดูแลที่เหมาะสมก่อนที่จะนำ AI มาใช้” เขากล่าวเสริม
หน่วยงานกํากับดูแลทางการเงินของออสเตรเลียจะยังคงติดตามการใช้เทคโนโลยี AI โดยหน่วยงานที่ได้รับการควบคุมโดยมุ่งเน้นไปที่วิธีที่บริษัททางการเงินเข้าใจและตอบสนองต่อ AI จัดการกับการใช้ในทางที่ผิดและดําเนินการบังคับใช้เมื่อจําเป็น