ASIC은 라이선시가 AI 기술의 급속한 채택을 따라잡을 것을 요구합니다.

호주 증권투자위원회(ASIC)는 인공 지능(AI) 기술이 빠르게 채택됨에 따라 규제 대상 금융 서비스 회사에 적절한 거버넌스의 필요성을 경고했습니다.

ASIC은 AI 기술 사용과 관련하여 23개의 규제 대상 기업을 검토한 결과, AI가 신중하게 사용되고 있지만 거버넌스가 이를 따라잡지 못할 수 있음을 발견했습니다. 그러나 금융 회사의 경우 AI 사용 계획에 부합하는 거버넌스 프레임워크를 보호하는 것이 미래의 기술 위험을 해결하는 데 매우 중요합니다.

AI 기술은 소비자에게 상당한 영향을 미칠 수 있을 뿐만 아니라 금융 시스템의 안전과 무결성에도 영향을 미칠 수 있습니다.

검토에 따르면 AISC는 약 60%의 기업이 의사 결정과 효율성 개선을 돕기 위해 AI의 빈도를 늘릴 의도가 있음을 발견했습니다. 이러한 추세는 AI가 금융 소비자에게 미치는 영향을 바꿀 수 있습니다.

규제 당국은 또한 규제 대상 기업의 거의 절반이 소비자의 공정성과 편견을 고려한 정책을 마련하지 않았으며, 소비자에게 AI 사용을 공개한 기업은 더욱 적었다고 밝혔습니다.

ASIC 회장 조 롱고(Joe Longo)는 AI 기술이 상당한 이점을 가져다주지만 적절한 거버넌스가 마련되지 않을 경우 위험을 초래할 수도 있다고 믿으며, 거버넌스 체제를 보호하기 위해 가능한 한 빨리 필요한 조치를 취해야 한다고 제안했습니다.

"적절한 거버넌스 없이는 잘못된 정보, 의도치 않은 차별이나 편견, 소비자 감정 조작, 데이터 보안 및 개인정보 보호 실패가 발생할 위험이 있으며, 이는 모두 소비자에게 피해를 주고 시장 신뢰에 손상을 줄 가능성이 있습니다."

"우리는 라이선스 소지자가 안전하고 책임감 있는 방식으로 AI의 잠재력을 활용하기를 바랍니다. 이는 소비자와 금융 시장에 이로운 방식입니다. 이는 AI가 배포되기 전에 적절한 거버넌스 조치가 마련되어야만 가능합니다."라고 그는 덧붙였습니다.

호주의 금융 규제 기관은 규제 대상 기관의 AI 기술 사용을 지속적으로 모니터링하고, 기업이 AI를 이해하고 이에 대응하는 금융 방식, 오용을 해결하고 필요한 경우 집행 조치를 취하는 방식에 중점을 둘 것입니다.