FBI, 금융 사기를 위해 생성형 AI를 악용하는 범죄자에 대해 경고

미국 연방수사국(FBI)은 범죄자들이 생성형 인공지능(AI)을 악용하여 사기 수법의 신뢰성과 규모를 높이는 것에 대해 공개 경고했습니다. 미 연방수사국(FBI)은 생성형 AI를 통해 범죄자들이 사용자 입력 데이터를 기반으로 새롭고 설득력 있는 콘텐츠를 합성해 표적을 보다 효율적으로 속일 수 있다고 강조했다.

생성형 AI는 사기의 위험 신호일 수 있는 인적 오류를 수정하는 콘텐츠를 만들어 사기 및 갈취를 포함한 다양한 범죄를 촉진하는 데 사용할 수 있습니다. AI가 생성한 콘텐츠를 식별하기 어렵기 때문에 대중의 인식과 조사를 높여야 합니다.

미 연방수사국(FBI)은 생성형 AI가 사기 수법에 어떻게 사용되는지에 대한 예시를 제시했다.

AI 생성 텍스트

범죄자는 AI 생성 텍스트를 사용하여 소셜 엔지니어링, 스피어 피싱, 로맨스 스캠, 투자 사기 및 기타 신뢰 사기와 같은 금융 사기 수법의 신뢰성을 높이거나 사기 노출 가능성을 줄입니다. 범죄자는 AI를 사용하여 가짜 소셜 미디어 프로필을 만들고, 문법 오류를 최소화하기 위해 콘텐츠를 번역하고, 사기성 웹사이트 콘텐츠를 생성하고, 사기성 웹사이트에 악성 링크가 있는 AI 기반 챗봇을 포함할 수 있습니다.

AI 생성 이미지

AI 생성 이미지는 투자 사기, 로맨스 사기, 신원 사기 및 사칭 계획, 위조 제품 또는 미배송 계획, 시장 조작 계획 등을 포함한 다양한 사기 계획을 뒷받침하는 설득력 있는 소셜 미디어 프로필 사진, 신분증 및 기타 시각적 개체를 만드는 데 사용됩니다.

AI 생성 오디오(일명 보컬 클로닝)

범죄자들은 AI가 생성한 오디오를 사용하여 잘 알려진 공인이나 개인적인 지인을 모방하여 지불을 요청합니다. 또한 이 기술을 통해 범죄자는 오디오 클립을 통해 개인을 가장하여 은행 계좌에 액세스할 수 있습니다.

AI 생성 비디오

AI로 생성된 비디오는 회사 임원, 법 집행 기관 또는 기타 당국으로 알려진 사람들과의 실시간 화상 채팅, 진위를 증명하는 데 사용되는 개인 통신, 오해의 소지가 있는 홍보 자료 등을 포함하여 범죄자의 사기 계획을 지원하기 위해 신뢰할 수 있는 공인 프로필을 만드는 데 사용될 수 있습니다. 투자 사기에.

국민들은 '가족'의 신원을 확인하고, 이미지와 영상의 미묘한 결함을 찾아보고, 오디오의 이상 징후를 주의 깊게 듣고, 소셜 미디어 계정을 비공개로 설정하고, 발신자의 신원을 확인하고, 민감한 정보를 공유하지 말고, 신원을 알 수 없는 사람에게 연락하세요.