FBIは、金融詐欺のために生成AIを悪用する犯罪者について警告しています

連邦捜査局(FBI)は、犯罪者が生成型人工知能(AI)を悪用して詐欺的なスキームの信憑性と規模を高めていることについて、公に警告を発しました。FBIは、ジェネレーティブAIにより、犯罪者がターゲットをより効率的に欺くことができ、ユーザー入力データに基づいて新しい説得力のあるコンテンツを合成できることを強調しました。

ジェネレーティブAIは、詐欺の危険信号となる可能性のある人為的ミスを是正するコンテンツを作成することにより、詐欺や恐喝などのさまざまな犯罪を促進するために使用できます。AIが生成したコンテンツを特定するのが難しいため、一般の認識と精査を強化する必要があります。

FBIは、ジェネレーティブAIが詐欺的なスキームでどのように使用されているかの例を示しました。

AI生成テキスト

犯罪者は、AIが生成したテキストを使用して、ソーシャルエンジニアリング、スピアフィッシング、ロマンス詐欺、投資詐欺、その他の信用スキームなどの金融詐欺スキームの信頼性を高めたり、詐欺の可能性を減らしたりします。犯罪者はAIを使用して、偽のソーシャルメディアプロファイルを作成したり、コンテンツを翻訳して文法上の誤りを最小限に抑えたり、不正なWebサイトコンテンツを作成したり、AIを搭載したチャットボットに悪意のあるリンクを不正なWebサイトに埋め込んだりすることができます。

AI生成画像

AIが生成した画像は、投資詐欺、ロマンス詐欺、ID詐欺やなりすましスキーム、偽造品や不配達スキーム、市場操作スキームなど、さまざまな詐欺スキームをサポートする説得力のあるソーシャルメディアのプロフィール写真、身分証明書、およびその他のビジュアルを作成するために使用されます。

AI生成オーディオ、別名ボーカルクローニング

犯罪者は、AIが生成した音声を使用して、有名な公人や個人的な知人を模倣し、支払いを求めます。また、この技術により、犯罪者はオーディオクリップを通じて個人になりすまして銀行口座にアクセスすることができます。

AI生成ビデオ

AI が生成したビデオは、犯罪者の詐欺計画を支援する公人の信頼できるプロフィールを作成するために使用できます。これには、企業幹部と称される人物、法執行機関、またはその他の当局とのライブ ビデオ チャット、信憑性を証明するために使用される私的なコミュニケーション、および誤解を招く宣伝資料が含まれます。投資詐欺で。

一般の人々は、「家族」の身元を確認し、画像やビデオの微妙な欠陥を探し、音声の異常がないか注意深く耳を傾け、ソーシャルメディアアカウントを非公開にし、発信者の身元を確認し、機密情報の共有を避け、次のことを行わないよう勧告されます。身元不明の人に連絡してお金を送金する。