美国联邦调查局就犯罪分子利用生成式人工智能进行金融欺诈发出警告

美国联邦调查局（FBI）就犯罪分子利用生成式人工智能（AI）提高欺诈计划的可信度和扩大规模发出公众警告。FBI强调，生成式人工智能允许犯罪分子更有效地对目标群体实施欺诈，并根据用户输入的数据合成新的、令人信服的内容。

生成式人工智能可用于协助各种犯罪，包括欺诈和勒索，通过创建内容来纠正可能会成为欺诈信号的人为错误。由于难以识别人工智能生成的内容，因此有必要提高公众意识并加强审查。

FBI举例说明了生成式人工智能如何被用于欺诈计划：

人工智能生成的文本

犯罪分子利用人工智能生成的文本来提高社交工程、鱼叉式网络钓鱼和金融欺诈计划（如恋爱诈骗、投资欺诈和其他信任计划）的可信度，或降低欺诈暴露的可能性。犯罪分子可以利用人工智能创建虚假的社交媒体资料，翻译内容以尽量减少语法错误，创作欺诈性网站内容，在欺诈网站中嵌入带有恶意链接的人工智能聊天机器人。

人工智能生成的图像

人工智能生成的图像被用来制作令人信服的社交媒体个人照片、身份证件和其他视觉效果，以支持各种欺诈计划，包括投资诈骗、恋爱诈骗、身份欺诈和冒充计划、假冒产品或不发货计划、市场操纵计划等。

人工智能生成的音频，又称声音克隆

犯罪分子利用人工智能生成的音频模仿知名公众人物或熟人，以骗取钱财。这项技术还能让犯罪分子通过音频剪辑冒充个人进入银行账户。

人工智能生成的视频

人工智能生成的视频可用来制作可信的公众人物资料，以支持犯罪分子的欺诈计划，包括与所谓的公司高管、执法人员或其他权威人士进行实时视频聊天、用于证明真实性的私人通信，以及用于投资诈骗的误导性宣传材料。

建议公众核实“家人”的身份，寻找图片和视频中的细微瑕疵，仔细聆听音频中的异常，将社交媒体账户设为私人账户，核实来电者的身份，避免分享敏感信息，不要向身份不明的人汇款。