据 fbi 称,犯罪分子正在利用开源生成式人工智能程序从事各种卑劣行为,包括开发恶意和网络钓鱼攻击。
上周五,fbi 与记者进行了电话交流,讨论生成式人工智能程序在科技行业中引起的轰动,同时也在助长网络犯罪。恶意活动范围涵盖使用 ai 程序改进和推出诈骗行为,甚至恐怖分子咨询这项技术以帮助他们打造更具威力的化学袭击。
一名 fbi 高级官员表示:「随着 ai 模型的采用和普及不断增加,我们预计这些趋势将加剧。」
fbi 没有具体指出犯罪分子使用的特定 ai 模型。但该官员指出,黑客们倾向于使用免费、可定制的开源模型,以及流传于网络犯罪地下世界的私人黑客开发的收取费用的 ai 程序。
该官员补充说,经验丰富的网络罪犯正在利用 ai 技术开发新的恶意软件攻击,并改进它们的传递方法,包括使用由 ai 生成的网站作为网络钓鱼页面,可以秘密传播恶意计算机代码。同样的技术帮助黑客开发多态恶意软件,可以逃避杀毒软件的检测。
上个月,fbi 还警告称,骗子正在使用 ai 图像生成器创建性主题的深度伪造视频,试图勒索受害者的钱财。这些不同 ai 技术驱动的方案的确切规模仍不清楚。但在今天的电话交流中,fbi 的工作人员补充说,该机构所看到的大多数案件涉及犯罪分子使用 ai 模型来加强他们传统的诈骗计划。其中包括利用 ai 语音克隆技术进行电话诈骗,试图欺诈亲人或老年人。
作为回应,fbi 表示已与 ai 公司进行了富有成效的讨论,以解决这个问题,例如使用「水印」系统使任何人都能更容易地识别 ai 生成的内容和图像。
「我们确实将其视为国家优先事项,」该高级官员在讨论 ai 威胁时补充道。「这是最近的发展,影响到 fbi 的所有项目。」