警惕生成式AI遭恐怖势力恶意滥用
发布时间:
2026-09-15 16:35:43
来源: 互联网
美国方面发出警告,如果恐怖分子掌握生成型AI系统,将会给国际社会带来更大的麻烦,催生更多恐怖袭击。
这里我们需要说明,这已经不再是科幻设想,如今部分恐怖分子已经开始利用AI实施各类恐怖袭击相关活动。我们梳理一下,倘若恐怖分子掌握AI,潜在的袭击手段都有哪些?
首先,恐怖分子会利用生成型AI制造虚假信息,制造舆论缺口。例如伪造领导人讲话、爆炸现场与屠杀画面,批量生成带有仇恨色彩的文件,制作多语种内容煽动恐怖袭击。对恐怖分子而言,借助AI生成这类材料,难度相对较低。
第二,利用AI策划恐怖袭击,开展目标规划与情报搜集。既然各国军队、情报部门可以使用AI,恐怖分子同样能够依靠AI完成目标规划,抓取公开信息筛选高危目标,分析人员活动轨迹、场所薄弱环节以及行动路线。AI还可以优化行动路线,让恐怖分子的行动更加得心应手。
第三,恐怖分子能够借助AI打造自主化无人装备实施恐怖袭击。比如操控无人机集群识别、逼近目标,不再局限于单架或少数几架无人机;同时还能辅助伪装简易爆炸装置,设计全新的引爆逻辑。AI可以帮助恐怖分子打造能够规避安检的爆炸系统。
第四,开展网络恐怖袭击。利用AI生成各类恶意代码、钓鱼邮件以及恐吓信息,通过软硬结合的杀伤手段,攻击电力、供水、交通等基础设施系统。各类基础设施,都有可能成为恐怖分子借助AI攻击的目标。
在这里我们要点明一项核心风险:AI本身并不会发起恐怖袭击,但它会大幅降低策划、伪造、实施袭击以及规模化传播相关内容的门槛。这正是美国对此深感担忧的原因。未来国际社会如果遭遇恐怖袭击,很可能是带有AI技术特征的高端袭击,必须严加防范。AI本身是一把双刃剑,用于正当事务可以事半功倍,一旦被用于恶行,就会酿成更多恶果与麻烦。
这里我们需要说明,这已经不再是科幻设想,如今部分恐怖分子已经开始利用AI实施各类恐怖袭击相关活动。我们梳理一下,倘若恐怖分子掌握AI,潜在的袭击手段都有哪些?
首先,恐怖分子会利用生成型AI制造虚假信息,制造舆论缺口。例如伪造领导人讲话、爆炸现场与屠杀画面,批量生成带有仇恨色彩的文件,制作多语种内容煽动恐怖袭击。对恐怖分子而言,借助AI生成这类材料,难度相对较低。
第二,利用AI策划恐怖袭击,开展目标规划与情报搜集。既然各国军队、情报部门可以使用AI,恐怖分子同样能够依靠AI完成目标规划,抓取公开信息筛选高危目标,分析人员活动轨迹、场所薄弱环节以及行动路线。AI还可以优化行动路线,让恐怖分子的行动更加得心应手。
第三,恐怖分子能够借助AI打造自主化无人装备实施恐怖袭击。比如操控无人机集群识别、逼近目标,不再局限于单架或少数几架无人机;同时还能辅助伪装简易爆炸装置,设计全新的引爆逻辑。AI可以帮助恐怖分子打造能够规避安检的爆炸系统。
第四,开展网络恐怖袭击。利用AI生成各类恶意代码、钓鱼邮件以及恐吓信息,通过软硬结合的杀伤手段,攻击电力、供水、交通等基础设施系统。各类基础设施,都有可能成为恐怖分子借助AI攻击的目标。
在这里我们要点明一项核心风险:AI本身并不会发起恐怖袭击,但它会大幅降低策划、伪造、实施袭击以及规模化传播相关内容的门槛。这正是美国对此深感担忧的原因。未来国际社会如果遭遇恐怖袭击,很可能是带有AI技术特征的高端袭击,必须严加防范。AI本身是一把双刃剑,用于正当事务可以事半功倍,一旦被用于恶行,就会酿成更多恶果与麻烦。