freeBuf
主站

分类

漏洞 工具 极客 Web安全 系统安全 网络安全 无线安全 设备/客户端安全 数据安全 安全管理 企业安全 工控安全

特色

头条 人物志 活动 视频 观点 招聘 报告 资讯 区块链安全 标准与合规 容器安全 公开课

点我创作

试试在FreeBuf发布您的第一篇文章 让安全圈留下您的足迹
我知道了

官方公众号企业安全新浪微博

FreeBuf.COM网络安全行业门户,每日发布专业的安全资讯、技术剖析。

FreeBuf+小程序

FreeBuf+小程序

情报分析师必读 | 轻信AI带来的认知假象
RC2TSCM 2025-03-21 13:33:35 4460
所属地 广东省

篇首语:2024年初,杨叔在北京和一家情报平台的朋友喝咖啡,聊起开放情报数据的真假鉴别,AI平台应用检索情报等,都对AI充满期待。

最近,在DeepSeek大火的背景下,又有学员问起AI平台与TSCM行业的关联,OK,那杨叔索性也来分享下这些年的小小心得。

注:以下内容符合OSINT国际开源情报搜集标准,部分来自杨叔及团队小伙伴的自身储备分享,可能存在认知偏差,仅供交流与参考

01 RC2 OSINT情报小组

RC2自己的OSINT威胁情报团队已默默耕耘了七个年头。团队从零开始,一直在持续挖掘整理着TSCM行业、商业窃密态势和隐私保护领域的数据,从最初的全球TSCM同行竞争性情报数据搜集,到海外一线BUGSWEEP检测团队能力发掘,直到整理出一套属于RC2自己的开源情报体系。

例如,RC2会持续关注国际上最新的商业窃密案例,剖析案例的技术细节,形成文档资料存储,同时选择将其中一部分作为课程PPT分享。

示例:2020年初,伦敦的标志性五星级酒店--丽兹酒店(The Ritz London)以7.5亿英镑的价格出售,这中间爆出了涉嫌商业窃听的大瓜。杨叔早在2020年的Level-2课程里就分享了这个被誉为“2020年最受瞩目的商业窃密案例。~类似的案例还有很多,为确保学员始终能接触到最新的案例,基本上杨叔保持着每隔两个月升级一轮PPT的动态更新速度。

02 AI平台的白名单

有人问过杨叔关于使用AI平台开展行业研究的可行性,嗯,这个确实要看情况,主要取决于你要关注的数据本身。杨叔分享下自己的经验:

从ChatGPT 2.0 版本开始,杨叔和团队小伙伴们就开始不断尝试使用AI做TSCM行业分析和数据梳理,其结果让人颇有些哭笑不得。

到现在杨叔还记得:

2024年初,在加拿大某地,杨叔基于ChatGPT 3.5版本,通过检索一些行业有名的公司来简单验证下Chatgpt的数据消息更新效率和范围,在查到一家颇有名气的以色列咨询服务公司(行业内有名的情报公司)时,平台居然回复(为方便理解,以下用中文展示):

因为某些协议限制,无法显示结果。

然后杨叔立刻给出提示,要求列出是哪些协议限制?ChatGPT回复:

因为某些限制无法告知,请开展其他检索。

What?见了鬼了,杨叔随即又试了一些“有名”的行业公司,发现大部分都无法检索,于是明白:

「这个AI平台其实存在一个”白名单“,那些多少与美国政府、北约及其它敏感平台有合作的公司或机构数据,都已被过滤。」

好吧,在这种情况下,作为情报分析师而言,先不说ChatGPT的版本更新情况和是否链接外网,也不说储存的数据库是否完整......仅仅对于当前很多强指向性的检索或者提问的回复,是否严谨可信?是否全面准确,还是已被删减?

就已经打了一个大大的问号~

03 AI平台的“后门设定”

可能有些人注意过这个新闻,但杨叔想大部分人可能压根没关注过。

以下为新闻原文:

此前,美国知名人工智能公司OpenAI宣布,前美国陆军将军保罗将加入其董事会,成为新设立的安全与保障委员会的一员,OpenAI表示这一举措旨在利用人工智能技术加速识别并应对网络安全威胁,看似这是一次正常的人员任命,但考虑到保罗的背景(保罗曾任职美国国家安全局局长),此事引起了特别的关注。

其中,爱德华·斯诺登就认为OpenAI已经成为美国情报部门的帮凶,已视其为具有潜在的、广泛侵犯个人权利的行为。

OK,按道理说,所有使用AI的情报分析人员,都应该知道有这样几个“潜规则”:

规则1:AI平台会记录所有检索的相关信息

包括用户信息、语言类型、访问IP、浏览器版本信息、提交查询内容、回复内容、是否通过VPN等。


规则2:AI平台会分析用户的背景信息

通过用户检索的内容、提交的关键字信息、关注的行业或领域、查询频次、用语等,来推断用户的年龄、职业、所在行业/部门、是否政府雇员等。

无语的是,常常有“缺乏上述常识”的人因此而“暴露”:因为检索了太多关键且敏感的内容,被AI平台溯源、并结合其它数据进行了“画像”工作。

在OPENAI官方于2025年2月更新的《Disrupting malicious uses of our models》报告里,可以看到在具体案例里,第一个就直接列出了“疑似来自中国的账户使用ChatGPT平台作为情报检索工具”的证据:

当然了,OpenAI还移除了其它包括欧洲国家的存在疑似情报搜索等行为的可疑账户,还列举了部分账户作为说明。

所以说啊,作为合格的开源情报搜集与分析人员,第一要务就是不能在一个平台上开展过多敏感数据的检索,需牢记的主要原因有两个:

原因1:可能会被平台里预定义规则“锁定”,导致自身的暴露,会被溯源、被监控及账户被封锁。

原因见上,已经用实例解释了。

原因2:可能会被“有目的推送”伪造或虚假的信息,混淆判断。

这个道理也很简单,全世界的技术人员都知道AI会帮助完成搜索、整理、总结分析的工作,那么可以试想一下,会有多少情报机构、智库、国际安保公司、第三方情报部门、企业安全部门等在不停地在一遍又一遍地遍历互联网,完成大数据的检索。

那对于某些并不希望外部能够获取相关数据,或者已经采取了对应的安全防护措施的机构来说,“故意释放错误的信息来混淆初始数据”,就是一种很好的选择。尤其是故意提交虚假信息来训练AI,那么这些数据最终会进入到AI的后台大数据库中,变成可以向其他人展示的“成果内容”。

这种攻击方式,现在也被称为“AI污染“或”AI下毒”攻击。

04 AI平台对TSCM行业的影响

目前,对于TSCM反窃密领域而言,由于赛道特殊且非常小众,所以国内的AI平台普遍都没有相关概念,或者只是单纯地重复网上的定义,暂时没有相关的深度和知识积累。

而在以ChatGPT为主的海外AI平台上,虽然通过学习库里大量的累计网络资源,能够检索和分析相关信息,但不知道是算法规则限制,还是关键字过滤的原因,实际上回复的误报率相当高。

比如在ChatGPT上使用该指令:列出美国排名前10的TSCM公司。你会发现在结果里面,有一大半都是安保/安防公司,和TSCM行业关系不大,那些非常有名的专业公司压根没有列出。

还有很多查询指令,通过比对RC2自己积累的「TSCM全球知识情报库」,发现结果匹配度相当低,且一大堆错误数据。尽管也有正确可用的数据,但大多数由于时效性,仅仅只能作为参考罢了。

但如果只是询问一些绝大多数AI平台都擅长的那种初级框架性问题,比如:

如何开展办公室的BUGSWEEP检测工作?

这时候,AI就会巴拉巴拉地列出一大堆要检查的位置和注意事项,看似好像挺专业全面,但实际上,这些不过是从网上广为流传的公开资料里汇总给出而已。

只有当你追问一些专业技术细节的时候,如:

--如何检测在弱电线路里暗接的窃听器材?

--列出欧洲最新的防非线探测的窃听器型号?

等这类细颗粒问题时,AI就没办法准确回答,或者用其它电工知识,甚至国外网店上卖的“华强北版本偷拍器材”来糊弄你~

唉,所以啊,网上那些说什么“通过AI平台学习TSCM知识、研究TSCM技术的”,都是不懂装懂的噱头罢了~

当然,并不能因此说所有的AI平台都对TSCM行业无用,经过特定搭建并投入大量时间心血海量训练的AI平台还是会很有效果的,当然,这就是另一个话题了,这里就不多展开~

咳咳,

2025年5月,RC²计划推出“PPES-2XX”系列全新高级课程,比如“PPES-201 智能手机隐私保护实践指南”,及“PPES-202 企业供应链物理安全风险评估”课程。

其中,201课程将包括:

运营商通信监控、手机信号劫持与监听、手机定位与防护、手机周边窃听风险识别、手机远控APP等方面,全面了解当前个人智能手机面临的安全风险及应对措施,敬请期待~


# 观点 # AI # AI安全
本文为 RC2TSCM 独立观点,未经授权禁止转载。
如需授权、对文章有疑问或需删除稿件,请联系 FreeBuf 客服小蜜蜂(微信:freebee1024)
被以下专辑收录,发现更多精彩内容
+ 收入我的专辑
+ 加入我的收藏
RC2TSCM LV.6
专注TSCM、物理安全及隐私保护~
  • 36 文章数
  • 5 关注者
打开手机,我就是柯南 | 聊聊那些常见的探侦类APP
2025-03-25
内幕 | 那些体育圈的窃密事件
2025-03-10
SECURITY SHOW 2025 | 揭秘日本最大安防展
2025-03-05
文章目录