freeBuf
主站

分类

云安全 AI安全 开发安全 终端安全 数据安全 Web安全 基础安全 企业安全 关基安全 移动安全 系统安全 其他安全

特色

热点 工具 漏洞 人物志 活动 安全招聘 攻防演练 政策法规

点我创作

试试在FreeBuf发布您的第一篇文章 让安全圈留下您的足迹
我知道了

官方公众号企业安全新浪微博

FreeBuf.COM网络安全行业门户,每日发布专业的安全资讯、技术剖析。

FreeBuf+小程序

FreeBuf+小程序

ChatGPT大火,你被这四种手段“割韭菜”了嘛?
2023-02-10 11:17:09
所属地 浙江省

2022年11月,ChatGPT发布时,国外曾掀起惊天巨浪,当时在国内却鲜有人提及。短短几天内,OpenAI开发的智能聊天机器人ChatGPT迅速走红。

国内多家公司宣布推出ChatGPT类似服务:有公司宣布,将于3月推出自研的ChatGPT类产品;有公司宣布,计划推出Demo版ChatGPT产品;有公司宣布,推出内部测试类的ChatGPT工具;有公司表示,将类似的ChatGPT技术结合到客服中;也有公司表示,将部署ChatGPT相关技术服务于医疗、教育等领域;更有很多公司表示,自身业务与ChatGPT有关联积累。

总之,发布关于ChatGPT相关公告后,相关公司股价大多上涨。

ChatGPT产品的推动下,国内的开发和使用者鱼龙混杂,顶象防御云业务安全情报中心发现,ChatGPT已经成为无数黑灰产快速捞钱的新手段。


黑灰产利用ChatGPT的牟利方式

1、贩卖ChatGPT账号

ChatGPT在国外是完全免费向公众开放的,但须使用海外手机号码接收短信才能完成注册,国内大批使用者被这一步拦在了门外。部分黑灰产注册了大批账号,然后通过电商、社交、论坛平台贩卖ChatGPT账号。

黑灰产贩卖的ChatGPT账号,主要分为永久账号和共享账号。顾名思义,前者是一人独有,后者是多人公用。一个永久账号售价9.9-39.9元不等,共享账号价格比较低,1元-6元不等。不过,一个共享账号可以卖给不同的买家从中牟取。

图片

2、售卖ChatGPT注册工具

由于注册ChatGPT需要境外手机号码,很多黑灰产提供境外手机号码、虚拟号码的平台租赁服务,售价几元到几十元不等。还有黑灰产提供三方软件或插件,也可以同等注册功能。

3、制作山寨版ChatGPT

这里面主要有两种情况,一类是通过镜像或接口,一类就是仿冒伪造。

第一种,通过ChatGPT镜像或接口,就是在国内建立一个ChatGPT拷贝,或者是调用ChatGPT的接口。一端连接ChatGPT,一端连接国内用户,黑灰产在中间转述用户的提问和ChatGPT的答复。这些产品的服务的售卖,有按照次数收费,也有按照时效收费。比如,充值99.99元,可以使用1300次;每月199元,可以无限次使用等。

图片

此外,黑灰产还在网购平台开设网店兜售代提问。1元钱购买3-9个提问不等。买家购买后将问题发给商家,商家代为提问,然后将ChatGPT的回答复制或截图给买家。

第二种,仿冒伪造ChatGPT。近段时间,国内涌现出很多名称中包含ChatGPT的公众号、小程序,均以ChatGPT的官方图标为头像,回复的方式与ChatGPT回复很像,但是对话内容质量粗糙,很多是回复是统一的应答话术,更有很多答非所问。这些全部山寨的ChatGPT。

4、制作ChatGPT教程

这里面也有两种方式,一种是兜售ChatGPT使用教程,一种是ChatGPT应用教程。

第一种是制作ChatGPT使用教程。包含如何登录、如何获得海外邮箱、如何获取海外手机号、如何注册、登录、使用等等,通过电商平台、社群、小程序兜售,有视频版也有文字版,售价从几元到几十元不等。

图片


第二种是制作ChatGPT应用教程。社交媒体、视频网站上搜索“ChatGPT”会看到各种免费教程,浏览量很高,由此给博主带来很高广告收益。


ChatGPT对业务安全的帮助

提升漏洞挖掘的广度和精度

漏洞挖掘主要依靠技术挖掘,然后经过安全人员审核,从而能够提供准确的漏洞点、漏洞利用及修补方案。当面对数量庞大的漏洞,安全人员疲于应对。ChatGPT 可以通过结合软件代码和应用信息,帮助发现软件和系统中的新漏洞,分析漏洞利用的方式,并可以优化漏洞挖掘方案中,由此为依据进行漏洞修补等防护强化工作,良好应对安全漏洞的挑战。

提升业务安全情报的效率和广度

以往的业务情报是在各个情报源头汇总后,进行数据梳理分析,然后经过人工审查而产生。ChatGPT能够基于各个情报源的信息自动化的分析和整理,由于能够模仿人类书写方面的专长,就可以更快生成摘要,帮助安全人员快速决策分析,然后形成业务安全情报和报告。

顶象业务安全情报拥有 30000+风险源,包含来自对黑灰产社区社群、暗网论坛、违法违禁网站和App的监测,以及打码平台、众包平台、行业非风险数据的共享等。基于对风险数据的人群画像、行为评分、关联关系分析、团伙欺诈挖掘、场景风险特征分析,以及专家专业经验的判断和定位后,提炼总结分析出电信诈骗风险、IP地址风险、设备风险、涉毒涉诈风险、交易风险以及不同行业风险的业务安全情报,为安全人员提供及时、准确、有效的情报内容,帮助安全人员系统掌握业务安全态势、威胁路径、影响范围等,分析挖掘出攻击特征、潜在隐患,从而及时有效提升安全应急响应能力,制定科学有效的防控策略。


ChatGPT自身的安全隐患

随着ChatGPT和类似的技术应用越来越多,相关安全隐患会逐步曝出。AI产品的安全隐患网上有很多讨论,最可能被忽略的是数据污染。也就是,ChatGPT们在训练学习中,被投喂大量的虚假、伪造、非法的信息数据,由此会导致ChatGPT的回答、输出是虚假或错误的。

当长期被投喂虚假非法数据的ChatGPT们,被用于模型规则、策略乃至模型训练后,不仅会破坏ChatGPT学习过程,更可能导致ChatGPT成为被黑灰产操控的工具,给业务带来更大危害。

当你在凝视深渊,深渊也在凝视你。最后,这一篇稿件不是ChatGPT撰写。

____________________________

# 黑客 # 企业安全 # 人工智能 # 业务安全 # 灰产圈
本文为 独立观点,未经授权禁止转载。
如需授权、对文章有疑问或需删除稿件,请联系 FreeBuf 客服小蜜蜂(微信:freebee1024)
被以下专辑收录,发现更多精彩内容
+ 收入我的专辑
+ 加入我的收藏
相关推荐
  • 0 文章数
  • 0 关注者
文章目录