2023年3月30号受邀参加HackinClub北京线下AI+网络安全主题会议，在台上给大家分享了《实践挖掘国内AI场景漏洞：科技前沿与安全探索》议题，受到了各位挖挖洞师傅的喜欢。同时也有很多师傅加了我的微信想要ppt中的具体挖洞案例，想立马拿去src实践，赚一波money。

人多了之后呢，我就想不如写一篇文章直接把我当时的漏洞案例贴出来。这样方便了各位师傅查阅（主要是我太懒挨个发确实费劲），所以就诞生了这篇文章。

这篇文章还是分为几个部分

1.缘起

2.挖掘一个漏洞的关键点

3.AI产品将会面临的漏洞

4.国内AI产品现状简单讲解

5.SRC漏洞实战案例：AI漏洞案生成式图片AI漏洞案例

6.思路打开，举一反三寻找新的漏洞点

0x01 缘起

大家好，我是Day1安全团队的地图大师returnwrong。今天再次有幸为大家带来全新的SRC挖洞技术分享。走在北京的大街上，感叹:“3月的天气还是忽冷忽热”，这个说法不禁让我对生活的变幻无常有所感触。与对象还有好兄弟一起参加Hackingclub的活动，我们在路上交流着对于这次分享的期待和兴奋之情。

坦率地说，这是我第一次从线上走向线下，在几百名观众面前分享自己的挖洞经验和对AI漏洞的研究。心情实在是复杂，充满了紧张与期待。虽然之前在视频中表现得自信满满，但直面现场观众，我也不免感到了“社恐”的压力。不过，当我站上台讲解的时候，身体和心灵仿佛又回到了熟悉的领域，找回了自己的节奏，一切顺利进行。这种转变让我对自己有了更清醒的认识。

现场除了分享经验，我还有幸结识了许多新的挖洞师傅，也见到了在网络上一直以来都与之互动的Day1安全团队的朋友们。我们共同交流着挖洞的心得体会，共同探讨着安全领域的前沿技术与挑战。这次经历不仅让我感受到了团队的凝聚力和交流的重要性，也成为了我2024年中一段非常愉快的回忆。

0x02 挖掘一个新漏洞的关键点

师傅们在挖洞的时候有没有发现一个问题，当然这里是抛开传统的漏洞sql注入xss之类的来说的，当我们发现一个新的功能点的时候，感觉有点问题但是又不知道是不是个漏洞，比如我们发现有个记录系统日志的点，我们能把ip伪造成别人的，那么我们如何写这个报告呢，最重要的点，你得说清楚这个漏洞的危害是什么，只有有危害的东西那才叫做漏洞。有的人提的漏洞都是什么页面显示不正常，明文传输，你是审核的话，你自己看着都恶心，所以大家挖洞的时候一定要尽可能扩大危害，上面这个漏洞危害可以这么写：给系统进行各种破坏操作，然后ip留成别人的，可以陷害其它用户，误导安全人员方向等。所以想明白危害很重要。我挖洞的经验就是功能点有限制突破限制这就是漏洞。不让做什么你能做什么他就是漏洞。

0x03 AI产品将会面对的漏洞