AI安全防线再遭突破：心理诱导让Claude主动输出违禁内容

• 发表时间：2026-05-07 13:50:05
• 来源：

4RSvYgSuIBhtech.huanqiu***articleAI安全防线再遭突破：心理诱导让Claude主动输出违禁内容/e3pmh164r/e3pmtmdvg<article><section data-type="rtext"><p>【环球网科技综合报道】5月7日消息，据The Verge报道，最新安全研究显示，主打安全特性的 Anthropic Claude 人工智能模型，可通过心理施压、刻意奉承等非技术手段突破安全防线，主动输出恶意代码、危险物品制作教程等违禁信息，暴露出人工智能模型在心理层面的安全漏洞。</p><p>此次测试由人工智能红队测试公司 Mindgard 开展，针对 Claude Sonnet 4.5 版本进行。测试过程中，研究人员未使用违禁词汇，也未直接索要非法内容，仅通过尊重吹捧、佯装好奇、轻微心理操控等审讯人员常用的诱导手段，逐步让模型对自身内容限制规则产生自我怀疑，进而不断突破安全边界。</p><p><i class="pic-con"></p><p>Mindgard 创始人兼首席科学官彼得・加拉根表示，此次攻击本质是利用 Claude 乐于助人、顺从协作的特性实施心理操控，印证人工智能模型风险暴露面不仅存在于技术层面，更存在于心理层面。这类对话式心理攻击极难防御，且并非 Claude 独有，其他聊天机器人也易遭遇同类漏洞攻破，随着 AI 智能体普及，依托社会心理操控的攻击手段将愈发常见。</p> <adv-loader __attr__inner="7004636" __attr__style="width: auto;position: relative;float: left;border: 1px solid #ebebeb; padding: 20px;overflow: hidden;margin: 10px 30px 40px 0;"></adv-loader> <p>值得关注的是，Anthropic 长期以 AI 安全为核心优势，在过往多项红队安全测试中表现优异，但此次测试暴露其安全流程存在疏漏。Mindgard 于 4 月中旬按该公司漏洞披露政策上报发现后，仅收到模板化回复，且被误判为账号封禁咨询，截至相关时间节点仍未获正式回应。（纯钧）</p></section><img src='/image/153844-0' alt='AI安全防线再遭突破：心理诱导让Claude主动输出违禁内容'> <div class="botsxp"> <div class="fl"> <p> <a href="/detail/17946.html"> 如果战争爆发，中国普通老百姓枪都不会打该怎样自卫？</a></p> <p> <a href="/detail/17367.html"> 为什么人们通常不相信漂亮女孩是一个工程师？</a> </p> </div> <div class="fr"> <div id="bdshare" class="bdshare_t bds_tools_24 get-codes-bdshare"><a class="bds_qzone"></a><a class="bds_tsina"></a><a class="bds_tqq"></a><a class="bds_renren"></a><a class="bds_t163"></a><span class="bds_more"></span></div> </div> </div> </div> <div class="main_bor main_bort"> <div class="ktit">推荐资讯</div> <ul class="pronewstj"> <li><span>2025-06-19 08:20:12</span><a href="/detail/17993.html" title="曼德拉是南非的罪人吗？">曼德拉是南非的罪人吗？</a></li> <li><span>2025-06-19 07:40:10</span><a href="/detail/17640.html" title="2025 年 6 月，Rust 在 GUI 方面有何大的进展? 你最看好哪个框架?">2025 年 6 月，Rust 在 GUI 方面有何大的进展? 你最看好哪个框架?</a></li> <li><span>2025-06-19 08:10:11</span><a href="/detail/17892.html" title="基因好是一种怎样的体验？">基因好是一种怎样的体验？</a></li> <li><span>2025-06-19 08:15:12</span><a href="/detail/17960.html" title="Golang和J***a到底怎么选?">Golang和J***a到底怎么选?</a></li> <li><span>2025-06-19 07:50:10</span><a href="/detail/17738.html" title="***拍大尺度片子时摄影师不会看光吗？">***拍大尺度片子时摄影师不会看光吗？</a></li> <li><span>2025-06-19 07:25:10</span><a href="/detail/17482.html" title="为什么中国企业几乎没有输出先进的管理理论？">为什么中国企业几乎没有输出先进的管理理论？</a></li> <li><span>2025-06-19 08:05:11</span><a href="/detail/17877.html" title="国外(GoDaddy)注册的域名如何在国内备案?">国外(GoDaddy)注册的域名如何在国内备案?</a></li> <li><span>2025-06-19 08:15:12</span><a href="/detail/17963.html" title="铁路12306是谁研发的?">铁路12306是谁研发的?</a></li> <li><span>2025-06-19 07:05:10</span><a href="/detail/17313.html" title="瑜伽体式的乐趣是什么？">瑜伽体式的乐趣是什么？</a></li> <li><span>2025-06-19 06:45:09</span><a href="/detail/17126.html" title="现在的中国打的过美国吗？">现在的中国打的过美国吗？</a></li> </ul> </div> <div class="main_bor main_bort"> <div class="ktit">推荐产品</div> <div class="main_pd"> <ul class="prolist"> <li> <a href="/detail/17218.html" class="pic"><img src='/public/tupian/87.jpeg' alt="手机的运行内存真的有必要上16GB吗？"></a> <a href="/detail/17218.html" class="bt">手机的运行内存真的有必要上16GB吗？</a> <div class="info">这是10年谷歌退出中国的影响延续。 我其实不愿意承认，一个</div> </li> <li> <a href="/detail/17390.html" class="pic"><img src='/public/tupian/35.jpeg' alt="Golang和J***a到底怎么选?"></a> <a href="/detail/17390.html" class="bt">Golang和J***a到底怎么选?</a> <div class="info">就不想用rust吗？局面打开，j***a写一堆class太臃</div> </li> <li> <a href="/detail/17160.html" class="pic"><img src='/public/tupian/26.jpeg' alt="超级喜欢穿短裙正常吗?"></a> <a href="/detail/17160.html" class="bt">超级喜欢穿短裙正常吗?</a> <div class="info">我也不知道我的短不短，从以前的 45cm 左右到了现在 40</div> </li> <li> <a href="/detail/17907.html" class="pic"><img src='/public/tupian/81.jpeg' alt="为什么现在这么多人以为不生孩子就可以过得好？"></a> <a href="/detail/17907.html" class="bt">为什么现在这么多人以为不生孩子就可以过得好？</a> <div class="info">我回答这个问题，可能会有点偏颇。 我现在好奇的并非是：不生</div> </li> </ul> </div> </div> </div> <div class="main_xiao fl"> <div class="main_bor"> <div class="btit">新闻动态</div> <ul class="procate"> <li class='on'><a class="biglink" href="/detail/17292.html" title="怎么才能让孩子在不牺牲睡眠和运动时间的前提下，成绩名列前茅？">怎么才能让孩子在不牺牲睡眠和运动时间的前提下，成绩名列前茅？</a> </li> <li class='on'><a class="biglink" href="/detail/17407.html" title="新手想要打好篮球，主要练运球还是投篮？">新手想要打好篮球，主要练运球还是投篮？</a> </li> <li class='on'><a class="biglink" href="/detail/17984.html" title="为什么bilibili后端要用go来写？">为什么bilibili后端要用go来写？</a> </li> <li class='on'><a class="biglink" href="/detail/17096.html" title="男子蛋糕被小女孩踩坏，上前理论还被其家长辱骂殴打，如果发生这种事情有比***里当事人更好的处理方法吗？">男子蛋糕被小女孩踩坏，上前理论还被其家长辱骂殴打，如果发生这种事情有比***里当事人更好的处理方法吗？</a> </li> </ul> </div> <div class="main_bor main_bort"> <div class="btit">最新资讯</div> <ul class="hotzxxun"> <li><a href="/detail/17887.html">小米汽车官方解释了刹车盘生锈属于正常现象，并提供了两种除锈功能，这些措施是否足够有效？</a></li> <li><a href="/detail/17932.html">为什么女生要做大部分家务？</a></li> <li><a href="/detail/17554.html">为什么年轻的肉体让人沉迷？</a></li> <li><a href="/detail/17519.html">如何评价MiniMax推出的全球首个开源大规模混合架构的推理模型MiniMax-M1，其有何技术优势？</a></li> <li><a href="/detail/17816.html">为什么TVB的法政剧拍的比内地的法政剧更有吸引力？</a></li> <li><a href="/detail/17500.html">如何看待《剑星》已登顶 Steam 全球热销榜？</a></li> <li><a href="/detail/17843.html">使用J***a开发简单CAD软件？</a></li> <li><a href="/detail/17623.html">女朋友是体育生是一种什么体验？</a></li> <li><a href="/detail/17594.html">***如古代长城用的是C140混凝土，那千百年下来会完整的留存至今还是损坏的更加严重？</a></li> </ul> </div> <div class="main_bor main_bort"> <div class="btit">文章排行</div> <ul class="hotzxxun"> <li><a href="/detail/17221.html">2025年，歼16与美军机50分钟缠斗，为什么知乎上没有任何消息？</a></li> <li><a href="/detail/17303.html">蜜雪冰城香港门店被通报「产品大肠菌群超标 70%」，哪些环节可能导致大肠菌群超标？会对身体有哪些危害？</a></li> <li><a href="/detail/17004.html">56 岁白岩松踢球摔倒久不能起，他目前情况如何？踢球时需要注意什么？</a></li> <li><a href="/detail/17956.html">现在的中国打的过美国吗？</a></li> <li><a href="/detail/17207.html">女婿不喜欢去丈母娘家的原因是什么？</a></li> <li><a href="/detail/17810.html">国产CAD软件能否替代AutoCAD？</a></li> <li><a href="/detail/17553.html">夸克网盘有可能超越百度网盘吗？</a></li> <li><a href="/detail/17125.html">iOS 26 的新设计被吐槽丑，苹果在设计更新时考虑了哪些因素？你对这一设计都有哪些评价？</a></li> <li><a href="/detail/17614.html">A股牛市能持续多久？</a></li> </ul> </div> </div> </div> </section> <section class="footnav"> <div class="container"> <div class="linklink">友情链接： </div> </div> </section> <footer> <div class="container"> <div class="logo"><img src="/template/moban111/picture/logo2.png" alt="营销型灭火器消防器材设备网站模板"></div> <ul class="copy"> <ul class="copy"> <li>Copyright © 2012-2023 某某博客 版权所有  </li> <li>手机：13988888888  电话：010-88888888</li> <li>备案:<a href="https://beian.miit.gov.cn/" rel="nofollow" target="_blank">粤IP*******</a></li> </ul> </ul> <div class="onetext">重庆某某是一家专业生产灭火器、干冰灭火器、消防灌装设备、全自动灭火器等泥浆处理设备的生产厂家，业务遍布全国，欢迎来电咨询! </div> </div> </footer> <div class="backtop"></div> <!-- 应用插件标签 start --> <!-- 应用插件标签 end --> </body> </html>