4118云顶集团

新闻中心

4118云顶集团专家对话央视：一句话“骗”过AI，小心“提醒词注入”攻击

宣布时间：2026-09-17

浏览次数：2168

分享：

在2026年国家网络清静宣传周主会场的网络清静手艺应用体验区，一种被称为“提醒词注入”的网络攻击危害受到普遍关注。那么，什么是“提醒词注入”网络攻击？有何威胁，又该怎样提防呢？对此，4118云顶集团副总裁唐宁接受央视采访。

这类“提醒词注入”攻击可以通过一句话、一个文件、一张图片或一段视频“诱骗”大模子，对小我私家而言可能输出违法违规内容，对政企而言会造成内部文档和焦点数据泄露。

虚伪信息让AI误把恶意指令当可信输入

“提醒词注入”的实质，就是攻击者通过伪造虚伪提醒信息，让大模子误把恶意指令看成可信输入。

4118云顶集团副总裁唐宁：“提醒词注入”就是全心构建伪造，好比仿造一个key（密钥），内里的证书可能跟正常的一样，通过很是巧妙的方法获取进入AI的权限，进去之后，拿到了权限，可以拿数据，干一些坏事，好比天生一些有护栏之外的视频，或者文字、图片。它实质上是进去拿权限，突破大模子的清静护栏，来做种种各样恶意的事情。

“提醒词注入”并不是简单的攻击手法，而是一整套“战术”。有的攻击者让AI“饰演”另一个角色，用新指令盖过已设定的规则；有的攻击者把恶意指令提前藏进网页、邮件、文档里，AI一读取就中招。

“提醒词注入”攻击主要有哪些类型？

凭证攻击者与目的系统的交互关系，“提醒词注入”攻击主要划分为以下几种类型：

● 越狱型攻击：攻击者通过对话直接提交恶意指令，意图突破模子内置的清静护栏。典范模式包括身份笼罩、情境宽免等。

● 数据投毒型攻击：攻击者不直接与目的模子对话，而是将恶意指令预先埋设在模子一定会读取的外部数据源中。常见投毒载体包括网页隐藏元素、邮件署名、数据库备注字段等。

● 渐进诱导型攻击：攻击者将完整的恶意指令拆解成多个自力看似无害的子使命，疏散在多轮对话中逐步交付。

● 认知诱骗型攻击：攻击者通过付与模子特定角色、唤起共情、制造紧迫场景，让模子自动放弃防御。

● 逃逸攻击：攻击者通过对恶意指令举行形式变换，使其逃过基于要害词的浅层过滤，同时包管模子仍能明确其真实意图。

面临形式多样的提醒词注入威胁，仅依赖大模子自身内置清静护栏保存显着短板，模子原生防护容易被种种变形、拆解的恶意指令绕过。4118云顶集团建议政企用户接纳专业的大模子清静围栏产品，将其安排于营业系统和大模子之间，充当AI应用的“清静守门人”。

4118云顶集团多模态大模子清静网关

今年3月，4118云顶集团正式推出多模态大模子清静网关，产品跳出古板要害词过滤局限，依托语义与行为特征剖析，可识别越狱伪装、认知诱骗、编码逃逸等种种提醒词注入手段。无论是用户直接输入的恶意话术，照旧潜藏在文档、网页、邮件、音频、视频中的隐藏指令，均可提前阻挡，阻止恶意指令下发至大模子。

针对渐进诱导攻击，产品可以完整留存会话上下文，综合多轮对话语义判别危害，阻止攻击者拆分指令逐步诱导模子突破限制。同时对外部导入文件做前置剖析，扫除文件内潜在的注入危害，抵御数据投毒类攻击。在输出侧同步开展审计管控，既阻挡违规内容天生，也提防企业内部资料、密钥等焦点敏感数据被大模子外泄，完成输入?模子?输出的闭环清静防护。

现在，产品已落地政府、金融、医疗、教育等多个行业，在江苏某市人工智能OPC一体化服务平台项目中，首次完成了公有云场景下的软件交付，企业无需改动原有大模子，即可快速接入防护，补齐大模子原生清静短板，帮行业稳稳兜住大模子与AI应用的清静底线。

*部分内容泉源于央视新闻客户端

上一篇 9月19日相聚CCSC！4118云顶集团邀您共探AI清静立异与生长

下一篇 4118云顶集团专家接受灼烁网采访：留神！随处可见LED大屏，也会成为攻击工具

最新运动

产品动态突破算力黑盒，界说智算界线！4118云顶集团AI网关正式宣布

2026-10-16

连忙审查

产品动态 4118云顶集团超融合：已位列市场第二

2026-10-16

连忙审查

推荐新闻

4118云顶集团李雪莹：“行动力”是危害的要害变量，智能体清静须构建系统化能力

审查详情

大模子怎样从“能用”走向“好用”？灼烁网专访李雪莹：须筑牢清静防护系统

审查详情

4118云顶集团专家对话央视：一句话“骗”过AI，小心“提醒词注入”攻击

审查详情

4118云顶集团：以危害上限为判断依据，智能体清静是让所有行为都可怀抱、可控制

审查详情

4118云顶集团宣布AI Agent清静防护计划！

审查详情

推荐产品

解决计划

在线咨询

销售咨询>
手艺支持>
云服务支持>
售前支持>

在线留言

手艺支持>
售前支持>
培训营业>
清静服务>

客户服务热线

400-777-0777
7*24小时服务

联系邮箱

servicing@topsec.com.cn

扫码关注