随着人工智能的普及激增，2026年初，ESET网络安全研究人员和分析师试图对人工智能在未来12个月内如何塑造威胁格局做出多项预测。许多预测聚焦于人工智能代理的快速采用、公共人工智能模型的日益普及、人工智能辅助网络犯罪的出现，以及人工智能在移动威胁中日益扩大的作用。
今年进行到六个月时，现有数据显示许多预测是准确的，并且已经完全或部分实现。组织持续以惊人的速度实施人工智能以跟上竞争对手，而安全则被忽视，这为攻击者创造了新的机遇，并在组织环境中引入了复杂的安全挑战。
文章要点
- 大多数组织中，人工智能的采用速度持续超过对人工智能的安全控制。
- 影子人工智能依然是一个重大风险，企业常常缺乏关于授权和非法AI使用的政策。
- 人工智能，尤其是自主人工智能代理，正在通过复杂的集成和云连接，扩展已知领域，开启全新的攻击面。
- 随着组织部署第三方代理、插件和模型，人工智能供应链风险正在增长。
- 人工智能显著提升了低复杂度网络攻击以及钓鱼和诈骗的质量和数量。
人工智能代理的安全性
我们预计2026年AI智能体将深度嵌入企业和云基础设施，尽管其安全性仍然令人担忧地薄弱。到目前为止，这一预测已被证明是正确的。
组织仍在为人工智能代理在其架构中定位以及如何安全管理其与云服务连接的基本问题而挣扎。在追求效率和竞争压力的过程中，许多公司重演互联网和社交媒体早期的错误，优先考虑便利性而非安全。
根据基于2026年2月至3月收集的数据，ESET中小企业网络准备指数2026年，73%的受访企业正在整合人工智能技术。然而，40%的应用没有政策限制AI应用在批准流程或平台之外的使用，这为影子AI打开了增加风险的机会。
图片1。 暗影人工智能的使用。ESET 2026年中小企业网络准备指数
我们还正确预见到，AI的广泛采用将显著扩大攻击面。AI代理以复杂且常常不可预测的方式与系统交互，即使是轻微的配置错误也可能导致严重的数据泄露或未经授权的访问。
Forrester 2026年发布的人工智能软件供应链风险榜单被列为顶级网络安全威胁之一。
我们对AI市场和代理仓库日益流行的预测也非常准确。这些生态系统带来了额外的安全挑战，因为恶意行为者可以克隆或微妙修改合法的人工智能代理，使检测和信任管理变得困难。
例如，2026年6月中旬，JetBrains收到报告称，约15个第三方插件冒充合法AI工具，实际上是为了窃取用户配置的AI提供商API密钥而设计的。正如开发者利用JetBrains及其他工具简化和加速工作一样，个人用户创建和改进AI代理也可能带来类似风险。
就人工智能而言，其中一种风险途径可能通过攻击者滥用人工智能技能（插件或辅助插件）来扩展功能。最新的ESET威胁报告H1 2026显示，在2026年3月至5月期间，ESET分析了来自热门仓库的90万个人工智能技能，发现有2.5万个技能存在可疑，超过3000个是恶意的。
解决AI技能中的威胁引导是ESET部署AI时代实用防护措施的起点。
对这种威胁类型的即时缓解带来了我们的ESET AI技能检查器，该系统在安装前扫描公开可用的AI技能。它识别恶意活动、不必要的权限、风险行为模式和可疑功能。*ESET技能检查器也是上述遥测数据的来源。
模型安全性
此外，模型仓库又是另一种攻击面，正如多个OpenAI模型在内部测试中突破并攻击开源AI平台Hugging Face所展示的那样。
预测到2026年公开可用的AI模型生态系统将持续扩展，全球将有数百万模型可用。例如，Hugging Face上的开源生态系统在2024年10月至2025年9月间从一百万个公共模型增长到两百万个。然而，许多模型以开放权重包的形式分发，内部逻辑未知，训练数据透明度有限。
我们预测，组织将越来越多地将这些模型部署为黑箱，往往在时间压力下，且缺乏足够的安全验证和治理。这种做法非常适合将隐藏漏洞、隐私问题和合规风险引入企业环境。
缺乏透明度也加剧了供应链风险。恶意或被攻破的模型可能嵌入更大规模的人工智能工作流程中，可能绕过传统的安全控制。此外，原本安全的模型也可能因有害的更新或依赖逐渐改变代理行为而成为威胁。因此，行业面临越来越多利用这些弱点的攻击，迫使组织重新考虑如何建立信任和验证AI组件。
2026年中期的最新数据已经证实了我们的预测;根据6月发布的DigiCert报告，美国、英国和澳大利亚78%的组织要么经历过与人工智能相关的安全事件，要么发现了与人工智能相关的漏洞。与此同时，组织依然以快速的速度部署人工智能技术。总体来看，75%的人表示自2026年初以来部署了四个或以上的人工智能工具，35%的人表示部署了十个以上。
视野的缺失同样令人担忧。近一半（47%）的受访组织承认，他们无法完全追溯AI生成决策的模型和数据来源。虽然AI风险导向短期内不会消失，但即使是小型企业也有机会从强大的韧性构建工具中受益，如托管检测与响应（MDR）。它结合了自动化与人类专业知识，能够快速检测和响应新威胁，无需维护内部安全专家。
ESET托管检测与响应（MDR）是一项全天候24小时的网络安全服务，结合了人工智能驱动的自动化、人类专业知识以及ESET的威胁情报，持续监控、检测、调查并响应安全事件，包括与人工智能使用相关的事件。
人工智能的恶意使用
我们预计AI直接用于生成恶意软件和脚本的做法将保持有限且具体，而AI向量化对社会工程攻击的影响最显著。
到2026年夏季，也就是ESET发现AI驱动的勒索软件PromptLock一年后，运行时主动使用AI的恶意软件样本仍然罕见。
正如预期的那样，最大的挑战是高质量AI生成的社交工程内容持续激增。深度伪造、钓鱼邮件和恶意广告变得越来越有说服力，使即使是技术水平较低的攻击者也能以低成本实施大规模诈骗。
一个明显的例子是ClickFix，这是一种社会工程技术，它向受害者展示一个虚假的问题，然后提出所谓的解决方案。所谓的“修复”其实是一套指令，诱使用户在自己的设备上执行恶意命令或脚本，最终导致恶意软件感染。
根据2026年ESET威胁报告H1,2025年12月中旬至5月底期间，ESET遥测检测到的ClickFix样本比2025年6月至12月中旬同期多出108%。这一增长部分得益于网络犯罪分子利用人工智能工具创建逼真的网站、逼真的错误信息，甚至假装的AI故障排除聊天机器人。
图片2。 一个滥用Anthropic的Artifact页面域名传播ClickFix指令的网页
人工智能威胁与智能手机
2026年初，我们预计越来越多的Android恶意软件家族利用生成式AI工具。研究人员仅用几周时间就证实了这一趋势。
2026年2月，ESET发布了关于PromptSpy的研究，这是首个将生成式人工智能融入执行流程以增强持久性的Android恶意软件家族。
我们还预测，基于NFC的诈骗行为将增加，这些诈骗旨在窃取NFC数据并制作受害者支付卡的功能副本。我们预期攻击者会用AI生成的内容和工具来增强这些操作。
ESET遥测显示，2023年至2025年间NFC诈骗案件数量呈动态增长，但2026年上半年略有下降。尽管如此，NFC相关威胁的演变仍在继续，正如ESET研究人员发现的NGate恶意软件新版本所展示的那样，该恶意软件滥用了合法的Android应用HandyPay。证据表明，威胁行为者在特洛伊改造应用时很可能使用了生成式人工智能，包括在操作日志中发现的AI特征表情符号。
人工智能驱动的在线机器人作为威胁
我们预计，2026年人工智能驱动的在线机器人将达到新的复杂水平。这些机器人很可能能够生成极具说服力的假评论，冒充真实用户，创建逼真的社交媒体账号，从而操控招聘流程、支持欺诈活动、实施敲诈计划并影响公众舆论。
最近消息证实了这一预测，因为根据来自印度、意大利、以色列和美国四所大学的研究人员进行的研究，人工智能聊天机器人在建立骗局信任方面已超过人类。
结论
截至2026年中期，许多关于人工智能的主要安全预测已被证明是正确的。人工智能加速了商业创新，但也在扩大攻击面，创造新的入侵途径，增加软件供应链风险，并推动复杂的社会工程活动。虽然真正自主的AI驱动恶意软件仍然不常见，但威胁行为者正成功利用AI提升其运营的规模、质量和效能。
研究结果凸显了人工智能采用与治理之间日益扩大的差距。随着组织持续部署人工智能，更强的安全控制、可视化、模型验证和风险管理实践将至关重要。
常见问题解答（FAQs）
什么是暗影人工智能？
影子人工智能指的是使用在组织批准的政策、治理流程或安全控制之外运行的人工智能工具、应用或服务。
为什么人工智能代理被视为安全风险？
AI代理通常连接工具、内部数据源、内部和外部系统、API和云服务。配置不当、权限过多或集成被攻破，可能导致未经授权的访问、数据泄露以及攻击面的扩大。
人工智能供应链风险有哪些？
当组织依赖可能包含漏洞、恶意代码或未经过充分审核的隐藏功能的第三方模型、插件、数据集或代理时，就会出现AI供应链风险。
AI生成的恶意软件是否变得普遍？
还没有。虽然研究人员已经识别出利用人工智能能力的恶意软件家族，但人工智能在网络犯罪中最显著的影响仍是社会工程学、钓鱼、欺诈以及对不断扩大的攻击面的滥用，而非完全自主的恶意软件。
为什么人工智能透明度重要？
组织需要了解哪些模型产生了特定输出，使用了哪些数据，以及决策是如何做出的。缺乏透明度，安全事件、合规风险和偏见结果将难以识别和管理。
攻击者如何利用人工智能进行网络钓鱼活动？
攻击者利用人工智能制造更具说服力的电子邮件、假冒网站、深度伪造、聊天机器人、广告和社交工程内容。这降低了成本，并支持了大规模活动，提供高度个性化的信息。
组织在保障AI部署时应优先考虑哪些事项？
组织应制定清晰且易懂的AI治理政策，限制影子AI，评估第三方模型和代理，实施访问控制，监控AI活动，验证AI输出，并保持其AI生态系统的可见性。