6月1日，英伟达创举东谈主黄仁勋在台北GTC大会上用一句话给AI行业的新范式定了调——AI如故从大谈话模子阶段，平稳跨入粗略自主不雅察、推理、绸缪并调用器具的AgenticAI时期。

这场演讲的中枢信号不是某一款芯片或某一个模子，而是一个系统性判断：智能体正在透顶转变传统的计议式样，从云表数据中心到每个东谈主眼前的PC电脑，总共科技行业的软硬件架构王人需要深度重构。

黄仁勋为此拿出了一个遮蔽全链路的居品矩阵：云表的VeraRubin智能体超算系统、企业级的AgentToolkit器具包、端侧的RTXSpark个东谈主AI电脑、物理天下的Cosmos-3机器东谈主模子。总共居品指向归并个概念——让海量智能体以更低延长、更低资本在多样结尾高效开动。

因为在智能体时期，"算力即收入（ComputeisRevenue）"。

数据主权：智能体落地绕不开的安全底线

黄仁勋在演讲中反复强调安全性。他指出，智能体由模子、框架、器具、技巧和开动时组成，是一个解耦的分散式异构计议系统。当智能体越来越长远地罗致企业和个东谈主使命流——处理代码、分析数据、调用器具——数据安全和苦衷保护就成为绕不外去的前提。

为此，英伟达推出了开源的OpenShell开动时。黄仁勋在演讲中说："该Shell保护智能体罢免安全战略，同期保护苦衷、权益和身份。"OpenShell已被RedHat、Canonical和Microsoft等粗俗领受，何况不错在"任何云表、腹地以致配置端"开动。

这句"腹地以致配置端"值得细品。它意味着安全战略不再是云表的专属，智能体在用户的PC上开动时，相似受到苦衷和安全框架的保护。关于中国企业而言，这少许尤为关节。在《数据安全法》和《个东谈主信息保护法》的合规框架下，企业最有价值的数据——客户信息、来去纪录、告白投放恶果、里面策划数据——每每亦然合规条目最严格的数据。

而明略科技曾经明确指出这条阶梯的三个关节上风：第一是数据主权，不需要超大基模，不错部署边界小一些的开源模子，个东谈主数据和公司数据毋庸传到云表；第二是可审计，开源白盒式样，不错被监管和查验；第三是保护东谈主在组织中的价值与利益。

不错说，智能体要在企业场景中边界化落地，数据主权是必答题。

端侧模子：从"能不可跑"到"跑得好、跑得省"

演讲中最值得关心的趋势判断之一，是黄仁勋对端侧计议的重新界说。他说："40年后的今天，Microsoft和NVIDIA将重新发明新PC。"黄仁勋预言："此次对计议机的重塑，兴味不亚于将电话重塑为智高手机。"

端侧算力的爆发，让一个根人性问题浮出水面：有了众多的腹地硬件，谁来提供在端侧高效开动的模子？

明略科技如故给出了过程考据的谜底。

本年，明略科技分阶段开源了Mano-P——可在Mac腹地开动的GUI-VLA智能体模子。企业想用AI自动化处理明锐数据，但云表有计划条目把截图和文档上传到汉典劳动器，这在高合规场景是致命伤。Mano-P中枢处理的，恰是从"云表依赖"到"腹地自主"的关节跃迁。

Mano-P的72B版块在OSWorld专用模子榜上获取58.2%得手率，起初第二名13.2个百分点，位列全球第一。而其4B量化版块专为端侧设想，在AppleM4Pro上结束476tokens/s预填充、76tokens/s解码，峰值内存仅4.3GB。72B讲明本领上限，4B讲明泛泛可用——这恰是端侧模子从"本领可行"迈向"出产可用"的关节一步。

与Mano-P配合的，是明略科技开源的端侧推理加快框架Cider。AppleSilicon的M5芯片内置了专用的INT8TensorOps矩阵乘单元，但主流推理框架MLX只作念了权分量化，计议仍走FP16旅途——芯片里的INT8算力全程闲置。Cider通过W8A8全量化推理，买球赛的正规app径直调用M5芯片的INT8硬件指示，实测Prefill速率比MLX原生有计划晋升1.79倍，内存镌汰约40%，精度果真无损。

一组数据对比足以证实问题：在M5Pro上开动Qwen3-8B，MLX原生W8A16量化的Prefill时刻是221.3秒——以致比不量化的FP16（179.9秒）还慢。而CiderW8A8只需123.5秒，同期困惑度仅比FP16高0.03。权分量化省内存，激活量化省时刻——Cider补上的恰是后者。

黄仁勋在演讲中先容Nemotron3Ultra时强调，这款开源模子"让您全盘罗致并让它为您所用"。场合与明略科技一致：模子竞争的焦点正在从"谁更大"转向"谁更快、谁更省、谁更专"。

端侧基础步调：从模子到硬件的竣工闭环

黄仁勋的RTXSpark重新界说了PC，但端侧AI的基础步调不仅仅芯片和模子，还包括智能体之间如何合营、线下场景的数据如何被集会和清醒。

明略科技近期开源的Octo通过衔接东谈主、数字分身Agent、RuntimeAgent与种种外部器具，让Agent从孤立的个东谈主遵循助手走向可协同、可编排的组织级数字劳能源。Octo的MoA（MixtureofAgents）合营逻辑不仅仅配合，也有扞拒——不同Agent之间相互考据、相互挑战，最终产出比单个模子更可靠的限度。

黄仁勋在演讲中将CUDA-X库洞开为智能体的技巧器具时说："这些库提供给智能体后，它们的使用遵循以致迥殊了东谈主类。"Octo的念念路肖似——不是让单一模子包打寰宇，而是让一组专精的Agent协同作战。

在硬件端，明略科技5月13日推出的Octic，定位"随时助攻的会议心腹"。分辩于传统灌音笔"会青年景纪要"的逻辑，Octic把AI援助前置到会中场景——开会时，Agent及时判断对方证明的事实是否与公开数据一致、逻辑是否自洽，并即时辅导用户。基于分层牵挂架构，Octic络续积蓄用户数据，构建专属PersonalAI。

这就酿成了一个竣工的端侧AI居品矩阵：Mano-P负责端侧智能体的清醒和决策，Cider负责推理加快开释硬件算力，Octo负责多Agent合营和组织级编排，Octic负责线下场景的数据集会进口。四个居品——模子、引擎、合营汇集、硬件——通盘开源或已发布，组成了从"端侧模子"到"端侧基础步调"的竣工闭环。

从"看懂数据"到"拿到限度"

黄仁勋在演讲中说，在智能体时期，"Token如故成为了盈利和收入的单元"。当AI的价值用Token来计量时，每一次端侧推理省下的云表调用，王人是实确凿在的资本上风。

明略科技创举东谈主、CEO兼CTO吴明辉早在2025年就判断："改日通用模子可能会变成'收电费'的寰球基础步调，专科小模子会处理各个细分领域问题。"如今，这个判断正在被Mano-P、Cider、Octo和Octic逐一落地。

2025年全年，明略科技结束营收14.26亿元，经调节净利润结束扭亏为盈。AgenticServices业务收入打破1亿元，新增大客户中越过30%来自这一场合。吴明辉在2026年3月说："2025年，明略科技完成了一次关节转型——从匡助客户'看懂数据'，到匡助客户'拿到限度'。"

当黄仁勋站在台北的舞台上说"以前咱们启动行使身手进行点击和输入，当今只需向AI解释咱们的意图和需求"时，明略科技的端侧智能体Mano-P如故在Mac上作念到了这件事——看懂屏幕、清醒意图、操作软件、数据不出域。

端侧AI的时期正在到来。谁手里有过程考据的端侧模子和推理引擎买球赛的正规app，谁掌持着从模子到硬件的竣工居品矩阵，谁就领有在这个新赛谈上的起跑上风。