QuTwo推出受量子技术启发的AI模型压缩技术
2026年9月30日——在实现AI全面量子优势的道路上,QuTwo今日宣布了面向当今最广泛使用的AI模型的首批量子启发式压缩成果。
每家企业都需要最强大的AI,但很少有企业能按自己的方式运行它。最大的开放模型仅为了运行就需要昂贵、专用的AI芯片,这迫使大多数组织依赖少数美国实验室的闭源前沿模型。这意味着将敏感数据发送到自身控制之外,为每次查询付费,并把关键能力建立在竞争对手能以同等条件租用、且地缘政治紧张可能使其无法获得的技术之上。
QuTwo通过让最强大的开放模型小到足以在组织自有并控制的基础设施上运行,消除了这种依赖,同时降低成本并加快响应。
跨模型系列的最先进压缩成果模型压缩使AI模型变得更小,因此运行时需要的内存和算力更少,同时尽可能保留其原有能力。QuTwo构建了一条专有的模型压缩流水线,能够在标准推理和知识基准(GSM8K和MMLU)上持续实现90% 的压缩率,同时保留超过90% 的能力。它适用于不同规模和架构的大型模型,从稠密模型到参数超过两万亿的混合专家模型。此前大多数公司无法自行托管的模型,如今可以在它们已经拥有或能够购置的硬件上运行。
这种级别的压缩从多个方面改变了企业AI的经济性。它释放了那些因可用模型对现有基础设施而言过于庞大而从未落地的用例。它在保持准确率的同时降低了模型运行成本。它把响应时间降至最终用户或实时流程所需的水平。它还使模型小到足以部署在以前无法容纳它们的地方:本地环境、工厂车间、车辆中,或完全未联网的设备上。
“只有当你能够运行并拥有AI时,AI才会创造竞争优势。企业应当能够按照自己的方式,在它们控制的基础设施上运行最强大的模型。我们的专有模型压缩流水线正是对此的回答,”QuTwo创始人兼执行主席Peter Sarlin表示。
流水线内部该流水线包含两层。一套行业标准的因子分解、剪枝、修复和量化流程会让模型变小,但在此过程中会损失准确率。随后,QuTwo专有的量子启发式精度恢复层会挽回其中大部分损失,从而在相同大小下显著减少误差。
通俗地说,每一步都去除不同类型的冗余。因子分解把模型的大块拆分成更小、更廉价的片段。剪枝移除贡献最小的部分;在混合专家模型中,这意味着移除很少被使用的专家子网络。修复让剩余部分重新调整,从而再次协同工作;量化则用少得多的比特存储模型中的每个数值,在最压缩的模型中可低至两比特。随后,量子启发式层会纠正这些步骤引入的误差。
“标准压缩方法会缩小模型,但会让精度白白流失。我们的流水线把这份精度重新拿了回来,这就是为什么我们能够把模型缩小到原来大小的十分之一,同时保留模型原有能力的90% 以上,”QuTwo首席技术官Kuan Tan表示。
大规模验证这些结果来自在芬兰LUMI超级计算机上开展的大规模评估活动。QuTwo在七个模型系列(YOLO、Llama、Qwen、Gemma、DeepSeek、MiniMax和GLM)上压缩并测试了模型,涵盖视觉、稠密和混合专家架构,规模从70 MB到近5 TB。每个模型都在多个压缩级别下进行了测试,并且每个压缩模型都在相同的基准、硬件和设置下与原始完整规模模型进行评分对比。
在整个模型组合中,压缩74–80% 的模型保留了99% 的质量,而压缩90% 以上的模型保留了91–95%。两个模型展示了这在实践中的样子:一个是目前可用的最大开放模型之一,另一个是最难压缩的模型之一。
Qwen3.8-2.4T是一个拥有2.4万亿参数的混合专家模型,大小为4.89 TB,属于目前可用的最大开放模型之列。QuTwo将其压缩至363 GB,缩小了92.5%,同时保留了94.9% 的回答质量。
Qwen2.5-72B是一个稠密模型,其每个部分都会用于每次回答,这使得它在不损失质量的情况下更难被压缩。它从145 GB压缩至14 GB,即缩小了10.4倍,同时保留了90.5% 的知识得分和93.5% 的推理得分。
在多种架构上达到同样标准,表明这些结果可推广到许多模型架构和类别。借助QuTwo的压缩流水线,最强大的AI模型可以被企业按自己的方式拥有、运行和控制,无论是当下还是在整个量子转型过程中。


