开发者们逐渐认可了本地模型的经济性和安全性,将其作为云的替代方案或补充方案。苹果、微软和英伟达等公司推出的专用计算机旨在凭借能够在设备端运行更大规模、更强大的开源模型的机器,分得一杯羹。
为本地人工智能而构建的计算机满足那些既希望在本地计算机上构建人工智能应用,又希望设备易于使用的用户。总体而言,苹果的CPU性能更佳,但英伟达的GPU性能更优。苹果和英伟达联合推出的统一内存架构,也解决了内存传输瓶颈。

苹果推出2026最新台式电脑,包括搭载 M6 和 M5 Pro 处理器的 Mac mini(苹果功能最全面的 Mac),以及搭载 M5 Max 和 M5 Ultra 处理器的 Mac Studio(苹果最强大的 Mac)。Mac Studio 是专业工作流程和设备端 AI 的终极桌面解决方案。

英伟达的DGX Spark系列是紧凑型个人人工智能超级计算机,专为本地人工智能开发、原型设计和推理而设计。

Surface Laptop Ultra 是微软迄今为止性能最强大的 Surface 笔记本电脑,专为本地 AI 和 3D 图形处理而打造,搭载 NVIDIA RTX Spark 超级芯片。
更多相关资源请回顾《深度学习硬件指南》。
Strata
Strata 是一个本地推理引擎(类llama.cpp、Ollama),支持在本地游戏电脑上运行 Qwen3.8-Flash-Next(以及Qwen3.6-35B-A3B),适配NVIDIA、AMD、Intel主流显卡和Windows、Linux、Mac系统。

Qwen3.8-Flash-Next 是一个 1250 亿参数的开放权重模型,通常需要服务器运行。现在,只要内存和显存加起来有 32 GB 就足够启动了,专注大模型落地消费级硬件这一痛点。。









