Some links on this page are affiliate links: if you buy through them we may earn a commission, at no extra cost to you.
结论先说:技嘉 AI TOP ATOM 是一台面向本地大模型开发与推理的 1 升 AI 工作站,而不是普通迷你电脑或游戏主机。它的核心优势是 NVIDIA GB10 Grace Blackwell Superchip、128GB 统一内存、最高 1 PFLOP FP4 AI 算力和 ConnectX-7 高速互联;核心限制则是内存不可升级、Arm 软件兼容性需要验证、扩展性有限,而且“支持 200B”不等于所有 200B 模型都能快速运行。
如果你需要长期运行中大型量化模型、RAG、边缘推理或隐私敏感的本地 AI 服务,AI TOP ATOM 有明确价值。只运行 7B/8B 小模型、主要玩游戏,或者需要大规模训练和可升级显卡的用户,应优先考虑更便宜的设备、自组装 RTX 工作站或云 GPU。
AI TOP ATOM 到底是什么
AI TOP ATOM 基于 NVIDIA GB10 Grace Blackwell Superchip,将 20 核 Arm CPU(10 个 Cortex-X925 与 10 个 Cortex-A725)和 GPU 集成在同一平台,并共享 128GB LPDDR5x 统一内存。与普通 Intel/AMD 迷你 PC 加独立显卡的方案不同,它从设计之初就是一个桌面端本地 AI 节点。
The Tool Desk
Outbyte Driver Updater FREEScan for outdated or missing drivers - takes under a minuteDriver Scan →Outbyte PC Repair FREERepair Windows errors before they cause bigger problemsFix Now →统一内存的意义在于,模型权重、KV cache、运行时数据和系统任务可以共享同一大容量内存池。它没有传统独立显卡那样受限于较小显存,因此更适合运行大型量化模型;代价是这 128GB 不能像台式机内存一样后期加装。
#1 Best Overall
- [AMD Ryzen 3 Pro 7330U, which is more powerful than the N150/3500U] - ACEMAGIC Mini PC is powered by Latest Processor AMD Ryzen 7330U(4Cores/8Threads, BASE 2.3GHz, MAX TO 4.3GHz) , delivers more than 28% higher performance than N150(Reference from PassMark). Performance at least +40%, GPU at least +23% compared with the previous CPU - N95/N100/3300U. Remarkably power-efficient at 28W, it outperforms its predecessors, even rivaling some mainstream mobile processors from the past
- [K1 Mini Computer - Meet Your Second PC] - Next-Gen Light Office Mini PC comes pre-installed with the Win11 Pro system, which is intelligent, secure, and efficient. Versatile Connectivity: 10M/100M/1000M RJ45 Gigabit Ethernet Port *1, USB3.2 Type-A Port*6, USB3.2 Gen2 Type-C (10Gbps Data Transfer+DP1.4)×1, HDMI 2.0*1, DP 1.4*1, DC IN ×1, 3.5mm Audio Jack*1. All-New Built-in Power Supply devise Only one cable is needed for power supply, no external adapter is required, keep the desktop neat and clean. Whether it’s for business, family entertainment, school, research, or social media, this mini PC has your needs covered!
- [Large Storage Capacity, Easy Expansion] - Mini Computer K1 is equipped with a 16GB DDR4 and a 256GB M.2 2280 SSD, which allows the small PC to run several high performance operations simultaneously. The Ryzen micro desktop offers fast data reading, writing, and storage capabilities, ensuring smooth application running. If you want more storage space, you can also add M.2 NVMe PCIe 3.0 SSD or M.2 SATA SSD to expand the memory upgrade storage to 2TB. This means you can easily store and access a large amount of files, media, and data
- [Sleek Chassis & High efficiency cooling system] - The portable mini pc features a Silver-toned Body and can be stored in a bag and carried with you at any time, ideal for business trips. Save space by super mini size(5x5x1.6 inch) and a VESA mount to install it on wall or monitors. Advanced Axial Fan & Internal Cooling Technology are practically silent at light load and even under load, the fans remain fairly quiet. Minimal or inaudible fan noise is perfect for concentrating on the task at hand!
- [WiFi 5&Bluetooth 4.2-Simply Compatible]- ACE Win11 Small PC have reliable and stable wireless connection, opening websites in seconds, watching movies without buffering and downloading files smoothly. Built-in Bluetooth enables you to connect multiple wireless devices such as mice, keyboard, headset, monitoring equipment, printer, monitor, TV and so on. High-speed wireless connection technology, reliable and efficient transmission speed, providing a faster internet experience for browsing and streaming
技嘉官方定位包括本地模型开发、推理、RAG、机器学习和边缘 AI。它也不是“加了一块 NPU 的 AI PC”,更不是可以替代多卡数据中心服务器的训练平台。官方产品页将其标为最高 1 PFLOP FP4 AI 性能,并称单机支持最高 200B 参数模型。
规格与三个型号怎么选
| 项目 | 规格 |
|---|---|
| SoC | NVIDIA GB10 Grace Blackwell Superchip |
| CPU | 20 核 Arm:10× Cortex-X925、10× Cortex-A725 |
| AI 算力 | 最高 1 PFLOP FP4,厂商标称 |
| 内存 | 128GB LPDDR5x 统一内存,256-bit,273GB/s |
| SSD | 1TB PCIe 4.0、4TB PCIe 4.0 或 4TB PCIe 5.0,视 SKU 而定 |
| 网络 | 10GbE、Wi-Fi 7、Bluetooth 5.4、ConnectX-7 |
| 接口 | HDMI 2.1a、3 个 USB-C 20Gbps,另有 1 个支持 PD 输入的 USB-C |
| 电源与尺寸 | 240W 外置适配器;150×150×50.5mm,约 1L、1.2kg |
三个主要型号的差异集中在 SSD:
- ATAGB10-9002:1TB PCIe 4.0,适合模型数量较少、主要使用外接存储或预算更紧的用户。
- ATAGB10-9001:4TB PCIe 4.0,容量充足,但没有 Gen5 的存储带宽优势。
- ATAGB10-9000:4TB PCIe 5.0,适合需要放置多个模型、数据集、容器和缓存,或会使用高吞吐存储工作负载的人。
不同地区的 SKU、SSD 品牌、外观、电源线和库存可能不同,购买时应以当地经销商及官方规格页为准。技嘉官方页面没有提供统一公开价格,而是引导用户查询经销商;价格、税费、保修和库存应在下单前重新确认。
“1 PFLOP”和“支持 200B”应该怎样理解
1 PFLOP 是最高 FP4 AI 运算能力,不是通用桌面性能。它不等于 FP16、BF16 或 FP32 吞吐,也不等于游戏帧率,更不意味着任何模型都能获得每秒 1 PFLOP 的有效速度。真实表现会受到模型架构、量化格式、上下文长度、批量大小、内存带宽、算子支持和软件栈影响。
What’s actually slowing this PC down?
Pick the symptom - the matching free tool is one click away.
同样,官方所说的“最高 200B”应理解为平台兼容或部署能力,不是“所有 200B 模型都能流畅运行”。权重精度、量化方式、KV cache 和上下文长度都会改变内存需求;能加载也不等于响应速度理想,更不等于可以从头训练该规模模型。
技嘉还宣称两台设备通过 ConnectX-7 互联后可支持最高 405B 参数规模。这是多机配置,需要额外高速线缆、网络配置、软件支持、电力和散热。官方明确表示 AI TOP QSFP Cable 需另购。StorageReview 中文评测中出现过“200亿参数”的翻译,和官方英文的 200B 不一致;这里应按官方写法理解为2000 亿参数,而不是 200 亿。
Rank #2
- SPACE-SAVING PERFORMANCE FOR HOME & OFFICE – The Dell OptiPlex 3070 Micro delivers dependable computing power in a compact footprint, making it ideal for desks with limited space or clean, minimal workstations.
- RELIABLE INTEL PROCESSING POWER – Equipped with an Intel Core i5 9th Gen Hexa-Core processor (i5-9500), this system offers smooth performance for everyday multitasking, web browsing, and business productivity.
- CONFIGURED FOR EFFICIENCY – Comes with 8GB DDR4 RAM and a 250GB SSD, delivering fast load times, responsive multitasking, and ample storage for files and applications.
- WINDOWS 11 PRO & WIRELESS CONNECTIVITY – Pre-installed with Windows 11 Pro, offering advanced features and security for business or home use. Includes a WiFi and Bluetooth adapter for convenient wireless connectivity.
- VERSATILE & ENERGY-EFFICIENT DESIGN – The ultra-small form factor is ideal for space-conscious users and supports a variety of mounting and placement options. Its low power usage and quiet operation make it perfect for professional environments.
公开 vLLM 测试:大模型能跑,但不要把吞吐当作单用户速度
StorageReview 使用 vLLM Online Serving,测试了 Equal ISL/OSL、Prefill Heavy 和 Decode Heavy 场景。以下是其公开结果范围,属于第三方评测数据,并非本文亲自测试:
- GPT-OSS-120B:Equal ISL/OSL 约 60.71–649.62 tok/s;Prefill Heavy 约 304.63–2,771.38 tok/s;Decode Heavy 约 47.01–299.41 tok/s。
- GPT-OSS-20B:Equal ISL/OSL 约 641.73–1,587.62 tok/s;Prefill Heavy 约 1,650.32–4,401.27 tok/s;Decode Heavy 约 63.18–688.44 tok/s。
- Qwen3 Coder 30B A3B:Equal ISL/OSL 约 101.27–1,251.84 tok/s;Prefill Heavy 约 428.66–2,026.94 tok/s;Decode Heavy 约 61.18–482.73 tok/s。
- Llama 3.1 8B:FP4 Equal ISL/OSL 约 69.84–2,756.91 tok/s,Decode Heavy 约 48.92–575.84 tok/s;FP8 Equal ISL/OSL 约 54.12–2,314.87 tok/s,Decode Heavy 约 32.88–522.41 tok/s。
这些数字是服务端吞吐,不是单个用户必然看到的生成速度。批量大小会显著影响结果,Equal、Prefill 和 Decode 也代表不同工作负载;120B 与 8B 的数据不能直接横向比较。详细方法和对比结果见StorageReview 评测。
Do these 3 things before closing this tab:
1Repair Windows errors before they cause bigger problems2Scan for outdated or missing drivers - takes under a minute3Clear out junk files and repair common Windows errors从公开对比看,AI TOP ATOM 与 NVIDIA DGX Spark 及其他 GB10 整机的核心 AI 性能接近。购买时真正拉开差异的通常是散热策略、SSD、机箱设计、软件整合、噪音、保修和当地价格,而不是宣传页上的峰值算力。
散热、功耗和噪音
StorageReview 记录到 CPU 峰值温度 90°C、GPU 峰值温度 81°C、NVMe 最高 59.8°C、ConnectX-7 最高 72°C;GPU 峰值功耗为 75.54W。低负载时 CPU 约 38.7°C、GPU 约 37°C。持续解码负载下温度趋于稳定,没有观察到持续升温或明显持续降频。
这说明技嘉更倾向于积极释放性能,而不是刻意压低功耗换取低温。90°C 的 CPU 峰值本身不等于故障,但在 1 升机身内意味着高负载时热密度较高。“温度稳定”也不等于“安静”。目前公开资料不足以支持具体分贝结论,技嘉关于优化噪音的表述应视为厂商声明。选购前若对声学表现敏感,应重点寻找待机、单用户推理、满载 Prefill 和长时间 Decode 的实测数据。
Rank #3
- Powerful Performance: Intel Core i5 Hexa Core processor for reliable multitasking and smooth computing.
- Fast & Efficient: 16GB DDR4 RAM and 250GB SSD for quick startup and performance.
- Windows 11 Pro: Modern operating system with professional-grade tools and enhanced security.
- Compact Design: Space-saving mini chassis fits neatly on or under your desk.
- Renewed Quality: Professionally tested and renewed to perform like new; may show minor cosmetic wear.
4TB PCIe 5.0 SSD 有多大价值
4TB PCIe 5.0 版本是 AI TOP ATOM 相对其他 GB10 系统的显著卖点之一。StorageReview 的 GDSIO 测试中,16K 读取在 128 线程下约 6.84GiB/s,写入约 6.54GiB/s;1M 读取最高约 11.60GiB/s,写入在 8–64 线程约 12.21–12.23GiB/s,128 线程降至约 8.82GiB/s。高并发时延迟明显增加,说明吞吐和低延迟不能无限同时提升。
Recommended Free Tools
Gen5 对模型加载、数据集读取、缓存和 GPU Direct Storage 更有意义;纯单用户 Decode 的主要瓶颈可能仍是模型计算和内存带宽。1TB 版本则很容易被多个量化模型、容器、缓存和数据集占满。SSD 是否可更换、具体型号、拆机难度及保修影响,应根据当地 SKU 和可靠拆机资料确认,不要仅凭宣传页推断。
Independent reader supportYour contribution helps us test, update, and keep practical guides available for everyone.AI TOP Utility 与 DGX OS
官方列出的 AI TOP Utility 功能包括模型下载、推理、RAG 和机器学习。系统采用 NVIDIA DGX OS / Ubuntu Linux 生态,并强调 NVIDIA AI 软件栈。购买这台机器的一个重要理由,就是希望减少本地 AI 环境配置工作。
但“开箱即用”仍应具体验证:首次初始化是否必须联网或登录账号;模型存储位置和剩余空间是否清晰;支持哪些模型与量化格式;能否直接使用 CUDA、PyTorch、vLLM、llama.cpp;RAG 是否支持本地文档、向量数据库和中文文本;驱动、Python 环境或 DGX OS 更新失败后如何恢复。
支持页曾列出 AI TOP Utility 4.2.1,以及 Ubuntu 24.04.4、Linux Kernel 6.17-1008-nvidia 等信息,但版本会随时间、地区和更新变化。发布或购买前应查看最新支持页,不要把这些版本写成永久配置。Arm CPU 也意味着部分 x86 二进制包、Docker 镜像、Python wheel、向量数据库和闭源工具需要逐项确认兼容性。
Rank #4
- SPACE-SAVING PERFORMANCE FOR HOME & OFFICE – The Lenovo ThinkCentre M720Q Micro delivers dependable computing power in a compact footprint, making it ideal for desks with limited space or clean, minimal workstations.
- RELIABLE INTEL PROCESSING POWER – Equipped with an Intel Core i5 8th Gen Hexa-Core processor (i5-8500T), this system offers smooth performance for everyday multitasking, web browsing, and business productivity.
- CONFIGURED FOR EFFICIENCY – Comes with 16GB DDR4 RAM and a 500GB NVME M.2, delivering fast load times, responsive multitasking, and ample storage for files and applications.
- WINDOWS 11 PRO & WIRELESS CONNECTIVITY – Pre-installed with Windows 11 Pro, offering advanced features and security for business or home use. Includes a WiFi and Bluetooth adapter for convenient wireless connectivity.
- VERSATILE & ENERGY-EFFICIENT DESIGN – The ultra-small form factor is ideal for space-conscious users and supports a variety of mounting and placement options. Its low power usage and quiet operation make it perfect for professional environments.
与替代方案怎么比较
| 方案 | 更适合谁 | 主要代价 |
|---|---|---|
| NVIDIA DGX Spark | 希望使用官方参考平台和 NVIDIA 软件生态 | 需要比较价格、SSD、噪音、保修和供货 |
| 其他 GB10 OEM 系统 | 寻找不同机箱、散热或本地售后方案 | 核心 AI 性能可能相近,差异在整机设计 |
| 自组装 RTX 工作站 | 需要可升级内存、多卡、x86 兼容性或更强训练能力 | 体积、功耗、驱动和装机维护更复杂 |
| 云 GPU | 偶尔使用、短期训练或需要突发算力 | 按时计费,并涉及数据上传和网络依赖 |
| AI TOP ATOM | 重视小体积、隐私、固定成本和长期本地推理 | 内存不可扩展,扩展性和绝对性能有限 |
购买前的实际检查清单
- 确认当地销售的是 9000、9001 还是 9002,并核对实际 SSD 品牌、型号和容量。
- 确认 240W 电源适配器、电源线、税费、运费、保修区域和维修方式。
- 把模型权重、KV cache、上下文长度、容器和数据集一起估算,不要只看参数规模。
- 若考虑双机 405B 部署,额外计算 QSFP 线缆、网络配置、机架或摆放空间、电力和散热成本。
- 确认 AI TOP Utility 当前版本、授权范围、支持的模型格式及系统恢复流程。
- 如果依赖特定 Docker、Python、代理框架或闭源工具,先确认 Arm 兼容性。
- 对噪音敏感时,要求明确的分贝测试,而不是只看“静音”宣传。
谁应该买,谁不应该买
适合买:需要本地运行中大型量化模型、企业私有 RAG、代理系统、边缘推理或长期推理服务,并且重视 1 升体积、128GB 统一内存、10GbE 和 ConnectX-7 的用户。
不适合买:主要玩游戏或办公、只运行轻量模型、需要可升级内存和显卡、依赖传统 x86 软件、计划训练大型模型,或对高负载温度和风扇噪音非常敏感的用户。
型号选择上,1TB 版只适合模型和数据规模明确较小的人;大多数本地 AI 用户应优先考虑 4TB 版本。是否为 PCIe 5.0 多花成本,则取决于模型加载、数据集读取和 GDSIO 等存储密集型任务;单用户 Decode 不一定能获得同等比例的收益。
最终评价
技嘉 AI TOP ATOM 的价值不在于把“1 PFLOP”变成通用性能神话,而在于把 GB10、128GB 统一内存、Linux/NVIDIA AI 软件生态和高速网络装进一个约 1 升的桌面节点。公开测试显示,它可以处理 120B 级别模型工作负载,并在 GB10 系统中保持有竞争力的表现;但批量服务吞吐不能替代单用户延迟测试,200B/405B 也不应被理解为高效训练或无条件流畅运行。
Quick wins for a faster PC:
Repair Windows errors before they cause bigger problemsFix Now →Scan for outdated or missing drivers - takes under a minuteDriver Scan →Clear out junk files and repair common Windows errorsFree Scan →因此,它是一台相当明确的本地 AI 专用设备:对隐私、本地部署和大模型推理有真实需求的人值得认真考虑;对普通桌面用户而言则明显过剩。最终购买决定应建立在模型规模、并发量、存储需求、Arm 兼容性、噪音容忍度和当地总价之上,而不是单看峰值 FP4 算力。
Quick Recap
Product prices and availability are accurate as of the date/time indicated and are subject to change. Any price and availability information displayed on Amazon at the time of purchase will apply.

