解锁本地AI新极限！Mini机身下的超算实力——技嘉AI TOP ATOM上手实测

前言：

在今年的早期时候，我尝鲜了面向个人开发者的AI超级计算机——技嘉AI TOP ATOM。要知道，该主机尺寸仅为150mm x 150mm x 50.5mm，这对于需要在办公桌、工作室等环境中使用的开发者来说，这种形态几乎没有什么部署门槛，只需要网络和供电就行，可以说将桌面化做到了极致。

不过小巧的机身带来的却是超强的性能，因为其搭载了NVIDIA GB10 Grace Blackwell超级芯片，配合128GB LPDDR5X内存（带宽273GB/s）以及4TB的NVMe存储，可提供高达1 PetaFLOP（每秒千万亿次）的FP4精度AI算力，等效1000 AI TOPS。

只不过当时因为时间关系，只是完成了开箱和拆解。而今天就来看看，这款Mini机身下的AI超级计算机的实际使用体验究竟如何。

NO.1 自带Ubuntu系统体验

技嘉AI TOP ATOM自带定制的Ubuntu系统，预装了一些软件、工具可以让用户进行一些简单性的工作需求。比如搭载了火狐浏览器，可以正常进行网页浏览；提供的应用商店也可以进行工具拓展；自带的办公软件也能完成文档、表格等文件的处理。

当然，还有在架设本地AI大模型方面，该机器还搭载了技嘉专属的AI TOP Utility。该工具的主要优势是采用了更直观的图形化界面，比起传统的命令行模式更方便；并且支持模型下载、远程访问、增强检索生成（RAG）及机器学习全流程管理。真正意义上降低了AI开发的门槛，让不同层次的用户都能快速上手本地AI开发。

NO.2 趋境科技架设的自研大模型管理平台AMaaS体验

要说技嘉AI TOP ATOM真正让我觉得惊喜的地方则是与趋境科技合作部署的自研大模型管理平台AMaaS。

这里也简单介绍一下趋境科技，其于2023年成立于北京，核心团队来自清华大学，专注大模型推理优化，主打低成本、高效率 AI 落地。自研推理引擎与算力调度系统，可大幅降低企业大模型部署门槛，2026 年获华为哈勃战略投资，提供软硬一体的大模型私有化解决方案。

进入大模型管理平台AMaaS的主页后首先是硬件情况预览，可以看到有详细的硬件数据，包括CPU、硬盘、内存使用率等硬件情况，还可以看到当前运行的模型以及API调用、Token使用量等等。

然后是模型管理中，可以看到预装的一系列AI大模型（包括私有模型），其中分为llm（文本）、vlm（多模态）、embedding（文本嵌入）、rerank（重排序）、parser（解析）、audio（音频）。

需要启用的时候可以查看该AI大模型所需要的硬件环境。

模型运行菜单则可以查看当前设备所运行的AI大模型，比如部署的这个最新的Qwen3-Coder-Next-FP8大模型就非常好用。

在实验场景则可以对部署运行的AI大模型进行实测，比如对话、多模态、文本嵌入等等。

这次测试问题分别是：黑暗森林法则成立与经典的海盗分金问题。

从反馈的结果来看，得益于技嘉AI TOP ATOM出色的硬件，首字延迟几乎为0，且每秒输出达到了45tokens左右。

菜单的最后是API的管理，主要是在远程调用场景下使用。

当然，AMaaS界面主要是用于管理调试，真正的让广大用户的真实使用场景还是要在趋镜·智问的界面下。

其中主页为AI搜索界面，可以自行上传所需要的知识库，打造更便利、迅速的使用场景。

对话大模型的作用相信大家都不会模式，右上角可选择所使用的AI大模型。

比如测试：有什么科幻小说也是参考黑暗森林法则？对话大模型给出的答案也非常迅速、详细，同时也非常精准。

然后再AI应用中，则列举了一系列可以使用AI大模型生成的应用，包括翻译、编程、日报、邮件等等，甚至还可参考一些社交APP的文案风格。

最后剩下的两项是长文AI写作以及会议助手功能。

总体来说，技嘉AI TOP ATOM+趋境科技的AMaaS已经可以实现很不错的AI工作效率。主要是得益于出色的硬件，可快速部署业内先进的AI大模型；同时通过更直观的图形化界面，带来一流的使用体验。还有在智问界面，也有强大的AI工具，最关键的还可以让一些对信息敏感的用户/企业将自己的数据文档转化为安全以及即时响应的内部知识库，且无需云端加持，依然可获得精准的运营支持，可以说在实用性、安全性以及灵活性之间达到完美的平衡。

NO.4 功耗和发热

技嘉AI TOP ATOM搭载的电源适配器输出功率达到了240W，但其的具体功耗和发热表现又如何呢？对此，我也进行了实测。

首先是散热，其实之前拆解可以看到，技嘉AI TOP ATOM的整块主板都基本上都被散热单元包裹，由2个涡轮风扇和散热鳍片组合而成。

在实际使用工作中（使用AI对话功能），使用红外热像仪测试机器尾部的出风口温度还不到40℃，可见整个设备的温控表现很不错。

功耗方面，在待机情况下，技嘉AI TOP ATOM的功耗保持在70W左右（外接了显示器以及键盘鼠标）。

而在使用AI大模型对话情况下，技嘉AI TOP ATOM的功耗涨到130W出头，整体表现算是中规中矩。

总结：

“小体积、大算力”，可以说是对技嘉AI TOP ATOM最好的总结。无论是本地跑AI大模型、还是说进行AI创作、轻量化训练，它都能轻松胜任，实现了出色的能效比与极致紧凑的机身巧妙融合。为此，假如未来的AI计算设备要做到“小而强、智而稳”，那么这台技嘉AI TOP ATOM已然走在了前面。