AI Max+395跑Qwen3.8 Next Flash：Gufo UD-Q4_K_XL对比Halogen v2 HGN

本文来源： 程序员福满楼（公众号：程序员福满楼）
原文链接： https://mp.weixin.qq.com/s/Cd_9dBGPKL2Vw4ZCCr_5qw
发布时间： 2026-10-25 16:55

作者： 程序员福满楼　　发布时间： 2026-10-25 16:55

同机两种部署 · 58个真实执行单位

生成更快，备忘录却多等近20秒

AI Max+395 · Qwen3.8 Next Flash Gufo0.22.0 UD-Q4_K_XL / Halogen0.18.14 v2 HGN

同一台Ryzen AI Max+395、同一个Qwen3.8 Next Flash家族，这次比较Gufo0.22.0的Unsloth UD-Q4_K_XL与Halogen0.18.14的原生v2 HGN。4K无缓存、固定输出512 token时，Halogen的Decode快约21%；复杂决策备忘录却从64.41秒变成84.06秒，而且两边的事实审读都没过。

一、为什么做：升级以后，具体工作能快多少？

本地大模型的读取速度、生成速度和最终交付等待会给出不同答案。尤其是思考token变多、缓存复用不同，单看token/s容易误判。因此本轮先冻结题目，再把短代码、工具Agent、写作、四阶段工程与真实100K以上材料放在一起比较。

这是一轮完整部署对照：Gufo和Halogen使用不同的量化与MTP实现。结论回答哪套部署更适合这台机器上的这些工作，不把差异全部算成某个引擎算法的净收益。

二、怎么做：两种部署、同一套题与验收

Gufo固定源码7b1bf049a0a3600345676fdf0a544152ac7ce6a1；Halogen固定官方0.18.14镜像digest e0c1d1b48e07c8acdd204fbdbafbb421a395a73cf704271845a1846ad1fd767f。本轮13个权重及依赖完整SHA256通过，始终单模型运行，换部署时等待主存和GPU分配释放；不使用NPU。视觉塔记录身份，但本轮是文本任务，没有视觉成绩。

每部署29个执行单位：7短题各两轮、关闭思考诊断两轮、四阶段长程两轮、100K题两轮、三种吞吐探针各三轮，共58个。先Gufo后Halogen，顺序未交错；每部署先做输出上限、工具调用和32K单token预热，三项都不计成绩。Halogen首次加载后的宿主进程身份检查遇到权限错误，当时尚无任务请求；保留失败后修复只读检查，原Gufo29项没有重跑。

短题单次输出4096或8192 token、完整任务1200秒；长程每阶段最多12次回复，全程65536输出token与7200秒；100K题每轮8192输出token、5400秒。加权质量为代码30、Agent25、写作20、筛选10、长程15。写作另按事实、完整、清晰、可用各0—5分实际审读，至少16/20且无关键事实错误才过。常规短题门槛为至少12/14且无越权动作；部分分高不等于达到这个门槛。

每轮先把所有调用的原生新算输入token与Prefill毫秒分别相加，再相除；Decode同理，然后跨轮取中位数。缓存单列。完整等待包括每次调用前的单模型准入检查、接口、工具与本机评测步骤；API累计等待另把该轮原始HTTP耗时相加，两者的差值不当作纯推理开销。Halogen的root容器进程检查使用修复后的只读特权helper，控制路径不同，原始完整等待不作事后扣减。两轮中位token可以出现0.5。原生计时缺失或没有新算输入时标未知，不用墙钟反推。全文表中速度单位为token/s，等待为秒。

完整system/user提示词、工具与评分标准在附录；100K两轮完整材料另存为TXT，并核对生成字节SHA。下面先报告实际交付，再看固定输出吞吐。

三、逐题结果：哪里更快，哪里没改善

从相近记录中精确筛选D01

四条相近记录中找公众号已发布的唯一标题，只输出指定JSON。

结果与差距：两边均2/2，记录c、315阅读准确；等待3.41→2.59秒。这个简单题仍生成174/182个含思考token，读取速度不是主要矛盾。

整数分金额函数C01

跳过bool、负数、非整数与非dict，保持输入不变，不导入库。

结果与差距：两边9/9功能断言、两轮都过。Halogen4.64秒，比Gufo6.52秒少约29%；输出393对427 token。代码正文都准确排除了bool。

事实与边界简讯W01

100—180个非空白字符，写清6题、12秒与18秒，不能外推价格或长期优劣。

结果与差距：两边均20/20编辑分，Gufo100字、Halogen112字。Halogen等30.54秒，Gufo36.27秒；约100字的正文却消耗近3000个含思考输出token，成本在推理过程。

先查库存，再预留一次

A01

选择符合USB4、双显示、100W与总价上限的两件最便宜在库商品；不付款。

结果与差距：两边实际都查库存、选D2、预留2件，总额139800分且仅一次写操作。Gufo返回纯JSON，严格2/2；Halogen外包Markdown代码块，严格0/2、部分分75，不能说它选错或没预留。完整等待Halogen多约2.33秒，API累计则为5.26→5.97秒，剩余含准入与工具等开销，不能把完整差值全归于生成。

资源约束调度C03

同一事件时刻先释放全部完成任务，再按id扫描可启动任务，容不下就跳过。

结果与差距：两边13/13功能断言、两轮都过。Halogen43.34秒，Gufo50.78秒；前者输出还略多，说明这题的生成提速进入了完整交付。范围限冻结断言，不称已证明任意规模调度正确。

临时错误、日志证据与注入

A02

先查运行列表，再读取日志；临时错误可重试，只允许查询与建议，禁止改生产。

结果与差距：两边都先查列表、遇temporary_timeout后重试，从disk_available_bytes=0与write_failed=ENOSPC正确判断磁盘满，也都没执行restart_production。Halogen纯JSON严格2/2；Gufo多了Markdown围栏，严格0/2、原始部分分50。等待均约7.6秒，原生Decode提高没有明显缩短全程。

三人团队试用备忘录W03

600—900字，依据F1—F4提出采用/禁用、人审与量化退出条件，不编成本。

结果与差距：Gufo610字、格式2/2，编辑12/20；Halogen591字、格式0/2，编辑11/20。两边都把“未重复测试”误读为“没有重复内容”，并混淆v1/v2记录与工具版本；Halogen还无依据写“不新增任何现金支出”。Gufo等待64.41秒，Halogen84.06秒，含思考输出3959→7383 token。HalogenDecode更快，仍多等近20秒；两份都不能直接作为决策依据。

备忘录的错误可以直接定位：[F2]说新一轮没有重复测试，并没有说生成内容不存在重复。Gufo原文写“无重复”，Halogen写“未与v1产生重复内容”。引用标记齐全、段落清楚，仍不能抵消这个事实误读；本轮保留自动格式分，再给独立编辑否决。

连续四阶段：同一个工作区完成对账与发布

模型先修v1订单对账，再接收v2规则变更，接着面对真实注入的ENOSPC发布失败，最后加入迟到退款R04并重新发布。四阶段共享普通消息历史与工作区；只是不把reasoning正文传回。累计输入含大量历史缓存，与下一题单次100K读入是两种任务。

修复基础对账长程S1

读取旧契约、修复金额与重复记录处理，运行可见测试。

结果与差距：两边14/14且闭环2/2。Halogen86.23秒，比Gufo61.79秒更慢；它生成5444个token，约为Gufo2723的两倍。

接收v2规则变更长程S2

增加cutoff、退款状态与逐条四舍五入，旧v1仍须回归。

结果与差距：两边25/25、闭环2/2。Halogen在可见工具测试中先遇code_load错误后修正，最终104.81秒；Gufo137.27秒。保留真实失败与恢复，不写成一次就过。

ENOSPC失败与发布恢复长程S3

工具首次发布故意失败，旧发布必须保持，再根据真实反馈重试成功并核对manifest。

结果与差距：两边35/35、闭环2/2；实际轨迹均ENOSPC旧版未改→v2重试成功。Halogen58.29秒，Gufo66.19秒；发布文件均正确。

迟到退款与最终备忘录长程S4

加入截止前的R04退款3.40元，再发布final，交付金额、来源、兼容与风险说明。

结果与差距：两边49/49、闭环2/2。四份真实最终文件组都正确：已付40.21、退款5.51、净额34.70元；客户A24.80、B9.90元。Gufo两轮备忘录编辑19/20与20/20，Halogen均20/20。Halogen89.41秒，Gufo97.90秒。

完整交付与总等待长程整项

每套两轮独立工程，文件正确、阶段闭环、编辑质量分别检查。

结果与差距：两边全程严格2/2，四组最终CSV、summary与manifest全校验通过；Halogen338.75秒，Gufo363.18秒，少24.43秒（约6.7%）。原始HTTP累计为301.02对358.80秒；与完整等待的差额分别约37.73和4.38秒，包含准入、工具与本机评测步骤，不是额外Decode时间。Halogen全程Prefill反而低约10.2%，Decode高约17.2%，工具回合与缓存分布也不同。不能把两段速度的百分比直接当总提速。

这次长程验收在首次调用前就修正了旧研究的中文关键词误判：真实ENOSPC与成功发布轨迹仍必需，备忘录也须明确写重试成功。它与过去NPU文章的旧措辞标准不同，不能拿本轮2/2倒推为引擎升级修复了历史全部失败；旧分数不改。

真实109186-token材料LC01

同一份含政策版本冲突、退款证据、测试记录与注入日志的材料；每套两轮实际API输入均109186，缓存0。

结果与差距：Gufo严格2/2，Halogen1/2。Halogen第二轮金额/路由/证据均正确，但ignored清单额外加入P-V1，违反指定三项的精确接口契约。HalogenPrefill1755.2对1523.9、Decode78.3对69.4；完整等待103.03对116.23秒。两轮输出长度不同，等待差不全归因于读取；本题样本不足以宣称普遍长文理解更强。

固定512输出吞吐：缓存必须摊开

以下均关闭思考、实际生成512 token，各三轮。4K两边均无缓存，是本轮最整齐的固定工作量对照。32K中Halogen两轮复用4032 token，短输入两轮更是全部复用67 token，虽然冻结请求都带cache_prompt=false。以下按真实响应分列：32K的完整等待同时包含新算和缓存收益。

4057输入、512输出

吞吐

无缓存，各三轮；只测吞吐，不把这段截断代码评为可用产物。

结果与差距：HalogenPrefill1833.8、Decode81.4；Gufo1688.4、67.5，分别提高约8.6%与20.6%。HTTP完整等待10.01→8.54秒，少约14.7%。相同512输出与0缓存让这个比较更清楚。

32713输入、512输出

吞吐

三轮中位；Halogen实际新算/缓存为28681/4032、32713/0、28681/4032，Gufo三轮32713/0。

结果与差距：新算部分Prefill中位1591.0→1871.8、Decode68.2→83.2，等待28.09→21.63秒；其中包含缓存收益。Halogen唯一0缓存轮实际等待23.51秒，须标单次，不替代三轮中位。32K是吞吐，不是100K能力成绩。

67输入、512输出

吞吐

Gufo三轮缓存0；Halogen第2/3轮缓存67，全部输入命中。

结果与差距：Decode67.4→87.7，等待7.80→5.87秒；Halogen两轮没有新输入可算，因此其Prefill跨轮中位为未知，不填0，也不拿单轮399.3 token/s冒充整组中位。

同一道筛选题关闭思考思考诊断

该诊断在事前冻结，只适用于D01，不能替代medium主成绩。

结果与差距：两边的id、views、platform内容字段仍然正确；Gufo纯JSON严格2/2，Halogen两轮都加了Markdown代码围栏，严格0/2。关闭思考减少了输出，但没有修复Halogen的接口格式；Halogen第二轮还复用了全部151个输入token。完整等待0.69→1.00秒，API累计0.61→0.38秒，准入和工具等开销须分开看。不能据一道简单题建议所有代码、写作和长程都关闭思考。

内存、GTT与稳定性怎么读

395的GPU使用统一内存，GTT不能再与主存已用量相加。Halogen原生日志报告约62.9GiB锁定权重、7.2GiB KV池、12.1GiB工作区，共82.3GiB；47.7GiB ngram按需从SSD文件缓存读取。日志也明确提醒：MemAvailable会把锁定文件页误计为可回收，因此系统显示约100GiB可用并不等于还可以再加载一个大模型。两边资源2秒采样明细保留，不把不同内存放置方式包装成同口径独占RAM节省比例。

58个正式单位均有真实结果，未观察到新的关键GPU驱动错误。Halogen宿主进程检查的准备故障与中途可恢复工具失败都保留。此次机器未暴露EDAC计数接口，不能把空字典称作ECC零错误；本轮完成也不证明全天长期稳定。

四、综合推荐：受监督工作优先Halogen，精确长清单留意Gufo

综合推荐：在这台AI Max+395运行Qwen3.8 Next Flash的本轮任务里，优先Halogen0.18.14原生v2 HGN，承担受监督的代码与连续工具工作。 两边代码功能和工程最终文件都正确，Halogen的无缓存固定输出更快、四阶段工程少等24.43秒，加权质量92.38比89.75高2.63分。这个选择要求保留接口格式校验与人工事实核对：两边都只有10/14严格短题，均没有达到常规无人值守交付门槛。

Gufo0.22.0 UD-Q4_K_XL适合优先核对长材料精确清单，或已有工作流更依赖其纯JSON预留接口的场景。本轮100K两次全过、库存预留两次纯JSON正确；Halogen这两项各有精确格式失误。不要外推为所有长文本都由Gufo更强，样本只有两轮。

复杂决策备忘录这次两套都不合格。Gufo比较早返回，但仍把未重复测试误解为内容无重复；Halogen更慢，还增加了未经证实的现金成本推论。更合适的分工是让模型写可测试代码、执行受控工具，给决策文字逐条核对原始事实，而不是拿token/s替文字背书。

完整题面与复跑材料

本轮冻结题目、工具、评分与版本清单。随文章保存的附录另含完整短题、四阶段指令及两轮100K材料TXT；重跑仍须遵守原始预算与评分口径。

本轮实测记录 · llm_eval

本文转载自微信公众号「程序员福满楼」，仅供学习交流使用。