-
fix(monitor): 统一内存按整机物理内存作分母,GPU 显存改显示模型真实占用
released this
2026-10-30 10:44:36 +00:00 用户报三件事:工作台资源监控的系统内存「应该不止 109.7G」、硬件监控的 GPU 显存
已用不对、系统内存最大值不是 110GB。两个独立的错,都在 server/monitor/hostsensors.js:
-
MemTotal 天生少报。统一内存机器上固件先从物理内存划走一块当显存 carve-out,
剩下的才进 /proc/meminfo。实测 piime-1 物理 128 GiB、carve-out 16 GiB、
MemTotal 只有 109.7 GiB —— 一台 128 GiB 的机器被说成 110 GB。 -
GPU 显存那格取错了来源。驱动给的整卡计数(VRAM + GTT)在统一内存上既含引擎
也含别的进程,拿它当「大模型占多少」会把 76.9 GB 说成 111 GB。
口径分工:
- 系统内存分母 = 整机物理内存,按机型写死 HALOGEN_UNIFIED_MEMORY_GIB(默认 128
GiB);MemTotal 不到它一半时按 MemTotal 算,换一台 64 GiB 的机器不会被说大。
为什么写死:DMI 只有 root 可读,虚拟化下还会给假值。 - 系统内存已用 = 总量 − MemAvailable:carve-out 既不进 MemTotal 也不会被别的
进程要到,天然算作已用,于是「已用 + 可用 = 总量」始终成立。 - GPU 显存(两个页面)= 引擎 startup [...] memory: 自报的权重 + KV 池 + 运行内存
(实测 62.9 + 8.4 + 5.6 = 76.9 GiB)。工作台 Hero 自c65ced2就是这个口径,
这次把监控页对齐过去;曲线同源(pushSample 的 gpu_mem 取 startupMemory)。 - 逐卡 mem_used / mem_total 保持驱动原始读数,只加 unified: true 标记,不再覆盖。
判定不按型号猜:看 gtt_total 是否覆盖内存的大半(统一内存 99–100%,独显一般
< 10%),且 vram_total > gtt_total 时直接否掉。一张 24 GiB 独显不会被改成共享
整机内存。piime-1 实测:系统内存 93.2/109.7 → 111.6/128.0;GPU 显存 13.3/125.7 →
76.9/128.0(占池 60%)。工作台 memory.model.total 同为 76.9 GB。门禁:server:test 全绿(monitor 43 项、workbench 27 项,新增 8 条覆盖分母 /
逐卡不被覆盖 / 小机器不被说大 / 独立显卡 / 缺 MemAvailable / 无 GPU / 曲线取模型
占用 / 无 startup 行时退回驱动读数);yarn build 与 yarn build-pkg halo 通过。Downloads
-