🤖 LLM 大屏监控

RTX 3090 · llama-server · -- ● LIVE
GPU 显存占用
--GB
-- / -- GB
--% 余量 -- GB
实时功耗
--W
上限 -- W · 峰值 -- W
--%
GPU 利用率
--%
温度 -- °C
系统内存 (RAM)
--
总计: -- GB
可用: -- GB · 空闲: -- GB
累计耗电量
--
预估电费: ¥-- · 峰值: -- W
--推理时长
¥--推理电费
--请求数
Token 计数 (实时轮询)
--
输入: -- · 输出: --
--tok/s
¥--token电费
LLM 进程状态
--
进程显存: -- MiB · CPU: --%
正在推理
服务器信息
3090 + E5-2650v3
运行时间: --
模型: --
参数: --
--