🤖 LLM 大屏监控
RTX 3090 · llama-server ·
--
● LIVE
GPU 显存占用
--
GB
-- / -- GB
--%
余量 -- GB
实时功耗
--
W
上限 -- W · 峰值 -- W
--%
GPU 利用率
--
%
温度 -- °C
系统内存 (RAM)
--
总计:
--
GB
可用:
--
GB · 空闲:
--
GB
累计耗电量
--
预估电费:
¥--
· 峰值:
--
W
--
推理时长
¥--
推理电费
--
请求数
Token 计数
(实时轮询)
--
输入:
--
· 输出:
--
--
tok/s
¥--
token电费
LLM 进程状态
--
进程显存:
--
MiB · CPU:
--
%
正在推理
服务器信息
3090 + E5-2650v3
运行时间:
--
模型:
--
参数:
--
--