本地模型 · 速率面板

ROCm 服务速率面板(Prompt / 生成 tok/s,来自 llama-server timings)

Prompt
—
tok/s
生成
—
tok/s
Prompt tokens
—
tokens
生成 tokens
—
tokens
就绪