llama.cpp

Сервер

…

Метрики

—

Запросов (сессия)

—

В обработке / отложено

—

Генерация, t/s (средн)

—

Генерация, t/s (посл)

—

Промпт, t/s (средн)

—

Кэш KV, %

—

Токенов prompt / gen

—

DFlash acceptance, %

GPU

—

VRAM, MiB

—

Температура, °C

—

Кулер, %

—

Мощность, W

Лог

авто

Управление

Открой мини-приложение из Telegram бота.