Model

Получить статус всех моделей с метриками

Конечная точка для получения текущего статуса всех моделей с расчетом процента успешных запросов, среднего количества токенов в секунду (TPS) или среднего времени генерации (ART) в зависимости от типа модели.

get/v1/models/status

Response

Successful Response

{"stackTrail":"paths:/v1/models/status:get:responses:200:content:application/json:schema","oasType":"schema","type":"unknown"}

Changes

No recorded changes to this endpoint across all 1 revision of this API.