Бесплатные калькуляторы GPU

Сначала рассчитайте память для модели, потом сравните цену

Какой GPU-сервер арендовать, решают два вопроса: сколько памяти нужно вашей модели и выгоднее ли при вашем режиме использования цена в месяц, чем почасовая. Два бесплатных калькулятора GPU отвечают на них именно в таком порядке.

1. Рассчитайте память в калькуляторе видеопамяти (VRAM). Выберите модель или укажите её размер, задайте точность (BF16, FP8 или 4 бита), длину контекста и число одновременных запросов. Калькулятор сложит веса, KV-кэш и накладные расходы среды выполнения и покажет все подходящие конфигурации с ценой в месяц.
2. Рассчитайте бюджет в калькуляторе стоимости GPU. Введите любую почасовую цену и сколько часов в день GPU будет реально работать. Калькулятор покажет стоимость за месяц по этой ставке, точку безубыточности в часах по сравнению с сервером на месяц и стоимость каждого часа, который вы действительно используете.

Оба калькулятора работают в вашем браузере, не требуют аккаунта и ничего нам не отправляют. Логика расчётов объясняется в статье о том, сколько видеопамяти нужно для LLM (больших языковых моделей), и в сравнении помесячной и почасовой оплаты GPU.

Насколько точны оценки

Объём видеопамяти рассчитывается по архитектуре модели: для весов — число параметров, умноженное на число байт на параметр, плюс KV-кэш, вычисленный по числу слоёв, KV-голов и размерности головы, плюс запас на активации и среду выполнения. Реальный расход зависит от движка инференса, размера батча и настроек памяти, поэтому считайте результат ориентиром при подборе сервера и оставляйте запас 10–20%. Калькулятор стоимости выполняет точные арифметические расчёты по введённым вами ценам и часам.