GPU-серверы для университетов и лабораторий с фиксированным бюджетом

GPU-серверы для университетов и научных лабораторий работают лучше всего, когда расходы так же предсказуемы, как академический календарь. Мы сдаём в аренду выделенные GPU NVIDIA и AMD помесячно, по фиксированной цене с оплатой вперёд, поэтому лаборатория может привязать расходы на GPU к статье гранта или к семестру и перестать платить, когда работа закончится. Каждый сервер выделяется только вашему учреждению и предоставляется с root-доступом, так что вы сами решаете, как его будут делить студенты и исследователи.

Бюджет на GPU-серверы для университетов и научных лабораторий

Помесячная оплата хорошо ложится на академические бюджеты. Семестр из 15 недель охватывает четыре расчётных месяца, поэтому один H100 для курса стоит 4 × 2 190 $ = 8 760 $. Исследовательская группа, которая шесть месяцев делит узел HGX H100, платит 6 × 16 900 $ = 101 400 $ без учёта специальных цен на срок — их можно запросить через тикет, когда ваш сервер станет активным, на период 6–12 месяцев или на несколько серверов. Подробности — в статье о том, как устроена оплата GPU-серверов.

• Цена фиксирована на каждый оплаченный месяц, а о любом изменении на будущие месяцы мы предупреждаем не менее чем за 30 дней.
• Платы за подключение нет, а плата за исходящий трафик не взимается в пределах включённого объёма: 20 ТБ в месяц на тарифах с одним GPU и 50 ТБ на 8-GPU-серверах.
• Цены указаны в долларах США и не включают НДС и другие налоги, которые добавляются в применимых случаях.
• Тарифы автоматически продлеваются за счёт баланса аккаунта, а перед каждым продлением приходит напоминание по электронной почте. Отмените аренду в личном кабинете до продления, следующего за окончанием семестра, — и платежи прекратятся; подробнее — в статье о продлении и отмене.

GPU-серверы для преподавания

Для курса подбирайте GPU под самое ресурсоёмкое задание, а затем решите, как студенты будут его делить:

• Вводный курс по глубокому обучению со свёрточными сетями (CNN) и небольшими трансформерами хорошо работает на RTX 5090 с 32 ГБ или L40S с 48 ГБ.
• Курсы по LLM (большим языковым моделям): заданию с QLoRA для модели 7B–8B нужно примерно 10–20 ГБ вместе с активациями, поэтому несколько студентов могут делить один RTX PRO 6000 с 96 ГБ, если задачи запускаются через планировщик. Проекту с QLoRA для модели 70B нужно около 40 ГБ под базовую модель — для этого подходит один H100 на команду.
• Совместное использование: создайте учётные записи Linux, выдайте каждому студенту контейнер и распределяйте GPU с помощью CUDA_VISIBLE_DEVICES или планировщика. И Jupyter, и VS Code работают через SSH, как описано в нашем руководстве по удалённой разработке.

Целые GPU никогда не делятся на части и не используются совместно с другими клиентами, поэтому единственная конкуренция за ресурсы — та, которой вы сами управляете среди своих студентов.

Общие серверы лаборатории для исследовательских групп

Узел HGX H100 даёт группе восемь GPU по 80 ГБ, соединённых через NVLink, 2 ТБ DDR5 и восемь NVMe-накопителей по 3,84 ТБ. Если установить на узел Slurm, задачи будут справедливо распределяться через очередь, а каждая из них сможет запросить от одного до восьми GPU. Группы, которые обучают более крупные модели, могут перейти на узел HGX H200 с 1,13 ТБ HBM3e. Для моделирования и задач в FP64 на нашей странице о GPU-серверах для научных вычислений и HPC сравниваются H100, H200 и MI355X.

Вы сохраняете все права на свои данные, а мы получаем к ним доступ, только когда это нужно для обеспечения работы или ремонта сервиса по вашему запросу либо когда этого требует закон. Мы не выполняем резервное копирование локальных накопителей, если иное не согласовано в письменной форме, поэтому храните копии в хранилище учреждения, а прежде чем загружать регулируемые данные или данные исследований с участием людей, проконсультируйтесь со своей службой защиты данных. Когда сервер возвращается нам, его диски надёжно стираются.

Пример плана для курса

Допустим, на курсе 40 студентов: каждую неделю проходят лабораторные работы с QLoRA на моделях 8B, а завершается курс командными проектами на модели 70B. Поскольку задаче нужно примерно 10–20 ГБ, один RTX PRO 6000 с 96 ГБ вмещает одновременно примерно от четырёх до девяти задач, и каждая из них работает медленнее, пока они делят карту, поэтому двух таких серверов хватает для учебной группы, работающей в парах, с простой очередью. В последний месяц каждая из десяти команд по четыре человека получает по одному H100, где 4-битная базовая модель 70B занимает около 40 ГБ.

• Два сервера RTX PRO 6000 на четырёхмесячный семестр: 2 × 4 × 1 390 $ = 11 120 $.
• Десять серверов H100 только на последний месяц: 10 × 2 190 $ = 21 900 $; при таком количестве стоит запросить через тикет специальные цены на несколько серверов.

Отмените аренду каждого сервера до его следующего продления — и расходы закончатся вместе с курсом. Поскольку цена в месяц известна заранее, этот план можно включить в бюджетную заявку ещё до начала семестра.

Закупка, счета и оплата

Заказ оформляется в четыре шага в одной форме на странице развёртывания: вы выбираете конфигурацию, указываете образ ОС и свой SSH-ключ, создаёте бесплатный аккаунт или входите в свой и оплачиваете первый месяц с предоплаченного баланса. Конфигурация, цена и гарантированная дата выдачи показываются до какой-либо оплаты — это удобно, когда покупку нужно согласовать внутри учреждения, — а IP-адрес и данные для подключения по SSH появляются в личном кабинете не позднее этой даты. Баланс ведётся в долларах США и пополняется криптовалютой: Bitcoin (BTC), Ethereum (ETH), Monero (XMR), Tether USDT в сети TRON (TRC-20) или Solana (SOL), от 100 $ до 10 000 $ за одно пополнение, с начислением +5% бонусных средств за каждые полные 100 $ в одном пополнении, вплоть до +50% при пополнении от 1 000 $; бонусные средства расходуются после оплаченных, не имеют денежной стоимости и не подлежат возврату. Оплата картой пока недоступна, поэтому уточните в финансовом отделе, может ли он платить криптовалютой. В личном кабинете вы найдёте счёт на каждую оплату сервера и каждое продление и квитанцию на каждое пополнение; подробнее — в статье о счетах и НДС. Для крупных заказов мы можем запросить проверку, например реквизиты учреждения и подтверждение личности того, кто оформляет заказ, а правила экспортного контроля и санкций распространяются на каждый заказ.

Когда помесячная аренда сервера — правильный выбор

Если HPC-центр вашего университета выделяет квоты вычислительного времени, а его очередь укладывается в ваши сроки, пользуйтесь им. Сервер с помесячной арендой имеет смысл, когда ожидание в очереди задерживает статью или диссертацию, когда нужен root-доступ или GPU, которого нет в вашем кластере, или когда курсу нужны выделенные GPU в фиксированные даты. Для задач, которые работают всего несколько часов в месяц, почасовая аренда у других провайдеров обойдётся дешевле.

Чтобы начать, разверните серверы до начала семестра: в зависимости от наличия выдача занимает минимум 1 рабочий день и максимум 7 рабочих дней, а первый месяц начинается в день выдачи. Ответы на вопросы о том, что нужно курсу или проекту, можно найти в нашем центре помощи, документации и калькуляторах. Гарантированная дата выдачи показывается до оплаты, и если мы её пропустим, вы можете отменить заказ с полным возвратом средств на баланс.