sorok

Из вариантов можно посмотреть GPU серверы HOSTKEY. Есть конфигурации с RTX 4090, RTX 5090 и профессиональными ускорителями с большим объемом видеопамяти. Для небольших моделей и генерации изображений потребительские RTX выглядят рационально, а для крупных моделей и длительных вычислений я бы уже сравнивал профессиональные GPU по VRAM и требованиям конкретного фреймворка. Еще я бы заранее проверял загрузку через nvidia-smi во время реальной задачи. Если GPU используется только на 50 или 60 процентов, причина может быть вообще не в видеокарте. Узким местом иногда становится CPU, подготовка данных, NVMe или недостаточная скорость загрузчика датасета.

Из вариантов можно посмотреть выделенные GPU серверы HOSTKEY. Есть конфигурации с RTX 4090 и RTX 5090, а также серверы с несколькими RTX 4090. Для длительных вычислений я бы выбирал именно dedicated GPU, поскольку вся видеокарта и остальные ресурсы машины находятся в распоряжении одного проекта. Под обучение я бы также закладывал хороший запас обычной RAM и быстрый NVMe. Если датасет большой, а подготовка batch постоянно упирается в диск или процессор, загрузка GPU будет падать. В итоге дорогой ускоритель часть времени просто простаивает.

Если планируется работа с несколькими GPU, отдельно проверяйте способ обмена данными между картами. Для распределенного обучения важны NVLink и пропускная способность памяти. Несколько мощных потребительских видеокарт не всегда будут быстрее серверных ускорителей, если модель постоянно передает большие массивы данных между GPU. Также легко получить узкое место вне видеокарты. Для машинного обучения нужны быстрые NVMe накопители, достаточный объем оперативной памяти и производительный процессор, который успевает готовить данные для GPU. Иначе дорогой ускоритель часть времени просто будет простаивать.

Ресурсы GPU от Hostkey использовались для оптимизации производительности игры. Запускались профилировщики, анализировалась загрузка шейдеров и тестировались разные настройки графики под слабые и средние конфигурации. Это помогло выявить узкие места в рендер пайплайне и снизить просадки FPS в сложных сценах.

Тоже работали с VPS у Hostkey. Мы используем сервер для интернет магазина и для фоновых задач. На сервере обрабатываются заказы, формируются счета и обновляется информация о доставке. Плюс регулярно запускаются задачи которые обновляют каталог товаров и обрабатывают данные по клиентам. Система работает стабильно и сайт остается доступным даже когда количество заказов заметно увеличивается.

Да, мы начали пользоваться их сервисом несколько лет назад. Опыт уже есть — работа остаётся стабильной, а серьёзных или частых повышений цен я не замечал.

Да, я знаю. К тому же приятно, что с момента аренды цена особо не выросла, а не как у других провайдеров, когда поднимают её по несколько раз в год.

На сайте hostkey.ru можно арендовать недорогой виртуальный сервер с GPU. В их конфигурациях используются процессоры Ryzen, а наличие IPMI-порта одна из ключевых особенностей таких серверов. Благодаря персональному доступу к видеокарте в многокарточном узле вы фактически получаете её в индивидуальное пользование.