fillipov

Из вариантов я бы посмотрел GPU серверы HOSTKEY. У них есть именно выделенные GPU конфигурации, где видеокарта предоставляется целиком одному серверу. Для длительной нагрузки это предпочтительнее виртуальной GPU, поскольку нет разделения ресурсов между несколькими клиентами. Еще важный момент касается процессора и дисковой подсистемы. Если обучение постоянно читает большой датасет, слабый CPU или медленный накопитель могут привести к тому, что GPU будет простаивать. Поэтому под машинное обучение я бы закладывал достаточный объем RAM и NVMe, особенно если активно используется предварительная обработка данных.

Также проверьте объем оперативной памяти, число процессорных ядер и тип накопителя. Лучше выбирать NVMe, поскольку загрузка больших моделей и датасетов с медленного диска может занимать значительную часть оплаченного времени. Отдельно уточняйте стоимость хранения данных после остановки инстанса и оплату исходящего трафика. Из более классических провайдеров можно посмотреть Hostkey. У них тарификация GPU серверов почасовая, а не поминутная. Доступны виртуальные и выделенные серверы с GPU, полный доступ к системе, готовые приложения для искусственного интеллекта и управление через API. Такой вариант удобнее, когда сервер нужен на несколько часов или дней и требуется стабильная конфигурация без постоянного переноса среды.

Сервер работает стабильно даже при длительных нагрузках. Бывает что рендер идет часами, но никаких сбоев не возникает. Это важно когда работаешь с клиентами и нужно быть уверенным в результате.

Применял ли кто-то GPU серверы у Hostkey для обучения моделей искусственного интеллекта. Планируем запускать несколько проектов с обучением нейросетей. Нужно обрабатывать большие наборы данных и проводить длительные вычисления. Интересно как серверы ведут себя при обучении моделей и насколько стабильно работают при большой нагрузке.