GPU servers

Новости

www.soyoustart.com/fr/innovation-zone/hardware/

Под что можно продавать?
Что можно выжать?
Плюсы в чем?
  • Xeon E3-1285v4 / 32 GB DDR3 RAM / 2x 2 To SATA3 / Intel Iris Pro Graphics P6300
  • Xeon E5-1650v3 / 128 GB DDR3 RAM / 2x 240 Go SSD SATA3 / 2x TITANX
  • Xeon E5-1650v3 / 128 GB DDR3 RAM / 2x 240 Go SSD SATA3 / 2x Grid K2
  • Xeon E5-1650v3 / 128 GB DDR3 RAM / 2x 240 Go SSD SATA3 / 2x Grid M60

Наконец-то где-то появились GPU сервера, как массовая услуга доступная для всех желающих, а то раньше собирали только вручную индивидуально.

44 комментария

genapistolet
Для майнинга разве и то спорно. Будет ли выгода?
blast
Майнинг точно нет, а вот какое-нибудь машинное обучение или распознавание образов ускорять можно, видео перекодировать еще для всяких *тюбов. Это если в контексте вебчика, а так может быть и моделирование. Была мысль про стриминг игрушек, но конфиги явно оверкилл, да и пинг не подходит.
givemeparachute
нарезать впски для рабочих удаленных столов, было бы круто
fillipov
Применял ли кто-то GPU серверы у Hostkey для обучения моделей искусственного интеллекта. Планируем запускать несколько проектов с обучением нейросетей. Нужно обрабатывать большие наборы данных и проводить длительные вычисления. Интересно как серверы ведут себя при обучении моделей и насколько стабильно работают при большой нагрузке.
Kolyan99rus
Да, GPU сервер у Hostkey подходит для обучения модели анализа текстов. На сервер загружаются большие наборы документов, после чего запускается процесс обучения. Модель постепенно анализирует данные и учится определять категории текстов. Благодаря GPU обучение проходит быстрее и можно обрабатывать большие объемы информации.
xandr
У нас похожий опыт с GPU серверами у Hostkey. Мы используем их для обучения моделей распознавания изображений. На сервере хранится большой набор фотографий, которые используются для обучения алгоритма. Во время работы модель анализирует изображения и учится определять объекты на них. Сервер стабильно выполняет такие задачи и позволяет запускать обучение без остановок.
sorok
Тоже работали с VPS у Hostkey. Мы используем сервер для интернет магазина и для фоновых задач. На сервере обрабатываются заказы, формируются счета и обновляется информация о доставке. Плюс регулярно запускаются задачи которые обновляют каталог товаров и обрабатывают данные по клиентам. Система работает стабильно и сайт остается доступным даже когда количество заказов заметно увеличивается.
sergeenkof
Был опыт с процедурной генерацией контента, где использовались Python скрипты и нейросетевые модели для создания текстур и ассетов. GPU ускорение позволило быстрее генерировать и проверять варианты, особенно при работе с большими наборами данных и вариациями материалов.
tolstoff
Отдельно понравилось, что сервер легко адаптируется под новые задачи. Когда подключили систему аналитики и сервис уведомлений для клиентов, не пришлось ничего переносить или перестраивать. Всё заработало в одной среде и не вызвало конфликтов.
tolstoff
Первое, что оценили на практике, это ускорение работы с тяжёлыми вычислениями. При подготовке кинематографических роликов и просчёте сложных сцен время ожидания заметно сократилось. Если раньше финальный рендер тестового эпизода занимал почти весь день, то после перехода на GPU серверы результаты удавалось получать значительно быстрее. Это позволило чаще вносить правки и быстрее согласовывать изменения внутри команды.
xandr
Хочется отметить и стабильность. Перед демонстрацией игрового прототипа инвесторам пришлось в сжатые сроки внести большое количество изменений и повторно обработать часть материалов. Серверы выдержали интенсивную нагрузку и не подвели в самый ответственный момент. Поддержка Hostkey тоже оставила приятное впечатление. При возникновении технических вопросов специалисты помогали быстро разобраться и не приходилось тратить часы на самостоятельный поиск решений.
tolstoff
Особенно удобно, что у Hostkey есть разные модели видеокарт и варианты оплаты за необходимый период. Мы использовали мощный сервер только во время активных вычислений, поэтому не пришлось постоянно оплачивать дорогое оборудование. За всё время тестов соединение оставалось стабильным, а при появлении вопросов поддержка отвечала оперативно. GPU серверы Hostkey считаю практичным решением для нейросетей, обработки видео, рендеринга и других ресурсоёмких задач.
mikhailK
Понравилось, что сервер полностью находится под нашим управлением. Мы сами установили необходимые библиотеки, настроили среду и распределили ресурсы между моделями. Конфигурацию можно подобрать под конкретную задачу, а для коротких проектов удобно использовать почасовую оплату. GPU серверы Hostkey оказались практичным решением для постоянной работы с нейросетями и большими объёмами изображений.
xandr
Выбрал VPS от Hostkey, когда потребовалось отделить базу данных от основного сайта. На обычном хостинге нельзя было точно настроить память, число соединений и порядок выполнения запросов. Здесь все параметры можно менять самостоятельно с учётом реальной нагрузки.

Отдельно настроил кеширование, регулярную оптимизацию таблиц и создание копий без остановки сайта. Также установил ограничения для служебных процессов, чтобы они не забирали ресурсы у посетителей. При росте базы можно увеличить объём памяти и диска без переноса проекта на новую площадку.
kargopoltsev
Hostkey производит хорошее впечатление именно с технической стороны. В линейке VPS есть конфигурации с быстрыми NVMe накопителями и количеством виртуальных ядер до 16. Это позволяет подобрать сервер как для обычного сайта, так и для базы данных, системы аналитики или приложения с заметной вычислительной нагрузкой. Полный root доступ даёт возможность самостоятельно управлять операционной системой, службами и правилами безопасности. Понравилось, что основные параметры сервера можно контролировать через панель Invapi. В разделе мониторинга отображаются загрузка процессора, использование оперативной памяти, скорость сетевого интерфейса, текущее состояние виртуальной машины и время её запуска. Благодаря этому проще оценивать нагрузку и вовремя понимать, когда проекту требуется более производительная конфигурация.
andres
Для обычного сайта я бы начинал с двух или четырех ядер и четырех гигабайт оперативной памяти. Для интернет магазина, нескольких сайтов или активной базы данных лучше брать от восьми гигабайт. Перед переносом стоит проверить скорость NVMe диска, CPU steal, задержку сети и потерю пакетов в разное время суток. У Hostkey есть серверы в России, Европе и США. Для отдельных тарифов в России и Нидерландах заявлены три терабайта трафика на скорости один гигабит в секунду и базовая защита от DDoS атак. Условия лучше проверять для конкретной локации перед заказом.
fillipov
Также проверьте объем оперативной памяти, число процессорных ядер и тип накопителя. Лучше выбирать NVMe, поскольку загрузка больших моделей и датасетов с медленного диска может занимать значительную часть оплаченного времени. Отдельно уточняйте стоимость хранения данных после остановки инстанса и оплату исходящего трафика. Из более классических провайдеров можно посмотреть Hostkey. У них тарификация GPU серверов почасовая, а не поминутная. Доступны виртуальные и выделенные серверы с GPU, полный доступ к системе, готовые приложения для искусственного интеллекта и управление через API. Такой вариант удобнее, когда сервер нужен на несколько часов или дней и требуется стабильная конфигурация без постоянного переноса среды.
sorok
Если планируется работа с несколькими GPU, отдельно проверяйте способ обмена данными между картами. Для распределенного обучения важны NVLink и пропускная способность памяти. Несколько мощных потребительских видеокарт не всегда будут быстрее серверных ускорителей, если модель постоянно передает большие массивы данных между GPU. Также легко получить узкое место вне видеокарты. Для машинного обучения нужны быстрые NVMe накопители, достаточный объем оперативной памяти и производительный процессор, который успевает готовить данные для GPU. Иначе дорогой ускоритель часть времени просто будет простаивать.
koltsov
Если нужна именно поминутная аренда GPU сервера, смотрите сервисы с посекундной тарификацией. Например, RunPod рассчитывает стоимость вычислений по секундам. Vast.ai также списывает оплату за каждую секунду, пока инстанс находится в активном состоянии. Для коротких тестов нейросетей, рендеринга или разового запуска модели это удобнее классической почасовой оплаты. При выборе GPU сервера обращайте внимание не только на стоимость минуты. Сначала определите необходимый объем видеопамяти. Для Stable Diffusion и небольших моделей часто хватает RTX 4090 или RTX 5090. Для крупных языковых моделей и обучения нейросетей могут потребоваться A100, H100 или несколько видеокарт.
tolstoff
Из провайдеров я бы посмотрел Hostkey. У них есть выделенные и виртуальные GPU серверы с RTX 4090, RTX 5090, A100, H100, H200 и другими ускорителями. В виртуальных конфигурациях используется GPU passthrough, поэтому видеокарта выделяется конкретной виртуальной машине и ее вычислительные ресурсы не делятся с соседними клиентами. Есть варианты на AMD EPYC и Intel Xeon с ECC памятью и NVMe накопителями. Для быстрого старта доступны готовые среды с Docker, PyTorch, Jupyter и Ollama. Это удобно, если нужно не заниматься установкой CUDA и зависимостей, а сразу проверить модель на выбранной видеокарте. Для части GPU серверов доступна почасовая оплата, поэтому перед долгой арендой можно провести собственный тест.
Kolyan99rus
Рендеринг, машинное обучение, big data.На майнинге такой не отобьется, к тому же биток сейчас упал. Для майнинга многокарточные фермы собираются и это другая история. Тут еще надо смотреть, что выгоднее, возможно виртуальный сервер с выделенной GPU картой будет выгоднее. GPU карта используется виртуальной машиной эксклюзивно и не может быть использована другими пользователями. Производительность GPU в виртуальных машинах соответствует производительности GPU карт в выделенных серверах. или брать выделенный сервер, если ресурсы процессора тоже нужны. У виртуального и сдача быстрее.
tolstoff
Для начала VPS пойдет. Смотрите, срок выдачи сервера собранного по индивидуальной конфигурации — 1 рабочий день (у Hostkey.com у которых берем мы), но можно взять и выделенный, у них 3090 карты и А5000 и A4000. Виртуальные сдаются моментально, ждать не надо пока соберут и протестируют.
Kolyan99rus
Ну а если возникнут проблемы с сервером, то выделят ли подменный сервер? Если нет, то насколько быстро его отремонтируют, какие там есть тарифные планы на аренду серверов? Можно арендовать его только на месяц или есть более короткие сроки? Мы решение уже приняли, свой сервер собирать не будем, будем арендовать, т.к. свой сервер собрать дорого. Да будем пробовать vps с выделенной видеокартой.
tolstoff
Если что-то не то с виртуальным, то заменят за 15 минут, если выделенный, может чуть дольше. В том то и смысл аренды, что не надо думать сломается или устареет сервер. Сломался — поменяли, захотелось с новой картой — текущий стопнул и новый заказал. Проблем с их серверами проблем никогда не было.
Kolyan99rus
Мы сотрудничаем с Hostkey уже более года и регулярно арендуем у них GPU-сервер для видеомонтажа. Выбираем их, потому что можно настроить сервер полностью под свои нужды: выбрать видеокарту, объем памяти, а специалисты Hostkey быстро подготавливают сервер — обычно в течение одного рабочего дня. При этом наш сервер находится в Нидерландах, но это никак не влияет на скорость его сдачи.
sorok
На сайте hostkey.ru можно арендовать недорогой виртуальный сервер с GPU. В их конфигурациях используются процессоры Ryzen, а наличие IPMI-порта одна из ключевых особенностей таких серверов. Благодаря персональному доступу к видеокарте в многокарточном узле вы фактически получаете её в индивидуальное пользование.
Kolyan99rus
Вся видеокарта будет в вашем полном распоряжении — в этом и заключается основное преимущество: вы получаете все её ресурсы, а стоимость аренды снижается за счёт использования многокарточного узла. При желании можно заказать индивидуальную конфигурацию — сервер подготовят в течение одного рабочего дня.
simonov
Часто берём у них серверы с видеокартами, особенно для задач ИИ. Серверы с предустановленными последними версиями LLM, можно сразу начать работу. Ну и выбор там отличный, есть как виртуальные серверы, так и выделенные с видеокартами последнего поколения.
xandr
Я про то и говорю. Есть из чего выбрать, тем более за те деньги, что они берут за аренду. Для краткосрочных оплат там вообще сервер с почасовой оплатой арендовать можно.
tolstoff
У них хорошие серверы для работы с видео. GPU-сервера разные по характеристикам: есть на обычных видеокартах и на профессиональных промышленных. Можно подобрать под любую задачу, есть и виртуальные, и выделенные варианты.
sorok
Да, я знаю. К тому же приятно, что с момента аренды цена особо не выросла, а не как у других провайдеров, когда поднимают её по несколько раз в год.
xandr
Да, стоимость во многом зависит от срока аренды. Если брать сервер на год, цена одна, а при аренде GPU на несколько часов тариф будет другой.
sorok
Да, мы начали пользоваться их сервисом несколько лет назад. Опыт уже есть — работа остаётся стабильной, а серьёзных или частых повышений цен я не замечал.
tolstoff
Надёжный хостинг-провайдер, и чем дольше арендуешь, тем больше выгода. В сравнении с другими вариантами, которые мы рассматривали, здесь цены ниже, а характеристики серверов не уступают, а иногда даже превосходят конкурентов.
xandr
Мы пользуемся Hostkey уже несколько лет. VPS в России стоят от 182 рублей в месяц, причём в тариф включены гигабитный канал, трафик и базовая DDoS-защита. Также доступны выделенные серверы, хотя их стоимость, разумеется, выше.
sorok
Ресурсы GPU от Hostkey использовались для оптимизации производительности игры. Запускались профилировщики, анализировалась загрузка шейдеров и тестировались разные настройки графики под слабые и средние конфигурации. Это помогло выявить узкие места в рендер пайплайне и снизить просадки FPS в сложных сценах.
koltsov
Порадовала и возможность развивать проекты без сложных переносов. Когда один из сайтов начал привлекать больше посетителей благодаря успешной рекламной кампании, не пришлось искать новый сервер и переносить данные. Достаточно было увеличить ресурсы и продолжить работу без простоев.
andres
Раньше рендерил на домашнем компьютере и это занимало много времени, особенно если проект был сложный. В итоге решил попробовать сервер с GPU и разница оказалась очень заметной. Рендеринг стал проходить значительно быстрее, а сам процесс стал более стабильным.
xandr
GPU серверы компании Hostkey использую для видеорендеринга. Работаю с проектами на фрилансе и часто беру заказы на бирже, где важно быстро обрабатывать видео и сдавать результат в срок.
tolstoff
Мы настроили сервер под нужные программы и начали выгружать туда проекты. Даже тяжелые сцены с эффектами и анимацией обрабатываются без проблем. Это позволяет брать больше заказов и не переживать что сроки будут сорваны.
fillipov
Сервер работает стабильно даже при длительных нагрузках. Бывает что рендер идет часами, но никаких сбоев не возникает. Это важно когда работаешь с клиентами и нужно быть уверенным в результате.
kargopoltsev
На одной задаче запускались несколько контейнеров с Ollama и OpenWebUI для тестирования LLM моделей. Использовались Qwen и DeepSeek с разными размерами контекста. Хорошо ощущалось, насколько важен объём видеопамяти при работе с большими моделями. В тестах Hostkey тоже отмечали, что модели с большим контекстом быстро упираются в VRAM и требуют мощных GPU конфигураций.
andres
Интересно, что такие решения от Hostkey часто используют и студии для рендеринга и постобработки. В отзывах разработчики отмечают, что GPU инфраструктура HOSTKEY подходит не только для AI задач, но и для графически тяжёлых рабочих процессов вроде рендеринга и разработки игр с высоким уровнем детализации
kargopoltsev
Для экспериментов с LLM запускались модели через Ollama и Open WebUI. При работе с большими контекстами сразу становится заметно, насколько важен объём видеопамяти. HOSTKEY активно предлагает решения на RTX 4090, RTX 5090 и RTX 6000 PRO для подобных задач.

Сказать что-нибудь