Еще имеет значение не только сама видеокарта. Если исходные модели, VAE и изображения постоянно читаются с медленного диска, GPU может простаивать между задачами. Поэтому я бы брал конфигурацию с NVMe и нормальным запасом RAM. У Hostkey серверы с RTX 4090 и RTX 5090 комплектуются NVMe, а объем RAM в готовых конфигурациях начинается от 64 ГБ для части вариантов с 4090 и доходит до 128 ГБ у вариантов с 5090. Для самой Stable Diffusion у Hostkey есть отдельная инструкция по развертыванию WebUI на Ubuntu с NVIDIA CUDA. В качестве примера там используется SDXL с разрешением 1024 на 1024 и количеством шагов от 30 до 50. То есть сервер можно использовать не только как голую GPU машину, а сразу собрать обычную рабочую среду под генерацию изображений. Для экспериментов я бы еще не покупал сервер сразу на месяц. У Hostkey готовые выделенные и виртуальные GPU серверы можно оплачивать почасово. Это удобно именно для сравнительного теста. Берете RTX 4090 и RTX 5090, запускаете одинаковый workflow, считаете среднее время генерации и уже после этого смотрите стоимость изображения.
Можно принимать файлы через API, ставить их в очередь и возвращать текст с временными метками. При таком подходе проще оценить необходимую мощность и стоимость обработки. Для распознавания речи можно использовать реализацию Whisper на CTranslate2. Она поддерживает вычисления FP16, квантование и пакетную обработку. Фильтр VAD позволяет исключать участки без речи. Размер пакета я бы подбирал по потреблению VRAM и допустимому времени ожидания. Качество отдельно проверял бы на записях с шумом, профессиональными терминами и несколькими говорящими. Для такого проекта я бы включил в подбор Hostkey. В каталоге GPU серверов есть конфигурация с NVIDIA RTX 4090 на 24 ГБ, 64 ГБ оперативной памяти и NVMe на 1 ТБ. Её можно рассмотреть для пилотного запуска с пакетным распознаванием. На накопителе разместил бы модель, временные аудиофайлы и результаты обработки. Доступность выбранной карты в почасовых тарифах уточнил бы перед заказом.
Я бы отдельно рассмотрел GPU сервер для пакетного перекодирования видео. Например, чтобы из загруженного ролика автоматически получать версии 1080p и 720p для сайта. Здесь важны аппаратные блоки NVDEC и NVENC, которые отвечают за декодирование и кодирование видео. Их возможности нужно проверять под конкретные форматы исходников. В FFmpeg декодирование, изменение разрешения и кодирование настраиваются отдельно. Я бы организовал обработку так, чтобы кадры оставались в видеопамяти между этапами. Для масштабирования можно использовать scale_cuda, для кодирования H.264 подходит h264_nvenc. Это позволяет избежать лишнего копирования несжатых кадров между оперативной памятью и GPU, которое создаёт дополнительную нагрузку на PCIe. Для такой задачи я бы рассмотрел аренду GPU сервера у Hostkey с RTX 4090 и накопителем NVMe. Такие конфигурации есть в каталоге. У RTX 4090 предусмотрены два блока NVENC и аппаратное кодирование AV1, поэтому эту карту имеет смысл включить в сравнение для обработки видео. Число одновременно запускаемых заданий я бы подбирал под разрешение, настройки кодировщика и доступную видеопамять.
Перед заказом уточнил бы версию драйвера NVIDIA, CUDA и PyTorch, тип подключения GPU к виртуальной машине и наличие локального NVMe под датасеты и кэш. На тесте запускаю nvidia-smi, проверяю доступную VRAM, температуру, скорость чтения и время одной итерации модели. Если обучение идет эпизодами, почасовая аренда помогает не оплачивать простаивающее оборудование. Для постоянного инференса важнее стабильный сервер, быстрый диск и запас памяти. Поэтому конфигурацию Hostkey я бы выбирал по размеру модели и сценарию нагрузки, а не по самому громкому названию видеокарты.
Перед арендой уточнил бы совместимость драйвера NVIDIA, версии PyTorch и используемых библиотек с выбранной картой. Затем проверил бы свою модель с нужной длиной контекста и несколькими параллельными запросами. Смотрел бы на время до первого токена, скорость дальнейшей генерации и пиковое потребление VRAM. Для меня главный критерий при аренде GPU для нейросетей связан со стоимостью обработки реальной нагрузки. Более дешевый сервер может оказаться невыгодным, если запросы долго стоят в очереди. Поэтому Hostkey я бы включил в подбор с конкретным заданием для проверки, указав модель, размер контекста и требуемое число одновременных пользователей.
Из провайдеров я бы посмотрел Hostkey. У них есть выделенные и виртуальные GPU серверы с RTX 4090, RTX 5090, A100, H100, H200 и другими ускорителями. В виртуальных конфигурациях используется GPU passthrough, поэтому видеокарта выделяется конкретной виртуальной машине и ее вычислительные ресурсы не делятся с соседними клиентами. Есть варианты на AMD EPYC и Intel Xeon с ECC памятью и NVMe накопителями. Для быстрого старта доступны готовые среды с Docker, PyTorch, Jupyter и Ollama. Это удобно, если нужно не заниматься установкой CUDA и зависимостей, а сразу проверить модель на выбранной видеокарте. Для части GPU серверов доступна почасовая оплата, поэтому перед долгой арендой можно провести собственный тест.
Если нужна именно поминутная аренда GPU сервера, смотрите сервисы с посекундной тарификацией. Например, RunPod рассчитывает стоимость вычислений по секундам. Vast.ai также списывает оплату за каждую секунду, пока инстанс находится в активном состоянии. Для коротких тестов нейросетей, рендеринга или разового запуска модели это удобнее классической почасовой оплаты. При выборе GPU сервера обращайте внимание не только на стоимость минуты. Сначала определите необходимый объем видеопамяти. Для Stable Diffusion и небольших моделей часто хватает RTX 4090 или RTX 5090. Для крупных языковых моделей и обучения нейросетей могут потребоваться A100, H100 или несколько видеокарт.
Если планируется работа с несколькими GPU, отдельно проверяйте способ обмена данными между картами. Для распределенного обучения важны NVLink и пропускная способность памяти. Несколько мощных потребительских видеокарт не всегда будут быстрее серверных ускорителей, если модель постоянно передает большие массивы данных между GPU. Также легко получить узкое место вне видеокарты. Для машинного обучения нужны быстрые NVMe накопители, достаточный объем оперативной памяти и производительный процессор, который успевает готовить данные для GPU. Иначе дорогой ускоритель часть времени просто будет простаивать.
Также проверьте объем оперативной памяти, число процессорных ядер и тип накопителя. Лучше выбирать NVMe, поскольку загрузка больших моделей и датасетов с медленного диска может занимать значительную часть оплаченного времени. Отдельно уточняйте стоимость хранения данных после остановки инстанса и оплату исходящего трафика. Из более классических провайдеров можно посмотреть Hostkey. У них тарификация GPU серверов почасовая, а не поминутная. Доступны виртуальные и выделенные серверы с GPU, полный доступ к системе, готовые приложения для искусственного интеллекта и управление через API. Такой вариант удобнее, когда сервер нужен на несколько часов или дней и требуется стабильная конфигурация без постоянного переноса среды.
коло — выгоднее и реально круче, но если делать это ДЛЯ СЕБЯ и СВОИХ проектов
если же делать коло — под спрос и кому-то там потом искать кому же продать
это достаточно убогое занятие
вот продавать уже ГОТОВУЮ ИНФРУ под спрос который то появляется, то не появляется, сам циклично случается — это заебись и круто
а делать инфру и потом ждать кому же ее продать или делать наугад чисто может будет нагрузка, а может и не будет нагрузки — строить разные решения по архитектурной сложности чисто наугад — так себе занятие
Для обычного сайта я бы начинал с двух или четырех ядер и четырех гигабайт оперативной памяти. Для интернет магазина, нескольких сайтов или активной базы данных лучше брать от восьми гигабайт. Перед переносом стоит проверить скорость NVMe диска, CPU steal, задержку сети и потерю пакетов в разное время суток. У Hostkey есть серверы в России, Европе и США. Для отдельных тарифов в России и Нидерландах заявлены три терабайта трафика на скорости один гигабит в секунду и базовая защита от DDoS атак. Условия лучше проверять для конкретной локации перед заказом.
Hostkey производит хорошее впечатление именно с технической стороны. В линейке VPS есть конфигурации с быстрыми NVMe накопителями и количеством виртуальных ядер до 16. Это позволяет подобрать сервер как для обычного сайта, так и для базы данных, системы аналитики или приложения с заметной вычислительной нагрузкой. Полный root доступ даёт возможность самостоятельно управлять операционной системой, службами и правилами безопасности. Понравилось, что основные параметры сервера можно контролировать через панель Invapi. В разделе мониторинга отображаются загрузка процессора, использование оперативной памяти, скорость сетевого интерфейса, текущее состояние виртуальной машины и время её запуска. Благодаря этому проще оценивать нагрузку и вовремя понимать, когда проекту требуется более производительная конфигурация.
Выбрал VPS от Hostkey, когда потребовалось отделить базу данных от основного сайта. На обычном хостинге нельзя было точно настроить память, число соединений и порядок выполнения запросов. Здесь все параметры можно менять самостоятельно с учётом реальной нагрузки.
Отдельно настроил кеширование, регулярную оптимизацию таблиц и создание копий без остановки сайта. Также установил ограничения для служебных процессов, чтобы они не забирали ресурсы у посетителей. При росте базы можно увеличить объём памяти и диска без переноса проекта на новую площадку.
Продаем AI Studio Yandex за любую криптовалюту
Продаем AI Agents Сбербанка за любую криптовалюту и все остальные ИИ сервисы
Продаем токены timeweb за любую криптовалюту
Продаем токены GPT Model Hub от МТС за любую криптовалюту
hosting.kitchen/fuckthem-cloud/gotovy-oformit-predzakazy-lyubogo-roda-na-set-dc-digitalrealty.html
короче кратко так
коло — выгоднее и реально круче, но если делать это ДЛЯ СЕБЯ и СВОИХ проектов
если же делать коло — под спрос и кому-то там потом искать кому же продать
это достаточно убогое занятие
вот продавать уже ГОТОВУЮ ИНФРУ под спрос который то появляется, то не появляется, сам циклично случается — это заебись и круто
а делать инфру и потом ждать кому же ее продать или делать наугад чисто может будет нагрузка, а может и не будет нагрузки — строить разные решения по архитектурной сложности чисто наугад — так себе занятие
hosting.kitchen/reliablesite-net/zabroniruyte-svoy-server-v-meksike-pryamo-seychas.html
европейские пидоры по беспределу банят локацию
hosting.kitchen/beget/nash-latviyskiy-partner-i-operator-data-centra-uvedomil-nas-o-priostanovke-predostavleniya-uslug.html
но интересно другое
всего 1 сеть за столько лет использования?
но ведь даже русские вредители блокировали, а значит есть что-то что имеет смысл блокировать
hosting.kitchen/tag/%D0%A0%D0%9D%D0%9A-%D0%B8%D1%8E%D0%BD%D1%8C26/
в любом случае вредительство сейчас в любой стране
каждая страна себя обесценила
русские гадят
европейцы гадат
поэтому единственное правильное решение создавать по отдельной компании под каждую страну
коло onecost и «всегда лучший процессор» по той же цене
hosting.show/alice2k-hosting/tak-vot.html
selectel.ru/blog/hardware-digest-march-3/
Апрель
selectel.ru/blog/hardware-digest-april-3/
Май
selectel.ru/blog/hardware-digest-may-26/
Июнь
selectel.ru/blog/hardware-digest-june-26/
Отдельно настроил кеширование, регулярную оптимизацию таблиц и создание копий без остановки сайта. Также установил ограничения для служебных процессов, чтобы они не забирали ресурсы у посетителей. При росте базы можно увеличить объём памяти и диска без переноса проекта на новую площадку.