Какие видеокарты выгоднее для бизнеса — RTX 4090 или серверная RTX A5000?
В этой статье мы сравним новинку от компании Nvidia — GeForce RTX 4090 — с различными профессиональными картами от этого производителя и попытаемся ответить на вопрос «Выгодно ли использовать новую видеокарту в рабочих процессах или все-таки лучше использовать серверные видеокарты?».
Профессиональные и игровые GPU-карты имеют ряд значительных отличий, определяемых целью использования:
Сфера применения. Серверные видеокарты применяются в ML-разработке, рендеринге и моделировании сложных объектов, научных исследованиях, кинопроизводстве и т. д. Игровые видеокарты предназначены для индивидуального использования.
Охлаждение. Система охлаждения профессиональных карт выдувает горячий воздух из сервера или рабочей станции. Турбина охлаждения у них предназначена для постоянной работы. Игровые карты выдувают воздух вверх карты, они должны использоваться в специальных корпусах с хорошей системой вентиляции. Вентиляторы игровых карт не предназначены для длительной работы и выходят из строя при длительной постоянной эксплуатации.
Производительность и энергоэффективность. Профессиональные GPU позволяют производить больше вычислений при меньшем энергопотреблении. Эта особенность во многом определяет высокую стоимость серверных видеокарт.
Особенности производства. Контроль качества при изготовлении профессиональных карт строже, нежели при создании игровых.
Разъемы. Профессиональные карты не снабжены разъемами (HDMI, DVI) для вывода видео — есть только DisplayPort.
Дополнительный функционал. Не все серверные GPU могут быть использованы для игр.
Обзор технологии GeForce RTX 4090
Графический процессор GeForce RTX 4090 был выпущен в конце 2022 года и стал продолжением линейки десктопных ускорителей от компании NVIDIA, что вызвало большой интерес у игроков по всему миру.
Ключевыми особенностями карты являются:
Как и во всей линейке GeForce RTX 40, используются новые графические процессоры AD10x (в 4090 — AD102) на основе архитектуры Ada Lovelace и с применением технологического процесса 4N (TSMC).
Повышена производительность операций трассировки лучей и машинного вычисления на тензорных ядрах.
Технологический процесс 4N позволяет повысить энергоэффективность на несколько процентов.
Размер карты (304 на 137 мм, 3 слота) осложняет ее монтаж как в настольных ПК, так и в серверах.
Игровая система охлаждения, что зачастую делает невозможным использование 4090 в GPU-серверах.
По сравнению с 3090, в AD102 на 70% больше CUDA-ядер.
Технология NVIDIA DLSS 3 использует алгоритмы анализа векторов движения и OFA.
Платформа NVIDIA Reflex с низкой задержкой позволяет повысить качество игры профессиональных геймеров.
Кодировщик NVEnc 8-го поколения с поддержкой кодирования AV1.
Приложение NVIDIA Broadcast.
Технические характеристики видеокарт NVIDIA RTX A4000, NVIDIA RTX A5000, NVIDIA RTX 3090 и NVIDIA RTX 4090
Количество транзисторов (млрд.)
Тактовая частота (ГГц)
Тактовая частота с ускорением (ГГц)
Memory frequency (МГц)
Пропускная способность памяти (Гб/с)
Cache memory (Мб)
Количество текстурных модулей
Максимальная мощность (Вт)
Вычислительная производительность FP16 (half) (терафлопс)
Вычислительная производительность FP32 (float) (терафлопс)
Вычислительная производительность FP64 (double)
Теоретическая максимальная скорость закраски (гигапикселей/с)
Теоретическая скорость выборки текстур (гигатекселей/с)
Двухплатная низкопрофильная конфигурация (мосты на 2 и 3 слота)
Поддержка ПО Virtual GPU (vGPU)
NVIDIA Virtual PC (vPC) и Virtual Applications (vApps), NVIDIA RTX vWS, NVIDIA Virtual Compute Server
Новая архитектура, пропускная способность памяти и количество тензорных ядер, технология DLSS 3 и другие характеристики GeForce RTX 4090 определяют широкий спектр применения графического процессора — не только гейминг, но и работа с искусственным интеллектом, сложными вычислениями.
Тестирование HOSTKEY
Описание тестовой среды:
Процессор AMD Ryzen 9 5900 X 12-Core Processor (3.80 GHz)
32 GB DDR4-3200 ECC DDR4 SDRAM 1600 МГц
Microsoft Windows 10 Professional 64-разрядная
Tест V-Ray GPU CUDA
Points scored
Tест V-Ray GPU RTX
Points scored
Blender Benchmark
В этом тесте и в LuxMark мы сравним только карты RTX A5000 и RTX 4090, поскольку они наиболее интересны в контексте этой статьи.
Points scored
LuxMark
Points scored
Мы измерили относительную производительность GPU при рендеринге. Показатели GeForce RTX 4090 в тестах выглядят впечатляюще и превосходят практически вдвое не только результаты RTX 3090, но и профессиональные GPU. Тест V-Ray GPU RTX демонстрирует работу GPU с трассировкой лучей — показатели RTX 4090 также в два раза превосходят результаты RTX 3090.
«Собаки против кошек»
Для сравнения производительности GPU для нейросетей мы используем набор данных «Собаки против кошек» — тест анализирует содержимое фотографии и различает, изображена на фото кошка или собака. Все необходимые исходные данные находятся здесь. Мы запускали этот тест на разных GPU и в различных облачных сервисах, получили следующие результаты:
Полный цикл обучения (мин.)
Points scored
Полный цикл обучения тестовой нейросети занял от 31 до 60 минут. Результат GeForce RTX 4090 составил 31 минуту и превзошел показатели всех остальных GPU. Наиболее заметна разница в результатах карт RTX 3090 и RTX 4090 — новое поколение ГПУ от NVIDIA справилось с расчетами почти вдвое быстрее предыдущего.
Тесты показали, что ближайшим конкурентом карты 4090 является A5000. Осталось сравнить эти карты по соотношению цена-качество. Во всех проведенных тестах новая карта от Nvidia показала результат, превышающий показатель RTX A5000 примерно вдвое. В то же время стоимость RTX 4090 значительно ниже: 138 тысяч рублей (минимальная цена) против 216 тысяч. Казалось бы, выбор очевиден — но есть нюансы. GPU A5000 потребляет значительно меньше энергии и может быть выгодным решением для задач с постоянной высокой нагрузкой на GPU на длинной дистанции. RTX A5000 поддерживает технологию NVLink, что полезно при обучении нейронных сетей. GPU A5000 не имеют ограничений на использование NVENC/NVDEC при задачах параллельного транскодирования видео. При покупке специализированной лицензии профессиональные GPU класса A5000 могут быть виртуализированны и доступны в сервере как несколько виртуальных GPU меньшей мощности. Еще одна проблема — запрет Nvidia на использование драйверов для своих игровых карт в дата-центрах и в удаленном режиме вне офиса.
Хотя на промофото NVidia много 4090 с большими вентиляторами и формате 3 юнита, в реальности эту конфигурацию практически невозможно купить. На складах есть только игровые карты большого размера на 4 юнита и повышенной высоты с выдувом вверх и вниз карты. Такие карты не могут быть использованы в серверах и большинстве рабочих станцией.
Заключение
Переход на новую архитектуру Ada Lovelace позволил значительно увеличить производительность GeForce RTX 4090. Улучшенные тензорные ядра и ядра RT значительно повышают качество и расширяют возможности трассировки лучей в реальном времени. Объем памяти в 24 Гб позволяет обрабатывать большие массивы данных.
GeForce RTX 4090 в первую очередь предназначена для гейминга и прекрасно подходит для решения различных типов вычислительных задач: ИИ, анализ данных, машинное обучение. Новая архитектура значительно превосходит предыдущее поколение графических процессоров от NVIDIA. Важное ограничением в профессиональном использовании этой видеокарты — высокое энергопотребление и отсутствие возможности объединить несколько карт при помощи Nvlink.
Альтернативой приобретению видеокарты является аренда сервера с GPU. Наши расчеты показывают, что месячная аренда карт GeForce RTX 4090 и RTX A5000 сопоставима по цене. Соответственно, при необходимости выполнения профессиональных задач аренда карты GeForce RTX 4090 может быть выгодна за счет ее высокой производительности.
Арендуйте выделенные и виртуальные GPU серверы с профессиональными графическими картами NVIDIA RTX A5000 / A4000 в надежных дата-центрах класса TIER III в Москве и Нидерландах. Принимаем оплату за услуги HOSTKEY в Нидерландах в рублях на счет российской компании. Оплата с помощью банковских карт, в том числе и картой МИР, банковского перевода и электронных денег.
Какие видеокарты выгоднее для бизнеса — RTX 4090 или серверная RTX A5000?
В этой статье мы сравним новинку от компании Nvidia — GeForce RTX 4090 — с различными профессиональными картами от этого производителя и попытаемся ответить на вопрос «Выгодно ли использовать новую видеокарту в рабочих процессах или все-таки лучше использовать серверные видеокарты?».
Профессиональные и игровые GPU-карты имеют ряд значительных отличий, определяемых целью использования:
- Сфера применения. Серверные видеокарты применяются в ML-разработке, рендеринге и моделировании сложных объектов, научных исследованиях, кинопроизводстве и т. д. Игровые видеокарты предназначены для индивидуального использования.
- Охлаждение. Система охлаждения профессиональных карт выдувает горячий воздух из сервера или рабочей станции. Турбина охлаждения у них предназначена для постоянной работы. Игровые карты выдувают воздух вверх карты, они должны использоваться в специальных корпусах с хорошей системой вентиляции. Вентиляторы игровых карт не предназначены для длительной работы и выходят из строя при длительной постоянной эксплуатации.
- Производительность и энергоэффективность. Профессиональные GPU позволяют производить больше вычислений при меньшем энергопотреблении. Эта особенность во многом определяет высокую стоимость серверных видеокарт.
- Особенности производства. Контроль качества при изготовлении профессиональных карт строже, нежели при создании игровых.
- Разъемы. Профессиональные карты не снабжены разъемами (HDMI, DVI) для вывода видео — есть только DisplayPort.
- Дополнительный функционал. Не все серверные GPU могут быть использованы для игр.
Обзор технологии GeForce RTX 4090
Графический процессор GeForce RTX 4090 был выпущен в конце 2022 года и стал продолжением линейки десктопных ускорителей от компании NVIDIA, что вызвало большой интерес у игроков по всему миру.
Ключевыми особенностями карты являются:
- Как и во всей линейке GeForce RTX 40, используются новые графические процессоры AD10x (в 4090 — AD102) на основе архитектуры Ada Lovelace и с применением технологического процесса 4N (TSMC).
- Повышена производительность операций трассировки лучей и машинного вычисления на тензорных ядрах.
- Технологический процесс 4N позволяет повысить энергоэффективность на несколько процентов.
- Размер карты (304 на 137 мм, 3 слота) осложняет ее монтаж как в настольных ПК, так и в серверах.
- Игровая система охлаждения, что зачастую делает невозможным использование 4090 в GPU-серверах.
- По сравнению с 3090, в AD102 на 70% больше CUDA-ядер.
- Технология NVIDIA DLSS 3 использует алгоритмы анализа векторов движения и OFA.
- Платформа NVIDIA Reflex с низкой задержкой позволяет повысить качество игры профессиональных геймеров.
- Кодировщик NVEnc 8-го поколения с поддержкой кодирования AV1.
- Приложение NVIDIA Broadcast.
- NVIDIA Studio.
Технические характеристики видеокарт NVIDIA RTX A4000, NVIDIA RTX A5000, NVIDIA RTX 3090 и NVIDIA RTX 4090
| RTX A4000 | RTX A5000 | RTX 3090 | RTX 4090 | |
|---|---|---|---|---|
| Архитектура | Ampere | Ampere | Ampere | Ada Lovelace |
| Техпроцесс | 8 нм | 8 нм | 8 нм | 4N |
| Графический процессор | GA104 | GA102 | GA102 | AD102 |
| Количество транзисторов (млрд.) | 17,4 | 28,3 | 28,3 | 76,3 |
| Тактовая частота (ГГц) | 0,74 | 1.17 | 1,39 | 2,23 |
| Тактовая частота с ускорением (ГГц) | 1.56 | 1.70 | 1.70 | 2,52 |
| Memory frequency (МГц) | 1,750 | 2,000 | 1,219 | 1,325 |
| Пропускная способность памяти (Гб/с) | 448 | 768 | 936.2 | 1008 |
| Память GPU (Гб) | 16 ГБ | 24 | 24 | 24 |
| Тип памяти | GDDR6 | GDDR6 | GDDR6X | GDDR6X |
| Cache memory (Мб) | 4 | 6 | 6 | 72 |
| Память ECC | есть | есть | нет | нет |
| Ядра CUDA | 6 144 | 8192 | 10496 | 16384 |
| Тензорные ядра | 192 | 256 | 328 | 512 |
| Ядра RT | 48 | 64 | 82 | 128 |
| Количество текстурных модулей | 192 | 256 | 328 | 512 |
| Максимальная мощность (Вт) | 140 | 230 | 350 | 450 |
| Вычислительная производительность FP16 (half) (терафлопс) | 19.2 | 27.8 | 35.6 | 82.6 |
| Вычислительная производительность FP32 (float) (терафлопс) | 19.2 | 27.8 | 35.6 | до 82,6 |
| Вычислительная производительность FP64 (double) | 599 гигафлопс | 867.8 гигафлопс | 556 гигафлопс | 1.3 терафлопс |
| Теоретическая максимальная скорость закраски (гигапикселей/с) | 149.8 | 162.7 | 189.8 | 444 |
| Теоретическая скорость выборки текстур (гигатекселей/с) | 149.8 | 433.9 | 566 | 1290 |
| Интерфейс | PCI-E 4.0 x16 | PCI-E 4.0 x16 | PCI-E 4.0 x16 | PCI-E 4.0 x16 |
| NVIDIA DLSS | нет | нет | есть | 3 |
| Nvlink | нет | Двухплатная низкопрофильная конфигурация (мосты на 2 и 3 слота) | нет | нет |
| Поддержка CUDA | 8.6 | 8.6 | 8.6 | 8.9 |
| Поддержка VULKAN | 1.3 | 1.3 | 1.2 | 1.3 |
| DirectX | 12 Ultimate | 12 Ultimate | 12 Ultimate | 12 Ultimate |
| Shader Model | 6.6 | 6.6 | 6.7 | 6.7 |
| OpenGL | 4.6 | 4.6 | 4.6 | 4.6 |
| OpenCL | 3.0 | 3.0 | 3.0 | 3.0 |
| Поддержка ПО Virtual GPU (vGPU) | — | NVIDIA Virtual PC (vPC) и Virtual Applications (vApps), NVIDIA RTX vWS, NVIDIA Virtual Compute Server | — | — |
| Цена (руб.) | 111 917 | 216 000 | 116 990 | от 138 000 |
Новая архитектура, пропускная способность памяти и количество тензорных ядер, технология DLSS 3 и другие характеристики GeForce RTX 4090 определяют широкий спектр применения графического процессора — не только гейминг, но и работа с искусственным интеллектом, сложными вычислениями.
Тестирование HOSTKEY
- Процессор AMD Ryzen 9 5900 X 12-Core Processor (3.80 GHz)
- 32 GB DDR4-3200 ECC DDR4 SDRAM 1600 МГц
- Microsoft Windows 10 Professional 64-разрядная
Tест V-Ray GPU CUDA
Tест V-Ray GPU RTX
Blender Benchmark
В этом тесте и в LuxMark мы сравним только карты RTX A5000 и RTX 4090, поскольку они наиболее интересны в контексте этой статьи.
Мы измерили относительную производительность GPU при рендеринге. Показатели GeForce RTX 4090 в тестах выглядят впечатляюще и превосходят практически вдвое не только результаты RTX 3090, но и профессиональные GPU. Тест V-Ray GPU RTX демонстрирует работу GPU с трассировкой лучей — показатели RTX 4090 также в два раза превосходят результаты RTX 3090.
«Собаки против кошек»
Для сравнения производительности GPU для нейросетей мы используем набор данных «Собаки против кошек» — тест анализирует содержимое фотографии и различает, изображена на фото кошка или собака. Все необходимые исходные данные находятся здесь . Мы запускали этот тест на разных GPU и в различных облачных сервисах, получили следующие результаты:
Полный цикл обучения (мин.)
Полный цикл обучения тестовой нейросети занял от 31 до 60 минут. Результат GeForce RTX 4090 составил 31 минуту и превзошел показатели всех остальных GPU. Наиболее заметна разница в результатах карт RTX 3090 и RTX 4090 — новое поколение ГПУ от NVIDIA справилось с расчетами почти вдвое быстрее предыдущего.
Тесты показали, что ближайшим конкурентом карты 4090 является A5000. Осталось сравнить эти карты по соотношению цена-качество. Во всех проведенных тестах новая карта от Nvidia показала результат, превышающий показатель RTX A5000 примерно вдвое. В то же время стоимость RTX 4090 значительно ниже: 138 тысяч рублей (минимальная цена) против 216 тысяч. Казалось бы, выбор очевиден — но есть нюансы. GPU A5000 потребляет значительно меньше энергии и может быть выгодным решением для задач с постоянной высокой нагрузкой на GPU на длинной дистанции. RTX A5000 поддерживает технологию NVLink, что полезно при обучении нейронных сетей. GPU A5000 не имеют ограничений на использование NVENC/NVDEC при задачах параллельного транскодирования видео. При покупке специализированной лицензии профессиональные GPU класса A5000 могут быть виртуализированны и доступны в сервере как несколько виртуальных GPU меньшей мощности. Еще одна проблема — запрет Nvidia на использование драйверов для своих игровых карт в дата-центрах и в удаленном режиме вне офиса.
Хотя на промофото NVidia много 4090 с большими вентиляторами и формате 3 юнита, в реальности эту конфигурацию практически невозможно купить. На складах есть только игровые карты большого размера на 4 юнита и повышенной высоты с выдувом вверх и вниз карты. Такие карты не могут быть использованы в серверах и большинстве рабочих станцией.
Заключение
Переход на новую архитектуру Ada Lovelace позволил значительно увеличить производительность GeForce RTX 4090. Улучшенные тензорные ядра и ядра RT значительно повышают качество и расширяют возможности трассировки лучей в реальном времени. Объем памяти в 24 Гб позволяет обрабатывать большие массивы данных.
GeForce RTX 4090 в первую очередь предназначена для гейминга и прекрасно подходит для решения различных типов вычислительных задач: ИИ, анализ данных, машинное обучение. Новая архитектура значительно превосходит предыдущее поколение графических процессоров от NVIDIA. Важным ограничением в профессиональном использовании этой видеокарты — высокое энергопотребление и отсутствие возможности объединить несколько карт при помощи Nvlink.
Альтернативой приобретению видеокарты является аренда сервера с GPU. Наши расчеты показывают, что месячная аренда карт GeForce RTX 4090 и RTX A5000 сопоставима по цене. Соответственно, при необходимости выполнения профессиональных задач аренда карты GeForce RTX 4090 может быть выгодна за счет ее высокой производительности.
Nvidia представила видеокарты RTX A5000 и RTX A4000 для настольных компьютеров. Это как RTX 3080 и RTX 3070, но с удвоенным объёмом памяти
Компания Nvidia сегодня пополнила ассортимент видеокарт для настольных компьютеров двумя новыми моделями: RTX A5000 и RTX A4000. Новинки, можно сказать, ближайшие родственники GeForce RTX 3080 и RTX 3070 соответственно. Но выглядят иначе и имеют заметные отличия по объёму памяти.
RTX A5000, как и её ранее представленная старшая сестра RTX A6000, базируется на GPU GA102, но только не полнофункциональном, а урезанном — с 8192 ядрами CUDA, 256 тензорными ядрами и 64 ядрами Ray Tracing. То есть по характеристикам эта модель чуть уступает настольной GeForce RTX 3080. Зато памяти тут куда больше — 24 ГБ. Разрядность шины памяти — 384 бита. Эта модель занимает в корпусе ПК пространство двух слотов, а её TDP составляет 230 Вт.
Энергопотребление RTX A4000 куда меньше: TDP — всего 140 Вт. RTX A4000 базируется на GPU GA104, на базе которого построена GeForce RTX 3070. Однако исполнение этой модели — однослотовое. RTX A4000 имеет 6144 ядра CUDA, 192 тензорных ядра и 48 ядер Ray Tracing. 16 ГБ памяти GDDR6 соединено с GPU при помощи шины разрядностью 256 бит.
Обе модели оснащены четырьмя разъёмами DisplayPort 1.4 и поддерживают технологию Quadro Sync. А старшая RTX A5000 имеет возможность работы в конфигурации 2-Way NVLINK.
NVIDIA RTX A5000: технические характеристики и тесты
NVIDIA начала продажи RTX A5000 12 апреля 2021. Это топовая десктопная видеокарта на архитектуре Ampere и техпроцессе 8 нм, в первую очередь рассчитанная на дизайнеров. На ней установлено 24 Гб памяти GDDR6 на частоте 16 Гб/с, и вкупе с 384-битным интерфейсом это создает пропускную способность 768.0 Гб/с.
С точки зрения совместимости это двухслотовая карта, подключаемая по интерфейсу PCIe 4.0 x16. Длина референсной версии – 267 мм. Для подключения требуется дополнительный 1x 8-pin кабель питания, а потребляемая мощность – 230 Вт.
Она обеспечивает хорошую производительность в тестах и играх на уровне
от лидера, которым является NVIDIA GeForce RTX 4090.
Общая информация
Сведения о типе (для десктопов или ноутбуков) и архитектуре RTX A5000, а также о времени начала продаж и стоимости на тот момент.
| Место в рейтинге производительности | 19 | |
| Соотношение цена-качество | 1.63 | |
| Архитектура | Ampere (2020−2022) | |
| Графический процессор | GA102 | |
| Тип | Для рабочих станций | |
| Дата выхода | 12 апреля 2021 (2 года назад) | |
| Цена сейчас | 3239$ | из 168889 (A100 PCIe 80 GB) |
Отношение производительности к цене. Чем выше, тем лучше.
Характеристики
Общие параметры RTX A5000: количество шейдеров, частота видеоядра, техпроцесс, скорость текстурирования и вычислений. Они косвенным образом говорят о производительности RTX A5000, но для точной оценки необходимо рассматривать результаты бенчмарков и игровых тестов.
| Количество потоковых процессоров | 8192 | из 20480 (Data Center GPU Max NEXT) |
| Частота в режиме Boost | 1695 МГц | из 3599 (Radeon RX 7990 XTX) |
| Количество транзисторов | 28,300 млн | из 14400 (GeForce GTX 1080 SLI (мобильная)) |
| Технологический процесс | 8 нм | из 4 (GeForce RTX 4080) |
| Энергопотребление (TDP) | 230 Вт | из 2400 (Data Center GPU Max Subsystem) |
| Скорость текстурирования | 433.9 | из 969.9 (H100 SXM5 96 GB) |
Совместимость и размеры
Параметры, отвечающие за совместимость RTX A5000 с остальными компонентами компьютера. Пригодятся например при выборе конфигурации будущего компьютера или для апгрейда существующего. Для десктопных видеокарт это интерфейс и шина подключения (совместимость с материнской платой), физические размеры видеокарты (совместимость с материнской платой и корпусом), дополнительные разъемы питания (совместимость с блоком питания).
| Интерфейс | PCIe 4.0 x16 |
| Длина | 267 мм |
| Толщина | 2 слота |
| Дополнительные разъемы питания | 1x 8-pin |
Оперативная память
Параметры установленной на RTX A5000 памяти — тип, объем, шина, частота и пропускная способность. Для встроенных в процессор видеокарт, не имеющих собственной памяти, используется разделяемая — часть оперативной памяти.
| Тип памяти | GDDR6 | |
| Максимальный объём памяти | 24 Гб | из 128 (Radeon Instinct MI250X) |
| Ширина шины памяти | 384 бит | из 8192 (Radeon Instinct MI250X) |
| Частота памяти | 16 Гб/с | из 22400 (GeForce RTX 4080) |
| Пропускная способность памяти | 768.0 Гб/с | из 3276 (Aldebaran) |
Видеовыходы
Перечисляются имеющиеся на RTX A5000 видеоразъемы. Как правило, этот раздел актуален только для десктопных референсных видеокарт, так как для ноутбучных наличие тех или иных видеовыходов зависит от модели ноутбука.