Phenquestions
Искуство је витално за развијање вештина неопходних за примену дубоког учења на нова питања. Брзи ГПУ значи брзо стицање практичног искуства путем тренутних повратних информација. ГПУ садрже више језгара за бављење паралелним прорачунима. Они такође укључују опсежни пропусни опсег меморије за лако управљање овим информацијама.
 |
Имајући ово на уму, тежимо да одговоримо на питање: „Која је најбоља графичка картица за АИ, машинско учење и дубоко учење?”Прегледом неколико графичких картица које су тренутно доступне 2021. године. Прегледане картице:
- АМД РКС Вега 64
- НВИДИА Тесла В100
- Нвидиа Куадро РТКС 8000
- ГеФорце РТКС 2080 Ти
- НВИДИА Титан РТКС
Испод су резултати:
АМД РКС Вега 64
Радеон РКС Вега 64
Карактеристике
- Датум изласка: 14. августа 2017
- Вега Архитектура
- ПЦИ Екпресс интерфејс
- Такт: 1247 МХз
- Стреам процесори: 4096
- ВРАМ: 8 ГБ
- Пропусни опсег меморије: 484 ГБ / с
Преглед
Ако вам се не свиђају НВИДИА ГПУ-ови или вам буџет не дозвољава да потрошите више од 500 УСД на графичку картицу, тада АМД има паметну алтернативу. Имајући пристојну количину РАМ-а, брз пропусни опсег меморије и више него довољно стреам процесора, АМД-ов РС Вега 64 је врло тешко занемарити.
Вега архитектура је надоградња са претходних РКС картица. По перформансама овај модел је близак ГеФорце РТКС 1080 Ти, јер оба ова модела имају сличан ВРАМ. Штавише, Вега подржава матичну полупрецизност (ФП16). РОЦм и ТенсорФлов раде, али софтвер није толико зрео као код НВИДИА графичких картица.
Све у свему, Вега 64 је пристојан ГПУ за дубоко учење и АИ. Овај модел кошта знатно испод 500 УСД и посао обавља за почетнике. Међутим, за професионалне апликације препоручујемо да се одлучите за НВИДИА картицу.
АМД РКС Вега 64 Детаљи: Амазон
НВИДИА Тесла В100
Тесла В100
Карактеристике:
- Датум изласка: 7. децембра 2017
- Архитектура НВИДИА Волта
- ПЦИ-Е интерфејс
- 112 ТФЛОПС перформансе тензора
- 640 језгара тензора
- 5120 Језгра НВИДИА ЦУДА®
- ВРАМ: 16 ГБ
- Пропусни опсег меморије: 900 ГБ / с
- Рачунарски АПИ-ји: ЦУДА, ДирецтЦомпуте, ОпенЦЛ ™, ОпенАЦЦ®
Ревиев:
НВИДИА Тесла В100 је бехемот и једна од најбољих графичких картица за АИ, машинско учење и дубоко учење. Ова картица је потпуно оптимизована и испоручује се у пакету са свим додацима који су вам потребни у ову сврху.
Тесла В100 долази у конфигурацијама меморије од 16 ГБ и 32 ГБ. Уз обиље ВРАМ-а, АИ убрзања, велику пропусност меморије и специјализоване тензорске језгре за дубоко учење, можете бити сигурни да ће сваки ваш модел тренинга радити глатко - и за мање времена. Конкретно, Тесла В100 може да пружи 125ТФЛОПС перформанси дубоког учења како за тренинг тако и за закључивање [3], што је омогућила НВИДИА-ина Волта архитектура.
НВИДИА Тесла В100 Детаљи: Амазон, (1)
Нвидиа Куадро РТКС 8000
Нвидиа Куадро Ртк 8000
Карактеристике:
- Датум изласка: август 2018
- Туринг архитектура
- 576 Тенсор Цорес
- Језгра ЦУДА: 4.608
- ВРАМ: 48 ГБ
- Пропусни опсег меморије: 672 ГБ / с
- 16.3 ТФЛОПС
- Системски интерфејс: ПЦИ-Екпресс
Ревиев:
Куадро РТКС 8000 је посебно направљена за матрицу аритметике и рачунања матрице дубоког учења, врхунска графичка картица. Будући да ова картица долази са великим ВРАМ капацитетом (48 ГБ), овај модел се препоручује за истраживање изузетно великих рачунских модела. Када се користи у пару са НВЛинк-ом, капацитет се може повећати на до 96 ГБ ВРАМ-а. Што је много!
Комбинација 72 РТ и 576 тензорских језгара за побољшане токове рада резултира са преко 130 ТФЛОПС перформанси. У поређењу са најскупљом графичком картицом са наше листе - Теслом В100 - овај модел потенцијално нуди 50 одсто више меморије и још увек успева да кошта мање. Чак и на инсталираној меморији, овај модел има изузетне перформансе док ради са већим серијама на једном ГПУ-у.
Опет, попут Тесле В100, овај модел је ограничен само вашом ценом. Ако желите да инвестирате у будућност и у висококвалитетно рачунарство, набавите РТКС 8000. Ко зна, можете водити истраживање о АИ. Тесла В100 заснован је на Тјуринговој архитектури, где је В100 заснован на Волта архитектури, па се Нвидиа Куадро РТКС 8000 може сматрати нешто модернијим и нешто моћнијим од В100.
Нвидиа Куадро РТКС 8000 Детаљи: Амазон
ГеФорце РТКС 2080 Ти
Гефорце РТКС 2080 Фоундерс Едитион
Карактеристике:
- Датум изласка: 20. септембра 2018
- Туринг ГПУ архитектура и РТКС платформа
- Такт: 1350 МХз
- Језгра ЦУДА: 4352
- 11 ГБ ултра брзе ГДДР6 меморије следеће генерације
- Пропусни опсег меморије: 616 ГБ / с
- Снага: 260В
Ревиев:
ГеФорце РТКС 2080 Ти је прорачунска опција идеална за мала оптерећења моделирањем, а не за обуку великих обука. То је зато што има мању ГПУ меморију по картици (само 11 ГБ). Ограничења овог модела постају очигледнија када се тренирају неки модерни НЛП модели. Међутим, то не значи да ова карта не може да се такмичи. Дизајн пухала на РТКС 2080 омогућава далеко гушће конфигурације система - до четири ГПУ-а у оквиру једне радне станице. Поред тога, овај модел тренира неуронске мреже брзином од 80 процената брзине Тесле В100. Према ЛамбдаЛабс-овим реперима перформанси дубоког учења, у поређењу са Теслом В100, РТКС 2080 је 73% брзине ФП2 и 55% брзине ФП16.
У међувремену, овај модел кошта готово 7 пута мање од Тесле В100. И са становишта цене и перформанси, ГеФорце РТКС 2080 Ти је одличан ГПУ за дубоко учење и развој АИ.
ГеФорце РТКС 2080 Ти Детаљи: Амазон
НВИДИА Титан РТКС
НВИДИА Титан РТКС графика
Карактеристике:
- Датум изласка: 18. децембра 2018
- Покреће је НВИДИА Туринг ™ архитектура дизајнирана за АИ
- 576 Тенсор језгра за убрзање АИ
- 130 тераФЛОПС (ТФЛОПС) за дубоко учење
- Језгра ЦУДА: 4608
- ВРАМ: 24 ГБ
- Пропусни опсег меморије: 672 ГБ / с
- Препоручено напајање 650 вати
Ревиев:
НВИДИА Титан РТКС је још један ГПУ средњег опсега који се користи за сложене операције дубоког учења. 24 ГБ ВРАМ-а овог модела је довољно за рад са већином серија. Међутим, ако желите да обучите веће моделе, упарите ову картицу са НВЛинк мостом да бисте ефективно имали 48 ГБ ВРАМ-а. Овај износ би био довољан чак и за велике трансформаторске НЛП моделе. Штавише, Титан РТКС омогућава обуку мешовите прецизности у пуној брзини за моделе (тј.е., ФП 16 заједно са акумулацијом ФП32). Као резултат, овај модел обавља приближно 15 до 20 процената брже у операцијама где се користе језгре тензора.
Једно ограничење НВИДИА Титан РТКС је дизајн двоструког вентилатора. То отежава сложеније конфигурације система јер се не може спаковати у радну станицу без значајних модификација механизма хлађења, што се не препоручује.
Све у свему, Титан је одличан, вишенаменски ГПУ за скоро сваки задатак дубоког учења. У поређењу са другим графичким картицама опште намене, сигурно је скупа. Због тога се овај модел не препоручује играчима. Ипак, истраживачи који користе сложене моделе дубоког учења вероватно ће ценити додатни ВРАМ и повећање перформанси. Цена Титан РТКС-а је значајно нижа од В100 приказане горе и био би добар избор ако ваш буџет не дозвољава да цене В100 дубински уче или ако вашем радном оптерећењу није потребно више од Титан-а РТКС (погледајте занимљиве показатеље)
НВИДИА Титан РТКС Детаљи: Амазон
Избор најбоље графичке картице за АИ, машинско учење и дубоко учење
АИ, машинско учење и задаци дубоког учења обрађују гомилу података. Ови задаци могу бити веома захтевни за ваш хардвер. Испод су функције које треба имати на уму пре куповине ГПУ-а.
Језгра
Као једноставно правило, што је већи број језгара, то ће перформансе вашег система бити веће. Такође треба узети у обзир број језгара, посебно ако имате посла са великом количином података. НВИДИА је своје језгре назвала ЦУДА, док АМД њихове процесоре назива језгреним процесорима. Идите на највећи број процесорских језгара које вам дозвољава буџет.
Снага обраде
Процесорска снага ГПУ-а зависи од броја језгара унутар система помноженог са тактовима на којима радите језгра. Што је већа брзина и што је већи број језгара, већа ће бити процесорска снага на којој ваш ГПУ може израчунати податке. Ово такође одређује колико брзо ће ваш систем извршити задатак.
ВРАМ
Видео РАМ или ВРАМ је мерење количине података који ваш систем може одједном да обради. Виши ВРАМ је од виталног значаја ако радите са различитим моделима Цомпутер Висион или изводите било која ЦВ Каггле такмичења. ВРАМ није толико важан за НЛП, нити за рад са осталим категоријским подацима.
Таласна дужина сећања
Пропусни опсег меморије је брзина којом се подаци читају или чувају у меморији. Једноставно речено, то је брзина ВРАМ-а. Измерено у ГБ / с, већи пропусни опсег меморије значи да картица може извући више података за мање времена, што се претвара у бржи рад.
Хлађење
Температура ГПУ-а може бити значајно уско грло што се тиче перформанси. Савремени графички процесори повећавају брзину на максимум док покрећу алгоритам. Али чим се достигне одређени температурни праг, ГПУ смањује брзину обраде да би се заштитио од прегревања.
Дизајн вентилатора за хладњаке ваздуха потискује ваздух ван система док непухала усисавају ваздух. У архитектури где је више графичких процесора постављено један поред другог, непухачки вентилатори ће се више загревати. Ако користите ваздушно хлађење у поставци са 3 до 4 графичка процесора, избегавајте вентилаторе који не пуше.
Хлађење водом је друга опција. Иако је скуп, овај метод је много тиши и осигурава да чак и најквалитетније ГПУ поставке остану хладне током рада.
Закључак
За већину корисника који се упуштају у дубоко учење, РТКС 2080 Ти или Титан РТКС ће пружити највећи ударац за ваш новац. Једини недостатак РТКС 2080 Ти је ограничена ВРАМ величина од 11 ГБ. Обука са већим серијама омогућава моделима да тренирају брже и много прецизније, штедећи много времена корисника. То је могуће само ако имате Куадро ГПУ или ТИТАН РТКС. Коришћење полупрецизности (ФП16) омогућава моделима да се уклопе у ГПУ-ове са недовољном величином ВРАМ-а [2]. За напредније кориснике, међутим, Тесла В100 треба да инвестира. То је наш најбољи избор за најбољу графичку картицу за АИ, машинско учење и дубоко учење. То је све за овај чланак. Надамо се да вам се свидело. До идућег пута!
Референце
- Најбољи графички процесори за АИ, машинско учење и дубоко учење у 2020
- Најбољи ГПУ за дубоко учење у 2020
- НВИДИА АИ ИНФЕРЕНЦЕ ПЛАТФОРМА: Велики скокови у перформансама и ефикасности за АИ услуге, од центра података до ивице мреже
- НВИДИА В100 ТЕНСОР ЦОРЕ ГПУ
- Титан РТКС тестови за дубоко учење
