Nvidia H100 используется разработчиками для создания больших языковых моделей, таких как ChatGPT, которые требуют мощных компьютеров для обработки терабайтов данных в течение длительного времени. И вы уже можете купить этот GPU всего за 40 тыс долларов.

В пятницу на eBay было выставлено не менее восьми H100 по цене от $39 995 до чуть менее $46 000. Некоторые продавцы предлагали его в прошлом по цене около $36 000. Спрос на H100 обусловлен тем, что рынок ИИ продолжает расти, и все больше компаний и организаций стремятся внедрить эту технологию в свою деятельность.

По данным Nvidia, H100 обеспечивает в 2,5 раза более высокую производительность обучения по сравнению со своим предшественником (A100) и в 20 раз более высокую пропускную способность для рабочих нагрузок, связанных с вычислениями ИИ.

Чип оснащен 8 192 ядрами CUDA, 512 тензорными ядрами и 160 потоковыми мультипроцессорами, что делает его одним из самых мощных GPU на рынке.

Источник: Ferra