В создании систем искусственного интеллекта очень важное место занимает сам процесс обучения, то есть вычислений. Он может требовать производительного оборудования и много времени. Сколько же денег потребуется, чтобы обучить модель, аналогичную той, что лежит в основе нашумевшего ChatGPT?
Согласно отчёту Guosheng Securities, стоимость обучения модели обработки естественного языка GPT-3 составляет около 1,4 миллиона долларов. Для обучения более масштабной модели может потребоваться и вовсе от 2 миллионов долларов.
Если взять для примера именно ChatGPT, то только обработки всех запросов от пользователей необходимо более 30 000 графических процессоров NVIDIA A100. На электроэнергию будет уходить около 50 000 долларов ежедневно.
Источник: Ferra