Илон Маск запустил самый мощный кластер для обучения искусственному интеллекту в мире. Он состоит из 100 тысяч ускорителей Nvidia H100
Глава X (Twitter), Tesla, xAI и SpaceX Илон Маск (Elon Musk) объявил о начале обучения модели искусственного интеллекта GROK 3 в Мемфисе с использованием графических процессоров NVIDIA H100.
«Отличная работа команды xAI, команды X, Nvidia и компаний поддержки, которые начали обучение в Мемфисском суперкластере примерно в 4:20 утра по местному времени. 100 тыс. процессоров H100 с жидкостным охлаждением на одной RDMA-матрице делают этот кластер самым мощным для обучения искусственного интеллекта в мире», — написал Илон Маск в X.
Сообщается, что релиз чат-бота GROK 2 состоится в следующем месяце, а GROK 3 — к декабрю текущего года.
Ранее xAI арендовала чипы Nvidia для обучения ИИ у Oracle, но сейчас компания решила построить свой собственный центр обработки данных. Новый ЦОД по своей мощности превзойдет ЦОД, который арендовался у Oracle. Каждый ускоритель H100 стоит примерно 30 000 долларов, и если для обучения GROK 2 использовалось 20 000 H100, то GROK 3 требует в пять раз большей вычислительной мощности.