Аппаратная часть ИИ

Интернет-Форум "Все про нейронные сети"
Нейросетевые технологии
Аватара пользователя
admin
Администратор
Сообщения: 1839
Зарегистрирован: 27 июл 2018, 18:43
Откуда: apsheronsk.bozo.ru
Контактная информация:

Аппаратная часть ИИ

Сообщение admin » 16 ноя 2022, 14:51

платформы для искусственного интеллекта

ноябрь 2022
Компания Cerebras Systems сообщила о запуске уникального вычислительного комплекса Andromeda для выполнения «тяжёлых» ИИ-нагрузок. В основу Andromeda положен кластер из 16 блоков Cerebras CS-2, объединённых 96,8-Тбит/с фабрикой. Каждый из них содержит чип WSE-2, насчитывающий 850 тыс. ядер. Таким образом, общее число ядер достигает 13,5 млн. Кроме того, непосредственно в состав каждого чипа входят 40 Гбайт сверхбыстрой памяти.
Суперкомпьютер также использует 284 односокетных сервера с процессорами AMD EPYC 7713. Суммарное количество вычислительных ядер общего назначения составляет 18 176. Каждый из этих серверов несёт на борту 128 Гбайт оперативной памяти, NVMe-накопитель вместимостью 1,92 Тбайт и две сетевые карты 100GbE. Эти узлы отвечают за предварительную обработку информации.

По заявлениям Cerebras, производительность системы превышает 1 Эфлопс на т.н. разреженных вычислениях и достигает 120 Пфлопс при обычных FP16-вычислениях. Это первый в мире суперкомпьютер, который обеспечивает практически идеальное линейное масштабирование при работе с GPT-моделями, в частности, GPT-3, GPT-J и GPT-NeoX. Иначе говоря, при каждом удвоении числа комплексов CS-2 время обучения моделей сокращается почти в два раза. http://citforum.ru/news/44192/
программисту на заметку:
За программу без багов и недоделок ты получаешь деньги единожды, а программа с багами и недоделками кормит тебя всю жизнь.
anekdot.ru

Вернуться в «Нейросети»

Кто сейчас на конференции

Сейчас этот форум просматривают: нет зарегистрированных пользователей и 4 гостя