Суперкомпьютер Aurora, который будет развернут в Аргоннской национальной лаборатории, проектируемый компаниями Intel и Cray, обойдется в полмиллиарда долларов.

И о перспективах ближайших: Российская академия наук намерена вплотную приступить к созданию суперкомпьютера мощностью 1 петафлопс. В отличие от обычных компьютеров, суперкомпьютеры могут использовать продвинутые методы моделирования с высокой точностью прогноза. Причём в первых реализациях таких гибридных суперкомпьютеров могут потребоваться квантовые сопроцессоры на различных физических платформах для различных алгоритмов.

Самый мощный суперкомпьютер в России

Реализация мегапроекта NICA начата в 2013 году, ввод в эксплуатацию этого ускорительного комплекса планируется осуществить в 2020 году. Суперкомпьютер назван в честь директора Лаборатории вычислительной техники и автоматизации ОИЯИ в 1988-1989 годах Николая Говоруна — члена-корреспондента Академии наук СССР, профессора, доктора физико-математических наук.

Ломоносова запустили суперкомпьютер, который не имеет аналогов ни в каких вузах мира. Ректор МГУ некоторое время назад заявлял о том, что «МГУ-270» не имеет аналогов среди подобных систем в университетах мира и является вторым или третьим по мощности среди всех действующих суперкомпьютеров. Это 400 петафлопс.

Если каких-то тридцать лет назад вычислительный рекордсмен выполнял всего 10 в 9 степени операций в секунду, то нынешний - уже 10 в 15 степени. А за полвека мощность увеличилась в 700 миллионов раз! Современный смартфон работает так же быстро, как суперкомпьютерный лидер 1994 года. Выйдя на "гражданку", суперкомпьютеры произвели революцию во многих сферах нашей жизни. Они являются одним из главных показателей развития страны, ее конкурентоспособности в самых разных сферах экономики. Сегодня, прежде чем создать реальный автомобиль, самолет, ядерный реактор, лекарство, новый материал, в суперкомпьютере моделируется их цифровой двойник. Его "проигрывают" в разных вариантах, испытывают в разных режимах и выбирают лучший, который и должен стать реальным прототипом будущего изделия. Скажем, еще недавно, проектируя автомобиль, конструкторы обязательно разбивали его, направляя в стену, чтобы увидеть, как машина держит удар.

Там еще лет десять назад как все это начиналось, лицензировали и стали собирать конкурента миринета не помню название. Как раз для того что бы можно было строить суперкомпутеры из азиатской россыпи не подпадая под различные ограничения на продажу технологий. А мощные процессоры сейчас commodites. Как собственно и материнские платы.

Квантовые технологии в России 2023

Последний год был очень необычным в Яндексе. Мы собрали и запустили три новых GPU-кластера для задач в области машинного обучения. К примеру, теперь именно на них обучаются гигантские нейросетевые модели Поиска, Алисы и других наших сервисов. Может показаться, что для запуска такого кластера самое сложное — это купить вагон GPU-карточек. В условиях «чипагеддона» это отчасти правда, но нет, самое сложное не в этом. Тут-то и начинается наша история.

Пробный подход к снаряду В 2019 году произошла так называемая «революция трансформеров»: был опубликован ряд статей, которые показали, что применение гигантских нейросетей-трансформеров даёт удивительные результаты на задачах анализа текста. В частности, эти сети очень хорошо подходят для решения задачи ранжирования документов по запросу и для машинного перевода. Более того, их применение не ограничивается сугубо языковыми задачами: трансформерная архитектура позволяет генерировать голос из текста и наоборот, предсказывать действия пользователя и многое другое. В общем, именно трансформеры сейчас определяют качество основных продуктов Яндекса. Если вам интересны детали, коллеги уже рассказывали на Хабре о внедрении этой архитектуры в нашем поиске.

Но проблема была в том, что обучение таких моделей требует огромных вычислительных мощностей. Например, если обучать модель с нуля на обычном сервере, на это потребуется 40 лет, а если на одном GPU-ускорителе V100 — 10 лет. Но хорошая новость в том, что задача обучения легко параллелится, и если задействовать хотя бы 256 тех же самых V100, соединить их быстрым интерконнектом, то задачу можно решить всего за две недели. Сейчас мы такую задачу можем решить за несколько часов, но об этом позже. Мы попробовали собрать «нулевой» кластер буквально из того, что было под рукой.

Результаты замеров показали низкий КПД масштабирования. В попытках понять причину придумали методику оценки, которая не требовала глубокого понимания алгоритма работы конкретного обучения. Достаточно построить график потребления энергии и обмена трафиком в одном масштабе. Обучение идет повторяющимися итерациями: 1. Каждый GPU получает свой batch и обсчитывает его синяя ступенька 2.

Затем GPU обменивается по сети с соседями посчитанными результатами зелёная ступенька 3. GOTO 1 На графике сразу же виден корень проблемы. Не самый эффективный способ использовать железо, согласитесь. Эксперименты на таком кластере проводить можно, но считать что-то серьёзное — нереально. Поэтому стали собирать новое решение, «расшивая» все узкие места интерконнекта.

Попутно столкнулись и с другими сложностями. Яндекс, в свою очередь, уже много лет живёт в дата-центрах IPv6-only. Фиксы, кстати, выкладываем в опенсорс. Первые кластеры Первый мини-кластер GPU, созданный специально под задачи применения трансформеров c учётом описанных выше узких мест, появился у нас во владимирском дата-центре летом 2020 года. В кластере было 62 узла по 8 GPU в каждом — всего 496 видеокарт.

Казалось бы, сотни видеокарт! Но этого по-прежнему было мало для наших задач, хотя кластер и помог нам начать внедрять трансформеры для улучшения Поиска. Затем в другом нашем ДЦ, в городе Сасово в Рязанской области, появился первый большой кластер. Мы назвали его в честь Алексея Ляпунова — знаменитого математика, чьи работы лежат в основе кибернетики и теории машинного обучения. Пришлось искать причины и оптимизировать.

Коллеги из локального офиса NVIDIA посоветовали потратить ещё несколько дней на замеры производительности, чтобы зарегистрировать кластер в списке Top500. Но в тот момент мы от этого отказались: торопились отдать кластер нашим ML-инженерам, чтобы загрузить его работой уже на новогодние праздники. Тем более, что тогда мы ещё не осознавали никакой практической пользы от замеров. Логично было распространить этот опыт и на GPU. Для размещения кластеров выбрали недавно переданные в эксплуатацию модули в дата-центрах Сасово и Владимира.

Сами кластеры назвали соответственно «Червоненкис» в честь Алексея Червоненкиса, одного из крупнейших теоретиков машинного обучения и «Галушкин» Александр Галушкин — один из главных исследователей теории нейронных сетей. Размер обусловлен встроенной системой охлаждения. Они связывают GPU для вычислений. Это продиктовано энергопотреблением — до 20 кВт. Cloud, но об этом поговорим в другой раз.

Там же находится и "Ляпунов". Суперкомпьютер "Галушкин" находится во Владимире, а "Кристофари" и "Кристофари Нео" в Москве, в Сколково, следует из данных открытых источников. Организатором мероприятия выступает Сбербанк. В 2023 году конференция проходит в Москве с 22 по 24 ноября.

Ломоносова ректор В. Садовничий открыл новый суперкомпьютер, обладающий специализированной архитектурой. Компьютер поможет в проведении научных исследований в области искусственного интеллекта ИИ , решении задач по разработке отечественного программного обеспечения и подготовке высококвалифицированных специалистов. Ректор Московского университета академик В. Садовничий: «В середине 1950-х годов именно Московский университет стал первым вузом в стране с собственным вычислительным центром. В стенах МГУ сосредоточились лучшие умы в области информационных технологий, многие из которых — наши выпускники. Здесь разрабатывались и внедрялись передовые вычислительные машины.

Второе место в рейтинге на ноябрь 2023 года занимает суперкомпьютер Aurora, расположенный в Аргоннской национальной лаборатории Argonne National Laboratory — национальном исследовательском центре Министерства энергетики США. Эта огромная установка базируется на процессорах и ускорителях компании Intel. Интересно, что разработчики не успели измерить реальную производительность на всём смонтированном объёме оборудования, из-за чего Aurora не смогла превзойти производительность системы Frontier. Конечно, за полгода инженеры решат эту проблему, и установка Aurora покажет лидерскую производительность, близкую к 2 EFlops. И, скорее всего, в июне 2024 года она займет первое место в рейтинге, потеснив нынешнего лидера — суперкомпьютер Frontier в Национальной лаборатории Oak Ridge National Laboratory, США. Если производитель вычислительных компонент в системе Aurora — компания Intel, то инфраструктурная часть интерконнект, электропитание, охлаждение, компоновка обеспечена компанией Hewlett Packard Enterprise — так же как и в системе Frontier. Третье место в текущем рейтинге занимает система Eagle, созданная компанией Microsoft, и собранная из совершенно стандартных модулей, которые штатно используются компанией в её центрах обработки данных для организации облачного сервиса Microsoft Azure. Установка создана всего за полгода, что в четыре раза быстрее средней продолжительности создания систем уровня Top1, то есть это своеобразный «временной» рекорд. Таким образом, тройка лидеров иллюстрирует всё многообразие технологических подходов к созданию систем эксамасштабного уровня, то есть с производительностью более 1018 Flops. В рейтинге Top500 сохраняется тенденция жёсткого расслоения систем. Производительность первой системы в 500 раз больше производительности последней.

Национальный суперкомпьютерный форум. Краткая информация

Показали российский суперкомпьютер для искусственного интеллекта производительностью 400 петафлопс
Путин дал поручение нарастить мощности суперкомпьютеров — 24.11.2023 — В России на РЕН ТВ
Новости по тегу суперкомпьютер, страница 1 из 18
Россия входит в топ-10 стран по объему вычислительных мощностей суперкомпьютеров - Чернышенко
Самый мощный суперкомпьютер будет создан в России | Холодильная Индустрия
Похожие темы

Суперкомпьютер МГУ поможет повысить уровень кибербезопасности

Суперкомпьютер Aurora, который будет развернут в Аргоннской национальной лаборатории, проектируемый компаниями Intel и Cray, обойдется в полмиллиарда долларов. В Росгидромете запустят повышающий качество прогнозов суперкомпьютер К концу 2018 года в России будет запущен новый суперкомпьютер, который займется прогнозированием опасных погодных явлений, рассказали в Росгидрометцентре. Так, суперкомпьютер «Яндекса» «Червоненкис» занял 19-ю строчку рейтинга суперкомпьютеров топ-500, став самой производительной системой не только в России, но и во всей Восточной Европе. Сбербанк совместно с компанией Nvidia разработал самый мощный в России суперкомпьютер Christofari. «Проскочило в новостях, что его мощность 400 петафлопс, и это был бы действительно второй-третий суперкомпьютер в мире по производительности, но это не так. Президент РФ Владимир Путин поручил правительству разработать и реализовать комплекс мер, направленный на увеличение вычислительных мощностей суперкомпьютеров в России.

«Сбербанк» представил самый мощный в России суперкомпьютер

Стартовал второй день крупнейшей международной онлайн-конференции по искусственному интеллекту, которую организовал Сбер. Там представили новый суперкомпьютер "Кристофари Neo". В таблице ниже можно увидеть информацию о российских суперкомпьютерах, представленных в недавнем мировом рейтинге Top500 в июне 2023 года. И о перспективах ближайших: Российская академия наук намерена вплотную приступить к созданию суперкомпьютера мощностью 1 петафлопс. Ректор МГУ некоторое время назад заявлял о том, что «МГУ-270» не имеет аналогов среди подобных систем в университетах мира и является вторым или третьим по мощности среди всех действующих суперкомпьютеров.

Путин поручил нарастить мощности суперкомпьютеров не менее чем на порядок

Что такое суперкомпьютеры и как они изменят нашу жизнь?	Например, самый мощный суперкомпьютер в России «Червоненкис» за полгода (с июля по ноябрь) опустился в мировом рейтинге на 3 пункта (еще в июле 2022 года он занимал 22 место).
Суперкомпьютер Сколтеха войдет в десятку самых мощных в РФ	Этот суперкомпьютер разработан на основе передовых технологий, и он войдёт в систему с ведущими научными центрами России.
Академик Каляев предложил объединить суперкомпьютеры под управлением ИИ	В таблице ниже можно увидеть информацию о российских суперкомпьютерах, представленных в недавнем мировом рейтинге Top500 в июне 2023 года.
Один из самых мощных суперкомпьютеров в России работает в СевГУ	Важные новости. Модульное решение «РСК Экзастрим ИИ» для развития инфраструктуры искусственного интеллекта в России.
Суперкомпьютеры 2023: новые чемпионы и старые аутсайдеры \| Наука и жизнь	Этот суперкомпьютер разработан на основе передовых технологий, и он войдёт в систему с ведущими научными центрами России.

Регистрация

«Сбербанк» представил самый мощный в России суперкомпьютер // Новости НТВ
Суперкомпьютер Сколтеха войдет в десятку самых мощных в РФ
HPC Park в рейтинге Топ 50 самых мощных компьютеров России.
В погоне за Люксембургом: академия наук подсчитала силу России на трех суперкомпьютерах

В Новосибирске запустили мощный суперкомпьютер

В России представили суперкомпьютер для воссоздания состояния Вселенной после Большого Взрыва	Сейчас семь российских суперкомпьютеров входят в мировой рейтинг Топ500.
Путин поручил нарастить мощности отечественных суперкомпьютеров - 24.11.2023, ПРАЙМ	Будем прорываться: российские суперкомпьютеры По открытым данным, самый мощный в России суперкомпьютер – «Червоненкис» «Яндекса».
Что такое суперкомпьютеры и как они изменят нашу жизнь?	В российском подходе используется иной принцип: все коэффициенты определяются чисто математически.

Вот это прорыв: Россия попала в мировой топ самых мощных суперкомпьютеров

Сбербанк сообщил о создании мощнейшего суперкомпьютера в России	На сайте Минобранауки рассказано о новой разработке российских ученых – первых в мире микропроцессоре и суперкомпьютере, в которых на аппаратном уровне реализован набор команд дискретной математики DISC.
О конференции \| Суперкомпьютерные дни в России	Минпромторг решил вложить 7,6 млрд руб. в создание российского суперкомпьютера на базе российской архитектуры NeuroMatrix, разработанной АО НТЦ «Модуль».
Яндекс создал три мощнейших в России суперкомпьютера	все самое важное и интересное из отрасли связи, IT и телекоммуникаций.
Путин поручил нарастить мощности отечественных суперкомпьютеров - 24.11.2023, ПРАЙМ	Сейчас семь российских суперкомпьютеров входят в мировой рейтинг Топ500.
Путин дал поручение нарастить мощности суперкомпьютеров — 24.11.2023 — В России на РЕН ТВ	Самый мощный суперкомпьютер будет создан в России.

Созданный в МГУ суперкомпьютер вернет России лидерство в этой сфере

Статья Суперкомпьютеры (рынок России), Российские суперкомпьютеры в рейтинге Top500 мира, 2024 Путин поручил нарастить мощность суперкомпьютеров в 10 раз На это нужны миллиарды рублей. В России появится очень быстрый суперкомпьютер – фотонный. Над ним работают ученые Научно-исследовательского центра супер ЭВМ и нейрокомпьютеров в Таганроге. На сайте Минобранауки рассказано о новой разработке российских ученых – первых в мире микропроцессоре и суперкомпьютере, в которых на аппаратном уровне реализован набор команд дискретной математики DISC. В России разработали первый в мире суперкомпьютер с «интуитивным» процессором на базе отечественной архитектуры «Леонард Эйлер» — он называется «Тераграф». Минобрнауки рассказало о новом суперкомпьютере Тераграф на новых микропроцессорах Leonhard. 1 сентября в МГУ открыт новый суперкомпьютер, который поможет в проведении научных исследований в области ИИ, решении задач по разработке отечественного ПО и подготовке высококвалифицированных специалистов.

Новости суперкомпьютер в россии

Похожие темы