О возможностях мощнейшего в России суперкомпьютера рассказали президент, председатель правления Сбербанка Герман Греф и СТО Сбербанк Груп, исполнительный вице-президент, руководитель блока «Технологии» Сбербанка Давид Рафаловский. Суперкомпьютер MareNostrum, установленный в Barcelona Supercomputing Center, используется для моделирования циркуляции океана. В России создают суперкомпьютер, работающий на частоте 1 трлн герц.
«Сбербанк» представил самый мощный в России суперкомпьютер
В России представили суперкомпьютер «Тераграф», построенный на уникальном отечественном микропроцессоре. Представлен российский суперкомпьютер «Тераграф» с уникальной архитектурой — пост пикабушника На днях на выставке «Цифровая индустрия промышленной России» в Нижнем Новгороде, доцент кафедры компьютерных систем и сетей МГТУ имени Баумана Алексей Попов представил 24-ядерный микропроцессор «Леонард Эйлер» и суперкомпьютер «Тераграф». В России действует и помогает решать серьёзные задачи один из самых мощных суперкомпьютеров в мире. В космосе может появиться российский суперкомпьютер.
Россия сделала свой суперкомпьютер мощнее в 4,5 раза
| В МГУ открыли новый суперкомпьютер, решающий задачи ИИ | ВМК МГУ | Самый мощный суперкомпьютер будет создан в России. |
| В МГУ открыли новый суперкомпьютер, решающий задачи ИИ | ВМК МГУ | Сегодня специалисты в мире работают над увеличением производительности суперкомпьютеров, создавая высокопроизводительные вычислительные машины на новых физических принципах. |
| На пути к зеттафлопсу: в НЦФМ осваивают новые технологии для создания суперкомпьютеров | «Сбер» представил новый суперкомпьютер для ускорения задач в области искусственного интеллекта. |
| Путин дал поручение нарастить мощности суперкомпьютеров — 24.11.2023 — В России на РЕН ТВ | До конца 2030 года в России могут появиться 10 новых суперкомпьютеров мощностью 10 000-15 000 GPU H100, пишут «Ведомости» со ссылкой на рабочий документ АНО «Цифровая экономика». |
В России представили суперкомпьютер для воссоздания состояния Вселенной после Большого Взрыва
Например, если обучать модель с нуля на обычном сервере, на это потребуется 40 лет, а если на одном GPU-ускорителе V100 — 10 лет. Но хорошая новость в том, что задача обучения легко параллелится, и если задействовать хотя бы 256 тех же самых V100, соединить их быстрым интерконнектом, то задачу можно решить всего за две недели. Сейчас мы такую задачу можем решить за несколько часов, но об этом позже. Мы попробовали собрать «нулевой» кластер буквально из того, что было под рукой.
Результаты замеров показали низкий КПД масштабирования. В попытках понять причину придумали методику оценки, которая не требовала глубокого понимания алгоритма работы конкретного обучения. Достаточно построить график потребления энергии и обмена трафиком в одном масштабе.
Обучение идет повторяющимися итерациями: 1. Каждый GPU получает свой batch и обсчитывает его синяя ступенька 2. Затем GPU обменивается по сети с соседями посчитанными результатами зелёная ступенька 3.
GOTO 1 На графике сразу же виден корень проблемы. Не самый эффективный способ использовать железо, согласитесь. Эксперименты на таком кластере проводить можно, но считать что-то серьёзное — нереально.
Поэтому стали собирать новое решение, «расшивая» все узкие места интерконнекта. Попутно столкнулись и с другими сложностями. Яндекс, в свою очередь, уже много лет живёт в дата-центрах IPv6-only.
Фиксы, кстати, выкладываем в опенсорс. Первые кластеры Первый мини-кластер GPU, созданный специально под задачи применения трансформеров c учётом описанных выше узких мест, появился у нас во владимирском дата-центре летом 2020 года. В кластере было 62 узла по 8 GPU в каждом — всего 496 видеокарт.
Казалось бы, сотни видеокарт! Но этого по-прежнему было мало для наших задач, хотя кластер и помог нам начать внедрять трансформеры для улучшения Поиска. Затем в другом нашем ДЦ, в городе Сасово в Рязанской области, появился первый большой кластер.
Мы назвали его в честь Алексея Ляпунова — знаменитого математика, чьи работы лежат в основе кибернетики и теории машинного обучения. Пришлось искать причины и оптимизировать. Коллеги из локального офиса NVIDIA посоветовали потратить ещё несколько дней на замеры производительности, чтобы зарегистрировать кластер в списке Top500.
Но в тот момент мы от этого отказались: торопились отдать кластер нашим ML-инженерам, чтобы загрузить его работой уже на новогодние праздники. Тем более, что тогда мы ещё не осознавали никакой практической пользы от замеров. Логично было распространить этот опыт и на GPU.
Для размещения кластеров выбрали недавно переданные в эксплуатацию модули в дата-центрах Сасово и Владимира. Сами кластеры назвали соответственно «Червоненкис» в честь Алексея Червоненкиса, одного из крупнейших теоретиков машинного обучения и «Галушкин» Александр Галушкин — один из главных исследователей теории нейронных сетей. Размер обусловлен встроенной системой охлаждения.
Они связывают GPU для вычислений. Это продиктовано энергопотреблением — до 20 кВт. Cloud, но об этом поговорим в другой раз.
Обратите внимание на отсутствие любых декоративных пластиковых элементов. Зато есть много свободного места, чтобы воздух мог обдувать огромные радиаторы GPU в центре, именно за счёт этого получается экономить электричество на охлаждении. В кластере 199 серверов с GPU — такое количество обусловлено экономической целесообразностью сборки ядра Infiniband по стандартной схеме на 800 портов с использованием 40-портовых 1U HDR-коммутаторов.
Двухсотый сервер не имеет GPU в своем составе и используется для управления сетью Infiniband. Это позволило создавать кластеры в два раза большего размера по сравнению с коробочным решением SuperPod. Например, вот так выглядят типичные итерации обучения.
О г—Замеры После успешного решения этих и других проблем мы наконец-то получили заветное линейное масштабирование на 152 хостах, доступных на тот момент. Получилось 15,2 петафлопса. Но была одна проблема: пока мы настраивали кластер, закрылось окно подачи в июньский рейтинг.
Мы опоздали буквально на одну неделю. Поэтому решили взять паузу с замерами linpack до осени. За это время мы внедрили все найденные оптимизации на новых кластерах и отдали их пользователям — разработчикам и инженерам внутри компании.
И «Леонард Эйлер» может быть вспомогательным компонентом для центрального процессора, а не его заменой. Высокая эффективность процессоров «Леонард Эйлер» при работе именно с графами обусловлена как раз архитектурой, которая настроена под работу с ними, а не арифметическими формулами. Однако ввиду своей логики, заложенной на уровне инструкций, они рассчитывают каждый граф последовательно, а «Леонард Эйлер» может считать миллионы графов параллельно», — сказал Попов. Другими преимуществами процессоров на новой российской архитектуре являются экономичность материалов, требуемых для изготовления процессоров, и энергопотребление. Такие чипы требуют в 200 раз меньше кремния, чем один микропроцессор семейства Intel Xeon, и потребляют в 10 раз меньше энергии. В перспективе это открывает возможность для использования процессоров «Леонард Эйлер» в устройствах интернета-вещей. Проблемы графа Хотя разработка специалистов университета им.
Баумана кажется перспективной, ее использование на практике очень проблематично. Об этом прежде всего говорит сам Попов. Однако в подавляющем большинстве информация в базах данных систематизируется в табличном формате», — отмечает он. По его словам, у этой проблемы есть несколько решений. Первое — это составление новых баз данных графовым способом. Второе — преобразование табличных архивов в графовые. И оба варианта требуют времени.
Баумана представляется мне актуальной только в рамках исследовательской деятельности.
Этот прогноз оказался верным для ChatGPT. Даже если система будет запрограммирована этически обоснованным образом — к примеру, с учетом принципа, что жертв среди гражданского населения следует избегать любой ценой. А что, если компьютер подсчитает, что бомбардировка больницы может в долгосрочной перспективе избежать гражданских целей? Это абсолютно реалистичный сценарий, и никто не узнает, как компьютер вообще додумался до такого. Нам нужны международные соглашения, запрещающие использование AI в войне.
Практика доказала, что схема работает. Самый наглядный пример — это, конечно же, Сирия. Система рассчитала, что для нормализации обстановки туда не нужно гнать сотни тысяч военных, достаточно небольшой группировки ВКС, ВМФ, спецназа и военной полиции.
Другой пример — это Венесуэла. Все вы помните, что до вмешательства в ситуацию России казалось, что крах Мадуро неминуем, а его противника Гуайдо западные страны поспешили провозгласить новым президентом. Но вмешательство России, которое обошлось даже без военной силы, позволило стабилизировать обстановку. В итоге на сегодняшний день протесты против Мадуро сошли на нет, кровопролития удалось избежать, а экономика постепенно начала восстанавливаться. Доподлинно известно, что в этом процессе были задействованы мощности нашего Национального центра обороны. В общем, система работает, но возникают вопросы о её защищённости и возможностях развития. Военплан Конечно, говоря о суперкомпьютере Минобороны, мы подразумеваем не какой-то один ящик с электроникой, который стоит у всех на виду в центре Москвы. Это геораспределённая сеть, спроектированная таким образом, что даже физическая потеря её части не скажется на работоспособности всей системы, на то она и военная. Также мы можем говорить о существовании автономного военного "интернета", который нигде не пересекается с глобальной сетью.
При этом существующая система позволяет Минобороны координироваться с десятками гражданских министерств и ведомств, тысячами коммерческих структур, которые могут быть задействованы для тех или иных задач. То есть, по сути, уже создана автономная электронная система планового управления страной, правда пока её функционал ограничивается военными задачами. Но вспомним слова Шойгу о возможностях расширения системы и включения в её состав новых модулей. Уверены, что так и будет — всё самое передовое и технологичное по традиции приходит в нашу жизнь из военной сферы. Пока подытожим главное. В России действует и помогает решать серьёзные задачи один из самых мощных суперкомпьютеров в мире. В утверждённой в июле Стратегии национальной безопасности одним из главных приоритетов названа безопасность информационная.
На пути к зеттафлопсу: в НЦФМ осваивают новые технологии для создания суперкомпьютеров
Посмотрев списки на , можно сравнить состояние отрасли суперкомпьютеров в России и в мире. новости. россия. суперкомпьютер.?1700835440. МОСКВА, 24 ноя — ПРАЙМ. В России необходимо не менее, чем на порядок увеличить мощности суперкомпьютеров, заявил президент России Владимир Путин. Так, суперкомпьютер «Яндекса» «Червоненкис» занял 19-ю строчку рейтинга суперкомпьютеров топ-500, став самой производительной системой не только в России, но и во всей Восточной Европе. В результате Россия тогда имела 2,48% суммарной производительности всех суперкомпьютеров мира.
О конференции
Эксперты уверены , что технология продолжит стремительно развиваться: в 1994 году суперкомпьютер работал с такой же скоростью, как современный смартфон сегодня. С годами производительность суперкомпьютеров будет только увеличиваться, а размеры, напротив, уменьшаться. По мнению специалистов, в будущем суперкомпьютеры отойдут от симуляций в пользу глубокой аналитики и будут разрабатывать бесконечные аккумуляторы и лекарства от неизлечимых болезней. Как устроен TOP500 и кто его возглавляет? Рейтинг 500 самых мощных вычислительных систем мира выходит с 1993 года и обновляется каждый год в июне и ноябре. В составлении рейтинга участвуют компьютерные эксперты, ученые, производители и интернет-сообщество. Производительность машин оценивается по результатам теста Linpack, в ходе которого компьютер решает систему линейных уравнений. В этом году лидером рейтинга стал японский Fugaku. Вторая и третья позиции принадлежат американским Summit и Sierra. Большинство суперкомпьютеров в рейтинге приходятся на Китай и США — 173 и 150 устройств соответственно.
Производительность устройства достигает 6,7 петафлопс. Для сравнения, производительность самого мощного суперкомпьютера в мире корпорации IBM составляет 200 петафлопс. Петафлопс — это единица измерения производительности компьютеров. Она показывает сколько операций в секунду может выполнить техника. Суперкомпьютер отличается от обычного высокой вычислительной мощностью.
Хотя пиковая вычислительная мощность суперкомпьютера составляет впечатляющие 400 "искусственных" петафлопсов, следует отметить, что это значение относится к формату данных FP16, известному как "AI" PetaFLOPS. К сожалению, конкретные значения производительности суперкомпьютера МГУ-270 не раскрываются, но предполагается, что это может быть самая мощная вычислительная машина в стране. Новый суперкомпьютер МГУ-270 будет использоваться для создания инновационных инструментов на основе искусственного интеллекта, включая алгоритмы для анализа больших объемов данных и разработки методов защиты ИИ-сервисов.
Суперкомпьютер Dojo разрабатывается для обработки больших массивов данных для обучения автопилота для электромобилей Tesla. Источник изображения: Tesla Венкатараманан, возглавлявший проект Dojo в течение последних пяти лет, уволился из компании в прошлом месяце. Питер Бэннон прежде занимал руководящую должность в Apple, а также работал в других технологических компаниях. До нового назначения в Tesla он в течение последних семи лет также занимал руководящие должности. Суперкомпьютер Dojo предназначен для обработки огромных массивов данных, включая видеофайлы, получаемые с камер автомобилей Tesla. Данные необходимы для обучения специализированного программного обеспечения для автономного вождения. В основе Dojo лежит фирменный чип D1 компании Tesla. В последние недели Tesla также установила оборудование для проекта Dojo в дата-центре в Пало-Альто, в Калифорнии. Проект подразумевает использование нескольких центров обработки данных, расположенных в разных местах. Project Ceiba. Такая стойка сможет обеспечить выдающуюся производительность — до 128 Пфлопс в операциях FP8 квадриллионов операций в секунду. Применяется система жидкостного охлаждения. Система обеспечит производительность 65 Эксафлопс FP8. Его переход в AMD не только символизирует новый этап в карьере признанного специалиста, но и предвещает значительные изменения для самой компании. Источник изображения: servernews. Важной вехой в его карьере стал проект Red Storm, который спас Cray Research от банкротства и вернул компанию на путь инноваций. Переход Скотта в AMD после работы в организации архитектуры оборудования Azure в Microsoft, где он руководил созданием облачных суперкомпьютеров, является логичным шагом в его блестящей карьере. Стив Скотт известен своим вкладом в развитие технологий суперкомпьютеров. В Cray Research он занимался разработкой новаторских архитектур вычислительных систем, что способствовало прорывам в области высокопроизводительных вычислений. Его опыт и знания в области архитектуры высокопроизводительных вычислительных систем и суперкомпьютеров будут ключевыми в разработке новых продуктов AMD, особенно в области ИИ и облачных технологий. Переход Скотта в AMD — это не просто перемещение высококвалифицированного специалиста между компаниями. Это событие, которое может радикально изменить ландшафт суперкомпьютерных технологий. Его опыт в создании инновационных архитектур и управлении сложными проектами в высокопроизводительных вычислениях позволит AMD укрепить свои позиции на мировом рынке и открыть новые горизонты в разработке передовых технологий. По сравнению с предшественником — 256-ядерной моделью Sunway SW26010 без приставки «Pro» — его производительность выросла до четырёх раз, сообщает ресурс Chips and Cheese. Источник изображения: top500. Каждый CG-кластер объединяет 64 вычислительных ядра Compute Processing Elements — CPE с 512-битным векторным движком, 256 кбайт сверхскоростного кеша для данных и 16 кбайт для инструкций; одно управляющее ядро Management Processing Element — MPE — суперскалярное ядро внеочередного действия с векторным движком, по 32 Кбайт кеша L1 для данных и инструкций, 512 Кбайт кеша L2; а также 128-битный интерфейс памяти DDR4-3200. Источник изображения: chipsandcheese. Это особенно важно для приложений с нерегулярным доступом к совместно используемым данным. Каждый 6-кластерный процессор имеет 384 вычислительных и 6 управляющих ядер — всего 390 ядер. В модели SW26010-Pro проблему с кешем попытались решить, увеличив объём сверхскоростной памяти с 64 до 256 Кбайт, но при отсутствии надлежащего L2 этого всё равно недостаточно. Проблему кеша можно частично компенсировать за счёт дорогостоящей и трудозатратной программной оптимизации, но с учётом недостаточной пропускной способности ОЗУ непонятно, насколько в итоге обновлённый процессор окажется эффективным для задач, которые призваны решать экзафлопсные суперкомпьютеры. Источник изображения: Pixabay Проект Nebius базируется в Израиле, а руководит им Роман Чернин, ранее возглавлявший в «Яндексе» подразделение геосервисов. Наша команда разработчиков с большим энтузиазмом отнеслась к тестированию той части нашей новой облачной платформы, которая на тот момент была свободна от рабочей нагрузки клиентов, — сообщила в своём аккаунте LinkedIn отделившаяся от «Яндекса» Nebius. Теперь вы можете использовать часть суперкомпьютера Nebius AI для своих проектов в области искусственного интеллекта». В том, что запустившийся в начале года стартап Nebius уже создал свой суперкомпьютер, причём один из самых производительных в мире, нет ничего удивительного. Например, у «Сбера» в своё время на создание суперкомпьютера ушло всего три-четыре месяца.
Похожие темы
- Из чего сделан «Тераграф»
- Сообщить об ошибке в тексте
- Самый мощный суперкомпьютер в России
- HPC Park в рейтинге Топ 50 суперкомпьютеров России
Путин поручил нарастить мощности суперкомпьютеров не менее чем на порядок
| В России появится фотонный суперкомпьютер, работающий на частоте 1 триллион герц | Стартовал второй день крупнейшей международной онлайн-конференции по искусственному интеллекту, которую организовал Сбер. Там представили новый суперкомпьютер "Кристофари Neo". |
| Ростех создал модульный суперкомпьютер «Фишер» для Российской академии наук | Математика в эпоху суперкомпьютеров. |
В России представили суперкомпьютер для воссоздания состояния Вселенной после Большого Взрыва
И о перспективах ближайших: Российская академия наук намерена вплотную приступить к созданию суперкомпьютера мощностью 1 петафлопс. Интересные новости о суперкомпьютерах и ИИ. Составители авторитетного рейтинга суперкомпьютеров включили нашу страну в топ, причем Россия попала сразу на 19 место списка. Планируется, что мощность компьютера будет увеличена до 234,4 Тфлопс к 2025 году, а конструкция расширится до 34 узлов. Финансирование суперкомпьютера велось на средства федерального гранта. Суперкомпьютер в МГУ имени М.В. Ломоносова стал важным звеном в системе ведущих суперкомпьютерных центров России.
В Москве создали новый российский суперкомпьютер
Новость: Сбербанк запустил второй самый мощный в России суперкомпьютер Christofari Neo, функционирующий на базе чипов Nvidia. На днях на выставке «Цифровая индустрия промышленной России» в Нижнем Новгороде, доцент кафедры компьютерных систем и сетей МГТУ имени Баумана Алексей Попов представил 24-ядерный микропроцессор «Леонард Эйлер» и суперкомпьютер «Тераграф». Планируется, что мощность компьютера будет увеличена до 234,4 Тфлопс к 2025 году, а конструкция расширится до 34 узлов. Финансирование суперкомпьютера велось на средства федерального гранта. 1 сентября в МГУ открыт новый суперкомпьютер, который поможет в проведении научных исследований в области ИИ, решении задач по разработке отечественного ПО и подготовке высококвалифицированных специалистов.
Суперкомпьютер Яндекса признали самым мощным в России
| Суперкомпьютер Сколтеха войдет в десятку самых мощных в РФ | В российском подходе используется иной принцип: все коэффициенты определяются чисто математически. |
| Сбербанк сообщил о создании мощнейшего суперкомпьютера в России | На днях на выставке «Цифровая индустрия промышленной России» в Нижнем Новгороде, доцент кафедры компьютерных систем и сетей МГТУ имени Баумана Алексей Попов представил 24-ядерный микропроцессор «Леонард Эйлер» и суперкомпьютер «Тераграф». |
| Россия сделала свой суперкомпьютер мощнее в 4,5 раза | В Новосибирске учёные разработали и запустили суперкомпьютер, который обладает впечатляющей вычислительной мощностью. |
| Фотонный суперкомпьютер запатентовали в России | 360° | До конца 2030 года в России могут появиться 10 новых суперкомпьютеров мощностью 10 000-15 000 GPU H100, пишут «Ведомости» со ссылкой на рабочий документ АНО «Цифровая экономика». |