Microsoft анонс: Arm-процессор Cobalt 100 и ИИ-ускоритель Maia 100
В рамках конференции Ignite компания Microsoft анонсировала специализированный центральный процессор Cobalt 100, а также специализированный ускоритель вычислений Maia 100. Обе новинки предназначены для ускорения задач, связанных с искусственным интеллектом, а также работой облачных систем.
Microsoft Azure Cobalt 100 — это 128-ядерный процессор с 64-битным набором инструкций Armv9, предназначенный для использования в облачных серверах. Технических подробностей о чипе Microsoft не привела. Однако компания заявила, что производительность Cobalt 100 до 40% выше решений на базе Arm, в настоящий момент использующихся в составе серверных систем Microsoft Azure. В процессорах использована платформа Arm Neoverse CSS, адаптированная для Microsoft, предположительно, с ядрами Arm Neoverse N2.
Microsoft активно внедряет различные технологии искусственного интеллекта (ChatGPT от OpenAI и собственный Copilot) во многие свои сервисы и продукты, поэтому компании требуется стабильный доступ к специализированным серверным ускорителям вычислений для соответствующих задач. Для этого компания при поддержке AMD разрабатывала ускорители Athena. В итоге Microsoft сменила их название на Maia 100. Графические чипы в составе этих ускорителей содержат 105 млрд транзисторов и будут производиться с использованием 5-нм техпроцесса TSMC. Microsoft заявляет, что Maia 100 является одной из самых крупных микросхем, производящихся с использованием этого техпроцесса.
В настоящее время Microsoft тестирует Maia 100 с языковой моделью GPT-3.5 Turbo. Компания заявляет, что Maia 100 обеспечивает совокупную пропускную способность 4,8 Тбит на ускоритель. Для объединения этих ускорителей в составе серверов Microsoft используется интерконнект на основе Ethernet.
Для охлаждения Maia 100 компания Microsoft применяет системы жидкостного охлаждения. Поскольку в настоящий момент у Microsoft нет более эргономичных решений, которые могли бы помещаться непосредственно в состав сервера, компания полагается на вспомогательные внешние установки охлаждения, работающие по принципу необслуживаемых СЖО для домашних ПК, только значительно увеличенных в размерах. Охлаждающая жидкость из внешней установки (охладителя) подаётся по трубкам на контактные пластины, установленные на чипы Maia 100, после этого для отвода тепла жидкость двигается обратно во внешнюю вспомогательную систему охлаждения.
Специализированные процессоры Microsoft Azure Cobalt 100 и ИИ-ускорители Microsoft Azure Maia 100 производитель начнёт использовать в своих серверных системах с начала будущего года. Microsoft также продолжит предоставлять услуги своих облачных сервисов Azure на базе решений компаний NVIDIA и AMD.
