Huawei представила AI-ускоритель Atlas 350 для нового поколения ИИ-инфраструктуры

Почти втрое быстрее NVIDIA H20: Huawei представила ИИ-ускоритель Atlas 350 для инференса. Компания Huawei Technologies, как сообщает South China Morning Post (SCMP), анонсировала ускоритель Atlas 350, ориентированный на задачи ИИ-инференса. По заявлению производителя, в подобных сценариях новинка способна обеспечивать производительность до 2,8 раза выше по сравнению с NVIDIA H20.

Известно, что Atlas 350 построен на базе чипа Ascend 950PR. Заявленная вычислительная мощность для ИИ-нагрузок в формате FP4 достигает 1,56 Пфлопс. Производительность в других режимах пока официально не раскрывается, однако ранее сообщалось примерно об 1 Пфлопс в FP8. Huawei также использует собственную память HBM. В зависимости от конфигурации ускоритель может оснащаться объёмом памяти до 128 Гбайт при пропускной способности 1,6 Тбайт/с. Остальные технические параметры пока не уточняются.

Atlas 350 специально оптимизирован для этапа предварительного заполнения (Prefill) во время инференса — наиболее ресурсоёмкой стадии работы больших языковых моделей (LLM), когда выполняется обработка пользовательского запроса. Скорость выполнения этой операции напрямую влияет на показатель TTFT (Time To First Token), то есть время от ввода запроса до появления первого токена ответа. Благодаря этому Atlas 350 подходит для ИИ-приложений реального времени и агентных платформ. Одновременно Huawei объявила о планах масштабного обновления собственного портфеля СХД, включая системы OceanStor Dorado и All-Flash решения Pacific 9926. Помимо этого, компания разрабатывает платформу FusionCube A1000, предназначенную для быстрого развёртывания ИИ-систем в сегменте малого и среднего бизнеса.