Lambda соединяет более 10 000 чипов для ИИ новой оптической сетью
Lambda использует оптические коммутаторы NVIDIA для сети с более чем 10 000 графических процессоров. Об этом сообщает NVIDIA.
Сбой одного соединения при обучении ИИ может остановить работу тысяч процессоров. Новая сеть должна сократить перебои и расход электричества на передачу данных.
Коротко
- В испытаниях Lambda задержка передачи данных снизилась примерно на 4% на уровне стойки.
- Пропускная способность сохранилась на уровне обычной сменной оптики.
- Лазеров стало вчетверо меньше: сократилось число деталей, которые могут выйти из строя.
Оптику приблизили к чипу, чтобы сократить потери
Коммутатор направляет данные между частями вычислительной системы. В решении NVIDIA оптические блоки разместили рядом с его чипом на общей подложке. Они превращают электрические сигналы в свет для передачи по волокну.
Электрический путь сократился с дюймов до миллиметров, что уменьшает потери сигнала. Отдельные чипы для восстановления сигнала больше не нужны. Это снижает расход энергии и число деталей на пути данных.
NVIDIA заявляет о росте энергоэффективности до пяти раз относительно обычной сменной оптики. Надёжность, по оценке компании, выше до 15 раз.
Охлаждение и сменные источники света упрощают работу сети
В установке Lambda каждый коммутатор имеет 144 порта со скоростью 800 Гбит/с. Жидкость отводит тепло от чипа и оптических блоков. По сообщению компании, медианная температура оптики составила 36 °C против 51 °C у обычной.
Каждый коммутатор получает свет от 18 внешних съёмных источников. Техники могут заменять их на месте. При отказе лазера в обычной сменной оптике приходится менять модуль целиком.
На уровне группы стоек испытания показали снижение сетевой задержки примерно до 10%. Результат зависит от масштаба конфигурации. Lambda также сообщает о более стабильном качестве сигнала.
Что это значит для вас
- При работе множества ИИ-агентов сетевой сбой может вызвать цепочку задержек. Поэтому устойчивость соединений влияет и на выполнение таких задач.
- Энергия, которую потребляет сеть, недоступна для вычислений. Снижение её расхода помогает сохранить больше мощности для работы ИИ.
Что делать
Пока ничего: следите за сообщениями Lambda о работе новой сети.
Редакция «Применяй ИИ» · Как мы готовим новости
Темы:Чипы и видеокарты