Сеть в эпоху ИИ: спрос, инновации и инвестиционные возможности
В последние годы, с ростом больших моделей, сеть стала ключевым элементом эпохи ИИ. В данной статье мы начнем с принципов и обсудим, почему сеть стала новым "центром" эпохи ИИ, а также рассмотрим возможности инноваций и инвестиций в сетевом сегменте в будущем.
1. Откуда исходят сетевые требования?
Входя в эпоху больших моделей, разрыв между объемом модели и пределом на одну видеокарту быстро увеличивается, и отрасль обращается к многосерверным кластерам для решения проблем обучения моделей, что составляет основу "высшего уровня" сети в эпоху ИИ. В отличие от прошлого, когда сеть использовалась исключительно для передачи данных, сейчас сеть используется больше для синхронизации параметров моделей между видеокартами, что предъявляет более высокие требования к плотности и ёмкости сети.
С увеличением объема модели количество устройств и параллельная эффективность напрямую определяют время, необходимое для обучения. В процессе синхронизации на нескольких картах после каждого вычисления требуется выравнивание между отдельными картами, что предъявляет более высокие требования к сетевой передаче и обмену.
В то же время обучение больших моделей часто продолжается более нескольких месяцев, и сбой или высокая задержка в какой-либо части сети могут привести к прерыванию, что вызывает высокие затраты. Современные ИИ-сети уже развились в нечто, сравнимое с человеческими системами инженерного проектирования, такими как самолеты и авианосцы.
2. Куда направится сетевые инновации?
С ростом объема инвестиций в вычислительную мощность до сотен миллиардов долларов, баланс между снижением затрат, открытостью и масштабом вычислительной мощности станет основной темой сетевых инноваций.
2.1 Изменение средств связи
Свет, медь и кремний являются тремя основными средами передачи для человечества. В эпоху ИИ оптические модули стремятся к более высоким скоростям, одновременно продвигаясь по пути снижения затрат, таким как LPO, LRO и кремниевые оптики. Медь благодаря своей стоимости и низкому уровню неисправностей занимает лидирующие позиции в соединениях внутри шкафов. Новые полупроводниковые технологии, такие как Chiplet и Wafer-scaling, ускоряют исследование пределов кремниевых соединений.
2.2 Конкуренция сетевых протоколов
Протоколы связи между узлами и жесткая привязка к графическим процессорам, такие как NV-LINK от NVIDIA и Infinity Fabric от AMD, определяют пределы возможностей одного сервера или одного вычислительного узла. А конкуренция между IB и Ethernet является основной темой связи между узлами.
2.3 Изменения в сетевой архитектуре
Современная сетевая архитектура между узлами обычно использует архитектуру листа и стебля, обладающую такими характеристиками, как удобство, простота и стабильность. Однако с увеличением числа узлов в отдельном кластере архитектура листа и стебля может привести к значительным сетевым затратам для сверхбольших кластеров. Архитектуры Dragonfly, rail-only и другие новые архитектуры могут стать эволюционным направлением для следующего поколения сверхбольших кластеров.
На этой странице может содержаться сторонний контент, который предоставляется исключительно в информационных целях (не в качестве заявлений/гарантий) и не должен рассматриваться как поддержка взглядов компании Gate или как финансовый или профессиональный совет. Подробности смотрите в разделе «Отказ от ответственности» .
С ростом спроса на сети в эпоху ИИ появляются новые возможности для инвестиций в инновации в области связи
Сеть в эпоху ИИ: спрос, инновации и инвестиционные возможности
В последние годы, с ростом больших моделей, сеть стала ключевым элементом эпохи ИИ. В данной статье мы начнем с принципов и обсудим, почему сеть стала новым "центром" эпохи ИИ, а также рассмотрим возможности инноваций и инвестиций в сетевом сегменте в будущем.
1. Откуда исходят сетевые требования?
Входя в эпоху больших моделей, разрыв между объемом модели и пределом на одну видеокарту быстро увеличивается, и отрасль обращается к многосерверным кластерам для решения проблем обучения моделей, что составляет основу "высшего уровня" сети в эпоху ИИ. В отличие от прошлого, когда сеть использовалась исключительно для передачи данных, сейчас сеть используется больше для синхронизации параметров моделей между видеокартами, что предъявляет более высокие требования к плотности и ёмкости сети.
С увеличением объема модели количество устройств и параллельная эффективность напрямую определяют время, необходимое для обучения. В процессе синхронизации на нескольких картах после каждого вычисления требуется выравнивание между отдельными картами, что предъявляет более высокие требования к сетевой передаче и обмену.
В то же время обучение больших моделей часто продолжается более нескольких месяцев, и сбой или высокая задержка в какой-либо части сети могут привести к прерыванию, что вызывает высокие затраты. Современные ИИ-сети уже развились в нечто, сравнимое с человеческими системами инженерного проектирования, такими как самолеты и авианосцы.
2. Куда направится сетевые инновации?
С ростом объема инвестиций в вычислительную мощность до сотен миллиардов долларов, баланс между снижением затрат, открытостью и масштабом вычислительной мощности станет основной темой сетевых инноваций.
2.1 Изменение средств связи
Свет, медь и кремний являются тремя основными средами передачи для человечества. В эпоху ИИ оптические модули стремятся к более высоким скоростям, одновременно продвигаясь по пути снижения затрат, таким как LPO, LRO и кремниевые оптики. Медь благодаря своей стоимости и низкому уровню неисправностей занимает лидирующие позиции в соединениях внутри шкафов. Новые полупроводниковые технологии, такие как Chiplet и Wafer-scaling, ускоряют исследование пределов кремниевых соединений.
2.2 Конкуренция сетевых протоколов
Протоколы связи между узлами и жесткая привязка к графическим процессорам, такие как NV-LINK от NVIDIA и Infinity Fabric от AMD, определяют пределы возможностей одного сервера или одного вычислительного узла. А конкуренция между IB и Ethernet является основной темой связи между узлами.
2.3 Изменения в сетевой архитектуре
Современная сетевая архитектура между узлами обычно использует архитектуру листа и стебля, обладающую такими характеристиками, как удобство, простота и стабильность. Однако с увеличением числа узлов в отдельном кластере архитектура листа и стебля может привести к значительным сетевым затратам для сверхбольших кластеров. Архитектуры Dragonfly, rail-only и другие новые архитектуры могут стать эволюционным направлением для следующего поколения сверхбольших кластеров.
3. Инвестиционные рекомендации
Ключевые элементы телекоммуникационной системы: Zhongji Xuchuang, Xinyi Sheng, Tianfu Communication, Hudian Co.
Инновационные этапы коммуникационных систем: Chengtong Fiber, Zhongtian Technology, Hengtong Optic-Electric, Shengke Communication.
4. Уведомление о рисках