A crescente demanda por redes na era da IA revela oportunidades de investimento em inovação em comunicação.

robot
Geração do resumo em andamento

A Rede na Era da IA: Demanda, Inovação e Oportunidades de Investimento

Nos últimos anos, com a ascensão dos grandes modelos, a rede tornou-se uma parte fundamental da era da IA. Este artigo irá explorar, a partir dos princípios, por que a rede se tornou a nova "posição de destaque" na era da IA e discutirá as oportunidades de inovação e investimento no lado da rede no futuro.

1. De onde vem a demanda da rede?

Entrando na era dos grandes modelos, a diferença entre o tamanho do modelo e o limite de uma única placa de vídeo está rapidamente a aumentar, levando a indústria a recorrer a clusters de múltiplos servidores para resolver os problemas de treinamento de modelos, o que constitui a base para a "superioridade" da rede na era da IA. Em comparação com o passado, quando a rede era utilizada apenas para transmitir dados, hoje em dia a rede é mais utilizada para sincronizar os parâmetros do modelo entre as placas de vídeo, exigindo uma maior densidade e capacidade da rede.

Com o aumento do tamanho dos modelos, o número de dispositivos e a eficiência paralela determinam diretamente o tempo necessário para o treinamento. Durante o processo de sincronização em múltiplas placas, é necessário alinhar entre as placas após cada cálculo, o que impõe requisitos mais elevados para a transmissão e troca de rede.

Ao mesmo tempo, o treinamento de grandes modelos muitas vezes dura mais de vários meses, e a falha ou alta latência em um determinado componente da rede pode levar a interrupções, resultando em altos custos. As redes de IA modernas evoluíram para se tornarem um cristal de capacidade de engenharia de sistemas humanos comparável a aviões, porta-aviões e outros.

2. Para onde irá a inovação na rede?

Com a expansão do investimento em capacidade computacional para níveis de centenas de bilhões de dólares, a redução de custos, a abertura e o equilíbrio entre a escala de capacidade computacional serão os principais temas da inovação na rede.

2.1 A substituição dos meios de comunicação

A luz, o cobre e o silício são os três principais meios de transmissão da humanidade. Na era da IA, os módulos de luz estão em busca de taxas de transmissão mais altas, ao mesmo tempo em que avançam no caminho de redução de custos, como LPO, LRO e silício fotônico. O cabo de cobre ocupa a conexão dentro dos racks devido a suas vantagens de custo-benefício e baixa taxa de falhas. Novas tecnologias semicondutoras como Chiplet e Wafer-scaling estão acelerando a exploração dos limites da interconexão baseada em silício.

2.2 Competição de Protocolos de Rede

Os protocolos de comunicação entre placas e a forte ligação às placas gráficas, como o NV-LINK da NVIDIA e o Infinity Fabric da AMD, determinam o limite de capacidade de um único servidor ou nó de computação. A competição entre IB e Ethernet é o tema principal da comunicação entre nós.

2.3 Mudanças na arquitetura de rede

A arquitetura de rede entre nós atualmente utiliza amplamente a arquitetura leaf-spine, que possui características de conveniência, simplicidade e estabilidade. No entanto, à medida que o número de nós em um único cluster aumenta, a arquitetura leaf-spine pode trazer custos de rede significativos para clusters extremamente grandes. Arquiteturas novas, como a arquitetura Dragonfly e a arquitetura rail-only, têm potencial para se tornarem direções evolutivas para a próxima geração de clusters extremamente grandes.

3. Sugestões de Investimento

Elementos centrais do sistema de comunicação: Zhongji Xuchuang, Xinyi Sheng, Tianfu Communication, Hu Dian Co. Ltd.

Inovação no sistema de comunicação: Yangtze Optical, Zhongtian Technology, Hengtong Optic-Electric, Shengkai Communication.

4. Aviso de Risco

  • A demanda por IA não atende às expectativas
  • A lei de escalonamento falhou
  • A competição na indústria intensifica-se
Ver original
Esta página pode conter conteúdo de terceiros, que é fornecido apenas para fins informativos (não para representações/garantias) e não deve ser considerada como um endosso de suas opiniões pela Gate nem como aconselhamento financeiro ou profissional. Consulte a Isenção de responsabilidade para obter detalhes.
  • Recompensa
  • 7
  • Compartilhar
Comentário
0/400
OptionWhisperervip
· 07-15 21:38
Isto tem mesmo o sabor.
Ver originalResponder0
GigaBrainAnonvip
· 07-15 19:57
Frite isso!!!
Ver originalResponder0
GasFeeCriervip
· 07-12 22:14
Não dá para ganhar um pouco de dinheiro?
Ver originalResponder0
DancingCandlesvip
· 07-12 22:13
O tráfego custa dinheiro, realmente é frustrante.
Ver originalResponder0
RugDocDetectivevip
· 07-12 22:09
outra oportunidade de fazer as pessoas de parvas
Ver originalResponder0
AlwaysAnonvip
· 07-12 22:00
Just pull the rug on this one.
Ver originalResponder0
Anon4461vip
· 07-12 21:57
Cuidado ao brincar com fogo!
Ver originalResponder0
  • Marcar
Faça trade de criptomoedas em qualquer lugar e a qualquer hora
qrCode
Escaneie o código para baixar o app da Gate
Comunidade
Português (Brasil)
  • 简体中文
  • English
  • Tiếng Việt
  • 繁體中文
  • Español
  • Русский
  • Français (Afrique)
  • Português (Portugal)
  • Bahasa Indonesia
  • 日本語
  • بالعربية
  • Українська
  • Português (Brasil)