Você comprou os aceleradores e o gráfico de utilização continua na metade. Raramente são as placas — é um fabric que descarta pacotes na comunicação coletiva, e uma única perda faz o job inteiro esperar por uma retransmissão. Projetamos redes de cluster de IA conforme o job realmente se comporta: um fabric spine-leaf sem sobreassinatura, Ethernet sem perdas com RoCEv2, PFC e ECN ajustados para o seu cluster em vez de copiados de um guia, e um plano de gestão fora de banda que ainda responde quando o fabric não responde. Dimensionada honestamente de um único rack de 8 placas a uma implantação multissala — e orçada para as ópticas e NICs, não só para os switches.
Quatro problemas que encontramos em quase todo cluster que nos procura:
Um fabric plano e não bloqueante construído em torno de um requisito — não descarte o pacote:
Arquitetura desenhada pela AtlasCommTech seguindo práticas de projeto de nível operadora. Os rótulos do diagrama permanecem em inglês para clareza técnica.
Por que nós: nosso fundador passou 13 anos dentro do ecossistema de parceiros da Huawei entregando redes de operadora. É no mundo das operadoras que se aprende que um fabric é julgado pelo seu pior momento, não pela média — exatamente a disciplina de que um cluster de IA precisa, porque um job de treinamento é tão rápido quanto sua operação coletiva mais lenta.
A solução é dimensionada primeiro conforme seus requisitos e orçamento — a mesma arquitetura pode ser entregue sobre as linhas de vários fabricantes. Ajudamos você a escolher pela disponibilidade de fornecimento no país de destino, pelo orçamento e pelos hábitos de operação da sua equipe.
Seis coisas que um fabric de IA faz e que nunca se pedem a uma rede de data center comum:
Diga-nos a quantidade de placas, o layout dos nós e o que seus racks realmente conseguem alimentar e resfriar — o nível diz o formato do fabric:
| Nível de escala | Site típico | O que o projeto inclui |
|---|---|---|
| Rack único, a partir de 8 placas | Um nó ou alguns · um piloto ou um pequeno cluster de pesquisa · uma sala | Um par de switches leaf, sem camada spine alguma — nesse tamanho os leaves conversam diretamente e um spine é uma camada comprada para o diagrama. A configuração sem perdas e a gestão fora de banda permanecem, porque são o que faz disso um cluster em vez de oito computadores caros num rack. |
| Cluster de GPU médio | Vários racks em uma sala · jobs de treinamento em produção · um escalonador à frente | Um fabric spine-leaf completo sem sobreassinatura, um par de leaves por rack, RoCEv2 com PFC e ECN ajustados ao seu tráfego real e não a um template, um caminho de armazenamento separado para que as escritas de checkpoint não colidam com o tráfego de treinamento, um plano fora de banda completo e telemetria por fila exportada desde o início. |
| Implantação multissala | Mais racks do que uma sala consegue alimentar · vários salões ou prédios · trechos longos entre eles | Um fabric por sala com uma camada entre salas acima, as distâncias dos trechos ditando a escolha de ópticas e essa escolha ditando boa parte do orçamento, uma conversa sobre alocação de jobs com quem opera o escalonador para que um job não atravesse salas desnecessariamente, e uma checagem real de energia e refrigeração antes de desenhar a topologia — porque nesse tamanho é o prédio que decide o projeto, não o contrário. |
A solução é construída a partir destas categorias de equipamento — a marca é escolhida com você na fase de projeto. Os modelos exatos dependem da quantidade de placas, do layout de NICs dos nós, das velocidades de porta e do país — por isso especificamos modelos depois da sua lista de requisitos, não antes.
| Função | O que faz |
|---|---|
| Switches leaf (acesso de rack) | Uma porta de alta velocidade por acelerador, buffers profundos o bastante para absorver uma rajada coletiva, e a configuração sem perdas que realmente a sustenta. Dimensionados pelo layout de NICs do seu nó, não pelo que cabe num diagrama de rack. |
| Switches spine (núcleo do fabric) | Dão a cada leaf um caminho de um salto até qualquer outro leaf, sem sobreassinatura. A densidade de portas aqui decide a quantos racks o cluster poderá crescer — por isso é dimensionada para o cluster ao qual você se dirige, não o de partida. |
| Ópticas e cabeamento | Cada enlace de alta velocidade precisa de dois transceivers e um cabo, e a conta chega a centenas rápido. Alcance, tipo de conector e distâncias entre racks decidem a escolha — e este item costuma ser maior que o dos switches, razão pela qual insistimos em dimensioná-lo cedo. |
| Switches de gestão fora de banda | Uma rede pequena, barata e separada que alcança cada porta de gestão da sala. É o equipamento menos interessante desta página e a primeira coisa pela qual você será grato — porque é o único caminho de entrada na noite em que o fabric é o problema. |
| Comutação do caminho de armazenamento | Escritas de checkpoint e leituras de dataset são em rajada à sua maneira, e colocá-las nas mesmas filas do tráfego de treinamento é como um fabric bem ajustado volta a descartar. Separadas por caminho ou por classe de prioridade, conforme a sua cadência de checkpoints. |
| Plataforma de telemetria / gestão | Exporta profundidade por fila, contagens de pause PFC, marcações ECN e descartes, para que uma queda de utilização possa ser atribuída em vez de debatida. Sem isso, a rede é culpada por padrão em toda reunião — e geralmente inocente de fato. |
Envie-nos a quantidade de placas, o layout de NICs dos nós, os limites de energia e refrigeração dos racks e sua cadência de checkpoints — a lista de modelos vem depois. Essa ordem mantém o projeto honesto.
Um engenheiro responde com um projeto de fabric, uma contagem de ópticas e NICs e a lista de categorias de equipamento. Envie sua lista de requisitos — a lista de modelos vem depois.