Conheça
Em meio ao rápido desenvolvimento da inteligência artificial (IA) e do aprendizado de máquina (ML), a demanda por infraestrutura de computação mais rápida, eficiente e escalável está crescendo rapidamente. À medida que continuamos a expandir os limites do que é possível com IA, novos desafios na transmissão e processamento de dados surgem. A tecnologia Optical Computing Interconnect (OCI) também surgiu como uma tecnologia inovadora que deve revolucionar a maneira como construímos e conectamos sistemas de IA.
Desafio: Gargalos de entrada/saída na infraestrutura de IA
À medida que os modelos de IA se tornam mais complexos e grandes, a quantidade de dados que precisa ser transmitida entre nós de computação cresce exponencialmente. As interconexões elétricas tradicionais lutam para atender a essas demandas, criando gargalos que limitam o desempenho geral dos sistemas de IA.
Desafios bem conhecidos agora são acelerados pela IA
Este diagrama mostra claramente como as interconexões de rede de computação historicamente ficaram para trás dos requisitos de largura de banda em evolução dos aplicativos de IA. À medida que a IA continua a avançar, espera-se que essa lacuna aumente ainda mais, criando uma necessidade urgente de novas soluções.
Solução: Integração Fotoeletrônica e OCI
Para lidar com esses desafios, pesquisadores e engenheiros estão se voltando para a integração pshotoeletrônica, especificamente a tecnologia de interconexão de computação óptica (OCI). A OCI usa luz para transmitir dados, o que tem várias vantagens importantes sobre as interconexões elétricas tradicionais:
- Maior largura de banda
- Menor consumo de energia com menor densidade
- Menor latência
- Maior distância de transmissão
Aplicação de OCI em infraestrutura de IA
A tecnologia OCI tem duas aplicações principais na infraestrutura de IA: estrutura de computação (cluster de IA/ML) e decomposição de recursos.
Tecido de computação (cluster de IA/ML)
Em clusters de IA/ML, o OCI pode ser usado para conectar servidores baseados em CPU/GPU, seja como conexões nó a nó ou em configurações de malha comutada.
Esta aplicação oferece várias vantagens:
- Ele fornece maior largura de banda para clusters maiores
- Interconexões de cobre estendem distâncias de transmissão
- Menor latência
- Consumo de energia reduzido
Aplicação para OCI em computação em cluster de IA/ML Fabric
Este diagrama mostra como o OCI é usado para conectar vários nós XPU (CPU/GPU) em um cluster de IA/ML, permitindo comunicação de alta largura de banda e baixa latência entre recursos de computação.
Repartição de recursos
OCI também permite a decomposição de recursos, permitindo a criação de pools de recursos compartilhados maiores em vários nós de computação. Essa abordagem oferece várias vantagens:
- Recursos livres de restrições de embalagem e slot
- Melhore a utilização e a eficiência dos recursos
- Conexões sensíveis à latência
- Alta densidade de largura de banda
- Baixo consumo de energia
A aplicação do OCI na desagregação de recursos
Este diagrama descreve como o OCI permite a decomposição de vários recursos de computação, como CPU/XPU, memória, aceleradores e armazenamento, permitindo uma utilização mais flexível e eficiente desses componentes na infraestrutura de IA.
Abordagem OCI da Intel
A Intel está na vanguarda do desenvolvimento de OCI, aproveitando sua experiência em fotônica baseada em silício e empacotamento avançado para criar soluções escaláveis para infraestrutura de IA.
A abordagem deles se concentra em três áreas principais:
- Integrar mais funções fotoeletrônicas em chips fotoeletrônicos integrados (PICs)
- Integrar PIC com o melhor circuito integrado eletrônico (EIC) da categoria usando tecnologia de empacotamento avançada
- Integração mais estreita de chips ópticos com o host (XPU, switch)
Chiplet OCI-Gen1 da Intel
Este diagrama ilustra o conceito de Chiplet OCI da Intel, integrando firmemente a xPU (CPU ou GPU) com o módulo OCI para permitir comunicação óptica de alta largura de banda e baixa latência diretamente da unidade de computação.
OCI e o futuro da infraestrutura de IA
À medida que a IA continua a avançar e a demanda por poder de computação mais poderoso aumenta, a tecnologia OCI desempenhará um papel fundamental na habilitação da próxima geração de infraestrutura de IA. O roteiro de desenvolvimento de OCI da Intel inclui:
- Expandir o número de comprimentos de onda
- Aumentar a taxa de linha
- Expandir o número de fibras ópticas
- Use tecnologia de polarização
Esses avanços permitirão melhorias contínuas em largura de banda, eficiência energética e escalabilidade, possibilitando, em última análise, sistemas de IA mais poderosos e eficientes.
O roteiro de dimensionamento do Intel OCI
Este gráfico mostra o grande plano da Intel para a expansão da tecnologia OCI, que deve aumentar significativamente a largura de banda de 2 Tbps PCIe5/CXL para 16 Tbps UCIe/DWDM em iterações futuras.
Em resumo, a tecnologia OCI representa um avanço significativo na solução dos desafios de interconexão da infraestrutura moderna de IA. Ao alavancar o poder da fotônica integrada, espera-se que a OCI forneça a largura de banda, latência e eficiência de energia necessárias para aplicativos de IA e ML de próxima geração. À medida que empresas como a Intel continuam a investir e desenvolver essa tecnologia, podemos esperar ver sistemas de IA cada vez mais poderosos e eficientes que impulsionarão as possibilidades da IA.
Implementação específica da tecnologia OCI A Intel fez progressos significativos na implementação da tecnologia OCI. Aqui estão alguns detalhes técnicos importantes:
Circuito Integrado Fotônico (PIC)
A Intel desenvolveu um chip PIC de 8 Tbps totalmente integrado com os seguintes recursos:
- Interface óptica de multiplexação por divisão de comprimento de onda densa (DWDM)
- 8 pares de fibras x 8 comprimentos de onda x 64G, compatível com os padrões CW-WDM MSA
- Taxa de transferência de 4 Tbps em cada direção
- Saída de fibra monomodo padrão com baixa abertura numérica e ranhura em V para alinhamento passivo
Circuito integrado fotônico de 8 Tbps da Intel
Este PIC altamente integrado contém um subsistema óptico completo, incluindo uma fonte de laser no chip, um modulador de microanel de alta eficiência, um fotodetector de germânio e um amplificador óptico semicondutor. Este alto nível de integração não apenas melhora o desempenho, mas também reduz o custo e o consumo de energia.
Integração Heterogênea
A Intel usa tecnologia de integração heterogênea de nível de wafer para integrar materiais III-V (como InP) com dispositivos optoeletrônicos baseados em silício. Essa abordagem tem as seguintes vantagens:
- Desempenho: Minimizando perdas de acoplamento
- Confiabilidade: Confiabilidade do laser < 0.1 FIT
- Fabricabilidade: nível de wafer para matriz conhecidamente boa (KGD)
- Custo: Não é necessário um backend laser caro
- Escalabilidade: alta contagem de canais, compartilhamento de recursos
- Flexibilidade: capacidade de vários comprimentos de onda, backup
integração heterogênea de laser III-V/SOA
Essa tecnologia de integração heterogênea foi demonstrada em mais de 8 milhões de PICs implantados em provedores de serviços de nuvem em hiperescala, contendo mais de 32 milhões de lasers no chip.
Chiplet OCI
O Chiplet OCI da Intel é uma pilha de die que fornece E/S óptica usando a tecnologia fotônica de silício da Intel e pode ser co-empacotada com a xPU. Os principais parâmetros do chiplet OCI de primeira geração incluem:
- Interface do host: interface PCIe gen5 SerDes
- Lado óptico: 8 fibras x 8 comprimentos de onda x 32G NRZ, multiplexação por divisão de comprimento de onda densa sobre fibra monomodo
- Largura de banda total: 4 Tbps (2 Tbps em cada sentido)
- Taxa de erro de bit de ponta a ponta: < 1E-12
- Eficiência energética: ~5 pJ/bit
O conceito de CPU da Intel com OCI co-empacotado demonstrado na OFC 2024 mostrou a aplicação prática dessa tecnologia. A demonstração mostrou que, em termos de links ópticos sozinhos, a tecnologia OCI fornece mais de 3 vezes a potência e 5 vezes a melhoria de densidade em relação aos módulos plugáveis.
Desenvolvimento futuro da tecnologia OCI
A Intel tem um roteiro claro para o desenvolvimento da tecnologia OCI, incluindo as seguintes direções principais:
- Expansão do número de comprimentos de onda: dos atuais 8 comprimentos de onda para 16 comprimentos de onda ou até mais
- Aumento da taxa de linha: de 32G NRZ para 64G PAM4, podendo atingir 128G ou mais no futuro.
- Aumento do número de fibras ópticas: Aumentar o número de fibras ópticas mantendo a miniaturização, aumentando assim a largura de banda total.
- Aproveitando a tecnologia de polarização: Aumente ainda mais a densidade de largura de banda por meio da multiplexação de polarização.
Esses avanços permitirão que a tecnologia OCI ofereça suporte a IA e aplicativos de computação de alto desempenho com maior largura de banda, menor latência e maior eficiência energética.
Conclusão
A tecnologia OCI representa um avanço significativo nas interconexões de infraestrutura de IA. Ao alavancar as vantagens da optoeletrônica integrada, a OCI fornece a alta largura de banda, baixa latência e alta eficiência energética necessárias para aplicações de IA e ML de próxima geração. À medida que empresas como a Intel continuam a investir e desenvolver essa tecnologia, podemos esperar ver sistemas de IA mais poderosos e eficientes emergirem, impulsionando o progresso contínuo no campo da inteligência artificial.
A tecnologia OCI não apenas resolve os desafios enfrentados pela infraestrutura de IA atual, mas também fornece uma solução escalável para desenvolvimento futuro. Por meio da inovação tecnológica contínua e da colaboração da indústria, a OCI tem o potencial de se tornar uma tecnologia-chave que dá suporte à próxima geração de infraestrutura de IA e computação de alto desempenho.
Este artigo apresenta os princípios, aplicações e perspectivas de desenvolvimento da tecnologia OCI em detalhes, esperando fornecer aos leitores uma compreensão abrangente dessa tecnologia emergente. À medida que a tecnologia continua a avançar, podemos esperar que a OCI desempenhe um papel cada vez mais importante no avanço dos campos de IA e computação de alto desempenho.