El papel fundamental de Ethernet en las redes de IA

El rápido avance de la tecnología de inteligencia artificial (IA) está revolucionando las industrias de la computación en la nube y la TI. Desde el lanzamiento de Chat GPT en noviembre de 2022, el campo de la IA ha experimentado un auge de inversiones, atrayendo una atención significativa. Los principales proveedores de servicios en la nube han presentado nuevos productos y servicios para satisfacer la creciente demanda de IA, mientras que muchas grandes empresas están explorando activamente casos de uso de IA como la IA generativa (GenAI) para mejorar la eficiencia operativa y el retorno de la inversión.

Sin embargo, el rápido desarrollo de la IA plantea mayores exigencias a la infraestructura de los proveedores de servicios en la nube y los centros de datos empresariales. Los datos, como “combustible” fundamental para el desarrollo de la IA, deben recopilarse, protegerse y transmitirse de manera eficiente. Las organizaciones que exploran nuevas aplicaciones de IA deben abordar estos desafíos. Para dar soporte a los enormes datos y recursos computacionales que requiere la IA, necesitamos construir infraestructuras de red más eficientes y confiables.

En este contexto, la tecnología Ethernet, con su ecosistema maduro y extendido, se está convirtiendo en un soporte crucial para la infraestructura de red de IA. Ethernet muestra un gran potencial para satisfacer las altas demandas de la IA y proporcionar una plataforma unificada, lo que afecta significativamente la viabilidad económica de la IA. Puede lograr modelos operativos consistentes en varias redes y nubes, evitando los altos costos asociados con el mantenimiento de múltiples infraestructuras.

Requisitos clave para el desarrollo de redes de IA

• Velocidad: El rápido crecimiento de los servicios de IA impulsa la necesidad de mayores velocidades en los centros de datos y las redes de borde, impulsando las redes hacia nuevas generaciones como 400 Gbit/s e incluso 800 Gbit/s.
• Privacidad y seguridad: Las redes deben manejar los datos de manera eficiente y al mismo tiempo garantizar el cifrado y la seguridad de alto nivel en entornos de múltiples inquilinos para proteger la privacidad de los datos.
• Inferencia de borde: a medida que las empresas implementan modelos de lenguaje grandes (LLM) o modelos de lenguaje pequeños (SLM) y nubes de IA privadas híbridas, la implementación del frontend de las capacidades de inferencia se convertirá en un punto focal.
• Tiempo corto de finalización de trabajo (JCT) y baja latencia: optimizar las redes para proporcionar una transmisión sin pérdidas, asegurando una utilización eficiente del ancho de banda a través de la gestión de la congestión y el equilibrio de carga, es clave para lograr un JCT rápido.
• Clústeres flexibles: en los centros de datos de IA, los clústeres de procesadores se pueden configurar en varias topologías. Para optimizar el rendimiento es necesario evitar la sobresuscripción entre capas o regiones para reducir el JCT.
• Compatibilidad con múltiples inquilinos: por razones de seguridad, las redes de IA necesitan separar los flujos de datos.
• Arquitectura estandarizada: las redes de IA suelen constar de una infraestructura de back-end (entrenamiento) y de front-end (inferencia). La generalidad de Ethernet permite la reutilización técnica entre clústeres de back-end y front-end.

Innovación continua en tecnología Ethernet

La tecnología Ethernet está en constante innovación y desarrollo para satisfacer las mayores demandas de escala de red por parte de la IA. Algunos avances tecnológicos clave incluyen:

• Rociado de paquetes: esta tecnología permite que cada flujo de red acceda a todas las rutas hacia el destino simultáneamente. El ordenamiento flexible de los paquetes utiliza por completo todos los enlaces Ethernet con un equilibrio de carga óptimo, lo que aplica el ordenamiento solo cuando las operaciones con uso intensivo de ancho de banda lo requieren en cargas de trabajo de IA.
• Gestión de la congestión: los algoritmos de control de la congestión basados ​​en Ethernet son fundamentales para las cargas de trabajo de IA. Evitan los puntos conflictivos y distribuyen uniformemente la carga entre múltiples rutas, lo que garantiza una transmisión confiable del tráfico de IA.

Infraestructura empresarial unificada y optimizada

Las empresas necesitan implementar una infraestructura de red de IA unificada y modelos operativos para reducir el costo de los servicios y aplicaciones de IA. La adopción de Ethernet basada en estándares como tecnología de soporte es un elemento central. Garantiza la compatibilidad entre los sistemas front-end y back-end, evitando los obstáculos del proceso de estandarización y los impactos económicos que traen las diferentes arquitecturas. Por ejemplo, Arista aboga por construir un "Centro de IA", donde las GPU se entrenan de manera eficiente a través de redes sin pérdidas. Los modelos de IA entrenados se conectan a clústeres de inferencia de IA, lo que permite a los usuarios finales consultar estos modelos cómodamente.

Ventajas de mercado de Ethernet

Ethernet muestra una fuerte competitividad en la implementación de IA debido a su apertura, flexibilidad y adaptabilidad. Su desempeño supera a InfiniBand y, con las mejoras del Consorcio Ultra Ethernet (UEC), sus ventajas se ampliarán aún más. Además, Ethernet es más rentable, tiene un ecosistema más amplio y abierto, brindando generalidad, operaciones unificadas y conjuntos de habilidades para clústeres tanto de back-end como de front-end, así como oportunidades de reutilización de plataformas entre clústeres. A medida que los casos de uso y los servicios de IA continúan expandiéndose, las oportunidades para la infraestructura Ethernet aumentarán significativamente, ya sea en el núcleo de los LLM de hiperescala o en el borde empresarial. Ethernet preparada para IA puede satisfacer la demanda y brindar inferencia de IA basada en datos privados específicos de la industria.

En resumen, la tecnología Ethernet desempeña un papel fundamental en la infraestructura de red de IA. Puede satisfacer las necesidades multifacéticas de la IA en términos de velocidad, seguridad, inferencia de borde y más. A través de la innovación tecnológica continua y el amplio soporte del ecosistema, Ethernet proporciona soluciones más eficientes y rentables para las empresas, lo que promueve la aplicación y el desarrollo generalizados de la IA.