Open Source, clave para la Inteligencia Artificial

CDMX

La apuesta por la inteligencia artificial (IA) empresarial abierta y segura, con nuevos clientes, socios y colaboraciones en todo el espectro de la herramienta tecnológica, es lo que Intel busca en la actualidad.

Pat Gelsinger, CEO de la empresa tecnológica, presentó el acelerador de IA Intel Gaudi 3, que ofrece un 50% de media más de inferencia y un 60% de media más de eficiencia energética que el procesador Nvidia H100, por una fracción del coste.

“La disponibilidad de Intel Gaudi 3 para los fabricantes de equipos originales (OEM) -incluidos Dell Technologies, HPE, Lenovo y Supermicro- amplía las ofertas del mercado de centros de datos de IA para las empresas”, explicó Gelsinger.

Intel dio a conocer los nuevos clientes del acelerador Intel Gaudi, como Airtel, Bosch, CtrlS, IBM, IFF, Infosys, Landing AI, Ola, NAVER, NielsenIQ, Roboflow y Seekr.

Junto con SAP, Oracle y otros líderes del sector, Intel anunció la intención de crear una plataforma abierta para la IA empresarial con el fin de acelerar el despliegue de sistemas GenAI seguros, habilitados por la generación aumentada por recuperación (RAG).

Redefiniendo los tejidos de IA, críticos para los clústeres de IA a gran escala, Intel presentó la Intel AI NIC (tarjeta de interfaz de red), una solución de conectividad de red basada en Ethernet optimizada para IA para la formación e inferencia de IA a gran escala.

En Intel Vision 2024, Gelsinger comentó que el acelerador Gaudi 3 aportará rendimiento, apertura y opciones a la IA generativa empresarial (GenAI), y dio a conocer un conjunto de nuevos sistemas abiertos escalables, productos de última generación y colaboraciones estratégicas para acelerar la adopción de GenAI.

“El año pasado, sólo 10% de las empresas consiguieron poner en producción proyectos de GenAI, por lo que las últimas soluciones de Intel abordan los retos a los que se enfrentan las empresas a la hora de ampliar las iniciativas de IA.

“Gracias al silicio, la innovación avanza a un ritmo sin precedentes y todas las empresas se están convirtiendo rápidamente en empresas de IA. Intel está llevando la tecnología a todas las partes de la empresa, desde el PC hasta el centro de datos y la plataforma Edge. Nuestras últimas plataformas Gaudi, Xeon y Core Ultra están ofreciendo un conjunto cohesionado de soluciones flexibles adaptadas para satisfacer las necesidades cambiantes de nuestros clientes y capitalizar las inmensas oportunidades que tenemos por delante”, dijo.

Las empresas buscan escalar GenAI de piloto a producción. Para ello, dijo el CEO, necesitan soluciones de fácil acceso basadas en procesadores eficientes en cuanto a rendimiento, costes y energía. “Gaudi 3 también aborda la complejidad, el coste, la fragmentación, la seguridad de los datos y los requisitos de conformidad”.

¿CÓMO FUNCIONA?Gelsinger comentó que el acelerador Intel Gaudi 3 impulsará sistemas de IA con hasta decenas de miles de aceleradores conectados a través del estándar común de Ethernet.

Gaudi 3 promete cuatro veces más capacidad de cálculo de IA para BF16 y 1.5 veces más ancho de banda de memoria que su predecesor. El acelerador ofrecerá un salto significativo en el entrenamiento y la inferencia de IA para las empresas globales que buscan desplegar GenAI a escala.

En comparación con Nvidia H100, se prevé que Intel Gaudi 3 ofrezca un tiempo medio de entrenamiento 70% más rápido para los modelos Llama 2 con 13B parámetros. Además, se prevé que supere a H100 en una media de 50% en inferencia y de 60% en eficiencia energética para los modelos de lenguaje de gran tamaño (LLM) Llama 7B, 70B y Falcon 180B.

Gaudi 3 proporciona software abierto basado en la comunidad y redes Ethernet estándar del sector. Además, permite a las empresas escalar con flexibilidad desde un único nodo hasta clústeres, superclústeres y megaclústeres con miles de nodos, dando soporte a la inferencia, el ajuste fino y la formación a la mayor escala.

Estará disponible para los fabricantes de equipos originales -incluidos Dell Technologies, HPE, Lenovo y Supermicro- en el segundo trimestre de 2024.

MÉXICO, EN LA RUTAMarcelo Bertolami, director de Socios Regionales y del Equipo de Tecnología de Latam de Intel, comentó después de la presentación de Gaudi 3, que en la fabricación de todos los productos que llegarán con Intel (chips y procesadores), México y Costa Rica tendrán participación.

“En Guadalajara tenemos todo el Centro de Innovación que tiene toda la cadena de validación de todos estos productos. México y Costa Rica tienen un rol súper importante en la que tanto del lado de Guadalajara como en el lado de Costa Rica, participarán en la validación de las nuevas familias de procesadores.

“Estoy muy orgulloso de que, por ejemplo, Costa Rica, la planta que tenemos que es el ATM para la parte de servidores, sea clave. Toda la familia de servidores de última línea se está haciendo en este país. Todos los que vienen, otras familias que van a venir a futuro, como Clear Water Forest y demás, se van a ensamblar en Costa Rica y tendrán verificaciones en México”, agregó Bertolami.