El software lleno de errores de Huawei dificulta los esfuerzos de China por reemplazar a Nvidia en IA

Los esfuerzos de China para igualar el poder de cómputo de EEUU en Inteligencia Artificial (IA) se están viendo obstaculizados por software lleno de errores, con clientes del principal fabricante de chips de IA, Huawei, quejándose de problemas de rendimiento y de la dificultad de cambiar de productos de Nvidia.

El gigante tecnológico chino ha surgido como el principal competidor en la carrera por desarrollar una alternativa doméstica al líder de la industria, Nvidia, después de que Washington endureciera aún más los controles de exportación de silicio de alto rendimiento en octubre pasado.

Su serie Ascend se ha convertido en una opción cada vez más popular para los grupos chinos de IA para ejecutar inferencias, un proceso que utilizan aplicaciones como ChatGPT de OpenAI para generar respuestas a consultas.

Huawei compite con Apple en el lanzamiento de su nuevo smartphone

Problemas de rendimiento y establidad

Pero varios expertos de la industria, incluido un ingeniero de IA en una empresa asociada, dijeron que los chips aún están muy por detrás de los de Nvidia para el entrenamiento inicial de modelos. Culparon a problemas de estabilidad, una conectividad más lenta entre chips y un software inferior desarrollado por Huawei llamado Cann.

La plataforma de software Cuda de Nvidia es reconocida como el "ingrediente secreto" de la compañía por ser fácil de usar para los desarrolladores y capaz de acelerar enormemente el procesamiento de datos. Huawei es una de muchas empresas que intentan romper el dominio de Nvidia en los chips de IA creando software alternativo.

Incluso los propios empleados de Huawei están entre los que se quejan de Cann. Un investigador, que prefirió no ser nombrado, dijo que esto hacía que el producto Ascend fuera "difícil e inestable de usar" y que el trabajo de prueba estaba siendo obstaculizado.

“Cuando ocurren errores aleatorios, es muy difícil averiguar de dónde provienen debido a la mala documentación. Se necesitan desarrolladores talentosos para leer el código fuente y ver cuál es el problema, lo que ralentiza todo. La codificación es imperfecta”, dijo.

Otro ingeniero chino informado sobre el uso de los procesadores de Huawei por parte de Baidu dijo que los chips se bloqueaban con frecuencia, lo que complicaba el trabajo de desarrollo de IA.

El investigador de Huawei dijo que los bloqueos ocurrían porque era difícil usar el hardware. “Es fácil obtener malos resultados porque la gente no sabe mucho sobre el hardware en sí”, comentó.

Respuesta de Huawei

Para abordar el problema, Huawei ha estado enviando ingenieros para ayudar a los clientes en el sitio con la transferencia de código de entrenamiento escrito previamente en Cuda a Cann, según varias personas familiarizadas con el asunto. Baidu, iFlytek y Tencent son algunas de las empresas tecnológicas que han recibido equipos de ingenieros, dijeron estas personas.

Huawei declinó hacer comentarios. Baidu, iFlytek y Tencent no respondieron a solicitudes de comentarios.

Un ex empleado de Baidu dijo: "Huawei sobresale en el servicio al cliente, por lo que, por supuesto, tienen ingenieros en el lugar en sus grandes clientes, ayudándoles a usar sus chips".

Huawei puede aprovechar una enorme fuerza laboral para acelerar la transición. Según la compañía, más del 50% de sus 207.000 empleados trabajan en Investigación y Desarrollo (I+D), incluidos los ingenieros enviados para instalar tecnología para los clientes.

"La ventaja de Huawei sobre Nvidia es que puede trabajar estrechamente con sus clientes", dijo la analista de tecnología Tilly Zhang en la consultora Gavekal. "A diferencia de Nvidia, tiene un gran equipo de ingenieros para ayudar a resolver los problemas de los clientes y lograr que cambien a su hardware".

Huawei también ha creado un portal en línea para que los desarrolladores den su opinión sobre cómo se puede mejorar su software.

Restricciones y demanda

Después de que EEUU endureciera los controles de exportación en octubre, Huawei aumentó el precio del Ascend 910B, su chip utilizado para el entrenamiento, en un 20 a 30%, según personas familiarizadas con el asunto.

Los clientes de Huawei también han expresado su preocupación por las restricciones de suministro del chip Ascend, probablemente debido a dificultades de fabricación, ya que a las empresas chinas se les impide comprar maquinaria de última generación para la fabricación de chips de la empresa holandesa ASML.

Huawei ha visto una fuerte demanda de sus chips de IA. Reportó un aumento del 34% en los ingresos del primer semestre el jueves, sin proporcionar un desglose de las ventas de sus diferentes negocios.

Más de 50 modelos fundacionales han “sido entrenados e iterados” en el chip Ascend, dijo Zhang Ping’an, director ejecutivo de Huawei, en la Conferencia Mundial de Inteligencia Artificial en Shanghái en julio.

iFlytek ha dicho que su gran modelo de lenguaje ha sido entrenado exclusivamente en chips de Huawei después de que Huawei enviara un grupo de ingenieros a su sede en Hefei, al este de China, el año pasado para integrar la tecnología.