Elon Musk y cofundador de Apple entre líderes tecnológicos que llaman a suspender avances en IA

Los expertos en Inteligencia Artificial (IA), los líderes de la industria y los investigadores están pidiendo a los desarrolladores de esta tecnología que presionen el “botón de pausa” y dejen por ahora de entrenar a los modelos más poderosos de la última versión detrás de ChatGPT, el chatbot de OpenAI.

Más de 1.100 representantes en la industria firmaron una petición para que los laboratorios dejen de entrenar sistemas poderosos de IA durante al menos seis meses para permitir el desarrollo de protocolos de seguridad comunes. Destacadas figuras de la comunidad tecnológica, incluidos Elon Musk, y el cofundador de Apple, Steve Wozniak, figuraban entre los firmantes, aunque su participación no pudo verificarse de inmediato.

Las razones de las startups chilenas para integrar ChatGPT, la IA que la rompe en el mundo

Carrera desatada 

“Los últimos meses han visto a los laboratorios de IA embarcados en una carrera fuera de control para desarrollar y desplegar mentes digitales cada vez más poderosas que nadie, ni siquiera sus creadores, pueden entender, predecir o controlar de manera confiable”, dice la carta abierta publicada en el sitio web del Instituto Futuro de la Vida. “Los sistemas de IA potentes deben desarrollarse solo una vez que estemos seguros de que sus efectos serán positivos y sus riesgos manejables”.

El llamado se produce después del lanzamiento de una serie de proyectos de IA en los últimos meses que realizan tareas humanas de manera convincente, como escribir correos electrónicos y crear arte. OpenAI, respaldado por Microsoft, lanzó su GPT-4 este mes, una importante actualización de su chatbot impulsado por IA, capaz de contar chistes y aprobar exámenes, como la prueba para graduarse como abogado.

Microsoft y Google, de Alphabet, se encuentran entre las empresas que utilizan IA para mejorar sus motores de búsqueda, mientras que Morgan Stanley ha estado usando GPT-4 desde el año pasado para crear un chatbot para sus asesores de patrimonio.

Microsoft presenta nueva herramientas basada en ChatGPT para combatir ciberataques

Confiables y leales

Los desarrolladores deberían trabajar con los legisladores para crear nuevos sistemas de gobierno para la IA y órganos de supervisión, según la carta, que pidió que los gobiernos intervengan en el desarrollo de sistemas de IA si los principales actores no aceptaban de manera inminente una pausa pública y verificable.

“La investigación y el desarrollo de la IA deben reenfocarse en hacer que los sistemas poderosos y de última generación de hoy en día sean más precisos, seguros, interpretables, transparentes, robustos, alineados, confiables y leales”, dijo.