Ejecutivos de grandes tecnológicas se reúnen con importantes funcionarios de EEUU para discutir sobre los riesgos de la IA

Los ejecutivos que lideran la carrera de IA, incluidos los directores ejecutivos de OpenAI, Google y Microsoft, se reunieron en la Casa Blanca el jueves para lo que un alto funcionario estadounidense describió como una "discusión franca" sobre sus responsabilidades para asegurarse de que sus sistemas son seguros.

La reunión, a la que asistió la vicepresidenta Kamala Harris y otros altos funcionarios, se produce cuando la administración de Joe Biden se esfuerza por desarrollar una respuesta más concertada a los rápidos avances tecnológicos recientes. También llega días después de que el pionero de la IA, Geoffrey Hinton, hiciera sonar una de las advertencias más notables sobre los peligros a largo plazo de desarrollar máquinas que se vuelvan más inteligentes que los humanos.

“Muchas de las grandes empresas de tecnología han hablado sobre sus responsabilidades, y parte de lo que queremos hacer es asegurarnos de tener una conversación sobre cómo van a cumplir con esas promesas”, dijo el alto funcionario de la administración. Esta persona no describió más regulaciones o acciones que la administración de Biden podría considerar.

A los ejecutivos invitados a la reunión se les dijo que se centraría en los riesgos derivados del desarrollo "actual y a corto plazo" de la tecnología. Pero al subrayar la "responsabilidad fundamental de asegurarse de que sus sistemas sean confiables y seguros antes de que sean lanzados o implementados", también ayudará a lidiar con "lo que probablemente serán tecnologías mucho más poderosas en el futuro", dijo el funcionario.

Después de la reunión, Harris dijo en un comunicado: “Como compartí hoy con los directores ejecutivos de las empresas a la vanguardia de la innovación de IA estadounidense, el sector privado tiene la responsabilidad ética, moral y legal de garantizar la seguridad de sus productos. Y cada empresa debe cumplir con las leyes existentes para proteger al pueblo estadounidense”.

Biden también se dejó caer por la reunión, según un informe del evento.

La IA y los cambios laborales del Covid perjudicarían más a las mujeres que a los hombres

Antes de la reunión, la Casa Blanca dijo que siete de las compañías de IA más grandes acordaron abrir sus modelos a cierto grado de escrutinio público en la convención anual de piratas informáticos Def Con en agosto. Sin embargo, dijo que el nivel de apertura sería “consistente con los principios de divulgación responsable”, sin dejar claro cuánto revelarían las empresas. OpenAI se ha negado a publicar información técnica básica sobre su último modelo de lenguaje grande, GPT-4 .

La Casa Blanca también dijo que la Oficina de Administración y Presupuesto publicaría un borrador de pautas para comentarios públicos este verano que rigen el uso de la IA por parte del gobierno federal.

Los líderes tecnológicos que asistieron a la reunión del jueves fueron el director ejecutivo de OpenAI, Sam Altman, el director ejecutivo de Microsoft, Satya Nadella, y Sundar Pichai, director ejecutivo de Google y Alphabet, junto con Dario Amodei, director ejecutivo de la empresa emergente de inteligencia artificial Anthropic. Los funcionarios de la administración en la reunión incluyeron a Jake Sullivan, director del Consejo de Seguridad Nacional; Lael Brainard, directora del Consejo Económico Nacional; Gina Raimondo, secretaria de comercio, y Jeff Zients, jefe de gabinete de la Casa Blanca.

La administración Biden ha anunciado una serie de iniciativas en torno a la IA en los últimos meses, incluida la publicación de un borrador de la declaración de derechos de la IA y el lanzamiento de una revisión en abril de los nuevos estándares técnicos que se necesitan para garantizar que los sistemas de IA funcionen según lo previsto, en lugar de exponer a las personas a situaciones imprevistas. riesgos

Lina Khan, presidenta de la Comisión Federal de Comercio, hizo sonar una de las alarmas más fuertes de la administración el jueves. Escribiendo en el New York Times, dijo que su agencia analizaría si las leyes existentes se pueden usar para abordar cosas como las estafas en línea y las violaciones de la privacidad causadas por la IA.