ACCESIBILIDAD
- Alto contraste

Tech & Negocios

El Pentágono insta a las empresas de inteligencia artificial a compartir más sobre su tecnología

Quiere que las empresas compartan información sobre cómo se construye su software de inteligencia artificial para que el departamento pueda “sentirse cómodo y seguro” al adoptarlo.

Por: Bloomberg

Publicado: Lunes 2 de octubre de 2023 a las 11:08 hrs.

Estados Unidos

Inteligencia Artificial

empresas

El principal funcionario de inteligencia artificial del Departamento de Defensa dijo que la agencia necesita saber más sobre las herramientas de inteligencia artificial antes de comprometerse plenamente con el uso de la tecnología e instó a los desarrolladores a ser más transparentes.

Craig Martell, director de inteligencia digital y artificial del Pentágono, quiere que las empresas compartan información sobre cómo se construye su software de inteligencia artificial (sin perder su propiedad intelectual) para que el departamento pueda “sentirse cómodo y seguro” al adoptarlo.

El software de inteligencia artificial se basa en grandes modelos de lenguaje, o LLM, que utilizan conjuntos de datos masivos para impulsar herramientas como chatbots y generadores de imágenes. Los servicios normalmente se ofrecen sin mostrar su funcionamiento interno, en la llamada caja negra. Eso dificulta que los usuarios comprendan cómo la tecnología llega a tomar decisiones o qué hace que su trabajo mejore o empeore con el tiempo.

"Sólo estamos obteniendo el resultado final de la construcción del modelo; eso no es suficiente", dijo Martell en una entrevista. El Pentágono no tiene idea de cómo están estructurados los modelos o qué datos se han utilizado, dijo.

Las empresas tampoco explican qué peligros podrían representar sus sistemas, dijo Martell.

“Están diciendo: 'Aquí está. No te contamos cómo lo construimos. No te vamos a decir en qué es bueno o malo. No les diremos si es parcial o no'”, dijo.

Describió tales modelos como el equivalente de “tecnología extraterrestre encontrada” para el Departamento de Defensa. También le preocupa que sólo unos pocos grupos de personas tengan suficiente dinero para crear un LLM. Martell no identificó ninguna empresa por su nombre, pero Microsoft Corp., Google de Alphabet Inc. y Amazon.com Inc. se encuentran entre los que desarrollan LLM para el mercado comercial, junto con las nuevas empresas OpenAI y Anthropic.

Martell invitará a la industria y a los académicos a Washington en febrero para abordar sus preocupaciones. El simposio del Pentágono sobre datos de defensa e inteligencia artificial tiene como objetivo determinar qué trabajos pueden ser adecuados para realizar los LLM, dijo.

El equipo de Martell, que ya dirige un grupo de trabajo para evaluar los LLM, ya ha encontrado 200 usos potenciales para ellos dentro del Departamento de Defensa, dijo.

"No queremos detener los grandes modelos lingüísticos", afirmó. "Sólo queremos entender el uso, los beneficios, los peligros y cómo mitigarlos".

Hay "un gran aumento" dentro del departamento de personas a las que les gustaría utilizar los LLM, dijo Martell. Pero también reconocen que si la tecnología alucina (el término utilizado cuando el software de IA fabrica información o entrega un resultado incorrecto, lo cual no es raro), ellos son los que deben asumir la responsabilidad por ello.

Espera que el simposio de febrero ayude a construir lo que llamó “un modelo de madurez” para establecer puntos de referencia relacionados con las alucinaciones, los prejuicios y el peligro. Si bien podría ser aceptable que el primer borrador de un informe incluyera errores relacionados con la IA (algo que un ser humano podría eliminar más adelante), esos errores no serían aceptables en situaciones más riesgosas, como la información necesaria para tomar decisiones operativas.

Una sesión clasificada en el evento de tres días de febrero se centrará en cómo probar y evaluar modelos y protegerse contra la piratería.

Martell dijo que su oficina desempeña un papel de consultoría dentro del Departamento de Defensa, ayudando a diferentes grupos a encontrar la forma correcta de medir el éxito o el fracaso de sus sistemas. La agencia tiene más de 800 proyectos de IA en marcha, algunos de ellos relacionados con sistemas de armas.

Dado lo que está en juego, el Pentágono aplicará un estándar más alto sobre cómo utiliza los modelos algorítmicos que el sector privado, dijo.

“Habrá muchos casos de uso en los que habrá vidas en juego”, afirmó. "Así que permitir la alucinación o como queramos llamarla, simplemente no será aceptable".

ARTICULOS RELACIONADOS

Laurence Devillers, profesora de Ciencias de la Computación de la Universidad París-Sorbona: “Lo que ha hecho Trump, decir que desregulemos todo, es una pesadilla”

<p>Hernán Orellana, consultor de transformación digital y director de empresas</p>

DF Lab Opinión/ Datos abiertos, fuente de inspiración y transparencia (parte 1)

<p>Zaira Nazario, teórica cuántica y directora de ciencia y tecnología en IBM Research, en el Congreso Futuro 2025.</p>

Zaira Nazario, directora de ciencia y tecnología en IBM Research: "Los computadores cuánticos se han convertido en herramientas de descubrimiento científico”

Monique Morrow, experta en tecnología y seguridad: “El próximo paso es desarrollar una caja de seguridad digital para proteger las identidades”

Newsletters

Conoce lo más importante que hizo noticia en la primera parte de la jornada. Por Concetta Caciattore - Lunes a viernes PM

Entérate primero cómo viene el mercado, las noticias que debes saber y los hechos que marcarán la pauta en el día. Por Marcela Vélez-Plickert - Lunes a viernes AM

Lo urgente que debes saber en mercados, empresas, economía e internacional - 24/7

NEWS DIARIO - Domingo a jueves PM

NOTICIAS MÁS LEÍDAS - Lunes a viernes PM, Sábado AM

Your essential daily briefing - Lunes, martes y miércoles PM

Análisis, fondos de inversión, indicadores, proyectos, tendencias, terrenos - Lunes AM

NOTICIAS DE PORTADA - Sábado AM

DF SUD

Megacentro anuncia inversión de US$ 30 millones en Perú para expandir su infraestructura logística

DF SUD

EEUU, la Unión Europa y el Reino Unido sancionan a funcionarios venezolanos tras la cuestionada juramentación de Maduro

DF SUD

Nicolás Maduro jura como Presidente de Venezuela por seis años más en medio de serios cuestionamientos

CAPITAL

Benjamín Vicuña: “Inevitablemente me transformé en un embajador del duelo”

Glocal

Los barrios emblemáticos de Los Ángeles reducidos a cenizas

DF MAS

La columna de J.J.Jinks: Se busca

Laboral & Personas Construcción Fondos de Inversión Entre Códigos Somos Financieras

Claudio Hohmann, Ximena Rincón, ignacio Sánchez, Rosario Navarro, Felipe Larraín y Bárbara Figueroa. Foto: Julio Castro

Laboral & Personas

Propulsor de la participación gremial y los diálogos sin barreras: el legado de Alfonso Swett según Rosario Navarro y Bárbara Figueroa

La reflexión se dio en el seminario en homenaje al expresidente de la CPC organizado por Clapes. En la cita, también participó la senadora Ximena Rincón.

Laboral & Personas

A los 80 años fallece el expresidente de la SNA y la CPC Ricardo Ariztía

La instancia es integrada por representantes de empresas, gremios y sindicatos, entre otros.

Laboral & Personas

El otro balance de la Ley Karin: los nudos críticos de la normativa según empresarios, trabajadores y expertos

Laboral & Personas

JP Morgan valora acuerdo en pensiones y calcula una millonaria inyección de recursos al mercado de capitales por la mayor cotización previsional

Laboral & Personas

Tasa de sindicalización llega a casi un 20% y sube valoración de las negociaciones colectivas

Laboral & Personas

Propulsor de la participación gremial y los diálogos sin barreras: el legado de Alfonso Swett según Rosario Navarro y Bárbara Figueroa

Laboral & Personas

A los 80 años fallece el expresidente de la SNA y la CPC Ricardo Ariztía

Laboral & Personas

El otro balance de la Ley Karin: los nudos críticos de la normativa según empresarios, trabajadores y expertos

Laboral & Personas

JP Morgan valora acuerdo en pensiones y calcula una millonaria inyección de recursos al mercado de capitales por la mayor cotización previsional

Laboral & Personas

Tasa de sindicalización llega a casi un 20% y sube valoración de las negociaciones colectivas

Construcción

DOM de Iquique por polémico pronunciamiento de Contraloría:“Me parece que no se midió, estamos siendo los conejillo de indias”

Según estimaciones de la autoridad, alrededor de 60 permisos de obra podrían entrar en un proceso de invalidación.

Construcción

Seremi fija parámetros para resolver conflictos de “edificios fantasmas” en Estación Central

Construcción

EBCO realiza aumento de capital por cerca de US$ 50 millones para impulsar su crecimiento y consolidar proyectos inmobiliarios

Construcción

Tras un negativo 2024, industria de la construcción prevé un leve repunte en 2025 impulsado por los proyectos mineros y energéticos

Construcción

Nuevo Pudahuel vuelve a arremeter contra el MOP: solicita compensación y extensión de plazo por nuevo conflicto contractual

Construcción

DOM de Iquique por polémico pronunciamiento de Contraloría:“Me parece que no se midió, estamos siendo los conejillo de indias”

Construcción

Seremi fija parámetros para resolver conflictos de “edificios fantasmas” en Estación Central

Construcción

EBCO realiza aumento de capital por cerca de US$ 50 millones para impulsar su crecimiento y consolidar proyectos inmobiliarios

Construcción

Tras un negativo 2024, industria de la construcción prevé un leve repunte en 2025 impulsado por los proyectos mineros y energéticos

Construcción

Nuevo Pudahuel vuelve a arremeter contra el MOP: solicita compensación y extensión de plazo por nuevo conflicto contractual

Fondos de Inversión

Caso Factop: tribunal dicta arresto domiciliario total para Álvaro Jalaff y nocturno para su hermano Antonio

Por su parte, para los socios de LarrainVial, Manuel Bulnes y Felipe Porzio, se dispuso la firma mensual.

Fondos de Inversión

Caso Factop: defensa de Antonio Jalaff niega delitos en fondo y revela posible acuerdo con Fintrust

Fondos de Inversión

AGF LarrainVial Activos, implicada en Caso Factop, aprueba aumento de capital de hasta US$ 6 millones

Fondos de Inversión

Caso Factop: hermanos Jalaff arriesgan desde 20 años de cárcel por delitos investigados, según la Fiscalía

Fondos de Inversión

LarrainVial logra congelar recursos que entrarían a Jalaff por venta de Youtopia

Fondos de Inversión

Caso Factop: tribunal dicta arresto domiciliario total para Álvaro Jalaff y nocturno para su hermano Antonio

Fondos de Inversión

Caso Factop: defensa de Antonio Jalaff niega delitos en fondo y revela posible acuerdo con Fintrust

Fondos de Inversión

AGF LarrainVial Activos, implicada en Caso Factop, aprueba aumento de capital de hasta US$ 6 millones

Fondos de Inversión

Caso Factop: hermanos Jalaff arriesgan desde 20 años de cárcel por delitos investigados, según la Fiscalía

Fondos de Inversión

LarrainVial logra congelar recursos que entrarían a Jalaff por venta de Youtopia

Entre Códigos

Sectores regulados expectantes por interpretación de “fuerza mayor” en medio de efectos del cambio climático

A partir del caso de Enel que mantiene flancos abiertos, expertos abordan la preocupación que genera la calificación de este concepto y el desafío que impone tanto para las empresas como los reguladores.

Entre Códigos

Jaime Carey, el primer chileno presidente de la IBA, aborda sus prioridades y advierte preocupación por incerteza jurídica a nivel global

Entre Códigos

Estudios de abogados ven con optimismo el 2025: delinean áreas que serán clave y apuestan por nuevas contrataciones

Entre Códigos

Oficinas de abogados adaptan sus ofertas para cubrir los crecientes riesgos legales

Andrea Von Chrismar, socia Prieto Abogados (libre competencia y regulación). Cristián Carpentier, socio Arteaga Gorziglia (financiamiento). Constanza Rodríguez, socia PPU (mercado de capitales). Manuela Cross, socia PPU (Resolución de Controversias). Mario Fava, socio PPU (Proyectos, Ingeniería y Construcción). Josefa Larraín, social Dla Piper (resolución de controversias). María Francisca Salas, socia Cariola Díez Pérez-Cotapos (comercial / M&A) María Paz de Carcer, socia Cariola Díez Pérez-Cotapos (triburario). Sebastián Barros, socio Barros Silva Varela & Vigil (compliance). Sebastián Contreras, litigante, socio Chahuán Letelier. Francisco Cerda, socio Larraín y Asociados (minería y energía). Francisco Cárcamo, socio Lathrop Mujica Herrera & Diez (laboral). Eduardo Tirado, socio Garrigues Chile (mercantil / M&A). Ignacio Pera, socio Equity Dentons Chile (fintech).

Entre Códigos

La oleada de nuevos socios en las firmas legales en Chile

Sectores regulados expectantes por interpretación de “fuerza mayor” en medio de efectos del cambio climático

Entre Códigos

Jaime Carey, el primer chileno presidente de la IBA, aborda sus prioridades y advierte preocupación por incerteza jurídica a nivel global

Entre Códigos

Estudios de abogados ven con optimismo el 2025: delinean áreas que serán clave y apuestan por nuevas contrataciones

Entre Códigos

Oficinas de abogados adaptan sus ofertas para cubrir los crecientes riesgos legales

Entre Códigos

La oleada de nuevos socios en las firmas legales en Chile

La directora ejecutiva de la Fundación Chile sin Cáncer, Cecilia Gracia, y una de sus directoras, Dafne González.

Los planes de la Fundación Chile sin Cáncer para reducir las listas de espera oncológicas en 2025

Tienen seis Enfermeras de Práctica Avanzada (EPA) trabajando en los hospitales de Rancagua, Van Buren y Sótero del Río, las que han logrado aumentar en 40% la atención de pacientes.

Francisca Vial, de Eyzaguirre y Cía Abogados: "La Ley Karin es la reforma más grande que hemos tenido en derecho laboral en los últimos 10 años"

Índice de trayectoria laboral: por primera vez aumenta percepción de que se penaliza la paternidad, no solo la maternidad

María Fernanda Suárez, presidenta de Banco Popular Colombia,

María Fernanda Suárez: “El directorio nunca logra cumplir la estrategia si no está cumpliendo los hitos de corto y de mediano plazo”

Se constituye el primer consejo de la Red Mujeres Promociona Chile

Los planes de la Fundación Chile sin Cáncer para reducir las listas de espera oncológicas en 2025

Francisca Vial, de Eyzaguirre y Cía Abogados: "La Ley Karin es la reforma más grande que hemos tenido en derecho laboral en los últimos 10 años"

Índice de trayectoria laboral: por primera vez aumenta percepción de que se penaliza la paternidad, no solo la maternidad

María Fernanda Suárez: “El directorio nunca logra cumplir la estrategia si no está cumpliendo los hitos de corto y de mediano plazo”

Se constituye el primer consejo de la Red Mujeres Promociona Chile

BRANDED CONTENT

BRANDED CONTENT

Estrena Lynk & Co. la disruptiva marca del Grupo Geely con genética Volvo

Tattersall Automotriz sigue expandiéndose en Chile

Patrocina: GARAGE / STUDIO DF

BRANDED CONTENT

Audi A3: renovación en el nicho del dinamismo

La exitosa serie de Audi se renueva tanto en sus variantes hatchback y sedán,

Patrocina: GARAGE / STUDIO DF

BRANDED CONTENT

Las Claves de Chery para conquistar al consumidor chileno

Patrocina: GARAGE / STUDIO DF

BRANDED CONTENT

Kia renueva en citycars y SUV: nuevos Morning y Sonet en Chile

Patrocina: GARAGE / STUDIO DF

Suplementos

Papel Digital

Diario Financiero

Lee la edición de hoy

DF.CL

PAPEL DIGITAL

Plataformas

Corporativo

Contactos

Te recomendamos

ARTICULOS RELACIONADOS

Laurence Devillers, profesora de Ciencias de la Computación de la Universidad París-Sorbona: “Lo que ha hecho Trump, decir que desregulemos todo, es una pesadilla”

DF Lab Opinión/ Datos abiertos, fuente de inspiración y transparencia (parte 1)

Zaira Nazario, directora de ciencia y tecnología en IBM Research: "Los computadores cuánticos se han convertido en herramientas de descubrimiento científico”

Monique Morrow, experta en tecnología y seguridad: “El próximo paso es desarrollar una caja de seguridad digital para proteger las identidades”

LO MÁS LEÍDO

Primera baja en los senadores Chile Vamos: Kusanovic anuncia que votará en contra de la reforma de pensiones

Cómo quedó la gradualidad del 7% de la cotización extra con cargo al empleador

Corte Suprema da portazo a 23 exportadoras chilenas y rechaza recurso de queja en medio de demanda contra MSC

Enjoy y venta del casino de Rinconada: “Es la única alternativa que existe para asegurar la subsistencia”

A los 80 años fallece el expresidente de la SNA y la CPC Ricardo Ariztía

Fusión Bicecorp y Grupo Security: Felipe Jaque asumirá como economista jefe de la nueva entidad

JP Morgan valora acuerdo en pensiones y calcula una millonaria inyección de recursos al mercado de capitales por la mayor cotización previsional

Cambios tributarios: Hacienda acoge mantener tasa a las PYME y control del SII a cuentas no bancarias

Conoce lo más importante que hizo noticia en la primera parte de la jornada. Por Concetta Caciattore - Lunes a viernes PM

Newsletters

Conoce lo más importante que hizo noticia en la primera parte de la jornada. Por Concetta Caciattore - Lunes a viernes PM

Entérate primero cómo viene el mercado, las noticias que debes saber y los hechos que marcarán la pauta en el día. Por Marcela Vélez-Plickert - Lunes a viernes AM

Lo urgente que debes saber en mercados, empresas, economía e internacional - 24/7

NEWS DIARIO - Domingo a jueves PM

NOTICIAS MÁS LEÍDAS - Lunes a viernes PM, Sábado AM

Your essential daily briefing - Lunes, martes y miércoles PM

Análisis, fondos de inversión, indicadores, proyectos, tendencias, terrenos - Lunes AM

NOTICIAS DE PORTADA - Sábado AM

Megacentro anuncia inversión de US$ 30 millones en Perú para expandir su infraestructura logística

EEUU, la Unión Europa y el Reino Unido sancionan a funcionarios venezolanos tras la cuestionada juramentación de Maduro

Nicolás Maduro jura como Presidente de Venezuela por seis años más en medio de serios cuestionamientos

Benjamín Vicuña: “Inevitablemente me transformé en un embajador del duelo”

Los barrios emblemáticos de Los Ángeles reducidos a cenizas

La columna de J.J.Jinks: Se busca

Propulsor de la participación gremial y los diálogos sin barreras: el legado de Alfonso Swett según Rosario Navarro y Bárbara Figueroa

A los 80 años fallece el expresidente de la SNA y la CPC Ricardo Ariztía

El otro balance de la Ley Karin: los nudos críticos de la normativa según empresarios, trabajadores y expertos

JP Morgan valora acuerdo en pensiones y calcula una millonaria inyección de recursos al mercado de capitales por la mayor cotización previsional

Tasa de sindicalización llega a casi un 20% y sube valoración de las negociaciones colectivas

Propulsor de la participación gremial y los diálogos sin barreras: el legado de Alfonso Swett según Rosario Navarro y Bárbara Figueroa

A los 80 años fallece el expresidente de la SNA y la CPC Ricardo Ariztía

El otro balance de la Ley Karin: los nudos críticos de la normativa según empresarios, trabajadores y expertos

JP Morgan valora acuerdo en pensiones y calcula una millonaria inyección de recursos al mercado de capitales por la mayor cotización previsional

Tasa de sindicalización llega a casi un 20% y sube valoración de las negociaciones colectivas

DOM de Iquique por polémico pronunciamiento de Contraloría:“Me parece que no se midió, estamos siendo los conejillo de indias”

Seremi fija parámetros para resolver conflictos de “edificios fantasmas” en Estación Central

EBCO realiza aumento de capital por cerca de US$ 50 millones para impulsar su crecimiento y consolidar proyectos inmobiliarios

Tras un negativo 2024, industria de la construcción prevé un leve repunte en 2025 impulsado por los proyectos mineros y energéticos

Nuevo Pudahuel vuelve a arremeter contra el MOP: solicita compensación y extensión de plazo por nuevo conflicto contractual

DOM de Iquique por polémico pronunciamiento de Contraloría:“Me parece que no se midió, estamos siendo los conejillo de indias”

Seremi fija parámetros para resolver conflictos de “edificios fantasmas” en Estación Central

EBCO realiza aumento de capital por cerca de US$ 50 millones para impulsar su crecimiento y consolidar proyectos inmobiliarios

Tras un negativo 2024, industria de la construcción prevé un leve repunte en 2025 impulsado por los proyectos mineros y energéticos

Nuevo Pudahuel vuelve a arremeter contra el MOP: solicita compensación y extensión de plazo por nuevo conflicto contractual

Caso Factop: tribunal dicta arresto domiciliario total para Álvaro Jalaff y nocturno para su hermano Antonio

Caso Factop: defensa de Antonio Jalaff niega delitos en fondo y revela posible acuerdo con Fintrust

AGF LarrainVial Activos, implicada en Caso Factop, aprueba aumento de capital de hasta US$ 6 millones

Caso Factop: hermanos Jalaff arriesgan desde 20 años de cárcel por delitos investigados, según la Fiscalía

LarrainVial logra congelar recursos que entrarían a Jalaff por venta de Youtopia

Caso Factop: tribunal dicta arresto domiciliario total para Álvaro Jalaff y nocturno para su hermano Antonio

Caso Factop: defensa de Antonio Jalaff niega delitos en fondo y revela posible acuerdo con Fintrust

AGF LarrainVial Activos, implicada en Caso Factop, aprueba aumento de capital de hasta US$ 6 millones

Caso Factop: hermanos Jalaff arriesgan desde 20 años de cárcel por delitos investigados, según la Fiscalía

LarrainVial logra congelar recursos que entrarían a Jalaff por venta de Youtopia

Sectores regulados expectantes por interpretación de “fuerza mayor” en medio de efectos del cambio climático

Jaime Carey, el primer chileno presidente de la IBA, aborda sus prioridades y advierte preocupación por incerteza jurídica a nivel global

Estudios de abogados ven con optimismo el 2025: delinean áreas que serán clave y apuestan por nuevas contrataciones

Oficinas de abogados adaptan sus ofertas para cubrir los crecientes riesgos legales

La oleada de nuevos socios en las firmas legales en Chile

Sectores regulados expectantes por interpretación de “fuerza mayor” en medio de efectos del cambio climático

Jaime Carey, el primer chileno presidente de la IBA, aborda sus prioridades y advierte preocupación por incerteza jurídica a nivel global

Estudios de abogados ven con optimismo el 2025: delinean áreas que serán clave y apuestan por nuevas contrataciones

Oficinas de abogados adaptan sus ofertas para cubrir los crecientes riesgos legales

La oleada de nuevos socios en las firmas legales en Chile

Los planes de la Fundación Chile sin Cáncer para reducir las listas de espera oncológicas en 2025

Francisca Vial, de Eyzaguirre y Cía Abogados: "La Ley Karin es la reforma más grande que hemos tenido en derecho laboral en los últimos 10 años"

Índice de trayectoria laboral: por primera vez aumenta percepción de que se penaliza la paternidad, no solo la maternidad

María Fernanda Suárez: “El directorio nunca logra cumplir la estrategia si no está cumpliendo los hitos de corto y de mediano plazo”