ACCESIBILIDAD
- Alto contraste

Innovación y Startups

Experta en IA: “Antropomorfizar hasta proyectar responsabilidades en un robot supone un gran riesgo para la sociedad”

La experta en interacciones sociales y afectivas entre humanos y máquinas advierte de los riesgos que implica seguir desarrollando robótica sin regulación.

Por: Martín Baeza

Publicado: Miércoles 9 de febrero de 2022 a las 04:00 hrs.

innovación

Inteligencia Artificial

Desde las novelas de Isaac Asimov hasta androides con emociones en Blade Runner y Joaquin Phoenix enamorado de su computadora en Her, la pregunta de hasta qué punto los robots pueden adoptar conductas humanas, lleva años en la sociedad, ya sea en el cine, la literatura o en la investigación científica.

La doctora en informática Laurence Devillers se ha especializado en ética, Inteligencia Artificial (IA) y robótica, concentrando su investigación en las interacciones sociales y afectivas entre humanos y máquinas.

Imagen foto_00000002

Sus principales áreas de trabajo incluyen el aprendizaje profundo, el procesamiento del lenguaje y la detección de emociones de los robots.

Desde 2011 es profesora de IA y ética en la Universidad de París-Sorbonne e investigadora del Laboratorio de Ciencias de la Computación para la Mecánica y las Ciencias de la Ingeniería (Limsi) en el Centro Nacional de Investigación Científica de Francia. Además, dirige un grupo de “coevolución robot-humana” en la Universidad de París-Saclay.

En enero, la científica expuso su charla “Robots que sienten” en el Congreso Futuro, contexto en el que fue entrevistada por DF, donde habló de la robótica y sus conflictos éticos.

Para Devillers, el mayor desafío es “encontrar un equilibrio entre el poder económico de las nuevas innovaciones y las consecuencias indeseables que estas tienen para la sociedad”.

-¿Es posible el escenario de Blade Runner en que los robots pueden sentir?

-Estamos muy lejos de Blade Runner. Incluso con las tecnologías más potentes, las máquinas son incapaces de sentir y no tienen experiencias de carne y hueso. El diálogo generado por un modelo de lenguaje en un robot que no puede percibir físicamente, sentir o razonar como un humano, crea un universo lingüístico sin experiencia corporal.

-¿De qué manera podrían los robots modificar el comportamiento y las interacciones humanas?

-Se utilizan robots conversacionales o sociales para influenciar indirectamente a sus usuarios a través del diálogo, lo que se conoce como nudging. Todo lo que una máquina observa y detecta del comportamiento humano es el resultado de sesgos cognitivos (del desarrollador) que pueden ser explotados para modificar conductas.

-Se dice que las interacciones sociales con los robots son ilusiones para los humanos, por lo que serían poco saludables. ¿Cuál es su opinión?

-Esa ilusión puede ser útil en ciertos casos, como para tratar trastornos mentales del desarrollo, pero antropomorfizar hasta proyectar responsabilidades en un robot supone un gran riesgo para la sociedad. Pueden surgir nuevos agentes incontrolables que no obedezcan las normas sociales, por lo que es necesario vigilar continuamente el desarrollo y la difusión de esos robots y proponer medidas de regulación.

-¿Puede un robot detectar emociones humanas?

-Es difícil que detecte las emociones cotidianas complejas, pero sí es posible en las emociones prototípicas lograr un antropomorfismo afectivo, lo que puede perjudicar al usuario. Pueden haber reacciones de apego o confianza hacia el robot en lugar de hacia otros humanos. Definir los límites de la simulación afectiva de los chatbots debe implicar una reflexión sobre las aplicaciones de ellos y las vulnerabilidades humanas.

Ética en robótica

-¿Qué dificultades éticas enfrenta un desarrollador de robótica?

-Por ahora nada está regulado, necesitamos más debate. No se trata de construir robots éticos, eso no significa nada. La ética debe seguir relacionada con valores humanos. Es necesario construir normas y leyes para proteger a las personas vulnerables y a los jóvenes contra las posibles amenazas de la IA: dependencia, manipulación, aislamiento y, más peligrosamente, la vulnerabilidad mental e incluso el suicidio.

Otro desafío es que el 80% de los codificadores son hombres y el 80% de los robots sociales tienen nombres de mujer como Alexa o Samantha o rasgos femeninos. Refuerzan estereotipos de género. Los robots femeninos son asistentes, enfermeras e incluso robots sexuales. Es urgente involucrar más mujeres en la IA y la robótica.

-¿Cómo evalúa el marco ético en que trabajan los grandes desarrolladores?

-No está suficientemente maduro. Hemos tomado conciencia de los problemas ecológicos, pero no aún de los ético digitales. Es crucial anticiparse a desarrollos tecnológicos que modifican y cuestionan de manera permanente la relación individual y colectiva con el conocimiento, la memoria, la propiedad, la salud, el trabajo y el medio ambiente.

-¿Qué aportes pueden hacer los robots a la sociedad?

-Permiten un marco terapéutico. Por ejemplo, Moxie (robot de Embodied para asistir a niños) puede ser un compañero para niños con trastorno de desarrollo (TDC) y proporcionarles un entorno seguro y protegido con contenidos basados en estrategias terapéuticas.

ARTICULOS RELACIONADOS

<p>La startup Bikleta presentó su aplicación en una de las ferias del Congreso Futuro 2025.</p>

Bikleta, la app nacida en argentina que busca crear un ecosistema para los ciclistas en Chile

Fintech Shinkansen ficha al exvicepresidente del Banco Central Pablo García para su directorio de cámara de pagos

El plan de X-Analytic para llegar con su plataforma de mantenimiento predictivo con IA para la minería a nuevos mercados

<p>Por Florencia Mesa Fernández, directora Ejecutiva Climatech Chile</p>

DF Lab Opinión/¿Profetas en nuestra tierra?

Newsletters

Reforma | Análisis | Estadísticas | Opinión - Semanal

Conoce lo más importante que hizo noticia en la primera parte de la jornada. Por Concetta Caciattore - Lunes a viernes PM

Entérate primero cómo viene el mercado, las noticias que debes saber y los hechos que marcarán la pauta en el día. Por Marcela Vélez-Plickert - Lunes a viernes AM

Lo urgente que debes saber en mercados, empresas, economía e internacional - 24/7

NEWS DIARIO - Domingo a jueves PM

NOTICIAS MÁS LEÍDAS - Lunes a viernes PM, Sábado AM

Your essential daily briefing - Lunes, martes y miércoles PM

Análisis, fondos de inversión, indicadores, proyectos, tendencias, terrenos - Lunes AM

NOTICIAS DE PORTADA - Sábado AM

DF SUD

A 13 años de su última operación de compra, Cencosud concreta una nueva adquisición en Argentina

DF SUD

Entel asegura que el quiebre de la alianza con KKR "no ha pospuesto planes de crecimiento en Perú"

DF SUD

Primeros efectos de la motosierra de Milei: Ford baja el precio de sus autos

CAPITAL

Benjamín Vicuña: “Inevitablemente me transformé en un embajador del duelo”

Glocal

Los barrios emblemáticos de Los Ángeles reducidos a cenizas

DF MAS

La columna de J.J.Jinks: Se busca

Entre Códigos Laboral & Personas Construcción Fondos de Inversión Somos Financieras

Los socios de la oficina de Dentons en Chile, José Ignacio Morán y Karlfranz Koehler.

Entre Códigos

Dentons a cinco años de su aterrizaje en Chile: "Hoy estamos dentro de las diez primeras oficinas del país en distintos niveles"

Los socios de la oficina de Dentons en Chile, Karlfranz Koehler y José Ignacio Morán, hacen un positivo balance y abordan sus próximas metas: estar entre las tres mayores firmas de abogados a nivel local y consolidar la integración con los equipos internacionales.

Entre Códigos

Con cambio de nombre y crecimiento en distintas áreas parte 2025 el estudio Carrasco, Toro y Cía

Entre Códigos

Rosana Zamora asume como subjefa de la división anticarteles de la FNE

Entre Códigos

Los reparos de la Suprema al proyecto que busca asegurar el origen lícito de los honorarios de abogados defensores de narcotraficantes

Entre Códigos

CEPD Abogados suma dos nuevos socios y consolida una nueva área de servicios

Entre Códigos

Dentons a cinco años de su aterrizaje en Chile: "Hoy estamos dentro de las diez primeras oficinas del país en distintos niveles"

Entre Códigos

Con cambio de nombre y crecimiento en distintas áreas parte 2025 el estudio Carrasco, Toro y Cía

Entre Códigos

Rosana Zamora asume como subjefa de la división anticarteles de la FNE

Entre Códigos

Los reparos de la Suprema al proyecto que busca asegurar el origen lícito de los honorarios de abogados defensores de narcotraficantes

Entre Códigos

CEPD Abogados suma dos nuevos socios y consolida una nueva área de servicios

Laboral & Personas

Ahora en DF | Tasa de desocupación nacional baja a 8,1% en trimestre octubre-diciembre de 2024

El subdirector técnico del Instituto Nacional de Estadísticas, Leonardo González, detalló los resultados de la Encuesta Nacional de Empleo (ENE), para el período octubre – diciembre de 2024.

Laboral & Personas

INE: Tasa de desocupación nacional baja a 8,1% en el trimestre octubre-diciembre de 2024

Laboral & Personas

George Lever, gerente de estudios Cámara de Comercio de Santiago (CCS): “Gran parte de la política económica deberá orientarse a mitigar el impacto en el empleo”

Laboral & Personas

Matthei: "Alegra de ver que quienes querían destruir el sistema de capitalización individual, hoy están celebrando"

Laboral & Personas

Ahora en DF | Marcel por proyecto para incorporar un inversor estatal en sistema de pensiones: “La prioridad hoy es implementar la reforma”

Laboral & Personas

Ahora en DF | Tasa de desocupación nacional baja a 8,1% en trimestre octubre-diciembre de 2024

Laboral & Personas

INE: Tasa de desocupación nacional baja a 8,1% en el trimestre octubre-diciembre de 2024

Laboral & Personas

George Lever, gerente de estudios Cámara de Comercio de Santiago (CCS): “Gran parte de la política económica deberá orientarse a mitigar el impacto en el empleo”

Laboral & Personas

Matthei: "Alegra de ver que quienes querían destruir el sistema de capitalización individual, hoy están celebrando"

Laboral & Personas

Ahora en DF | Marcel por proyecto para incorporar un inversor estatal en sistema de pensiones: “La prioridad hoy es implementar la reforma”

Construcción

Gigante europeo profundiza su presencia en Chile y adquiere nueva empresa ligada al rubro de la construcción

Hace algunas semanas la compañía francesa Saint-Gobain adquirió a la nacional Provequín, operadora especializada en soluciones químicas para la construcción y la minería.

Construcción

Las Condes visa anteproyecto que busca ampliar hotel en emblemática esquina de Av. Apoquindo

Construcción

Ahora en DF | MOP lanza Programa Santiago Buen Vecino con inversión de US$ 800 millones para recuperar espacios públicos

Construcción

MOP lanza Programa Santiago Buen Vecino con inversión de US$ 800 millones para mejorar infraestructura y equidad territorial

Construcción

Corte de Apelaciones deja sin efecto permisos de edificación de dos proyectos en Viña del Mar y congela millonaria inversión

Construcción

Gigante europeo profundiza su presencia en Chile y adquiere nueva empresa ligada al rubro de la construcción

Construcción

Las Condes visa anteproyecto que busca ampliar hotel en emblemática esquina de Av. Apoquindo

Construcción

Ahora en DF | MOP lanza Programa Santiago Buen Vecino con inversión de US$ 800 millones para recuperar espacios públicos

Construcción

MOP lanza Programa Santiago Buen Vecino con inversión de US$ 800 millones para mejorar infraestructura y equidad territorial

Construcción

Corte de Apelaciones deja sin efecto permisos de edificación de dos proyectos en Viña del Mar y congela millonaria inversión

Fondos de Inversión

Caso Factop: Ministerio Público apela a medidas cautelares de Álvaro Jalaff y exige prisión preventiva

La Fiscalía reiteró las imputaciones de lavado de activos y soborno contra el exsocio de Patio.

Fondos de Inversión

CMF suspende la oferta pública, transacción y cotización de las cuotas de los fondos de Sartor AGF en bolsas

Fondos de Inversión

Liquidador de Sartor detecta posibles deterioros significativos en valorizaciones de fondos atribuidos a la antigua administración

Fondos de Inversión

Por toma de control: accionistas de Azul Azul se querellan contra Michael Clark por fraude en la omisión de OPA

Álvaro Jalaff exsocio de Grupo Patio. Antonio Jalaff exsocio de Grupo Patio. Manuel Bulnes socio de LarrainVial. Felipe Porzio socio de LarrainVial. Fotos: Julio Castro

Fondos de Inversión

Caso Factop: tribunal no acoge petición de Fiscalía y dicta arresto domiciliario para los hermanos Jalaff

Fondos de Inversión

Caso Factop: Ministerio Público apela a medidas cautelares de Álvaro Jalaff y exige prisión preventiva

Fondos de Inversión

CMF suspende la oferta pública, transacción y cotización de las cuotas de los fondos de Sartor AGF en bolsas

Fondos de Inversión

Liquidador de Sartor detecta posibles deterioros significativos en valorizaciones de fondos atribuidos a la antigua administración

Fondos de Inversión

Por toma de control: accionistas de Azul Azul se querellan contra Michael Clark por fraude en la omisión de OPA

Fondos de Inversión

Caso Factop: tribunal no acoge petición de Fiscalía y dicta arresto domiciliario para los hermanos Jalaff

La directora ejecutiva de la Fundación Chile sin Cáncer, Cecilia Gracia, y una de sus directoras, Dafne González.

Los planes de la Fundación Chile sin Cáncer para reducir las listas de espera oncológicas en 2025

Tienen seis Enfermeras de Práctica Avanzada (EPA) trabajando en los hospitales de Rancagua, Van Buren y Sótero del Río, las que han logrado aumentar en 40% la atención de pacientes.

Francisca Vial, de Eyzaguirre y Cía Abogados: "La Ley Karin es la reforma más grande que hemos tenido en derecho laboral en los últimos 10 años"

Índice de trayectoria laboral: por primera vez aumenta percepción de que se penaliza la paternidad, no solo la maternidad

María Fernanda Suárez, presidenta de Banco Popular Colombia,

María Fernanda Suárez: “El directorio nunca logra cumplir la estrategia si no está cumpliendo los hitos de corto y de mediano plazo”

Se constituye el primer consejo de la Red Mujeres Promociona Chile

Los planes de la Fundación Chile sin Cáncer para reducir las listas de espera oncológicas en 2025

Francisca Vial, de Eyzaguirre y Cía Abogados: "La Ley Karin es la reforma más grande que hemos tenido en derecho laboral en los últimos 10 años"

Índice de trayectoria laboral: por primera vez aumenta percepción de que se penaliza la paternidad, no solo la maternidad

María Fernanda Suárez: “El directorio nunca logra cumplir la estrategia si no está cumpliendo los hitos de corto y de mediano plazo”

Se constituye el primer consejo de la Red Mujeres Promociona Chile

BRANDED CONTENT

BRANDED CONTENT

Estrena Lynk & Co. la disruptiva marca del Grupo Geely con genética Volvo

Tattersall Automotriz sigue expandiéndose en Chile

Patrocina: GARAGE / STUDIO DF

BRANDED CONTENT

Audi A3: renovación en el nicho del dinamismo

La exitosa serie de Audi se renueva tanto en sus variantes hatchback y sedán,

Patrocina: GARAGE / STUDIO DF

BRANDED CONTENT

Las Claves de Chery para conquistar al consumidor chileno

Patrocina: GARAGE / STUDIO DF

BRANDED CONTENT

Kia renueva en citycars y SUV: nuevos Morning y Sonet en Chile

Patrocina: GARAGE / STUDIO DF

Suplementos

Papel Digital

Diario Financiero

Lee la edición de hoy

DF.CL

PAPEL DIGITAL

MARCAS GRUPO DF

Plataformas

Corporativo

Contactos

Ética en robótica

Te recomendamos

ARTICULOS RELACIONADOS

Bikleta, la app nacida en argentina que busca crear un ecosistema para los ciclistas en Chile

Fintech Shinkansen ficha al exvicepresidente del Banco Central Pablo García para su directorio de cámara de pagos

El plan de X-Analytic para llegar con su plataforma de mantenimiento predictivo con IA para la minería a nuevos mercados

DF Lab Opinión/¿Profetas en nuestra tierra?

LO MÁS LEÍDO

Gigante europeo profundiza su presencia en Chile y adquiere nueva empresa ligada al rubro de la construcción

Una planta de litio y la mayor refinería del mineral en el mundo: la apuesta de EnergyX por Chile

La marca de ropa chilena que cumple 20 años, sumará 14 tiendas y evalúa saltar a Centroamérica

Gerente general de AFP Cuprum advierte que la reforma “prioriza la reducción de comisiones por sobre la rentabilidad de los fondos”

Asociación de AFP tras despacho de reforma: “El costo lo pagarán generaciones completas de pensionados”

"Este es el mejor resultado en la historia de Latam": CEO Alvo celebra utilidades por US$ 977 millones y 82 millones de pasajeros transportados en 2024

"Larga vida al sistema de capitalización individual": La exclamación de José Piñera a horas de aprobada la reforma

Cambios en Banco Santander: Román Blanco dejará la gerencia general de la entidad en Chile

Reforma | Análisis | Estadísticas | Opinión - Semanal

Newsletters

Reforma | Análisis | Estadísticas | Opinión - Semanal

Conoce lo más importante que hizo noticia en la primera parte de la jornada. Por Concetta Caciattore - Lunes a viernes PM

Entérate primero cómo viene el mercado, las noticias que debes saber y los hechos que marcarán la pauta en el día. Por Marcela Vélez-Plickert - Lunes a viernes AM

Lo urgente que debes saber en mercados, empresas, economía e internacional - 24/7

NEWS DIARIO - Domingo a jueves PM

NOTICIAS MÁS LEÍDAS - Lunes a viernes PM, Sábado AM

Your essential daily briefing - Lunes, martes y miércoles PM

Análisis, fondos de inversión, indicadores, proyectos, tendencias, terrenos - Lunes AM

NOTICIAS DE PORTADA - Sábado AM

A 13 años de su última operación de compra, Cencosud concreta una nueva adquisición en Argentina

Entel asegura que el quiebre de la alianza con KKR "no ha pospuesto planes de crecimiento en Perú"

Primeros efectos de la motosierra de Milei: Ford baja el precio de sus autos

Benjamín Vicuña: “Inevitablemente me transformé en un embajador del duelo”

Los barrios emblemáticos de Los Ángeles reducidos a cenizas

La columna de J.J.Jinks: Se busca

Dentons a cinco años de su aterrizaje en Chile: "Hoy estamos dentro de las diez primeras oficinas del país en distintos niveles"

Con cambio de nombre y crecimiento en distintas áreas parte 2025 el estudio Carrasco, Toro y Cía

Rosana Zamora asume como subjefa de la división anticarteles de la FNE

Los reparos de la Suprema al proyecto que busca asegurar el origen lícito de los honorarios de abogados defensores de narcotraficantes

CEPD Abogados suma dos nuevos socios y consolida una nueva área de servicios

Dentons a cinco años de su aterrizaje en Chile: "Hoy estamos dentro de las diez primeras oficinas del país en distintos niveles"

Con cambio de nombre y crecimiento en distintas áreas parte 2025 el estudio Carrasco, Toro y Cía

Rosana Zamora asume como subjefa de la división anticarteles de la FNE

Los reparos de la Suprema al proyecto que busca asegurar el origen lícito de los honorarios de abogados defensores de narcotraficantes

CEPD Abogados suma dos nuevos socios y consolida una nueva área de servicios

Ahora en DF | Tasa de desocupación nacional baja a 8,1% en trimestre octubre-diciembre de 2024

INE: Tasa de desocupación nacional baja a 8,1% en el trimestre octubre-diciembre de 2024

George Lever, gerente de estudios Cámara de Comercio de Santiago (CCS): “Gran parte de la política económica deberá orientarse a mitigar el impacto en el empleo”

Matthei: "Alegra de ver que quienes querían destruir el sistema de capitalización individual, hoy están celebrando"

Ahora en DF | Marcel por proyecto para incorporar un inversor estatal en sistema de pensiones: “La prioridad hoy es implementar la reforma”

Ahora en DF | Tasa de desocupación nacional baja a 8,1% en trimestre octubre-diciembre de 2024

INE: Tasa de desocupación nacional baja a 8,1% en el trimestre octubre-diciembre de 2024

George Lever, gerente de estudios Cámara de Comercio de Santiago (CCS): “Gran parte de la política económica deberá orientarse a mitigar el impacto en el empleo”

Matthei: "Alegra de ver que quienes querían destruir el sistema de capitalización individual, hoy están celebrando"

Ahora en DF | Marcel por proyecto para incorporar un inversor estatal en sistema de pensiones: “La prioridad hoy es implementar la reforma”

Gigante europeo profundiza su presencia en Chile y adquiere nueva empresa ligada al rubro de la construcción

Las Condes visa anteproyecto que busca ampliar hotel en emblemática esquina de Av. Apoquindo

Ahora en DF | MOP lanza Programa Santiago Buen Vecino con inversión de US$ 800 millones para recuperar espacios públicos

MOP lanza Programa Santiago Buen Vecino con inversión de US$ 800 millones para mejorar infraestructura y equidad territorial

Corte de Apelaciones deja sin efecto permisos de edificación de dos proyectos en Viña del Mar y congela millonaria inversión

Gigante europeo profundiza su presencia en Chile y adquiere nueva empresa ligada al rubro de la construcción

Las Condes visa anteproyecto que busca ampliar hotel en emblemática esquina de Av. Apoquindo

Ahora en DF | MOP lanza Programa Santiago Buen Vecino con inversión de US$ 800 millones para recuperar espacios públicos

MOP lanza Programa Santiago Buen Vecino con inversión de US$ 800 millones para mejorar infraestructura y equidad territorial

Corte de Apelaciones deja sin efecto permisos de edificación de dos proyectos en Viña del Mar y congela millonaria inversión

Caso Factop: Ministerio Público apela a medidas cautelares de Álvaro Jalaff y exige prisión preventiva

CMF suspende la oferta pública, transacción y cotización de las cuotas de los fondos de Sartor AGF en bolsas

Liquidador de Sartor detecta posibles deterioros significativos en valorizaciones de fondos atribuidos a la antigua administración

Por toma de control: accionistas de Azul Azul se querellan contra Michael Clark por fraude en la omisión de OPA

Caso Factop: tribunal no acoge petición de Fiscalía y dicta arresto domiciliario para los hermanos Jalaff

Caso Factop: Ministerio Público apela a medidas cautelares de Álvaro Jalaff y exige prisión preventiva

CMF suspende la oferta pública, transacción y cotización de las cuotas de los fondos de Sartor AGF en bolsas

Liquidador de Sartor detecta posibles deterioros significativos en valorizaciones de fondos atribuidos a la antigua administración

Por toma de control: accionistas de Azul Azul se querellan contra Michael Clark por fraude en la omisión de OPA

Caso Factop: tribunal no acoge petición de Fiscalía y dicta arresto domiciliario para los hermanos Jalaff

Los planes de la Fundación Chile sin Cáncer para reducir las listas de espera oncológicas en 2025