ACCESIBILIDAD
- Alto contraste

Tendencias

Los desafíos éticos de las marcas en la era de la IA

Los sesgos históricos de nuestra sociedad han moldeado los sistemas de Inteligencia Artificial que durante el último tiempo han tenido una gran masificación. Dos observadoras de este fenómeno nos entregan su visión sobre los retos que implica este nuevo contexto para la industria del marketing.

Por: Carla Fernández

Publicado: Jueves 13 de julio de 2023 a las 14:23 hrs.

Inteligencia Artificial

marketing

La Inteligencia Artificial (IA) ha revolucionado el modo cómo se mueven las industrias alrededor del mundo y el marketing no ha estado exento de esos cambios. La forma cómo este avance tecnológico facilita el análisis del comportamiento de los consumidores para ofrecer experiencias más personalizadas y automatizadas, la han transformado en una gran herramienta de trabajo para las marcas. Sin embargo, diversos estudios han advertido sobre los sesgos que estos sistemas presentan.

Género, raza y clase, son algunos de los puntos en donde la IA ha demostrado tener este tipo de falencias. ¿Qué avances pueden poner en riesgo la exposición a estos sesgos? ¿Qué precauciones debería tomar la industria del marketing y los consumidores desde sus respectivas veredas? Conversamos con dos observadoras de este fenómeno, quienes compartieron su análisis y consejos para que tanto clientes como marcas puedan aprovechar al máximo esta herramienta, entendiendo tanto sus fortalezas como debilidades.

La psicóloga, presidenta de Canal 13 y especialista en comportamiento del consumidor y gestión de marcas, Carolina Altschwager, habla sobre cómo estas miradas parcializadas han sido heredadas de la propia sociedad: “No es la IA sesgada por definición, pero los algoritmos en base a los cuales se han creados los preconceptos con los cuales se han diseñado contienen sesgos frente a los que deberíamos estar muy atentos”.

Claudia López, investigadora asociada del Centro Nacional de Inteligencia Artificial y experta en tecnología de la información y sesgos, comparte esta visión y subraya la importancia de detectar aquella información que pueda estar incurriendo en prácticas discriminatorias que respondan a patrones históricos. “Lo más importante es identificar dónde están los datos, qué datos hay y cuáles son los sesgos que puedan tener, y después de eso, trabajar en equipo multidisciplinario (...) Tener esa costumbre de evaluar antes de lanzar al mercado algún producto haría súper bien para evitar algunos de los sesgos que hoy día estamos conociendo”, señala.

A su vez, Carolina Altschwager advierte sobre la importancia de ser conscientes sobre las fallas que puede presentar la IA: “Si no ponemos al frente la discusión de los modelos con los cuales se han construido estos sistemas, sin duda se puede afectar el progreso en diversos ámbitos: podemos seguir amplificando la discriminación en la evaluación y acceso de servicios para las personas, podemos seguir ofreciendo condiciones diferenciadas o no equitativas entre hombres y mujeres, entre otros”.

Cómo se reflejan los sesgos de género

En el 2015, un equipo de investigadores de la Universidad Carnegie Mellon fue de los pioneros en plantear esta temática a través de una publicación, en donde, entre otras cosas, se descubrió que es mucho menos probable que aparezcan ofertas de empleos altamente remunerados para mujeres que para hombres. En tanto, este año, un reportaje de The Guardian reveló que las herramientas de IA catalogan como más sexualmente sugerentes las fotos de mujeres que las de hombres, pese a que ambas muestren circunstancias similares, como una persona en ropa interior o haciendo ejercicio.

Claudia López entrega su visión sobre cómo estos casos concretos influyen en la desigualdad: “La IA se da cuenta que las mujeres tenemos trabajos peores pagados y lo que hace al final del día es aprender eso y ofrecernos peores trabajos que los que le ofrecen a los hombres. Eso es como un caso súper crítico porque nos limita en nuestras posibilidades”.

Con respecto al estudio de The Guardian, la profesional aclara que este tipo de acciones nacen de una intención de las compañías tecnológicas de cuidar el contenido en redes sociales, intentando identificar las fotografías y moderar lo que sea sexualmente sugerente. Sin embargo, se produce un efecto negativo al caer en los sesgos de género.

“Lo que terminó pasando es que muestra que en la publicidad finalmente se consideran como sexualizada las imágenes de marketing que tienen que ver, por ejemplo, con ropa de mujeres (...) finalmente se penaliza las fotografías de ellas cuando muestran piel y eso perjudica tanto a las personas que venden ropa femenina como a quienes tenemos que hacer nuestras compras también a través de ese tipo de publicidad”, declara.

Los retos para marcas y consumidores

Para que tanto la industria del marketing como los consumidores puedan hacer frente a las problemáticas que puede traer consigo el uso de la IA, es fundamental realizar una evaluación del trabajo que se está realizando con este tipo de herramientas, ser transparentes con el uso de la información y responsables al utilizar estas herramientas, teniendo siempre un enfoque ético.

“Los principales desafíos tienen que ver con asegurarse de que los resultados funcionen razonablemente bien para los distintos grupos de personas a los cuales vamos a ofrecer ese servicio. Si es que le vamos a ofrecer ese servicio a hombres y mujeres, vamos a ver que les estemos entregando los mismos tipos de productos, el mismo nivel de calidad, la misma cobertura de publicidad, tanto desde el lado de los clientes como desde el lado de quienes están produciendo”, señala Claudia López.

Asimismo, destacó la relevancia de que las marcas puedan “avanzar hacia un poco más de transparencia sobre cómo funciona la IA". En ese sentido, la investigadora cree que cuando entre en acción la Ley de protección de datos personales se producirá un cambio positivo en este aspecto: "Esperamos que las instituciones sean mucho más cuidadosas en la forma cómo se utilizan los datos personales de las personas y que las personas podamos saber qué datos se usan, podamos cambiarlos si creemos que no son adecuados o no nos representan".

Finalmente, Carolina Altschwager detalla la importancia de ser responsables y conscientes al utilizar la IA para "entender las posibilidades y oportunidades de esta herramienta para facilitar procesos, tareas, uso de tiempo y resolución de problemas, pero también comprender las limitaciones y riesgos que puede generar en nuestras interacciones, en nuestras relaciones”, agrega.

“La ética del uso de la IA (junto con la ética en muchos otros comportamientos) tiene que ser un eje de conversación y discusión en la etapa de transformación que estamos viviendo”, concluye la psicóloga.

ARTICULOS RELACIONADOS

Terreno frente al mar en Miami rompe récord para Florida con acuerdo de compraventa por hasta US$ 540 millones

¿Quién mató a las discotecas? Las salidas nocturnas a bailar están en declive a nivel mundial

Columnista de Bloomberg incluye ejemplares chilenos en lista de 50 mejores vinos de menos de US$ 50

Estreno de nuevo juego Pokémon de Nintendo supera al exitoso debut del fenómeno Pokémon Go

Newsletters

Conoce lo más importante que hizo noticia en la primera parte de la jornada. Por Concetta Caciattore - Lunes a viernes PM

Reforma | Análisis | Estadísticas | Opinión - Semanal

Entérate primero cómo viene el mercado, las noticias que debes saber y los hechos que marcarán la pauta en el día. Por Marcela Vélez-Plickert - Lunes a viernes AM

Lo urgente que debes saber en mercados, empresas, economía e internacional - 24/7

NEWS DIARIO - Domingo a jueves PM

NOTICIAS MÁS LEÍDAS - Lunes a viernes PM, Sábado AM

Your essential daily briefing - Lunes, martes y miércoles PM

Análisis, fondos de inversión, indicadores, proyectos, tendencias, terrenos - Lunes AM

NOTICIAS DE PORTADA - Sábado AM

DF SUD

Tras meteórico ascenso Banco Master acuerda su venta en Brasil, pero persiste temor a colapso con riesgo sistémico para banca local

DF SUD

FMI asegura que el pedido de Argentina de un desembolso inicial de 40% del nuevo programa es "razonable"

DF SUD

Mejor preparado esta vez: UBS confía en que México logrará evitar una crisis económica en 2025 pese a guerra de aranceles de Trump

DF MAS

Bitácora de la crisis interna que afectó a Megamedia

DF MAS

Cómo la segunda mayor empresa de portales de trabajo del mundo compró una startup chilena

DF MAS

Pablo Ortúzar y la batalla presidencial: “No hay nada que le guste más a la derecha que pelear con la derecha”

Innovación y Startups Entre Códigos Construcción Fondos de Inversión Somos Financieras Laboral & Personas

Captura de uno de los videos generados por Gen-4. Foto: Runway

Innovación y Startups

Runway lanza herramienta de inteligencia artificial para generar videos con mejor coherencia narrativa y visual

La empresa unicornio fundada por dos chilenos, presentó Gen-4, su modelo “más potente” hasta ahora, el que tiene la capacidad de mantener la consistencia en personajes, objetos y escenarios a lo largo de múltiples escenas y crear entornos más reales, por ejemplo, en cortometrajes.

Allen Taylor, managing partner de Endeavor Catalyst, durante el panel en el VC Latam Summit.

Innovación y Startups

Allen Taylor de Endeavor Catalyst: “El emprendimiento prospera en el caos, y Latinoamérica tiene una buena dosis de eso”

Eric Acher, cofundador y general managing partner de Monashees.

Innovación y Startups

Eric Acher: “Vamos a tener decacornios en la siguiente década en Latinoamérica”

De izq a der: Edgardo Cisternas (Molymet), Felipe Ugarte (Pucobre), Marco Zecchetto (DF), Alan García (Sofofa Hub), Mariana Parody (CMPC), Mariana Thielemann (Sofofa Hub) y Aníbal Abogabir (SQM Yodo Nutrición Vegetal).

Innovación y Startups

Compañías analizan los aprendizajes y resultados del programa Venture Client de Sofofa Hub

Representantes de las 12 asociaciones organizadoras.

Innovación y Startups

VC Latam Summit en Miami cierra con visiones optimistas que proyectan un nuevo ciclo para el capital de riesgo

Innovación y Startups

Runway lanza herramienta de inteligencia artificial para generar videos con mejor coherencia narrativa y visual

Innovación y Startups

Allen Taylor de Endeavor Catalyst: “El emprendimiento prospera en el caos, y Latinoamérica tiene una buena dosis de eso”

Innovación y Startups

Eric Acher: “Vamos a tener decacornios en la siguiente década en Latinoamérica”

Innovación y Startups

Compañías analizan los aprendizajes y resultados del programa Venture Client de Sofofa Hub

Innovación y Startups

VC Latam Summit en Miami cierra con visiones optimistas que proyectan un nuevo ciclo para el capital de riesgo

Entre Códigos

Firmas de abogados de élite en EEUU en alerta ante nuevas represalias de Donald Trump

La rendición del famoso despacho legal de Wall Street, Paul Weiss, frente a la ira del mandatario contra las firmas que promueven causas progresistas, desata temor en la industria.

Entre Códigos

El CAM Santiago y CIAM-CIAR firman alianza para el desarrollo del arbitraje internacional

Entre Códigos

Firmas de abogados de élite en EEUU en alerta ante nuevas represalias de Donald Trump

Entre Códigos

Manual de libre competencia se presenta en Bogotá

Entre Códigos

Cabello & Cía nombra nuevos socios

Entre Códigos

IBA Latinoamérica 2025: Estudios chilenos plantean sus retos a 2030

Entre Códigos

El CAM Santiago y CIAM-CIAR firman alianza para el desarrollo del arbitraje internacional

Construcción

MOP licita anteproyecto para diseñar ampliación del Aeropuerto de Santiago

En concreto, se estaría analizando la construcción de una tercera pista de aterrizaje y de otro edificio, mientras que la ejecución comenzaría en 2035.

Construcción

Constructora que levantó edificio “social” demanda a municipio de Las Condes: acusa incumplimiento de contrato

Construcción

Crisis inmobiliaria acelera la concentración del mercado: grandes empresas dominan el 53% de las ventas

Construcción

Reconocido actor del rubro inmobiliario se suma al negocio de la asesoría para transacciones e inversión

Construcción

Socovesa sigue reduciendo pérdidas y cierra 2024 con el lanzamiento de once nuevos proyectos

Construcción

MOP licita anteproyecto para diseñar ampliación del Aeropuerto de Santiago

Construcción

Constructora que levantó edificio “social” demanda a municipio de Las Condes: acusa incumplimiento de contrato

Construcción

Crisis inmobiliaria acelera la concentración del mercado: grandes empresas dominan el 53% de las ventas

Construcción

Reconocido actor del rubro inmobiliario se suma al negocio de la asesoría para transacciones e inversión

Construcción

Socovesa sigue reduciendo pérdidas y cierra 2024 con el lanzamiento de once nuevos proyectos

Fondos de Inversión

No fue solo Zurich: fondos de LarrainVial Activos revelan inversiones en Awto tras cierre de startup

Financiaron a través de operaciones de leasing a la compañía que informó su fin este lunes.

Fondos de Inversión

Empresa de arriendo de vehículos Awto baja la cortina y golpea a fondo de Zurich

Fondos de Inversión

Credicorp Capital marca distancia de Sartor AGF y rechaza acusaciones sobre un trato preferencial en la liquidación

El presidente de la matriz de Sartor, Pedro Pablo Larraín.

Fondos de Inversión

Caso Sartor: Pedro Pablo Larraín dispara contra la CMF y acusa de favorecer a Credicorp frente a otros inversionistas

Fondos de Inversión

Tras petición de Credicorp: CMF ordena liquidación anticipada de dos fondos de Sartor que invertían en Perú

Fondos de Inversión

No fue solo Zurich: fondos de LarrainVial Activos revelan inversiones en Awto tras cierre de startup

Fondos de Inversión

Empresa de arriendo de vehículos Awto baja la cortina y golpea a fondo de Zurich

Fondos de Inversión

Credicorp Capital marca distancia de Sartor AGF y rechaza acusaciones sobre un trato preferencial en la liquidación

Fondos de Inversión

Caso Sartor: Pedro Pablo Larraín dispara contra la CMF y acusa de favorecer a Credicorp frente a otros inversionistas

Fondos de Inversión

Tras petición de Credicorp: CMF ordena liquidación anticipada de dos fondos de Sartor que invertían en Perú

Estudio Adapsys-DF muestra que en 2024 disminuyó la inclusión de la diversidad en las organizaciones

La segunda versión de la encuesta mostró que la mayoría de las empresas se aproxima al tema solo desde lo legal, y que las industrias más avanzadas son asesorías y servicios, y la minería.

Maricho Gálvez, gerenta de emprendimiento de Corfo.

Corfo lanza tres programas para financiar emprendimientos liderados por mujeres

Equidad en tiempos de algoritmos: los desafíos laborales que ellas enfrentan ante el auge de la IA

Economía del cuidado: las preocupaciones que tienen las cuidadoras en Chile

Cómo está ganando terreno la presencia femenina en los family offices

Estudio Adapsys-DF muestra que en 2024 disminuyó la inclusión de la diversidad en las organizaciones

Corfo lanza tres programas para financiar emprendimientos liderados por mujeres

Equidad en tiempos de algoritmos: los desafíos laborales que ellas enfrentan ante el auge de la IA

Economía del cuidado: las preocupaciones que tienen las cuidadoras en Chile

Cómo está ganando terreno la presencia femenina en los family offices

Laboral & Personas

Complejo clima interno enfrenta a trabajadores de Imagen de Chile con su directora

Al interior de la entidad hay cuatro denuncias por Ley Karin. La directora Rossana Dresdner desestima las acusaciones de maltrato: “Son totalmente falsas”.

Laboral & Personas

En una década, el empleo en el Gobierno ha crecidomás rápido que en el total de la economía

Laboral & Personas

La desocupación de la población extranjera disminuyó y se situó en 7% entre diciembre de 2024 y febrero de 2025

Laboral & Personas

Baja la informalidad, pero se estanca la creación de empleo: las miradas mixtas a las últimas cifras de desocupación

Laboral & Personas

INE: tasa de desocupación nacional llega a 8,4% en el trimestre diciembre 2024 - febrero 2025

Laboral & Personas

Complejo clima interno enfrenta a trabajadores de Imagen de Chile con su directora

Laboral & Personas

En una década, el empleo en el Gobierno ha crecidomás rápido que en el total de la economía

Laboral & Personas

La desocupación de la población extranjera disminuyó y se situó en 7% entre diciembre de 2024 y febrero de 2025

Laboral & Personas

Baja la informalidad, pero se estanca la creación de empleo: las miradas mixtas a las últimas cifras de desocupación

Laboral & Personas

INE: tasa de desocupación nacional llega a 8,4% en el trimestre diciembre 2024 - febrero 2025

BRANDED CONTENT

BRANDED CONTENT

Estrena Lynk & Co. la disruptiva marca del Grupo Geely con genética Volvo

Tattersall Automotriz sigue expandiéndose en Chile

Patrocina: GARAGE / STUDIO DF

BRANDED CONTENT

Audi A3: renovación en el nicho del dinamismo

La exitosa serie de Audi se renueva tanto en sus variantes hatchback y sedán,

Patrocina: GARAGE / STUDIO DF

BRANDED CONTENT

Las Claves de Chery para conquistar al consumidor chileno

Patrocina: GARAGE / STUDIO DF

BRANDED CONTENT

Kia renueva en citycars y SUV: nuevos Morning y Sonet en Chile

Patrocina: GARAGE / STUDIO DF

Suplementos

Papel Digital

Diario Financiero

Lee la edición de hoy

DF.CL

PAPEL DIGITAL

MARCAS GRUPO DF

Plataformas

Corporativo

Contactos

Te recomendamos

ARTICULOS RELACIONADOS

Terreno frente al mar en Miami rompe récord para Florida con acuerdo de compraventa por hasta US$ 540 millones

¿Quién mató a las discotecas? Las salidas nocturnas a bailar están en declive a nivel mundial

Columnista de Bloomberg incluye ejemplares chilenos en lista de 50 mejores vinos de menos de US$ 50

Estreno de nuevo juego Pokémon de Nintendo supera al exitoso debut del fenómeno Pokémon Go

LO MÁS LEÍDO

Ignacio Briones, economista y exministro de Hacienda: “Crecer a un 2% es absolutamente mediocre e insuficiente. Eso podemos y debemos cambiarlo”

Bancos y expertos anticipan colapso del precio del cobre cuando Trump concrete alza de aranceles

Pérez Mackenna, presidente de CCU: "Se ve cada vez más lejano el anhelo de convertirnos en un país desarrollado"

Ad portas del anuncio de aranceles a nivel global, informe de EEUU identifica una serie de "barreras" establecidas por Chile

Goldman Sachs asegura que el impacto de las políticas de Trump pone a Chile en el radar de los inversionistas

No fue solo Zurich: fondos de LarrainVial Activos revelan inversiones en Awto tras cierre de startup

Enjoy renuncia a sus permisos de operación de Viña, Coquimbo y Pucón

Tormenta eléctrica, cuatro vacunas y clases de yoga: la trastienda de las 24 horas de viaje con Boric a India

Conoce lo más importante que hizo noticia en la primera parte de la jornada. Por Concetta Caciattore - Lunes a viernes PM

Newsletters

Conoce lo más importante que hizo noticia en la primera parte de la jornada. Por Concetta Caciattore - Lunes a viernes PM

Reforma | Análisis | Estadísticas | Opinión - Semanal

Entérate primero cómo viene el mercado, las noticias que debes saber y los hechos que marcarán la pauta en el día. Por Marcela Vélez-Plickert - Lunes a viernes AM

Lo urgente que debes saber en mercados, empresas, economía e internacional - 24/7

NEWS DIARIO - Domingo a jueves PM

NOTICIAS MÁS LEÍDAS - Lunes a viernes PM, Sábado AM

Your essential daily briefing - Lunes, martes y miércoles PM

Análisis, fondos de inversión, indicadores, proyectos, tendencias, terrenos - Lunes AM

NOTICIAS DE PORTADA - Sábado AM

Tras meteórico ascenso Banco Master acuerda su venta en Brasil, pero persiste temor a colapso con riesgo sistémico para banca local

FMI asegura que el pedido de Argentina de un desembolso inicial de 40% del nuevo programa es "razonable"

Mejor preparado esta vez: UBS confía en que México logrará evitar una crisis económica en 2025 pese a guerra de aranceles de Trump

Bitácora de la crisis interna que afectó a Megamedia

Cómo la segunda mayor empresa de portales de trabajo del mundo compró una startup chilena

Pablo Ortúzar y la batalla presidencial: “No hay nada que le guste más a la derecha que pelear con la derecha”

Runway lanza herramienta de inteligencia artificial para generar videos con mejor coherencia narrativa y visual

Allen Taylor de Endeavor Catalyst: “El emprendimiento prospera en el caos, y Latinoamérica tiene una buena dosis de eso”

Eric Acher: “Vamos a tener decacornios en la siguiente década en Latinoamérica”

Compañías analizan los aprendizajes y resultados del programa Venture Client de Sofofa Hub

VC Latam Summit en Miami cierra con visiones optimistas que proyectan un nuevo ciclo para el capital de riesgo

Runway lanza herramienta de inteligencia artificial para generar videos con mejor coherencia narrativa y visual

Allen Taylor de Endeavor Catalyst: “El emprendimiento prospera en el caos, y Latinoamérica tiene una buena dosis de eso”

Eric Acher: “Vamos a tener decacornios en la siguiente década en Latinoamérica”

Compañías analizan los aprendizajes y resultados del programa Venture Client de Sofofa Hub

VC Latam Summit en Miami cierra con visiones optimistas que proyectan un nuevo ciclo para el capital de riesgo

Firmas de abogados de élite en EEUU en alerta ante nuevas represalias de Donald Trump

Manual de libre competencia se presenta en Bogotá

Cabello & Cía nombra nuevos socios

IBA Latinoamérica 2025: Estudios chilenos plantean sus retos a 2030

El CAM Santiago y CIAM-CIAR firman alianza para el desarrollo del arbitraje internacional

Firmas de abogados de élite en EEUU en alerta ante nuevas represalias de Donald Trump

Manual de libre competencia se presenta en Bogotá

Cabello & Cía nombra nuevos socios

IBA Latinoamérica 2025: Estudios chilenos plantean sus retos a 2030

El CAM Santiago y CIAM-CIAR firman alianza para el desarrollo del arbitraje internacional

MOP licita anteproyecto para diseñar ampliación del Aeropuerto de Santiago

Constructora que levantó edificio “social” demanda a municipio de Las Condes: acusa incumplimiento de contrato

Crisis inmobiliaria acelera la concentración del mercado: grandes empresas dominan el 53% de las ventas

Reconocido actor del rubro inmobiliario se suma al negocio de la asesoría para transacciones e inversión

Socovesa sigue reduciendo pérdidas y cierra 2024 con el lanzamiento de once nuevos proyectos

MOP licita anteproyecto para diseñar ampliación del Aeropuerto de Santiago

Constructora que levantó edificio “social” demanda a municipio de Las Condes: acusa incumplimiento de contrato

Crisis inmobiliaria acelera la concentración del mercado: grandes empresas dominan el 53% de las ventas

Reconocido actor del rubro inmobiliario se suma al negocio de la asesoría para transacciones e inversión

Socovesa sigue reduciendo pérdidas y cierra 2024 con el lanzamiento de once nuevos proyectos

No fue solo Zurich: fondos de LarrainVial Activos revelan inversiones en Awto tras cierre de startup

Empresa de arriendo de vehículos Awto baja la cortina y golpea a fondo de Zurich

Credicorp Capital marca distancia de Sartor AGF y rechaza acusaciones sobre un trato preferencial en la liquidación

Caso Sartor: Pedro Pablo Larraín dispara contra la CMF y acusa de favorecer a Credicorp frente a otros inversionistas

Tras petición de Credicorp: CMF ordena liquidación anticipada de dos fondos de Sartor que invertían en Perú

No fue solo Zurich: fondos de LarrainVial Activos revelan inversiones en Awto tras cierre de startup

Empresa de arriendo de vehículos Awto baja la cortina y golpea a fondo de Zurich

Credicorp Capital marca distancia de Sartor AGF y rechaza acusaciones sobre un trato preferencial en la liquidación

Caso Sartor: Pedro Pablo Larraín dispara contra la CMF y acusa de favorecer a Credicorp frente a otros inversionistas

Tras petición de Credicorp: CMF ordena liquidación anticipada de dos fondos de Sartor que invertían en Perú

Estudio Adapsys-DF muestra que en 2024 disminuyó la inclusión de la diversidad en las organizaciones

Corfo lanza tres programas para financiar emprendimientos liderados por mujeres