Los desafíos éticos de las marcas en la era de la IA

La Inteligencia Artificial (IA) ha revolucionado el modo cómo se mueven las industrias alrededor del mundo y el marketing no ha estado exento de esos cambios. La forma cómo este avance tecnológico facilita el análisis del comportamiento de los consumidores para ofrecer experiencias más personalizadas y automatizadas, la han transformado en una gran herramienta de trabajo para las marcas. Sin embargo, diversos estudios han advertido sobre los sesgos que estos sistemas presentan. 

Género, raza y clase, son algunos de los puntos en donde la IA ha demostrado tener este tipo de falencias. ¿Qué avances pueden poner en riesgo la exposición a estos sesgos? ¿Qué precauciones debería tomar la industria del marketing y los consumidores desde sus respectivas veredas? Conversamos con dos observadoras de este fenómeno, quienes compartieron su análisis y consejos para que tanto clientes como marcas puedan aprovechar al máximo esta herramienta, entendiendo tanto sus fortalezas como debilidades. 

La psicóloga, presidenta de Canal 13 y especialista en comportamiento del consumidor y gestión de marcas, Carolina Altschwager, habla sobre cómo estas miradas parcializadas  han sido heredadas de la propia sociedad: “No es la IA sesgada por definición, pero los algoritmos en base a los cuales se han creados los preconceptos con los cuales se han diseñado contienen sesgos frente a los que deberíamos estar muy atentos”.

Claudia López, investigadora asociada del Centro Nacional de Inteligencia Artificial y experta en tecnología de la información y sesgos, comparte esta visión y subraya la importancia de detectar aquella información que pueda estar incurriendo en prácticas discriminatorias que respondan a patrones históricos. “Lo más importante es identificar dónde están los datos, qué datos hay y cuáles son los sesgos que puedan tener, y después de eso, trabajar en equipo multidisciplinario (...) Tener esa costumbre de evaluar antes de lanzar al mercado algún producto haría súper bien para evitar algunos de los sesgos que hoy día estamos conociendo”, señala. 

A su vez, Carolina Altschwager advierte sobre la importancia de ser conscientes sobre las fallas que puede presentar la IA: “Si no ponemos al frente la discusión de los modelos con los cuales se han construido estos sistemas, sin duda se puede afectar el progreso en diversos ámbitos: podemos seguir amplificando la discriminación en la evaluación y acceso de servicios para las personas, podemos seguir ofreciendo condiciones diferenciadas o no equitativas entre hombres y mujeres, entre otros”. 

Cómo se reflejan los sesgos de género

En el 2015, un equipo de investigadores de la Universidad Carnegie Mellon fue de los pioneros en plantear esta temática a través de una publicación, en donde, entre otras cosas, se descubrió que es mucho menos probable que aparezcan ofertas de empleos altamente remunerados para mujeres que para hombres. En tanto, este año, un reportaje de The Guardian reveló que las herramientas de IA catalogan como más sexualmente sugerentes las fotos de mujeres que las de hombres, pese a que ambas muestren circunstancias similares, como una persona en ropa interior o haciendo ejercicio. 

Claudia López entrega su visión sobre cómo estos casos concretos influyen en la desigualdad: “La IA se da cuenta que las mujeres tenemos trabajos peores pagados y lo que hace al final del día es aprender eso y ofrecernos peores trabajos que los que le ofrecen a los hombres. Eso es como un caso súper crítico porque nos limita en nuestras posibilidades”. 

Con respecto al estudio de The Guardian, la profesional aclara que este tipo de acciones nacen de una intención de las compañías tecnológicas de cuidar el contenido en redes sociales, intentando identificar las fotografías y moderar lo que sea sexualmente sugerente. Sin embargo, se produce un efecto negativo al caer en los sesgos de género.

“Lo que terminó pasando es que muestra que en la publicidad finalmente se consideran como sexualizada las imágenes de marketing que tienen que ver, por ejemplo, con ropa de mujeres (...) finalmente se penaliza las fotografías de ellas cuando muestran piel y eso perjudica tanto a las personas que venden ropa femenina como a quienes tenemos que hacer nuestras compras también a través de ese tipo de publicidad”, declara.

Los retos para marcas y consumidores

Para que tanto la industria del marketing como los consumidores puedan hacer frente a las problemáticas que puede traer consigo el uso de la IA, es fundamental realizar una evaluación del trabajo que se está realizando con este tipo de herramientas,  ser transparentes con el uso de la información y  responsables al utilizar estas herramientas, teniendo siempre un enfoque ético. 

“Los principales desafíos tienen que ver con asegurarse de que los resultados funcionen razonablemente bien para los distintos grupos de personas a los cuales vamos a ofrecer ese servicio. Si es que le vamos a ofrecer ese servicio a hombres y mujeres, vamos a ver que les estemos entregando los mismos tipos de productos, el mismo nivel de calidad, la misma cobertura de publicidad, tanto desde el lado de los clientes como desde el lado de quienes están produciendo”, señala Claudia López. 

Asimismo, destacó la relevancia de que las marcas puedan “avanzar hacia un poco más de transparencia sobre cómo funciona la IA". En ese sentido, la investigadora cree que cuando entre en acción la Ley de protección de datos personales se producirá un cambio positivo en este aspecto: "Esperamos que las instituciones sean mucho más cuidadosas en la forma cómo se utilizan los datos personales de las personas y que las personas podamos saber qué datos se usan, podamos cambiarlos si creemos que no son adecuados o no nos representan". 

Finalmente, Carolina Altschwager detalla la importancia de ser responsables y conscientes al utilizar la IA para "entender las posibilidades y oportunidades de esta herramienta para facilitar procesos, tareas, uso de tiempo y resolución de problemas, pero también comprender las limitaciones y riesgos que puede generar en nuestras interacciones, en nuestras relaciones”, agrega.

“La ética del uso de la IA (junto con la ética en muchos otros comportamientos) tiene que ser un eje de conversación y discusión en la etapa de transformación que estamos viviendo”, concluye la psicóloga.