La IA generativa necesitará mayor implicación del factor humano para evitar riesgos

Los riesgos, la formación y la gobernanza sobre la Inteligencia Artificial (IA) han sido los ejes de las reflexiones del encuentro informativo ‘El impacto de la IA generativa en la industria creativa y cultural europea’, que organizó la Agencia EFE y Panodyssey, en el que los panelistas han abogado por dotar de una mayor implicación humana a esta herramienta.

De esta forma, el vicepresidente de la Asociación Española para la Inteligencia Artificial (AEPIA), Luis Magdalena, ha querido dejar claro que “la creatividad no está en la IA, está en quien lo utiliza”, por lo que para él, ante el debate de posibles sesgos, el problema está en los desarrolladores.

“Una máquina no sabe lo que es verdad o mentira, no tiene ese concepto, no nos puede engañar. Entonces, ¿quién nos engaña? El que desarrolla esa tecnología, por eso tenemos que prevenir los riesgos”, ha advertido.

Una gran cantidad de datos necesarios

De esta forma, la ingeniera de investigación en aprendizaje automático de Clibrain Labs, María Grandury, ha ahondado en que se necesitan “más y más datos para entrenar estos modelos”, lo que nos hará entrar en “un bucle” en el que se necesite mucha información para mitigar sesgos relacionados con el género o la raza, por ejemplo.

En cuanto a la gobernanza, la directora general de Hootsuite en Francia e Iberia, Romina González Galetto, ha destacado como tema importante la transparencia en el uso de la herramienta y ha solicitado la regulación sea global, a partir de unas pautas “que nos alinee a todos como creadores de tecnología”.