Promesas y peligros de la IA generativa

John Thornhill© 2023 The Financial Times Ltd.

Como explicó hace 37 años el historiador Melvin Kranzberg, que una tecnología se considere buena o mala depende sobre todo del contexto y de la época. El mismo invento puede producir resultados distintos en contextos diferentes y éstos pueden cambiar conforme evolucionan las circunstancias.

Dos casos recientes y radicalmente distintos de uso de la inteligencia artificial (IA) ponen de manifiesto la dualidad de nuestra última tecnología de propósito general, así como las dificultades para separar lo bueno de lo malo.

“La IA generativa parece estar en su ‘incómoda adolescencia’. Sin duda, el sector aún tiene que madurar mucho y será necesaria la intervención de los padres”.

Primero, el bueno. Desde 1971, los voluntarios del Proyecto Gutenberg han creado un valioso recurso público: una vasta biblioteca de libros digitales gratuitos y accesibles. El proyecto da acceso a más de 60.000 libros no protegidos por derechos de autor como parte de su misión de derribar las “rejas de la ignorancia y el analfabetismo”. Durante años, el proyecto ha querido convertir esos libros electrónicos en audiolibros para beneficiar a las personas con problemas de visión, pero los costos han sido prohibitivos. Ahora, gracias a la IA, ha generado 5.000 audiolibros a una velocidad increíble y con un costo mínimo, y los está publicando en Spotify, Google y Apple.

Este proyecto de audio, dirigido por investigadores pro bono del Instituto Tecnológico de Massachusetts (MIT) y de Microsoft, utilizó la última tecnología neuronal de conversión de texto a voz para imitar la calidad y el tono de las voces humanas y crear 35.000 horas de grabaciones de audiolibros en poco más de dos horas.

Los investigadores han demostrado una aplicación aún más asombrosa que permite leer audiolibros con la voz de cualquier persona utilizando sólo cinco segundos de audio de muestra. Los padres podrían algún día utilizar esa aplicación para “leer” libros a la hora de dormir a sus hijos incluso cuando estén fuera de casa. Pero los peligros potenciales de la clonación de la voz son obvios y el equipo de investigación se muestra con razón cauteloso a la hora de facilitar el acceso a la tecnología.

Un ejemplo de cómo la tecnología de IA se ha utilizado para el mal ocurrió este mes en la localidad española de Almendralejo, donde un grupo de chicos escandalizó a la comunidad al circular por WhatsApp y Telegram imágenes de desnudos de 28 chicas de la localidad generadas por IA. Las fotos originales de las chicas fueron tomadas de sus cuentas en las redes sociales y posteriormente fueron manipuladas con una aplicación de IA generativa. En medio de un furor político nacional, un fiscal está examinando ahora si se ha cometido algún delito.

Al igual que sucede con otras tecnologías, seguirá un período complicado de adaptación del comportamiento, de la sociedad y de las legislaciones. Un informe de Sequoia Capital sugirió que la IA generativa estaba aún en su “incómoda adolescencia”. Sin duda, el sector aún tiene que madurar mucho y será necesaria la intervención de los padres.