Inteligencia artificial y usuarios bien informados
Señor Director:
La Inteligencia Artificial (IA) promete conllevar cambios sociales y económicos equivalentes a los de la revolución industrial.
Dentro de los grandes problemas que presentan sistemas como ChatGPT están son las llamadas “alucinaciones”, que se refieren a un comportamiento anómalo en el que un modelo genera información falsa. Es decir, los modelos de lenguaje que utilizan algoritmos de IA, si no encuentran la información, la inventan.
El problema es que, en general, los usuarios no comprueban la información, pensando que son modelos fidedignos, cuando no es el caso, lo que nos pone ante un problema como sociedad, ya que un pilar base del conocimiento arriesga ser la información falsa. Sin duda, la IA levanta un debate que no podemos ignorar.
La inteligencia artificial llegó para quedarse y, ante los desafíos que nos demanda, una población crítica e informada podrá hacer uso de ella como asistente y no como prisionera. Por eso, fortalecer el sistema educacional y mantener una política nacional actualizada de IA y en constante revisión, resulta clave para los desafíos que se nos vienen como sociedad.
Rocío Mayol Troncoso
Doctora en Ciencias Biomédicas, Fundadora de @cientificamente_mujeres