ACCESIBILIDAD
- Alto contraste

Cuidado con el “síndrome de muerte por GPT”

La IA generativa tiene usos para las profesiones jurídicas y sanitarias, pero también es una trampa para los incautos.

Por: John Thornhill

Publicado: Lunes 5 de junio de 2023 a las 04:00 hrs.

chatbot

Inteligencia Artificial

Esta semana, un veterano abogado neoyorquino con 30 años de experiencia enfrentará una audiencia disciplinaria por un nuevo tipo de falta: incluir contenido falso generado por inteligencia artificial (IA) en un informe legal.

Steven Schwartz, del bufete Levidow, Levidow & Oberman, había presentado un documento de 10 páginas ante una corte de Nueva York como parte de una demanda por lesiones personales contra la compañía aérea Avianca. El problema fue que, como descubrió el juez al leerlo más detenidamente, el documento contenía decisiones judiciales y citas totalmente ficticias que el modelo de IA generativa ChatGPT había “alucinado”.

En una declaración jurada, Schwartz, mortificado, admitió que había utilizado el chatbot de OpenAI para ayudarse a investigar el caso. El modelo generativo de IA incluso le había asegurado que los precedentes jurídicos que citaba eran reales. Pero ChatGPT había demostrado ser una fuente poco fiable. Lamentando enormemente su excesiva confianza en el contenido generado por computadora, añadió que no volvería a utilizarlo “sin una verificación absoluta de su autenticidad”. Uno solo espera que todos podamos sacar provecho de su “experiencia de aprendizaje”, como los profesores actualmente llaman a los errores.

Como muchos millones de personas han descubierto, ChatGPT puede crear contenido extremadamente convincente, pero muy falible. Cuando las compañías de IA generativa pregonan que sus modelos son capaces de aprobar exámenes jurídicos y médicos, no es descabellado que los usuarios crean que son más inteligentes que ellos.

Sin embargo, según las respetuosas palabras de la lingüista computacional Emily Bender, estos modelos no son más que “loros estocásticos”, máquinas imitadoras diseñadas para producir la respuesta estadísticamente más probable -no la más exacta- sin ningún concepto de significado. O, según las palabras menos respetuosas de un ejecutivo del sector de la tecnología, son generadores de mierda de primera clase, como Schwartz ha descubierto, muy a su pesar.

Confianza en la tecnología

Nuestra fe ingenua en la tecnología tiene una larga historia. Tenemos tendencia a confiar demasiado en las computadoras, a veces con resultados fatales, como es el caso del documentado “síndrome de muerte por GPS”. Ignorando la evidencia de sus propios ojos, algunos conductores de automóviles han seguido ciegamente sistemas de navegación GPS erróneos, a veces con resultados no deseados o negativos, incluyendo la entrada en rampas de salida de autopistas. Un trabajo de investigación de 2017 identificó 158 incidentes catastróficos relacionados con dispositivos GPS, que provocaron 52 muertes.

Si no tenemos cuidado, los futuros investigadores podrían escribir algún día artículos sobre el “síndrome de muerte por GPT”. ¿Hasta qué punto los usuarios, y el personal de atención sanitaria, confiarán insensatamente en un chatbot para recibir consejos médicos, por ejemplo?

En el sitio web de OpenAI se les ha advertido a los usuarios que ChatGPT puede producir información incorrecta o engañosa y que su propósito no es dar consejos. Pero la Organización Mundial de la Salud (OMS) ya ha advertido sobre los errores que puede causar la adopción precipitada de sistemas de IA generativa no probados, aunque sigue entusiasmada con el potencial a largo plazo de esta tecnología para mejorar la atención sanitaria.

A pesar de sus alarmantes errores tecnológicos, está claro que los modelos generativos de IA tendrán un enorme impacto en las profesiones jurídicas y sanitarias, y en muchas otras. Están proliferando modelos más pequeños, específicos de cada ámbito y de código abierto, que amenazan con automatizar gran parte del trabajo rutinario del conocimiento.

Procesadores de texto

La startup Scissero, fundada por Mathias Strasser, exabogado del bufete estadounidense Sullivan & Cromwell, ha lanzado un chatbot llamado Mike, que ha sido entrenado en escenarios jurídicos reales para redactar correos electrónicos y anotar documentos jurídicos.

Strasser sostiene que la competencia básica de los abogados es leer, interpretar y escribir el lenguaje. Esa es también la competencia básica de los modelos generativos de IA. “El sector jurídico se basa en la palabra. Los abogados son procesadores de texto subcontratados”, me dice Strasser. “Con GPT, puedes invocar a todo un ejército de asistentes jurídicos”.

Pero del mismo modo que los abogados experimentados siempre deben responsabilizarse de los informes redactados a las tres de la madrugada por sus asistentes humanos con exceso de cafeína, también deben examinar con ojo crítico los resultados de los modelos generativos de IA y ser conscientes de sus defectos. Las cosas pueden salir mal, y de hecho salen mal. Solo pregúntenle al desdichado Schwartz.

ARTICULOS RELACIONADOS

BYD se compromete a colaborar con su rival Tesla para combatir los automóviles de gasolina

Por qué Zelenski rechaza la "trampa" del alto el fuego de Trump

Las criptomonedas suben luego que Donald Trump revela los tokens incluidos en la reserva estratégica de EEUU

Trump acusa a Zelenski de estar “jugando con la Tercera Guerra Mundial” en encuentro que terminó en tensa discusión en la Oficina Oval

Newsletters

Conoce lo más importante que hizo noticia en la primera parte de la jornada. Por Concetta Caciattore - Lunes a viernes PM

Reforma | Análisis | Estadísticas | Opinión - Semanal

Entérate primero cómo viene el mercado, las noticias que debes saber y los hechos que marcarán la pauta en el día. Por Marcela Vélez-Plickert - Lunes a viernes AM

Lo urgente que debes saber en mercados, empresas, economía e internacional - 24/7

NEWS DIARIO - Domingo a jueves PM

NOTICIAS MÁS LEÍDAS - Lunes a viernes PM, Sábado AM

Your essential daily briefing - Lunes, martes y miércoles PM

Análisis, fondos de inversión, indicadores, proyectos, tendencias, terrenos - Lunes AM

NOTICIAS DE PORTADA - Sábado AM

DF SUD

Chilena Falabella apuesta por el crecimiento de su banco en Perú y México en medio de “un contexto desafiante” en consumo

DF SUD

Mercado Libre afianza presencia en México: construirá centro de distribución en Nuevo León, con inversión de US$ 180 millones

DF SUD

Telefónica perdió US$ 53 millones en 2024 por el deterioro de activos en Hispanoamérica

DF MAS

Cómo el auge y caída de una biotech de EEUU llegó al corazón de una familia chilena

DF MAS

Levita Magnetics sigue apostando por EEUU y contrata nuevo VP de ventas

DF MAS

Lo que se dijo en 2023 de los ingresos del litio, la promesa de ahorro y la regla que la precisó un año después

Fondos de Inversión Entre Códigos Pensiones Laboral & Personas Construcción Somos Financieras

Fondos de Inversión

CMF aumenta exigencias de información de fondos, pero mercado alerta sobre alza de costos regulatorios

El regulador estableció un manual que contiene instrucciones para la entrega de información utilizada para la fiscalización, actualizando los requerimientos.

Fondos de Inversión

PwC proyecta recuperación de M&A en el sector inmobiliario y materias primas alimenticias

Fondos de Inversión

Presidente de Grupo Sartor concreta querella contra inversionista de eCapital por denuncia calumniosa

Fondos de Inversión

Portable alpha, la estrategia apalancada de inversión que vuelve a ganar adeptos tras fracasar en 2008

Fondos de Inversión

Grupo de acreedores ad hoc de WOM crean fondo de inversión con que ingresarían a la propiedad de la empresa

Fondos de Inversión

CMF aumenta exigencias de información de fondos, pero mercado alerta sobre alza de costos regulatorios

Fondos de Inversión

PwC proyecta recuperación de M&A en el sector inmobiliario y materias primas alimenticias

Fondos de Inversión

Presidente de Grupo Sartor concreta querella contra inversionista de eCapital por denuncia calumniosa

Fondos de Inversión

Portable alpha, la estrategia apalancada de inversión que vuelve a ganar adeptos tras fracasar en 2008

Fondos de Inversión

Grupo de acreedores ad hoc de WOM crean fondo de inversión con que ingresarían a la propiedad de la empresa

Entre Códigos

PPU integra a Zañartu Abogados, boutique especializada en litigios, arbitrales e insolvencias.

Simón Zañartu llega a liderar el área de reorganización e insolvencia de PPU, así como también a reforzar el área de resolución de controversias.

Entre Códigos

Interrupción de servicios básicos empuja Procedimientos Voluntarios Colectivos del Sernac a cifra récord

EZIO COSTA, DIRECTOR EJECUTIVO DE FIMA. IGNACIO URBINA, SOCIO ÁREA AMBIENTAL DE FERMANDOIS, PAULINA RIQUELME, SOCIA DE EELAW. ROMINA TOBAR, DIRECTORA AMBIENTAL DE PRIETO

Entre Códigos

Expertos prevén mayor probabilidad de litigación climática en los próximos años y detallan los retos que asoman

Entre Códigos

RMR Laboral inicia formalmente su trabajo en medio del febrero más caluroso de la historia

El director de la Unidad Especializada en Lavado de Dinero, Delitos Económicos, Delitos Medioambientales y Crimen Organizado (Ulddeco), abogado Mauricio Fernández, deja la institución para dar el salto al mundo privado.

Entre Códigos

Mauricio Fernández y Ley de Delitos Económicos: “Será necesario hacerle ajustes para que esta legislación tenga intención seria de aplicación”

Entre Códigos

PPU integra a Zañartu Abogados, boutique especializada en litigios, arbitrales e insolvencias.

Entre Códigos

Interrupción de servicios básicos empuja Procedimientos Voluntarios Colectivos del Sernac a cifra récord

Entre Códigos

Expertos prevén mayor probabilidad de litigación climática en los próximos años y detallan los retos que asoman

Entre Códigos

RMR Laboral inicia formalmente su trabajo en medio del febrero más caluroso de la historia

Entre Códigos

Mauricio Fernández y Ley de Delitos Económicos: “Será necesario hacerle ajustes para que esta legislación tenga intención seria de aplicación”

Pensiones

Multifondos: los A y B registraron en febrero su peor desempeño desde abril pasado

Según Ciedess, los fondos de pensiones mostraron resultados mixtos en febrero. Los multifondos riesgosos fueron los más afectados.

Pensiones

Reforma de pensiones entra esta semana a revisión del Tribunal Constitucional y Gobierno podría promulgarla este mes

Pensiones

Rafael Donoso, socio de SoyFocus: “Se abre una oportunidad (en la industria de AFP) que antes no teníamos. Lo estamos analizando muy en serio”

Pensiones

AFP peruana Integra, de grupo SURA, suma casi tres millones de afiliados nuevos tras tres procesos de licitación

Pensiones

Todos los multifondos registran caídas en lo que va de febrero

Pensiones

Multifondos: los A y B registraron en febrero su peor desempeño desde abril pasado

Pensiones

Reforma de pensiones entra esta semana a revisión del Tribunal Constitucional y Gobierno podría promulgarla este mes

Pensiones

Rafael Donoso, socio de SoyFocus: “Se abre una oportunidad (en la industria de AFP) que antes no teníamos. Lo estamos analizando muy en serio”

Pensiones

AFP peruana Integra, de grupo SURA, suma casi tres millones de afiliados nuevos tras tres procesos de licitación

Pensiones

Todos los multifondos registran caídas en lo que va de febrero

Laboral & Personas

El primer hito que marca el inicio del proceso electoral en la CUT

Las elecciones para definir al nuevo consejo directivo de la instancia se realizarán en mayo próximo. El colegio electoral de la multisindical ya informó el cronograma del proceso.

Laboral & Personas

La tasa de desocupación nacional baja a 8,0% en el trimestre noviembre 2024 – enero 2025

Laboral & Personas

¿Qué barreras limitan que más mujeres trabajen hoy? La visión de los head hunters habla de factores conocidos

Laboral & Personas

CUT cuestiona al Gobierno por negociación ramal y le pide cumplir con compromiso

Giorgio Boccardo y Jeannette Jara. Fotos: Julio Castro

Laboral & Personas

Subsidios y negociación multinivel: la agenda laboral que aterrizará este año en el Congreso

Laboral & Personas

El primer hito que marca el inicio del proceso electoral en la CUT

Laboral & Personas

La tasa de desocupación nacional baja a 8,0% en el trimestre noviembre 2024 – enero 2025

Laboral & Personas

¿Qué barreras limitan que más mujeres trabajen hoy? La visión de los head hunters habla de factores conocidos

Laboral & Personas

CUT cuestiona al Gobierno por negociación ramal y le pide cumplir con compromiso

Laboral & Personas

Subsidios y negociación multinivel: la agenda laboral que aterrizará este año en el Congreso

Construcción

Exportaciones de vino embotellado parten 2025 con positivos resultados, pero China sigue a la baja y se aleja de niveles prepandemia

En enero se enviaron 4,2 millones de cajas por un valor US$ 116 millones, lo que representa un aumento de 9,2% en volumen y de 6% en valor, respecto de enero de 2024.

Construcción

MOP gana disputa a dueña de cementerio que cuestiona que teleférico a Ciudad Empresarial atraviese su espacio aéreo

Construcción

Utilidades de CBB crecen un 42% al cierre del 2024 impulsado por el negocio del cal

Construcción

SalfaCorp resbala en el cuarto trimestre de 2024, pero repite sus utilidades históricas en el conjunto del año

El inmueble está en la misma manzana de la Basílica de la Merced.

Construcción

Orden religiosa lidera nuevo proyecto de reconversión de edificio de oficinas a viviendas en Santiago centro

Construcción

Exportaciones de vino embotellado parten 2025 con positivos resultados, pero China sigue a la baja y se aleja de niveles prepandemia

Construcción

MOP gana disputa a dueña de cementerio que cuestiona que teleférico a Ciudad Empresarial atraviese su espacio aéreo

Construcción

Utilidades de CBB crecen un 42% al cierre del 2024 impulsado por el negocio del cal

Construcción

SalfaCorp resbala en el cuarto trimestre de 2024, pero repite sus utilidades históricas en el conjunto del año

Construcción

Orden religiosa lidera nuevo proyecto de reconversión de edificio de oficinas a viviendas en Santiago centro

La directora ejecutiva de la Fundación Chile sin Cáncer, Cecilia Gracia, y una de sus directoras, Dafne González.

Los planes de la Fundación Chile sin Cáncer para reducir las listas de espera oncológicas en 2025

Tienen seis Enfermeras de Práctica Avanzada (EPA) trabajando en los hospitales de Rancagua, Van Buren y Sótero del Río, las que han logrado aumentar en 40% la atención de pacientes.

Francisca Vial, de Eyzaguirre y Cía Abogados: "La Ley Karin es la reforma más grande que hemos tenido en derecho laboral en los últimos 10 años"

Índice de trayectoria laboral: por primera vez aumenta percepción de que se penaliza la paternidad, no solo la maternidad

María Fernanda Suárez, presidenta de Banco Popular Colombia,

María Fernanda Suárez: “El directorio nunca logra cumplir la estrategia si no está cumpliendo los hitos de corto y de mediano plazo”

Se constituye el primer consejo de la Red Mujeres Promociona Chile

Los planes de la Fundación Chile sin Cáncer para reducir las listas de espera oncológicas en 2025

Francisca Vial, de Eyzaguirre y Cía Abogados: "La Ley Karin es la reforma más grande que hemos tenido en derecho laboral en los últimos 10 años"

Índice de trayectoria laboral: por primera vez aumenta percepción de que se penaliza la paternidad, no solo la maternidad

María Fernanda Suárez: “El directorio nunca logra cumplir la estrategia si no está cumpliendo los hitos de corto y de mediano plazo”

Se constituye el primer consejo de la Red Mujeres Promociona Chile

BRANDED CONTENT

BRANDED CONTENT

Estrena Lynk & Co. la disruptiva marca del Grupo Geely con genética Volvo

Tattersall Automotriz sigue expandiéndose en Chile

Patrocina: GARAGE / STUDIO DF

BRANDED CONTENT

Audi A3: renovación en el nicho del dinamismo

La exitosa serie de Audi se renueva tanto en sus variantes hatchback y sedán,

Patrocina: GARAGE / STUDIO DF

BRANDED CONTENT

Las Claves de Chery para conquistar al consumidor chileno

Patrocina: GARAGE / STUDIO DF

BRANDED CONTENT

Kia renueva en citycars y SUV: nuevos Morning y Sonet en Chile

Patrocina: GARAGE / STUDIO DF

Suplementos

Papel Digital

Diario Financiero

Lee la edición de hoy

DF.CL

PAPEL DIGITAL

MARCAS GRUPO DF

Plataformas

Corporativo

Contactos

Te recomendamos

ARTICULOS RELACIONADOS

BYD se compromete a colaborar con su rival Tesla para combatir los automóviles de gasolina

Por qué Zelenski rechaza la "trampa" del alto el fuego de Trump

Las criptomonedas suben luego que Donald Trump revela los tokens incluidos en la reserva estratégica de EEUU

Trump acusa a Zelenski de estar “jugando con la Tercera Guerra Mundial” en encuentro que terminó en tensa discusión en la Oficina Oval

LO MÁS LEÍDO

Nevasa tras fallida venta a Habitat Andina: “Lamentamos profundamente la decisión tomada en forma unilateral”

Zelenski acepta exigencias de Trump y dice estar dispuesto a avanzar en un rápido acuerdo de paz con Rusia

Por qué Zelenski rechaza la "trampa" del alto el fuego de Trump

Reforma al impuesto a la renta: Marcel pone el pie en el acelerador y busca cerrar esta semana el trabajo prelegislativo

La advertencia de Moody’s tras la polémica por los traspasos desde Corfo al Fisco

MOP gana disputa a dueña de cementerio que cuestiona que teleférico a Ciudad Empresarial atraviese su espacio aéreo

Forus reporta “récord de ventas” en 2024 y suma Crocs y L’Occitane a sus marcas

Dólar cae a mínimos de la sesión bajo $ 950 al inicio de la tarde en el primer día de aranceles de Trump

Conoce lo más importante que hizo noticia en la primera parte de la jornada. Por Concetta Caciattore - Lunes a viernes PM

Newsletters

Conoce lo más importante que hizo noticia en la primera parte de la jornada. Por Concetta Caciattore - Lunes a viernes PM

Reforma | Análisis | Estadísticas | Opinión - Semanal

Entérate primero cómo viene el mercado, las noticias que debes saber y los hechos que marcarán la pauta en el día. Por Marcela Vélez-Plickert - Lunes a viernes AM

Lo urgente que debes saber en mercados, empresas, economía e internacional - 24/7

NEWS DIARIO - Domingo a jueves PM

NOTICIAS MÁS LEÍDAS - Lunes a viernes PM, Sábado AM

Your essential daily briefing - Lunes, martes y miércoles PM

Análisis, fondos de inversión, indicadores, proyectos, tendencias, terrenos - Lunes AM

NOTICIAS DE PORTADA - Sábado AM

Chilena Falabella apuesta por el crecimiento de su banco en Perú y México en medio de “un contexto desafiante” en consumo

Mercado Libre afianza presencia en México: construirá centro de distribución en Nuevo León, con inversión de US$ 180 millones

Telefónica perdió US$ 53 millones en 2024 por el deterioro de activos en Hispanoamérica

Cómo el auge y caída de una biotech de EEUU llegó al corazón de una familia chilena

Levita Magnetics sigue apostando por EEUU y contrata nuevo VP de ventas

Lo que se dijo en 2023 de los ingresos del litio, la promesa de ahorro y la regla que la precisó un año después

CMF aumenta exigencias de información de fondos, pero mercado alerta sobre alza de costos regulatorios

PwC proyecta recuperación de M&A en el sector inmobiliario y materias primas alimenticias

Presidente de Grupo Sartor concreta querella contra inversionista de eCapital por denuncia calumniosa

Portable alpha, la estrategia apalancada de inversión que vuelve a ganar adeptos tras fracasar en 2008

Grupo de acreedores ad hoc de WOM crean fondo de inversión con que ingresarían a la propiedad de la empresa

CMF aumenta exigencias de información de fondos, pero mercado alerta sobre alza de costos regulatorios

PwC proyecta recuperación de M&A en el sector inmobiliario y materias primas alimenticias

Presidente de Grupo Sartor concreta querella contra inversionista de eCapital por denuncia calumniosa

Portable alpha, la estrategia apalancada de inversión que vuelve a ganar adeptos tras fracasar en 2008

Grupo de acreedores ad hoc de WOM crean fondo de inversión con que ingresarían a la propiedad de la empresa

PPU integra a Zañartu Abogados, boutique especializada en litigios, arbitrales e insolvencias.

Interrupción de servicios básicos empuja Procedimientos Voluntarios Colectivos del Sernac a cifra récord

Expertos prevén mayor probabilidad de litigación climática en los próximos años y detallan los retos que asoman

RMR Laboral inicia formalmente su trabajo en medio del febrero más caluroso de la historia

Mauricio Fernández y Ley de Delitos Económicos: “Será necesario hacerle ajustes para que esta legislación tenga intención seria de aplicación”

PPU integra a Zañartu Abogados, boutique especializada en litigios, arbitrales e insolvencias.

Interrupción de servicios básicos empuja Procedimientos Voluntarios Colectivos del Sernac a cifra récord

Expertos prevén mayor probabilidad de litigación climática en los próximos años y detallan los retos que asoman

RMR Laboral inicia formalmente su trabajo en medio del febrero más caluroso de la historia

Mauricio Fernández y Ley de Delitos Económicos: “Será necesario hacerle ajustes para que esta legislación tenga intención seria de aplicación”

Multifondos: los A y B registraron en febrero su peor desempeño desde abril pasado

Reforma de pensiones entra esta semana a revisión del Tribunal Constitucional y Gobierno podría promulgarla este mes

Rafael Donoso, socio de SoyFocus: “Se abre una oportunidad (en la industria de AFP) que antes no teníamos. Lo estamos analizando muy en serio”

AFP peruana Integra, de grupo SURA, suma casi tres millones de afiliados nuevos tras tres procesos de licitación

Todos los multifondos registran caídas en lo que va de febrero

Multifondos: los A y B registraron en febrero su peor desempeño desde abril pasado

Reforma de pensiones entra esta semana a revisión del Tribunal Constitucional y Gobierno podría promulgarla este mes

Rafael Donoso, socio de SoyFocus: “Se abre una oportunidad (en la industria de AFP) que antes no teníamos. Lo estamos analizando muy en serio”

AFP peruana Integra, de grupo SURA, suma casi tres millones de afiliados nuevos tras tres procesos de licitación

Todos los multifondos registran caídas en lo que va de febrero

El primer hito que marca el inicio del proceso electoral en la CUT

La tasa de desocupación nacional baja a 8,0% en el trimestre noviembre 2024 – enero 2025

¿Qué barreras limitan que más mujeres trabajen hoy? La visión de los head hunters habla de factores conocidos

CUT cuestiona al Gobierno por negociación ramal y le pide cumplir con compromiso

Subsidios y negociación multinivel: la agenda laboral que aterrizará este año en el Congreso

El primer hito que marca el inicio del proceso electoral en la CUT

La tasa de desocupación nacional baja a 8,0% en el trimestre noviembre 2024 – enero 2025

¿Qué barreras limitan que más mujeres trabajen hoy? La visión de los head hunters habla de factores conocidos

CUT cuestiona al Gobierno por negociación ramal y le pide cumplir con compromiso

Subsidios y negociación multinivel: la agenda laboral que aterrizará este año en el Congreso

Exportaciones de vino embotellado parten 2025 con positivos resultados, pero China sigue a la baja y se aleja de niveles prepandemia

MOP gana disputa a dueña de cementerio que cuestiona que teleférico a Ciudad Empresarial atraviese su espacio aéreo