El chat GPT causa un caos legal después de inventar casos para reducir la carga de trabajo de los abogados.
En un giro sorprendente de los acontecimientos, el uso del abogado de OpenAI chatGPT para la asistencia legal ha salido mal, ya que el bot de chat impulsado por IA inventó casos que no existían.
Lo que sucedió: En un extraño caso que involucraba a Mata Vs. Avianca, en el que un cliente demandó a la aerolínea por una lesión en la rodilla causada por un carrito de servicio, el uso de chatGPT tomó un giro sorprendente.
Los abogados de Mata se opusieron al intento de Avianca de desestimar el caso y presentaron una breve memoria que contenía numerosas supuestas decisiones de los tribunales generadas por el bot de chat impulsado por IA.
A primera vista, esto puede parecer una divertida incidencia, un error honesto o ambos, pero lo que sucedió a continuación fue nada menos que extravagante.
Cuando se le exigió que produjera los casos reales en cuestión, el abogado de la demandante solicitó nuevamente ayuda a chatGPT, lo que llevó a la IA a inventar detalles elaborados de esos casos inventados, que luego se capturaron como capturas de pantalla y se incorporaron a los documentos legales.
Para aumentar la asombrosa secuencia, el abogado fue tan lejos como para pedirle a chatGPT que verificara la autenticidad de uno de los casos, a lo que la IA respondió afirmativamente, lo que resultó en la inclusión de las capturas de pantalla de confirmación de la IA en otro archivo.
En respuesta a esta situación extraordinaria, el juez ha programado una audiencia para el próximo mes para abordar la posibilidad de imponer sanciones a los abogados, reconociendo la necesidad de discutir y abordar las consecuencias de este circunstancia sin precedentes.
Cabe señalar que el mes pasado se informó de que un juez indio no pudo decidir si se le daría fianza a un sospechoso de asesinato que usó chatGPT para obtener asistencia.
Por qué es importante: Lo que hace que todo el caso sea tan extraño es el hecho de que, si bien se sabe que chatGPT de OpenAI y otros modelos de IA generativos como Bing AI de Microsoft Corp. (NASDAQ:MSFT) y Google Bard de Alphabet Inc. (NASDAQ:GOOG) (NASDAQ:GOOGL), tiende a alucinar y proporcionar hechos inventados con la máxima convicción.
Anteriormente, un usuario de Reddit destacó problemas simil