Bueno, al parecer un abogado citó testigos falsos en un caso de asesinato y cuando lo cuestionaron, culpó a ChatGPT de haberlos inventado. Eso es absolutamente demencial. O sea, ¿cómo es que algo así sucede? ¿Es que acaso le pidió a la IA que inventara testigos y ni se molestó en verificar? Este es el tipo de cosa que te hace cuestionarte el papel de la IA en el sistema legal.
Esto pasó en realidad en 2023 cuando un abogado en Nueva York presentó un escrito en un caso federal que citaba seis precedentes legales que no existían. Cuando el juez lo descubrió y le preguntó de dónde venían esos casos, el abogado admitió que había usado ChatGPT para ayudarse en la investigación y la IA había fabricado completamente las citas. Al parecer simplemente copió lo que generó el chatbot sin verificar nada contra registros judiciales reales.
Lo más loco es lo fácil que fue que esto pasara inadvertido al principio. ChatGPT es genuinamente convincente en sonar con autoridad - generará con confianza nombres de casos, números de expediente y citas que suenan totalmente legítimas si no las buscas realmente. El abogado no hizo verificaciones básicas, lo cual... bueno, eso es culpa suya. No puedes simplemente meter el resultado de un prompt de IA en escritos legales sin verificar cada cosa que produce. La IA alucina constantemente y en realidad no "sabe" de qué está hablando - es reconocimiento de patrones basado en datos de entrenamiento.
Definitivamente activó las alarmas sobre cómo la gente estaba usando estas herramientas sin cuidado en situaciones de alto riesgo. Los tribunales se lo tomaron en serio al punto que algunos jueces empezaron a advertir explícitamente a los abogados que no confiaran en la IA para investigación legal sin verificación humana. El caso en sí enfrentó sanciones y se convirtió en una historia de advertencia que circuló por los círculos legales por un tiempo. Se trata menos de que la IA sea peligrosa en las cortes y más de que la gente sea imprudente con herramientas que no entienden completamente.
El error evidente fue presentar cualquier cosa ante un tribunal sin verificarla independientemente primero - eso es negligencia legal, con ChatGPT o sin él. El abogado intentó echarle la culpa a la IA, pero eso no funciona cuando eres tú quien presiona enviar. Un paso práctico que no recibe suficiente atención: si usas IA para investigación legal, verifica cada cita a través de Google Scholar o tu base de datos de la biblioteca de abogados antes de que toque un escrito. Te lleva tal vez cinco minutos por caso y atrapa las alucinaciones al instante. Todo el incidente es una lección de "la IA es un punto de partida, no una línea de meta" - especialmente cuando la libertad de alguien o años de prisión están en juego.
Iniciar sesiónpara responder.
