Michael Cohen utilizó casos falsos citados por inteligencia artificial para pedir el fin de la supervisión judicial

Michael D. Cohen, exreparador del expresidente Donald J. Trump, proporcionó por error a su abogado citaciones legales falsas inventadas por el programa de inteligencia artificial Google Bard, dijo en documentos judiciales no sellados el viernes.

Las citas ficticias fueron utilizadas por el abogado en una moción presentada ante el juez federal Jesse M. Furman. Cohen, quien se declaró culpable en 2018 de violaciones de la financiación de campañas y cumplió una pena de prisión, había pedido al juez que pusiera fin anticipadamente a la supervisión judicial de su caso ahora que está fuera de prisión y ha cumplido con las condiciones de su liberación.

La cadena resultante de malentendidos y errores terminó cuando Cohen le pidió al juez que actuara con “discreción y misericordia”.

En una declaración jurada hecha pública el viernes, Cohen explicó que no se había mantenido al día con «las tendencias emergentes (y los riesgos relacionados) en la tecnología legal y no se dio cuenta de que Google Bard era un servicio de texto generativo que, como ChatGPT, podía mostrar citas». y descripciones que parecían reales pero no lo eran».

También dijo que no se dio cuenta de que el abogado que presentó la moción en su nombre, David M. Schwartz, «abandonaría los casos en su presentación sin siquiera confirmar que existían».

El episodio podría tener implicaciones para un caso penal en Manhattan contra Trump en el que se espera que Cohen sea el testigo estrella. Los abogados del ex presidente han atacado durante mucho tiempo a Cohen como un fabulista en serie; ahora dicen que tienen un nuevo ejemplo.

La desafortunada presentación fue al menos la segunda este año por parte de abogados en un tribunal federal de Manhattan en la que los abogados citaron decisiones falsas generadas por inteligencia artificial. La profesión jurídica, como otros, está luchando por dar cuenta de la nueva tecnología destinada a imitar el cerebro humano.

Los programas de inteligencia artificial como Bard y ChatGPT generan respuestas realistas al adivinar qué fragmentos de texto deben seguir otras secuencias. Estos programas se basan en miles de millones de muestras de texto importadas de Internet. Si bien pueden sintetizar grandes cantidades de información y presentarla de manera persuasiva, todavía quedan errores por resolver.

Las tres citas en el caso de Cohen parecen ser alucinaciones creadas por el chatbot Bard, tomando fragmentos de casos reales y combinándolos con imaginación robótica. Luego, el Sr. Schwartz los incluyó en la moción que presentó al juez Furman.

Cohen, en su declaración, dijo que entendía que Bard era “un motor de búsqueda mejorado”, que había utilizado anteriormente para encontrar información precisa en línea.

Schwartz, en su propia declaración, reconoció haber utilizado las citaciones y dijo que no había revisado los casos de forma independiente porque Cohen indicó que otro abogado, E. Danya Perry, estaba haciendo sugerencias para la moción.

«Pido disculpas sinceramente al tribunal por no examinar personalmente estos casos antes de presentarlos ante el tribunal», escribió Schwartz.

Barry Kamins, abogado de Schwartz, se negó a hacer comentarios el viernes.

Perry dijo que comenzó a representar a Cohen sólo después de que Schwartz presentó la moción. Escribió al juez Furman el 8 de diciembre diciéndole que, luego de leer el documento ya presentado, no podía verificar la jurisprudencia citada.

En una declaración en ese momento, dijo que “de conformidad con mi obligación ética de franqueza ante el tribunal, informé al juez Furman sobre este asunto”.

Dijo en una carta hecha pública el viernes que Cohen, un ex abogado inhabilitado, “no sabía que los casos que identificó no eran reales y, a diferencia de su abogado, no tenía la obligación de confirmarlo”.

“Cabe enfatizar que el señor Cohen no incurrió en ninguna mala conducta”, escribió Perry. Dijo el viernes que Cohen no hizo comentarios y que acordó abrir los documentos judiciales después de que el juez planteó la cuestión de si contenían información protegida por el secreto profesional entre abogado y cliente.

La estafa surgió cuando el juez Furman dijo en una orden del 12 de diciembre que no podía encontrar ninguna de las tres decisiones. Ordenó al Sr. Schwartz que proporcionara copias o “una explicación detallada de cómo la moción llegó a citar casos que no existen y qué papel, si alguno, desempeñó el Sr. Cohen”.

El asunto podría tener implicaciones significativas, dado el papel clave de Cohen en un caso presentado por el fiscal de distrito de Manhattan cuyo juicio está previsto para el 25 de marzo.

El fiscal de distrito, Alvin L. Bragg, acusó a Trump de orquestar un plan secreto centrado en un pago realizado por Cohen durante las elecciones de 2016 a una estrella de cine porno, Stormy Daniels. Trump se ha declarado inocente de 34 cargos de delitos graves.

En un intento de refutar las afirmaciones de los abogados de Trump de que Cohen no es confiable, sus defensores dijeron que Cohen ha mentido en nombre de Trump, pero ha estado diciendo la verdad desde que se separó del expresidente en 2018 y se declaró culpable de los cargos federales. . .

Los abogados de Trump inmediatamente aprovecharon la divulgación de Google Bard el viernes. Susan R. Necheles, abogada que representa a Trump en el próximo juicio en Manhattan, dijo que era “típico de Michael Cohen”.

«Es un perjuro confirmado y se ha declarado culpable de múltiples delitos y esto es sólo un indicador más de su falta de carácter y su continua criminalidad», dijo la señora Necheles.

La Sra. Perry, la abogada que ahora representa al Sr. Cohen en la moción, dijo que la voluntad del Sr. Cohen de que se abrieran los documentos demuestra que no tenía nada que ocultar.

“Confió en su abogado, como tenía todo el derecho a hacerlo”, dijo. «Desafortunadamente, su abogado parece haber cometido un error honesto al no verificar las citas en el escrito que redactó y presentó».

Un portavoz de Bragg se negó a hacer comentarios el viernes.

Los fiscales podrían argumentar que las acciones del Sr. Cohen no tenían como objetivo defraudar al tribunal, sino que, según él mismo admitió, fueron producto de un triste malentendido sobre la nueva tecnología.

La cuestión de los abogados que dependen de chatbots saltó a la atención pública a principios de este año después de que otro juez federal de Manhattan, P. Kevin Castel, multara a dos abogados con 5.000 dólares después de que admitieran haber presentado un escrito legal lleno de casos y citaciones inexistentes, todos generados por ChatGPT.

Estos casos parecen estar extendiéndose en los tribunales nacionales, dijo Eugene Volokh, profesor de derecho en UCLA que ha escrito sobre inteligencia artificial y derecho.

El profesor Volokh dijo que había contado una docena de casos en los que se creía que abogados o litigantes que se representaban a sí mismos habían utilizado chatbots para investigaciones jurídicas que terminaron en documentos judiciales. «Sospecho firmemente que esto es sólo la punta del iceberg», afirmó.

Stephen Gillers, profesor de ética jurídica en la Facultad de Derecho de la Universidad de Nueva York, dijo: “La gente debería entender que la IA generativa no es la mala aquí. Tiene muchas promesas.

«Pero los abogados no pueden tratar a la IA como su co-abogada y simplemente repetir como un loro lo que dice», añadió.

Los casos inexistentes citados en la moción del Sr. Schwartz (Estados Unidos contra Figueroa-Flores, Estados Unidos contra Ortiz y Estados Unidos contra Amato) estaban acompañados de los resúmenes y anotaciones correspondientes que habían sido confirmados por la Corte de Apelaciones de los Estados Unidos para el caso. Segundo Circuito.

El juez Furman señaló en su orden del 12 de diciembre que la citación de Figueroa-Flores en realidad se refería a una página de una decisión emitida por otro tribunal federal de apelaciones y «no tiene nada que ver con la libertad supervisada».

El caso Amato citado en la moción, dijo el juez, en realidad se trataba de una decisión de la Junta de Apelaciones de Veteranos, un tribunal administrativo.

Y la citación para el caso Ortiz, escribió el juez Furman, parecía “no significar nada”.

William K. Rashbaum contribuyó al reportaje.