CUIDADO: La IA es increíblemente buena para parecer confiada incluso cuando está completamente equivocada

La IA generativa vuelve a alucinar, esta vez en un expediente judicial federal

https://www.elpueblo.pe/
Rosa María Castillo

https://www.digitaltrends.com/users/mpal/

Qué pasó: 

Entonces empezó a suceder. Los tribunales de todo el mundo están recibiendo documentos legales de abogados llenos de mentiras generadas por IA. Estamos hablando de casos judiciales completamente inventados, citaciones falsas y citaciones que no existen.

De hecho, un científico de datos y abogado francés llamado Damien Charlottin lo está siguiendo. Encontró al menos 490 expedientes judiciales sólo en los últimos seis meses que contenían estas “alucinaciones” de IA.

La mayoría de ellos son de Estados Unidos, donde los jueces han denunciado (e incluso multado) a los abogados por tener en sus manos estas tonterías generadas por la IA.

En un caso importante, un abogado de MyPillow presentó un escrito que contenía alrededor de 30 citas falsas. Sí

Por qué es tan importante: 

Éste no es sólo un problema de abogados; Es un gran dilema para todos.Todos estamos empezando a utilizar estas herramientas de IA para todo: redactar informes, resumir reuniones, realizar investigaciones.

El problema es que la IA es increíblemente buena para parecer confiada incluso cuando está completamente equivocada. Esto le da una respuesta que suena razonable pero que es simplemente… falsa.

Como dijo Charlotten, “la IA puede ser una bendición, pero tiene sus inconvenientes”. Incluso las personas inteligentes y experimentadas se dejan engañar por esto, y eso es un riesgo enorme para cualquier empresa que dependa del trabajo generado por IA sin verificarlo dos veces.

¿Por qué debería importarme? 

Mire, ya sea profesor, abogado o directivo, la IA se está convirtiendo en parte del trabajo. No puedes evitarlo. Pero como advierten los expertos, no se pueden utilizar estas herramientas a ciegas.Maria Flynn, directora ejecutiva de Jobs for the Future, citada en el informe de AP, lo expresó sin rodeos: consideren la IA como una “ayuda, no un sustituto”.

Aún tienes que ser humano en el circuito. Debe verificar los hechos, asegurarse de no infringir las leyes de privacidad y, por favor, no cargar datos confidenciales de su empresa.

Como dice otro abogado: “La gente supone que es correcto porque suena bien, pero esa suposición puede costarle”. Puede ponerlo en peligro con su reputación, su trabajo o incluso problemas legales.

¿Qué sigue? 

La conclusión es que todos debemos ser más inteligentes a la hora de utilizar la IA. rápidamenteSe insta a las empresas a que capaciten a sus equipos en estos aspectos: cómo probar que funciona, cómo utilizarlo de forma segura y qué no hacer.

Se está convirtiendo en una habilidad laboral básica. Como dice Flynn, “el mayor problema no es aprender a utilizar la IA”. La IA del futuro no se trata de reemplazar a las personas; Se trata de personas que saben cómo utilizar la IA.