"Alucinaciones" de la IA, el mayor temor de los empresarios ligados al sector financiero

Las herramientas de inteligencia artificial son cada vez más utilizadas por usuarios en todo el mundo. Sin embargo, no siempre el resultado que generan es acertado. Este fenómeno de brindar información falsa se conozce como "alucinaciones" y ocurren cuando los algoritmos inventan respuestas sin fuentes fiables.

El sector financiero ha manifestado su preocupación por las consecuencias económicas de la globalización de este tipo de herramientas. Pablo Velan, CTO de N5, explica que estos errores se deben a que los modelos de IA se entrenan con grandes volúmenes de información, lo que puede llevar a asociaciones incorrectas cuando la información no es suficiente o es inconsistente. Además, los modelos no comprenden el contenido que generan, lo que agrava el problema.

En contextos donde la precisión es crucial, como en el sector financiero, estas alucinaciones pueden ser muy problemáticas. Según Vectara, la tasa de alucinación en chatbots varía entre un 3% y un 27%. Esta variabilidad genera preocupación en las empresas que dependen de estos sistemas para tomar decisiones importantes.

Para abordar este problema, N5 desarroló "Fin Skys", una serie de IAs diseñadas específicamente para el sector financiero. Según Velan, estos sistemas responden correctamente el 99% de las veces. Esto se logra mediante un modelo distribuido que valida el proceso completo de cada consulta. Las IAs de Fin Skys se alimentan únicamente con datos propios de cada institución, lo que evita errores relacionados con información externa.

Estas herramientas se integran en los sistemas de las instituciones financieras y ofrecen soporte en diversas funciones, como la atención al cliente y la asesoría financiera. Al enfocarse en datos internos y mantener la independencia de fuentes externas, estas soluciones reducen la cantidad de respuestas erróneas.