22 - Hallucinations
Sin ánimo de lucro, ¿tú que prefieres? ¿Una pizza o una tortilla de patatas?
Las alucinaciones de la IA son resultados incorrectos o engañosos que generan los modelos de IA. Estos errores pueden deberse a diversos factores, como la falta de datos de entrenamiento, las suposiciones incorrectas del modelo o los sesgos en los datos utilizados para entrenarlo. Las alucinaciones de la IA pueden ser un problema para los sistemas de IA que se usan para tomar decisiones importantes, como diagnósticos médicos u operaciones financieras.
Google Cloud
El subtítulo de hoy hace referencia a uno de los momentos más surrealistas que hemos podido ver en los videos random de YouTube últimamente. Este señor, a una pregunta bastante estúpida, responde con el equivalente surrealista a “manzanas traigo”. Sin ninguna IA por detrás, la esencia puramente humana tiene alucinaciones así que, ¿cómo no las iba a tener ChatGPT?
El otro día leí en la Bonilista que le permitíamos a las IAs tener alucinaciones cuando en el resto de programas informáticos serían fallos o bugs. Aún estando de acuerdo con esto, las alucinaciones sí representan “algo” más que un simple fallo. Los LLMs crean secuencias de palabras basadas en probabilidades que no tienen por qué ser correctas por lo que es común decir que se inventan cosas cuando no tienen el contexto o la información suficiente. Pero, ¿no hacemos eso también los humanos? Me explico.
Mi pareja tiene varias enfermedades crónicas por lo que cada poco tiempo tiene que ir a distintos médicos, cada uno especialista en su propio campo. Ella es bióloga por lo que en muchos casos, entiende cómo funcionan ciertos procesos del cuerpo humano o si una cosa puede estar relacionada con otra. Cuando una persona va al médico, o a cualquier especialista (abogados, mecánicos, etc.) existe un pacto tácito en el que se confía en el criterio de esa persona ya que se dedica a ello y tú no. Sin embargo, las opiniones (o diagnósticos en este caso) son como los culos: cada uno tiene el suyo.
Para el mismo problema, mi pareja ha ido a varios médicos y médicas diferentes, tanto en la sanidad pública como en la privada. Cada uno de ellos ofreció un posible diagnóstico y mandó más o menos pruebas dependiendo de lo que pensasen. Dejando de lado el interés y la profesionalidad de cada uno, recibió resultados muy dispares: desde que prácticamente se iba a quedar en silla de ruedas y que no podía hacer nada; a que si musculaba más las piernas podría hacer vida completamente normal y sin dolor.
El problema no viene de los medios con los que se cuente; la sanidad privada aun contando con los últimos cacharros novedosos no aportó más luz sobre el tema. Tampoco viene de la trayectoria de los profesionales; reputados médicos dieron diagnósticos completamente catastróficos sin aparente razón. Ni siquiera el problema viene de la carga de trabajo; la sanidad privada una vez más cuenta con mejores horarios y disponibilidades.
La raíz del problema para mí es el desinterés y la falta de rigor. Dar una patada para adelante a un problema o encasquetárselo a otra especialidad para que lo resuelva o por lo menos dilate el proceso está a la orden del día. Si bien me he centrado en el caso particular relacionado con la medicina, es una tendencia que veo de forma continuada cada día. Las personas se esfuerzan, en general, lo mínimo posible para conseguir salvar el día. Con esto no quiero decir que te metas en el club de Llados y hagas más de lo que te corresponde y que no te recompensen por ello. Lo importante es saber dónde están tus límites y qué puedes hacer (bien) dentro de ellos.
Como hemos dicho, las alucinaciones se producen de forma probabilística y por la falta de información. En nuestra sociedad es muy difícil ver a personas diciendo “no lo sé pero voy a intentar averiguarlo”. Hay un miedo intrínseco a no saber algo. No somos perfectos. No lo vamos a ser nunca. En vez de alucinar y tirar para adelante, tenemos que reconocer los errores o las deficiencias y hacer todo lo posible para solucionarlo. Mostrarte vulnerable parece no estar bien visto, pero es necesario para que podamos mejorar y progresar.
Aunque este post queda poco técnico y no está relacionado directamente con el desarrollo, muestra unas cualidades que debemos aplicar siempre que podamos: honestidad y empatía. Lo importante es llegar a un resultado favorable, no importa quién del equipo lo consiga o si hay que deshacer parte del camino para ello.
Nos vemos!
PD: No quiero menospreciar ni mucho menos el trabajo de los médicos y médicas ya que realizan una labor indispensable. Como en todos los trabajos, hay personas que lo hacen mejor y peor. Este sólo es un caso real para ilustrar que lo importante es llegar al resultado óptimo, ya sea tratándose de diagnosticar a un paciente o de desarrollar la nueva feature de tu equipo.