Hay un tópico que hace mucho que no uso en mis artículos, referente a filosofía y sistemas de información, que aplica muy bien para el tema de la inteligencia artificial. Hay mucho escrito y publicado en videos en los últimos meses sobre el tema, pero mis reflexiones no son sobre futurología ni las modificaciones que introducen los nuevos chat basados en IA asociada aplicados a campos inexplorados. Se basan solamente en mis intercambios con colegas, algunos más en tema y otros no, que me hicieron notar algunos puntos interesantes para meditarlos.
Cuando se puso a disposición del público en general la herramienta chat GPT3 en noviembre, nadie sabía muy bien de qué se trataba. Se la promocionaba como un artefacto dirigido al lenguaje que podía sostener una conversación o algo parecido. La reacción general ante algo novedoso y desconocido, sin mayor documentación que la que el mismo artefacto proporcionaba como respuestas, fue de inmediato encontrar sus límites. Los primeros artículos del tema en general versan sobre el alcance y las posibilidades de obtener respuestas contradictorias o erróneas, junto a la limitación temporal de no poder brindar respuestas sobre contenidos generados en los años más recientes.
Pero además de estos análisis, realizados muchas veces por legos en el tema, se comenzaron a expandir los experimentos. Las preguntas viraron de ser solo acertijos normales, a tratar de mantener alguna charla con sentido o poner al artefacto a resolver problemas concretos. Sin investigar a fondo del tema me empezaron a llegar entonces demasiados comentarios sobre algunos de estos experimentos, todos trascendidos sin mucho fundamento como para discriminar lo verdadero de lo falso. Para dar algunos ejemplos, desde que estos chat pudieron resolver temas de decisiones legales en base a testimonios de juicios muy difíciles de elaborar para abogados, pasando por cheats code para liberar supuestos límites de sus respuestas, hasta la resolución de código de programación a partir de algoritmos. No me consta la veracidad o resultado exitoso de todos estos casos, pero lo más importante no es la mayor o menor confiabilidad de la herramienta sino el impacto que tiene en las personas que me hacían esos comentarios, de la mano con la inseguridad o sensación de peligro indeterminado que presienten de ella.
Esa sensación que transmitían, de estar viviendo en el presente una experiencia solo atribuible a la ciencia ficción anteriormente, derivó en una idealización de estas herramientas, más allá de las evidencias ciertas. De alguna manera los chat basados en IA dejaron de ser a los ojos de todos una herramienta de asistencia a convertirse en el gurú del siglo XXI. Las expectativas de cada persona puestas sobre estos chat, la colocan en una situación de idealización más allá de la posibilidades reales. Una especie de deificación, donde las convierten en un oráculo para tomar decisiones o pedirle opiniones sobre los temas más absurdos, y entendiendo sus respuestas como opiniones y no una selección sesgada a la respuesta más probable en función de su base de conocimiento.
Esto nos trae al presente dos problemas concretos, la primera y más nociva es sumarle una carga emocional a las respuestas obtenidas, viendo más allá de las palabras que se utilizan. El problema de fondo en esto es que la ansiedad del individuo, que accede a la herramienta para obtener o interpretar un sentido más allá de la respuesta obtenida a efectos de reafirmar un prejuzgamiento subjetivo, puede manipular el sentido de la respuesta al estar dada en un contexto similar a una charla y no un extracto fiel de la información base original. La característica de estar esa respuesta única y sacada de contexto en el ámbito de un diálogo la enmarca irremediablemente a la interpretación sesgada por la metonimia por el sujeto que la recibe. En cierta manera el manejo de contexto limitado de la propia herramienta, manipulada inconscientemente por el operador, deriva en una recategorización del significado que nace de la respuesta. Si a esto le sumamos el natural tono de pontificación en las mismas respuestas, que la mayoría de las veces descartan las opciones alternativas por puntuación de la única más probable, entregan una visión sesgada por la calidad de su base de datos, y esto nos lleva directo al siguiente punto.
El segundo problema y casi inevitable es la mediocrización del conocimiento elaborado a partir de las consultas a la herramienta. Estos asistentes compilan conocimiento en una gran base de datos, que gracias a procesos basados en rutinas modernas de redes neuronales sumados a los novedosos ordenadores cuánticos, llevan a su elaboración de la respuesta más probable que entregan. Por una parte, tener la seguridad de que obtenemos una respuesta basada en la solución más probable, realimentará irremediablemente las mismas bases de conocimientos con el producto humano elaborado en base a sus respuestas previas. La flecha de uniformidad que lleva esta rutina es lo más peligroso. Perdemos la posibilidad de elaborar una respuesta más efectiva o adecuada por un modelo homogéneo elaborado en base a las experiencias previas más comunes. La excepción, lo brillante o genial, queda opacado por la respuesta más masiva, común, que resulte efectiva en la mayor parte de los casos análogos.
Estos intentos de obtener de la herramienta hoy en día una elaboración que sustituya el razonamiento particular, convierte a la herramienta en un sustituto epistemológico frente al individuo, y al individuo mismo en la herramienta que pone en práctica esta maquinaria. Teniendo en cuenta que las bases de datos que las alimentan son necesariamente sesgadas, con la visión de la historia escrita por vencedores, y administradas por las grandes corporaciones, podemos concluir que tanto desde el punto de vista de su evolución y aplicación práctica no constituyen ningún peligro para la humanidad: el peligro siguen siendo las mismas personas que trabajan con o para estas herramientas. Nos podemos preguntar entonces si el sentido común podrá prevalecer por sobre el fanatismo oscurantista de interpretar proféticamente a una enciclopedia moderna.
Informática y Sistemas (β) 