Estupidez algorítmica

Es casi seguro que la inteligencia se analiza mejor como una medida que usamos para cuantificar fenómenos impredecibles, pero recurrentes, de iniciativas cognitivas para resolver tareas o problemas al menos parcialmente nuevos con distintas herramientas, métodos o recursos. Los fenómenos de la inteligencia pueden clasificarse en grupos: percepción visual y auditiva, comprensión del lenguaje, razonamiento de sentido común, razonamiento abstracto, exploración del conocimiento general sobre el mundo, aprendizaje, resolución de problemas, imaginación, creatividad y probablemente algunos más. Sin embargo, no está nada claro cómo estandarizar estos experimentos ni cómo explicar las soluciones más o menos exitosas o las formas en que se corrigieron los errores.

• Recordemos que la inteligencia humana puede adaptarse a contextos completamente nuevos y realizar ahí, p. ej., reconocimiento de patrones con solo unos cuantos ejemplos, además de que puede ser creativa. En ese sentido, a la inteligencia humana se le llama “inteligencia fuerte”.

En esta línea de pensamiento, consideremos algunos ejemplos clave:

• comprender un entorno dinámico presente en las percepciones: considerar la comprensión como un concepto de la IA se remonta a Oliver Selfridge en el seminal taller de Dartmouth de 1956 y desempeña un papel injustamente menor en la investigación actual, pero recibe cada vez más atención gracias al uso de arquitecturas cognitivas algorítmicas en el desarrollo de, p. ej., chatbots o agentes cognitivos de lenguaje.
• razonamiento: como operación simbólica, lo hizo por primera vez en 1956 el programa Logic Theorist. Desarrollado por Allen Newell, Herbert Simon y Cliff Shaw, el programa pudo demostrar 38 de 52 teoremas de los conocidos Principia Mathematica del matemático inglés Bertrand Russell. Hoy esto también puede hacerse en un nivel subsimbólico, p. ej. con una tecnología de deep learning tipo MAC-net.
• persecución controlada de metas: destacada primero por McCarthy y Minsky y promovida después, p. ej., por Stuart Russell, observamos este tema dominante, p. ej., en la conducción autónoma o en juegos como el ajedrez o el go, realizado sobre todo con deep reinforcement learning. En la historia de la IA, este enfoque siempre ha dominado.

Por desgracia, todavía no hay un entendimiento compartido de qué criterios o metas debe cumplir una investigación fructífera sobre inteligencia algorítmica.

Hoy esperamos al menos algún tipo de aumento de la inteligencia humana como resultado del uso de una IA algorítmica no parecida a la humana, en la medida en que los algoritmos no solo resuelven ciertos problemas más rápido que los humanos, sino que tampoco están guiados ni limitados por intereses humanos en su búsqueda de soluciones. Por desgracia, los resultados de la investigación en IA no son tan prometedores, un hecho que los medios masivos, financiados e informados en parte por las empresas Big Tech, han omitido por expectativas de ganancia. Consideremos brevemente una selección de los más importantes. Estos problemas abiertos afectan a todas las variantes de IA conocidas hasta ahora.

1. Los algoritmos no son capaces de comprender plenamente los conceptos humanos

El lógico y matemático austriaco Kurt Gödel argumentó esto hace décadas para el caso de la comprensión humana de los números enteros, que son bastante básicos en todos los campos de las matemáticas. Además argumentó que, debido a sus teoremas de incompletitud, no refutados hasta hoy, el funcionamiento de la mente humana no puede reducirse al funcionamiento del cerebro humano, que según todas las apariencias es una máquina finita. Por lo tanto, el comportamiento inteligente no puede predecirse con base en los resultados de Gödel. Esto tiene consecuencias: después de todo, las conjeturas no caen del cielo. Ante un conjunto de información, los humanos, en particular los matemáticos, proponen regularmente conjeturas interesantes y después a menudo se disponen a demostrarlas, por lo general con éxito. Este proceso de descubrimiento (junto con la formación de conceptos nuevos) es una de las actividades más creativas del intelecto humano. La inteligencia humana aprende de experimentos mentales, es impulsada por eventos y corrige sus propios errores y decisiones, pues se reconoce a sí misma hasta cierto punto. La inteligencia tiene que ver, por lo tanto, con el razonamiento autónomo.

2. No hay razonamiento algorítmico no monótono

La monotonía establece que las consecuencias lógicas son robustas ante la adición de información. Pero en algunos casos, al agregar información nueva, la verdad de las premisas no puede garantizarse en nuestro razonamiento cotidiano. Una lógica no monótona es una lógica formal cuya relación de consecuencia no es monótona. En otras palabras, las lógicas no monótonas están diseñadas para captar y representar inferencias derrotables (cf. razonamiento derrotable), es decir, un tipo de inferencia en el que quienes razonan sacan conclusiones tentativas, lo que les permite retractarse de su(s) conclusión(es) con base en nueva evidencia. La mayoría de las lógicas formales estudiadas tienen una relación de consecuencia monótona, lo que significa que agregar una fórmula a una teoría nunca reduce su conjunto de consecuencias. Intuitivamente, la monotonía indica que aprender un nuevo conocimiento no puede reducir el conjunto de lo que se sabe. Una lógica monótona no puede manejar diversas tareas de razonamiento, como el razonamiento por defecto (las consecuencias pueden derivarse solo por falta de evidencia de lo contrario), el razonamiento abductivo (las consecuencias solo se deducen como las explicaciones más probables), algunos enfoques importantes del razonamiento sobre el conocimiento (la ignorancia de una consecuencia debe retractarse cuando la consecuencia llega a conocerse) y, de modo similar, la revisión de creencias (un conocimiento nuevo puede contradecir creencias antiguas). Hasta donde sabemos, los algoritmos, tal como los entendemos ahora, no tienen la capacidad de razonamiento no monótono, que siempre es una forma de cambio dinámico de las conclusiones correctas y relevantes.

3. Los algoritmos no muestran cognición por transferencia semántica

Obviamente, no toda instancia del pensamiento humano busca resolver un problema bien definido. Esto es evidente en el caso de la construcción de metáforas epistémicas. La creatividad, p. ej., suele tener una naturaleza distinta, e incluso la reducción conceptual de una pregunta o problema a otro no sigue reglas repetidas ni patrones predecibles. Este punto lo ilustra bien la teoría de las metáforas de George Lakoff, que se remonta a la idea de que formamos nuevas metáforas como vehículos epistémicos al imaginarlas figurativamente, o al imaginar que vivimos el proceso correspondiente, como en “estoy decaído”. Esto no significa que seres que vivieran fuera de un campo gravitacional, por ejemplo, no pudieran expresar emociones con otras palabras, pero sí significa que expresarían las emociones con palabras de manera distinta a los humanos. Las nociones humanas de felicidad y tristeza serían distintas porque los humanos tendrían cuerpos distintos. Los conceptos espaciales, como “frente”, “atrás”, “arriba” y “abajo”, ofrecen quizá los ejemplos más claros en los que existe tal experiencia corporizada. Si la experiencia humana está intrincadamente ligada a metáforas de gran escala, y tanto la experiencia como la metáfora están moldeadas por el tipo de cuerpos que tenemos y que median entre el agente y el mundo, argumentaron Lakoff y Johnson, entonces la cognición está corporizada de una manera no anticipada por la ciencia cognitiva tradicional. Entonces el cuerpo de un organismo afecta directamente cómo puede pensar, porque usa metáforas relacionadas con su cuerpo como base para los conceptos. También se habla de una teoría epistémica de las metáforas. Por ahora no tenemos idea de cómo podríamos ayudar a los algoritmos a lograr representaciones epistémicas internas que les permitieran alcanzar un desempeño cognitivo comparable.

4. El problema del marco

El problema del marco (frame problem) describe una dificultad al usar lógica de primer orden (FOL) para expresar hechos sobre un robot en el mundo. Representar el estado de un robot con la lógica de primer orden tradicional requiere usar muchos axiomas que simplemente implican que las cosas del entorno no cambian arbitrariamente. El problema del marco es el problema de encontrar colecciones adecuadas de axiomas para una descripción viable del entorno de un robot. También denota el problema de limitar las únicas creencias relevantes que deben actualizarse en respuesta a acciones previas. En el contexto lógico, las acciones suelen especificarse por lo que cambian, con el supuesto implícito de que todo lo demás (el marco) permanece sin cambios.

Así, dado algún evento o acción y reglas o leyes que especifican los cambios resultantes en alguna situación, ¿cómo puede un sistema de IA manejar de forma tratable lo que no cambia? Esto no es consecuencia lógica de las condiciones iniciales, que describen lo que ha cambiado. Por un lado, es un problema no resuelto reformular continuamente como axiomas, en cada situación o contexto, lo que no ha cambiado en comparación, por ejemplo, con los cambios que han ocurrido desde fuera. Por otro lado, se necesitan algunas reglas semánticas adicionales para asegurar que los nuevos axiomas sean consistentes. Pero estas reglas semánticas también dependerán de la situación o de un contexto cambiante. Obviamente, los humanos no tienen ese problema, y todavía falta una solución algorítmica general del problema del marco.

5. El problema de la ramificación

En filosofía e inteligencia artificial (en especial, en sistemas basados en conocimiento), el problema de la ramificación se ocupa de las consecuencias indirectas de una acción. También puede plantearse como la cuestión de cómo representar lo que ocurre implícitamente debido a una acción, o de cómo controlar los efectos secundarios y terciarios de una acción. Está fuertemente conectado con el lado de la cualificación del problema del marco y es su opuesto.

6. El problema de la cualificación

En filosofía e IA (en especial, en sistemas basados en conocimiento), el problema de la cualificación se ocupa de la imposibilidad de enumerar todas las precondiciones necesarias para que una acción en el mundo real tenga el efecto deseado. Puede plantearse como la cuestión de cómo lidiar con las cosas que me impiden lograr el resultado que busco. Está fuertemente conectado con el lado de la ramificación del problema del marco y es su opuesto.

7. Sin habilidades para la novedad o la incertidumbre

El desarrollo previo de la IA opera en el nivel de las habilidades cognitivas de una especie, eliminando en lo posible cualquier tipo de novedad o incertidumbre para algoritmos altamente especializados. Hasta ahora, la IA no tiene nada que ver con una serie de inventos que realicen una sola máquina altamente adaptable, que genere comportamiento sobre la marcha para tareas diversas y no repetitivas en condiciones cambiantes, en el nivel del individuo. Pero eso es exactamente lo que tenemos cuando observamos a los humanos. Y apenas hemos empezado a averiguar cómo podríamos comparar estos dos tipos de habilidades.

8. El problema de la decisión

En su artículo “On Computable Numbers, with an Application to the Entscheidungsproblem”, Alan Turing reformuló los resultados de Kurt Gödel de 1931 sobre los límites de la demostración y el cómputo, reemplazando el lenguaje formal universal de Gödel, basado en la aritmética, por los dispositivos hipotéticos formales y simples que llegaron a conocerse como máquinas de Turing. Demostró que alguna de esas máquinas sería capaz de realizar cualquier cómputo matemático concebible si fuera representable como algoritmo. Después demostró que no había solución al Entscheidungsproblem, mostrando primero que el problema de la detención para máquinas de Turing es indecidible: en general, no es posible decidir algorítmicamente si una máquina de Turing dada se detendrá alguna vez. Ante todo, el debate Gödel-Church-Turing, que comenzó en 1931, muestra que los algoritmos son medios para demostrar que un problema matemático dado tiene una solución que puede encontrarse en un número finito de pasos, siguiendo ciertos criterios de corrección deductiva. Por lo tanto, desde el principio no está nada claro cómo los algoritmos basados en reglas podrían llegar a imitar la inteligencia humana creativa. La razón por la que hablamos de “inteligencia parecida a la humana” es el hecho de que los algoritmos hacen algo completamente distinto de un cerebro humano cuando, por ejemplo, juegan ajedrez: los cerebros humanos piensan en experimentos mentales que presuponen argumentos semánticos dados en un lenguaje natural. Los programas de ajedrez aprenden iterativamente de recompensas numéricas que buscan en grafos de conocimiento.

9. Sin razonamiento de sentido común

El razonamiento de sentido común es una de las ramas de la inteligencia artificial (IA) que se ocupa de simular la capacidad humana de hacer presunciones sobre el tipo y la esencia de las situaciones ordinarias que se encuentran todos los días. Estos supuestos incluyen juicios sobre las características físicas, el propósito, las intenciones y el comportamiento de personas y objetos, así como sobre los posibles resultados de sus acciones e interacciones.

10. El problema de la ligadura

Ese término (binding problem) tiene varios significados.

1. el problema de la segregación: un problema computacional práctico de cómo los cerebros segregan elementos en patrones complejos de entrada sensorial, de modo que queden asignados a “objetos” discretos. En otras palabras, al mirar un cuadrado azul y un círculo amarillo, ¿qué mecanismos neuronales aseguran que el cuadrado se perciba como azul y el círculo como amarillo, y no al revés?
2. el problema de la combinación: el problema de cómo los objetos, el fondo y los rasgos abstractos o emocionales se combinan en una sola experiencia.

Aunque ambos problemas son distintos, esto no tiene por qué invalidar el supuesto, implícito en muchos de los modelos citados, de que los eventos computacionales y los fenoménicos, al menos en algún punto de la secuencia de eventos, corren en paralelo de alguna manera. La dificultad sigue siendo identificar cuál podría ser esa manera. La naturaleza de estos problemas, y su solución, sigue siendo materia de controversia.

Por supuesto, esta lista es incompleta. A veces a cuestiones como estas también se les llama estupidez de la IA. Recordemos que, en contraste, el término también usado estupidez artificial puede tener dos significados opuestos:

• Los algoritmos de machine learning cometen errores estúpidos al aprender de los datos.
• La inteligencia artificial se vuelve deliberadamente más torpe para cometer errores y parecer así más humana.

Obviamente, la estupidez de la IA es el concepto mucho más fuerte, que transforma nuestra comprensión de la IA.