Los mapas de la IA

¿Qué significa hablar de IA, si esta se realiza mediante algoritmos, es decir, secuencias de asignaciones e instrucciones? Históricamente pueden distinguirse tres estados de desarrollo en la madurez de la IA: conocimiento hecho a mano (Handcrafted Knowledge), aprendizaje estadístico (Statistical Learning) y adaptación contextual (Contextual Adaptation). La teoría del aprendizaje estadístico es el estado del arte (SOTA) y no está del todo agotada. La adaptación contextual o IA cognitiva, realizada mediante arquitecturas cognitivas o IA neurosimbólica, podría ser el futuro de la inteligencia algorítmica. Profundicemos un poco más en la secuencia histórica de los paradigmas de la IA.

I. El paradigma del conocimiento hecho a mano

Este enfoque comenzó alrededor de 1992, después del segundo invierno de la IA, de 1980 a 1986. Un buen ejemplo de este enfoque GOFAI (Good Old-Fashioned AI) es el DARPA Autonomous Vehicle Grand Challenge, y puede caracterizarse así:

1. Los ingenieros crean conjuntos de reglas para representar conocimiento en dominios bien definidos.
2. La estructura del conocimiento codificado la definen los humanos. La máquina solo explora los detalles.
3. Razonamiento sobre problemas definidos de forma estrecha, sin capacidad de aprendizaje y con un manejo deficiente de las incertidumbres en los datos.

Los supuestos clave de este paradigma son: el sistema cognitivo dispone de símbolos, de modo que

1. hay un motor de procesamiento de símbolos
2. se cumple la composicionalidad, en el sentido de que la estructura de las expresiones indica cómo deben interpretarse.
3. y hay estructuras de conocimiento recursivas.

La siguiente imagen ilustra la línea de tiempo que corresponde a GOFAI:

II. El paradigma del aprendizaje estadístico

Después del segundo invierno de la IA comenzó una era de hielo para la IA, de 1996 a 2006. La causó la prioridad que los matemáticos dieron al desarrollo de la estadística no paramétrica, en la que la estadística perdió sus supuestos distribucionales y se encontró con la optimización de primer orden. Este paso permitió desarrollar el enfoque estadístico actual de la IA, es decir, basado en datos o subsimbólico. Un buen ejemplo es el reconocimiento de dígitos escritos a mano. Caractericemos ese paradigma así:

1. Los ingenieros crean modelos estadísticos para dominios de problemas específicos y los entrenan con big data.
2. Se usa la hipótesis de la variedad (manifold hypothesis): los datos naturales forman estructuras de menor dimensión (variedades) en el espacio de embedding, donde cada variedad representa una entidad distinta. Comprender los datos consiste en separar las variedades.
3. Sin embargo, solo hay capacidades matizadas de clasificación y predicción, ninguna capacidad contextual y una capacidad mínima de razonamiento. Hay resultados estadísticamente impresionantes, pero individualmente poco confiables.

Los supuestos clave aquí son: según la teoría subsimbólica, la información se procesa en paralelo mediante cálculos simples realizados por neuronas. En este enfoque, la información se representa mediante una secuencia simple de pulsos. Los modelos subsimbólicos se basan en una metáfora del cerebro humano, en la que las actividades cognitivas del cerebro se interpretan con conceptos teóricos que tienen su origen en la neurociencia. Por lo tanto:

1. El conocimiento no se representa en forma simbólica.
2. El control del programa suele representarse mediante un gran número de parámetros numéricos.
3. Estos parámetros numéricos pueden definir colectivamente algún comportamiento (una relación entre las entradas sensoriales y las acciones de salida) o un clasificador de patrones (p. ej. reconocimiento de escritura a mano).
4. Los parámetros numéricos se modifican luego mediante un gran número de interacciones con el mundo (p. ej. el mundo real, el problema, un mundo de software) hasta que el programa funciona.
5. Es notoriamente difícil determinar estos parámetros a partir de la teoría matemática.

Este paradigma, también llamado IA estrecha estadística débil, es el que domina actualmente. Los problemas más dominantes de la IA estrecha estadística débil hoy son:

1. Manejar la complejidad de las decisiones: mediante sistemas multiagente
2. Aprender control a partir de la percepción del entorno: mediante deep reinforcement learning
3. Dominar las conclusiones no monótonas: mediante razonamiento basado en casos o razonamiento probabilístico sobre grafos
4. Reconocimiento robusto de patrones en el espacio y el tiempo: mediante deep learning
5. Multimodalidad: mediante datos sintéticos y contrastive learning

Recordemos que el deep learning se propuso por primera vez en 1994, pero solo el avance computacional de la tecnología de GPU en 2006 hizo posible su éxito.

El alcance correspondiente de las principales aplicaciones actuales puede describirse así:

1. Procesamiento de lenguaje natural (NLP/NLU) para permitir la comunicación
2. Representación del desarrollo del conocimiento humano
3. Razonamiento automatizado para usar la información almacenada, responder preguntas y sacar nuevas conclusiones
4. Machine learning para adaptarse a circunstancias nuevas y para detectar y extrapolar patrones
5. Computer vision para percibir los objetos
6. Robótica para manipular objetos

III. El paradigma venidero de la IA cognitiva

La mayoría de las arquitecturas cognitivas desarrolladas en el pasado son altamente modulares y utilizan, por ejemplo, módulos distintos para la memoria de corto plazo (STM), la memoria de largo plazo (LTM), el análisis sintáctico, la inferencia, la planeación, etc. Además, por lo general muchos de estos módulos funcionales fueron diseñados por equipos separados, sin mucha coordinación general (si es que hubo alguna). Esta es una limitación seria: tienden a no compartir una representación de datos multimodal ni un diseño uniformes, lo que hace casi imposible que las funciones cognitivas se apoyen sinérgicamente entre sí en tiempo real. Un enfoque mucho mejor, de hecho esencial, es tener un sistema altamente integrado que permita que todas las funciones interactúen sin fricciones: una arquitectura cognitiva.

En el paradigma de la IA cognitiva, un futuro posible de la IA estrecha puede caracterizarse así:

1. Los modelos generativos, p. ej. realizados con generative adversarial networks, construyen explicaciones contextuales basadas en datos multimodales para clases de fenómenos del mundo real. A esto se le puede llamar adaptación contextual.
2. Los algoritmos falibles se vuelven capaces de razonamiento no inductivo y no monótono, así como de reconocimiento directo de patrones. Los primeros enfoques en este campo se basaron en RNN secuenciales.
3. Como primera forma de AGI, los algoritmos empezarán a comprender usando autosupervisión al construir modelos.

Rasgos estimados de las arquitecturas cognitivas: son altamente adaptables, impulsadas por eventos, aprenden por sí mismas de sus fallas, abstracción no estadística. Ejemplos: “Entiendo, por qué entiendo por qué no, sé cuándo tendrás éxito, sé cuándo fallarás, sé cuándo confiar en ti, sé por qué cometiste ese error.”

Sin embargo, también sabemos que hasta ahora siguen faltando algunos rasgos muy deseables de los algoritmos de IA:

• En este punto hablamos de una capacidad de aprendizaje general y robusta, más allá de perseguir metas: predecir lo oculto a partir de lo visible, aprender de forma interactiva, autocorrección y transfer learning en el nivel de los problemas, razonamiento abstracto y contrafáctico y adaptación dinámica de las metas a un contexto cambiante.

Un algoritmo así, invariante en el tiempo, subsimbólico, altamente adaptable, impulsado por eventos y de autoaprendizaje, capaz de abstracción no estadística con un desempeño aceptable, requeriría un enfoque híbrido, probablemente jerárquico, de arquitecturas subsimbólicas y simbólicas. Solo este enfoque permitirá aprender representaciones simbólicas a partir de big data, con la posibilidad de sacar conclusiones abstractas de estas representaciones de manera explícita. A veces a estos híbridos se les llama arquitectura cognitiva algorítmica. Las arquitecturas cognitivas usan en sus operaciones algorítmicas representaciones internas explícitas de ideas de conceptos, que no se aprenden de los datos externos. Esto suele llevar a la siguiente segmentación de una tarea cognitiva dada:

La figura de arriba muestra una segmentación de tareas en arquitecturas cognitivas basada en los conceptos clave de memoria, anclaje (grounding), es decir, prueba y recolección de datos, aprendizaje y toma de decisiones.

En ese sentido, en la IA cognitiva se usan estructuras programadas explícitamente, limitadas a algún dominio y no aprendidas de los datos, para generar y cambiar un estado informacional interno del algoritmo, que es esencial para cumplir alguna tarea cognitiva, mientras todo el proceso es impulsado por datos empíricos. Hay esperanza de que tales arquitecturas cognitivas permitan reducir el inevitable periodo de aprendizaje de las décadas que necesitan los humanos a semanas.

• Recordemos que la idea de las arquitecturas cognitivas no es nueva. Sin embargo, la variedad de sus realizaciones algorítmicas sigue siendo un campo de investigación abierto que las principales empresas Big Tech, con excepción de IBM, han evitado hasta ahora. Este último punto será crucial para toda startup basada en datos, porque significa que una omisión científica coincide con una oportunidad económica.

Una mirada estratégica al actual paradigma subsimbólico del aprendizaje estadístico

No hay duda de que la mayoría de las contribuciones a la inteligencia algorítmica no han pasado de la etapa de ingeniería y de que casi no hay teorías matemáticas consistentes que justifiquen estos algoritmos numéricos. Excepciones famosas son, p. ej., la teoría del aprendizaje estadístico (Statistical Learning Theory) y la teoría del cuello de botella de la información del deep learning (Information Bottleneck Theory).

Todavía hay una gran diferencia entre las expectativas, que al menos en parte también respalda la comunidad de IA, y los logros mostrados hasta ahora. En particular, ningún algoritmo va actualmente más allá de la IA débil. Esto nos lleva a los siguientes enfoques actuales de la inteligencia algorítmica en el paradigma estadístico de la IA débil:

La IA como persecución exitosa de metas

Hagamos un balance de los desarrollos de los últimos 30 años: el resultado es aleccionador. Como la métrica de éxito más usada en el campo de la IA débil ha sido lograr algorítmicamente habilidades específicas y observables, el desarrollo histórico de la IA no tiene nada que ver con una serie de inventos que realicen un motor altamente adaptable, que genere comportamiento sobre la marcha para tareas no repetitivas en condiciones cambiantes, no en el nivel de una especie, sino en el nivel individual. La IA, tal como la hemos perseguido hasta ahora, trata más bien de cómo resolver estas tareas con algoritmos sin mostrar ninguna forma de inteligencia no humana, porque para una tarea específica esto es mucho más fácil que resolver el problema general de la inteligencia. Un ejemplo de ello es la detección de dependencias complejas en big data mediante deep learning, que de hecho parece reducible a la aproximación estocástica de funciones mediante optimización de primer orden no suave, que es la idea central del deep learning.

La IA en el paradigma actual del aprendizaje estadístico también es más rentable: si fijas la tarea por resolver antes de que arranque el algoritmo, eliminas la necesidad de manejar la incertidumbre y la novedad en los datos de los que aprende el algoritmo, que son los cuellos de botella de todo enfoque de IA. Y como la naturaleza de la inteligencia es la capacidad de manejar la novedad y la incertidumbre, con ello, irónicamente, estás eliminando de hecho la necesidad de inteligencia. No sorprende que el enfoque en lograr un desempeño específico para una tarea, sin poner condiciones sobre cómo estos sistemas algorítmicos llegan a ese desempeño, haya llevado a sistemas basados en datos que, pese a realizar bastante bien las tareas objetivo, en gran medida no muestran el tipo de inteligencia humana que el campo de la IA se propuso construir en sus inicios. Con ello nos vemos obligados a concluir que, si la inteligencia reside en el proceso de adquirir habilidades, entonces no hay ninguna tarea X tal que la habilidad en X demuestre inteligencia, a menos que X sea en realidad una metatarea que implique adquirir habilidades en una amplia gama de tareas. Así, para que los sistemas de IA alcancen todo su potencial, deberíamos desarrollar métodos cuantitativos para medir el desempeño de los algoritmos en tareas estandarizadas y compararlos con la cognición humana. En consecuencia, no hay un mensaje sencillo para llevarse a casa sobre la naturaleza o el posible futuro de la inteligencia algorítmica con base en el trabajo ya realizado.

Por último, si tomamos en serio lo aprendido sobre la inteligencia algorítmica en los párrafos anteriores y resumimos a grandes rasgos las actividades de investigación detectables en las publicaciones de las últimas décadas, llegamos a un mapa de temas que ilustra el estado del arte en IA:

En la figura de arriba, las líneas punteadas amarillas marcan áreas de investigación de vanguardia. Los demás temas ya están más o menos establecidos, al menos en un nivel de ingeniería.

En suma, en términos de tiempo, las crecientes capacidades de los sistemas de IA parecen tener la siguiente dinámica evolutiva:

Limitaciones de la actual IA estrecha débil

Sin embargo, obviamente queda un largo camino por recorrer: la inteligencia humana es la capacidad cognitiva de comprender el mundo, de alcanzar una amplia variedad de metas nuevas y de integrar, adaptar y reutilizar de forma autónoma tales conocimientos y habilidades mediante un aprendizaje incremental continuo con recursos limitados. Lo que distingue a la inteligencia humana es nuestra capacidad única de formar recursivamente conceptos abstractos sobre abstracciones existentes. Este rasgo central es también la clave tanto de nuestra capacidad de aprender el lenguaje como de nuestro nivel relativamente alto de autoconciencia.

De ahí llegamos a una lista incompleta de problemas generales del paradigma del aprendizaje estadístico en la IA subsimbólica:

1. Aun si los algoritmos piensan, no hay conciencia, ni sentimientos, ni amor.
2. La cognición de los algoritmos no está inspirada, adaptada ni guiada por ningún tipo de cognición corporizada.
3. Los algoritmos son estadísticos, es decir, el reconocimiento directo de patrones todavía no se ha logrado. Recordemos que resolver este problema requeriría una arquitectura cognitiva completamente nueva.
4. Actualmente los algoritmos aprenden por inducción, es decir, no hay ningún tipo de razonamiento no monótono o no veritativo-funcional, p. ej. contrafáctico, a partir de leyes empíricas, ni aprendizaje a partir de experimentos mentales.
5. Los algoritmos no aprenden sin supervisión explícita o guía dada implícitamente; no hay transferencia autónoma ni ningún tipo de creatividad.
6. No hay metacognición: el algoritmo no observa su propio pensamiento, ni corrige o ajusta sus propios pensamientos al problema.
7. No existe la conciencia artificial necesaria para la automejora de los programas.
8. No hay recetas para manejar conocimiento incompleto o inconsistente, ni para tratar con distintos tipos de información, p. ej. semántica o numérica, en distintas técnicas de IA.
9. No hay independencia de, p. ej., los supuestos estadísticos, es decir, falta generalizabilidad de los algoritmos.
10. Cada aplicación estrecha necesita un diseño especial, y no hay aprendizaje incremental o interactivo en tiempo real.

Y mientras el estado del arte de la inteligencia algorítmica no haya superado todos estos retos, ningún punto de singularidad está cerca, y la IA solo debería considerarse una oportunidad, no una amenaza.