Un organismo unicelular viviría su vida ideal si su homeostasis no dependiera de factores externos y tuviera aseguradas siempre sus funciones básicas: nutrientes, ausencia de enemigos, etc. En un caso así, donde nada cambiara, no haría falta andar construyendo predicciones para saber qué hacer en el futuro. Sin embargo la cosa no es así y todo cambia constantemente. La evolución permitió sobrevivir a los que sí reaccionaban ante situaciones que alteraban su homeostasis. Esas reacciones bien podrían ser una descarga química que provocara el movimiento de unos cilios, o la segregación de alguna sustancia concreta. Eones más tarde, esas reacciones en nuestro caso corresponden con norepinefrina, adrenalina, cortisol y muchas otras. Y lo sentimos como miedo.

En el origen del miedo se encuentra la sensibilización. Podríamos decir que si la habituación reponde a lo conocido, la sensibilización lo hace a lo desconocido. De entre las emociones primarias (que no sentimientos) tenemos al asco como la respuesta a la sensibilización a gradientes químicos desfavorables, y al miedo para proteger la integridad física frente a depredadores, venenos, etc, típicamente huyendo de la fuente. Otra expresión del miedo es la ira, que permite defenderse cuando no hay ocasión de huída, y la angustia o duelo, cuando se lamenta, por ejemplo, la pérdida de una cría.

Luego tenemos el resto de emociones primarias: la exploración (con la expectativa de recompensa, que es la base de la motivación), el cuidado (de las crías, superando el instinto egoista de supervivencia), el deseo (para favorecer la reproducción) y la alegría (o juego, ayuda a los jóvenes a aprender las reglas sociales sin ser dañados, aprenden a calibrar sus fuerzas).

¿Debería una AGI implementar estas emociones? Nuestro pensamiento tradicional suele decirnos que una mente totalmente racional debería poder ignorar estas bajas pasiones, pero hace mucho ya que la ciencia ha demostrado que en la base de todo pensamiento racional, de toda elección, se encuentra siempre un sentimiento. ¿Qué es lo que nos hace decantar por una opción entre varias si no es el sentimiento de placer, de satisfacción, que nos confirma que la decisión es la correcta?¿Debería una AGI “sentir” que está tomando la decisión correcta entre varias opciones?

Pero, ¿porqué debería una AGI imitar el comportamiento de los seres vivos? Porque ninguna de las emociones listadas nos es ajena. Nuestros sentimientos no constan exclusivamente de complejos mecanismos “superiores”. No, estas emociones básicas están muy presentes en nuestras vidas y son el motor fundamental de casi todo lo que hacemos.

Si estamos modelando una AGI a nivel humano necesitaremos imitar de alguna manera las reacciones que nosotros mismos traemos de serie.

Mucho se habla del problema del alineamiento de las IAs. No os voy a poner por enésima vez el ejemplo de los clips. Imaginemos por un momento una AGI totalmente funcional, poderosa, imparable. ¿qué otra cosa mejor que la emoción de cuidado para evitar que decida matar a alguien (o peor aún, exterminarnos a todos), para conseguir el objetivo asignado? Igualmente útil la predicción de un dolor emocional, la angustia cuando se imagine haciéndolo. ¿qué mejor que sienta alegría al ayudarnos a progresar, a evolucionar?

Estas emociones básicas, entre otras cosas, son las que nos permiten estar alineados a nosotros mismos con el resto de la humanidad.

La lista de emociones básicas es común a todos los animales. Pero hablar de emociones (que no sentimientos) es siempre peliagudo. Es lo que nos hace sentir que estamos vivos. Es también el eje fundamental sobre el problema moral de la conciencia, pero ese es otro tema. Estoy convencido de que, para diseñar una AGI a nivel humano, debemos inspirarnos en la vida.

Un día, paseando por Paseo de Gracia, en Barcelona, esquivando despistadamente la multitud de transeúntes sin pensar en nada en concreto (como el 90% del tiempo), capté un movimiento extraño entre la gente: dos personas arrancaron a correr. Necesité unos segundos para entender qué pasaba. Con la mirada busqué rápidamente la posible fuente de peligro que causara su huída, pero no conseguía encontrarlo. No entendía nada. Los veía corriendo en dirección a una parada de autobús y yo seguía sin entender qué pasaba. Uno de ellos, el que iba por delante, salió a la calzada, subió a un autobús y bloqueó las puertas hasta que el segundo pudo alcanzarle para que le dejara entrar. El conductor cerró las puertas y partió. No había peligro ninguno, simplemente no querían perder el autobús. Al instante volví a la calma y a regodearme en el vacío de mi mente.

Pensando en este trivial episodio, queda evidente lo útil que es el sistema de atención, especialmente si en vez de correr por no perder el autobús hubiesen estado huyendo de un león. Mientras paseaba entre la gente sólo veía caras anónimas, sin darle importancia a ninguna. Al verlos correr, en un instante e inconscientemente, busqué señales de peligro por si debía huir yo también. Pero cualquiera de esos rostros con los que me cruzaba podría ser también peligroso, y sin embargo mi atención los pasaba por alto. Estamos acostumbrados a cruzarnos constantemente con gente en la calle, estamos habituados.

¿Cómo debe de ser la experiencia para un bebé que sale a la calle por primera vez? Desde la porción de mundo que ve desde el carrito, todo le debe llamar la atención. Su alerta se debe disparar ante cualquier movimiento. El de las hojas de los árboles le debe causar perplejidad. Al rato, y en los siguientes paseos, ya no hará caso a las hojas de los árboles. Ha decidido que no son peligrosos y los puede ignorar tranquilamente.

La habituación está extendida en todos los organismo vivos. Tanto que parece ser una propiedad fundamental de lo vivo. Se ha estudiado extensivamente en seres unicelulares, incluso se ha calculado una fórmula¹. Bueno, muchas. Junto a la sensibilización, son la clave del aprendizaje básico.

Un recién nacido pasa en segundos por todos los estados de ánimo imaginables. En los primeros días absolutamente todo es un estímulo que le provoca reacciones, las cuales tampoco entiende y a su vez generan estímulos nuevos. La habituación le permite ir entendiendo qué estímulos son relevantes y cuáles no. Para el Stentor coeruleus, un organismo unicelular, el mecanismo de la habituación debe serle suficiente para sobrevivir, pero para un organismo más complejo será necesario poco a poco ir formando reglas de causa-efecto. El Stentor se encoge al contacto con algo duro. Lo que para el Stentor es una avalancha de iones de calcio, para nosotros puede ser una sensación de adrenalina corriendo por nuestras venas, una emoción de alerta. De miedo, en definitiva.

1. La disminución de la respuesta suele aproximarse mediante una función exponencial negativa:

   • R: Magnitud de la respuesta actual.

   • R₀​: Magnitud de la respuesta inicial.

   • R_asíntota​: El nivel mínimo o base al que se estabiliza la respuesta.

   • k: Tasa de habituación (afectada por la frecuencia e intensidad).

   • n: Número de repeticiones del estímulo.

¿Qué es un concepto?

Imagino a alguien, ya adulto, que viaja a un país de una cultura totalmente ajena a la suya, por ejemplo un europeo en un país oriental. Digamos que se llama Guillermo. Paseando por el mercado ve algo que le deja totalmente perplejo. Lo puede clasificar claramente como una fruta, aunque no la ha visto nunca y jamás la ha probado. Tiene una forma parecida a la de un melón, algo más redondeada. Puede notar que el olor es similar al de un melón. Lo prueba y es fresco como un melón, pero más ácido y algo menos dulce. La textura es un poco más dura también. Inmediatamente lo clasifica como algo parecido a un melón. Alguien le dice el nombre de la fruta, y ahora ya sabe, sorprendido, que se trata de un mango.

¿Qué ha pasado aquí? Cuando Guillermo vio el mango por primera vez, lo comparó en cuestión de milisegundos con otros tipos de alimento. Por descarte lo clasificó como fruta. Al probarlo se dio cuenta de que era casi tan dulce como un melón. Era igual de fresco que un melón. Era más duro que un melón. Pero en conjunto se asemejaba a un melón. Era casi un melón.

A partir de ahora cuando Guillermo lea o oiga la palabra “mango”, le vendrá a la memoria las cualidades del mango que probó en el mercado. Para él el concepto mango se compondrá de:

• forma amelonada

• un cierto dulzor

• textura entre blanda y al dente

• un cierto frescor

• un color amarillo anaranjado

Pero esto no es toda la película. Mi primer error al intentar modelar una AGI fue querer modelar los conceptos a partir de sus cualidades. Si tengo un concepto con estas propiedades: dulzor = 5, textura = 3, temperatura = 12, color = #f5b642, etc lo puedo comparar con otro concepto, y poder decidir inmediatamente si dos conceptos son equivalentes o si se parecen.

Guillermo vio el mango en el mercado e inmediatamente lo clasificó como fruta. ¿Qué hubiera pasado si en vez de estar en un mercado hubiera estado en un parque infantil y viera el mango dentro de una piscina de bolas?¿Hubiera buscado referencias de alimentos para clasificar lo que estaba viendo?¿Y si lo hubiera visto en un gimnasio?

Por otra parte, Guillermo había comido distintos tipos de melones anteriormente: melones grandes, pequeños, con rayas blancas en la piel, otros totalmente redondos, con el interior naranja, o con el interior rosado, algunos más dulces que otros etc. Sin embargo no recordará tan bien ninguno de ellos como el mango. La experiencia de su primer mango disparó una serie de emociones: extrañeza, curiosidad, sorpresa.

Cuando persistía en mi error de clasificar los conceptos a través de sus cualidades, argumentaba contra mí mismo que estaba claro que para poder usar metáforas del tipo “una vida dulce” o “un sentimiento amargo” debía tener registrada previamente el sabor dulce o amargo en mi memoria. Ahora tengo claro que una vida dulce no es quivalente a la reacción química que se dispara desde las papilas gustativas de mi lengua al recibir una carga de azúcares, sino a la emoción que produce. Entonces, ¿qué recordamos?¿las cualidades del dulzor o los sentimientos que nos provoca el dulzor?

El sabor amargo no nos suele gustar en nigún alimento o bebida, pero en un día caluroso de verano hay veces en que nos apetece tomar un bitter kas, bien amargo, para quitarnos la sed. Un escalador puede disfrutar de las alturas retando a la muerte pero también horrorizarse con las turbulencias dentro de un avión. Una persona puede proclamar que no soporta el calor en verano, digamos por encima de los 30 grados, pero en invierno meterse en una sauna. Como vemos, el contexto es crucial.

En el ejemplo del melón estamos viendo claramente el mecanismo de aprendizaje, donde Guillermo compara experiencias previas, conceptos previos, con lo que está experimentando en ese mismo momento. Ahora bien, si quiero programar este mecanismo de comparación necesitaré tener algo con lo que comparar. Entonces, ¿cómo se forma el primer concepto? Aquí entra la habituación.

Cuando estudiaba la carrera, hará unos 25 años, me compré un libro que se llamaba Inteligencia Artificial, un enfoque moderno. Ilusionado por conocer qué se cocía en el campo, me llevé una gran decepción al descubrir que el state of the art en la materia se parecía más a lo que hace una Roomba que a los robots de Asimov. Así que lo dejé estar. En 2012 creo recordar hice el cursillo introductorio al Machine Learning en Coursera, pensando que ahora sí que estaba en el camino correcto. Otra decepción, todo era estadística. Las redes neuronales, la estrella de la materia, nadie entendía por qué funcionan (al igual que ahora). Me faltaba una manera de modelar conceptos. Estas IA no pensaban en conceptos.

Pasó el tiempo y hace cuatro años leí por casualidad una entrevista a Pierre Lévy, donde explicaba que había inventado un lenguaje, IEML, que sirve para codificar lenguaje de tal manera que, si dos palabras se acaban escribiendo igual en IEML, es que son sinónimas. “Los conceptos” pensé. Me leí tres o cuatros libros que había publicado el hombre, en inglés y en francés, de 500 páginas o más cada uno, unos cuantos papers, le escribí, intercambiamos una serie de emails, etc. No me sirvió de mucho, pero me abrió la puerta a seguir investigando en eso que llaman ciencias cognitivas. Pasé por Minsky, por Turing, por Shannon, por libros de neurología, biología, blogs de filosofía enactivista, etc. Una locura, en resumen.

Cada vez que llego a un callejón sin salida, intento olvidar el tema durante una temporada. Hasta que llega un momento, mientras programo alguna cosa, en que el lenguaje de programación se queda limitado, en que necesitaría que algo entendiera texto y extrajera la idea principal, o una lógica basada más en el sentido común que en una serie de reglas. En seguida la obsesión vuelve, y junto a ella todas las posibilidades que abriría una inteligencia artificial general.

He leído cerca de un centenar de papers sobre el tema. Seguramente los papers que me llegan son los más populares, los más citados. No puedo dejar de pensar en los cientos de miles que quedan en el limbo, sin que nadie los lea ni se deje inspirar ni, aún peor, llegue a relacionarlos con otras ideas. Porque la innovación consiste en enlazar dos ideas aparentemente desconexas. Pensar en que debe de haber muchísimos avances ocultos esperando a que alguien los descubra no me parece banal. Y esta es mi principal motivación para desarrollar una AGI.

Entender el funcionamiento interno de una AGI también nos ayudaría a responder por qué somos como somos y, quién sabe, el origen de la vida.

Debo de ser la persona menos adecuada para intentar escribir una AGI. No siento que posea una inteligencia fuera de lo común (ni siquiera suficiente) ni los conocimientos necesarios. Quizás publicando mis líneas de investigación, utilizando a los lectores como patitos de goma, y seguramente con su ayuda, podamos acercarnos a alguna idea interesante. O como mínimo, divertirnos. Así que sólo queda preguntarnos:

¿por qué no?