La mala suerte del conductor borracho

En su magnífico Los peligros de la moralidad, Pablo Malo nos trae el sugerente dilema ético de Williams y Nagel (2013). Yo lo desconocía por completo, y me pareció muy refrescante, harto que estoy de leer una y otra vez los repetidos ad nauseam dilemas del tranvía de Foot:

Imagina dos amigos, Pedro y Juan, que se van a ver un partido de fútbol y tomar unas cervezas; ambos beben el mismo número de cervezas y sufren una intoxicación etílica con niveles de alcoholemía igualmente elevados. Ambos deciden coger el coe para volver a casa y ambos se duermen al volante, pierden el control del coche y se salen de la carretera. Pedro se golpea contra un árbol. Juan atropella a una chica que iba por la acera y la mata. ¿Debería la diferencia accidental de que en un caso uno se encuentre con un árbol y otro con una chica hacer que la valoración moral sea distinta?

Si hiciéramos una sencilla encuesta en la que preguntásemos cuál de los dos borrachos merece una mayor condena, con total seguridad, Juan saldrá perdiendo por goleada. Lo habitual será que a Pedro le caiga una multa mientras que Juan termine en prisión. El dilema está en que la conducta de ambos ha sido completamente similar, solo la mala suerte ha hecho que las consecuencias de la acción hayan sido inmensamente peores en el caso de Juan. Entonces, ¿condenamos a una persona únicamente por su mala suerte? ¿Acaso no hay nada más injusto que la suerte?

Este dilema no deja de recordarme al trágico accidente en el rodaje de una película en la que el actor Alec Baldwin mató a la directora de fotografía, Halyna Hutchins, al dispararle con una pistola que se creía que solo contenía balas de fogueo. Supongamos que Baldwin actuó irresponsablemente apuntando a la directora. Si las balas hubiesen sido verdaderamente de fogueo no hubiera pasado absolutamente nada y, a lo sumo, alguien podría acusar al actor de gastar una broma de muy mal gusto disparando a Halyna. Desconozco la legislación norteamericana, pero seguro que no tiene ninguna ley que prohíba disparar a alguien con balas de fogueo, y si existe alguna norma al respecto, será mucho menos dura que la que castiga el homicidio involuntario. Al igual que con nuestros conductores borrachos, a Baldwin se le va a juzgar más severamente debido, únicamente, a su mala suerte.

Pablo Malo describe cómo los psicólogos morales Cushman, Greene o Young explican este suceso. Y es que, según ellos, tenemos dos sistemas psicológicos de evaluación moral diferentes que entran en un conflicto irreconciliable. Uno se dispara en presencia del daño y condena al responsable en proporción al daño ocasionado. El otro analiza las intenciones del agresor y condena en proporción a si son malas o buenas. En este caso, el segundo sistema no se activa, ya que ni Pedro ni Juan quieren matar a nadie, pero el primero sí, ya que Juan ha matado a alguien, aunque sea involuntariamente.

Según nos sigue contando Malo, en estudios con niños se ha visto que los menores de cinco años solo condenan por el daño causado, sin fijarse en las intenciones. A partir de entre cinco y ocho años, ya se empieza a juzgar también por las intenciones. Cushman sostiene que el primer sistema habría surgido en una fase muy antigua de la evolución, cuando todavía no existía una teoría de la mente muy sofisticada o no se podían comunicar con suficiente eficacia nuestras intenciones. Así, el segundo sistema habría surgido más tarde, cuando nuestras capacidades cognitivas para entender las intenciones de los otros y comunicarlas fueran más avanzadas. Aquí se cumpliría la famosa máxima: la ontogenia recapitula la filogenia.

Pero fíjese el lector de las profundas consecuencias de esto: juzgamos y castigamos duramente a una persona de forma injusta porque nuestros sistemas de juicio moral evolucionaron de manera que entran en conflictos irresolubles. Pensemos en toda la gente que ha terminado en la cárcel, o que incluso ha sido ejecutada, porque nuestros cerebros son como son. Si hubiera evolucionado de otro modo, nuestra moral sería completamente diferente y hubiésemos mandado al paredón a otras personas distintas. Si reflexionamos sobre esto en toda su profundidad… da vértigo.

Lo innato invisible

En el inacabable debate entre lo innato y lo adquirido, las redes neuronales artificiales parecían postularse como evidencia a favor del ambientalismo, ya que parecen capaces de «atrapar» ciertas estructuras lingüísticas solo a partir de su entrenamiento. Rumelhart y McCelland diseñaron una red para aprender los verbos en inglés que parecía hacerlo igual que los niños. De hecho, cometía exactamente igual que ellos, el clásico error de sobrerregulación (en vez de pasar de «volver» a «vuelto», lo hacía a «volvido») ¿Y qué decimos de los nuevos modelos de lenguaje desde BERT a Gopher? Su desempeño, al menos «externo», es sensacional. Estos días he estado jugando con GPT-3 y, a pesar de algunos errores, en general, funciona fantásticamente bien (luego subiré una entrada con extractos de mis conversaciones). Tengamos en cuenta que estos sistemas basados en semánticas distribuidas tienen cero conocimiento de semántica o sintaxis. No tienen, desde luego, ningún tipo de universal lingüístico chomskyano en su diseño ¿No serían entonces una evidencia clarísima en contra del innatismo? No.

En primer lugar, ya sabemos que el sistema de aprendizaje de estos algoritmos no parece tener nada que ver con el humano. Nosotros no necesitamos millones de ejemplos, ni en la neurología humana existe nada parecido a la backpropagation. Se ha argumentado que quizá computamos mal el número de ejemplos que necesitamos las personas en cada experiencia de aprendizaje. Si consideramos que la percepción humana trabaja a una velocidad de 10 a 12 «fotogramas» por segundo, o que cuando soñamos reconstruimos recuerdos rápidamente a la velocidad de ritmo theta, un niño escuchando unos segundos hablar a su madre, podría equivaler a cientos o miles de exposiciones entrenables. También se ha argumentado, y aquí está lo interesante, que la hoja de ruta de los ingenieros está en conseguir programas que necesiten cada vez menos ejemplos de entrenamiento (véase, por ejemplo, el trabajo de Li Fei-Fei). Podría llegar el momento en que el número de ejemplos necesarios para los algoritmos se aproxime en cifras aceptables al nuestro. No obstante, en el estado del arte actual, parece que estas arquitecturas no constituyen un buen modelo para la mente humana («Ni lo pretenden» responderían airados sus ingenieros. Podéis leer algo más de este tema en un TFM que hice). Pero veámoslo desde otro ángulo.

La estructura de los modelos de lenguaje desde BERT se basa en un sistema de aprendizaje en dos fases: primero tenemos el modelo base del programa, entrenado con miles de millones de ejemplos y requiriendo una enorme capacidad de cómputo. Gopher ha sido entrenado con 280 mil millones de parámetros o su rival de NVIDIA, Megatron-Turing NLG con 530 mil millones. En estos momentos estamos en una escalada de tamaños que, seguramente, está todavía lejos de terminarse. Hasta los chinos han presentado los suyos: Wu Dao 2.0 y M6, por supuesto, mucho más grandes que los occidentales. Seguidamente, al modelo base se le pueden añadir capas de ajuste fino (fine tunning), un entrenamiento específico para que la máquina sea especialmente buena en una tarea concreta (inferencias, equivalencia semántica, análisis de sentimientos, etc.). Después, el programa ya está completamente listo para funcionar. Lo importante es que ahora ya no necesita la enorme capacidad de cómputo de su entrenamiento. Todo ese gasto ya no tiene que volver a realizarse y  ahora el programa funciona como otro cualquiera en términos de gasto. De hecho, el camino parece ser incluso reducir aún su tamaño. DeepMind ha sacado RETRO, una versión de Gopher reducida en tamaño (unas 25 veces más pequeño que sus pares en desempeño). Tiene solo 7.000 millones de parámetros, pero lo compensa con la ayuda de una memoria externa a la que consulta cada vez. 

Supongamos ahora que somos una especie de extraterrestres que llegamos a la Tierra y analizamos a RETRO, sin saber absolutamente nada de su pasado de entrenamiento. Veríamos una arquitectura relativamente sencilla funcionando con una más que aceptable competencia llingüística. Podríamos entonces iniciar la investigación al estilo chomskyano: buscar unas estructuras profundas, unas gramáticas generativas a partir de las cuales RETRO produce todo ese lenguaje. Quizá fracasáramos y no encontráramos nada (debido quizá al black box problem). Entonces daríamos la razón a los ambientalistas y diríamos que todo lo que hay en RETRO ha de ser aprendido del entorno.  Sin embargo, en nuestro análisis no habríamos tenido en cuenta todo el costosísimo entrenamiento previo que RETRO lleva implícitamente dentro. RETRO nace con una enorme carga innata invisible al analizador. 

Hagamos ahora la analogía con el ser humano. Quizá nosotros traemos como innato invisible todo este gran modelo base entrenado por eones de años de evolución. Naceríamos con algo así como una memoria filética en la que estarían grabadas de forma distribuida las cualidades universales de los lenguajes humanos. El ajuste fino sería, sencillamente, el aprendizaje de los usos lingüísticos de nuestro idioma geográfico realizado por cada individuo particular durante su vida. En ese sentido, la carga innata sería enorme, infinitamente más grande que todo lo que aprendemos en vida, pero permanecería oculta al analista. Y es más, para nuestro fastidio, sería tremendamente difícil de investigar, ya que habría que conocer la historia evolutiva del lenguaje de millones de especies extintas, una tarea de ingeniería inversa imposible.  

Desde que descubrimos la teoría de la evolución, ese ha sido el gran problema: todo órgano ha pasado por una larguísima historia que desconocemos, ha pasado por innumerables adaptaciones, exaptaciones, funcionalidades cambiantes, e incluso quedar como órgano rudimentario durante un tiempo para luego volver a ser reutilizado. Si pensamos que la única forma de estudiar el pasado biológico es a través de los fósiles, siendo estos solo huesos… ¿cómo vamos a entender el cerebro si no se conserva en el registro fósil, si de nuestros parientes más cercanos solo podemos aspirar a encontrar trozos de cráneo? Algo podemos hacer estudiando el de otros seres vivos, pero todo es muy confuso: el cerebro de un chimpancé no es el de un ancestro, es de un primo, ya que no descendemos del chimpancé, sino que el chimpancé y nosotros descendemos de un ancestro común desconocido.  

Entender el cerebro es como querer comprender qué son las pirámides de Gizeh, solo teniendo conocimiento histórico a partir de enero de 2022. 

Tomándose a Darwin en serio de una vez

Voy a insistir en una idea que me sigue pareciendo completamente revolucionaria, y que, como suelo leer en muchos lugares, no parece quedar lo suficientemente clara a pesar de ser la consecuencia más poderosa de la teoría de la evolución biológica.

Tesis principal: no estamos diseñados por la evolución para percibir/conocer el mundo real tal y como es (de hecho, la misma idea de mundo real tal y como es, es un sinsentido), sino para aumentar nuestro fitness (probabilidades de supervivencia y reproducción). Esta tesis, aparentemente muy simple, es auténtica dinamita, e invito al lector a que reflexione profundamente sobre ella.

Posible consecuencia: Por tanto, de la teoría de la evolución darwiniana (o, si se quiere, de la teoría sintética de la evolución) parece que no podemos deducir el realismo científico que suele acompañar al naturalismo, fisicismo, cientificismo o positivismo, tan propios de la filosofía analítica. Si no podemos percibir y conocer el mundo tal cual es, lo percibido y conocido serán una ficción, por lo que no queda otra que caer en el relativismo y/o en el escepticismo.

Argumentación que intenta refutar esta consecuencia:

Hace años escribí esta entrada en donde comparaba la belleza de Monica Bellucci con la de una drosophila. Con ella quería defender la idea de que no existe una belleza en sí, la idea platónica de belleza como algo externo y diferente a los sujetos que la perciben o inteligen. Lo que verdaderamente hay son unos sensores diseñados para percibir como atractivas ciertas formas/texturas/colores propias de nuestra especie en función de sus devenires evolutivos. Así, a una drosophila, Monica Bellucci le parecería igual de atractiva que a nosotros la misma drosophila. Pero, la cuestión es: ¿Al no existir una idea universal de belleza compartida por todos los seres bellos no caemos en un relativismo que, a la postre, nos puede llevar al escepticismo? No.

Que a la drosophila, a un oso hormiguero o a un salmonete de roca, Monica Bellucci no les resulte bella no quita realidad al hecho de que a mí sí me lo resulte. Monica es bella para mí, pero el que solo lo sea para mí no implica que esa belleza no tenga realidad y que a partir de ella pueda escribir maravillosos poemas o hacer magníficas películas. Thomas Henry Huxley, el celebérrimo bulldog de Darwin, lo explica mejor que yo:

Pero ¿es verdad que el poeta, el filósofo o el artista cuyo genio es la gloria de una época queden degradados de su altura por la indubitable probabilidad histórica (por no llamarla certeza) de ser descendiente directo de algún antiguo, desnudo y bestial salvaje cuya inteligencia bastaba apenas para hacerle un poco más astuto que un zorro y algo más peligroso que el tigre? ¿O acaso el poeta se siente obligado a andar a cuatro patas por el hecho indiscutido de que al comienzo de su existencia fue un huevo imposible de distinguir del de un perro por ningún poder ordinario de discriminación? ¿O acaso el filántropo o el santo deben abandonar sus esfuerzos por vivir una vida noble a causa de que el estudio moral del hombre revela fácilmente que en su naturaleza se dan cita todas las pasiones egoístas y todos los fieros apetitos del cuadrúpedo? ¿Es vil amor materno por el hecho de que lo manifieste una gallina? ¿Es indigna la lealtad por el hecho de la manifieste un perro?

T. H. Huxley citado por L. W. H. Hull en Historia y Filosofía de la Ciencia.

Apliquemos esto al conocimiento: si no percibo la realidad tal y como es, ¿Qué validez tiene mi conocimiento? Todo ¿Por qué? Porque entender el conocimiento como el de la realidad tal como es no tiene sentido, es entender el conocimiento sin conocedor, sin sujeto cognoscente. No se introduce en la ecuación una parte elemental del proceso de conocer. Y es que algo solo es verdadero o falso, significativo o absurdo, para un sujeto con una determinada estructura cognitiva. Algo no puede ser verdadero o falso en sí mismo, sino que es verdadero o falso para alguien para el que tenga sentido hablar de verdades o falsedades.

Un ejemplo. Tenemos a dos interlocutores charlando mientras la drosophila revolotea a su alrededor. Entonces uno de los interlocutores dice «Deva Cassel es hija de Monica Bellucci». Esta proposición es un enunciado declarativo que puede fácilmente verificarse y, de hecho, es verdadero; pero, ¿Verdadero para quién? Obviamente, para la drosophila no. Ella no entiende el lenguaje humano, no sabe nada de sus estructuras sintácticas, semánticas o pragmáticas; por lo tanto la proposición no es universalmente significativa, sino que solo lo es en un contexto muy concreto: para dos interlocutores de la misma especie que comparten el mismo idioma y los mínimos culturales necesarios para hacer posible la comunicación. Sin embargo, esto no quita que la proposición sea completamente verdadera para ambos interlocutores y que no tiene ningún sentido «ir más allá» buscando una verdad metafísica más profunda sobre el tema.

¿Esto implica que no existe un mundo real diferente al sujeto de modo que todo lo que entendemos por realidad es una construcción del sujeto? No. Existe un mundo real diferente al sujeto, solo que intentar comprenderlo en sí mismo es absurdo. Lo que entendemos por realidad sí que es una construcción, pero no solo es producto del sujeto, sino más bien es un producto de la acción del sujeto en la misma realidad. Yo percibo/construyo unas determinadas formas/texturas/colores en Monica Bellucci porque gracias a ello tengo más probabilidades de pasar mis genes a la siguiente generación. Esas formas/texturas/colores son una construcción tanto de las propiedades del objeto Monica Bellucci como por las cualidades de mi sistema perceptivo y cognitivo, no teniendo ningún sentido preguntarse qué son más allá de esa relación.

Creo que la principal consecuencia del darwinismo es el antiplatonismo: no hay unas verdades universales existentes con independencia del sujeto. No hay belleza, verdad, bondad en sí mismas, sino solo para el sujeto. El darwinismo, en muchos sentidos, encajaría muy bien con la gnoseología kantiana.

P. D.: Esta entrada es solo un aperitivo para la conferencia que daré a principios de septiembre para el curso de verano de la SEMF, hablando de todo lo que significa la revolución darwiniana para el pensamiento contemporáneo porque, insisto, creo que todavía, en agosto de 2021, no nos hemos tomado suficientemente en serio a Darwin.

Seis condiciones para comprender el cerebro

Para un trabajo que realicé para la asignatura Bases Neurológicas de la Cognición del Máster en Ciencias Cognitivas que imparte la Universidad de Málaga, tuve que enumerar una serie de características que yo considerada imprescindibles para crear una máquina que imitara el funcionamiento del cerebro humano. Concedo que son principios muy generales, pero creo que no hay que perderlos de vista porque son, esencialmente, verdaderos, y uno se encuentra por ahí, más veces de lo que querría, con teorías de la mente que se alejan, muy mucho, de ellos.

1. El cerebro es un kludge (klumsy: torpe, lame: poco convincente, ugly: feo, dumb: tonto, but good enough: pero bastante bueno) fruto de la evolución biológica. Tal como defiende el neurocientífico David Linden (Linden, 2006), si aplicamos los principios de funcionamiento de la selección natural, el diseño del cerebro dista mucho de ser una máquina perfecta fruto del trabajo racional de ingenieros, siendo más bien un cúmulo de chapuzas, de soluciones, muchas veces poco eficientes, que lo único que han pretendido es aumentar el fitness del organismo dado un ecosistema concreto. Teniendo en cuenta que los ecosistemas cambian debido, por ejemplo, a cambios en las condiciones climáticas o por aumentos o disminuciones en las poblaciones de competidores, lo que hoy podría ser una excelente adaptación, mañana puede ser una carga inútil. Es por eso que nuestro cerebro puede estar lleno de órganos rudimentarios (adaptaciones que perdieron su función pero que no fueron eliminados) y exaptaciones (antiguas adaptaciones que se están rediseñando en la actualidad para una nueva función), o de las famosas pechinas de Jay Gould y Richard Lewontin (elementos que solo obedecen a necesidades estructurales de auténticas adaptaciones). También hay que tener en cuenta que el cerebro no es una máquina acabada, sino que, al seguir siendo afectado por la selección natural, sigue construyéndose, siempre siendo un estado intermedio. El cerebro, al contrario que cualquier máquina diseñada por el hombre, tiene una larga historia biológica, lo cual, dicho sea de paso, dificulta mucho la labor de ingeniería inversa necesaria para su estudio.
2. El cerebro como una máquina de movimiento. La gran diferencia entre el reino animal y el vegetal fue, originariamente, la capacidad de movimiento. Se da el hecho de que las plantas no tienen sistema nervioso y esto se explica, precisamente, por su quietud: si apenas te mueves no necesitas un complejo sistema que ligue tu percepción al control del movimiento. Por tanto, el sistema nervioso surge con la función biológica de coordinar la percepción con el sistema motor. Podemos entonces entender que muchas de las funciones cognitivas actuales son exaptaciones de funciones perceptivo-motoras. O dicho de otro modo: nuestro cerebro se construyó a partir de otro que únicamente servía para percibir y moverse, por lo que parece esencial, comprender bien cómo eso puede afectar al diseño del cerebro. Pensemos como sería construir un ordenador personal a partir de las piezas de un automóvil.
3. El cerebro como máquina de visión. El órgano de los sentidos que mejor servía para moverse eficazmente en el mundo animal, ha sido la visión (con honrosas excepciones como la ecolocalización de los murciélagos). Y es por ello que los animales más evolucionados como los mamíferos superiores tienen los mejores sistemas visuales de toda la biosfera ¿Qué es lo que ve, lo que percibe nuestro cerebro? En este sentido es muy interesante la teoría de la interfaz (Hoffman, 1998 y 2015) del científico cognitivo Donald Hoffman ¿Percibimos la realidad tal cómo es? No. En primer lugar hay que tener en cuenta que el cerebro no es una máquina con infinitos recursos sino que tiende a optimizarlos para competir en situaciones de escasez. Percibir toda la realidad sería un enorme derroche cuando solo tiene que percibir necesario para aumentar sus posibilidades de supervivencia y reproducción: alimento, presas/depredadores y parejas sexuales. Todo lo demás, lo que es indiferente a los factores evolutivos no tiene por qué ser percibido. Y después, tampoco hace falta percibir lo que se percibe tal y como es, sino que nos bastaría con una etiqueta, con un símbolo que, sencillamente, identificara la función de lo percibido. Es por eso que Hoffman nos habla de nuestra percepción como una interfaz, como el típico escritorio de Windows lleno de iconos. Pensemos que cada icono es un símbolo que representa una función (Abrir el programa determinado), pero ese símbolo no tiene nada que ver (no se parece en nada a su función), pero es muy práctico y eficiente: un pequeño dibujito vale como etiqueta para indicarme que debo hacer clic en ella para ejecutar un programa (el cual puede ser tremendamente complejo en sí mismo). Por otro lado, el órgano de los sentidos que más información proporciona al ser humano, es con diferencia, la visión (el córtex visual ocupa casi un tercio del volumen del cerebro), por lo que a la hora de establecer cómo procesamos la información y cómo realizamos acciones cognitivas o conductuales, habría que tener muy en cuenta que, principalmente, trabajamos con información visual, por lo que habría que tener muy en cuenta sus propiedades y peculiaridades con respecto a otros tipos de información.
4. La división entre rutinas y subrutinas. En su famosa obra The society of mind (1986), el informático Marvin Minsky nos describía el cerebro como un gran conjunto de pequeños módulos funcionales que realizan tareas relativamente sencillas pero que, trabajando coordinadamente, hacen emerger una conducta muy inteligente. Esto nos da dos ideas: en primer lugar nos sirve para establecer la distinción entre procesos conscientes y subconscientes. La tarea de esos sencillos módulos funcionales (que quizá podrían identificarse con clusters de redes neuronales) ocurriría a nivel inconsciente, siendo únicamente el resultado, lo que aparece a nivel consciente (o, si no, solo el trabajo de ciertos tipos de módulos encargados, precisamente, de los procesos conscientes). Y, en segundo lugar, da pie a todo el programa de investigación conexionista (en redes neuronales artificiales): buscar modelos matemáticos del funcionamiento del cerebro centrados en sus unidades básicas (la neurona) y en sus relaciones (las redes). Una neurona es una célula relativamente sencilla, pero millones de ellas funcionando en paralelo podrían dar lugar a comportamiento complejo. Como Rodney Brooks (Brooks, 1991) demostró en sus investigaciones en robótica, es posible hacer emerger comportamiento inteligente mediante un conjunto de dispositivos sin que exista ningún módulo de control que dirija la acción. Serían dispositivos automáticos que actúan siguiendo el patrón percepción-acción sin apenas procesamiento de la información. En este sentido la metáfora del funcionamiento de los programas informáticos actuales es perfecta: un programa llama constantemente a otros (llamados subrutinas) para que le den un valor, un resultado. El programa principal no sabe qué hacen ni cómo funcionan cada uno de estos subprogramas, pero le son útiles porque le dan el resultado que necesita para acometer una determinada tarea. Incluso puede ser el caso de que funcionen sin ningún tipo de comunicación con ningún centro de mando, sencillamente realizando una tarea de forma completamente autónoma.
5. Conocer es actuar. Ha sido un gran error histórico (quizá el mayor error de la historia de la filosofía) entender el conocimiento desde la gnoseología platónico-aristotélica, es decir, entender que conocer consiste en volver a presentar (re-presentar) el mundo exterior a nosotros, abstrayendo una especie de esencia incluida en el objeto conocido y “colocándola dentro” de nuestro entendimiento. Esta concepción mixtifica, sobrenaturaliza la acción de conocer y, evidentemente, saca el estudio del conocimiento del ámbito científico. Conocer no es repetir el mundo exterior dentro de nuestro mundo interior, ya que eso nos llevaría a una cadena infinita de homúnculos. Conocer es un acto biológico con finalidades evolutivas que no tiene nada que ver con representar el mundo. Sería absurdo que nuestra percepción fuera como una cámara de fotos que solo intenta hacer una réplica lo más fidedigna posible de lo fotografiado porque ¿qué hacer luego con la foto? ¿Para qué queremos, solamente, una foto realista? La información obtenida mediante los sentidos es procesada, manipulada o transformada simbólicamente, para hacer cosas con ella, para intervenir en la realidad y no para describirla. Conocer es un proceso que tiene que entenderse exactamente igual que cualquier otro proceso biológico como la digestión o la acción del sistema inmunitario. Y, en un nivel inferior, el acto de conocimiento es una acción físico-química como cualquier otra. Cuando percibimos mediante la vista, el primer paso se da cuando fotones golpean las capas de discos membranosos de los fotorreceptores de nuestra retina, generando una cascada de disparos neuronales que forman patrones que posteriormente serán procesados por redes neuronales. En toda esta compleja red de procesos no se atrapa ninguna esencia ni se repite ni siquiera una supuesta estructura de la realidad, sino que se elabora un mapa funcional, se elabora todo un sistema para tomar decisiones de modo eficiente.
6. Módulos cerebrales de reconocimiento de patrones (Kurzweil, 2013) Parece que lo que mejor saber hacer las últimas herramientas de la IA conexionista, las redes neuronales convolucionales, es encontrar patrones en entornos poco (o nada) formalizados, es decir, muy difusos. Así están venciendo uno de los grandes obstáculos de la IA: la visión artificial. Ya existen redes neuronales que distinguen rostros con suma fiabilidad, o que reconocen cualquier tipo de objeto que observan, estando ese objeto en diferentes posiciones, iluminado con diferentes intensidades de luz, incluso en movimiento. Esto sirve como fuerte indicio para apostar por una teoría computacional de la percepción y del conocimiento: si al utilizar redes neuronales artificiales conseguimos hacer máquinas que ven de una forma, aparentemente, muy similar a la nuestra, será porque nuestro cerebro también funciona así. Además, una de las teorías de la percepción más influyentes del siglo XX, la famosa Gestalt, ya afirmaba que la percepción no consistía en la suma de todos los estímulos visuales (como sostenía la escuela elementarista), sino en dar sentido, en comprender una estructura profunda de la imagen vista (en, según sus propios términos, obtener una gestalten). Ese sentido que otorga significado a lo observado bien puede entenderse como el reconocimiento de un patrón. Además, esta forma encaja perfectamente con la teoría de la interfaz de Hoffman: no percibimos todo ni lo real, sino una información (que será deseablemente la mínima) suficiente para responder adecuadamente.

Imagen del artista Pablo Castaño.

La mente como una interfaz

Una de los dogmas más típicos del ethos cognitivo del científico es el realismo. La mayoría de los científicos con quienes debatas tendrán una concepción realista del conocimiento. Será común que sostengan, con más o menos matices, que el mundo objetivo es real y que, nosotros, mediante el método científico, tenemos acceso a esa realidad. Es posible un conocimiento objetivo del mundo y la ciencia es el camino adecuado para conseguirlo.

De la misma forma, cualquier científico que se precie aceptara, sin lugar a dudas, la teoría de la evolución darwiniana. Aplicándola a la percepción de la realidad, es bastante lógico pensar que la selección natural premiaría el realismo, ya que un organismo incapaz de percibir dónde está, realmente, el alimento, la pareja o un posible depredador, tendría pocas probabilidades de sobrevivir. Siguiendo el recto gradualismo darwiano, sistemas perceptivos tan sofisticados como el de un ave rapaz, serían fruto de pequeñas variaciones que irían progresivamente dando al pájaro una visión cada vez más aproximada a la auténtica realidad.

Entonces llega el psicólogo cognitivo de la Universidad de California, Irvine, Donald Hoffman y lo pone todo patas arriba. Hoffman va a llevar a sus máximas consecuencias una determinada idea que parece innegable para cualquier darwinista: un organismo no necesita percibir toda la realidad tal cuál es, solo la que necesite para aumentar sus posibilidades de supervivencia y reproducción (se usa el término fitness). Si la selección natural premia mucho la economía de medios, percibirlo todo es un derroche absurdo. Pero es más, no hace falta siquiera percibir una sección de realidad, sino solo un esquema, un indicador, una señal que nos sirva para tomar la decisión que aumente nuestro fitness. Pongamos un ejemplo (que no es de Hoffman pero creo que es más ilustrativo). Vamos conduciendo y tenemos que pasar por un cruce muy peligroso. La carretera que tenemos que cruzar tiene cinco carriles repletos de coches pasando a toda velocidad. Ver cuando no viene ningún coche, y calcular que nos dé tiempo a cruzar antes de que aparezca el siguiente, es una tarea compleja. No obstante, para eso se inventó el semáforo. Cuando llego al cruce no tengo que percibir todo el tráfico, solo con fijarme en una sola señal, un solo estímulo, la luz del semáforo, ya puedo cruzar sin peligro alguno. En cierto sentido, la luz del semáforo está resumiendo, simplificando toda la complejidad del tráfico a una combinación binaria: verde no pasan coches, rojo sí pasan.  Pensemos el ahorro de recursos perceptivos que supone el semáforo que, sin duda, sería elegido por la selección natural si tuviese que «diseñar» un organismo cruzador de carreteras.

Pero es más, contra toda intuición, nuestro organismo bi-perceptor no percibiría absolutamente nada que tuviese que ver con la realidad. En la carretera no hay nada como luces rojas o verdes, y una luz roja o verde no se parece en nada a un denso flujo de automóviles. Nuestro organismo estaría utilizando lo que Hoffman denomina interfaz, que es algo muy parecido al escritorio de tu ordenador. Cuando hacemos clic en el icono del reproductor de vídeo para ver una película, el icono no tiene ningún parecido al complejo sistema de circuitos, voltajes y magnetismos que se activa para que veamos la película. Lo realmente inquietante es que esto implica que, lo más probable, es que vivamos completamente ciegos a la auténtica realidad y que la «pantalla de nuestra consciencia» nos ofrezca un juego de símbolos que nada tienen que ver con lo que exista allí fuera.

Y más aún, no es que no percibamos cualidades objetivas, sino que la función de fitness es una relación entre el mundo, las cualidades del organismo en cuestión y su estado actual; por lo que la información que recibimos no es del estado del mundo, sino del estado de dicha relación. Por ejemplo, si nuestro organismo necesitara un determinado nutriente con mucha urgencia, es posible que mostrara una interfaz diferente a si lo necesita con menos premura. O, podría ser que nuestra interfaz mostrara con especial intensidad «situaciones» en las que las posibilidades de aumentar el fitness son muy altas o muy bajas, pero ignorara todas las demás.

Para fundamentar su tesis con más fuerza, Hoffman se basa en una serie de simulaciones informáticas en las que se ponen a competir diferentes estrategias perceptivas para conseguir optimizar su función de fitness. En las simulaciones realizadas por el discípulo de Hoffman, J.T. Mark, las estrategias de interfaz eran muy superiores a las realistas, más cuando se aumentaba la complejidad de las simulaciones, ya que esto producía que las estrategias realistas tuviesen que almacenar cada vez más información irrelevante. Basándose en ello, Hoffman llega a la controvertida afirmación de que el realismo es, evolutivamente, tan malo que.. ¡con total seguridad, la selección natural jamás lo eligió!

Pero, ¿no caeríamos de nuevo en la falacia del homúnculo? ¿Para que querría la evolución una «pantalla de la consciencia» en donde la información se transmitiera de forma simplificada o esquematizada? ¿Quién es el que está viendo este escritorio de ordenador lleno de iconos útiles para sobrevivir? La teoría de Hoffman no soluciona el problema del por qué de la consciencia pero sí que sortea el problema del homúnculo. La información no se repite de nuevo en una «pantalla de cine», sino que se modifica para hacerse operativa. Si pensamos en nuestra mente como un conjunto de módulos funcionales, podemos pensar que tenemos módulos encargados de tomar decisiones de alto nivel a los que les viene muy bien recibir la información cocinada  para ser operativa. Nuestro módulo-consciente estaría encargado de tomar ciertas decisiones basándose en la información recibida por los sentidos. Lo que recibiría en su interfaz sería un conjunto de esquemas, resúmenes, iconos, desarrollados específicamente para ser utilizados de la forma más eficiente posible. Es como si fueran los instrumentos de vuelo de la cabina de un avión, ergonómicamente diseñados para ser utilizados lo más eficazmente por el piloto. Por ejemplo, la palanca que da potencia a los motores está perfectamente diseñada para ser agarrada con fuerza por una mano humana; igualmente, los iconos de nuestro «escritorio-consciencia» estarían diseñados para ser «agarrables» por nuestro sistema de toma de decisiones.

Objeciones: muchas, pero una especialmente hiriente. A todas las teorías que dicen que no podemos percibir la auténtica realidad se les puede aplicar la vieja paradoja de Epiménides. Se cuenta que Epiménides, un cretense, decía que todos los cretenses eran unos mentirosos, lo cual, evidentemente, nos lleva a una insalvable paradoja. Análogamente, si Hoffman dice que todo lo que percibimos es una interfaz que no representa la auténtica realidad, la propia teoría de la interfaz sería también una nueva interfaz que no describe el auténtico funcionamiento de la cognición. Hoffman debería explicarnos por qué él no es un cretense.

Otra, que a mí se me antoja más interesante, es que Hoffman presupone que percibir la auténtica realidad es costoso, por lo que hace falta hacer esquemas. Esto puede ser cierto en muchas ocasiones, pero en otras no. Podría darse el caso de que percibir ciertos elementos de la realidad tal como es fuera, incluso, menos costoso que tener que crear un icono en el escritorio de la consciencia. Es más, podríamos objetar que la hipótesis de que siempre fuese así no está refutada: ¿Y si, siempre, construir iconos en la mente fuera más caro que percibir la realidad tal y como es? A fin de cuentas, crear un icono es realizar un paso más que percibir la «realidad pura», a saber, transformarla en icono ¿Y si esa transformación fuese muy cara? Hoffman debería idear un sistema de costos para evaluar lo que cuesta el realismo en comparación con la creación de su interfaz.

A esta multimodal user interface (MUI), Hoffman va a añadir una teoría aún más controversial si cabe: el Realismo Consciente, que viene a decir que lo único ontológicamente existente son los agentes conscientes, siendo la materia una mera creación de la consciencia. El argumento fundamental en el que se basa es sostener que todos los intentos de explicar la consciencia a partir de la materia han sido, hasta la fecha, baldíos (lo cual es completamente cierto), mientras que el camino inverso, explicar cómo la mente construye sus percepciones de la materia, ha sido más exitoso (lo cual no veo yo tan claro). De esta forma, siendo estrictamente científicos, parecería más lógico defender este idealismo que no el materialismo tradicional de la ciencia. Para Hoffman no habría problema alguno en invertir el orden causal de toda la neurociencia moderna, solo habría que cambiar el orden de las palabras: en vez de decir que clusters de neuronas causan estados mentales, tendríamos que decir que estados mentales causan clusters de neuronas, sin cambiar nada más.

En cualquier caso, aceptemos todo o nada de lo que dicen, las ideas de Hoffman suponen una fuerte apuesta por llevar a sus máximas consecuencias una epistemología radicalmente evolucionista que pone en la palestra un montón de cuestiones filosóficas que parecen, muchas veces, en la periferia del debate científico cuando, realmente, deberían estar en el centro. Os dejo su famosa Ted Talk (tenéis subtítulos en castellano):

 

Addendum 22-4-2020: Hice el TFM para el Máster en Ciencias Cognitivas de la Universidad de Málaga sobre Hoffman. Para que mi trabajo pueda ser de provecho para alguien y no quede en la carpeta del olvido para siempre, lo subo aquí. Creo que no existe ningún trabajo específico sobre Hoffman en castellano, así que es posible que a alguien pueda interesarle.

PROYECTO FIN DE MASTER

Coordenadas

Ya está disponible en Amazon en formato e-book por el irrisorio precio de tres euritos (La versión en papel está tramitándose y costará cinco euros). En Coordendas he recopilado las mejores entradas de este blog, junto con más artículos publicados en otros lugares de la red, desde el 2012 al 2016.  Lo he dividido en cuatro secciones: una primera trata sobre la revolución darwiniana (ya sabéis que creo que todavía no hemos tocado ni la superficie de lo que significa la evolución biológica y el gigantesco cambio que supone con respecto a la visión de nosotros mismos), una segunda sobre los avances que se están dando en neurociencias, otra tercera sobre cuestiones cruciales de filosofía de la ciencia, y una cuarta dividida en dos: un extenso artículo que aborda el tema del determinismo y la aleatoriedad (lo publiqué en Hypérbole y se tituló: «Jugando con Dios al Craps»), y otro que habla del gran tema de nuestro tiempo: la Inteligencia Artificial (se trata de una pequeña pero fecunda historia de la disciplina).

En fin, animaos y compradlo pues… ¿qué se puede hacer mejor en la playa que leer la Máquina de Von Neumann?

Dos mentes

He aquí lo que han desarrollado el biólogo Detlev Arendt y sus colegas. Tal como ellos lo ven, el sistema nervioso se originó dos veces; pero no quieren decir que se desarrolló por evolución en dos tipos de animales; en lugar de ello, se originó dos veces en los mismos animales, en lugares diferentes del cuerpo del animal. Imagine el lector un animal parecido a una medusa, con forma de cúpula, con una boca debajo. Un sistema nervioso evoluciona en la parte superior y capta la luz, pero no es un guía para la acción. En cambio, utiliza la luz para controlar ritmos corporales y para regular hormonas. Otro sistema nervioso surge por evolución para controlar el movimiento, inicialmente solo de la boca. Y, en algún estadio, los dos sistemas empiezan a moverse dentro del cuerpo y llegan a establecer nuevas relaciones mutuas. Arendt considera que éste es uno de los acontecimientos cruciales que hizo que los bilaterales avanzaran en el Cámbrico. Una parte del sistema de control del cuerpo se desplazó hacia la parte superior del animal, donde residía el sistema sensible a la luz. De nuevo, este sistema sensible a la luz solo guiaba cambios químicos y ciclos, no el comportamiento. Aun así, la unión de los dos sistemas nerviosos les confirió un nuevo papel.

¡Qué imagen más asombrosa!: en un largo proceso evolutivo, un cerebro que controla el movimiento se desplaza hacia la parte superior de la cabeza para encontrarse allí con algunos órganos sensibles a la luz, que se convierten en ojos.

Peter Godfrey-Smith, Otras mentes

Mi impresión es que un suceso así no ocurrió solamente dos veces, sino muchas más. Si nuestro cerebro es como una especie de caja de herramientas con múltiples y variados módulos funcionales, seguramente que muchos de ellos funcionaron con cierta independencia hasta que se encontraron con los demás y hasta que se se fueron coordinando, cada vez mejor, entre ellos mediante módulos de control superiores. El aumento de la complejidad entre la comunicación celular produciría un aumento de las formas de cooperación modulares. Pensemos que las células, sin ningún tipo de sistema nervioso, son muy capaces de comunicarse entre sí, y de trabajar en equipo, de formas bastante intrincadas. La aparición del sistemas nerviosos solo posibilitó la comunicación a larga distancia (y a una mayor velocidad). El progresivo aumento del tejido nervioso, el aumento del «cableado», tuvo que interconectar un montón de funciones, en principio, independientes.

Más adelante, en el libro de Godfrey-Smith, se nos cuenta cómo entre los tentáculos de los pulpos y su cabeza existe muy poca conexión nerviosa, de modo que durante mucho tiempo se pensó que los tentáculos, prácticamente, operaban con total independencia de cualquier «control central». Experimentos posteriores mostraron que no, que el pulpo puede coordinar perfectamente su vista con los movimientos tentaculares a la vez, no obstante, que éstos muestran cierta independencia, ciertos «automatismos» propios. Esto nos muestra el equilibrio central-local que se da en la mente de los octópodos y que, seguramente, se dio a lo largo de la evolución de todos los sistemas nerviosos hasta llegar al nuestro.

Otro tema, tal y como lo plantea Arendt, es más complicado: si ambos lados del animal tienen una mente propia en el sentido de poseer una consciencia fenoménica, aquí tendríamos un problema: ¿qué ocurre cuando dos consciencias se encuentran en un único organismo? Si el organismo sigue manteniendo dos consciencias que, aunque se relacionen (pensemos que podrían compartir ciertas sensaciones)  son diferentes, no parece existir problemas: dos individuos en un organismo. Sin embargo, si planteamos que ambas consciencias se fusionan en una, nos encontramos con una contradicción porque, precisamente, la consciencia se define por ser sentida por un único sujeto, siendo imposible el hecho de que dos consciencias se conviertan en una, puesto que una de las dos debería, necesariamente, desaparecer. De nuevo el hard problem.

El error tecnófobo

Desde cierta perspectiva ideológica se entiende el entramado tecno-científico  como un instrumento al servicio del malvado capitalismo (tecnoliberalismo he leído). Las grandes corporaciones que dominan el mundo desde la sombra, utilizan la tecnología, esencialmente, contra el ciudadano de a pie (es decir, contra el lector promedio de noticias de esa temática ¿Qué iban a tener mejor que hacer los dueños de las multinacionales?), intentando controlarle, mantenerle alienado, en un estado de esclavitud inconsciente.

Las máquinas, asociadas a la revolución industrial y, por lo tanto, a la explotación de la clase obrera, se ven como la máxima expresión de lo inhumano. Si el sistema capitalista ya es inhumano, sus frutos mecánicos no podrían ser menos: los robots son entes fríos gobernados por despiadadas almas de metal, seres amorales que, como tantas veces pronostica la literatura y el cine, terminaran por aniquilarnos. HAL 9000, Proteus, Skynet… todas las versiones cinematográficas en las que se habla de inteligencias artificiales es, siempre, para reinterpretar una y otra vez el mito de Frankenstein: humanos jugando a ser dioses («jugar a ser dioses» es un mantra repetido ad nauseam que no significa absolutamente nada) a los que su creación se les va de las manos y termina por volverse contra ellos.

Recientemente apareció en la prensa la noticia de dos programas de IA de Facebook, diseñados para establecer negociaciones, que habían creado un lenguaje propio aparentemente ininteligible. Asustados por el descontrol, aseguraban los periodistas,  los programadores desconectaron los programas (como si los programas estuviesen vivos siempre en funcionamiento y no se desconectaran cada vez que no se estuviesen ejecutando, es decir, como mínimo cuando los programadores se fueran a dormir a casa y apagaran sus ordenadores). La prensa amarilla vendió el asunto como si los programas se estuviesen escapando de las manos de sus creadores y los ingenieros de Facebook, realmente, hubiesen sentido miedo ante las posibles consecuencias de dejar funcionando algo sí. En ciertos medios (que no citaré para no darles publicidad) se dijo, alegremente, que esto demostraba que el estado de la IA actual ya había superado al hombre, y sugerían un escenario apocalíptico de lucha entre humanos y máquinas. Lamentable: la prensa, como tantas veces, desinformando.

La realidad es que, a mi pesar, la IA está a años luz de conseguir lo que sería una IAG (Inteligencia Artificial General) equiparable al ser humano, hacia la que tuviésemos que empezar a mostrar algo de preocupación. Se han dado excelentes progresos en reconocimiento visual o comprensión del lenguaje natural a través de modelos de redes neuronales artificiales, además de que con la actual capacidad de computación, podemos diseñar redes que aprenden rápido (y por sí solas) a través de ingentes cantidades de datos. Sin embargo, todavía son máquinas demasiado especializadas en una tarea concreta para poder enfrentarse a la inabarcable complejidad que parece necesitarse para operar competentemente en el mundo real. Es posible que en un futuro, más lejano que cercano, lo conseguirán, pero creo que, de momento, tenemos preocupaciones más apremiantes que las IA asesinas pretendiendo dominar la Tierra.

Y si nos vamos a las ciencias de la vida, el asunto no hace más que empeorar. Ya sabemos como en temas de nutrición, hay que comer alimentos sanos, es decir, naturales. Todo lo «químico», lo «artificial» es, casi a priori, tóxico. Los defensores de lo natural parecen desconocer que todo lo que existe (o, como mínimo, lo que comemos) está compuesto de elementos químicos presentes en la tabla periódica (todo es químico). Si contraargumentan que químico significa que ha sido sintetizado en un laboratorio, habría que preguntarles qué tiene de malo que algo se procese en un laboratorio, cuando, precisamente, los laboratorios han de pasar por una infinidad de controles para poder sacar un producto al mercado, mientras que algo que no procede de ningún laboratorio es lo que puede escapar más fácilmente al control.

Es lo que pasa con la medicina natural. Un medicamento convencional requiere una altísima inversión por parte de la empresa farmacéutica que va desde la investigación hasta que el medicamento es aprobado y sale al mercado (igualmente pasando por una gran cantidad de protocolos y controles sanitarios). Por el contrario, el medicamento natural, se ahorra absolutamente todo: ni investigación (¿para qué demostrar que el medicamento es eficaz o no, o qué efectos secundarios tiene, si mi cuñada dice que le fue genial?) ni ningún tipo de control ¡Vaya chollazo! Es curioso que los críticos con las farmacéuticas ven en ellas el feo negocio de la salud (muchas veces con razón), pero no lo vean en los suculentos beneficios de las empresas de lo natural.

Si por natural entienden lo orgánico como referencia a la química orgánica o del carbono, deberían saber que el petróleo y sus derivados plásticos son compuestos tan orgánicos (tan compuestos por carbono) como su zumo de aloe vera. Es más, su coliflor ecológica, tan sana en comparación con la peligrosísima coliflor transgénica, es fruto de milenios de selección artificial de genes, sin ningún estudio de su peligrosidad más que comerla y ver qué pasa. La coliflor, y todas las frutas, verduras, hortalizas y legumbres que cultives «naturalmente» en tu huerto ecológico, provienen de ancestros completamente diferentes (la coliflor viene de una insustancial especie de mostaza silvestre)  que fueron seleccionándose en función de las propiedades que se querían potenciar, es decir, que se escogieron genes y se desecharon otros durante miles de generaciones. Todo tu huerto está formado por especies diseñadas por el hombre: es, por entero, artificial.

Desde obras como Brave New World de Huxley, inspiradora directa de la Gattaca (1997) de Niccol, se ha criticado cualquier forma de eugenesia apelando, fundamentalmente, a que crear niños a la carta (por muy buenas virtudes que les demos y por muchas enfermedades de las que les libremos) les privaría de cierta libertad, dando lugar a un mundo demasiado ordenado y regular, demasiado perfecto. En Gattaca se ataca directamente el determinismo genético (el que, erróneamente, tanto se ha atribuido a Dawkins) afirmando, en lenguaje cinematográfico, que no todo está en los genes, sino que el hombre tiene algo valioso en su interior, una especie de esencia, que le permite vencer incluso a su propio genoma.

En la misma línea, repitiendo el jugar a ser dioses, se ha argumentado que modificar genéticamente al ser humano no puede dar lugar a otra cosa que no sean monstruos que, al final, se volverán de algún modo contra nosotros (Véase la película Splice, 2009) . Nuestra naturaleza humana es la que nos hace ser lo que somos, de modo que cambiarla nos deshumanizaría o, peor aún, inhumanizaría.  Todo esto se enmarca siempre con menciones a los programas eugenésicos de los nazis (no suele mencionarse que esos mismos programas se estaban dando, igualmente, en los países aliados, notablemente en Estados Unidos, uno de los países más racistas del mundo) o al darwinismo social (que tantas veces se confunde con el darwinismo o con la misma teoría de la evolución).

Los errores son evidentes:

1. Modificar los genes de un embrión para darle ciertas características no le resta ningún tipo de libertad que antes tuviera, ¿o es que alguien ha elegido sus genes antes de nacer? El ser humano genéticamente modificado será tan libre de elegir su futuro como cualquiera de nosotros.
2. Decir que mejorar genéticamente al ser humano va dar lugar a un mundo enrarecido demasiado perfecto, es una afirmación gratuita: ¿por qué? Con total seguridad, a pesar de dotar a los seres humanos de mejores cualidades, estaremos lejos de crear un mundo perfecto. Lamentablemente, los problemas y las injusticias seguirán existiendo. Yo solo creo que con mejores seres humanos sería más probable conseguir un mundo mejor, pero de ninguna manera perfecto.
3. Nadie defiende hoy en día el determinismo genético. Somos fruto de nuestros genes, pero también del ambiente y del azar. El niño modificado tendrá una vida entera por delante en la que sus experiencias vitales configurarán su personalidad igual que la de cualquier otro hijo de vecino. Lo que sí está claro es que no tenemos ninguna esencia interior, ninguna fuerza mágica que haga que podamos vencer a nuestra biología. Lo sentimos mucho pero el cáncer no puede curarse con meditación ni buena voluntad.
4. No existe una naturaleza humana sagrada, dada para siempre. El ser humano es una especie como cualquier otra y, en cuanto a tal, sigue evolucionando por lo que, queramos o no, se modificará ¿No será mejor que nosotros controlemos nuestra propia evolución antes de que lo haga el mero azar?
5. Que los nazis tuvieran programas eugenésicos no implica que la eugenesia sea mala. Estoy seguro de que muchos nazis eran hábiles reposteros de apfelstrudel (pastel de manzana, postre típico austriaco, muy común en Alemania), ¿por eso cocinar pastel de manzana va a ser malo?
6. Nadie defiende ningún tipo de darwinismo social. Que alguien tenga cualidades genéticas mejores que otro no quiere decir que haya que marginar o discriminar a nadie. Por esa regla de tres, si me encuentro con otra persona menos inteligente que yo, ¿ya tengo derecho a tratarla mal? Y, en el peor de los casos, la jerarquización social que podría llegar a darse no sería muy diferente a la actual. Los más inteligentes, trabajadores, atractivos, etc. tienden a copar los mejores puestos socio-económicos… ¿qué es lo que iba a cambiar?

Evidentemente, el control ético de todo avance en el que estén inmiscuidos seres humanos debe ser extremo y no debe darse ningún paso sin garantizar, al menos de un modo razonable, que nadie va a sufrir ningún tipo de daño. Nadie está hablando de hacer experimentos genéticos al estilo de La Isla del Doctor Moreau ni de nada por el estilo, se está hablando de dar mejores cualidades, lo cual, probablemente aunque no necesariamente, hará un mundo mejor, lo cual, probablemente aunque no necesariamente, evitará mucho sufrimiento futuro.

Hagamos un último experimento mental. Supongamos que en un futuro próximo el mundo se ha unificado políticamente, de modo que toda la población vota a un presidente mundial. Tenemos dos candidatos:

a) Un ciudadano cualquiera del que no sabemos nada de sus genes.

b) Un ciudadano que fue modificado genéticamente para ser muy inteligente y voluntarioso, a parte de bondadoso, generoso, idealista, honesto…

¿A cuál votaríamos? ¿Con cuál sería más probable que el mundo fuese mejor? Y podríamos añadir una tercera opción:

c) Una inteligencia artificial con capacidades cognitivas sobrehumanas programada para buscar el bien y la felicidad del ser humano, y para ser totalmente incapaz de hacer daño a nadie.

Yo, siendo políticamente incorrecto, creo que la apuesta más segura para un mundo mejor es la c.

Desgraciadamente, toda esta distorsionada y, a todas luces, equívoca forma de entender la realidad domina en gran parte de las universidades y, sobre todo, en la izquierda política. Y es una verdadera lástima porque sería necesaria una izquierda ilustrada que entendiera que una de las mejores formas de conseguir que las clases bajas mejoren su situación es a través del desarrollo científico y tecnológico. No estamos hablando de caer en un optimismo ingenuo hacia las posibilidades de la ciencia, ni en el torpe solucionismo tecnológico (creer que todo lo va a solucionar el avance tecnológico). Este artículo, publicado en el New York Times, nos dejaba claro lo lejos que aún estamos de hacer seres humanos a la carta (fijaos en el dato de que en, solamente, una cualidad como la altura intervienen unas 93.000 variaciones genéticas). Sin embargo hay que cambiar, radicalmente, esta visión-actitud hacia las nuevas tecnologías. Es, sin duda, el tema de nuestro tiempo.

Inteligencia sin mente

Todo apuntaba en la dirección de que si queríamos construir una máquina inteligente, habría que dotarla de una mente que, dada la hipótesis del sistema universal de símbolos físicos de Allen Newell, sería un programa maestro, un centro de mando que diera todas las instrucciones a las demás partes de la máquina. Lo importante era ese programa y lo periférico, básicamente motores y sensores, era lo de menos, lo fácil. Lo importante era el software, la parte «inmaterial» de la máquina. Lo demás, lo físico, era cosa de electricistas.

En los años 90, cuando un robot atravesaba una habitación esquivando obstáculos, primero observaba el entorno con su cámara y luego procesaba la información intentando reconocer los objetos. Problema: con los procesadores de esa época, la computadora tardaba una eternidad en crear ese mapa de su entorno, por lo que sus movimientos eran lentísimos. Entonces, el ingeniero en robótica australiano Rodney Brooks se puso a pensar: ¿cómo es posible que una mosca se mueva con tal velocidad esquivando todo tipo de objetos, incluso en movimiento, si apenas tiene cerebro? ¿Cómo con esa ínfima capacidad de cómputo puede hacer lo que los robots no pueden ni soñar?

Respuesta: es que gran parte del movimiento de la mosca (y de cualquier otro ser natural) no es procesado por una unidad central, sino que responde directamente ante la percepción. Fue el descubrimiento del inconsciente en IA. Tal y como Marvin Minsky nos decía en su Society of mind, la mente puede ser un inmenso conjunto de módulos funcionales, de pequeños programas, subrutinas, homúnculos, o cómo queramos llamarlos. El caso es que muchos de estos pequeños robotitos no tienen por qué procesar nada, o solo procesar muy poquita información, es decir, son simples, automáticos e independientes de la unidad de control. La idea es que del funcionamiento cooperativo de robotitos «estúpidos» pueden emerger conductas muy sofisticadas e inteligentes.

Brooks construyó así, entre otros, a Herbert (nombre en honor a Herbert Simon), un robot que recogía latas de soda y las tiraba a una papelera. Lo interesante es que todos los sencillos dispositivos de cálculo que componían la máquina estaban directamente conectados a los sensores y no se comunicaban ni entre ellos ni con ningún tipo de centro de mando. Herbert no tiene, prácticamente memoria, ni nada que se asemeje a un mapa de la habitación, ni siquiera tiene programado el objetivo que tiene que cumplir ¿Cómo funciona entonces la máquina?

Brooks sostiene que lo que solemos llamar comportamiento inteligente es solo una narración hecha a posteriori, una vez que hemos visto al robot actuar. Es una racionalización que antropomorfiza falsamente al robot (y es que hay que tener en cuenta que es muy, pero que muy distinta la descripción externa del funcionamiento interno, y muchas veces las confundimos).

Herbert funciona, sencillamente, a partir de pequeñas máquinas de estado finito que obedecen instrucciones muy sencillas y que han sido coordinadas ingeniosamente por Brooks. Por ejemplo, el módulo que dirige el movimiento del robot y el brazo mecánico no están intercomunicados, por lo que cuando el robot encuentra la lata no puede decirle a su brazo que tiene la lata delante y que la coja ¿Cómo lo hace? Sencillamente, el brazo mecánico siempre mira hacia las ruedas. Cuando las ruedas llevan un rato paradas, el brazo infiere que será porque están ya en frente de la lata y, entonces, se activa para cogerla.

Además, esta idea encaja muy bien con la evolución biológica. La selección natural opera bajo el único principio de adaptabilidad local, es decir, de, dado lo que hay, optimizo, sin mirar demasiado cuestiones de elegancia ni estética. Pensemos en las plantas. Si tú fueras un organismo que permaneces fijo en un lugar expuesto a ser devorado por múltiples herbívoros (eres el último en la cadena trófica), una buena estrategia sería tener una estructura modular repetitiva sin ningún órgano vital único, de modo que puedas perder gran parte de tu organismo sin morir (algunas plantas pueden perder más del 90% de su organismo y seguir vivas). Si las plantas tuvieran un módulo de control correrían el riesgo de que si es devorado, ya no habría salvación posible. Pero, sin ese control central, ¿cómo se las arreglan para responder al entorno? Porque funcionan igual que Herbert. Por ejemplo, la superficie de las plantas está plagada de estomas, conjuntos de dos células que abren o cierran una apertura (serían, grosso modo, como los poros de nuestra piel). Su función es la de dejar pasar moléculas de dióxido de carbono, esenciales para realizar la fotosíntesis. El problema es que cuando están abiertos, dejan escapar mucha agua por transpiración, por lo que deben mantener un delicado equilibrio entre conseguir suficiente dióxido de carbono y no perder demasiada agua ¿Cómo lo hacen? Captando muy bien la luz, su dirección y su calidad. Las plantas disponen de diferentes tipos de fotorreceptores (fitocromos, criptocromos o fitotropinas) que son capaces de absorber la longitud de onda del rojo, el rojo lejano, el azul y el ultravioleta (las plantas, en un sentido no tan lejano al nuestro, ven), de tal modo que saben con mucha precisión la cantidad de luz solar que hay en cada momento. Lo único que hacen es, en función de esa cantidad, le indican a los estomas cuánto deben de abrirse. Las plantas no tienen sistema nervioso ni ningún órgano encargado de medir a nivel global la cantidad de luz recibida por lo que va a ser cada fotorreceptor el que le indique a cada estoma concreto su abertura. Son un claro ejemplo de la idea de Brooks: percepción-acción sin procesamiento central de la información. Cada conjunto funcional fotorreceptor-estoma sería un módulo simple y automático que, en confluencia con todos los demás, haría emerger un comportamiento muy inteligente.

Dejemos los vegetales y vamos a un ejemplo ya con mamíferos: los experimentos realizados por Collet, Cartwright y Smith en 1986. Una rata tiene que encontrar comida enterrada utilizando como pistas visuales unos cilindros blancos. En uno de los experimentos, se enterraba la comida en un punto equidistante entre dos cilindros. La rata pronto aprendió la posición y acertaba rápidamente. Entonces, los científicos separaron más los cilindros situando la comida de nuevo en el punto equidistante con la esperanza de que ese cambio no despistara al roedor. Sin embargo, la rata no encontraba la comida y se limitaba a dar vueltas a los cilindros ¿Qué había pasado? Que la rata utilizaba un mecanismo mental que valía solo para algunos casos: el cálculo vectorial. Hacía un vector cuyo centro estaba en el cilindro y cuya dirección indicaba hacia el otro cilindro, pero cuya medida era una constante, por lo que si alargan la distancia entre los cilindros, la rata no entendía que la comida seguiría enterrada en el punto equidistante entre ambos. Conclusión: las ratas también utilizan pequeños robotitos estúpidos para actuar que, lamentablemente, se pierden cuando cambian las circunstancias para las que fueron diseñados. Un comportamiento que, de primeras nos parecía inteligente, se nos antoja mucho más estúpido cuando sabemos la simplicidad de las reglas de fondo.

Por eso, a pesar de que a los ingenieros de IA les hubiese encantado que los seres vivos, o la mente humana, fueran programas elegantemente diseñados, que controlaran y gobernaran todos sus sistemas, parece que no es así. No obstante, esto no quiere decir que hay que renunciar a todo software y solo centrarnos en hacer emerger comportamiento complejo de hardware simple, solo que hay que tener mucho más en cuenta el hardware de lo que se pensaba. Entonces, cobraron importancia la embodied cognition (un enfoque casi opuesto a la independencia de substrato de los defensores de la IA simbólica), la IA bioinspirada o, en términos generales, cualquier modelo computacional no basado en la arquitectura de Von Neumann.

Adjunto el famoso paper de Brooks (muy criticado en su momento):

Intelligence without reason – Rodney Brooks

El escándalo del vitalismo

Durante muchos siglos, la forma de entender la vida biológica ha ido de la mano de lo que se ha denominado vitalismo. Dibujándolo a brocha gorda, consistiría en afirmar que hay un principio, fuerza, energía, o incluso fluido, que, cuando se “insufla” en la materia inerte produce la vida. Está muy emparentado con el animismo, que diría que los seres vivos poseen anima, un principio que los anima, es decir, que los mueve. Aristóteles pensaba que los seres vivos contenían internamente su causa eficiente, a diferencia de los seres artificiales, a los que había que mover “desde fuera”, es decir, que su causa eficiente les es externa. Este principio no podría explicarse desde la materia o sus características, por lo que el vitalismo es pretendidamente antimaterialista o, en el mejor de los casos, no-materialista. Además, encajaba muy bien con la perspectiva religiosa: cuando mueres, esa anima o alma, abandona tu cuerpo material (que es lo único que muere) y se va derechita al paraíso.

Es muy curioso como el vitalismo ha continuado existiendo en la mente de muchos intelectuales a pesar que, en biología, ha sido desterrado como una teoría falsa desde hace mucho. En 1828 Friedrich Whöler obtuvo urea (un componente químico propiamente orgánico que podemos encontrar en nuestra orina) de cianato de amonio (una sustancia típicamente inorgánica). Con esto Whöler demostró que la sustancia de la que se compone los seres mismos es exactamente igual que la que componen los seres inertes. No hay ningún extraño elemento químico, ni ninguna fuerza ni energía diferente que exista dentro de los seres vivos. La física y la química son iguales para todos (no hay nada más democrático).

Y si los descubrimientos de Whöler dejaban todavía algún resquicio para la duda (el cianato de amonio se obtenía de la fermentación de plantas, por lo que todavía podría argumentarse que no era una sustancia plenamente inorgánica), unos años más tarde (1845), Hermann Kolbe, a partir de disulfuro de carbono y cloro (Dos sustancias estrictamente inorgánicas), obtuvo ácido acético (que se encuentra en el vinagre de toda la vida).Y por si quedaba alguna duda, durante la década de 1850, el francés Pierre Eugène Berthelot sintetizó docenas de compuestos como el alcohol etílico, el ácido fórmico, el metano, el acetileno o el benceno. Desde mediados del siglo XIX, no hay lugar para el vitalismo en ciencia.

De hecho, hoy en día la mal llamada química orgánica, expresión acuñada desde la perspectiva vitalista de Jöns Jacob Berzelius (maestro contra el que se rebeló Whöler) para diferenciar una química para lo vivo y otra para lo inerte, se encarga de estudiar, no solo los compuestos que forman a los seres vivos, sino otros como el petróleo y sus derivados como, por ejemplo, el polietileno del que están hechos gran parte de los envases de los productos que consumimos a diario. Sí, la química del carbono que regula el funcionamiento de nuestro organismo es la misma que rige las propiedades de las botellas de plástico.

Sin embargo, cierto sector (bastante importante) del mundo intelectual siguió trabajando, haciendo caso omiso a los descubrimientos científicos, y el vitalismo siguió campando a sus anchas. Tenemos a Schopenhauer, hablando de una voluntad de vivir propia de todos los seres vivos, recogida por su discípulo Friedrich Nietzsche en su voluntad de poder y, de nuevo, repescada por nuestro filósofo patrio por excelencia, Don José Ortega y Gasset y sus muchos discípulos. En 1927 le dieron el premio Nobel de Literatura (menos mal que no fue el de medicina) al filósofo francés Henri Bergson, quien seguía manteniendo la presencia de lo que él llamaba élan vital, una fuerza o energía creadora, motor del proceso evolutivo… ¡82 años después de Kolbe y dando premios Nobel a vitalistas!

Pero la cosa no queda aquí. Todavía es muy común leer a intelectuales influenciados por el padre del psicoanálisis, Sigmund Freud, quien, a parte de sus muchas aportaciones positivas a la psicología, defendía la presencia de una especie de energía pulsional, igualmente no encontrada por experimento alguno. Y más grave que Freud es la famosa figura de Wilhelm Reich, discípulo del vienés, nos hablaba del orgón, una energía cuya liberación más manifiesta está en el orgasmo (de ahí su nombre, mezcla de orgasmo y organismo). A pesar de que Reich murió encarcelado por la venta de equipos médicos fraudulentos, hoy en día tiene incluso una fundación: el American College of Orgonomy. Alucinante.

Lamentablemente, el filósofo esloveno Slavoj Zizek, tan de moda en la actualidad en ciertos círculos universitarios y políticos, se considera influenciado por Freud, Reich o Lacan (este tercero también tiene telita). Una pena fruto quizá de la triste separación entre ciencias y letras. Si los humanistas contemporáneos estuvieran versados en algo de biología o química, prácticamente, básicas, otros gallos cantarían.

Un escándalo, pero no me queda del todo claro: ¿acaso no existe el instinto de supervivencia o el deseo sexual como fuerzas, o energías, motivadoras de nuestra conducta? Sí que existen pero no como causas motrices. El deseo de hacer o conseguir algo en general no es más que una sensación: yo siento que deseo. Esa sensación activa (o como mínimo informa) un montón de subprocesos que se ponen en marcha para que, realmente, nuestro organismo consiga el objeto de deseo. Esa sensación activadora o informadora no es ninguna fuerza o energía, no es nada que empuje ni mueva absolutamente nada. A nivel físico no existe ninguna correlación entre el deseo y tal fuerza o energía vital, sencillamente porque no existe. El único correlato material de la sensación de deseo es actividad neuronal.

Un ejemplo: deseo beber agua. En mi mente aparece la sensación de sed, por lo que mi brazo se mueve para coger un vaso de agua ¿Qué fuerza o energía se pone aquí en juego? La única fuerza significativa será la que produzca la contracción de las fibras musculares de mi brazo, no hay otra. Ningún élan vital bergsoniano ni ningún conatus spinozista empujarán desde ningún lado. Por favor, dejemos de hablar de alquimia de una vez por todas.