Posts etiquetados ‘Martin Heidegger’

Es cierto que su “Alchemy and Artificial Intelligence” para la RAND Corporation fue demasiado agresivo. Es cierto que, a pesar de haber dicho que los programas de ajedrez jamás podrían superar el nivel amateur, perdió estrepitosamente jugando contra el programa MacHack del MIT (programado por R. Greenblatt); es cierto que muchas de las cosas que dijo que las máquinas no pueden hacer, al final, lo han hecho; y también es cierto que su enfrentamiento con los principales gurús de la IA ha parecido, a veces, obsesivo, casi como si tuviera contra ellos algo personal (Muchos dicen que utilizó un campo emergente como la IA para hacer valer su marca como filósofo). Seguramente, su mordacidad alejó a la gente a la que podía haber iluminado.

Pero también es cierto que el trato por parte de los rivales fue bastante malo. En general, excepto algunas breves reseñas y poco más, sobre todo por parte de Seymour Papert, la comunidad de IA decidió ignorarlo sin llegar a dar respuestas claras contra sus argumentos. Lo demás fueron descalificaciones que, prácticamente, solo argumentaban que Dreyfus no se enteraba de nada o que no era lo suficientemente inteligente para entender los programas que ellos diseñaban.  Allen Newell y Herbert Simon, objetivos primarios de Dreyfus, optaron por una estrategia muy cruel: pensaron que responderle era darle publicidad, por lo que lo mejor era ignorarlo. Y así lo hicieron.

El caso es que Hubert Dreyfus no era ningún charlatán, e independientemente de sus motivaciones, su forma de ser o su conducta, lo importante eran sus ideas y, a día de hoy, junto con Joseph Weizenbaum y John Searle, ha sido el más feroz crítico de la IA que ha existido y sus críticas, siendo intelectualmente honrados, deben ser respondidas adecuadamente y no pueden ser ignoradas sin más.

Vamos a hacer un somero resumen de sus planteamientos. Su crítica pueden dividirse en dos líneas: por un lado están las asunciones o presupuestos que los ingenieros de IA dan como autoevidentes y que, según Dreyfus, son solo hipótesis y, encima, muy discutibles; y por el otro están las cualidades esenciales al ser humano que la IA nunca será capaz de reproducir.

Presupuestos discutibles de la IA:

  1. Asunción biológica: la IA cree que la mente procesa la información en operaciones discretas mediante un equivalente biológico a los switches on-off  de los ordenadores, a saber, las neuronas. Según Dreyfus no hay evidencia científica de ésto y yo, honestamente, he de darle la razón hasta cierto punto. Estoy completamente convencido de que las neuronas realizan funciones mucho más amplias que el mero disparar un potencial de acción por su axón al ser excitadas según un cómputo de pesos sinápticos, siendo dichas funciones fundamentales para generar pensamiento. En general, creo que sabemos extremadamente poco del funcionamiento del sistema nervioso y que los modelos de redes neuronales artificiales son paupérrimos modelos de las auténticas, no solo por su simplicidad sino porque, incluso, creo que no replican adecuadamente su funcionamiento. Las redes neuronales artificiales, dado el estado actual del arte, darán más frutos como herramientas matemáticas para hacer un montón de cosas, que como imitadoras de la mente humana. Sin embargo, y en defensa de la IA, también hay que ser justos: es que por algo había que empezar. En un principio, nuestro modelos serán simples, pero esto no quiere decir que, mientras avance la disciplina, serán más completos y mejores. Dreyfus quizá confunde el estado del arte actual con las posibilidades futuras. Que ahora estemos lejos de conseguir algo no quiere decir que no lo consigamos en el futuro.
  2. Asunción psicológica: la IA cree que la mente es un mecanismo que opera sobre unidades discretas a través de reglas formales (en el fondo estamos hablando de la famosa hipótesis de la mente como sistema universal de símbolos propia de la IA clásica). Dreyfus reformula la famosa paradoja de la mente mecánica: si algo es mente no puede ser mecánico y si es mecánico no puede ser mente.  La mente está, según Dreyfus, muy lejos de ser igual a un ordenador.
  3. Asunción epistemológica: la IA cree que todo conocimiento puede ser formalizado, es decir, que todo lo que es comprensible puede expresarse, sin perder nada, mediante relaciones lógicas. Este es el gran problema que tuvieron los sistemas expertos: ¿cómo formalizar la conducta del experto cuando éste actúa guiado por una corazonada, por su intuición? Y, en el fondo, es un problema filosófico de amplio calado: ¿todo conocimiento es cuantificable o transformable en reglas? ¿Es posible la traducción absoluta de un lenguaje a otro? Dreyfus también recurre a la clásica distinción entre saber qué y saber cómo. El conocimiento de habilidades es, al menos en parte, un saber cómo que no puede ser transcrito a reglas ¿Podríamos aprender a montar en bicicleta, solamente, utilizando un manual de instrucciones?
  4. Asunción ontológica: la IA cree que el mundo es un conjunto de elementos discretos sin más. La IA no es sensible a la ambigüedad o a la continuidad (digamos analógica) que presenta la realidad. Todo lo que ocurre se da en un contexto dado tal que, para entender un objeto, es necesario comprender su situación. Nuestro conocimiento del mundo es, según Dreyfus, holístico.  Era cierto que las máquinas del siglo pasado tenían estos defectos, pero ya no. Por ejemplo, tenemos programas que funcionan con lógica borrosa y que, por tanto, son totalmente sensibles a cualquier tipo de ambigüedad. También, las redes neuronales actuales no tienen problema alguno al respecto e, incluso, hay proyectos de investigación muy interesantes en computación analógica.

Aspectos del ser humano que la IA no puede, ni podrá nunca, simular:

  1. El papel del cuerpo en la unificación y organización de nuestra experiencia de los objetos. Es cierto que la IA, con su tesis de la independencia de substrato, parece despreciar el cuerpo o hardware. Si, como ya decía Hobbes, el pensamiento es cálculo, y la tesis de Church-Turing es cierta (todo lo que puede ser calculable puede calcularlo una máquina de Turing), cualquier sustrato material que reúna las condiciones suficientes para construir con él una máquina universal de Turing, ya puede ser una mente. Como una máquina universal de Turing es algo relativamente sencillo, hay infinitud de sustratos que podrían ser una mente. Estamos diciendo algo tan chocante como que el pequeño procesador que controla tu lavadora, adecuadamente programado, puede hacer exactamente lo mismo que tu mente (aunque, seguramente, en mucho más tiempo). El cuerpo o sustrato en donde se da la mente, prácticamente, parece que no importa cuando, seguramente, sí que tiene mucha importancia (como no se ha cansado de repetir Searle con su chovinismo biológico). No obstante, la propia IA ya ha tenido eso en cuenta y hay muchísimos proyectos de programas que, de diferentes formas, tienen en cuenta su cuerpo. Véase la embodied cognition.
  2. El papel de la situación en la que se ubica el sujeto, a la hora de proporcionarle un horizonte de significado mediante el cual, la conducta puede ser regulada de modo flexible. A ver, para entender bien ésto hay que tener en cuenta la corriente filosófica a la que se adhiere Dreyfus: la fenomenología de Husserl y Heidegger. Para esta corriente, el hombre nace arrojado a la existencia, el individuo se encuentra en el mundo (es un dasein) y tiene que dar sentido a su vida. Esto es muy divertido: ¿cómo puedes hablarles a ingenieros de IA norteamericanos de filosofía alemana (además, de filosofía bastante compleja y oscura de entender) y decirles que sus máquinas no representan eso? Además, Dreyfus está haciendo su critica desde una perspectiva completamente opuesta a la visión materalista-naturalista-mecanicista que cualquier ingeniero que se precie, debe tener. Evidentemente si creemos que la mente no es algo material ni natural ni mecánico… pocas computadoras parecidas a humanos vamos a fabricar. De nuevo, aquí observamos el divorcio entre filosofía analítica y continental.
  3. El papel de los propósitos y las necesidades humanas para organizar la situación, de tal manera que los objetos sean reconocidos como relevantes y accesibles para el sujeto. Una máquina sigue un proceso o algoritmo programado pero, realmente, no está motivado ni desea llegar a su objetivo. En este sentido, se pregunta ¿cómo una máquina diferencia lo relevante de lo accesorio para conseguir su objetivo? Dreyfus ve que un programa solo selecciona como relevante lo que le dice su programación, pero que es incapaz de decidir si algo es relevante por sí mismo. Creo que aquí se equivoca porque hace mucho tiempo ya que tenemos programas capaces de inferir por sí mismos lo relevante para realizar una tarea dada. De nuevo Dreyfus se queda estancado en la IA de su época. No obstante, sí que acierta en subrayar el papel afectivo-consciente a la hora de tomar decisiones. Sabemos muy bien que para decidir algo, las sensaciones, sentimientos y deseos, tienen un papel esencial y, desgraciadamente, a día de hoy esta parte de la IA es la más precaria: nadie sabe cómo hacer consciencia sintética. Sin embargo, ya existen muchos planteamientos al respecto como los de Rosalind Picard o Cynthia Breazeal en lo que se llama computación afectiva, o, en el campo más difícil de intentar crear consciencia artificial tenemos, por ejemplo, a Pentti Haikonen o Igor Aleksander, entre muchísimos otros.

Dreyfus llegó a decir que la IA era un programa de investigación degenerativo y, en cierto sentido, tuvo razón: la IA ha pasado por varios inviernos, por varias épocas en las que no se avanzó prácticamente nada y en las que se perdieron millones de dólares en inversiones (véase el fracaso de la quinta generación de computadores en Japón). No obstante, parece que ahora estamos en un cierto renacimiento con el machine learning y el big data, que ya veremos hasta donde nos llevan aunque parecen bastante prometedores. Dreyfus también criticó que las promesas de la IA nunca se llegaron a cumplir (ni se cumplirán). En esto hemos de darle una buena parte de razón: las promesas de Dartmouth estuvieron lejos de cumplirse y, seguramente, las mismas promesas que hoy nos hacen los líderes del sector, tampoco se cumplirán en los plazos que ellos dan (2045 para la singularidad tecnológica… ni de coña).

Hubert Dreyfus falleció el pasado 22 de abril. Por supuesto, los medios castellanoparlantes no hicieron mención alguna. Descanse en paz.

Gran parte de los planteamientos éticos propuestos a lo largo de la historia de la filosofía han sido eudaimonísticos, es decir, proponían la obtención de la felicidad como fin último de la existencia humana. Ya sea como un estado de armonía con la naturaleza, ataraxia, nirvana o muerte del deseo, ya sea mediante un hedonista cálculo de placeres o, ya en la otra vida, mediante la contemplación de Dios, todas las éticas planteaban una búsqueda de un estado final cualitativamente diferente de los anteriores, cuya consecución era el objetivo a seguir. Todo ser humano debía seguir una serie de preceptos, habitualmente dolorosos: privaciones, mortificaciones, sacrificios… para obtener una felicidad convertida pronto en un bien elitista, sólo prometida a unos pocos, imposible de conseguir por el vulgo ignorante. La felicidad no era una cosa fácil.

Con el advenimiento de la psicología moderna, la felicidad dejó paso a la idea de salud mental (primer paso de su desmixtificación). Se la consideró como el estado habitual del individuo que no había sufrido una serie de traumas en su desarrollo (tesis fundamental del psicoanálisis) o de aquel que dispone de unos mecanismos saludables a la hora de enfrentarse e interpretar los diversos problemas de su vida cotidiana (tesis fundamental de la psicología cognitiva). Con su vocación terapeútica, la psicología democratizó la felicidad. Ya no se trataba de un teleológico fin al que aspiraba el sabio o el asceta. Ya no era la meta de un sendero o de una ascensión. El carpintero y el agricultor podían ser más felices que el filósofo y el monje. La felicidad podía ser gratuita.

Sin embargo, de modo paralelo, a partir del siglo XIX, ocurrió lo peor: la infelicidad cobró prestigio (paso atrás en su desmixtificación). Es lo que Bertrand Russell llamó la tragedia byroniana. Muchas ideas propias del romanticismo ganaron fuerza: la vida es tragedia, sinsentido, ruido y furia. El ser humano se encuentra solo, sondeando el abismo de los cuadros de Caspar Friedrich. Nada puede aplacar su sufrimiento, su siempre insatisfecha ansia de absoluto, su schopenhaueriana siempre sedienta voluntad de vivir. Los papeles se invierten: la felicidad es ahora propia de la ingenuidad e ignorancia del pueblo llano mientras que el sabio, que ha comprendido el absurdo de la condición humana, debe ser infeliz.

Los ecos de esta visión arraigaron en un siglo XX con dos guerras mundiales, Auschwitz, Hiroshima y el fracaso de la utopía marxista. Estos desastres históricos fortalecieron el pesimismo de las diversas corrientes filosóficas. Así tenemos al Sísifo de Camus en el existencialismo francés o el ser-para-la muerte de Heidegger en el existencialismo alemán.  El psicoanálisis convierte toda actividad humana en fruto de una neurosis. Si la enfermedad mental era algo anormal, únicamente estado de  individuos perturbados, ahora se universaliza: el hombre está enfermo, la patología es una de sus cualidades esenciales. Camus afirmará que la única pregunta filosófica realmente importante es si uno ha de suicidarse o no.

Afortunadamente, y ante tanta desazón, la psicología fue convirtiéndose progresivamente en una disciplina científica y no abandonó su vocación terapeútica. A los enfermos mentales hay que curarlos y la infelicidad es algo contra lo que hay que luchar. Se hacen experimentos y a finales del siglo XX comienzan a comprenderse los mecanismos de la química cerebral. En 1986 se descubre la fluoxetina, más conocida como prozac, un antidepresivo que realmente funciona. La felicidad, al fin, se convierte en un asunto científico (segundo paso hacia su desmixtificación) y se consiguen espectaculares avances. Está demostrado que los antidepresivos, junto con terapia cognitivo-conductual, tienen un notable éxito en la cura de la infelicidad. De hecho, el punto crítico en esta terapia es cuando al sujeto que ya ha mejorado se le quita la medicación pues hay riesgo de recaída. Sin más misterio, tenemos sustancias químicas que hacen mejorar tu estado de ánimo, que hacen que interpretes la realidad de un modo más optimista. No hay trampa: funcionan, no son adictivas y sus efectos secundarios se han minimizado tanto que podemos tener pacientes que las toman durante toda su vida sin que les pase absolutamente nada.

Sin embargo, todavía existen muchos prejuicios contra su uso. El más habitual consiste en pensar que la felicidad que otorgan es artificial, falsa, postiza, siendo lo recomendable obtener sus beneficios sin tener que recurrir a ellas. Lo auténtico es ser feliz por uno mismo sin recurrir a nada externo, a nada ajeno a cierta disciplina mental, hábito o descubrimiento que, teóricamente, nos llevará a ese estado prometido. Este enfoque es erróneo y vuelve a mixtificar de nuevo la idea misma de felicidad por tres razones:

1.  La distinción natural/artificial es harto dudosa y confusa. Sabemos que, por ejemplo, realizar ejercicio físico produce neuropéptidos de forma endógena que aportan felicidad. Los defensores tradicionales de la “felicidad auténtica” aceptarían los hábitos deportivos como medio legítimo para ser feliz por el mero hecho de que la alegría “sale de dentro” mientras que no aceptan la labor de los antidepresivos tachándola de artificial simplemente porque la alegría “viene de fuera”, hay que tomarla en cápsulas. Pensemos en una persona que acaba de salir del gimnasio e interpreta cualquier hecho cotidiano de su vida con sumo optimismo debido a la labor de la química cerebral que acaba de producir a base de estar subido media hora en una bicicleta estática. ¿La interpretación de ese hecho no es igual de artificial que la de aquel que la hace después de la ingesta de escitalopram? ¿Por qué una es auténtica y la otra no?

O reflexionemos sobre una persona que sufre distimia o depresión crónica desde su nacimiento. Su estado normal, natural, es el de no poder levantarse de la cama viviendo un infierno diario. Según los defensores de la “felicidad auténtica” darle antidepresivos sería engañarle, hacerle sentir una felicidad artificial. En consecuencia, el paciente debería estar de acuerdo en seguir en su lamentable estado ya que es lo auténtico en él.

2. Se obvian por completo las bases biológicas de nuestra conducta. Se piensa, ingenuamente, que somos exclusivamente fruto de nuestro entorno cultural. En términos de Steven Pinker, se piensa que somos una tabula rasa cuyos sentimientos son únicamente fruto de nuestros pensamientos y hábitos aprendidos. Se ignora que cuando pensamos o actuamos, siempre lo hacemos desde un determinado estado de ánimo y ese estado esta determinado por nuestra química neuronal.

3. Esta forma de entender la felicidad no favorece los programas de investigación científica en esta línea. Ya no sólo hablo de farmacología, sino, por ejemplo, de los avances de la ingeniería genética. Supongamos que descubrimos qué genes intervienen directamente en que una persona sea feliz. Podríamos modificarlos de tal manera que extirpáramos para siempre la depresión o la ansiedad del género humano. ¿No sería este descubrimiento algo fantástico, la auténtica gran revolución en la consecución de la felicidad para todo el mundo? No, dirían muchos, eso sería cambiar peligrosamente la naturaleza humana, crear “monstruos inhumanos”, jugar a ser dioses haciendo nuevos frankensteins. Pero es que este planteamiento parte de la idea de que existe una esencia humana, una forma de ser propia del hombre (y por lo tanto deseable) que no debemos tocar, cuando hoy sabemos que eso no es cierto. Una de las poderosas tesis que Darwin nos dejó es que el ser humano no es algo acabado, no existe una esencia humana dada para siempre pues el hombre, como cualquier otro ser vivo, está en continuo cambio, sigue evolucionando. ¿No sería mejor que nosotros controláramos la evolución en vez de dejar nuestro destino en sus caprichosas leyes? A mí me gustaría ver humanos pacíficos, comprensivos y generosos en vez de agresivos, intolerantes y egoístas sólo por la razón de que desde los últimos 30.000 años la genética del homo sapiens sapiens lo ha dictado así. Y aún menos me gustaría ver que nuestra especie evoluciona hacia formas más beligerantes e infelices sólo porque nos parece conveniente dejar que la naturaleza siga su curso por miedo a tocar nada, agarrándonos al mito esencialista de que existe una naturaleza humana dada para siempre.