Es cierto que su “Alchemy and Artificial Intelligence” para la RAND Corporation fue demasiado agresivo. Es cierto que, a pesar de haber dicho que los programas de ajedrez jamás podrían superar el nivel amateur, perdió estrepitosamente jugando contra el programa MacHack del MIT (programado por R. Greenblatt); es cierto que muchas de las cosas que dijo que las máquinas no pueden hacer, al final, lo han hecho; y también es cierto que su enfrentamiento con los principales gurús de la IA ha parecido, a veces, obsesivo, casi como si tuviera contra ellos algo personal (Muchos dicen que utilizó un campo emergente como la IA para hacer valer su marca como filósofo). Seguramente, su mordacidad alejó a la gente a la que podía haber iluminado.

Pero también es cierto que el trato por parte de los rivales fue bastante malo. En general, excepto algunas breves reseñas y poco más, sobre todo por parte de Seymour Papert, la comunidad de IA decidió ignorarlo sin llegar a dar respuestas claras contra sus argumentos. Lo demás fueron descalificaciones que, prácticamente, solo argumentaban que Dreyfus no se enteraba de nada o que no era lo suficientemente inteligente para entender los programas que ellos diseñaban.  Allen Newell y Herbert Simon, objetivos primarios de Dreyfus, optaron por una estrategia muy cruel: pensaron que responderle era darle publicidad, por lo que lo mejor era ignorarlo. Y así lo hicieron.

El caso es que Hubert Dreyfus no era ningún charlatán, e independientemente de sus motivaciones, su forma de ser o su conducta, lo importante eran sus ideas y, a día de hoy, junto con Joseph Weizenbaum y John Searle, ha sido el más feroz crítico de la IA que ha existido y sus críticas, siendo intelectualmente honrados, deben ser respondidas adecuadamente y no pueden ser ignoradas sin más.

Vamos a hacer un somero resumen de sus planteamientos. Su crítica pueden dividirse en dos líneas: por un lado están las asunciones o presupuestos que los ingenieros de IA dan como autoevidentes y que, según Dreyfus, son solo hipótesis y, encima, muy discutibles; y por el otro están las cualidades esenciales al ser humano que la IA nunca será capaz de reproducir.

Presupuestos discutibles de la IA:

  1. Asunción biológica: la IA cree que la mente procesa la información en operaciones discretas mediante un equivalente biológico a los switches on-off  de los ordenadores, a saber, las neuronas. Según Dreyfus no hay evidencia científica de ésto y yo, honestamente, he de darle la razón hasta cierto punto. Estoy completamente convencido de que las neuronas realizan funciones mucho más amplias que el mero disparar un potencial de acción por su axón al ser excitadas según un cómputo de pesos sinápticos, siendo dichas funciones fundamentales para generar pensamiento. En general, creo que sabemos extremadamente poco del funcionamiento del sistema nervioso y que los modelos de redes neuronales artificiales son paupérrimos modelos de las auténticas, no solo por su simplicidad sino porque, incluso, creo que no replican adecuadamente su funcionamiento. Las redes neuronales artificiales, dado el estado actual del arte, darán más frutos como herramientas matemáticas para hacer un montón de cosas, que como imitadoras de la mente humana. Sin embargo, y en defensa de la IA, también hay que ser justos: es que por algo había que empezar. En un principio, nuestro modelos serán simples, pero esto no quiere decir que, mientras avance la disciplina, serán más completos y mejores. Dreyfus quizá confunde el estado del arte actual con las posibilidades futuras. Que ahora estemos lejos de conseguir algo no quiere decir que no lo consigamos en el futuro.
  2. Asunción psicológica: la IA cree que la mente es un mecanismo que opera sobre unidades discretas a través de reglas formales (en el fondo estamos hablando de la famosa hipótesis de la mente como sistema universal de símbolos propia de la IA clásica). Dreyfus reformula la famosa paradoja de la mente mecánica: si algo es mente no puede ser mecánico y si es mecánico no puede ser mente.  La mente está, según Dreyfus, muy lejos de ser igual a un ordenador.
  3. Asunción epistemológica: la IA cree que todo conocimiento puede ser formalizado, es decir, que todo lo que es comprensible puede expresarse, sin perder nada, mediante relaciones lógicas. Este es el gran problema que tuvieron los sistemas expertos: ¿cómo formalizar la conducta del experto cuando éste actúa guiado por una corazonada, por su intuición? Y, en el fondo, es un problema filosófico de amplio calado: ¿todo conocimiento es cuantificable o transformable en reglas? ¿Es posible la traducción absoluta de un lenguaje a otro? Dreyfus también recurre a la clásica distinción entre saber qué y saber cómo. El conocimiento de habilidades es, al menos en parte, un saber cómo que no puede ser transcrito a reglas ¿Podríamos aprender a montar en bicicleta, solamente, utilizando un manual de instrucciones?
  4. Asunción ontológica: la IA cree que el mundo es un conjunto de elementos discretos sin más. La IA no es sensible a la ambigüedad o a la continuidad (digamos analógica) que presenta la realidad. Todo lo que ocurre se da en un contexto dado tal que, para entender un objeto, es necesario comprender su situación. Nuestro conocimiento del mundo es, según Dreyfus, holístico.  Era cierto que las máquinas del siglo pasado tenían estos defectos, pero ya no. Por ejemplo, tenemos programas que funcionan con lógica borrosa y que, por tanto, son totalmente sensibles a cualquier tipo de ambigüedad. También, las redes neuronales actuales no tienen problema alguno al respecto e, incluso, hay proyectos de investigación muy interesantes en computación analógica.

Aspectos del ser humano que la IA no puede, ni podrá nunca, simular:

  1. El papel del cuerpo en la unificación y organización de nuestra experiencia de los objetos. Es cierto que la IA, con su tesis de la independencia de substrato, parece despreciar el cuerpo o hardware. Si, como ya decía Hobbes, el pensamiento es cálculo, y la tesis de Church-Turing es cierta (todo lo que puede ser calculable puede calcularlo una máquina de Turing), cualquier sustrato material que reúna las condiciones suficientes para construir con él una máquina universal de Turing, ya puede ser una mente. Como una máquina universal de Turing es algo relativamente sencillo, hay infinitud de sustratos que podrían ser una mente. Estamos diciendo algo tan chocante como que el pequeño procesador que controla tu lavadora, adecuadamente programado, puede hacer exactamente lo mismo que tu mente (aunque, seguramente, en mucho más tiempo). El cuerpo o sustrato en donde se da la mente, prácticamente, parece que no importa cuando, seguramente, sí que tiene mucha importancia (como no se ha cansado de repetir Searle con su chovinismo biológico). No obstante, la propia IA ya ha tenido eso en cuenta y hay muchísimos proyectos de programas que, de diferentes formas, tienen en cuenta su cuerpo. Véase la embodied cognition.
  2. El papel de la situación en la que se ubica el sujeto, a la hora de proporcionarle un horizonte de significado mediante el cual, la conducta puede ser regulada de modo flexible. A ver, para entender bien ésto hay que tener en cuenta la corriente filosófica a la que se adhiere Dreyfus: la fenomenología de Husserl y Heidegger. Para esta corriente, el hombre nace arrojado a la existencia, el individuo se encuentra en el mundo (es un dasein) y tiene que dar sentido a su vida. Esto es muy divertido: ¿cómo puedes hablarles a ingenieros de IA norteamericanos de filosofía alemana (además, de filosofía bastante compleja y oscura de entender) y decirles que sus máquinas no representan eso? Además, Dreyfus está haciendo su critica desde una perspectiva completamente opuesta a la visión materalista-naturalista-mecanicista que cualquier ingeniero que se precie, debe tener. Evidentemente si creemos que la mente no es algo material ni natural ni mecánico… pocas computadoras parecidas a humanos vamos a fabricar. De nuevo, aquí observamos el divorcio entre filosofía analítica y continental.
  3. El papel de los propósitos y las necesidades humanas para organizar la situación, de tal manera que los objetos sean reconocidos como relevantes y accesibles para el sujeto. Una máquina sigue un proceso o algoritmo programado pero, realmente, no está motivado ni desea llegar a su objetivo. En este sentido, se pregunta ¿cómo una máquina diferencia lo relevante de lo accesorio para conseguir su objetivo? Dreyfus ve que un programa solo selecciona como relevante lo que le dice su programación, pero que es incapaz de decidir si algo es relevante por sí mismo. Creo que aquí se equivoca porque hace mucho tiempo ya que tenemos programas capaces de inferir por sí mismos lo relevante para realizar una tarea dada. De nuevo Dreyfus se queda estancado en la IA de su época. No obstante, sí que acierta en subrayar el papel afectivo-consciente a la hora de tomar decisiones. Sabemos muy bien que para decidir algo, las sensaciones, sentimientos y deseos, tienen un papel esencial y, desgraciadamente, a día de hoy esta parte de la IA es la más precaria: nadie sabe cómo hacer consciencia sintética. Sin embargo, ya existen muchos planteamientos al respecto como los de Rosalind Picard o Cynthia Breazeal en lo que se llama computación afectiva, o, en el campo más difícil de intentar crear consciencia artificial tenemos, por ejemplo, a Pentti Haikonen o Igor Aleksander, entre muchísimos otros.

Dreyfus llegó a decir que la IA era un programa de investigación degenerativo y, en cierto sentido, tuvo razón: la IA ha pasado por varios inviernos, por varias épocas en las que no se avanzó prácticamente nada y en las que se perdieron millones de dólares en inversiones (véase el fracaso de la quinta generación de computadores en Japón). No obstante, parece que ahora estamos en un cierto renacimiento con el machine learning y el big data, que ya veremos hasta donde nos llevan aunque parecen bastante prometedores. Dreyfus también criticó que las promesas de la IA nunca se llegaron a cumplir (ni se cumplirán). En esto hemos de darle una buena parte de razón: las promesas de Dartmouth estuvieron lejos de cumplirse y, seguramente, las mismas promesas que hoy nos hacen los líderes del sector, tampoco se cumplirán en los plazos que ellos dan (2045 para la singularidad tecnológica… ni de coña).

Hubert Dreyfus falleció el pasado 22 de abril. Por supuesto, los medios castellanoparlantes no hicieron mención alguna. Descanse en paz.

Anuncios
comentarios
  1. Reynaldo dice:

    Siempre ha sido un placer leerte Santiago. Gracias de nuevo.

  2. Chino dice:

    Hola, me presento, soy chino.
    El típico colega que todos tenéis o habéis tenido. No parezco chino, ni soy de China. Hasta aquí lo más interesante sobre mi…

    Vamos al meollo, te leo desde hace unos cuantos meses, me encantan los temas que eliges y tu manera de abordarlos, cada uno de tus artículos y cada una de tus reflexiones me generan una curiosidad científica y filosófica que solo la ciencia ficción consigue despertarme. Tras rumiar tus artículos, en mi ignorancia, creo comprender lo que expresas y poco veces estoy en desacuerdo.
    Esta es una de esas veces, en este artículo has volcado toda la ilusión y esperanza que tenía en el futuro que espero vivir a la basura, sin acritud alguna, pero lo has hecho.
    Así que, espero y deseo que cuando afirmas que no alcanzaremos la singularidad antes del 2045, hayas pensado en lo necesario para que si lo consigamos.
    Me ofrezco como hombre sin un objetivo o sentido en su vida, al que pido que encomiendes la tarea de alcanzar la singularidad antes del 2045, dime qué debo aprender, que debo investigar, que crees que necesitamos hacer y cumplir para conseguirlo.

    Ríete, por que antes de enviar el comentario lo he leído y parezco un hikikomori, pero contéstame por favor. Te diré lo que necesites saber para que sea más fácil mandarme tareas.

    Un saludo. Absolutamente en serio, Chino.

  3. Chino:

    ¿Por qué es tan importante para ti que se dé la singularidad tecnológica?

  4. Chino dice:

    Hola Santiago, tampoco es que sea o me considere adulto o mayor, pero en mi vida, la singularidad, siempre ha significado futuro. Deseo una verdadera exploración espacial, una verdadera IA y sobretodo deseo que se pierda el miedo a la muerte, creo firmemente que la singularidad nos traerá todo esto. Estaba seguro de que mi generación lo viviría todo, que podríamos tomar las primeras decisiones realmente trascendentales para el devenir de una civilización y su futuro. Quiero seguir teniendo esa esperanza, deseo vivir un futuro en el que todos tengamos verdaderas opciones y no solo unos pocos.

    Un saludo

  5. Chino:

    Siento decirte que creo que no vivirás para ver la singularidad, aunque eso no quiere decir que no vivas avances tecnológicos y cambios sociales alucinantes. Piensa que ya eres un privilegiado al estar viviendo la época de Internet, por ejemplo. No creo que sea lo más saludable vivir esperando un futuro hipotético ¡Vive tu presente! ¡Mira a tu alrededor! ¡Todo ya es increíble!

  6. alejandrovu dice:

    Santiago:

    A propósito de Hubert L Dreyfus:

    “Why Heideggerian AI Failed and how Fixing it would Require making it more Heideggerian”

    http://cid.nada.kth.se/en/HeideggerianAI.pdf

    Me pareció interesante, aunque no soy un gran fan de Heidegger.

    Saludos.

  7. Chino dice:

    Santiago, macho, no te quites culpa, tus artículos son geniales, pero en este me has jodido, solo bromeo…

    A ver, es fácil entrever que eres optimista, al menos más que yo; el mundo me parece increíble, gracias a sus avances y a la historia que me permite reconocerlos como tal, pero también me parece horrible, cuestión de perspectiva. Siempre he valorado el optimismo de la ciencia, y para mi el culmen sería la singularidad.

    ¿No sientes​ que cada paso, avance y progreso es casi obvio? Parece que podamos predecir los siguientes avances con facilidad, y aquí llegas tú con tu dulce impertinencia a quitarme una venda de los ojos que, quiero creer, necesitaba para mantenerme a salvo.

    Hazme tu herramienta y di, que falta, que propones hacer o cambiar para llegar donde deseo.
    La alternativa no es una pastilla de otro color, es la rutina

    Por cierto, gracias por tus respuestas, mola que te impliques. Mi puerta está abierta.

  8. Yack dice:

    Desde que los seres humanos supieron que acabarían siendo necesariamente comida para pequeñas criaturas repugnantes, se inventaron el sueño de la vida eterna en un paraíso terrenal dónde serían muy felices, a salvo de cualquier peligro.

    La mayoría de los humanos siguen creyendo en esa fantasía para aliviar su miedo a la muerte y a la vejez, pero ahora, por primera vez, tenemos un paraíso real a la vista que, a diferencia del que patrocina la religión, construido con un 100% de fe irracional, se basa en posibilidades reales y, además, depende de nosotros, de nuestro esfuerzo, que se haga realidad mientras sigamos vivos.

    Creo que la singularidad es algo inevitable porque todo apunta en esa dirección. Las únicas dos preguntas que cabe hacerse son, cuándo ocurrirá y si podremos disfrutarla.

    En cuanto a la primera, es muy probable que ocurra, en un periodo comprendido entre 20 y 150 años y en cuanto a la segunda, todo depende de la suerte, es decir, de que no cometamos ningún error estúpido y, sobre todo, de que les caigamos simpáticos a la IA que desarrollemos.

    Saludos.

Responder

Introduce tus datos o haz clic en un icono para iniciar sesión:

Logo de WordPress.com

Estás comentando usando tu cuenta de WordPress.com. Cerrar sesión / Cambiar )

Imagen de Twitter

Estás comentando usando tu cuenta de Twitter. Cerrar sesión / Cambiar )

Foto de Facebook

Estás comentando usando tu cuenta de Facebook. Cerrar sesión / Cambiar )

Google+ photo

Estás comentando usando tu cuenta de Google+. Cerrar sesión / Cambiar )

Conectando a %s