El 25 de Noviembre de 2006 tuvo lugar el primero de los seis enfrentamientos  entre el campeón del mundo de ajedrez, el gran maestro ruso Vladimir Kramnik y el computador de la empresa alemana Chessbase, Deep Fritz. La apuesta era la siguiente: Kramnik cobraba automáticamente por jugar medio millón de dolares y podría doblar esa cifra si ganaba en el cómputo: un millón de dólares por seguir demostrando que los seres humanos somos mejores que nuestras creaciones digitales. No era la primera vez que se encontraban. Ya en el año 2002  empataron en Bahrein. Habían pasado cuatro años y un computador mejora muy deprisa. ¿Vencería esta vez la máquina al hombre? Veamos a los dos púgiles:

Vladimir Kramnik: era el candidato idóneo para esta prueba ya que no es un jugador agresivo y temerario como pudiera ser el actual líder de la FIDE VeselinTopalov o el valiente Viswanathan Anand. Kramnik es calmado, frío, conservador. Alguien que más que a ganar juega a no perder (sobre todo si juega con negras), jugador teórico, lógico y sistemático antes que intuitivo o fogoso. Según Kasparov, representa el triunfo del pragmatismo de mercado en el ajedrez mezclado con la tenacidad de Karpov. Con estas características no había nadie mejor que él para vencer a Deep Fritz. Aquí tenéis algunas de sus mejores partidas.

Vladimir Kramnik

Deep Fritz: era capaz de procesar nueve millones de posiciones por segundo. Uno esperaría encontrarse a un mastodonte como, por ejemplo, su homólogo Deep Blue de IBM, pero en vez de eso uno ve poco más que lo que tenemos en la fotografía: no se necesita más que la potencia de  un Pentium III para tener una fuerza bruta suficiente para derrotar al campeón del mundo.  Y es que hoy en día no hace falta demasiado. A mí no deja de maravillarme como en mi Nintendo DS, el juego de ajedrez Chessmaster, que apenas ocupa 30 megas de memoria y que usa el pequeño procesador de la DS (de 32 bits y 66 Mhz), juega a un nivel Elo de 1850, es decir, mejor que cualquier persona inteligente que no esté  entrenada seria y prolongadamente en el juego. Y, por supuesto, el juego Fritz 10, que es el que tengo en mi ordenador, será invencible para mí y para el 99,9% de la población mundial, hasta el fin de nuestras vidas.

Deep Fritz

Primera partida: tablas

Segunda partida: gana Deep Fritz por error intantil de Kramnik. Aquí ocurre otra cosa interesante. Hay muchos que no se creyeron esto. ¿Cómo era posible que Kramnik, digno sucesor de Kasparov, no viera un mate en uno? Y es que las máquinas también nos superan en otra cosa: la honestidad. En esta competición había en juego intereses económicos de peso: la venta de videojuegos, la posibilidad de una lucrativa revancha… Yo no sé lo que realmente pasó, pero sí estoy seguro de que la realmente inocente en este asunto era Deep Fritz, la única que no se puede dejar llevar por las bajas pasiones humanas.

Tercera partida: tablas.

Cuarta partida: tablas.

Quinta partida: tablas.

Sexta partida: gana Deep Fritz

Aquí tenéis las seis partidas visualizadas y con sus respectivas crónicas (muy breves por cierto) por parte de EL PAÍS

Aquí podéis comprar la versión multiprocesador del programa que venció al campeón del mundo por unos 120 euros.

En la actualidad, el mejor programa informático de ajedrez se llama Rybka con un Elo ponderado en 3150 (A julio de este año, el jugador humano con mayor Elo según la clasificación de la FIDE era Topalov con 2813… ¡la máquina tiene la friolera de 337 puntos más!). Sin embargo, Rybka  perdió sorprendentemente contra el número 28 del mundo Vladim Milov. Quizá el hombre tenga aún cierta esperanza, yo creo que no, e incluso me atrevería a pronosticar que dentro de unas décadas el ajedrez habrá sido agotado por las computadoras. Lamentablemente, el número de jugadas, aunque sea astronómico, no es infinito.

Anuncios
comentarios
  1. Interesante comparativa que desconocía, y eso que soy un aficionado (malo) al deporte que menos calorías quema.

    Yo estoy convencido de que ajedrecísticamente hablando el hombre está condenado al fracaso y a la humillación frente los ordenadores, y esto es porque el ajedrez es un sistema perfectamente definido en sus reglas. En lo que a algoritmos se refiere, el hombre tiene las de perder frente a la máquina por definición. No cabe otra.

    En cambio, en la música o en la poesía no será así nunca, pues jamás habrá reglas definidas para su creación, además de que la máquina de no puede reconocer todas las fuentes potenciales de placer estético que es capaz de percibir un hombre (y el arte está hecho para el hombre). Pero tampoco la ciencia estará generada nunca por la máquina, pues hay una constante reinvención de métodos, ocurrencias y paradigmas que no se rigen algorítmicamente.

  2. Hola Perpretrador.

    Estoy básicamente de acuerdo contigo en todo menos en el “nunca” (nunca digas nunca jamás ni este cura no es mi padre). Estoy de acuerdo en que las máquinas no agotarán la poesía o la pintura, ya que, por definición, son inagotables. De modo sencillo, siempre se podrá añadir un verso más a un poema o dar una pincelada más al lienzo (son inagotables simplemente por yuxtaposición). Sin embargo, no veo por qué no será posible que una máquina pueda sentir placer estético o generar ciencia. Una cosa es que no agoten algo y otra, muy diferente, que no lo puedan generar.

  3. No creo que las máquinas puedan nunca crear nuevos modelos, aunque sí progresar en modelos programados. Opino que los cambios esenciales en ciencia o en arte se deben a intuiciones no algorítmicas y por tanto las máquinas, tal y como las concebimos hoy en día, no tendrán oportunidad de ser creativas. Si acaban adquiriendo una conciencia similar a la humana, entonces yo pasaría a considerarlas seres vivos.

  4. Ese es el gran problema de lo que es computable y lo que no. ¿Hay cosas que no son computables y que, por lo tanto, no podrán ser emuladas por modelos matemáticos? ¿La creación de esos mismos modelos no se puede computar en un modelo? ¿Que características tiene esa intuición para que no sea posible su computación?

    Es que me cuesta mucho pensar en cosas que no puedan ser computables. Me da la impresión de que cuando decimos que algo no es algorítmico lo estamos cubriendo con un “halo de magia” o lo convertimos en “metafísico”, sacándolo de la ciencia y de la razón. Y eso me huele a residuos del dualismo de toda la vida que todavía siguen vigentes en el memorandum colectivo. Por ejemplo, cuando mencionas la intuición, me parece que la postulas como algo ya “extralógico”, una especie de “habilidad mágica”.

  5. José Manuel dice:

    ¡Hola! A vueltas con la ciencia.
    Intuir -descartando divagaciones- es la velocidad punta de la inteligencia. Someter la intuición a la experimentación y reducir a reglas lo más sencillas posibles: la ciencia en estado puro. Pero ¿no es la intuición una automatización del razonamiento ya adquirido? Y si parece que es así, ¿por qué no puede ser computable? Eso de no computable me recuerda a la idea metafísca de R. Penrose de la consciencia; la cual ha sido bastante rebatida con argumentos científicos…

    Saludos

  6. irichc dice:

    Ningún asno se dejará morir de hambre por ser situado, como el de Buridán, entre dos montones de paja idénticos a la misma distancia. Si en lugar de a un asno, colocamos a un autómata en esta tesitura, cabe la posibilidad de que suspenda la elección o “se cuelgue”. Esta posibilidad no se da nunca en un organismo vivo, porque siempre opta por lo que cree mejor y siempre encuentra una razón para ello.

    Ésta es, en opinión mía, una de las diferencias más relevantes entre las máquinas artificiales y las naturales. La máquina perfeccionada podrá imitar hasta el extremo al organismo natural, pero nunca lo hará por una necesidad interna, mas en función de si las operaciones de que se trate han sido previstas antes en su programa.

  7. Irich:

    Es que una máquina que “se cuelga” ante los dos montones de paja es que no ha sido bien programada para solucionar este problema. Simplemente podríamos programarla para que en caso de que la elección sea superflua elija al azar y ya está. Creo que habitualmente se maneja la visión algorítmica y determinista de las máquinas que podrían tener Leibniz o Pascal, cuando hoy en día existen máquinas que operan siguiendo lógica multivalente o borrosa (un autómata que utiliza está lógica jamás se moriría de hambre ante los dos montones), algoritmos evolutivos o sistemas expertos. Estas formas de actuar introducen novedad, aprendizaje y formas de tomar decisiones muy parecidas a las humanas.

    Y una máquina sí puede operar por una necesidad interna si está programada para ello. ¿No podría ser el ADN el software que “programa” a los organismos vivos a actuar por necesidades interna?

  8. Iñigo dice:

    Lo de agotar el ajedrez puede darse, en el sentido en que la maquina que juege con negras pierda siempre , o se fuercen tablas siempre.

  9. irichc dice:

    “Simplemente podríamos programarla para que en caso de que la elección sea superflua elija al azar y ya está.”

    O podríamos no hacerlo. En los seres vivos, sin embargo, esa posibilidad de desprogramación no se da. Además, nunca decidimos al azar.

    “Y una máquina sí puede operar por una necesidad interna si está programada para ello. ¿No podría ser el ADN el software que “programa” a los organismos vivos a actuar por necesidades interna?”

    La analogía me parece válida sólo en parte. El ADN es un software de potencialidades infinitas hasta en el más simple de los seres vivos. En cambio, en la más sofisticada de las máquinas puede encontrarse algún residuo de imprevisión para el que no quepa dar razón de acciones determinadas.

  10. Iñigo:

    No sé cuales serían los resultados de agotar el juego. Quizá las negras perdieran siempre debido a su debilididad en la iniciativa pero también podría encontrarse una combinación que siempre las dejara en tablas. Eso sólo lo sabríamos cuando se hubieran probado todas las combinaciones.

    Irich:

    La selección natural es la que “reprograma” el ADN. Ahora, la ingeniería genética ya puede hacerlo. Con decidir al azar me refería al hacerlo del modo de tirar una moneda al aire.

    Y precisamente, el ADN no es lo mejor para luchar contra lo imprevisto. La evolución (las “reprogramaciones” de ADN) han tendido a la especialización ecológica, lo cual es lo peor contra los improvistos. Un oso polar llevará muy mal que su ecosistema pase a ser un caluroso desierto y, en ese caso, su ADN no le salvará, ya que es estático en el sentido en que necesita muchas generaciones para cambiar. El oso se extinguirá y con él su software. Es decir, el ADN no tiene una potencialidad infinita a la hora de la improvisión, sino más bien todo lo contrario. El ADN es un software tremendamente rígido.

    Pero, en este tema lo que a mí me preocupa es: ¿qué tiene el ser humano para que no pueda ser reproducido por la máquina? ¿qué tiene su forma de tomar decisiones que sea tan especial para que no pueda ser emulado por un modelo matemático? Yo es que creo que el problema se reduce a la complejidad, a algo meramente cuantitativo y no cualitativo. Todo lo demás tiende a parecerme poesía.

  11. Si, como dice Santiago, hay máquinas de “lógica borrosa” y demás, entonces debo plantearme el asunto, pero no tengo constancia de que tal cosa exista. Por otra parte hay algunos puntos:

    1) Penrose tiene toda la razón al plantear la posibilidad de la mente no algorítmica. Pensar en algo no computable es relativamente fácil: tenemos a las matemáticas, por ejemplo, en virtud del archinombrado teorema de Gödel. Y me parece evidente que la poesía tampoco es computable, porque no podemos definir sus límites. Sencillamente cada época o cada individuo la define con su acción. Podemos programar a una máquina para que haga rimas pero no para que invente el simbolismo. Para ello sería necesaria una intencionalidad marcada por multitud de influencias históricas, emocionales, etc.

    2) La intuición no es necesariamente automatización del conocimiento adquirido. Por algo se le llama a menudo irracional: puede seguir impulsos fisiológicos, y cuando se le pregunta a alguien por qué ha elegido lo que eligió, puede contestar, tras pensarlo detenidamente, “no lo sé”. Para pensar como un hombre, me temo, es necesaria la arquitectura y los materiales del cerebro humano, por no hablar del torrente de estímulos que recibimos constantemente del exterior y del propio interior.

  12. irichc dice:

    “el ADN no tiene una potencialidad infinita a la hora de la improvisión”.

    Dije potencialidad infinita, no omnipotencia, que es el sentido que le estás dando tú. Con esto quiero dar a entender que no hay situación ante la que un organismo vivo no vaya a responder con lo que considera mejor, en un universo dado de infinitas situaciones posibles.

    “¿qué tiene el ser humano para que no pueda ser reproducido por la máquina?”.

    Una infinidad de partes subordinadas a una infinidad de fines. Y el alma.

    “¿qué tiene su forma de tomar decisiones que sea tan especial para que no pueda ser emulado por un modelo matemático?”.

    Espontaneidad, simplicidad, automovimiento.

  13. Perpetrador:

    Hay múltiples artefactos que ya funcionan con lógica borrosa: cámaras digitales que regulan la entrada de luz al diafragma utilizándola, lavadoras que regulan la cantidad de agua… lo más vistoso son los sistemas de dirección:

    En el vídeo vemos que los movimientos son más gráciles y naturales que si estuviesen programados por lógica bivalente. Parece un insecto. Y lo más interesante: a veces se equivoca y no toma la ruta más corta. La incorporación del error ha sido fundamental en la historia de la Inteligencia Artificial.

    1) La verdad es que nunca he entendido con claridad la propuesta de Penrose. Me pierdo en “el indeterminismo cuántico de las aguas vicinales de las neuronas” del que habla… y no he visto a nadie en ningún foro que me explique muy bien qué es lo que realmente dice este hombre. El teorema de incompletud de Gödel habla de la incompletud de las matemáticas pero no de lo real. Yo lo que quiero saber es qué propiedades tiene que tener algo para no ser computable… ¿Qué tiene el creador de un nuevo simbolismo que no pueda tener una máquina?

    2) No veo por qué ninguno de los elementos que se citan no sean emulables en modelos matemáticos. No veo qué puede tener la arquitectura del cerebro que no pudiera ser copiada o fabricada.

  14. Irich:

    Eres aristotélico hasta las trancas, si me permites la impertinencia 😉

    Ok, no te entendí bien. Pero estamos en las mismas. Un organismo tampoco tiene un abanico indeterminado de pautas de acción. Una mosca, o vuela o se posa, no hace muchas más cosas. Una máquina puede emular perfectamente este comportamiento (y de hecho tenemos ya máquinas que son una réplica perfecta de organismos simples).

    ¿Un ser humano tiene una infinidad de partes subordinadas a una infinidad de partes? No creo que el ser humano tenga infinidad de partes… Se pondera que el hombre puede estar constituido por cien billones de células. Eso es mucho pero de ningún modo infinito. Quizá no comprendo que es lo que tú entiendes por infinito.

    Con lo de el alma, si ya me vas conociendo un poco, sabrás que no puedo aceptar la existencia de una entidad tal y como la entiende el Cristianismo. Si tú la entiendes de otro modo quizá podamos hablar, pero en general, no creo que la existencia de entidades espirituales.

    El concepto de espontaneidad tampoco lo entiendo. No sé a que se refiere. El de simplicidad tampoco lo suscribo: ¿los seres vivos son algo simple? Y el automovimiento (aristotelismo) también lo pueden tener seres no vivos. Supón que construimos un robotito que se mueve por un motor a pilas y que es capaz de enchufarse el solo a la corriente eléctrica. Este robot sería autosuficiente y se movería por sí mismo, con independencia de sus creadores.

  15. Santiago:

    La lógica borrosa de la que hablas es una lógica programada. La gracia del ser humano está en que él mismo puede crear lenguajes lógicos nuevos. Eso no lo puede hacer una lavadora (cuyo manejo de información debe estar por debajo del de los virus).

    Dices que que quieres saber qué propiedades tiene que tener algo para no ser computable. En mi modesta opinión, diría que precisamente si lo supiéramos entonces sería algo computable. Puedo definir con precisión en qué consiste el ajedrez, puedo enumerar los tipos de piezas, sus movimientos posibles y todas las posibles situaciones sobre el tablero. No puedo hacerlo, en cambio, con las matemáticas, no digamos ya con el arte. Penrose dice, a mi entender, que si las matemáticas son pensables, entonces la mente que las piensa tiene algo más que computación.

    Dices que no ves qué puede tener la arquitectura del cerebro que no pudiera ser copiada o fabricada. Nada en absoluto, en teoría: lo que quiero decir es que en el cerebro la forma va unida al fondo, con lo cual para pensar como un ser humano hay que tener un cerebro de tipo humano. Admito la posibilidad de construir un cerebro humano artificial, pero no de emular la mente con otros medios que no sean un cerebro como el humano. Lógicamente esto quedaría falsado si se creara un robot de silicio con el mismo tipo de conciencia e inteligencia que un hombre, cosa que no creo poder llegar a ver en mi vida (por desgracia).

  16. José Manuel dice:

    Elperpetrador, Santiago y demás contertulios:
    La teoría de Penrose y Hammeroff propone, básicamente, que la explicación última de la consciencia humana se da a nivel cuántico, concretamente en la superposición de las conformaciones de los componentes de los microtúbulos (las proteínas que mantienen la estructura de las neuronas). No creo que sea cierta. Creo que la explicación se encontrará en las ondas cerebrales y en el comportamiento caótico de los circuitos neuronales. O sea, podemos hablar de redes, neuronas, sinapsis, neurotrasmisores, ondas, etcétera pero no creo que haya que profundizar en las partículas más pequeñas que componen la materia orgánica e inorgánica, el nivel cuántico de la materia.

    Experimentadamente es casi imposible que efectos cuánticos jueguen un papel determinante en los procesos de la mente.

    Por el tamaño (número de partículas) y temperatura a la que se encuentra el cerebro es casi imposible que dichos efectos cuánticos se mantengan y, por lo tanto, que permitan explicar la conciencia, el libre albedrío o la razón. La conciencia se genera en las redes neuronales (en el bucle tálamo-cortical, concretamente), no en las partículas del cerebro.

    El entrelazamiento cuántico es muy sensible a cualquier interacción con el medio ambiente; por todo ello es tan difícil construir un ordenador cuántico.

    Además de las cosas que hacemos de forma inconsciente como repirar, hacer la digestión, parpadear, etcétera, nuestro cerebro automatiza los procesos que aprendemos de forma consciente (en parte, claro). Optimizar es la consigna evolutiva.

    ¿Qué es lo que no se puede computar, entonces? Que sea inmensa la computación no quiere decir que sea infinita o que el alma exista. El alma es la manera poética de referirse a la conciencia de sí mismo…

    Perdonad por el rollo.

    Saludos

  17. José Manuel:

    En lo que a mí respecta no creo en el alma como sustancia distinta de lo físico, aunque por otra parte creo que hay mucho que decir todavía sobre las ondas cerebrales y demás. Tampoco creo en el libre albedrío como comúnmente se entiende, y mantengo mis reservas sobre la “cuanticidad” de la conciencia (si bien me parece interesante que un neurólogo como Hameroff la apoye). Pero la inferencia que hace Penrose entre el teorema de Gödel y la “supracomputabilidad” de la mente me parece que no va unida necesariamente a lo otro, aunque tampoco sea un tema cerrado, desde luego.

  18. irichc dice:

    Santiago:

    “Un organismo tampoco tiene un abanico indeterminado de pautas de acción. Una mosca, o vuela o se posa, no hace muchas más cosas.”

    Esto es algo simplista, como si dijéramos que el hombre sólo puede estar vivo o muerto. La mosca es capaz de enfrentarse a infinidad de situaciones distintas, a las que dará respuestas también distintas, por más que sigan una misma pauta con ligeras variaciones. Así, si la vida de la mosca careciera de límites en el tiempo, seguiría obrando indefinidamente sin llegar jamás al extremo de no saber qué resolver.

    Hay hasta en los animales más insignificantes grados ínfimos de reflexión que, pese a no bastar para que hablemos de consciencia, son análogos a nuestros procesos cognitivos. El instinto es el modo de economizar estos contadísimos despliegues de razón que conforman los patrones decisorios de los brutos. Se basa en un número limitado de experiencias anteriores, pero su aplicación a las futuras carece de restricciones.

    “¿Un ser humano tiene una infinidad de partes subordinadas a una infinidad de [fines]?”.

    Sí, en el sentido que explicaré. Todas las partes del cuerpo del hombre -y otro tanto vale para cualquier animal- están subordinadas al fin de servir al organismo, y éste al fin supremo de la supervivencia del individuo. Por tanto, en la medida en que la naturaleza de la subordinación es distinta en cada una de ellas, el fin perseguido también lo es. Esto se predica de todas las partes de nuestro cuerpo, ya sean miembros, vísceras, células o partículas de materia, siempre que cumplan el mencionado requisito teleológico y orgánico.

    Sin embargo, aunque pueda hablarse en una máquina de infinitas partes que la constituyan potencialmente, sus fines estarán limitados al objetivo de la programación, por lo que serán necesariamente cuantificables. Una máquina artificial sólo podrá experimentar aquello para lo que está preparada, resultando ciega para lo demás. Un ser vivo, sin embargo, lo experimentará absolutamente todo, con independencia de que sólo sea consciente de una pequeña parte. Esto es gracias a que sus órganos van al infinito en sutileza.

    “El concepto de espontaneidad tampoco lo entiendo. No sé a que se refiere. El de simplicidad tampoco lo suscribo: ¿los seres vivos son algo simple?”.

    Sólo desde la presunción de un punto inextenso en el que ubiquemos al individuo podemos hablar de un cuerpo de su propiedad. Mi brazo forma parte de mi cuerpo no por estar unido a mi tronco (también mi ropa está unida a mi piel y mi anillo a mi dedo), sino porque ningún otro ser en el universo posee una percepción más clara de mi brazo ni un control más definitivo del mismo que los que yo ostento. Este “yo” no es un “yo” físico, mas un “yo” relacional desde el que se delimita lo que corresponde a mi dimensión extensa. Es espontáneo en tanto que para obrar no necesita más razones que las que se derivan de su facultad de elegir. Si algo fuera de mí me determinase a elegir, el “yo” perdería su virtualidad de constituir mi organismo en unidad y “yo” sería dicho organismo más todo aquello que lo determina desde el exterior; con lo que propiamente hablando no habría cuerpos, puesto que todo formaría parte del pseudo-organismo universal.

  19. juanjo dice:

    Interesante debate.

    En la página del prof. Ramón López de Mántaras, se puede ver, entre otras cosas, algún video del Aibo de Sony, programado para jugar al futbol ( cómo meta), pero sin especificar la programación de las acciones concretas que ha de realizar en cada caso. Aibo “inventa”, en algunos casos un pase hacia atrás que no estaba programado. Tambien podeis ver su “intérprete” de saxo; en realidad “sólo” ejecuta partituras de jazz, pero puede darles una expresividad alegre ó triste, según el caso, que NO ha sido programada previamente. La técnica usada es la de CBR, Case-Based Reasonig, razonamiento basado en casos, una de las muchas técnicas actuales que se están aplicando con éxito en dominios restringidos pero no exclusivos. Es decir, CBR es una técnica de IA que es una herramienta general, y que tiene múltiples aplicaciones. Más en:

    http://www.iiia.csic.es/~mantaras/

    Obviamente, otras técnicas generales cómo la IA evolutiva, la IA fuzzy, etc, hacen lo propio, es decir, son generales y admiten mútiples aplicaciones.

    La redes neuronales, que leí hace tiempo tu hilo sobre los límites de su computabilidad, son otro ejemplo. Pero no son necesariamente no computables. Hablo muy de memoria, pero si recuerdo que las redes de Macculloch-Pitts son equivalentes a los autómatas finitos deterministas, y por lo tanto pueden computar lo mismo que estos, pero obviamente no lo que una Máquina Turing; y creo que en otros tipos de redes había sólo alguna equivalencia parcial demostrada.

    Quizás el éxito de todas estas técnicas tenga una doble cara: en dominios concretos funcionan bien, incluso muy bien. Pero, en general ninguno de ellos conforma una verdadera teoria de la Inteligencia. ( Y mucho menos una que abarque a la IA y a la I natural).

    El ajedrez, tal vez se agote, ó puede que no. En cualquier caso, tal y como diría HAL-9000, disfruto mucho jugando con otra persona. Sequiré jugando, y si pudiera ocurrir que una máquina siempre ganase, seguiría jugando…. contra personas.

    Y, por último, Penrose. He de reconocer que tirón de ventas tiene, y que sus argumentos “parecen” incluso bonitos. Pero, ¿Realmente ha demostrado matematicamente que exista algo que la mente compute y que un ordenador no sea capaz de hacerlo?. Me gusta mucho la crítica que le hace Dennett en “La peligrosa idea de Darwin: Basicamente resume el argumento de Penrose en una falacia non-sequitur:
    “la mente puede comprender” – “No hay algoritmo para comprender(Usando el T. Gödel)”. Por lo tanto la mente no es un algoritmo. Y Nada dice de otras posibles formas de comprensión. Además, y esto es ya mi opinión, sin una teoría clara de la inteligencia, de lo que es y de lo que significa, y mucho menos de la consciencia, Penrose se mete en un auténtico jardín.

    Además, lo de los microtúbulos y la teoría de la consciencia de Penrose y hameroff, ya lo discutimos en emulenews, a raiz de un artículo que de facto debería suponer una fuerte evidencia contra los argumentos de Penrose y Hameroff; aunque los magufos de turno lo resucitarán cual patito de goma….. Y Por supuesto basar la consciencia en una “futurible” teoría de gravedad cuántica que aún nadie ha demostrado……

    Saludos ( Y perdón por el ladrillo)

  20. Peri dice:

    Hola Santiago, en primer lugar me gustaría felicitarte por este estupendo blog. Respecto a los éxitos de las computadoras en el mundo del ajedrez comentar el “destrozo” que le hizo Hydra al GM Adams. Hay un libro muy interesante sobre este tema, se titula “Metáforas de ajedrez: La mente humana y la inteligencia artificial” de Diego Rasskin Gutman.
    ¿Responde la “mente” humana a patrones puramente algorítmicos o se necesita “algo más”?, pues siendo sincero, después de leer a Penrose, Hofstadter, Maturana, Varela, Searle, Dennett, Kauffman, Edelman, Tononi y algunos otros no me atrevo a posicionarme. Lo cierto es que siempre hemos tendido a considerarnos “especiales” y tarde o temprano hemos sufrido severos correctivos (por parte de Copérnico o Darwin, por ejemplo). En abril de 1836 E. Allan Poe escribió un artículo sobre “El Turco” en él se comparaban los logros de máquina calculadora de Babbage y el célebre autómata, considera que: “no hay analogía posible entre las “operaciones” que realizan: en el problema algebraico, puesto que todo conduce a una solución, la exactitud de las operaciones permanece inalterable… pero en el desarrollo de la partida lo único cierto es la incertidumbre del siguiente movimiento” (“El rival de Prometeo, vidas de Autómatas Ilustres”).
    Respecto a la “rigidez” del ADN vs. la “flexibilidad” que aporta sistema nervioso es muy recomendable la lectura de “El cerebro en evolución” de J. Allman.
    P.D. Los relatos de Stanislaw Lem “La Erúntica” y “Golem XIV” (“Un valor imaginario”) tratan estos temas y son sumamente entretenidos.
    http://www.letrasperdidas.galeon.com/c_lem00.htm
    Un saludo.

  21. José Manuel:

    En primer lugar, un saludo, me alegra de tenerte rondando por estos lares. Yo es que a Penrose le tengo especial manía. Ese intento de explicación cuántica de la conciencia nunca me ha parecido ni mínimamente serio. Por muchas circunstancias indeterministas que se den a nivel cuántico, la conciencia no puede reducirse al funcionamiento de sus partes más ínfimas. Cuando los átomos se agrupan en moléculas y éstas en células o tejidos, ganan propiedades que no tenían por sí mismos, por lo que exclusivamente desde el mundo cuántico no podemos explicarlo todo.Es como querer explicar el funcionamiento de un automóvil sólo recurriendo a las propiedades de sus tuercas.

    Perpetrador:

    Es que no veo por qué los seres humanos no estamos programados. Creo que el ADN es, a grosso modo, nuestro software, nuestro programa. Con el ejemplo de la lógica borrosa te quería mostrar que solemos caer en el error de diferenciar a las máquinas de los seres vivos en que las primeras son muy rígidas en sus patrones de actuación. Y sí, una lavadora lo es, pero un sistema que funciona por lógica borrosa se parece mucho a un ser vivo.

    Y es que a mí me cuesta mucho pensar en esas cosas no computables. Miro a mi alrededor y no entiendo como cualquier cosa existente no pueda ser medida, clasificada y emulada en un modelo matemático. Creo que lo que nos parece no computable es porque hemos cometido errores conceptuales o lingüísticos a la hora de intentar comprenderlos.

    Con respecto al alma y al libre albedrío estamos básicamente de acuerdo.

    Irich:

    No, no es simplista. La mosca no está preparada para enfrentarse a una infinidad de situaciones distintas. La mosca sigue unos pocos principios de actuación que aplica a toda circunstancia posible. Por ejemplo:

    1. Si hueles excrementos, vuela hacia ellos, aliméntate y pon allí huevos.
    2. Si hueles a un macho, vuela hacia el y copula.
    3. Si un objeto se acerca, aléjate.
    4. Si lo que encuentras no es ni 1 ni 2 ni 3, aléjate. (Este sería el caso “no saber resolver”)

    Esto es un ejemplo simplón de cómo se puede “algoritmizar” la conducta de una mosca (y de un modo parecido, así estará en su ADN). Con un computador moderno, que puede manejar millones de estas líneas, podemos emular el comportamiento de una mosca con absoluta precisión. En un próximo post pondré vídeos de robots que copian a la perfección la conducta animal.

    Respecto a la infinitud, comparto hasta cierto punto la visión teleológica de los organismos en el sentido en el que las partes tienen funciones claras para el mantenimiento del todo. Pero esto no quiere decir que sean infinitas.

    Y yo puedo programar a una máquina en la que todas sus partes constituyentes tengan como objetivo el mantenimiento del todo. Por ejemplo, pensemos en un virus informático. Gran parte de sus elementos trabajan para su supervivencia (evadir a los antivirus y propagarse lo más posible). ¿Qué diferencia habría entre un virus informático y un virus real?

    Y los seres vivos no están preparador para experimentarlo todo. Yo, con mis ojos sólo puedo ver las cosas que aparecen en el espectro luminoso. No puedo experimentar los Rayos x o las ondas de radio. El ser vivo sólo experimenta lo que está genéticamente preparado para experimentar.

    Con respecto al “yo” no tengo una postura clara. Sin embargo, aceptando la existencia de un punto inextenso nos encontramos con el problema de la comunicación entre sustancias que tanto preocupó a Descartes.

    Juanjo:

    Gracias por el enlace. Sí, ninguno de los diferentes abordajes de la IA, aunque revolucionarias, suponen ninguna teoría general de la inteligencia y estamos todavía tremendamente lejos de ver nada parecida a una conciencia robótica. No obstante, mi postura es que no veo contradicción seria al hecho de que pueda conseguirse.

    En general, las posturas de Penrose me parecen una ida de pinza muy grande a la que creo que se le ha hecho demasiado caso. La saca alguien que no sea Premio Nobel ni Sir y pasa sin pena ni gloria.

    Peri:

    Muchas gracias por el cumplido, por las referencias bibliográficas y por el enlace. No tenía ni idea de lo de Hydra contra Adams. Vaya paliza.

    Yo es que soy muy julioverniano y tengo bastante confianza en los logros de la tecnología. Creo que Penrose acabará sonrojado cuando dentro de x años tengamos conciencias computerizadas. Muy bonita la cita de Poe.

    Un saludo.

  22. Adolfo dice:

    Hola,

    llevo unos días leyendo el blog y hoy me decido a escribir aunque no haya tenido tiempo de leer todos los comentarios de la entrada.

    Lo primero que quería decir es que las partidas de ajedrez humano/máquina no suelen tener especial interés porque, según mi pequeña experiencia, suelen ser un tongo. Los jugadores se enfrentan de forma diferente a una máquina que a un humano: cuando se juega contra una máquina lo mejor es entrar en variantes extrañas, en partidas estratégicas donde los movimientos necesiten una “intuición irracional”.

    Una vez estuve siguiendo un enfrentamiento entre Kramnik y DeepFritz y me pareció una tomadura de pelo: en la primera partida que Kramnik tuvo blancas se metió en una rara variante (creo recordar que del gambito de dama) en la que la máquina hubiera tenido que atacar con los peones de su enroque, algo extraño que un humano de gran nivel hubiera hecho, pero no una máquina. En cambio DeepFritz se dedicó a mover cuatro veces seguidas el mismo alfil y perdió la partida.
    Luego, el resto de las partidas fueron tablas menos la última, en la que Kramnik perdió por un fallo estúpido. Vergonzoso, cualquiera que entendiese un poquillo de ajedrez vería que aquello estaba amañado.
    Desde ese día no he vuelto a seguir ese tipo de partidas.

    En cuanto a cuestiones computables, la tesis de Church-Turing postula que todo número (o algoritmo, es igual) computable es Turing-computable. Así pues, según esto, todo lo que se puede computar se puede computar en una máuqina de Turing, y el propio Turing demostró que había números que su máquina no puede computar. Eso sí, él no sacó de ahí ninguna conclusión relativa a la Inteligencia Artificial, y eso que era un experto en la materia.

    Mi opinión es que el hombre es mitad robot mitad animal. En este sentido, nosotros tenemos una razón que nos permite discernir qué hacemos y por qué lo hacemos, pero por otra parte nos comportamos de maner irracional en muchísimas ocasiones de nuestra vida diaria. Si alguien me dice qué condiciones deben darse para realizar una tarea, yo podría programar un software que se comportara igual que él al hacer esa tarea. Sin embargo, realizamos muchas tareas de forma irracional, sobre las que no podemos decir por qué lo hacemos. En ese caso, no podremos programar a un software que nos imite.
    En mi opinión, hoy en día es ese comportamiento irracional el que nos distingue de los robots y, en última instancia, el que nos hace humanos. Un robot nunca podrá amar, ni tener fe, ni degustar un pastel, ni…

    salud!!

  23. Juanjo:

    Estoy seguro de que el ajedrez está “condenado” por la sencilla razón de que sus posibilidades son finitas y las reglas de los movimientos está definidas. No sé qué tipo de autómata lo colmará, pero me parece sencillo imaginar de qué modo una máquina puede hacerse el amo perfecto del juego y quedar siempre, como mucho, en tablas. Yo, por mi parte, seguiré jugando, nunca fue mi objetivo otro más que divertirme.

    Lo de Penrose, en efecto, es una conjetura. Negarlo es otra conjetura. Si queremos ser rigurosos, esperemos a ver emulada una mente humana. Aunque entonces nos toparíamos con el problema de la habitación china de Searle.

    Santiago:

    Miras a tu alrededor y no ves cosas no computables, pero eso es porque te rebajas a pensar mecánicamente por así decirlo. Hay cosas que por su propia definición no son formalizables. Esas cosas, justamente porque sus fronteras las ha creado el hombre arbitrariamente, el hombre las puede pensar. Insisto en la poesía porque me parece un buen ejemplo: sus posibilidades de ordenación y de agregación son infinitas, pero no basta con una ordenación aleatoria de las palabras. Para que sea poesía debe haber una semántica subyacente, una intencionalidad, un sutil nosequé que no es formalizable por la sencilla razón de que si diéramos con él dejaría de ser poesía. Aquí entraríamos en el debate de si el arte ha de ser consciente o inconsciente y no quiero llegar a tanto.

    Pero insisto en que no niego que se pueda crear una mente artificial. Acepto que la diferencia entre la mente humana y la de una hormiga es únicamente de grado. Ahora bien, para emular el pensar humano es necesario emular la increíble plasticidad del cerebro, y eso de momento me parece algo lejano.

    Por cierto, dejo aquí un link con citas de expertos que van más allá que yo en considerar diferencias cualitativas entre mente y máquina:

    http://hector1564.blogspot.com/2009/04/el-cerebro-y-el-ordenador.html

  24. Iñigo dice:

    Si un ordenador puede simular un entorno fisico lo suficientemente rico, puede simular el proceso evolutivo y terminar simulando organismos que parecerian (almenos) inteligentes.

  25. Trackback dice:

    Comentario…

    [..]Articulo Indexado Correctamente[..]…

  26. juanjo dice:

    elperpetrador

    Estoy de acuerdo en que tanto lo conjeturado por Penrose, cómo su negación, son a día de hoy, estrictamente hablando conjeturas abiertas. La diferencia entre ambas, yo la veo quizás a nivel de percepción del público en general.

    Los argumentos de Penrose, y antes los de Lucas y Dreyfus, ya son clásicos en la filosofía de la IA, y cómo tales han sido puestos “en cuarentena” en más de una ocasión. Incluso la revista seminal de la IA “Artificial Intelligence” dedicó un número entero a rebatir los argumentos de Penrose. Pero esto ha sido así en el ámbito académico; y ahí se quedo.

    ¿Y en la calle?. En las librerías, los libros de Penrose, de Hawking etc, venden, y mucho. (Incluso los de Hawking, aligerados de fórmulas, reconocido por él mismo en el prólogo de “Historia del tiempo”). Además en algunas librerías comparte estanterías con los de pseudociencias. Incluso están al ladito de “¿Y tú qué sabes?, en el que ¡oh sorpresa! usan palabrería llena de tecnicismos y aparece la “conciencia cuántica”…..
    En mi opinión es ahí donde Penrose le ha hecho un flaco favor a la ciencia.

    Saludos.

  27. José Manuel dice:

    Algunos parecen olvidar que nosotros somos robots biológicos con consciencia (que no es poco); de hardware de materia inorgánica. De forma laxa, diferenciar inteligencia artificial de inteligencia natural en el tiempo evolutivo no parece tener sentido.

  28. Adolfo dice:

    “Si un ordenador puede simular un entorno fisico lo suficientemente rico, puede simular el proceso evolutivo y terminar simulando organismos que parecerian (almenos) inteligentes.”

    Para ello habría que reducir la biología a la física, y ello es hoy por hoy imposible. Además, dada la naturaleza de ambas ciencias, permíteme dudar que algún día se haga.

    “Algunos parecen olvidar que nosotros somos robots biológicos con consciencia (que no es poco)”

    Yo me considero bastante más que eso. Un robot no tiene libertad, ni sentimientos, ni es capaz de hacer más allá de lo que ha sido diseñado para hacer.
    Creo, además, que hay una diferencia importante entre la inteligencia artificial y la inteligencia natural.

  29. Iñigo dice:

    Alfonso cualquier proceso biologico es un proceso fisico, con eso es suficiente.

  30. irichc dice:

    Santiago:

    “La mosca sigue unos pocos principios de actuación que aplica a toda circunstancia posible.”

    No lo he puesto en duda. Sólo he dicho que su aplicabilidad carece de límites, que no puede quedarse “colgada” y que nada la forzará a elegir aleatoriamente, ya que no puede establecerse ninguna simetría perfecta en la infinidad de sus estímulos.

    Respecto al punto 4, no es cierto que la mosca no sepa resolver cuando huye. Resuelve según la distancia del peligro, su tamaño, la velocidad de sus movimientos, etc., lo cual no deja de ser una forma de juicio, por exigua e instintiva que resulte.

    “Miro a mi alrededor y no entiendo como cualquier cosa existente no pueda ser medida, clasificada y emulada en un modelo matemático.”

    El principio de lo mejor no se sigue de ningún modelo matemático, sino de otro principio metafísico según el cual nada sucede sin razón. La razón del actuar de un ser vivo está en su percepción, mientras que las máquinas artificiales reside en su programa y el número cuantificable de casos que comprende.

    Nuestro conocimiento es limitado, no así nuestras percepciones, que van al infinito. Con “ir al infinito” me refiero a que, por más que se fragmente la realidad que es objeto de las mismas, ésta no termina en ningún punto concreto, ni por ende tampoco aquéllas, su reflejo. Insisto, pues, en que el infinito al que aludo es en acto, no en potencia, por lo que no puede alcanzarse naturalmente por agregación. Potencial es sólo nuestra capacidad de conocerlo y adentrarnos en él.

    La evolución es un ingrediente que explica la complejidad, pero en absoluto es el único. La vida en sus estadios más primarios es mucho más compleja de lo que suele creerse. Por tanto, la sutileza corporal infinita la atribuyo a todos los seres vivos en cualquier momento. Si no fuera así, habría causas sin efectos, es decir, fenómenos cuya producción no afectaría siquiera mínimamente a un subconjunto del universo.

    Como dije ya, hay un fin en cada ápice de nuestro organismo. Ahora bien, esta previsión infinita es superior a las capacidades de cualquier ser de entendimiento y voluntad finitos, no pudiendo ser tampoco debida al azar. Es por ello que la identifico con la acción de la Providencia.

  31. irichc dice:

    Santiago:

    “Y yo puedo programar a una máquina en la que todas sus partes constituyentes tengan como objetivo el mantenimiento del todo.”

    En las máquinas no hay una auténtica unidad orgánica. Si acaso una unidad orgánica fingida, sin verdaderas percepciones, en la medida en que una percepción es una acción y no una pasión. Llamo “pasiones” a aquellos estados de cosas no causados por el sujeto unitario, sino por cualquiera de sus partes físicas constituyentes o por algún elemento externo.

    El sujeto de una proposición, al que se atribuye el predicado, es el que realiza la acción descrita en ella, lo cual no admite distinción de partes en el interior del agente, que lo es “in toto”. Pero tampoco tolera que dicha acción se explique mejor desde instancias externas, lo que sucede en el supuesto de la máquina artificial, de cuyo proceder cabe dar razón más adecuadamente por el programa que la define que por sus experiencias ulteriores. No obstante, de la programación de un organismo vivo (su instinto, su facultad de evaluar circunstancias, etc.) no se deduce la infinidad de casos que es capaz de resolver. No está en nuestra mano el averiguar sus intenciones últimas, ya que la necesidad de actuar aquí no procede “more geometrico”, mas “more metaphisico”, según una pulsión intrínseca no reducible al razonamiento.

  32. Irichc:

    Creo que hablamos lenguajes bastante diferentes. Para mí lo que hay tanto en un ser vivo como en una máquina son “piezas” con una funcionalidad determinada. Las piezas de la máquina trabajan para lo que el ingeniero deseé mientras que las del ser vivo trabajan para realizar una serie de de lo que llamamos funciones vitales. Ni en el caso del ser vivo ni en la máquina existe un elemento que podamos determinar como “simple” como causa de las acciones que realizan (además no me gusta hablar de una causa única o esencial de los fenómenos), ya mucho menos definir esa causa como inextensa. Es el famoso “fantasma en la máquina” del que habla Ryle.

    De la programación de un organismo vivo sí se puede deducir la “infinidad” de casos que es capaz de resolver. Ya te lo dije, la mosca sigue una serie de pautas de acción (aunque sean muchísimas y muy complejas) que aplica a todo acontecimiento sea el que sea. Una máquina puede hacer lo mismo y no se quedará colgada de ninguna manera si la programamos para que no lo haga. Aparte que existen máquinas (muchos de los programas que ahora mismo funcionan en tu ordenador) que operan en función de su experiencia anterior y que corrigen su actuación en función de evaluación de errores pasados. Igual que afirmas que se suele tener una visión muy simple de los seres vivos, igual te digo con las máquinas. Y no creo que los seres vivos operen según una pulsión intrínseca no reductible a razonamiento. De hecho, no me parece demasiado misterioso el por qué de la actuación intencional de una mosca. Si hablamos del sentido metáfisico a nivel cósmico de la vida, sí que puede haber cierto de misterio, pero en el caso de un ser vivo particular sencillo como puede ser una bacteria o una mosca, sabemos perfectamente la intencionalidad de sus actos (si es que tiene sentido hablar de intencionalidad en estos niveles). Y no entiendo cuando dices que la razón de actuar de un ser vivo está en su percepción…

    Y tampoco estoy de acuerdo con lo de la infinidad de la percepción. Nuestra vista, por ejemplo, capta ondas electromagnéticas a partir de los conos y los bastones, fotorreceptores discretos que pasan la información al cortex visual mediante pulsos eléctricos (discretos). De este modo, la percepción visual es generable mediante agregación (y eso es lo que hacen las cámaras digitales y sus famosos píxeles). Asimismo, también creo que la vida misma es generable igualmente mediante agregación. La vida son muchas cosas (y no una y simple), propiedades emergentes que surgen de una determinada estructuración de la materia, algo que no tiene nada de incomprensible.

  33. irichc dice:

    A fin de no repetir discusiones, condensaré mi planteamiento en pocas tesis que no se han rebatido todavía y que explican mi posición suficientemente:

    1) Por compleja que sea, una máquina artificial puede carecer de respuestas y no actuar; por simple que sea, un ser vivo capaz de actuar lo hará siempre.

    2) Los organismos naturales nunca eligen al azar, ya que en ellos jamás se da la indiferencia absoluta que resultaría de juicios perfectamente simétricos ante una dicotomía.

    3) La imposibilidad de simetría en nuestros juicios proviene de la infinidad de nuestras percepciones, sean éstas claras o confusas.

    4) La infinidad de percepciones se debe a la infinita sutileza de nuestros órganos, que no pueden dejar de verse afectados por todo cuanto ocurre en el universo.

    5) Si el hombre o el animal tuvieran que decidir sólo en base a lo percibido y a la razón, no decidirían nunca, puesto que jamás terminarían de procesar todos los datos de que disponen. Por consiguiente, cuentan con un principio de espontaneidad.

  34. José Manuel dice:

    Eso de “La infinidad de percepciones se debe a la infinita sutileza de nuestros órganos”, perdona que te diga Irichc, entre otras cosas que has dicho, no tiene sentido en biología ni en ciencia. Parece retórica trasnochada. Sin acritud.

  35. irichc dice:

    Entiendo que lo parezca, por lo que procedo a explicarme más.

    Se parte de la derivación del axioma según el cual toda causa tiene un efecto. Por ende, hay infinidad de causas en el universo, las cuales, si no afectaran a nuestros órganos carecerían de efectos en ellos, rompiendo la cadena de la causalidad. Por lo que no es vano asumir que todo lo que afecta a nuestros órganos determina en mayor o menor medida nuestros juicios, cuya materia prima son las relaciones perceptivas. De una sensibilidad infinita se sigue una flexibilidad infinita.

    Un número infinito de percepciones presupone un número infinito de estímulos con el que aquéllas se relacionan. Las máquinas artificiales pueden generar una infinidad de respuestas lógicas, pero no así una infinidad de relaciones perceptivas, debiendo recurrir al azar forzosamente en cuanto éstas se agotan.

    Así, aunque el oído humano no perciba de un modo claro y distinto todas las frecuencias, no significa que no lo afecten en absoluto. Tampoco percibimos la circulación sanguínea o el crecimiento de nuestro pelo, pero pretender que nos resultan indiferentes sería absurdo.

    De modo que, ante un estímulo que no puedo percibir de forma clara, no podré reaccionar conscientemente, pero ello sí influirá en el resto de mi vida consciente y, en definitiva, tendrá consecuencias prácticas.

    La prueba de que esto no sucede en la máquina es que la infinidad de estímulos que no percibe en absoluto no afectan en nada a sus procesos decisorios, o no necesariamente (algunos en particular podrían hacerlo, como las disfunciones, o la programación misma). Hay un inquebrantable continuo físico-psíquico en la vida orgánica -un paralelismo o armonía en términos leibnizianos- que no se da en la imitación artificial de la misma.

    La materia con la que están fabricadas las máquinas artificiales también es infinitamente sutil, si bien sus relaciones perceptivas son, como se ha dicho, finitas. Esto prueba que los autómatas no experimentan verdaderas percepciones ni constituyen un auténtico organismo.

  36. José Manuel dice:

    Dices: “De una sensibilidad infinita se sigue una flexibilidad infinita”.

    No es verdad, nuestra sensibilidad no es infinita. Percibimos miles de gradientes, pero no mucho más. Ergo, la flexibilidad infinita… Con los ojos vemos, por ejemplo y valga la redundancia, sólo el espectro visible por le ojo humano.

    Dices: “Un número infinito de percepciones presupone un número infinito de estímulos con el que aquéllas se relacionan”.

    Que no, que no, que no tenemos una algoritmia infinita.

    Dices: “Así, aunque el oído humano no perciba de un modo claro y distinto todas las frecuencias, no significa que no lo afecten en absoluto. Tampoco percibimos la circulación sanguínea o el crecimiento de nuestro pelo, pero pretender que nos resultan indiferentes sería absurdo”.

    ¿Y? Puede afectar al sistema límbico y emocional; de manera que posibilita la reacción del sistema inmune.

    Dices: ” La prueba de que esto no sucede en la máquina es que la infinidad de estímulos que no percibe en absoluto no afectan en nada a sus procesos decisorios, o no necesariamente (algunos en particular podrían hacerlo, como las disfunciones, o la programación misma). Hay un inquebrantable continuo físico-psíquico en la vida orgánica -un paralelismo o armonía en términos leibnizianos- que no se da en la imitación artificial de la misma”.

    La humedad también afecta a los sistemas eléctricos de los ordenadores.

    Dices: “La materia con la que están fabricadas las máquinas artificiales también es infinitamente sutil, si bien sus relaciones perceptivas son, como se ha dicho, finitas. Esto prueba que los autómatas no experimentan verdaderas percepciones ni constituyen un auténtico organismo”.

    Y dale con el infinito; ni siquiera el Universo es infinito. Los autómatas no experimentan emociones, o simularlas, que eso son las percepciones, por ahora.

    Saludos

Responder

Introduce tus datos o haz clic en un icono para iniciar sesión:

Logo de WordPress.com

Estás comentando usando tu cuenta de WordPress.com. Cerrar sesión / Cambiar )

Imagen de Twitter

Estás comentando usando tu cuenta de Twitter. Cerrar sesión / Cambiar )

Foto de Facebook

Estás comentando usando tu cuenta de Facebook. Cerrar sesión / Cambiar )

Google+ photo

Estás comentando usando tu cuenta de Google+. Cerrar sesión / Cambiar )

Conectando a %s