La viejísima máquina de Michael Graziano

Publicado: 28 julio 2015 en Ciencias de la computación, Filosofía de la mente
Etiquetas:, ,

Leo este artículo de un tal Michael Graziano. Otra propuesta más de cómo construir una máquina consciente, deshaciendo ese gran “pseudoproblema” que es el hard problem. Nada nuevo bajo el sol y la enésima prueba de que no se comprende bien el tema.

Graziano va introduciendo los elementos que habría que implementar en una máquina para que fuera consciente. Pone el ejemplo de ser consciente de percibir una pelota de tenis. En primer lugar hay que darle a la máquina información acerca de la pelota. Graziano insiste, y ahora veremos por qué tanto, en que la información que tenemos del mundo real es tan solo un esquema, una serie de indicadores que nos sirven para reconocer el objeto pero no para tener una información real y completa de él. Percibir una pelota de tenis no es tener en la mente otra pelota de tenis similar a la percibida, es únicamente tener una serie de datos que nos permitan reconocer y utilizar la pelota. La razón es que sería un grandísimo derroche de recursos tener una copa absolutamente fidedigna del mundo en nuestra mente, cuando lo único que nosotros necesitamos es funcionar eficientemente en él, es decir, adaptarnos a él.  Hasta aquí todo correcto.

Graziano dice que si le preguntásemos a la máquina si es consciente de la pelota de tenis, ésta no sabría cómo responder ya que le falta otra parte importante de la ecuación: información sobre sí misma. Para ser consciente de algo hace falta un sujeto, alguien que sea consciente del objeto. La solución es implementar en la máquina información sobre sí misma. Podemos darle información sobre su cuerpo, la posición de sus piezas, etc. De nuevo, esta información es un nuevo esquema. Nosotros no conocemos la posición de todos y cada uno de los átomos de nuestro cuerpo, ni siquiera sabemos muy bien dónde están ciertos órganos ni mucho menos cómo funcionan. Tenemos un mapa borroso e impreciso de nuestro cuerpo. Bien, se lo implementamos.

Si, de nuevo, le preguntamos a la computadora si es consciente de la pelota, volvería a fallar. Tiene información de la pelota y de sí misma, pero no de la relación entre ambas cosas. Graziano cree que la neurociencia estándar ha descuidado por completo esta relación, y parece pensar que ha descubierto América al hacernos caer en la cuenta de su importancia. Sí, en unos veinticinco siglos de historia de filosofía de la mente, a nadie se le había ocurrido pensar en cómo el hombre se piensa a sí mismo pensando. Probablemente habrá cientos de miles de páginas sobre el tema. Pero vale, no seamos malos y perdonémosle a Graziano estos deslices. Sigamos.

Tercer paso y el más crucial: hay que implementar en la máquina esa relación entre el objeto y el sujeto ¿qué le ponemos?  Graziano piensa que, de nuevo, hay que introducirle un esquema (Además, dado que según él la neurociencia no tiene nada que decirnos, no podríamos hacer otra cosa). Habría que implementarle propiedades generales de lo que significa prestar atención a algo. Por ejemplo, podríamos hacer que definiera atención como “poseer mentalmente algo” o “tener algo en mi espacio interior”. No importa que las definiciones pudiesen ser falsas, incompletas o muy imprecisas. Lo importante es sacarlas de la psicología popular, de cómo las personas nos referimos a prestar atención.

Entonces, y aquí viene lo interesante, si nos ponemos a charlar con la máquina, ésta nos dirá que es consciente de la pelota de tenis. Ella no sabe que funciona mediante microchips de silicio, ni que únicamente procesa información pero, en función de los datos que le hemos implementado, ella diría que no es una máquina y que tiene una propiedad no física que es ser consciente de una pelota de tenis, debido a que sus modelos internos son descripciones borrosas e incompletas de la realidad física.

Y ya está, para Graziano a esto se reduce el hard problem. Tenemos una forma útil aunque, en último término falsa, de referirnos a nuestra relación de atención entre los objetos del mundo y el modelo de nosotros mismos. Y de aquí surge la idea de consciencia, una mera forma de hablar que nos resulta muy práctica pero que, realmente no representa nada real. Graziano culmina el artículo hablando de que concebir la conciencia de otro modo es hablar de cosas mágicas. De nuevo volvemos al viejo funcionalismo que niega la existencia real de los qualia. Y, de nuevo, aunque Graziano seguro que no lo sabe, está repitiendo el antiguo esquema del conductismo lógico tan bien representado por Gilbert Ryle: la mente es un mero error en el uso del lenguaje.

Objeción a lo bruto desde el estado de ánimo que me causa leer este artículo: si yo cojo la pelota de tenis y la estrello en la pantalla de la “computadora consciente” ¿a la máquina le dolerá realmente? Y si cojo de nuevo la pelota y la estrello en la cara de Graziano ¿le dolerá igual que a la máquina o de otra manera diferente?

Objeción razonada una vez que me he calmado: Estoy bastante harto de leer teorías que, de uno u otro modo, niegan la existencia de los qualia y los equiparan con conceptos obsoletos como el de “alma” o “espíritu”, sosteniendo que hablar de ellos es hacer metafísica. No, queridos neurólogos e ingenieros varios, los qualia existen con una realidad aplastante. Cuando siento que me duelen las muelas, me duelen. Otra cosa es que el dolor no represente con precisión ninguna lo que ocurre en mis muelas (mi dolor no se parece en nada a millones de bacterias infectando un diente), que solo sea una especie de símbolo convencional para alertarme de que algo malo pasa en mi boca, pero el dolor existe con total plenitud ontológica.

La máquina de Graziano diría que es consciente pero, en realidad no lo sería. No tendría ningún tipo de sensación consciente, nada de nada. Lo único que hace es deducir una serie de conclusiones a partir de unas premisas erróneas que le hemos implementado a propósito. En el fondo, lo único que hemos hecho es programar a una computadora de la siguiente forma:

Premisa 1: Tu relación con la pelota de tenis es de consciencia.

Pregunta de Grazziano: Ves una pelota ¿eres consciente de ella?

Respuesta: En virtud de la premisa 1, deduzco que sí soy consciente.

La máquina solo ha hecho una deducción lógica, un sencillo modus ponens que el ordenador desde el que escribo esto realiza millones de veces por segundo, sin ser nada consciente de que lo hace. Y es que Graziano hace un juego muy tonto. Aunque no lo diga explícitamente y parezca deducirlo del resultado del experimento mental con la máquina, él parte de la premisa de que la consciencia es una ilusión útil. Entonces crea una máquina a la que le pone por premisa creer que es consciente sin serlo. Después, parece fingir sorpresa (dice que le resulta espeluznante) ante que la máquina diga que es consciente.

Lo repetimos: señores ingenieros de IA, psicólogos congitivos, neuorocientíficos y pensadores de diversa índole, no necesitamos máquinas que finjan, simulen, digan o prometan por el niño Jesús que son conscientes. Los qualia son muy reales y tenemos que construir máquinas que realmente los tengan. Entiendo que, de momento, no tengamos ni idea de cómo hacerlo. Pues sigamos estudiando el sistema nervioso, pero no nos lancemos tan deprisa a decir majaderías.

comentarios
  1. Estimado Santiago:

    Bien, muy bien. El problema es que no basta gritar a los cuatro vientos que los “qualia” existen (el “factor sicológico”), hay que definir claramente y sin ambigüedades su valor sistémico, es decir, establecer su función. Por mi parte aseguro que los qualia SON la información con la cual el organismo crea su realidad orgánica y recrea una versión (“privada”) de la realidad exterior.

    Los qualia son nuestras archi conocidas sensaciones, así pues la información está hecha de sensaciones, ni más ni menos. Todos los objetos y situaciones perceptibles y sus respectivos recuerdos están asociados indisolublemente a reacciones y respuestas sensibles. De eso se trata todo.

    Saludos
    Sergio

  2. Sergio:

    Estoy de acuerdo, pero preciso un poco. En nuestro organismo hay muchos flujos de información diferentes. Yo entiendo información como alguna propiedad natural que se convierte en útil para un agente. Hay, por ejemplo, información genética, como también es información la que proporcionan mis anticuerpos a mis linfocitos para luchar con un determinado agente patógeno.

    Presumiblemente, los flujos electro-químicos que recorren mis neuronas son información pero, tal y como la hemos definido, esa información lo es en tanto que sea útil para un agente. Y el gran problema de la neurociencia es que no sabemos nada bien qué otros procesos físicos activa esa información (a qué agentes sirve) para que yo tenga una emoción consciente ¿Cómo producen un montón de moléculas de serotonina flotando en mis sinapsis que yo me sienta contento? Faltan muchas piezas en el puzzle.

    Podemos encontrar funciones a muchos de nuestros estados conscientes. Por ejemplo, las emociones y sensaciones, parece ser que, como bien has dicho, me informen de ciertos sucesos. El dolor de muelas me está informando de que algo va mal en mi boca. Pero, a partir de aquí dos problemas:

    1. Toda información, aparte de informar a un agente, es un fenómeno físico. Aquí, colegas como el señor Graziano parecen pensar que no y se ahorran la mayor: cómo construir artificialmente una sensación.

    2. Parece que podemos construir máquinas que hagan exactamente lo mismo que hacemos nosotros con las emociones pero sin emociones. Yo puedo hacer un sencillo programa que, en vez de sentir dolor y huir, tenga unos indicadores que le avisen cuando hay peligro y que lo hagan huir exactamente igual. Esto da la idea de cierta redundancia de la consciencia ¿Por qué la evolución la creo si parece que podría haber formas más económicas de llegar al mismo resultado?

    Saludos.

  3. Estimado Santiago:

    Muy bien, el dolor es información (al igual que todas las demás sensaciones), pero a diferencia de las instrucciones contenidas en el ADN (que no es información estricta), las sensaciones están asociadas directamente con ciertas conductas, es decir hay una relación directa entre “sentir”, o mejor aún, experimentar una sensación, con la ejecución de conductas que son inherentes a esas sensaciones.

    La sensación es la información que proveen las neuronas, sin embargo esa es la primera parte de la ecuación, la segunda son precisamente las conductas que estas activan. El par sensación-conducta es el que en definitiva provee información del exterior y por lo tanto el saber o conocimiento. El solo sentir permite recordar lo que el propio cuerpo expresa pero sin que se establezca una relación causal y necesaria con los elementos del entorno, a menos que se interactúe conductualmente con esos elementos. Por el contrario, cuando una sensación como por ejemplo el dolor de muelas, te induce mediante conductas a explorar tu cara, tu boca, etc. entonces vas adquiriendo conocimiento, por supuesto 100% empírico.

    Lo interesante de este asunto es que las conductas asociadas a todas las sensaciones se pueden reducir a expresiones de acercamientos y alejamientos.

    Lo que queremos o nos gusta, aquello que es agradable y confortable, desata conductas de acercamiento, y lo opuesto, conductas de alejamiento.
    _______________________

    Las conductas SON mecánicas, pero para verlo y entenderlo, hay que analizar la cuestión con calma y sin ansiedad, mira que el camino es largo.

    Ahora bien, si el conocimiento se produce mediante la relación sensación-conducta, y no por una programación que abarque todos los casos posibles, porque ello es sencillamente imposible, entonces la verdadera inteligencia artificial es la que le permita a una máquina aprender por sí misma, ello en base a un conjunto de instrucciones equivalente a del ADN de las neuronas que activan las sensaciones y conductas.

    Lo que debe programarse son las relaciones que generan acercamientos y alejamientos, después de todo el andar por la vida consiste en equilibrar los acercamientos y los alejamientos, como dice el dicho “a golpes se aprende”, o bien, “los errores son los que enseñan”.

    En conclusión, cualquier máquina que emule el comportamiento humano, deberá aprender de modo equivalente, memorizando lo que “le gusta” y lo que “le disgusta”. ¡Simple!

    Saludos
    Sergio

  4. Sobre este asunto, el más interesante es Dehaene

  5. miquel dice:

    Acabo de dejar una pequeña reflexión en mi blog sobre el asunto. Como es breve, os la copio aquí:
    “Intento desenredar el pelo a mi hija y se queja. Luego ella hace lo mismo con una muñeca de manera brusca y graciosa. Pero la muñeca no se queja. Aunque lo hiciera, mi reacción no sería la misma. Reflexiono sobre la diferencia. Mi hija intenta evitar el dolor con programas grabados en su biología para sobrevivir. Intenta huir de los estímulos dolorosos y acercarse a los placenteros. La muñeca no.
    A una muñeca se le puede poner un dispositivo para que hable, o que llore cuando se le tire del pelo, o que reaccione de forma muy compleja e interactiva con el entorno; de momento no provocará una preocupación parecida aunque me anuncie su dolor. Un factor importante puede ser que mi hija, a lo largo del tiempo, va provocando ternura en quienes la cuidan para que la protejan y eduquen. Mientras crece, aprende y acumula memoria teñida de emociones que favorecen su crecimiento y su identidad.
    Una dificultad que encontrarán los creadores de inteligencia artificial será construir máquinas que consigan aprender con el paso del tiempo mientras provocan emociones en sus protectores parecidas a las de la paternidad. Maquinas que piensan ya hay, desde la Siri de iPhone hasta usted mismo. Pero artefactos no biológicos que piensen y se emocionen como los humanos es otra cosa.
    Lo decisivo en el humano es construir memoria a lo largo del tiempo en forma de emoción. A partir de ahí, que se reconozca y se llene de conciencia, esa enigmática propiedad que emerge de la materia viva.”

  6. Estimado Miguel:

    Me gustaría hacer una pequeña precisión respecto de lo que afirmas: Tu hija en realidad no tiene grabado un programa, sino el lenguaje de construcción del “programa”, el mismo que irá construyendo como resultado de su aprendizaje. Aprender implica relacionar lo que es doloroso con las conductas que lo provocan. Nadie nace sabiendo qué es lo que le va a doler, ni siquiera algo tan elemental como tirarse el pelo, hasta eso hay que aprenderlo. El dolor es solo el dolor, hace falta vincularlo con alguna acción (conducta) para poder establecer una secuencia causa efecto, de lo contrario solo hay efectos, como cuando estamos enfermos y nos duele todo sin saber porque, y sin tener control sobre ello.

    Cuando enfermamos y sentimos dolor, que es difícil asociar on alguna conducta, puesto que no siempre depende de ellas (o no siempre es tan lineal y directo), quedamos en el limbo. Algunas personas intuyeron, que a pesar de todo, algunas conductas igual podrían tener efectos sobre los dolores provocados por la enfermedad, y fue así como probaron consumir diferentes cosas (obviamente a través de conductas). por su parte otros desarrollaron rituales en los que se esperaba que las conductas, por sí mismas, y a pesar de no tener un vínculo causal directo con el dolor, y ni siquiera con el cuerpo del enfermo, de alguna manera lograran disminuirlo.

    Si, por ejemplo, después de inhalar alguna sustancia, que resulta ser alucinógena, disminuía el dolor, pues allí encontraban la cura ( o al menos eso creían), eso es todo lo que hace falta para establecer alguna relación causa efecto por muy azarosa y casual que sea. El caso es que, siendo correcto o no, el conocimiento está en establecer una relación causal entre lo que sentimos (sensaciones) con alguna acción. Mientras ello no ocurra diremos que no sabemos, que no tenemos idea, que no hay conocimiento suficiente, y la gente que no sabe que hacer simplemente se muere. Así que el dolor es una “letra” en el alfabeto de construcción del conocimiento, no es, por sí mismo, una solución ni una cura.

    El dolor es una manifestación orgánica de alejamiento; cuando un bebé se golpea, se aleja de aquello que le ha provocado dolor. Cuando cualquiera de nosotros se lastima con algo, inmediatamente lo soltamos o nos alejamos, así opera esa letra del alfabeto orgánico. En el caso de tu hija, que ya conoce esta particular relación causa efecto, juega divirtiéndose con ese conocimiento (igual que hacemos nosotros en otras circunstancias). Sin embargo le faltará conocer innumerables otras situaciones que le causarán distintos tipos de dolores y que tarde o temprano también aprenderá a reconocer.

    Los viejos hemos aprendido a reconocer la mayor parte de las cosas que nos causan o nos causarán dolor.

    Saludos
    Sergio

  7. Jesús:

    Sí, Dehaene es uno de los number one. Llevo tiempo siguiéndole la pista.

  8. Sergio:

    Ya se han diseñado muchos programas de ese estilo. Es muy, muy sencillo. Supongamos que tenemos un programa que consiste en un puntito que se va moviendo por un plano. En el plano hay obstáculos con los que puede chocar y alimentos que debe recoger.

    Al principio el puntito se mueve erráticamente, de modo aleatorio hasta que o bien choca con un obstáculo o encuentra alimento. En su programa le implementamos dos contadores: uno de puntos de dolor y otro de puntos de placer. Cuando choca con un obstáculo, el contador de dolor sube mientras que si encuentra alimento el de placer sube igualmente. Así mismo le programamos un objetivo general: consigue el mayor placer posible y evita el dolor. El programa puede aprender entonces que cuando choca con un obstáculo “recibe dolor”, por lo que tiene que intentar avanzar evitando los obstáculos. Del mismo modo, al cabo de un poco de aprendizaje, se lanzaría como loco hacia los alimentos que “le dan placer”.

    El problema, como te he dicho antes, es que el programa realmente no recibe ni dolor ni placer reales ¿Por qué entonces nosotros tenemos esas sensaciones si podríamos haber sido “programados” de un modo mucho más económico?

  9. Unos cuantos comentarios sobre el tema:
    1) la única forma de enterarnos de que otros seres humanos tienen “qualia” es preguntándoles; si una máquina cuya conducta es tan compleja como la humana nos dice que tiene qualia, ¿quiénes somos nosotros para negárselo? ¿Por qué vamos a creer más al humano que a un robot del que nos hemos hecho amigos, pongamos por caso?
    2) por otro lado, parece inevitable que una máquina así podrá hacer la distinción entre cómo le PARECEN las cosas y cómo SON (p.ej., será capaz de afirmar que cuando se apagan las luces, las cosas siguen estando a su alrededor aunque no las ve, o de afirmar que sólo ve la parte de delante de los objetos que se le presentan, etc., y distinguir, por lo tanto, su PERCEPCIÓN de los objetos, por un lado, y CÓMO SON los objetos, por otro lado); también podrá considerar posibilidades imaginarias, hacer operaciones mentales con objetos que se representa, etc. Luego tendrá todas las capacidades cognitivas necesarias para responder como un humano cuando le preguntemos por sus “qualia”.
    3) Además, me parece que los qualia están muy sobrevalorados; en todo caso, el enfoque más razonable para estudiarlos es, creo, el de Dehaene: ver qué diferencias ocurren en el cerebro entre los casos en los cuales nos damos cuenta de algo, y los casos en los que no nos damos cuenta; esas diferencias tendrán alguna función biológica, y también un origen evolutivo que, en principio, podremos rastrear (¿cómo fue el primer bicho al que algo le hizo daño?, p.ej.). La idea de que algo puede tener todas esas propiedades “pero no tener qualia” (el “hard problem” de Chalmers) me parece sencillamente que presupone demasiado sobre la NATURALEZA de los qualia, que no tenemos ninguna garantía para presuponer.

  10. Santiago: en relación a tu pregunta a Sergio, la cuestión no es entre ese robotito y nosotros, sino entre una ameba (o un pino), y un ratón (o tal vez una mosca); hay seres vivos que funcionan “como si” tuvieran un medidor de “nivel de satisfacción”, pero que NO lo tienen (los seres unicelulares, las plantas, seguramente los animales más primitivos), y otros seres que no sólo funcionan como si tuvieran eso, sino que de hecho lo tienen (poseen sensaciones de placer y dolor que les permiten un rango de conductas más elaboradas que las de las amebas y los pinos). La pregunta correcta, por tanto, es ¿qué ganan los animales “superiores” teniendo un sistema nervioso que genera sensaciones de placer y dolor, cómo funcionan dichas sensaciones, etc., etc.?

  11. Estimado Santiago:

    Qué es el dolor, o bien, qué el placer: son preguntas interesantes, pero tratar de responderlas desde la perspectiva de quienes sentimos, indudablemente introduce sesgos autoreferentes que impiden la objetividad (por muy subjetiva que esta sea).

    La cuestión es, qué es lo que implica el dolor desde el punto de vista de la operatividad del sistema orgánico. Desde este punto de vista queda claro que tanto el dolor como el placer (y sus infinitas variaciones) inducen conductas. Sin conductas no somos más que bultos sin ninguna probabilidad de subsistir.

    El programa que mencionas puede ser perfectamente bien un buen comienzo para el desarrollo de un sistema que replique el del ser humano. Eso sí, la cantidad de sensaciones distintas con las que respondemos los seres humanos agrega complejidad y sutileza a las conductas resultantes.

    Debemos tener presente que no hablamos de un par de sensaciones, sino de miles, que a su vez están condicionadas por un grupo de respuestas instintivas estructuradas y complejas, es decir, si por ejemplo algo causa placer, no lo hará indefinidamente sino solo hasta que ciertos requerimientos orgánicos se satisfagan, como es el caso del sexo, del hambre, de buscar refugio, incluso del miedo, etc.

    He propuesto en mi teoría la existencia de al menos dos subsistemas con cierto grado de independencia, el primero y más básico, probablemente común a muchas especies particularmente mamiferos, es el que genera las respuestas instintivas, este permite reaccionar ante una cantidad de eventos perceptibles al margen de cualquier aprendizaje (por eso es instintiva). Estas respuestas conductuales, por “defecto” deben estar presentes en cualquier programa, pero estas conductas instintivas, básicas, serán modificadas por las respuestas de un segundo subsistema mucho más sutil (a primera vista). Veamos, el deseo sexual se dispara como parte de un requerimiento orgánico, y ante este la respuesta instintiva es buscar (la conducta) el objeto que pueda satisfacerlo, sin embargo no todo el mundo encontrará adecuado el mismo “objeto”, a cada quien le gustará algo ligeramente diferente, y esto es el resultado de la operación de este segundo sistema.

    El primer subsistema está compuesto por redes neuronales estructuradas genéticamente e inmodificables (el deseo sexual es inevitable), en cambio el segundo subsistema está integrado por neuronas que se enlazarán gradualmente formando las redes de la memoria adquirida y al mismo tiempo generando la significación que provocarán los objetos perceptibles.

    Como no puedo alargarme más resumiré diciendo que: si bien las conductas básicas ante el deseo sexual son comunes a todos los individuos, no solo de nuestra especie, la forma en que la satisfaremos SÍ es única en nuestra especie, porque nosotros elegiremos una gran cantidad de circunstancias para satisfacer ese requerimiento.

    La necesidad surge en los procesos metabólicos, el impulso inicial en las conductas instintivas, y la forma definitiva en que será resuelta en “los gustos”. El concepto de gustos constituye (de hecho) una forma de cuantificar las sensaciones en términos de agrado y desagrado, y las sensaciones mismas dependen de las respuestas de ciertas neuronas, que, estando programadas genéticamente no generan conductas inmediatas e incondicionales como las que activan las redes genéticamente estructuradas. En un caso se trata de neuronas “sueltas” y en el otro de redes genéticamente estructuradas de activación automática. Por eso los bebés ejecutan conductas al margen de cualquier conocimiento o recuerdos previos.

    Bien, la verdad es bastante complejo. Una vez más pido que le echen un vistazo al texto de mi teoría (saltándose la introducción, que puede ser latera) Teoría de la función cerebral

    Finalmente, el tema de la economia me parece absolutamente irrelevante, puesto que no hay nada más antieconómico y contrario a la entropía que la propia vida, por eso han inventado el concepto de “neguentropía”

    Saludos
    Sergio

  12. Estimados todos:

    Pongámoslo de esta manera, hay alguna razón (aparte de la información genética) para que nos guste el sabor dulce, alguien puede fundamentarlo de alguna otra manera que no sea su propio y particular gusto, pues no, no hay otra manera de explicar el porqué nos gustan determinadas cosas. Nos gustan y punto, y en base a ello actuamos, en palabras simples, el gusto es irreductible.

    Y si una máquina está programada (como si fuese su ADN) para responder conductualmente ante la atracción que le produce algún objeto perceptible: pregunto, en este nivel (muy elemental), que la diferencia de un ser vivo, en particular de un ser humano.

    Acaso sabe un bebé porque le gusta algo, puede explicarlo, no, definitivamente no.

    Muy bien, este es el comienzo de la simulación.

    Saludos
    Sergio

  13. angelnacar dice:

    Hola Santiago,
    en primer lugar decirte que sigo tu blog desde hace tiempo y me es muy gratificante su lectura. Desde muy temprana edad siempre me ha apasionado todo lo relacionado con las máquinas y la IA. Tus artículos sobre este tema son muy interesantes.

    Respecto al tema que nos concierne hoy creo que, por muy inteligentes que lleguen a ser las máquinas, podrán algún día llegar a ser conscientes de su propia existencia? Podrán llegar a amar? Podrán tener miedo a la muerte? Sentir alegría? Tristeza? Asco? Placer? Tendrán consciencia de la ironía? He leído todos los comentarios realizados aquí y se habla sobre la posibilidad de programar todos estos comportamientos en una IA, pero creéis que un simple código compilado en el microprocesador de una máquina podrá emular todos esos comportamientos como un ser humano?

    Es obvio que la tecnología avanza a pasos agigantados y cada vez lo más imposible se hace posible, pero en mi opinión, entre el ser humano (creador) y la máquina (creado) solo uno es consciente de que está creando y el otro no es consciente de que está siendo creado.

    Un saludo.

    P.D. Una película muy recomendable sobre este tema: Autómata

  14. Adri dice:

    Digo yo, que antes de plantearse si se pueden construir IA con qualias, debemos preguntarnos los humanos estamos construidos con qualias. O antes de decir que la máquina posee una falsa consciencia, debemos preguntarnos si el humano tiene consciencia. ¿Si el universo fuera absolutamente determinista cómo podrías diferenciar la consciencia de la no-consciencia?

  15. Adri:

    ¿Tú crees que no tienes consciencia?

  16. Adri dice:

    Compañero, yo he lanzado primero la pregunta. ¿Si el universo fuera absolutamente determinista cómo podrías diferenciar la consciencia de la no-consciencia?

  17. Es que yo creo que el universo es determinista y que tengo consciencia. No entiendo qué quieres decir. La consciencia y el determinismo causal son dos cosas diferentes.

  18. Adri dice:

    Ya, la pregunta no es si es posible. La pregunta es cómo diferencias a un individuo de un universo determinista en el que supuestamente hay consciencia (como defiendes tú) de un individuo de un universo determinista en el que no hubiera consciencia (como si su cerebro fuera una máquina pura y dura).

  19. Adri dice:

    Por ejemplo, lo que tú llamas consciencia podría simplemente ser los fotogramas de una película que rueda, y crea una falsa ilusión. Ya que si entiendes el determinismo fuerte, esto es lo que ocurre con nosotros, que no tenemos voluntad ni para elegir entre mover el brazo derecho o el izquierdo.

  20. Adri dice:

    Dicho de otro modo, la “consciencia” podría ser una falsa sensación del determinismo fuerte. Igual que el libre albedrío.

  21. ¡Buenas!

    Primero que nada debo reconocer que leí por encima el documento de Graziano que ligaste antes de criticarlo, pero, si lo que mencionas en tu post es correcto:

    “Aunque no lo diga explícitamente y parezca deducirlo del resultado del experimento mental con la máquina, él parte de la premisa de que la consciencia es una ilusión útil. Entonces crea una máquina a la que le pone por premisa creer que es consciente sin serlo.”

    Pues da la impresión de que el caballero neurólogo apela al solipsismo como base germinal de la conciencia, dando la impresión de que esta habita dentro de otro solipsismo. De ser así surgen preguntas tal vez ridículas y absurdas o tal vez no como por ejemplo: “¿como determina Graziano que la consciencia es una ilusión útil si la suya estaría sometida al mismo criterio?” o, “¿lo sabría la máquina?”

    Si estoy deschavetado en mi opinión, no dudes en hacérmelo saber🙂

    Saludos.

  22. Adri,

    Pues según usted se distingue de esta manera: hay un universo donde no hay “falsa sensación” , que seria un universo sin consciencia, y otro universo donde sí la hay, que seria un universo con conciencia. Como descubrir “la falsa sensación”, eso se lo dejo a usted, pues de hecho no sé que sentido darle.
    Además, a mi me parece que lo que usted trata de decir es que no hay modo CIENTÍFICO de saber si una maquina (la humana por ejemplo desde un determinismo a ultranza) tiene o no tiene conciencia. Y usted mismo parece que responde: “es un falsa sensación”. Pos sea eso, a usted le dejo que interprete lo de falsa y de sensación, pues es usted quien lo ha enunciado, y supongo que para usted sí tiene spleno sentido respecto al estado de “ser conscientes de”.

    Por otro lado, ¿Podemos saber que existe la conciencia sin los metodos objetivos y comprobables… de la ciencia?. Pues claro, es esa sensación fenomenologica que no se explica aún desde la ciencia (tal vez nunca) pero que se actualiza constantemente en nuestro estar en la realidad en nosotros. En ese actualizarse en nosotros el estar en la realidad, consiste en parte también, la presencia en ese estar del “ser conscientes de” .

    un saludo.

  23. Adri:

    La consciencia existe exactamente igual que la sensación de elegir libremente. En ambos casos la referencia de ambas sensaciones podría ser falsa. Yo podría estar loco en un psiquiátrico soñando que escribo este blog, cuando la triste realidad sería que estuviese sentado en una silla de ruedas mirando por una ventana. Mi consciencia tendría, entonces, un referente falso.

    Yo lo único que he defendido es que la libertad no tiene referente ontológico. Nada he dicho de la consciencia. Podría ser que libertad y consciencia tuvieran ambas referentes falsos o que solo la libertad los tuviera y que nuestra consciencia refiriera a algo real. No tiene que darse que porque mi libertad sea falsa, el referente de mi consciencia también lo sea.

  24. Magüel:

    ¡Cuánto tiempo sin verte por aquí! Gracias por los vídeos.

  25. Masgüel dice:

    El contenido de consciencia puede tener “referente ontológico” falso (asumiendo una metafísica realista), pero en ese esquema kantiano la consciencia es el ámbito del fenómeno. Un autómata no puede tener la ilusión de ser consciente, porque tener ilusiones es manejar contenidos de consciencia. Si tiene la ilusión de ser consciente, es consciente.

    Respecto al “referente ontológico” falso de de libertad, es consecuencia de tu apuesta por el determinismo. Combinando indeterminismo y emergentismo resulta una respuesta naturalista distinta al problema de la libertad. Tu negativa a admitir la novedad en la naturaleza es una elección estética.

  26. Masgüel dice:

    Te he dejado un par de mensajes en hypérbole, pero están pendientes de moderación.

Responder

Introduce tus datos o haz clic en un icono para iniciar sesión:

Logo de WordPress.com

Estás comentando usando tu cuenta de WordPress.com. Cerrar sesión / Cambiar )

Imagen de Twitter

Estás comentando usando tu cuenta de Twitter. Cerrar sesión / Cambiar )

Foto de Facebook

Estás comentando usando tu cuenta de Facebook. Cerrar sesión / Cambiar )

Google+ photo

Estás comentando usando tu cuenta de Google+. Cerrar sesión / Cambiar )

Conectando a %s