He leído en varias ocasiones, con torcida perplejidad, a expertos en áreas tecnológicas afirmar, con suma tranquilidad, que la tecnología ni es buena ni mala, que todo depende del uso que se le dé. Así, un cuchillo puede servir tanto para cortar el tan necesario alimento, como para apuñalar al prójimo. Por consiguiente, los empresarios-ingenieros-fabricantes quedan exonerados de toda culpa por diseñar cualquier artefacto, cayendo la totalidad de la responsabilidad en el usuario. Grave error para, como es habitual, metérnosla doblada.
La tecnología no es, de ningún modo, neutra éticamente. Veamos una serie de argumentos para dejarlo claro como el agua:
1.Toda tecnología requiere unos materiales y un coste energético, por lo que cabe preguntarse: ¿Cuán de escasos son esos recursos? Si son escasos ¿no se necesitarán para otro objetivo éticamente más importante que el que yo les voy a dar? ¿Cómo de difícil es su extracción? ¿Se pondrán en peligro vidas para ello? Famoso es el debate acerca de los materiales con los que se construyen nuestros teléfonos móviles: ¿es ético producir y consumirlos sabiendo de donde vienen sus componentes? En lo que respecta a la IA, hasta hace poco nadie parecía caer en su elevado coste medioambiental cuando la enorme necesidad de capacidad de cómputo dada la notoria ineficiencia del deep learning es muy patente. La IA no es ecofriendly, y eso merece una profunda reflexión.
2. Toda tecnología requiere un proceso de producción: ¿dónde y quién lo realiza? ¿Los trabajadores reciben un salario justo y sus condiciones laborales son adecuadas? Mucho se ha debatido sobre las condiciones laborales de las fábricas asiáticas, donde se produce, prácticamente, todo la tecnología que consumimos. A través de Pinker, he leído estos días sobre la interesante, y polémica, idea de la curva de Kuznets: tras un periodo de gran desigualdad, cuando los países llegan a un alto nivel de desarrollo, la desigualdad se reduce. Quizá no justifique éticamente esa desigualdad, pero en ausencia de alternativas viables en esos países, es posible que sea la mejor opción (si bien también se ha discutido si su base empírica se sostiene).
3. Toda tecnología genera residuos, por lo que cabe preguntarse: ¿que residuos va a generar la nuestra? ¿Son biodegradables? ¿Cuál será su impacto medioambiental? ¿Dónde se almacenan y en qué condiciones? Así, tenemos el gran debate sobre la idoneidad de los coches eléctricos. Por un lado parecía que eran mucho más ecológicos, pero cuando caemos en lo que contamina generar la electricidad que consumen, vemos que no lo son tanto. En está línea está la polémica con respecto a las centrales nucleares. Yo creo firmemente que el sector ecologista que las critica está equivocado. Si hacemos un balance de pros y contras, y a falta de que la energía solar mejore, son una magnífica opción y una buena forma de luchar contra el cambio climático.
4. Toda tecnología tiene efectos secundarios no previstos por los diseñadores. Por eso todo proyecto tecnológico tiene que ir acompañado de una buena evaluación de riesgos. Ya hablamos aquí hace tiempo de la elegante definición de eficiencia tecnológica de Quintanilla: una máquina es eficiente si utiliza los medios más económicos para llegar a sus objetivos y a nada más que a sus objetivos. Esta última parte es la clave: hay que intentar que no se nos escape nada, y si no podemos evitar que se nos escape (realmente, es muy difícil predecir a medio y largo plazo cómo estará el tema), al menos, hacer una sesuda reflexión sobre ello y ponderar razonablemente si merece o no la pena.
5. Toda tecnología tiene posibles usos perversos ¿cuáles son y cuál puede ser su gravedad? ¿Hasta dónde puedo garantizar que no se lleven a cabo? Por ejemplo, parece evidente que si yo creo un método de edición genética que permite a cualquier persona del mundo, sin conocimientos de bioquímica, crear en su casa un virus letal, no deberé sacar a la luz tal tecnología. Y aquí es donde mejor se ve la no neutralidad ética de la tecnología: no es éticamente lo mismo diseñar una vacuna que una bomba de hidrógeno, porque los posibles usos perversos de la segunda son mucho mayores que los de la primera. Resulta muy curioso como en el caso de la IA, se haga más mención al uso perverso que «ella misma» hará contra nosotros (la famosa rebelión de las máquinas), más que del uso perverso que muchos humanos harán de ella. Y, del mismo modo, también resulta curioso que se sobredimensionen sus peligros y usos negativos (los killer robots o los algoritmos sesgados) cuando sus usos positivos son infinitamente más beneficiosos para la humanidad que estos posibles perjuicios. En la IA, igual que pasa con la ingeniería genética, se está ponderando muy mal su uso futuro.
6. Toda tecnología tiene un grado de impacto global: no es lo mismo un invento que hago en mi casa y se queda allí, que algo que tenga muchísimas repercusiones a todos los niveles. Por ejemplo, yo invento un cereal transgénico cuyas cualidades abaratan muchísimo sus costes de producción y, por tanto, su precio final. Supongamos que existe un pequeño país cuyo principal producto de exportación es el cereal. Entonces, he de prever qué efectos sobre la economía de ese país tendrá que yo saque al mercado mi producto. Si que yo me forre implica que condene a un país a la hambruna y a la miseria, he de repensar mi estrategia y buscar otras vías. Además, en un mundo globalizado donde todo está interconectado, hay que tener en cuenta que lo que uno hace en Londres, puede tener repercusiones en Tokio, es decir, que el grado de impacto de cualquier cosa que se haga es, potencialmente, mucho mayor que antaño, por lo que, igualmente, el grado de responsabilidad crecerá a la par.
El error de pensar en la neutralidad de la técnica está en pensar entendiendo los diversos agentes y elementos sociales de forma aislada cuando, verdaderamente, nada se da de forma aislada. Tanto más cuando un desarrollo tecnológico es, en la actualidad, una tarea inmensa. Así creo que una buena forma de entender la globalidad o localidad de cualquier evento es la teoría de sistemas: entender los fenómenos sociales como sistemas o partes de los mismos, siendo un sistema un conjunto de elementos y de interrelaciones entre ellos y otros sistemas. De este modo podemos extender nuestra responsabilidad ética cuando creamos algo: no solo hay que estudiar lo que ocurrirá en nuestro sistema al introducir el nuevo elemento, sino qué consecuencias tendrá en los demás.
Imagen del artista callejero Ludo.
La Máquina de Von Neumann 
El error es pensar que la neutralidad de la técnica es lo mismo que la neutralidad de los técnicos. La técnica es neutral -no tiene contenido ético. Solo los agentes que intervienen -creándola, usándola- los que lo tienen. La ética es un asunto humano. No un asunto técnico.
Todos los argumentos de Santiago son correctos: salvo en que equivocan el blanco.
Todos ellos son válidos, pero son aplicables no solo a las actividades técnicas sino a cualquier actividad humana o animal. Por ejemplo a escribir o incluso hablar.
La tecnología puede ser mejor o peor, pero solo en términos de su capacidad de alcanzar sus objetivos (por ejemplo: 1) bombear agua 2) con el mínimo gasto energético). Los ingenieros llamamos a esto “requisitos”. La tecnología se puede usar mejor o peor; teniendo en cuenta requisitos más amplios o estrechos. Por ejemplo, parte del desarrollo técnico -lo que hacen los científicos e ingenieros- es hacer cosas eficientes, con gasto e impacto mínimo, sin efectos secundarios, etc. Si esto se hace así o no, no depende de la técnica, depende de las personas que la usan. Son las personas -los clientes, los usuarios- los que establecen los requisitos.
Y aquí es donde está contenido ético: en la especificación de los requisitos. La técnica se encarga de satisfacerlos, no de elegirlos.
Todos los asuntos que menciona Santiago están dentro de esta categoría. Son elecciones humanas, no decisiones técnicas. El asunto de si un ingeniero debiera negarse a hacer ciertas cosas, es un asunto ético del ingeniero, no un asunto ético de la técnica. La técnica es neutral respecto a los fines que persiguen las personas, los persigan intencionadamente o no.
Yo creo que el asunto central es si el conocimiento científico y técnico es independiente del ser humano o no. Yo creo que si.
Si esos parámetros hubieran regido desde el comienzo de la revolución industrial, estuviéramos aún en el oscurantismo y a merced de las inquisiciones…
Pero vamos a ver,. ¿Un cuchillo es o no es ético?
La Tecnología es aética ,
No buena ni mala, como lo son las fuerzas fundamentales o la constante de Planck
Como bien señala Ricardo, no confundas el blanco.
Y por favor no hagas a los tecnólogos (investigadores, científicos, incluso escritores de ciencia ficción, etc..) responsables de mal uso que le puede dar a una tecnología un grupo de personajes. Es muy loable que Einstein se opusiera a desarrollar ciertos conceptos para evitar un mal uso de lo nuclear (creo recordar algún pasaje similar, y cientos otros científicos se habrán visto en la misma tesitura, hace poco más de un caso con la IA) pero toda tecnología acaba “abriéndose camino”
Porque esa es otra, no solo la Tecnología es aética, amoral, sino que tampoco “va a esperar” a que los humanos estemos preparados gestionarla.
[entiéndase Tecnología, no solo como el conocimiento en sí mismo, si no incluyendo también todas aquellas personas que lo desarrollan]
Por otra parte, mil gracias por cada nueva entrada, siempre interesante leerte.
A mí también me dio clase el profesor Quintanilla. Además de la diferencia entre eficacia (que algo sirva para lo que tiene que servir) y eficiencia (conseguir el mismo resultado con menos costes o un resultado mejor con los mismos costes), recuerdo perfectamente la definición de “técnica”: una acción intencionalmente orientada a la transformación de objetos concretos, para conseguir, de un modo eficiente, un resultado valioso.
En relación a lo que dices, y a los comentarios, es muy necesario distinguir también entre técnica, que es una acción, y tecnología, que son los instrumentos. La tecnología no es independiente de la técnica ni por lo tanto de la intencionalidad humana, afirmar lo contrario es una visión de la tecnología muy alienante, algo que el hombre crea pero que después lo percibe como algo ajeno a su actividad, un poco al estilo de la teoría del Dios-hombre de Feuerbach.
Por esto estoy de acuerdo con el post. La técnica no es independiente de la ética, ni de la política. Por eso es importante lo que se considera un resultado valioso y para quién. En ese sentido afirmo que, en estas circunstancias, la mayoría de las técnicas que se financian fomentan la desigualdad y el enriquecimiento de unos pocos; y, más aun cuando hablamos de destrucción ecológica, es fácil ver como cuando se habla de tecnologías menos contaminantes, como por ejemplo los coches eléctricos, detrás hay todo un proyecto de mercado de explotación minera para obtener litio, es algo que afecta a zonas como Galicia y el oeste peninsular por citar las más cercanas. En ese caso los efectos aparentemente no buscados son tan destructivos como las energías convencionales que quieren sustituir; y es curioso pero hubo proyectos alternativos más interesantes ecológicamente, como un combustible llamado Sol Fuerza, que no prosperó por los intereses lucrativos de los grandes poderes.
Entender la eficiencia como “conseguir un resultado y sólo ese resultado” es una forma de plantear la necesidad de la evaluación de las consecuencias en los proyectos tecnológicos, algo para lo que la filosofía, casualmente tan denostada, podría ser de gran ayuda.
Marisa
«La IA no es ecofriendly, y eso merece una profunda reflexión.». ¿Hay una tecnología que lo sea?; respuesta en el punto 3 «Toda tecnología genera residuos». «Toda tecnología tiene posibles usos perversos». Y lo contrario. «Si que yo me forre implica que condene a un país a la hambruna y a la miseria, he de repensar mi estrategia y buscar otras vías». Si un cultivo transgénico permite obtener comida en lugares más secos lo mismo eres más inmoral que moral.