¿Por qué es moralmente relevante la sintiencia de las máquinas?

Resumen

Hay al menos dos formas de descubrir si las máquinas son sintientes. Una de ellas es emplear el razonamiento por analogia: buscar similitudes entre ellas y nosotros.

La segunda es emplear las teorías de la sintiencia. ¿En cuál o cuales creemos? ¿Y que dicen acerca de la sintiencia en máquinas? En este articulo me centro en este segundo enfoque.

En ambos casos es razonable considerar muy seriamente la posibilidad de una futura catástrofe moral con relación al sufrimiento de las máquinas.

¿Quiénes son los seres moralmente relevantes?

Los seres sintientes son, por definición, seres capaces de tener experiencias como el placer o el dolor (Ver esta y esta definición).

Los seres sintientes tienen interés en disfrutar e interés en no sufrir. Por eso son moralmente relevantes.

Cada uno de nosotros tiene la completa seguridad de ser sintiente y por tanto tiene la completa seguridad de ser moralmente relevante.

El resto de seres humanos son muy parecidos a nosotros, y este es seguramente uno de los motivos por los que los consideramos sintientes y por tanto moralmente relevantes. El mismo razonamiento se aplica también a los animales no humanos (otros mamíferos, aves, reptiles, peces, etc.). Nadie duda de que chimpancés, gorilas, orangutanes y bonobos son sintientes. Tampoco prácticamente nadie duda de que otros mamíferos como perros, gatos, cerdos o vacas son capaces de sentir placer y dolor. En estos casos podemos interpretar con facilidad sus sentimientos y emociones (además de sus sensaciones) mediante las expresiones de su cara y sus gestos. Este reconocimiento es sencillo para nosotros, entre otros motivos, porque estos animales reaccionan de manera muy similar a nosotros ante los mismos estímulos (aunque con excepciones). Pero hay quien duda acerca de la sintiencia de los peces. También nos podemos preguntar: ¿qué sienten los caballitos de mar? ¿Expresan el dolor las langostas al ser hervidas vivas? Es decir, en la medida en la que los animales son diferentes a nosotros y se expresan de formas diferentes, tanto más difícil será para nosotros reconocer en ellos la sintiencia. Probablemente esto nos haga dudar acerca de la existencia de esta sintiencia o de su intensidad.

Los límites del “método del parecido”

Los mecanismos que habitualmente empleamos para reconocer la sintiencia se basan en el parecido: aspecto externo similar, similar constitución interna, parecido en cuanto al comportamiento, mismo origen (evolutivo), proximidad genética, etc. Todos ellos son distintas formas de “parecido”. Este “método del parecido” para obtener conocimiento (acerca de quién es sintiente) se basa en un tipo de evidencia que podríamos denominar “razonamiento por analogía”, un tipo de razonamiento inductivo que recuerda a la interpolación y a la extrapolación. Aunque este método del parecido es válido y útil, contiene un elemento que es arbitrario y resulta limitante. Ese elemento somos nosotros mismos.

¿Son sintientes las máquinas?

Según este método del parecido, estamos considerando que nosotros mismos somos sintientes y por tanto aquellos seres que sean parecidos a nosotros mismos también los serán. Pero esto no implica que los seres que no sean parecidos a nosotros no sean sintientes. Seres muy diferentes a nosotros podrían tener experiencias positivas y negativas muy diferentes a las que conocemos. También podrían expresarlas de formas muy diferentes. Además, podrían ser sintientes habiendo adquirido la sintiencia de una forma muy diferente a la nuestra. En definitiva, para nosotros estas experiencias positivas y negativas serían irreconocibles. Todo esto nos dificultaría mucho reconocer la sintiencia en estos seres.

Para explicarlo con una metáfora: las aves vuelan gracias a las alas y las plumas. Es razonable pensar que si yo vuelo gracias mis alas y mis plumas, otros animales con alas y plumas seguramente serán capaces de volar. Pero podrían existir objetos también capaces de volar que no tuvieran ni alas ni plumas. Por ejemplo, los cohetes tele-dirigidos o los cohetes inteligentes autónomos.

Determinar si los robots son sintientes y por tanto moralmente relevantes es un problema parecido a determinar si los insectos o si las amebas son sintientes y por tanto moralmente relevantes. En estos casos en los que no podemos emplear el método del parecido, rechazar la sintiencia podría ser atrevido y generar una catástrofe moral. Si queremos evitar el sufrimiento en general, o evitar el sufrimiento intenso, debemos explorar el uso otro tipo de herramientas o evidencias para valorar la posible sintiencia de seres muy diferentes a nosotros.

¿Cómo determinar la sintiencia de seres que no son parecidos a nosotros?

Se puede proponer un método alternativo al “método del parecido” para valorar la sintiencia. Este método alternativo consiste en entender o al menos asumir que entendemos la sintiencia. Si supiéramos cuál es la naturaleza de la sintiencia, es decir, de dónde viene o cómo se produce, podríamos concluir cuáles seres son sintientes y que no cuales no; al menos, de acuerdo con dicha teoría. Siempre que la teoría fuera cierta, este mecanismo funcionaría, incluso aunque estos seres fueran muy diferentes a nosotros, como ocurre con los insectos, las amebas, los robots hechos de metal, arena y plástico, y los agentes de las simulaciones digitales.

Es decir, si creemos en una única teoría de la sintiencia, apliquémosla y veamos que nos dice dicha teoría acerca de la sintiencia de las máquinas. Por ejemplo, el paradigma emergentista evolutivo, muy popular entre científicos, establece que la sintiencia emerge por su utilidad asociada a la resolución de problemas en entornos evolutivos como el nuestro. En ese caso, si pudiéramos crear un entorno evolutivo artificial (físico o simulado) lo suficientemente rico, y esperáramos el tiempo suficiente, sería razonable pensar que también pueda emerger la sintiencia en estas “máquinas”, por lo que habría que considerarlas moralmente.

Este método basado en entender o al menos asumir que entendemos la sintiencia tiene varios inconvenientes. Por una parte, las teorías acerca de la sintiencia son muy difíciles de entender y están sujetas a apasionados debates y malentendidos. Seguramente esto ocurra porque existen fuertes intuiciones acerca de la naturaleza de la sintiencia, y al mismo tiempo son muy difíciles de comunicar. Para solucionar este problema he propuesto la creación de simulaciones pedagógicas de las distintas teorías de la sintiencia, que faciliten el entendimiento y el diálogo acerca de sus aspectos, así como la valoración de su verosimilitud.

Por otra parte, las teorías acerca de la sintiencia son muy difíciles de demostrar de forma determinante, por lo que alguien podría objetar que este método no va a funcionar porque no sabemos cuál teoría es la correcta, y no está justificado creer en una única teoría. Efectivamente, en el campo de las ideas filosóficas no podemos (fácilmente) hacer predicciones. Sin embargo, podemos seleccionar las teorías en función de su popularidad, su coherencia interna, su capacidad explicativa, y su compatibilidad con las evidencias disponibles (siendo todos estos aspectos ciertas formas de evidencia, por leve que fuera, aunque algunas -como la popularidad, sin más- son discutibles). Además, si fuera necesario, podemos agrupar varias teorías o hipótesis que solo se distinguen en elementos que son accesorios o arbitrarios, como si fueran una sola. Con todo esto, podríamos asignar diferentes valoraciones de veracidad a cada teoría. De esta forma no estaríamos confiando en una única teoría, sino en un abanico de teorías, aunque no en todas por igual. A continuación, podríamos valorar la respuesta que cada una de estas teorías ofrece acerca de la pregunta sobre la sintiencia en máquinas, ponderado con la plausibilidad de cada teoría, dándonos una imagen más precisa de la relevancia de la posible sintiencia en máquinas, obtenida a partir de las mejores teorías.

A esta propuesta se podría objetar que en el asunto de la sintiencia nuestro desconocimiento es tan grande que tal vez la teoría correcta no solo no se encuentre entre las seleccionadas, si no que tal vez se encuentre muy alejada de éstas, y el resultado tenga muy poca o ninguna validez. Una solución a esto consistiría en evitar seleccionar simplemente un conjunto finito de teorías. Al contrario, podríamos trabajar con un mapa multidimensional de teorías, creado expresamente para que pueda dar cabida a tantas teorías sobre la sintiencia como sea posible, de forma que incrementemos la probabilidad de que dentro del mapa de teorías pueda encontrarse la teoría correcta; y en vez de valorar la verosimilitud de teorías determinadas, valorar la verosimilitud de zonas del mapa o tipos de teorías.

La siguiente imagen muestra un sencillo mapa de distintas teorías relacionadas con la sintiencia, agrupadas en cuatro grandes bloques. Por sencillez en este artículo me referiré a este mapa, aunque también sería interesante emplear este otro mapa de teorías de la sintiencia. Esta agrupación nos permite valorar la posible sintiencia de las máquinas y por tanto su relevancia moral de forma agrupada y tratando de que ningún tipo de teoría pueda quedarse fuera de la valoración.

 

Primer cuadrante: religiones y el argumento de la simulación

En el primer bloque o cuadrante están las teorías que consideran que existe una divinidad o Ser Superior de algún tipo, que es responsable de la creación o de la supervisión del mundo que conocemos. La mayoría de las religiones consideran a la humanidad en conjunto o una parte de ella como la especie elegida (o pueblo elegido) y moralmente relevante, precisamente por pertenecer a la especie humana, ya que la especie humana posee una categoría especial (hijos de Dios), mientras que otras especies no. Las religiones establecen distintos criterios de consideración moral para el resto de especies animales. Algunas religiones no consideran a los animales no humanos en absoluto; otras consideran a algunas especies animales en concreto muy positivamente o negativamente. En general las religiones no establecen consideración moral por las máquinas.

Si confiamos en la descripción y explicación de la realidad proporcionada por las religiones, entonces tal vez debamos concluir que las máquinas probablemente no son moralmente relevantes. Las religiones, salvo excepciones, son profundamente antropocentristas, y las culturas religiosas frecuentemente ignoran moralmente a los animales no humanos. Es de esperar que ignoren también a las máquinas, sean o no sintientes. Si somos firmes creyentes, nuestra posición coherente parece que debería ser que, independientemente que las máquinas pueden sentir o no, las máquinas no son moralmente relevantes.

Sin embargo, la realidad de las religiones no es tan sencilla. Es significativo que destacadas figuras religiosas como el Papa Francisco abogan por la consideración moral de los animales, y el Islam prohíbe la crueldad con los animales, así como el budismo. Podemos decir que las religiones consideran inmoral causar sufrimiento “gratuito”  (“innecesario”) a los animales, por ejemplo, por maldad o por diversión. En ese sentido, las religiones defienden a los animales no humanos. Pero las religiones, por lo general, priorizan siempre el bienestar humano frente al bienestar animal, de forma que el bienestar humano corresponde a una categoría superior de bienestar, o lo que es lo mismo, su relevancia comparativa se considera prácticamente infinita. Creo que ante la sintiencia en máquinas la respuesta de las religiones puede ser similar: podrían llegar a considerar posible su sintiencia, reprobando la agresión “gratuita” o maltrato indiscriminado a las máquinas, especialmente por considerar que esto es degradante para el ser humano. Pero parece que no dudarán en explotar a las máquinas si con ello consiguen satisfacer los intereses humanos, exactamente igual que ocurre ahora con los animales de granja.

En este primer cuadrante incluyó también la “Hipótesis de la simulación” según el cual toda la realidad que vivimos podría ser una simulación. Un aspecto importante de este argumento es que asume que toda la realidad que conocemos, incluyendo los seres sintientes, está constituida en última instancia, simplemente, de información. Es decir, según esta teoría, nosotros mismos -seres sintientes- podemos ser seres simulados. Por tanto, a priori no parece haber nada que impida que en otra parte de la simulación (en las máquinas) también pueda producirse la sintiencia. Este “Argumento de la simulación” no aclara por qué una parte de la simulación es sintiente, pero sin duda asume que la sintiencia puede producirse en un entorno simulado. Si confiamos en la hipótesis de la simulación, entonces deberíamos concluir que tanto las máquinas como las simulaciones pueden ser sintientes, aunque no nos quede claro cómo ni por qué.

Segundo cuadrante: neuronas naturales, microtúbulos cuánticos y otros fenómenos

En el segundo cuadrante incluyo aquellas teorías que establecen que es necesario un elemento o componente físico, material, de algún tipo, como requisito para la sintiencia, como por ejemplo, neuronas biológicas, húmedas, basadas en el carbono. La palabra “máquina” o “robot” habitualmente nos evoca imágenes de dispositivos hechos de metal, arena y plástico, pero de una forma más genérica, “máquina” es un dispositivo de cualquier tipo creado por el ser humano, y perfectamente podría tratarse de una máquina biológica o de un robot biológico. Si asumimos como cierta alguna de las teorías del segundo cuadrante, deberíamos concluir que una máquina, si fuera construida mediante dicho elemento responsable de la sintiencia -supongamos, por ejemplo, células biológicas artificiales-, entonces dicha máquina o robot debería ser considerada moralmente, ya que podría ser sintiente.

Tercer cuadrante: emergentismo y funcionalismo

En el tercer cuadrante ubico los enfoques emergentistas y teorías como el funcionalismo. Empezaré por este segundo. Para abordar el problema de la sintiencia, el funcionalismo pone la atención en los procesos, los comportamientos externos (entradas y salidas) y las funciones que desempeñan aquellos estados o situaciones en las que entendemos que existe una sintiencia.

El enfoque funcionalista anima a considerar que existe sintiencia allí donde existe un comportamiento que realiza una función que habitualmente corresponde con lo que denominamos sintiencia. Por ejemplo, en el caso de un misil que tiene como meta alcanzar y destruir un objetivo determinado y que es controlado por una red neuronal, bajo un enfoque funcionalista deberíamos considerar muy seriamente que un misil autónomo fuera capaz de experimentar estados positivos y/o negativos: tal vez sufrimiento si se aleja del objetivo, tal vez placer si se acerca a él. Lo mismo podríamos decir de un termostato, que actúa sobre una caldera para tratar de mantener una temperatura constante, o de un robot de una fábrica que tiene como objetivo crear o ensamblar cierto número (o el máximo número) de piezas de determinada manera.

La creación de artefactos cuyo comportamiento, funcionalmente, corresponda con lo que consideramos sintiencia, tendría relevancia moral. Por ejemplo si consideramos que moralmente no es una buena idea tener muchos hijos, o tener más hijos, o tener cierto número de hijos (pudiendo ser este número mayor o igual que cero), debido a que no podemos asegurar la satisfacción de sus intereses y les exponemos por tanto al riesgo de experimentar un sufrimiento intenso, de la misma manera deberíamos considerar moralmente inadecuado crear máquinas sintientes -por ejemplo, misiles- si no podemos asegurar razonablemente que estos objetos sintientes puedan evitar sufrir.

El enfoque emergentista, por su parte, considera que la sintiencia “emerge” cuando en la materia se producen ciertas condiciones. Según el emergentismo, nosotros los humanos, así como el resto de animales y todos los seres vivos, somos, en definitiva, máquinas biológicas, de cuya compleja configuración emerge la capacidad de sentir. Por tanto, lo que se conoce como robots, y en general las máquinas construidas por humanos e incluso simulaciones artificiales podrán sentir si se dieran ciertas condiciones de complejidad y evolución en un entorno adecuado, como ha ocurrido con nosotros, los animales.

Por supuesto, podemos crear un robot o una simulación informática expresamente diseñado para engañar y hacer creer que dicho sistema es sintiente, representando expresiones de placer y dolor ante ciertos estímulos. En mi opinión estos sistemas son análogos a una película o a una representación de teatro, que son representaciones o ficciones, honestamente engañosas. Si algo ha sido diseñado expresamente para engañar, seguramente sea un engaño. Es decir, si algo ha sido creado expresamente para que parezca que es sintiente, seguramente no sea sintiente, solo lo parezca. Pero -según el enfoque emergentista y básicamente también el funcionalista, que en esto son equivalentes- si un sistema se ha creado mediante una serie de elementos básicos de cuya combinación (compleja) se produce un comportamiento aparentemente sintiente, y esto no ha sido expresamente diseñado, sino que solamente se han definido o creado los elementos básicos y de su combinación o interacción ha surgido algo que aparenta ser sintiente, entonces seguramente lo es.

Cuarto cuadrante: matrix

En el cuarto cuadrante incluyo las teorías más audaces, que ponen en duda nuestras intuiciones sobre la sintiencia y sobre la realidad en general, y según las cuales nada es lo que parece. La existencia de este cuadrante es una forma de asegurar que ninguna posible teoría pueda quedar fuera del mapa. Las teorías de este cuadrante son muy diversas y extrañas, pero podríamos decir que tienen en común que desde ellas la sintiencia en máquinas se considera algo totalmente aceptable. Según estas teorías no sólo los robots podrían sentir, sino que hasta los átomos y las ideas podrían sentir.

Valoración de la probabilidad de cada teoría

Estas son las probabilidades que asigno a las distintas teorías las cuales afectarán a la valoración de la relevancia de la sintiencia en máquinas:

• En relación al primer cuadrante, agrupo todas las religiones (estimadas, las religiones actuales, en unas 4.200) en una única teoría eliminando elementos accesorios en relación al tema que estamos tratando, asignándole una baja verosimilitud debido a la arbitrariedad de su relato, salvo en el caso del argumento de la simulación y otras teorías que podrían existir y que simplemente consideren que existen seres superiores a nosotros, como por ejemplo, que nuestro mundo sea una especie de zoológico. Considero que la interpretación religiosa del mundo tiene una probabilidad de ser cierta inferior al 1%. Acepto la posibilidad de que el planeta Tierra sea un zoológico o un experimento de algún tipo de ser mucho mas poderoso que nosotros, o al menos que estos seres existan y habitualmente nos ignoren, tal como  como nosotros ignoramos por lo general a las hormigas, y sin tener muy claros los argumentos a favor y en contra, aventuro una probabilidad del 25%. Finalmente, me parece que el argumento de la simulación puede tener del orden de un 50% de probabilidades de ser cierto, lo cual como hemos dicho incrementa la verosimilitud de la sintiencia en máquinas. Es interesante destacar que estas probabilidades no son excluyentes. Por ejemplo, nuestro universo podría ser una simulación, y dentro de esta simulación podría haber seres mucho mas poderosos que nosotros, a quienes a penas entendemos y para los cuales el planeta Tierra es un zoológico.
• Las teorías de segundo cuadrante me resultan atractivas, interesantemente exploratorias, pero ciertamente arbitrarias. En conjunto les otorgo una probabilidad del 25%. Este porcentaje puede parecer muy bajo. La explicación es que no se trata de que asigne un 25% de probabilidad a que las neuronas biológicas sean responsables de la sintiencia en animales (a esta idea le daría un porcentaje prácticamente del 100%), sino que este conjunto de teorías las entiendo de la forma “las neuronas naturales tienen algo (nanotúbulos, bucles extraños) que es imprescindible para la aparición de la sintiencia, y -en oposición a las teorías del tercer cuadrante- el aspecto determinante para la aparición de sintiencia no es la función externa que realiza la neurona, sino su constitución interna, basada en estos elementos especiales. Doy un 25% de probabilidades a que la sintiencia no se pueda generar de ninguna otra forma que no fuera con alguno de los componentes básicos que estas teorías mencionan.
• El emergentismo propio del tercer cuadrante es un enfoque muy convincente pero que no deja de tener elementos tan arbitrarios como las teorías del segundo cuadrante. Resulta atractivo considerar que la sintiencia “emerge” pero en mi opinión ninguna de estas teorías logra explicar a entera satisfacción en qué consiste la “emergencia” o por qué se produce. En todo caso, el paradigma emergentista evolutivo conecta diversos hechos y evidencias ofreciendo un resultado global bastante convincente y coherente, y es por ello que a este grupo de teorías les otorgo una probabilidad de hasta el 75% de ser cierta. Es interesante destacar que podemos considerar la teoría simétrica al emergentismo: el inmersionismo, y en ese porcentaje incluyo realmente ambas teorías. Como me parecen ambas igual de probables, ese 75%, -que se refiere a ambas aproximaciones-, lo repartiría a partes iguales entre ambas.
• Nuestro desconocimiento de la sintiencia es tan grande y la experiencia de haber sido haber estado totalmente equivocados en el pasado es tan abrumadora que considero que las teorías del cuarto cuadrante, en las cuales se plantea que nada es lo que parece y que podemos estar completamente equivocados acerca de nuestras intuiciones acerca de la sintiencia, tienen del orden de un 99% de probabilidad de ser ciertas.

Conclusiones

En resumen y teniendo en cuenta las teorías que corresponden con los cuadrantes a los cuales asigno probabilidades significativas:

• En relación al cuadrante 2, si existiera algún tipo de componente material, alguna partícula que produjera la sintiencia, las máquinas serían moralmente relevantes si estuvieran formadas por esta partícula o componente. En este sentido, es extraordinariamente relevante la precaución en la investigación con substratos biológicos artificiales o manipulados (Organoides, Quimeras y Tejidos Ex vivo). El riesgo de una catástrofe moral es enorme dado que bajo este paradigma del cuadrante número 2, con estos tejidos podríamos producir sintiencia sin qué el ser que experimenta esta sintiencia pudiera comunicarla o expresarla de ninguna forma, con lo cual podríamos tener a alguien o algo siendo torturado intensamente por un tiempo indefinido, siendo ésta una de las peores situaciones que podemos llegar a imaginar. Es decir según este conjunto de teorías, la sintiencia en máquinas sería relevante siempre que estas máquinas fueran máquinas biológicas (o máquinas con aquel componente que consideramos responsable de la sintiencia). He considerado el caso más significativo en el que el componente que permite la sentencia es un componente biológico: las neuronas biológicas, basadas en el carbono, pero también se habla y se ha hablado de la glándula pineal, determinados patrones, frecuencias o vibraciones en la materia, vibraciones en los microtúbulos de las neuronas, maximización de entropía, bucles extraños, bucles tálamo-corticales etc.
• La probabilidad que asigno a las teorías del tercer cuadrante es muy alta. Esto significa qué si fuéramos capaces de crear robots en un entorno evolutivo ya sea en el mundo físico por ejemplo enviando replicantes (impresoras 3D capaces de fabricar otras impresoras 3D) a otros cuerpos celestes, o en el mundo virtual, en simulaciones digitales, simulaciones de vida, simulaciones de evolución; y también si creamos sistemas de información inspirados en los sistemas nerviosos centrales que han sido generados por la evolución, es decir si construimos redes neuronales artificiales muy similares a los cerebros naturales, podríamos con una gran confianza asumir que estamos generando sintiencia.
• La existencia del cuatro cuadrante, al cual asigno una probabilidad altísima, simplemente representa la necesidad de seguir investigando este difícil campo de la sintiencia.

En definitiva, y después de haber repasado las distintas teorías sobre la sintiencia, considero que:

• la posibilidad de que existan otras entidades sintientes, además de esas máquinas biológicas que habitan la Tierra y a las que conocemos con el nombre de “animales”, es superior al 95%, agrupando aquí: dioses, ángeles, vida sintiente extraterrestre, sintiencia en plantas, sintiencia en átomos, sintiencia en máquinas, el argumento de la simulación etc.
• Teniendo en cuenta la plausibilidad de cada uno de los cuatro cuadrantes (especialmente el segundo y el tercero) y sus implicaciones en relación a la verosimilitud de la sintiencia en máquinas, considero que debe haber un 30% de posibilidades de que las máquinas actuales sientan, al menos levemente (incluyendo tanto máquinas de metal, arena y plástico como máquinas biológicas) y del orden de un 90% de posibilidades de que creemos en el futuro próximo (digamos, los próximos 200 años) máquinas (húmedas o secas) cuya sintiencia sea relevante (que sufran, por ejemplo, tanto como los humanos).

¿Por qué la consideración moral de las máquinas es precisamente ahora especialmente relevante?

Probablemente toda la vida que conocemos (incluyendo a los humanos) ha sido generada por un proceso de evolución en el planeta Tierra, aunque tal vez con influencia extraterrestre, pero no está claro si intencionada o no. Ahora en cambio tenemos la oportunidad de, intencionalmente, crear seres que pueden sentir y se pueden reproducir, sin límite. Si bien las máquinas que ahora construimos pueden ser sencillas, el reciente crecimiento exponencial del conocimiento y de la tecnología, del cual la Ley de Moore, y en general, la Ley de rendimientos acelerados de Ray Kurzweil son representativos, hace razonable considerar que vamos a poder construir máquinas arbitrariamente complejas en un futuro no muy lejano. Tenemos las herramientas para poner este terrible plan en marcha, y si lo hacemos podemos ser responsables de la mayor catástrofe moral jamás imaginada: una infinidad de máquinas sufriendo y reproduciéndose por el universo. Lo cual, por supuesto, nos recuerda a nosotros mismos.