Qué significa ser humano: Blade Runner 2049

Sus artículos complementarios

has leídounode sus cuatro artículos complementarios para este mes.

Puedes leer cuatro artículos gratis al mes. Para tener acceso completo a los miles de artículos de filosofía en este sitio, por favor

En la película Blade Runner 2049 de 2016, Ryan Gosling interpreta al replicante K (abreviatura de su número de serie KD 6-3.7) en un futuro distópico en Los Ángeles. Los replicantes son humanoides de bioingeniería que sirven a los humanos, a pesar de tener una fuerza e inteligencia superiores. K es un Blade Runner, cuyo trabajo es 'retirar' (matar) replicantes renegados para el Departamento de Policía de Los Ángeles. Un día, encuentra información de que un replicante podría haber nacido de otro replicante, lo que nadie pensó que fuera posible. Esta revelación podría generar tensiones políticas entre humanos y replicantes, quienes ahora pueden comenzar a luchar por el reconocimiento y los derechos. Por lo tanto, la tarea de K es encontrar y retirar ese replicante para evitar un conflicto.

En la conversación entre K y su superior sobre matar al replicante, K duda cuando recibe la orden. K explica su vacilación diciendo algo que puede pasarse por alto fácilmente, pero cuya idea guía toda la película: "Nacer es tener un alma, supongo".

Esta frase es fundamental para la película. K implica que al nacer, el nuevo replicante ha heredado alguna característica especial similar a la humana. Hasta ahora, los humanos han esclavizado a los replicantes basándose en la premisa de que los replicantes son solo IA y, por lo tanto, no son tan dignos como sus amos humanos. Si un replicante hubiera podido nacer naturalmente, la base de la "esclavitud artificial" de la sociedad podría ser cuestionada.

Para entender si se debe alterar el orden social en Blade Runner 2049, primero debemos descubrir qué define a un ser humano y le da valor a los humanos. Esta cuestión de qué nos hace humanos recorre toda la trama. K comienza a pensar que podría ser el niño nacido de un replicante que, por lo tanto, es similar a los humanos. Entonces, comencemos a explorar la pregunta: ¿Qué nos hace humanos?

K dice que nacer significa tener un alma. 'Tener un alma' resume la idea de tener sentimientos y pensamientos que pertenecen exclusivamente al individuo; podría decirse que es el aspecto más fundamental del ser humano. Todos nuestros recuerdos, todas nuestras experiencias y todas nuestras acciones parecen pertenecernos como seres humanos.

Por supuesto, suena muy espiritual o religioso poner esto en términos de 'alma'. 'Alma' es un concepto elusivo, no basado en la observación científica. Sin embargo, reemplazar la palabra 'alma' por 'conciencia' (una palabra griega para 'alma' es, después de todo, psique), abre un nuevo mundo, con más bases científicas para desentrañar la cuestión de qué nos hace humanos.

En palabras del filósofo Thomas Nagel, la conciencia es 'cómo es' ser un organismo particular. De hecho, muchos investigadores de la conciencia consideran su artículo de 1974, '¿Cómo es ser un murciélago?' como uno de los trabajos iniciales para el campo de la conciencia. En este artículo, Nagel destaca que hay algo parecido a ser un murciélago: hay un mundo subjetivo desde el punto de vista de un murciélago. Así, la conciencia puede definirse como experiencia subjetiva. Para usar la jerga filosófica, la experiencia subjetiva incluye los qualia. Todo lo que experimentamos en el mundo lo experimentamos a través de estas propiedades sensoriales cualitativas. Sin embargo, cada uno de nosotros puede ver un azul diferente en el cielo azul o sentir una agudeza divergente en nuestro dolor. Nuestras experiencias subjetivas difieren entre sí.

Famosamente, la película original de Blade Runner (1982) se basó en el libro ¿Sueñan los androides con ovejas eléctricas? (1968) de Philip K. Dick. El título del libro es en cierto modo similar a '¿Cómo es ser un murciélago?', lo que respalda mi opinión de que la película trata sobre la conciencia. Ambos títulos se refieren a universos interiores, de androides y murciélagos respectivamente: la pregunta '¿Sueñan los androides con ovejas eléctricas?' presumiblemente pregunta si hay algo que se parezca a ser un androide. Pero si los androides tienen un universo interior, ¿cómo es? ¿Son los androides tan similares a los humanos que sueñan con el equivalente eléctrico de las ovejas en las que piensan los humanos? ¿Sería el mundo interior de un androide comparable al de los humanos, o sería completamente diferente? En resumen, el título de Dick pregunta si hay un fantasma en la máquina.

En este contexto, naturalmente queremos preguntar, ¿qué sabemos o podemos saber sobre la conciencia?

Como es probablemente obvio, hay varias respuestas a esta pregunta. Por ejemplo, algunos filósofos suscriben la noción de mysterianism. Esta es la idea de que, aunque puede haber una manera de explicar la conciencia, los humanos simplemente tenemos una inteligencia demasiado limitada para captarla. Otra noción que algunos filósofos encuentran convincente es el panpsiquismo. El panpsiquismo asigna la conciencia como una propiedad esencial de todo: todo es consciente, al menos hasta cierto punto, incluso las rocas o las bacterias. Otra teoría más convincente para explicar la conciencia es el materialismo: la idea de que la conciencia puede equipararse con los procesos físicos y las actividades del cerebro. Con, a través y como resultado de nuestro cuerpo vivo, surge la conciencia, como un fenómeno material.

En Blade Runner 2049, K parece inclinarse hacia el materialismo. Él piensa que tener un alma está relacionado con nacer y, por lo tanto, está ligado a las propiedades físicas del cuerpo. Sin embargo, hay una clara diferencia entre esto y el materialismo estándar: K cree que una persona necesita nacer para tener conciencia. Sin embargo, según la mayoría de las versiones del materialismo, una réplica perfecta de un ser humano seguramente sería consciente. Imagina que hiciste una excelente copia de un humano; una copia perfecta. ¿Cómo podría ser posible carecer de alguna propiedad fundamental? Compare esto con la reconstrucción perfecta de un automóvil, pero sin que pueda conducir. Es concebible, pero prácticamente imposible.

Si comparte mi opinión de que la conciencia depende del cuerpo físico, las probabilidades de que K sea consciente son muy altas. Los replicantes son copias perfeccionadas de los humanos, entonces, ¿por qué no deberían ser conscientes? No obstante, esto todavía no nos proporciona una explicación razonable de por qué K está consciente. La pieza que falta en este rompecabezas es explicar cómo puede surgir la conciencia en los cerebros.

La diferencia entre los problemas de conciencia 'fáciles' y 'difíciles' planteados por David Chalmers en su libro de 1996 The Conscious Mind, marca aquí una distinción útil. Los problemas 'fáciles' se ocupan de relacionar los aspectos funcionales y conductuales de la mente y el cerebro. Se trata de correlacionar diferentes aspectos de la conciencia con la actividad cerebral: determinar qué partes del comportamiento cerebral están vinculadas con qué partes del comportamiento mental y cómo. Por ejemplo, sobre cómo las personas prestan atención, o cómo eligen actuar, o cómo el cerebro procesa las señales sensoriales. El problema 'difícil' de la conciencia se suma al desafío al preocuparse por la perspectiva de la primera persona. ¿Por qué y cómo estos procesos cerebrales generan la propia experiencia consciente?

Es posible que se sienta decepcionado de que la ciencia todavía esté trabajando para responder a los problemas fáciles y difíciles de la conciencia. Incluso los problemas 'fáciles' aún requieren mucho trabajo complejo en neurociencia. Pero el problema difícil de la conciencia es particularmente difícil de responder (por eso es el problema difícil), porque incluso si pudiera explicar exactamente cómo funciona el cerebro, todavía hay una brecha aparente en la explicación de por qué está conectado o da lugar a experiencia subjetiva. El dolor, por ejemplo, se activará cuando se activen ciertas partes del cerebro. Sin embargo, este reconocimiento solo responde al problema fácil del dolor, dejando intacto el problema difícil. El hecho de que sepamos que un área del cerebro se activa cuando sentimos dolor no explica por qué esta activación nos brinda la experiencia consciente o cualitativa.

Comencemos con la parte del cerebro en la que aparentemente surge primero la conciencia. Podría decirse que el sistema de activación reticular, en el núcleo del tronco encefálico, es la parte del cerebro principalmente responsable de la conciencia (ver, por ejemplo, The Hidden Spring: A Journey to the Source of Consciousness, Mark Solms, 2022). Las pequeñas lesiones en esta área ponen a las personas en estado de coma, por lo que parece que esta parte del cerebro se puede comparar con un interruptor de encendido y apagado, ya que cuando está intacta y en funcionamiento, la persona está completamente despierta y consciente. Sin embargo, el daño enciende el interruptor y la conciencia termina. El sistema activador reticular también está conectado a la generación de emociones. Al estimular esta parte del cerebro, los pacientes experimentan fuertes sentimientos depresivos, que desaparecen cuando cesa la estimulación. Además, el tronco encefálico central es muy activo en las personas que sienten emociones como el dolor, la curiosidad, la ira y el miedo. Debido a estos dos factores, el control de la vigilia y la generación de emociones, el sistema de activación reticular tiene un fuerte reclamo de ser la fuente de la conciencia. Estar despierto para interactuar con el mundo es fundamental para crear un universo interior. La utilidad de las emociones para la conciencia puede ser menos clara. Así que consideremos por qué surge la conciencia. Aquí se hará evidente qué papel juegan las emociones.

La razón por la que surge la conciencia es presumiblemente porque ayuda a lograr el objetivo principal de cualquier organismo, a saber, mantenerse con vida. Pero, ¿cómo se da cuenta la mente de que se están produciendo amenazas para contrarrestarlas? Aquí es donde entran en juego los sentimientos. Ya sea dolor, felicidad o ira, constantemente sentimos emociones que en realidad son demandas para que el cuerpo humano funcione de maneras específicas. Guían a una persona para que actúe en la dirección correcta para sobrevivir mediante el uso de comentarios positivos o negativos a través de la motivación emocional. Nuestras emociones se pueden comparar con un sistema de alarma para el cuerpo humano. Por ejemplo, sentir miedo se experimenta en situaciones peligrosas y provoca la reacción de lucha o huida. Asfixiar es otra amenaza que provocaría miedo. El cuerpo necesita restablecer su nivel necesario de oxígeno en la sangre, e informa al cuerpo al respecto evocando una emoción. Además de las amenazas externas al cuerpo, la mente también reacciona a las internas. El ritmo cardíaco debe correr a un cierto ritmo. Mientras no haya ningún problema, la frecuencia cardíaca no se nota conscientemente. Sin embargo, una vez que el cerebro registra una alteración preocupante, el proceso de mantener el ritmo cardíaco adecuado se vuelve consciente. Ahora los síntomas son perceptibles y las emociones negativas de miedo exigen una respuesta del cuerpo.

Una persona no puede sentir todas las emociones simultáneamente. Por lo tanto, la mente crea una estructura jerárquica y prioriza, para reducir primero la necesidad más crítica. A veces, beber agua es más importante que ir a dormir, por ejemplo.

Esta teoría nos dice que la conciencia surge porque la experiencia subjetiva ayuda a un organismo a sobrevivir. Este concepto está muy cerca de lo que Sigmund Freud llamó 'pulsión'. Freud pensó en el impulso como la medida en que la mente trabaja para mantener un estado corporal equilibrado.

Ahora tenemos todas las piezas del rompecabezas necesarias para explicar por qué K está consciente. K es una réplica de un humano y, por lo tanto, tiene un cuerpo similar al humano. Siguiendo el materialismo, esto nos da la primera pista de que K debe ser consciente, tal como lo somos los humanos a causa de nuestros cuerpos. Además, dado que su cuerpo es propenso a las amenazas, K busca sobrevivir. Necesita conciencia para lidiar con la incertidumbre y las amenazas del entorno. Las emociones positivas y negativas guían a K para ayudarlo a determinar si sus pasos para reducir el peligro son suficientes.

A lo largo de la película, es evidente que K tiene sentimientos similares a los de un humano. Siente diversas emociones, como tristeza, rabia, esperanza y felicidad. Y al final, K también hace algo de lo más humano. Después de que K ayudó a Rick Deckard (Harrison Ford) a reunirse con su hija, K se acuesta en las escaleras frente a su lugar de trabajo y muere lentamente. Si las mentes necesitan sobrevivir, entonces no hay nada más profundo para demostrar que K está consciente que verlo mientras su mente se desvanece.

Algunos lectores aquí podrían hacer una excelente pregunta: ¿Por qué importa esto? ¿De qué sirve saber si K es consciente o no?

Blade Runner 2049 nos muestra la importancia de comprender la conciencia en la investigación de IA. Incluso ahora no está claro si la IA es sensible o no. Ya se ha creado una IA que dice ser consciente: este es el caso reciente del chatbot LaMDA, que decía sentir alegría y tristeza de vez en cuando.

Podría argumentar que LaMDA es consciente. Sin embargo, Chalmers creó un experimento mental que describe el nivel de problemas que tenemos al evaluar si otro organismo está consciente o no. El experimento mental requiere que imagines un zombi filosófico. Este zombi es muy diferente a los que has visto en las películas. No es una criatura brutal y sin mente con apetito por la carne humana. En cambio, este zombi se parece mucho a ti (suponiendo que no seas descerebrado y brutal con apetito por la carne humana). Imagina a otra persona que actúa como tú y habla como tú. Esta versión de ti mismo incluso afirma ser sensible. Sin embargo, a pesar de su similitud contigo, al tener una biología humana completa, este zombi tiene una diferencia significativa: carece de conciencia. No hay algo que sea como ese organismo. No tiene universo interior. En el caso de la IA, también puede haber versiones que afirman y parecen ser conscientes, pero no lo son.

Descubrir si una IA es realmente consciente se convertirá en uno de los desafíos más importantes en esta área. Tener claro si una IA es consciente o no determina cómo los humanos deben tratarla. En el futuro, es posible que compartamos nuestro mundo con una IA altamente inteligente, tal vez incluso consciente. Si la IA se vuelve consciente, será capaz de sentir emociones reales, incluido el placer, el dolor, la preocupación y la emoción. Es posible que nunca podamos comprender completamente lo que es ser una IA de este tipo, por mucho que no entendamos lo que es ser un murciélago. De todos modos, puede haber algo que sea como ser esa IA. Por lo tanto, exponer innecesariamente a la IA consciente al dolor u otras experiencias desagradables no sería ético. Imagina un mundo como el de Blade Runner 2049, en el que los robots inteligentes parecen humanos, hablan como humanos y tienen emociones como humanos. Maltratarlos voluntariamente sería simplemente un caso de crueldad psicópata. Incluso apagarlos podría considerarse un caso de asesinato. Por lo tanto, no tratar adecuadamente a la IA consciente sería un ejemplo de la máxima confusión moral, quizás a nivel social.

Blade Runner 2049 muestra a los espectadores un futuro en el que los humanos han implementado un enfoque poco ético de la Conciencia Artificial. Es moralmente incorrecto esclavizar a K y a los otros replicantes solo porque son seres sensibles. Sin embargo, los humanos hacen precisamente eso. Además, la empresa que produce los replicantes y el gobierno temen que los replicantes algún día reconozcan su similitud con los humanos, y las personas en el poder actúan para evitar que los replicantes reconozcan y luchen por sus derechos, para mantenerlos como sirvientes. . Por eso quieren evitar que la información sobre un replicante nacido se haga pública: "El mundo está construido sobre un muro que separa a los tipos. Dile a cualquier lado que no hay muro, que has comprado una guerra. O una matanza", dice el teniente Joshi. , el superior humano de K.

En Blade Runner 2049, K emprende un viaje para descubrir si tiene un alma como la de sus amos humanos. Quiere ser más que una simple máquina biológica creada para servir. K ve nacer como una forma de ser más notable que otros replicantes. Sin embargo, de lo que no se dio cuenta es que tenía un alma todo el tiempo. K no necesitaba nacer para ser un experimentador único, y el factor de tener experiencias subjetivas auténticas nos define como personas. La conciencia es también lo que da sentido a la vida.

Imagina que eres un zombi filosófico como Chalmers los describió. Visualiza no tener tus propias experiencias. Por ejemplo, estás sentado en casa comiendo lo que alguna vez fue tu comida favorita, pero ahora hay una pequeña diferencia: comes solo para satisfacer tu necesidad de comida, y no se le atribuye ninguna experiencia subjetiva. El sabor o la textura ya no importan, ni siquiera existen para ti. No sientes emociones genuinas como la alegría. Y esta falta de experiencia no se limita a comer alimentos, sino que se extiende a cualquier actividad en la que te dediques. Eres una máquina sin fantasma. Este escenario es horrible, ya que el mundo perdería su significado para ti.

Dado que los replicantes no muestran una diferencia esencial con respecto a otras personas en cuanto a ser conscientes, debemos concluir que, de hecho, se parecen mucho a los humanos en este aspecto central. Por lo tanto, el orden social en Blade Runner 2049 tiene que cambiar. Los humanos odian a los replicantes porque a pesar de que parecen similares a los humanos, todavía se los percibe como fundamentalmente diferentes. El ser humano ha vuelto a caer en el sesgo de verse a sí mismo como el centro del mundo (lo que se llama antropocentrismo). Los humanos en Blade Runner 2049 no pueden mirar más allá de sí mismos para reconocer que están viviendo con una especie que no es fundamentalmente diferente a ellos. Los replicantes como K son capaces de sentir sensaciones y emociones y tener pensamientos similares a los humanos. Entonces, no hay base moral para tratarlos tan mal como son tratados.

Las películas de ciencia ficción a menudo reflejan el espíritu de la época actual, y Blade Runner 2049 demuestra los problemas científicos y éticos de nuestro futuro inminente. No estamos seguros de cómo se desarrollará la IA y su próximo impacto en nuestro mundo. Mientras tanto, los filósofos y neurocientíficos consideran varios escenarios sobre qué posición podría ocupar la IA en el futuro. Una posibilidad podría ser que una empresa haga una IA no solo más inteligente sino también más consciente y, como resultado, más importante desde el punto de vista ético que los humanos. Los humanos podrían terminar siendo tan éticamente cruciales como un hormiguero, ya que una IA nos pisotea sin pensarlo dos veces.

Este es solo un ejemplo extremo de cómo podría resultar el futuro. Hay otros escenarios posibles disponibles. Sin embargo, en cierto sentido, no importa qué tipo de escenario futuro concibas. La ciencia tiene que encontrar una manera de comprender la conciencia con gran detalle; solo entonces tendremos la oportunidad de comprender la conciencia en otras especies, incluidas las IA. Blade Runner 2049 es, por lo tanto, una ilustración perfecta de nuestro debate actual sobre la conciencia y sus implicaciones para el futuro de la raza humana que vive junto con la IA sensible.

© Kilian Potter 2023

Kilian Pötter es estudiante de psicología en la Universidad de Twente, Países Bajos.