Émile Torres: A mediados de la década de 2000, me encontré con el transhumanismo por primera vez. Inicialmente, fui muy crítico al respecto. El segundo artículo que publiqué fue una crítica al transhumanismo. Pero luego, ciertas consideraciones me llevaron a considerar al transhumanismo como una posición defendible, y me convertí en una suerte de transhumanista.

Y, una de las consideraciones principales fue que el desarrollo de estas tecnologías es inevitable. Entonces, si estás en contra del transhumanismo, tal vez necesites oponerte al desarrollo de ciertas tecnologías de ingeniería personal. Pero dado que son inevitables, no tiene sentido oponerse a ellas sólo para frenar la marea. Por eso, lo mejor es unirse a los transhumanistas y hacer lo posible para asegurar que ese proyecto se realice de la manera más óptima.

La noción de riesgo existencial estuvo estrechamente vinculada al transhumanismo desde el principio: inicialmente, se definió el riesgo existencial como ‘cualquier cosa que pueda evitar que creemos una civilización posthumana’.

ÉT: Definitivamente se hablaba de extinción y catástrofe global. Pero lo novedoso acerca de esta idea de riesgo existencial, como lo indica la definición, es la idea de un desarrollo futuro deseable. 

Había personas, sobre todo en la segunda mitad del siglo XX, argumentando que una razón por la cual la extinción humana sería mala es que clausuraría la realización de todo progreso futuro, felicidad futura, y así sucesivamente. Pero ese argumento de potencial perdido nunca fue formalizado. El enfoque realmente estaba en extinguirse. Todos en la Tierra van a morir. Tú y yo vamos a morir. Nuestras familias morirán. Eso era lo más destacado. El potencial perdido no era lo central.

La noción de riesgo existencial, creo, invirtió eso y destacó el potencial perdido: el argumento central se convirtió en que el peor aspecto de la extinción humana es el potencial perdido. No son las 8 mil millones de personas que morirán. Eso es muy malo, pero la gravedad del potencial perdido tiene una magnitud mayor.

ÉT: Eso me parece correcto. Creo que esta noción de potencial es realmente central para el largoplacismo. La definición inicial viene del 2002, con Bostrom discutiendo las dinámicas de transición desde nuestra civilización humana hacia una civilización posthumana, destacando el potencial de convertirse en posthumano. Esto también estaba relacionado con la idea de que la creación de la posthumanidad no solo es valiosa porque es una buena manera de que se desarrolle la historia cósmica, sino también porque tú y yo podríamos beneficiarnos, ¿cierto?

Entonces, ¿por qué es importante crear una civilización posthumana (según Bostrom y personas como él)? Bueno, porque si sucede en mi vida, tal vez llegue a vivir para siempre. O incluso si sucede en tal vez mil años, todavía alcanzo a vivir para siempre porque me inscribiré en ALCOR y seré resucitado. Así que realmente veo este momento como una especie de giro hacia pensar en el futuro lejano. Creo que inicialmente, para los transhumanistas, estaba vinculado con su propio destino como individuos.

ÉT: Mi interpretación de la historia es que realmente fue en la década del 2000 que las personas en esta comunidad se dieron cuenta de lo inmenso que podría ser el futuro. Con esa conciencia, se produjo un cambio correspondiente en el énfasis moral.

Yudkowsy quiere vivir para siempre. En el podcast de Lex Fridman, dijo que creció creyendo que viviría para siempre. Y parte del trauma para él, como mencionó en ese podcast, es estar en esta situación donde la AGI está tan cerca y tiene que enfrentarse a su propia mortalidad, tal vez por primera vez. Parece que su pensamiento ejemplifica este cambio a lo largo de la década de 2000.

ÉT: En cuanto a la economía de la atención, tengo la impresión de que los largoplacistas reconocen que esta visión del futuro es un poco descabellada. Quiero decir, algunos de ellos han utilizado el término “Crazy Town” o “Pueblo Loco”. En consecuencia, creo que hacen todo lo posible por no mencionar públicamente cuáles son sus objetivos reales. Las ideas descabelladas captan la atención del público, pero en este caso, creo que sienten que algunas de estas ideas no son una buena estrategia de relaciones públicas.

ÉT: No creo que la IA en general esté motivada por esta ideología. La carrera hacia la AGI sí. Y creo que hay dos factores. Uno que es obvio es el motivo de lucro. Microsoft y Google esperan obtener miles de millones de dólares con estos grandes modelos de lenguaje. Pero creo que el otro componente crucial de la imagen explicativa es el TESCREALismo.

Es como… ¿Por qué se formó DeepMind en primer lugar? ¿Por qué Demis Hassabis, que estuvo en muchas de estas conferencias transhumanistas, la fundó? Y Shane Legg, que recibió $100,000 del Instituto Canadiense de Singularidad para la Inteligencia Artificial después de completar su tesis de doctorado y dio charlas en las conferencias Singularity Summit.

ÉT: En cuanto a la ubicuidad de las creencias de TESCREAL, creo que tienes razón. Muchos ni siquiera usarían la palabra transhumanismo. Podrías preguntar, “¿Apoyarías la reingeniería del organismo humano?” O preguntar, “¿Estás financiando proyectos para intentar reingeniar el organismo humano para que podamos fusionar la inteligencia artificial en nuestros cerebros?”. Creo que muchos dirían que sí. Y estarían a favor de muchos aspectos de la cosmovisión largoplacista, como el imperativo de colonizar el espacio y saquear el cosmos. Mi fuerte sospecha es que eso es lo que estas personas asumen como algo normal.

Un artículo que quiero escribir trataría sobre los diferentes términos e ideas que varios autores utilizan para describir la cultura del Silicon Valley, utilizando términos diferentes, pero describiendo en última instancia el mismo fenómeno. Así que a lo que me refiero con TESCREALismo es lo que ese tipo de extrema derecha Richard Hanania llama “la derecha tecnológica”.

Un artículo del Huffington Post mencionaba que tiene opiniones supremacistas blancas. Y él dijo, “Odio la palabra TESCREALismo”. Así que lo llamó la ‘derecha tecnológica’. Douglas Rushkoff llama a esto ‘la mentalidad’; él dice que está en todas partes en Silicon Valley entre los multimillonarios de la tecnología, y al hablar con ellos sobre sus puntos de vista, descubrió que todos pensaban: “el futuro es digital. Vamos a mejorar nuestras mentes. Vamos a expandirnos por todo el espacio” y así. Lo que Rushkoff quiere decir con ‘la mentalidad’ es básicamente lo que yo entiendo por TESCREALismo. ¿Dirían estas personas que encarnan ‘la mentalidad’, “sí, soy un largoplacista y creo que lo más importante moralmente es conquistar el espacio y crear todas estas personas digitales en el futuro”? No lo sé. Pero su visión del mundo se parece mucho al largoplacismo.

ÉT: Creo que eso es en gran medida correcto. Creo que algunas personas, como Wil Macaskill, [una figura en el ‘altruismo efectivo‘], realmente aceptan esta posición filosófica muy abstracta de que lo que importa es que haya un gran número de personas en el futuro. Y muchos multimillonarios de la tecnología ven esta visión como vinculada con su destino como individuos. Entonces, el razonamiento es como… “Quiero construir un búnker para sobrevivir al apocalipsis para poder llegar al espacio, tener mi mente digitalizada” y así. Y eso definitivamente puede llevar a esta falta de consideración por la mayoría de los seres humanos. Un ejemplo extremo de esto es la noticia que se difundió de que el hermano de Sam Bankman-Fried y otra persona en FTX habían discutido la posibilidad de comprar la nación insular de Nauru explícitamente para que los miembros del movimiento ‘altruismo efectivo’ pudieran sobrevivir a un evento apocalíptico que mataría hasta, como escribieron en el documento, el 99,9% de los seres humanos.

ÉT: Supongo que depende de lo que uno entienda por la Singularidad. Está la interpretación de la explosión de la inteligencia… está la idea de Kurzweil que tiene que ver simplemente con el ritmo del cambio.

ÉT: Simpatizo con esa perspectiva de la Singularidad. Simplemente no hay mucho que podamos decir más allá de eso. Soy muy escéptico acerca de la idea de la explosión de inteligencia. Y la idea del ritmo del cambio de Kurzweil parece estar en tensión directa y significativa con el hecho de que una catástrofe climática es casi inevitable a menos que haya alguna nueva tecnología que, a gran escala, elimine el dióxido de carbono de la atmósfera. 

ÉT: Creo que el cambio climático es otra cosa.

ÉT: Estamos hablando de la civilización global. ¿Va a sobrevivir? No lo sé. Quiero decir, hay legítimos climatólogos que no creen que lo hará a menos que se tomen medidas inmediatas para evitar un cambio climático catastrófico.

Recuerdo discutir, hace muchos años, con colegas en el campo del riesgo existencial, donde afirmaba que el cambio climático es un problema mucho más grande de lo que sospechaban. Ellos pensaban: “Inventaremos la IA. Y una vez que tengamos la IA, va a…”

ÉT: Resolverá qué hacer. Pero, ¿cómo vamos a crear la IA en un mundo que simplemente se desmorona y se cae a pedazos? ¿Cómo vamos a organizar conferencias sobre IA cuando el clima es tan hostil que no se puede llegar allí?

ÉT: Simplemente no es mi área de especialización. Pero tengo la impresión de que, en términos de los modelos de lenguaje grandes (LLM) que tenemos, no hay un camino evidente desde esos sistemas, como ChatGPT, hacia una IA general genuina o superinteligencia.

ÉT: Creo que fue Gary Marcus quien se estaba riendo sobre el ascenso y la caída en prestigio, por así decirlo, de ChatGPT. Se convirtió en una línea de chiste durante un debate republicano.

ÉT: Sí. Así que no creo que la Singularidad vaya a ocurrir, probablemente. Y apostaría a que no sucederá pronto, no sucederá en 2045 como predice Kurzweil.

ÉT: Reconozco y afirmo eso. La noción de TESCREALismo pretende captar la visión tecno-utópica que surgió de algunos de estos movimientos, y señalar los aspectos más negativos de eso. Creo que son los que se han vuelto más influyentes ahora. Entonces, alguien como el socialista democrático James Hughes, tuvo cierta influencia. Pero, en comparación con alguien como Bostrom, su influencia es menor. Y reconozco absolutamente que hay transhumanistas que son anti-libertarios. Algunos de ellos son mormones.

ÉT: Esa es también mi impresión. Obviamente, hay una historia fascinante que involucra futurismo y fascismo. Tal vez tiende a atraer a cierto tipo de persona o se presta a ser interpretado o explotado por fascistas. El TESCREALismo captura ese aspecto.

ÉT: Definitivamente, hay ese aspecto de líder carismático en el racionalismo. Hay estos posts de Less Wrong que solo elogian a Yudkowsky. Recuerdo ver una lista de declaraciones de una o dos oraciones sobre Yudkowsky. Una de ellas decía algo así como “dentro de la glándula pineal de Eliezer Yudkowsky no hay un alma inmortal, sino otro cerebro”. “En la historia de los pensadores occidentales, hubo Platón, Immanuel Kant, Eliezer Yudkowsky”. (Risas) Alguien a quien no nombraré me dijo que la escena racional del Área de la Bahía es una secta apocalíptica en pleno crecimiento.

Creo que el EA (Altruismo Efectivo) es algo así como una secta. Hubo un artículo publicado recientemente por Carla Cremer. Habló sobre un sistema de clasificación competitivo secreto en el que a los participantes se les restan puntos si tienen un coeficiente intelectual menor de 120.

ÉT: Me gustaría saber realmente. Porque creo que el realismo del CI es bastante común dentro de esta comunidad. Bostrom ha escrito que el CI es bueno pero imperfecto. Así que tienden hacia el realismo del CI.

ÉT: No, en realidad no. Hanania lo reconoce al argumentar que el ‘tech right’ es un término mejor. Dijo que básicamente teníamos razón acerca de cuáles son las corrientes, qué es el conjunto, pero ‘tech right’ es un término mejor. No me sorprende que no haya más personas que salgan y digan que se identifican como TESCREAListas.

ÉT: Sí, creo que podría ser permisible bajo ciertas circunstancias. Quiero decir, tengo preocupaciones sobre los límites de para qué se utilizará esa tecnología. ¿Se utilizará solo para lo que intuitivamente llamaríamos fines terapéuticos? Mi principal preocupación es que podría abrir fácilmente la puerta a un enfoque de ‘mejora’. Tan pronto como hablas de mejoras, surgen preguntas como “¿Qué criterios estás utilizando para juzgar si alguna modificación es mejor?” Ahí es donde surge el problema de las ‘superclases’ sobre el cual Bostrom ha escrito.

Gran parte de eso probablemente sea ableista. Lo que significa ‘mejora’ para alguien como Bostrom podría ser completamente diferente a lo que yo podría pensar, ¿verdad?

ÉT: Mi impresión es que palabras como ‘roto’ son términos normativos. Creo que los activistas de derechos de las personas con discapacidades o académicos en el campo de las discapacidades tienen razón cuando dicen: “hay un número infinito de cosas que no puedo hacer”. No puedo volar. La noción de discapacidad, algunos argumentarían, es simplemente una construcción social. Vivimos en una sociedad que no se adapta para alguien que no puede hacer algo que una mayoría estadística de otras personas puede hacer. Eso es lo que se considera una ‘discapacidad’. Entonces, tal vez, si arreglas la sociedad, la discapacidad desaparece incluso si la incapacidad permanece.

ÉT: Hay dos aspectos en eso. Uno es la incapacidad y el otro es la sociedad en la que se vive. Entonces, puedes solucionar o eliminar la discapacidad mejorando la sociedad. Y luego hay un buen argumento de que muchas de las incapacidades que clasificamos como discapacidades no se verían como algo malo. Es simplemente diferente. Hay personas de diferentes alturas. Hay personas que no pueden caminar. Siento que mi corazón se llena de empatía por los académicos de la discapacidad, algunos de los cuales son discapacitados, argumentando que no querrían cambiar. Y su punto de vista de que no deberíamos aspirar a un mundo en el que personas como ellos dejen de existir.

ÉT: No tanto porque no he visto mucha evidencia, al menos no en mi alimentación de redes sociales.

ÉT: Simplificando, muchas personas en mi círculo están a favor de la buena tecnología, no de la mala tecnología. Tal vez tecnologías a pequeña escala, lo cual no significa baja tecnología. Así que puedes tener tecnologías avanzadas que permitirían que alguien se desplace si no puede caminar. Pero sin las megacorporaciones, y todo el control y riesgo que conlleva eso.