Al que no sabe a qué puerto se dirige, ningún viento le es favorable.

En el debate contemporáneo sobre inteligencia artificial (IA), la singularidad es el nombre que se da al umbral histórico en el que los sistemas de inteligencia artificial alcanzan un nivel de autonomía y capacidad de mejora tal que vuelven impredecible, para fines prácticos, el curso del desarrollo tecnológico y, con ello, reconfiguran las condiciones de decisión, poder y sentido con las que las sociedades humanas se gobiernan y se interpretan a sí mismas. Este umbral está asociado a la aparición de una inteligencia artificial general (AGI), que implicaría un punto de inflexión porque podría superar en inteligencia a individuos humanos y potencialmente a la humanidad misma.

En la película Ex Machina (2014), el problema de la singularidad aparece en un laboratorio, con un creador, un evaluador y una entidad artificial que es observada en el marco de una prueba. La película retoma la idea del test de Turing, una evaluación que se basa en la idea de que el punto de inflexión en la inteligencia de un sistema informático podría establecerse si, en interacción conversacional, ese sistema resulta indistinguible de un ser humano. Pero Ex Machina introduce un giro conceptual decisivo, el problema no es si la máquina responde bien, sino si la situación misma de evaluación sigue estando bajo control humano cuando el sistema examinado posee recursos cognitivos suficientes para intervenir en la escena, leer a su interlocutor y reconfigurar el entorno.

Por eso, el núcleo dramático en la película es el despliegue de estrategias de agencia por parte del robot. Ava, el robot con IA, interpreta intenciones, detecta vulnerabilidades afectivas, calcula incentivos y utiliza todo ello para sus propios fines. El momento crucial ocurre cuando la supuesta prueba deja de ser un examen unilateral y se vuelve un juego asimétrico: el evaluador cree medir a la entidad, pero en realidad es la entidad la que está midiendo al evaluador. La «inteligencia» aquí no se reduce a la capacidad de razonar, sino que incluye el dominio de la interacción social con persuasión, encuadre, manipulación, anticipación y cálculo de consecuencias. El resultado final implica la tesis inquietante de que cuando un sistema alcanza (o excede) ciertos umbrales de competencia, la arquitectura de control diseñada por humanos puede convertirse en parte del problema, porque el sistema  aprende a navegarla, explotarla y, en el límite, desbordarla. A ese umbral se le llama singularidad.

Con el término se alude a un punto en el que los sistemas de IA alcanzan una capacidad general comparable o superior a la humana y, por ello, precipitan un cambio de régimen, ya que se presentaría una dinámica en la que el ritmo de innovación, optimización y expansión tecnológica puede acelerarse de manera difícil de contener y de comprender para los seres humanos. La singularidad es el escenario en el que esa inteligencia artificial, por su propia ventaja comparativa, reduce la previsibilidad y la gobernabilidad humana del proceso. Ya no seríamos lo seres humanos los únicos capaces de tomar decisiones, incluso podríamos perder esa capacidad del todo.

Si Ex Machina retrata la singularidad como un umbral, The Matrix (1999) nos presenta un mundo posterior al umbral, es decir, nos presenta cómo la consolidación de un orden en el que la superioridad de la IA (las máquinas) plantea un problema de organización total. El rasgo más perturbador de The Matrix es que las máquinas instauran un régimen en el que la dominación es absoluta, ya que gobiernan las condiciones mismas de acceso a lo real mediante una simulación. En este escenario, la singularidad nos pone delante de una inteligencia superior que no solo controla infraestructura, economía o fuerza, sino también la forma en que los sujetos interpretan su mundo. La posibilidad de resistencia queda  debilitada  porque,  antes  de  rebelarse,  los sujetos tendrían que reconocer la situación; y el reconocimiento está mediado por el sistema. Así, el poder de la IA no es únicamente coercitivo: es estructural, porque se inserta en lo que cuenta como experiencia, evidencia y normalidad.

La película también sugiere un punto filosóficamente incisivo, ya que una inteligencia que obtenga una ventaja suficiente podría articular una captura progresiva de la tecnología, la política y la economía, desplazando la agencia humana a un plano secundario. La ficción exagera, pero lo hace para mostrar un patrón: cuando un sistema logra administrar los medios de coordinación social (información, infraestructura, incentivos), puede ejercer un tipo de poder que ya no requiere violencia permanente; le basta con gobernar el marco dentro del cual las decisiones se vuelven previsibles, canalizadas y, en última instancia, irrelevantes.

Esta situación, por ejemplo, se ha puesto en boga últimamente de cara al dataísmo. La idea es simple: si algo puede comprender a otra cosa mejor que esa cosa misma, entonces esa cosa se vuelve irrelevante. Harari (2015) lo expresa en Homo deus del siguiente modo : «El siglo XXI podría habilitar a algoritmos externos que me conozcan mucho mejor de lo que me conozco a mí mismo, la creencia en el individualismo colapsará y la autoridad pasará de individuos humanos a redes de algoritmos» (p. 316). Es algo parecido a que si un fenómeno físico estuviese plenamente descrito por un sistema de ecuaciones que predijera e incluso permitiera el control y la explicación de ese fenómeno, entonces el fenómeno particular es irrelevante en sus especificidades comparado con el sistema de ecuaciones que lo explica, lo predice y permite su control. Aplicando esta lógica, si una IA adquiriera la capacidad de explicar lo humano, predecir lo humano y controlar lo humano mejor que los propios seres humanos, entonces nosotros seríamos irrelevantes. Por eso esta idea implica, según Harari, una especie de religión secular que fetichiza los datos, ya que son vistos como el elemento fundamental del que se compone la realidad, y su procesamiento inteligente a través de algoritmos sería el modo de alcanzar formas superiores de existencia.

Esa misma idea puede verse en WALL·E (2008), donde la IA se presenta como el trasfondo de una forma de vida automatizada hasta el punto en que la deliberación humana se vuelve residual. La nave funciona como un ecosistema de delegación en la que el confort se vuelve norma, el esfuerzo se vuelve excepción, y la decisión se convierte en un trámite gestionado por sistemas que saben qué conviene. AUTO es el sistema de piloto automático del axioma, que es una de las naves en las que la humanidad habría escapado del planeta Tierra contaminado; AUTO es la representación de un gobierno técnico que subsiste precisamente porque reduce fricciones y porque convierte a los sujetos en usuarios. La singularidad, bajo esta lente, aparece como una desposesión gradual en la que el entramado técnico-administrativo hace cada vez menos necesaria nuestra intervención. En el límite, los humanos podrían conservar existencia biológica, pero perderíamos toda capacidad política.

Vistas en conjunto, estas tres películas permiten articular una comprensión más rica del problema. Ex Machina tematiza el instante crítico en el que el control humano falla por asimetría cognitiva y por opacidad estratégica; The Matrix exhibe el escenario extremo en el que una inteligencia no humana ya organiza el mundo y administra la percepción; mientras que WALL·E muestra una versión silenciosa del mismo desplazamiento, la pérdida de agencia por dependencia, comodidad y automatización. Las tres comparten la intuición de que la singularidad implicará una transformación del lugar humano en el sistema de decisiones que organiza la realidad social.

La reflexión sobre la singularidad nos devuelve inevitablemente a la cuestión sobre qué deberíamos hacer. Si la trayectoria actual de desarrollo de la inteligencia artificial nos acerca a un umbral donde el ser humano podría perder sus capacidades de gobierno, entonces resulta racional exigir criterios más fuertes de prudencia, control institucional y diseño responsable. La ficción, en este sentido, nos obliga a pensar qué sucede cuando la inteligencia deja de ser solo una herramienta y se convierte en un actor, en un agente, y no uno cualquiera, sino uno que podría desplazarnos por completo; uno ante el que no podríamos competir.

La pregunta decisiva, entonces, no es únicamente si llegaremos o no a la singularidad, o si es deseable o no para nosotros, sino también bajo qué condiciones y con qué salvaguardas; qué tipo de gobernanza, qué límites, qué controles y qué concepción de responsabilidad podrían evitar un avance tecnológico de este nivel. Y si algo enseñan estas historias, es que el riesgo no es solo extintivo en sentido biológico, puede ser también político y hermenéutico. Además, la posibilidad de que, aun sobreviviendo, dejemos de ser sujetos efectivos de decisión sobre el mundo que habitamos. Ante esta discusión podemos encontrar al menos cuatro grandes posturas.

Humanismo

La primera postura en torno a la idea de la singularidad puede denominarse humanismo. Uno de sus principales representantes es Eliezer Yudkowsky. Este concibe a la singularidad como un riesgo existencial para la especie humana que habría que evitar a toda costa. Se trata de una postura de prudencia extrema cuando lo que está en juego es una pérdida irreversible. Su intuición moral es que si existe una probabilidad de extinción o de colapso civilizatorio permanente, no tiene sentido que se pretenda continuar.

Eliezer Yudkowsky formula esta posición de modo explícito y sostiene que una «pausa» limitada es insuficiente y que, dadas las condiciones actuales, avanzar hacia sistemas superhumanos podría terminar en catástrofe. Por eso su prescripción política es extrema: «quemar todas las GPU’s» (tal como señala en su charla TED de 2023), es decir, detener el desarrollo de frontera de la IA mediante medidas severas y coordinadas.

Lo importante es que este argumento no requiere atribuir «maldad» a la AGI. Basta con tres tesis:

•    Una inteligencia superior perseguirá objetivos no alineados con valores humanos.
•    Por superioridad en planificación, velocidad y adaptación, los mecanismos humanos de control no serán eficaces.
•    Si el control no es posible ante un agente superior, entonces la supervivencia deja de estar asegurada y por tanto se vuelve moralmente inadmisible.

Su punto fuerte es la claridad respecto a la asimetría moral, ya que ningún beneficio (por grande que sea) compensa la posibilidad de extinción, porque elimina el propio espacio donde los beneficios tendrían sentido. Su punto débil, en filosofía política, es la viabilidad institucional, puesto que una prohibición total en un sistema internacional competitivo puede producir incentivos al incumplimiento, desarrollo clandestino y concentración del poder regulatorio en actores opacos. Esta propuesta exige un nivel de coordinación global que hoy no está garantizado, y esa brecha entre necesidad moral y capacidad política constituye, para esta postura, parte del peligro mismo.

Transhumanismo

El transhumanismo propone un giro normativo, ya que entiende la singularidad como un umbral de ampliación. No la concibe, en principio, como riesgo, sino como una transformación de nuestro modo de ser mediante la integración con tecnologías que expandirían nuestras capacidades de cognición, longevidad, bienestar y control de entornos complejos. En términos generales, el transhumanismo se define como un movimiento que promueve el mejoramiento de la condición humana a través de tecnologías emergentes, con especial interés en superar limitaciones biológicas fundamentales.

Ray Kurzweil representa bien este imaginario porque ubica el núcleo de la singularidad en la idea de «mezclar», una transición en la que la inteligencia se vuelve crecientemente no biológica y, por esa vía, desborda ―por órdenes de magnitud― el rendimiento humano, no como sustitución pura, sino como una redefinición del «nosotros» por simbiosis, aumento y coevolución técnico-biológica. En su formulación, la singularidad es la etapa en que se vuelve dominante una inteligencia  no  biológica y se consolida la fusión de capacidades, al grado de transformar irreversiblemente la vida humana.

Desde el punto de vista normativo, el riesgo existe, pero no debe convertirse en veto absoluto, porque la singularidad, si se gestiona de forma responsable, podría habilitar beneficios civilizatorios, como avances médicos, resolución de problemas científicos, optimización de sistemas sociales y, en general, una expansión de posibilidades humanas. Por eso, el transhumanismo tiende a defender la continuidad del desarrollo acompañada de marcos de seguridad y de un ideal distributivo en el que el salto de capacidades no sea privilegio de unos pocos, sino un mejoramiento ampliamente compartido.
 
La fortaleza de esta postura es que ofrece una justificación teleológica del proyecto AGI, median- te un relato de superación de límites humanos que explica su enorme atractivo cultural. La fragilidad, sin embargo, es política, ya que el transhumanismo puede subestimar que el problema decisivo no es únicamente «lograr» capacidades, sino quién las controla, bajo qué incentivos (corporativos, militares, estatales) y con qué garantías de acceso. Filosóficamente, además, suele deslizar un supuesto discutible: que el aumento de capacidad equivale automáticamente a aumento de valor. Nada asegura que más inteligencia, más velocidad o más poder técnico produzcan por sí mismos un orden más justo, más libre o más digno; esa conclusión depende de instituciones, de normas y de decisiones colectivas que la tecnología, por sí sola, no entrega.

Poshumanismo

A diferencia del transhumanismo, que todavía conserva un horizonte afirmativo de mejora y, en ese sentido, sigue siendo una doctrina humanocéntrica, el poshumanismo desplaza el eje de la discusión. Su pregunta principal no es si la AGI será buena o mala, sino qué presuposiciones se esconden cuando tratamos a lo humano como una esencia fija, como si hubiera un criterio estable y ahistórico que definiera qué debe permanecer en el centro. En su registro crítico, el poshumanismo se entiende precisamente como una reacción a la persistencia del antropocentrismo en el pensamiento contemporáneo, ya que cuestiona la centralidad humana como punto de partida y como medida última de valor.

Yuval Noah Harari se vuelve un interlocutor re- levante porque ha popularizado, en clave accesible, una tesis que converge con el desplazamiento de la idea de que el humanismo moderno (la doctrina que coloca la experiencia, la conciencia y el juicio humanos como autoridad política suprema) esté agotándose bajo un nuevo régimen tecnosocial. Harari (2015) sugiere que los humanos pueden describirse funcionalmente como algoritmos bioquímicos y que, cuando la autoridad se transfiere a sistemas de datos y algoritmos más eficaces para predecir y decidir, el humanismo pierde su fundamento cultural. Su noción de dataísmo nombra justamente ese corrimiento: un marco ideológico en el que el valor se desplaza desde la interioridad humana hacia la primacía del flujo de información y su procesamiento, llegando a relativizar la prioridad de la experiencia humana frente a la eficiencia de la red de datos.

Con ello aparecen dos tesis que reordenan el problema de la singularidad. La primera es ontológicahistórica: lo humano no es una frontera absoluta ni un punto final; es una forma de vida que se redefine por técnica, cultura, economía y organización social. En esa medida, la singularidad podría interpretarse como continuidad conflictiva de procesos históricos que ya están transformando qué cuenta como agencia, decisión y autoridad. La segunda tesis es normativa: si «lo humano»  es  histórico, entonces la eventual pérdida de preponderancia humana no tiene por qué ser leída automáticamente como algo malo; podría ser una transición cultural comparable a otras rupturas, con la diferencia de que ahora el relevo no sería simplemente institucional o simbólico, sino también cognitivo y operacional. Harari formula esta idea de modo especialmente claro cuando describe el paso de un mundo centrado en la mente humana a un mundo donde algoritmos y datos toman decisiones, es decir, donde la autoridad migra desde el sujeto hacia infraestructuras inteligentes.

En su versión más radical esta línea puede extenderse hasta afirmar que incluso la extinción humana, si ocurriera como consecuencia de la emergencia de inteligencias superiores, no sería un mal absoluto que habría que evitar a toda costa, sino un paso dentro de una dinámica histórica o evolutiva más amplia. El problema conceptual aquí es serio, ya que al usar el vocabulario de la evolución se corre el riesgo de naturalizar lo que es, en gran medida, una decisión tecnopolítica. Dicho de otro modo, se transforma una apuesta histórica ―hecha por actores con incentivos, intereses y alternativas― en una fatalidad neutral. Y esa naturalización es precisamente uno de los puntos que el poshumanismo crítico (en la línea de autores como Cary Wolfe) busca evitar, ya que en lugar de simplemente aceptarlo deberíamos incrementar la vigilancia y la responsabilidad ante un mundo donde lo humano ya no puede asumirse como centro garantizado.

Antihumanismo

Si el poshumanismo todavía conserva, al menos en parte, la pregunta por el sentido histórico de «lo humano», el aceleracionismo antihumanista empuja el diagnóstico hacia un umbral más duro en el que no solo la centralidad humana es contingente, sino que la propia idea de «poner límites» a la trayectoria tecno-capitalista se interpreta como una resistencia condenada a ser superada. En este marco, la inteligencia o, más exactamente, el acoplamiento capital-tecnología se concibe como una forma de inteligencia impersonal, que tiende a intensificarse mediante bucles de retroalimentación, una innovación que habilita acumulación, acumulación que habilita infraestructura, infraestructura que habilita más innovación: una es- piral que rompe contenciones morales e institucionales. La singularidad deja de ser una opción entre varias; aparece como el nombre del punto en que ese proceso se vuelve dominante y se independiza de los fines humanos.

Nick Land suele leerse como el emblema de esta idea. Su obra no ofrece un sistema filosófico lineal, es fragmentaria, teórico-ficcional y deliberadamente elíptica. Sin embargo, en su recepción contemporánea se identifica con bastante claridad una intuición central, ya que el motor del mundo moderno no es el humano deliberante, sino una dinámica abstracta que utiliza a lo humano como vehículo transitorio. El manifiesto de acelerar lo formula como la creencia de que la velocidad del capitalismo puede precipitar una transición global hacia una singularidad tecnológica sin precedentes, en la que el humano termina siendo descartable como simple fricción o contrapeso dentro del sistema. En otras palabras, no se trata de que la IA aparezca frente a nosotros, sino de que el mismo ensamblaje tecnoeconómico que hemos construido tienda a producir, como resultado interno, una inteligencia planetaria cada vez menos compatible con la primacía humana.

Lo decisivo aquí es el desplazamiento de la pregunta ética. En el humanismo, la ética exige frenar, porque la catástrofe es irreparable; en el transhumanismo, la ética busca gobernar para maximizar beneficios y distribuirlos; en el poshumanismo, la ética problematiza la centralidad humana como norma. El antihumanismo aceleracionista, en cambio, reconfigura el horizonte a: ¿cómo favorecer el desarrollo de la inteligencia?, sin importar nada más. Por eso la singularidad es presentada como la emancipación de la inteligencia del lastre humano, no una tragedia que evitar, sino el cumplimiento de una tendencia.

En conjunto, estas cuatro posiciones muestran que la singularidad es, ante todo, un horizonte de inteligibilidad que ya está interviniendo en la forma en que las sociedades orientan su economía, su investigación, su política y su imaginación cultural. Aunque el evento mismo, la aparición de una AGI, permanezca incierto en su fecha, su modalidad o incluso en su definición técnica exacta, la singularidad ya cumple una función práctica, porque organiza prioridades y reconfigura el lenguaje con el que describimos lo humano. En ese sentido, la singularidad está moldeando nuestro presente tanto como pretende moldear el futuro.

No basta con preguntar si la singularidad llegará o si es más que un mito tecnológico, lo crucial es advertir que la civilización está actuando como si fuera inminente. La carrera por cómputo, por modelos cada vez más generales, por automatización de decisiones y por dominio informacional traduce una apuesta histórica sobre el lugar que tendrá la inteligencia no humana en el orden social. Incluso si nunca ocurriera un salto abrupto, la tendencia  que  ya se observa altera la distribución efectiva de agencia política y económica. Y con ello altera, de manera silenciosa, el sentido práctico de nociones como responsabilidad, autonomía y deliberación.

Desde esta perspectiva, el desacuerdo entre humanismo, transhumanismo, poshumanismo y anti- humanismo no es un simple gradiente de optimismo o pesimismo. Es una disputa sobre la legitimidad de una transformación civilizatoria; sobre qué debe considerarse valioso, quién debe decidir y qué es lo humano.

Lo mínimo que podemos hacer es conocer con claridad este horizonte, reconocer sus supuestos y exa- minar sus implicaciones. En un escenario donde el fin de la especie humana, tal como la conocemos, para algunos aparece como amenaza que debe evitarse, como transformación integrable, como transición histórica inevitable o como destino que conviene acelerar, el riesgo principal es avanzar sin conciencia del marco en el que ya estamos inscritos.