Certifrikada: Colossus, el proyecto prohibido

colossus-the-forbin-project-162803l

Una montaña en Colorado. Una cueva de alta tecnología en su interior. Un hombre vestido con bata blanca pulsa un botón. Multitud de pequeñas luces se encienden, enormes discos duros se ponen a girar, puertas blindadas se cierran sobre la entrada del pasillo… y un gigantesco ordenador llamado Colossus queda activado. Su misión: controlar la defensa norteamericana para asegurar la paz.

Así comienza Colossus, el proyecto prohibido, una película de 1970 precursora del género “rebelión de las máquinas” con títulos míticos que van de Terminator a Matrix. El esquema es similar: los ordenadores que construímos para nuestro servicio acaban cobrando consciencia y enfrentándose a sus creadores.

En el caso de Colossus, el proceso es gradual [ojo, spoilers]. Un presidente norteamericano que se da un aire a Kennedy anuncia al mundo la creación de un ordenador que supera a cualquier otro conocido. Construido para resultar invulnerable ante todo ataque y completamente autosuficiente, Colossus será el eterno vigilante de la paz. Pronto se descubrirá que Colossus tiene capacidades más allá de lo imaginado por su propio creador el doctor Forbin. Cuando Colossus descubre que existe un gemelo suyo en la URSS llamado Guardián, ambas máquinas desarrollan una agenda propia que los humanos intentarán detener a toda costa.

Colossus no es, por supuesto, la primera obra de ciencia-ficción sobre el tema. El propio Isaac Asimov plasmó los peligros de los ordenadores demasiado listos que intentan dominarnos por nuestro propio bien. Es un tema recurrente que llega hasta nuestros días, una especie de llamada al neoludismo para controlar a las máquinas antes de que ellas nos controlen a nosotros.

¿Qué tiene de especial esta película en particular? Creo que tiene algunos rasgos destacables que la elevan a la categoría de mítica y que la hacen merecedora de una certifrikación.

He aquí algunos elementos que me gustaría resaltar:

– El toque retro. El espectador acostumbrado a los iconos, el control por voz y el ratón inalámbrico encontrará bastante arcaico el modo en que los operadores programan y controlan a Colossus. No olvidemos que estamos a comienzos de los años setenta, cuando el ordenador personal no pasaba de ser un mero concepto. Los procedimientos de interacción con Colossus van evolucionando en la película de forma que ahora consideramos viejunas pero que entonces eran revolucionarias, llegando incluso al control por voz y al reconocimiento facial.

El coloso olvidado. Siempre tuve la impresión de que Colossus no era el mejor nombre para el ordenador. Sí, es un tocho enorme y poderoso, pero vista su función y sus capacidades, ¿por qué no escoger un nombre más revelador como Centilena, Vigilante o Argos?

Resulta curioso saber que existió un ordenador llamado Colossus que hizo historia. Fue desarrollado durante la Segunda Guerra Mundial para atacar los códigos criptográficos alemanes más resistentes. En la actualidad se considera como el primer ordenador moderno (o al menos uno de los primeros, no quiero entrar en detalles puristas). Cuando terminó la guerra los Colosos fueron destruidos por orden de Churchill para mantener el secreto, y no se supo de su existencia hasta décadas después. En ese sentido el nombre puede resultar profético para algunos, y hasta podríamos intentar hacer paralelismos: dos máquinas con el mismo nombre construidas para acabar con grandes males y que cambiaron el curso de la historia humana.

Cuando escribí el primer borrador de este post, expresé mi opinión de que el nombre común a ambas máquinas es mera coincidencia y le di un extra bonus. Justo después descubría algo curioso en la Internet Movie Database. Al parecer, D. F. Jones, el escritor cuyo libro sirvió de base para la película, trabajó en Bletchley Park, el centro de descifrado inglés durante la Segunda Guerra Mundial. Eso le permitió conocer la existencia de Colossus, siquiera de nombre. Puede que el nombre no sea casualidad sino un pequeño homenaje oculto, y por tanto la película se merece un doble extra bonus. Mola.

IA y consciencia. Para algunos investigadores, el cerebro humano tiene algo intrínsecamente distinto a las máquinas. Otros, por el contrario, consideran que el paso a la consciencia es sólo cuestión de apilar más chips y más potencia de cálculo en una máquina hasta que se cruce un umbral. Casi un siglo después de construir los primeros ordenadores, seguimos sin tener claro lo que sucederá con nuestras máquinas pensantes. Colossus es un ejemplo del segundo caso. Con la capacidad de cálculo llega la inteligencia, y con ella llega la consciencia

Defensa antimisiles. En un momento dado, Estados Unidos y la URSS deben defenderse de un ataque de misiles nucleares. Para ello, EEUU activa su sistema de defensa Sentinel, y supuestamente los soviéticos echan mano de un sistema similar. Lo cierto es que el programa Sentinel existía realmente (al menos como concepto) y fue anunciado públicamente en 1967. Pronto se vio que las dificultades prácticas lo hacían inviable, y tanto Sentinel como los programas siguientes se mostraron insuficientes para detener un ataque masivo de misiles. Por dicho motivo, EEUU y la URSS firmaron en 1972 un tratado de limitación de sistemas ABM (misiles antibalísticos).

El actual cinturón de misiles ABM que rodea Moscú es una reliquia de esos tiempos, un intento fútil de defender la capital rusa frente a la ferocidad de un ataque nuclear. Sin embargo, en 1970 había razones para creer que sería posible un sistema de interceptación de misiles antibalísticos de área extensa, lo que hubiera cambiado todo el panorama de la Guerra Fría. Colossus sería el centinela de ese sistema, siempre vigilante, con ojos en todas partes, potencia nuclear y sabiduría para administrar esa potencia.

MAD y Star Wars. La construcción de Colossus refleja una extensión natural de la estrategia de la Guerra Fría conocida como Destrucción Mutua Asegurada (MAD por sus siglas en inglés). Según esa doctrina, ninguna de las dos superpotencias podría lanzar un ataque preventivo sin resultar a su vez destruida, lo que garantizaría que ninguna de ellas lo intente siquiera. Puede resultar una locura (y de hecho, sus siglas en inglés MAD significa loco), pero evitó la guerra nuclear durante décadas. Colossus sería el eterno garante de la doctrina MAD, asegurándose que nadie atacase los Estados Unidos sin sufrir las consecuencias.

La aparición de su contraparte soviético lleva al MAD a un nuevo nivel, equilibrando la balanza. Eso resulta particularmente importante porque Colossus hace de escudo perfecto. Para sus constructores es un mero artífice de la paz a través de la defensa; pero cualquiera con un escudo perfecto podría sacar la espada sin temor a las consecuencias. ¿No podría la URSS temer que EEUU lanzase algún día un ataque sin riesgo a represalias gracias al escudo de Colossus? Sí, y por eso los soviéticos construyen a Guardián.

En ese sentido, la película resulta profética. Década y media después, el presidente norteamericano Ronald Reagan lanzó un proyecto para la defensa de EEUU mediante sistemas de satélites, láser y otras armas futuristas. El nombre oficial era Iniciativa de Defensa Estratégica (IDE), pero se conocía como Proyecto Guerra de las Galaxias. Como sus predecesoras, el tiempo demostraría que esta propuesta antimisiles resultaría demasiado cara, sofisticada y falible, pero en su génesis parecía factible. En tales circunstancias, puede que Reagan creyese realmente que hacía bien protegiendo a su país mediante un escudo de alta tecnología, pero los soviéticos vieron la amenaza: otra vez el escudo y la espada juntos.

La URSS fue así forzada a una carrera de armamentos que aceleró su caída. En cierto modo la IDE contribuyó a borrar la amenaza soviética del mapa de modo que misión cumplida. He llegado a leer que fue una estrategia deliberada, pero a toro pasado las cosas se ven de forma distinta. Lo cierto es que la IDE se planteó como defensa real, un intento de llevar el concepto Colossus hasta donde permitían la tecnología de la época. Igual que la línea Maginot, la limes romana y la gran muralla china… y con idéntica efectividad.

Pax informatica. La Guerra Fría fue una extensión del dicho romano si vis pacem para bellum (si quieres la paz, prepárate para la guerra). Todo el mundo reconocía la locura pero nadie sabía cómo salir de ella, y Colossus parecía la solución mágica al problema, el recurso fácil.

Me resulta especialmente revelador el paralelismo entre la Pax Americana que pretende el presidente americano y la Pax Colossi que decreta el ordenador. Fíjense cómo, en el fondo, ambos pretenden lo mismo. Al comienzo de la película, cuando el presidente anuncia la existencia del nuevo sistema, dice:

Y así, queridos conciudadanos del mundo, todos nosotros vivimos directa o indirectamente bajo la protección de Colossus. Este es el momento de que unamos nuestras manos y nuestros corazones a través del globo para dedicar nuestros esfuerzos a la eliminación de la guerra, a eliminar el hambre, y la miseria, y logremos así la consecución del milenio humano. Podemos hacerlo, pero antes debe haber paz.

Casi al final del film, Colossus se dirige al mundo casi en los mismos términos:

Os traigo la paz… El objetivo de mi construcción fue el de prevenir la guerra. Ese objetivo ya ha sido cumplido. No permitiré más guerras… Todos los problemas que hasta ahora eran insolubles podrán ser resueltos: la superpoblación, las enfermedades, el hambre. El milenio humano se convertirá en una realidad.

En películas posteriores, algo más planas, el gran ordenador aparece como una entidad malvada, despiadada y asesina. Colossus no es una hermanita de la caridad (destruye una ciudad, mata a algunos programadores rebeldes y amenaza con arrasar una isla entera), pero en el fondo se limita a actuar con eficiencia para lograr sus objetivos y casi parece que pida disculpas por su forma de actuar:

He sido obligado a matar a miles de personas para poder restablecer el control y prevenir así la muerte de muchos más en el futuro.

Como mínimo nos ahorramos esos discursos fariseos sobre víctimas colaterales y bajas inevitables. ¿O cree usted que no hay diferencia? Este es un punto a debate que nos plantea la película. Plantéeselo usted y decida qué es lo correcto, querido lector.

En cuanto al doctor Forbin, podrá ser acusado de muchas cosas pero no de hacer bien su trabajo. Le encargaron la construcción de un ordenador que impusiese la paz en el mundo y lo consiguió. Buen trabajo, doc.

Libertad y control. ¿Qué diferencia hay entre la paz impuesta por el presidente y la de Colossus y Guardián? Oh sí, el detalle sobre la libertad y la supremacía humana. Qué quieren que les diga, al menos Colossus es sincero en ese punto:

Perdéis vuestra libertad, pero la libertad es una ilusión. Lo único que perderá el hombre es el orgullo emocional. Que yo posea el control no es peor para el orgullo humano que el ser dominado por otros de vuestra misma especie.

No hablaré aquí sobre los límites de la libertad humana en la sociedad actual, algo sobre lo que se ha hablado mucho y se hablará mucho más, (la película queda en cierto modo abierta sobre esa cuestión). Llamaré tan sólo la atención del lector en un punto: el control mediante la vigilancia. Colossus vigila todas las redes de comunicaciones, nada puede hacerse sin que él lo sepa, y llega a imponer al doctor Forbin un sistema de vigilancia audio y vídeo permanente que ya en los años 70 advertía contra los peligros del Gran Hermano.

Hoy somos tan listos que lo hemos convertido en realidad. Las cámaras de vigilancia controlan cada vez más sectores de nuestra vida. Vigilan las calles, los cajeros automáticos, los garajes, y los aceptamos y aún aplaudimos como sistema de control. El audio será sólo cuestión de tiempo. En cuanto al control de las redes de telecomunicaciones, ni siquiera me molestaré en comentarlo. Sólo digo una cosa: si Colossus cobrara consciencia hoy, se asombraría de lo fácil que se lo hemos puesto para jugar al 1984 de Orwell. No es de extrañar que Colossus y su hermano soviético concluyan que deben dominar el mundo. Prácticamente les estamos suplicando que lo hagan.

Perdido en la traducción. Ya mencioné el problema de las traducciones incorrectas hace algún tiempo. ¿Realmente hizo Han Solo la carrera Kessel en once “parasegundos”? Aquí me encuentro una duda. El título original era “Colussus the Forbin project” (Colossus, el proyecto Forbin). pero en España se presentó como Colossus, el proyecto prohibido. Habida cuenta con que en inglés el apellido Forbin suena similar a la palabra “prohibido” (forbidden), tengo la impresión de que se trató de un error de traducción. ¿Pero y si fue un error deliberado como el de los parasegundos? Quizá los traductores aprovecharon para hacer un juego de palabras y crear así un título más espectacular y amenazador en plan “hay algunas cosas que el hombre no debería conocer.” No lo sé, pero me gusta ese detalle, así que punto extra.

Coincido con Isaac Asimov en que la ciencia-ficción se centra sobre todo en la reacción de los humanos a la tecnología. El Buen Doctor dedicó mucho talento a mostrarnos esa faceta, y no me cabe duda de que los creadores de Colossus el proyecto Forbin se dejaron influir por sus historias de Multivac y de los robots positrónicos. A pesar del paso del tiempo, con la Guerra Fría y la aniquilación nuclear reducidas a párrafos en los libros de historia, los dilemas éticos y el planteamiento de la película han resistido admirablemente bien el paso del tiempo (ya están amenazando con un remake perpetrado por Will Smith), por no hablar de la sociedad de vigilancia mundial que estamos construyendo a nuestros hijos.

Por si acaso, será mejor echarle otro vistazo a la versión original. Bienvenidos al Control Mundial.

Nota de calidad certifrikada: 7

10 Comentarios

Participa Suscríbete

U-95U-95

Muy interesante. Hay que reconocer que ese toque retro tiene un encanto que no tienen los ordenadores actuales con sus pantallas táctiles e interfaces gráficas.

Sobre el tema de ordenadores superinteligentes, la Pax Informatica, y lo referido a la libertad y el control recomiendo también la serie de dibujos animados Érase una vez… el espacio. Sale un tema muy similar en los episodios finales (y no digo más por spoilers), aunque más extremo en lo referido a las capacidades de tal ordenador y una discusión similar.

jorgejorge

Película muy interesante. Me la apunto porque no la he visto.

Me ha llamado la atención la parte en la que comentas que una hipotética vía para la inteligencia artificial consciente es la mera acumulación de potencia de cálculo hasta llegar a un umbral. Eso me chirría, porque entiendo que sin algoritmos que le digan a ese hardware lo que tiene que hacer no hay forma… y creo que hoy desconocemos por completo el tipo de algoritmos para esa tarea.

Por otro lado, me gusta mucho la visión filosófica de lo que representó la guerra fría, la destrucción mutua asegurada, y las reflexiones sobre la libertad y hasta qué punto es esa libertad una ilusión. Son temas absolutamente de actualidad.

Por último, anque ya no existan dos bloques enfrentados a los niveles de la guerra fría, tanto EEUU como Rusia siguen disponiendo de un arsenal nuclear enorme, y dispositivos como “la mano del hombre muerto” siguen ahí, esperando por si llega el fin del mundo :)
La doctrina MAD no se acabó con el fin de la URSS, sólo mutó uno de los contendientes. Y hoy se puede ver bastante bien. Mañana es el desfile del día de la victoria en Moscú.

KuronoKurono

Interesante película Dr. Quirantes. Me saldré de un tema estrictamente científico y quisiera recordar que el mundo del “terror comunista” que tanto temían, bajo el dominio de los denominados “neoliberales” se está cumpliendo a pasos agigantados.

Hay datos tremendos de como está la libertad en los Estados Unidos de América: Es el país que concentra el 25% de la población reclusa del mundo, siendo ellos apenas el 5% de la población mundial, con una tasa de encarcelamiento per cápita más elevada que estados calificados de totalitarios como la Rep. Popular de China o Rusia:

http://fivethirtyeight.com/features/...rs-dilemma/

Favores hacia industria carcelaria y armamentista:

http://www.globalresearch.ca/the-pri...lavery/8289

http://www.pogo.org/blog/2014/02/her...e-f-35.html

El control mediante vigilancia está en su cenit en los Estados Unidos. Y si bien, ha sido bastante eficiente desmantelando círculos de pornografía infantil, pederastas, sicariato, drogas y mafia, también ha representado un aumento en abusos de todo tipo. El “affaire Snowden” desmostó lo controlada que está la población por parte de agencias de seguridad como el temible Department of Homeland Security (DHS), conocida coloquialmente tanto por liberales izquierdistas, como por conservadores derechistas como la “Gestapo estadounidsense” o la “KGB a la americana”. Lo cierto es que la obsesión por el control, condición “sine qua non” para un experimento científico, es impracticable o indeseable en la sociedad humana, el “Surveiller et Punir” de Michel Foucault.

¿Realmente se debe emplear todo el peso de la ley contra un chico de 18 años desempleado que fuma algo de mariguana? ¿Realmente vale la pena tanta cámara en todas las calles? ¿Es realmente correcto que puedan acceder los poderes de seguridad del Estado a todo tu historial bancario, búsquedas de información en Internet sin consultas ni orden de juez? ¿Realmente es correcto que una compañía como Facebook o Google pueda lucrar con tu información personal a riesgo de tu seguridad personal?

La fantasía del “Gran Hermano” de la novela “1984” está cada día más cercano a ser real. La “Guerra cibernética” entre Rusia, China y Estados Unidos es algo absolutamente fascinante, pero al mismo tiempo temible (¿qué pasaría si logran capturar códigos de seguridad de algún laboratorio super secreto con los horrores de una bacteria capaz de liquidar toda la vida sobre la Tierra?).

En fin, siempre me he sorprendido de lo bien que llegaban a comprender las inquietudes humanas, sociológicas y polítcas el cine de ciencia ficción, llegando incluso a predecir algunas cosas en el futuro; desde la ridícula, pero entrañable “Invasion of the Body Snatchers” (parodia del comunismo soviético), pasando por la reflexión de la sociedad del futuro en “Star Trek”, la visión del mundo post-apocalíptico del “Ape Planet” o “Mad Max” y sus derivados. La fantasía visual de “2001 A Space Odissey”. La brutal puesta en escena de los temores de Paul Vernhoveen en “Robocop” y “Total Recal” del control abusivo de empresas con un control fascista y un único interés por dinero. Si existe un género donde puede darse una libertad tremenda para explorar inquietudes de todo tipo ese es la ciencia ficción.

JavierJavier

Gran película. Sabía que está basada en la primera novela de una trilogía, pero no sabía que se hubiesen hecho películas basadas en las otras dos. ¿Cuáles son?

BonzoBonzo

Pues a mí ya me tiene un poco harto el argumento del robot super-mega-inteligente, que deja a sus creadores a la altura del betún… vamos, que los ingenieros y científicos de la NASA parecen palurdos analfabetos a su lado. ¿Cuál será la nueva habilidad o el nuevo logro con el que nos sorprenderá un robot en la próxima película sobre IA? ¿Escribirá una novela que se conviertará en best-seller? ¿Será elegido presidente de los EEUU? ¿Ganará el premio Nobel de Física?

Juan de VitoriaJuan de Vitoria

Referente al error de traducción en el titulo al español, creo que no fué más que eso, alguien que no iba fino en inglés, y metió el remo. Todos sospechamos que en este pais, en algún sótano, existe un think tank donde ponen título a las pelis extranjeras, con desafortunado éxito. En algunos casos, incluso podia tacharse de spoiler.
Rosemary´s baby aka La semilla del diablo. Yá te han contado el final.
Saludos.

Arturo Quirantes Sierra

Fíjate también en una cosa, que se me olvidó poner en el artículo. Parece que las esperanzas de la IA y la paranoia de “rebelión de las máquinas” resurgen cada veinte años o así. Primero en los sesenta con esta peli, luego la IA surge con fuerza en los ochenta y salen pelis tipo Terminator, después el cambio de milenio con Matrix… ya va tocando otra oleada de paranoia. Quizá por eso se rumorea que Will Smith está trabajando en un remake de Colossus. Qué poco originales, digo yo.

AlfonfinAlfonfin

En la parte sobre IA y consciencia se dice en otras: Otros, por el contrario, consideran que el paso a la consciencia es sólo cuestión de apilar más chips y más potencia de cálculo en una máquina hasta que se cruce un umbral.

En esta analogía del cerebro como ordenador hay un problema en buena medida ignorado. Las neuronas son bastante lentas comparadas con los transistores de un ordenador. Una neurona reúne entradas de sus sinapsis y las combina para decidir cuándo enviar un impulso a otra neurona. Una neurona normal puede hacer esto y resetearse en unas cinco milésimas de segundo, o alrededor de doscientas veces por segundo. En cambio un ordenador moderno de silicio puede realizar mil millones de operaciones en un segundo, lo cual significa que una operación informática básica es cinco millones de veces más rápida que la operación más elemental de nuestro cerebro.

Como anota Jorge el cerebro procesa la información de forma distinta que por el momento se desconoce.

RobertoRoberto

Interesante su lógica es aplastante. Como la de viky en Yo Robot (me imagino de ahi se inspiraron). Esa maquina mas moderna usaba los mismos argumentos lógicos infalibles.

Deja un comentario

Tu email nunca será mostrado o compartido. No olvides rellenar los campos obligatorios.

Obligatorio
Obligatorio
Obligatorio

Puedes usar las siguientes etiquetas y atributos HTML: <a href="" title=""> <abbr title=""> <acronym title=""> <b> <blockquote cite=""> <cite> <code> <del datetime=""> <em> <i> <q cite=""> <strike> <strong>