¿HABRÁ MAÑANA PARA LA CONCIENCIA, INTENCIÓN Y VOLUNTAD?

 EL PAÍS, Madrid, 2 de julio de 2016

Tribuna

Un robot y el piloto de Hiroshima

Irene Lozano

Una de las historias más estremecedoras de la II Guerra Mundial es la de Claude Eatherly, piloto integrante del escuadrón que bombardeó Hiroshima, cuya trágica experiencia nos ayuda a asomarnos a la era de la robotización. En la madrugada del 6 de agosto de 1945, el comandante Eatherly, de 26 años, llevó a cabo el vuelo de reconocimiento sobre la ciudad japonesa, poco antes de que el Enola Gay descargara la mortífera bomba. Eatherly regresó a su base y durante varios días permaneció en silencio, digiriendo su conmoción.

De regreso a EE UU, pareció adaptarse a la vida normal durante unos años. Sin embargo, se sentía un criminal, responsable de una acción atroz que había dejado más de 150.000 muertos y a la que debía corresponder un castigo equivalente. Pero las leyes de la guerra exoneraban de cualquier crimen a quienes habían tomado la decisión y a él mismo. Mientras el insomnio y la pesadumbre le iban carcomiendo por dentro, la sociedad rendía homenajes a su heroísmo. La imposibilidad de expiar su culpa le llevó a un primer intento de quitarse la vida, al que sucederían varios más.

Lejos de diluir su sentimiento de responsabilidad, la impunidad lo acrecentaba cada día hasta ocupar su vida por entero. Necesitaba ser castigado y comenzó a cometer pequeños delitos. Asaltó gasolineras, falsificó cheques, cometió atracos, asaltó cajeros. Nunca se llevaba el botín o lo donaba a organizaciones benéficas, pues solo quería ser tratado como un criminal.

Mucha gente lo tomó por loco; otros achacaron su comportamiento a la búsqueda de notoriedad. La realidad es que aquel hombre atormentado solo se estaba comportando como una persona que quiere ser reconocida como tal, es decir, como agente moral responsable de sus actos. Al reclamarse culpable, ejercía su autonomía moral, y en última instancia su libertad y su individualidad. Lo que pedía a gritos con sus pequeños delitos era justamente no ser considerado un robot, sino un ser humano. Verse como un autómata desprovisto de conciencia, voluntad, libre albedrío, como si simplemente hubiera sido programado para participar en una masacre, le convertía en algo menos que humano, una perspectiva insoportable. Su desasosiego lo llevó a nuevos intentos de suicidio y a ser ingresado en centros psiquiátricos militares, pero solo encontró cierto consuelo cuando empezó a cartearse con el filósofo Gunther Anders. Él sí pudo darle una explicación, demostrando una vez más cuánto ayuda la filosofía si se dedica a las vidas concretas de los seres reales. Anders le explicó exactamente cómo se sentía: “Inocentemente culpable”.

El terror de ser destruidos por nuestras propias criaturas puebla la imaginación humana

La historia de Claude Eatherly ilumina nuestra conversación sobre la revolución robótica. O mejor dicho, la iluminaría si la estuviéramos manteniendo. Sentimos la fascinación de ser la única especie sobre la tierra capaz de crear la tecnología que nos permite superar nuestras limitaciones. Nos impresiona nuestra propia capacidad, pero también nos hace recelar. Como ha señalado Antonio Damasio, si nos pueden amenazar los robots es porque somos únicos; la amenaza se debe a nuestra excepcionalidad, pero eso no la empequeñece: el terror a ser destruido por nuestras propias criaturas puebla la imaginación humana desde que Mary Shelley escribió Frankenstein.

Desde ese temor más o menos difuso, vemos el advenimiento de un mundo que no se parece en nada al nuestro. Cuando tratamos de imaginar cómo será, sentimos una punzada de extrañeza, pues al comparar los sentimientos que nos provoca con los que nos son familiares no conseguimos identificarlos. Tal vez lo encajaríamos si debatiéramos sobre cuestiones de las que es urgente conversar. Necesitamos el punto de vista humanístico, el único que puede darnos respuestas sobre nuestra condición en la era de la robótica. Si hoy nuestra capacidad de hacer gracias a la tecnología supera nuestra capacidad de sentir respecto a lo que estamos haciendo, es a causa de ese espeso silencio humanístico.

Resulta paradójico que hace 70 años, cuando Isaac Asimov imaginó un mundo de robots, viera enseguida la necesidad de establecer una guía para su comportamiento, las leyes de la robótica. Aquello que él juzgó necesario en la ficción no parece serlo hoy para la realidad. Pero lo es, si consideramos la literatura de ciencia ficción “como vehículo de sentimientos y deseos de la masa”, tal como la definió Hannah Arendt. Lo relevante de aquel género literario no es lo que nos desvelaba sobre las máquinas, sino lo que nos dice del ser humano, de sus anhelos y temores. Asimov ya nos hablaba de ese íntimo desconcierto que necesitamos compartir urgentemente, e incorporar a cada noticia sobre una nueva habilidad en los robots, porque afectan al núcleo de la condición humana.

Las máquinas carecen de voluntad, intención, conciencia; pero ¿tendrán mañana esas cualidades?

Ahora que los ensueños de Asimov han cobrado realidad y ya no los conocemos por las novelas, sino a través de los informativos, resulta pasmoso que la necesidad de guiar moralmente a los robots no forme parte de la conversación sobre la revolución tecnológica. Un robot (del checo robota, trabajo forzado) carece de voluntad, intención, conciencia; por tanto, no puede ser agente moral. Al menos, no con el desarrollo actual de la inteligencia artificial. Pero ¿podrán tener esas cualidades mañana? Y entretanto, ¿quién será responsable de sus actos? No se trata de un debate teórico ni abstracto, sino de algo tan cercano como los coches sin conductor. No tardará mucho en llegar el día en que circulen con normalidad. Si irrumpe un niño corriendo en la calzada, ¿qué hará la máquina? Frenará bruscamente poniendo en riesgo la vida de los ocupantes del coche —sus dueños—, o no frenará y preferirá atropellar al niño. En cualquiera de los dos casos, ¿podríamos considerarlo moralmente responsable de esa decisión? Y si no a él, ¿a quién? ¿Al dueño del coche? ¿Al programador? ¿Al fabricante?

Soy de las que creen que la tecnología es neutral y quienes tenemos la voluntad de usarla para el bien o el mal somos los humanos. Sin embargo, esa neutralidad moral no significa en modo alguno que la tecnología no incida sobre la naturaleza humana y la modifique. Si lo hizo el reloj mecánico, cómo pensar que no lo harán los robots. Tampoco pienso que debamos temerlos por defecto. Lo verdaderamente preocupante es que la robotización esté produciéndose en un momento de depresión absoluta de las humanidades, ostracismo de la filosofía y menosprecio de la cultura que quiere ser algo más que entretenimiento. No porque estas disciplinas nos vayan a dar todas las respuestas, sino porque al menos nos ayudarían a formularnos las preguntas adecuadas. El hecho de que no nos estemos planteando ninguna no indica nada bueno. En todo caso, si seguimos prescindiendo de las humanidades —que es como decir de nuestra humanidad—, no podremos culpar a los robots, sino a nuestra propia negligencia como sociedad que ha despreciado su valor. Quizá estemos despojándonos de las más útiles y genuinas herramientas para conocer mejor nuestro yo en la que será nuestra nueva circunstancia.

(*) Irene Lozano es escritora y exdiputada.

Fuente:

http://elpais.com/elpais/2016/06/29/opinion/1467215953_945426.html 

DOS VECES 15, NO DAN 30 (II)

EL PAIS, Madrid, 24 de Mayo de 2011
ERE
ROSA MONTERO

Las generaciones, dicen los expertos, duran 15 años. Y más o menos cada 15 años vienen produciéndose en nuestro país movilizaciones populares. Como la de 1994, con los campamentos del 0,7% del PIB para los países pobres. Los brotes anteriores se desdibujan un poco por las anomalías de la dictadura y sus secuelas, pero, aun así, podríamos citar el entusiasmo para el cambio socialista de 1982, así como nuestro 68, que sucedió en 1969, con las algaradas antifranquistas y el estado de excepción. Cíclicamente reverdece la esperanza y gracias a esos aldabonazos morales nos mantenemos vivos.

Claro que el Movimiento del 15-M ha sido el más grande, sin duda por la enormidad de la crisis que lo ha disparado. Una crisis económica pero sobre todo ética, de decencia y credibilidad en la gestión pública. Los políticos llevan dos años siendo nuestro tercer problema más grave, según las encuestas, tras el paro y la economía. La gente está cansada de ser maltratada, mentida y desvalijada por mentecatos. Los del 15-M han sabido consensuar una lista de peticiones imaginativas, muchas muy sensatas, pero lo mejor del Movimiento es el estruendo de su protesta y su amplitud: distintas procedencias ideológicas y adhesiones de todas las edades. El 15-M es un gigantesco espejo de Blancanieves que muestra una profunda verdad social: estamos hartos. Una verdad que ha tenido su reflejo en las elecciones, y no solo en el notable aumento de los votos blancos y nulos (sumados, constituirían la cuarta fuerza política del país) y en el ascenso de partidos como UPyD o el marchito IU, sino en el batacazo del PSOE. Si el PP no se da cuenta de hasta qué punto su triunfo es un resultado de esa furia social, lo pagará muy caro. Como dice el mejor eslogan del 15-M: "Políticos: somos vuestros jefes y os estamos haciendo un ERE".

TRIBUNA: IRENE LOZANO
¿Y quién administra la indignación?

Hay gente que se ha indignado con los indignados. Juzgan la protesta contraproducente porque el PP ha barrido en las elecciones, al tiempo que consideran desquiciado un país en el que la izquierda toma las calles, mientras la derecha llena las urnas. No han entendido nada. La protesta de los indignados no es la causa del batacazo del PSOE, sino la consecuencia. Situados ante la disyuntiva de ratificar las políticas antisociales del PSOE o las que hará el PP, los ciudadanos han contestado que un recorte es un recorte es un recorte...

La reclamación de una regeneración democrática no es despreciable, desde luego. Pero seamos sinceros: cuánto mejor soportábamos la corrupción y la falta de democracia interna en los partidos cuando teníamos trabajo y un estatus razonable. Si los ciudadanos han clamado contra el bipartidismo es porque no ofrece alternativas reales en política económica. Y el PSOE no solo ha fracasado en ojear su presunto pedigrí socialdemócrata, sino que ha impulsado las reformas de signo neoliberal: atémonos los machos porque esto reduce su margen de crítica desde la oposición. Algunos potenciales votantes socialistas se han quedado en casa o se han decantado por otro partido (de ahí la subida de IU y UPyD) mientras los más animosos marchaban a la Puerta del Sol. El peor resultado de la historia del PSOE no se debe a un voto masivo al PP -que ha cosechado solo un tercio del millón y medio de sufragios perdido por el PSOE-, sino a que el amplio sector ciudadano con preocupaciones sociales ha visto cómo Zapatero desertaba de la inspiración socialdemócrata para encarrilarse por las vías del economicismo estrecho, el mercado sin ataduras y la irresponsabilidad de los poderes económicos y financieros.

El Movimiento 15-M, por el contrario, nos obliga a pensar políticamente, como quería Tony Judt. Algunos han tratado de encontrar en los miles de carteles de Sol un programa, cuando lo que sale de allí es un aullido. Es el grito de quienes ven encanijarse su condición de ciudadanos en una democracia autosatisfecha. Se trata de una realidad que discurría de forma subterránea y ha sacado a la luz el 15-M, pero que no se agota con estas elecciones ni lo hará con las del año que viene. Intuyo que estamos viviendo el inicio de una serie de revueltas que sacudirán toda Europa durante años.

Los gritos de los indignados se han etiquetado rápidamente con la épica revolucionaria, pero reclamaban eso tan reformista que la izquierda oficial ha soltado como si fuera un pesado lastre: el ideario socialdemócrata, según el cual el problema no es individual, sino colectivo; la política debe definir el marco jurídico, social y económico en que se desenvuelve la actividad del mercado y no a la inversa; y la función del Estado no es proporcionar a los banqueros los medios para hacerse más ricos, parafraseando a Keynes, sino impartir algo de justicia en las relaciones económicas. Mientras los partidos de izquierda se muestren temerosos de defender ese discurso, lo hará la calle.

Y lo hará con todo sentido. Porque afirmar que la derrota del PSOE se debe a la crisis encierra una de las contradicciones políticas más gloriosas de las últimas décadas. Una crisis provocada por la codicia financiera y la burbuja inmobiliaria -sendos fracasos del mercado- debería haber desembocado en una deslegiti-mación de los postulados neoliberales, un discurso que explicara las causas de la crisis y señalara a los responsables, además de no avergonzarse de pedir nuevas regulaciones para evitar futuras crisis. Sin embargo, ha ocurrido lo contrario: los mercados han renovado sus ímpetus al asumir los gobernantes con toda naturalidad sus exigencias. Con asombro, hemos visto al ministro José Blanco de gira para vender el stock inmobiliario español, en lugar de trabajar por el derecho de los españoles a una vivienda consagrado en la Constitución. Por no hablar de ese atribulado Papandreu al que solo le falta poner en venta a Zeus y todos los dioses del Olimpo.

Mientras toda la ambición política de la izquierda oficial consista en hacer méritos con el déficit para parecerse a la derecha, sus votantes contestarán como lo han hecho en estas elecciones: no con mi voto. A menos que recupere y actualice -es decir, globalice- el discurso socialdemócrata, la derecha seguirá ganando en las urnas y las calles hervirán. Se cuestionará la propia democracia, como hemos visto, porque si no hay alternativas económicas, la elección que se ofrece a los ciudadanos es, en efecto, ficticia: una triquiñuela semejante a la que se le hace a un hijo adolescente cuando se le pregunta si quiere comer con los abuelos el sábado o el domingo, para que crea estar eligiendo algo, cuando en realidad le estamos imponiendo una pesada reunión familiar. Si los mercados no están controlados por el poder democrático se hurta a los ciudadanos el autogobierno en asuntos económicos, los fundamentales. Por eso han estallado: no quieren compartir mesa con esos voraces abuelos de los mercados y encima pagarles el festín, pero no encuentran a nadie que administre su indignación.