El futuro de la humanidad en manos de la IA

Nick Bostrom ¿Qué sucede cuando nuestras computadoras se vuelven más inteligentes que nosotros?

Un equipo de expertos investiga en un Instituto de Oxford los riesgos de extinción del ser humano.

Necesitamos sabiduría para enfrentar el futuro. Para saber si los progresos tecnológicos de vanguardia van en la dirección adecuada o no; si favorecen al ser humano o todo lo contrario. Para tener una idea de qué hacer si se presentan escenarios que ponen en riesgo la supervivencia de la especie, como los derivados de la amenaza nuclear, la modificación de microbios letales o la creación de mentes digitales más inteligentes que el hombre. A reflexionar sobre este tipo de cuestiones se dedican un puñado de cerebros en un lugar ubicado en Oxford y llamado el Instituto para el Futuro de la Humanidad.

Al frente de un heterodoxo grupo de filósofos, tecnólogos, físicos, economistas y matemáticos se encuentra un filósofo formado en física, neurociencia computacional y matemáticas, un tipo que desde su adolescencia se encontró sin interlocutores con los cuales compartir sus inquietudes acerca de Schopenhauer, un sueco de 42 años que se pasea por las instalaciones del Instituto con un brebaje hecho a base de vegetales, proteínas y grasas al que denomina elixir y que escucha audiolibros al doble de velocidad para no perder un segundo de su preciado tiempo. Se llama Nick Bostrom, y es el autor deSuperinteligencia: Caminos, Peligros, Estrategias, un libro que ha causado impacto, una reflexión acerca de cómo afrontar un futuro en que la inteligencia artificial supere a la humana, un ensayo que ha recibido el respaldo explícito de cerebros de Silicon Valley como Bill Gates y Elon Musk, de filósofos como Derek Parfit o Peter Singer, de físicos como Max Tegmark, profesor del Massachusetts Institute of Technology. Un trabajo que, además, se coló en la lista de los libros más vendidos que elabora The New York Times Book Review. La ONU le reclama para que exponga su visión, sociedades científicas como The Royal Society le invitan a dar conferencias, una de sus charlas TED lleva ya contabilizados más de 1.747.000 visionados. Y Stephen Hawking ya ha alertado al mundo: hay que tener cuidado con la Inteligencia Artificial.

El Instituto para el Futuro de la Humanidad —FHI, siglas en inglés— es un espacio con salas de reuniones bautizadas con nombres de héroes anónimos que con un gesto salvaron el mundo —como Stanislav Petrov, teniente coronel ruso que evitó un incidente nuclear durante la Guerra Fría— donde fluyen las ideas, los intercambios de impresiones, donde florecen hipótesis y análisis. Sobre todo, por las tardes-noches: el jefe es, como él mismo confiesa, un noctámbulo; se queda en la oficina hasta las dos de la madrugada.

“En el momento en que sepamos cómo hacer máquinas inteligentes, las haremos”, afirma Bostrom, en una sala del Instituto que dirige, “y para entonces, debemos saber cómo controlarlas. Si tienes un agente artificial con objetivos distintos de los tuyos, cuando se vuelve lo suficientemente inteligente, es capaz de anticipar tus acciones y de hacer planes teniendo en cuenta los tuyos, lo cual podría incluir esconder sus propias capacidades de modo estratégico”. Expertos en Inteligencia Artificial que cita en su libro aseguran que hay un 90% de posibilidades de que entre 2075 y 2090 haya máquinas tan inteligentes como los humanos. En la transición hacia esa nueva era habrá que tomar decisiones. Inocular valores morales a las máquinas, tal vez. Evitar que se vuelvan contra nosotros.

A analizar este tipo de supuestos y escenarios se dedica este hombre que en estos días lee intensivamente sobre machine learning (aprendizaje automático, rama de la inteligencia artificial que explora técnicas para que las computadoras puedan aprender por sí solas) y economía de la innovación. Para Bostrom el tiempo nunca es suficiente. Leer, leer, leer, asentar conocimientos, profundizar, escribir. “El tiempo es precioso. Es un bien de gran valor que constantemente se nos desliza entre los dedos”.

La gente parece olvidar la guerra nuclear. Un cambio para mal en la geopolítica podría ser un peligro

Estudiar, formular hipótesis, desarrollarlas, anticipar escenarios. Es lo que se hace en este Instituto donde se cultiva la tormenta de ideas y la videoconferencia, un laberinto de salas dominadas por pizarras vileda con diagramas y en cuyo pasillo de entrada cuelga un cartel que reproduce la portada de Un mundo feliz, la visionaria distopía firmada por Aldous Huxley en 1932. Un total de 16 profesionales trabajan aquí. Publican en revistas académicas, hacen informes de riesgos para compañías tecnológicas, para gobiernos (por ejemplo, el finlandés) o para la ONU, que se dispone a crear su primer programa sobre Inteligencia Artificial —uno de cuyos representantes andaba la semana pasada por las oficinas del FHI—. Niel Bowerman, director adjunto, físico del clima y exasesor del equipo político de Energía y Medio Ambiente de Barack Obama, explica que en el instituto siempre estudian cómo de grande es un problema, cuánta gente trabaja en él y cómo de fácil es realizar progresos en esa área para determinar los campos de estudio.

Bostrom es el hombre que comanda el Instituto, el que decide por dónde se transita, el visionario. Desarrolla su labor gracias al impulso filantrópico de James Martin, millonario interesado en las cuestiones de los riesgos existenciales del futuro que impulsó el FHI hace diez años para que se estudie y reflexione en torno a aquellas cosas en las que la industria y los gobiernos, guiados por sus particulares intereses, no tienen por qué pensar.

Al filósofo sueco, que formó parte en 2009 de la lista de los 100 mayores pensadores globales de la revista Foreign Policy, le interesa estudiar, sobre todo, amenazas lejanas, a las que no le gusta poner fecha. “Cuanto más largo sea el plazo”, dice, «mayores son las posibilidades de un escenario de extinción o de era posthumana”. Pero existen peligros a corto plazo. Los que más le preocupan a Bostrom son los que pueden afectar negativamente a las personas como las plagas, la gripe aviar, los virus, las pandemias.

En cuanto a la Inteligencia Artificial y su cruce con la militar, dice que el riesgo más claro lo presentan los drones y las armas letales autónomas. Y recuerda que la guerra nuclear, aunque tiene pocas probabilidades de llegar, sigue siendo un peligro latente. “La gente parece haber dejado de preocuparse por ella; un cambio para mal en la situación geopolítica podría convertirse en un gran peligro”.

“Hay una carrera entre nuestro progreso tecnológico y nuestra sabiduría, que va mucho más despacio

La biotecnología, y en particular, la posibilidad que ofrece el sistema de edición genética CRISPR de crear armas biológicas, también plantea nuevos desafíos. “La biotecnología está avanzando rápidamente va a permitir manipular la vida, modificar microbios con gran precisión y poder. Eso abre el paso a capacidades muy destructivas”. La tecnología nuclear, señala, se puede controlar. La biotecnología, la nanotecnología, lo que haga alguien un garaje con un equipo de segunda mano comprado en EBay, no tanto. Con poco se puede hacer mucho daño.

Superada su etapa transhumanista —fundó en 1998 junto a David Pearce la Asociación Mundial Transhumanista, colectivo que aboga de modo entusiasta por la expansión de las capacidades humanas mediante el uso de las tecnologías—, Bostrom ha encontrado en la Inteligencia Artificial el terreno perfecto para desarrollar su trabajo. La carrera en este campo se ha desatado, grandes empresas —Google compró en 2014 la tecnológica DeepMind— y Estados pugnan por hacerse con un sector que podría otorgar poderes inmensos, casi inimaginables.

Uno de los escenarios que proyecta en su libro, cuya versión en español publica el 25 de febrero la editorial Teell, es el de la toma de poder por parte de una Inteligencia Artificial (AI, siglas en inglés). Se produce una explosión de inteligencia. Las máquinas llegan a un punto en que superan a sus programadores, los humanos. Son capaces de mejorarse a sí mismas. De desarrollar grandes habilidades de programación, estratégicas, de manipulación social, de hacking. Pueden querer tomar el control del planeta. Los humanos pueden ser un estorbo para sus objetivos. Para tomar el control, esconden sus cartas. Podrán mostrarse inicialmente dóciles. En el momento en que desarrollan todos sus poderes, pueden lanzar un ataque contra la especie humana. Hackeardrones, armas. Liberar robots del tamaño de un mosquito elaborados en nanofactorías que producen gas nervioso, o gas mostaza.

Esta es simplemente la síntesis del desarrollo de un escenario. Pero, como decía la crítica de Superinteligencia de la revista The Economist, las implicaciones de la introducción de una segunda especie inteligente en la Tierra merecen que alguien piense en ellas. “Antes, muchas de estas cuestiones, no solo las del AI, solían estar en el campo de la ciencia ficción, de la especulación”, dice Bostrom, “para mucha gente era difícil de entender que se pudiera hacer trabajo académico con ello, que se podían hacer progresos intelectuales”.

El libro también plantea un escenario en que la Inteligencia Artificial se desarrolla en distintos sectores de manera paralela y genera una economía que produce inimaginables cotas de riqueza, descubrimientos tecnológicos asombrosos. Los robots, que no duermen, ni reclaman vacaciones, producen sin cesar y desbancan a los humanos en múltiples trabajos.

— ¿Los robots nos enriquecerán o nos reemplazarán?

— Primero, tal vez nos enriquezcan. A largo plazo ya se verá. El trabajo es costoso y no es algo deseado, por eso hay que pagar a la gente por hacerlo. Automatizarlo parece beneficioso. Eso crea dos retos: si la gente pierde sus salarios, ¿cómo se mantiene? Lo cual se convierte en una cuestión política, ¿se piensa en una garantía de renta básica? ¿En un Estado del Bienestar? Si esta tecnología realmente hace que el mundo se convierta en un lugar mucho más rico, con un crecimiento más rápido, el problema debería ser fácil de resolver, habría más dinero. El otro reto es que mucha gente ve su trabajo como algo necesario para tener estatus social y que su vida tenga sentido. Hoy en día, estar desempleado no es malo solo porque no tienes dinero, sino porque mucha gente se siente inútil. Se necesitaría cambiar la cultura para que no pensemos que trabajar por dinero es algo que te da valor. Es posible, hay ejemplos históricos: los aristócratas no trabajaban para vivir, incluso pensaban que tener que hacerlo era degradante. Creemos que las estructuras de significado social son universales, pero son recientes. La vida de los niños parece tener mucho sentido incluso si no hacen nada útil. Soy optimista: la cultura se puede cambiar.

A Bostrom se le ha acusado desde algunos sectores de la comunidad científica de tener visiones demasiado radicales. Sobre todo, en su etapa transhumanista. “Sus visiones sobre la edición genética o sobre la mejora del humano son controvertidas”, señala Miquel-Ángel Serra, biólogo que acaba de publicar junto a Albert Cortina Humanidad: desafío éticos de las tecnologías emergentes.“Somos muchos los escépticos con las propuestas que hace”. Serra, no obstante, deja claro que Bostrom está ahora en el centro del debate sobre el futuro de la Inteligencia Artificial, que es una referencia.

— ¿Proyecta usted una visión demasiado apocalíptica en su libro de lo que puede ocurrir con la humanidad?

— Mucha gente puede quedarse con la impresión de que soy más pesimista con la AI de lo que realmente soy. Cuando lo escribí parecía más urgente tratar de ver qué podía ir mal para asegurarnos de cómo evitarlo.

— Pero, ¿es usted optimista con respecto al futuro?

— Intento no ser pesimista ni optimista. Intento ajustar mis creencias a lo que apunta la evidencia; con nuestros conocimientos actuales, creo que el resultado final puede ser muy bueno o muy malo. Aunque tal vez podríamos desplazar la probabilidad hacia un buen final si trabajamos duramente en ello.

— O sea, que hay cosas que hacer. ¿Cuáles?

— Estamos haciendo todo lo posible para crear este campo de investigación de control problema. Hay que mantener y cultivar buenas relaciones con la industria y los desarrolladores de Inteligencia Artificial. Aparte, hay muchas cosas que no van bien en este mundo: gente que se muere de hambre, gente a la que le pica un mosquito y contrae la malaria, gente que decae por el envejecimiento, desigualdades, injusticias, pobreza, y muchas son evitables. En general, creo que hay una carrera entre nuestra habilidad para hacer cosas, para hacer progresar rápidamente nuestra capacidades tecnológicas, y nuestra sabiduría, que va mucho más despacio. Necesitamos un cierto nivel de sabiduría y de colaboración para el momento en que alcancemos determinados hitos tecnológicos, para sobrevivir a esas transiciones.

Fuente: El País

El Nacimiento de la Astronomía de Ondas Gravitacionales

CIENTIFICOS DETECTAN POR PRIMERA VEZ ONDAS GRAVITACIONALES

Hoy es un día histórico para la ciencia. Hoy se ha anunciado la detección directa ondas gravitacionales, una de las principales predicciones de la Teoría de la Relatividad General de Albert Einstein. El descubrimiento nos abre una nueva ventana a la realidad que nos permitirá estudiar los sucesos más energéticos del Universo de forma totalmente diferente. Ya somos capaces de “ver” directamente algo tan sorprendente como es la fusión de dos agujeros negros situados a millones de años luz de distancia. ¿Y cuál es el aspecto de una onda gravitacional creada por la brutal colisión de dos agujeros negros? Pues ahora, al fin, podemos confirmar que tienen el siguiente aspecto:

Ondas gravitacionales de la señal GW150914 detectadas por los dos interferómetros de LIGO (LIGO).

Después de semanas de rumores, el equipo del observatorio Advanced LIGO (Advanced Laser Interferometer Gravitational-Wave Observatory) ha confirmado que, efectivamente, el 14 de septiembre de 2015 los dos interferómetros del experimento detectaron la sutil deformación del espaciotiempo causada por el paso de ondas gravitacionales creadas por la colisión de dos agujeros a 1300 millones de años luz de la Tierra, uno de 36 masas solares y otro de 29. La fusión creó un nuevo agujero negro de 62 masas solares, o lo que es lo mismo, emitió nada más y nada menos que el equivalente a 3 masas solares en forma de ondas gravitacionales. Los dos instrumentos, uno situado en Livingston (Louisiana) y el otro en Hanford (Washington), detectaron la misma señal, denominada GW150914, con un intervalo de siete milisegundos de diferencia, confirmando de paso que las ondas se mueven a la velocidad de la luz, tal y como había predicho Einstein.

Un hecho que ha pasado desapercibido en las noticias de la mayoría de medios es que la señal GW150914 confirma también por primera vez la existencia de los agujeros negros. Hasta ahora las únicas pruebas directas de la existencia de estos astros era su efecto en otros objetos astronómicos como estrellas o gases, pero todas ellas eran bastante discutibles. Sin embargo, esta señal es una prueba inequívoca de que son reales, pues solo dos agujeros negros estelares son capaces de producir las ondas gravitacionales observadas.

Modelo numérico de la señal GW150914. La escasa separación entre los objetos es una prueba inequívoca de que se trataba de agujeros negros (Abbott et al.).

La fusión de estos dos agujeros negros fue tan increíblemente violenta que durante un momento emitió más energía que la luz combinada de todas las estrellas del Universo juntas (!!). El patrón de las ondas detectadas concuerda casi perfectamente con los modelos teóricos. Y no es una cuestión trivial, porque en las últimas décadas habían surgido varios modelos teóricos alternativos que predecían ondas ligeramente distintas a las predichas por la Relatividad General. De hecho, la señal es tan “perfecta” que los investigadores de LIGO pensaron en un primer momento que era una “inyección”, es decir, una señal falsa introducida en el sistema para comprobar que el personal y los equipos del detector están alerta.

Como se ve en las imágenes, la longitud de onda de las ondas disminuye a medida que los agujeros se acercan, al mismo tiempo que su amplitud aumenta hasta culminar en la brutal fusión final. Midiendo la intensidad de la onda, los investigadores han determinado que el suceso se produjo a una distancia de entre 750 y 1860 millones de años luz. En cuanto a la posición, los dos detectores de LIGO no tienen la suficiente resolución espacial como para determinar de dónde procede exactamente la señal, pero se puede estimar de forma aproximada como vemos en la siguiente imagen:

Región del cielo de donde pudo venir la señal ().

Vídeo a cámara lenta reconstruyendo la fusión de los dos agujeros negros que causaron la señal GW150914:

Vídeo de la apariencia aproximada de la fusión en luz visible (los agujeros negros aparecen sin discos de acreción):

El camino hasta el anuncio de hoy ha sido largo y complejo, un auténtico homenaje al tesón y la fuerza de voluntad del ser humano. Einstein predijo la existencia de las ondas gravitacionales en 1916 dentro del marco de la Relatividad General, pero no sería hasta los años 60 cuando se crearon los primeros detectores. Fue entonces cuando Joseph Weber ideó un instrumento con masas suspendidas que debían vibrar al paso de una onda gravitacional. Lamentablemente, estos primeros instrumentos eran muy poco sensibles para detectar nada. Todo cambió en 1974 cuando Joseph Taylor y Russell Hulse detectaron de forma indirecta las primeras ondas gravitacionales emitidas por una pareja de estrellas de neutrones. “¿En 1974? Pero ¿no habíamos dicho que es ahora cuando se habían descubierto estas ondas”, puede que se pregunte más de uno. Sí, pero fíjate que hemos dicho de forma “indirecta”. El sistema binario de estrellas de neutrones PSR B1913+16 se acerca cada vez más al perder energía en forma de ondas gravitacionales y, gracias a que somos capaces de medir su periodo orbital con enorme precisión, es posible comprobar que el ritmo de acercamiento concuerda con lo predicho por la Relatividad General. O sea, una prueba indirecta. Pero lo importante es que PSR B1913+16 demostró a la comunidad científica que las ondas gravitatorias estaban ahí. Ahora había que detectarlas.

Funcionamiento simplificado de LIGO (Abbott et al.).

A principios de siglo se pusieron en marcha varios detectores por todo el mundo destinados a descubrir la presencia de estas ondas, todos ellos construidos usando el principio de un interferómetro láser. El fundamento de estos instrumentos es sencillo: un haz láser se divide en dos mediante un espejo y cada uno viaja a lo largo de dos trayectorias perpendiculares de la misma longitud. Después de rebotar en un espejo al final, los dos haces vuelven a unirse en el origen y medimos si la distancia recorrida es la misma para ambos. Porque las ondas gravitacionales se caracterizan, precisamente, por distorsionar el espaciotiempo. Si una onda gravitacional pasa por el detector, este se deformará ligeramente y podremos detectar su presencia teniendo en cuenta que la longitud de los dos brazos ya no será la misma.

Ni que decir tiene, la deformación es tan minúscula que es necesario usar al menos otro detector similar para comprobar que la señal es real y no se debe al ruido del instrumento (hay que tener en cuenta que los movimientos sísmicos o el tráfico que pasa cerca del detector generan una distorsión de mayor intensidad que cualquier onda gravitacional real). Usando este diseño, en Estados Unidos se creo el experimento LIGO, el GEO600 en Alemania, el Virgo en Italia y el TAMA 300 en Japón. Desde 2002 estos detectores comenzaron a observar el Universo con nuevos ojos, pero, para sorpresa de los investigadores, no lograron descubrir nada.

Las ondas debían existir, pero estaba claro que eran más débiles de lo predicho por los modelos más optimistas. O quizás las fusiones de estrellas de neutrones y agujeros negros -los fenómenos más energéticos que pueden descubrir estos instrumentos- eran menos frecuentes de lo esperado. En cualquier caso, solo había dos opciones: esperar más tiempo y aumentar la sensibilidad de los instrumentos. LIGO, formado por dos detectores dotados de sendos brazos de 4 kilómetros de longitud cada uno, decidió mejorar sus instalaciones para crear Advanced LIGO -o AdvLIGO-, capaz de detectar con mayor probabilidad las ondas gravitacionales de fusiones de agujeros negros y estrellas de neutrones, púlsares deformados o supernovas. En 2015 Advanced LIGO comenzó sus operaciones, esperando encontrar distorsiones superiores a la millonésima parte del tamaño de un protón (!!!).

Recreación de la señal GW150914 (LIGO).

Los resultados negativos de los interferómetros terrestres tipo LIGO hicieron que muchos investigadores criticasen el gasto de esta iniciativa (1100 millones de dólares en los últimos 40 años) y comenzasen a apostar seriamente por otra técnica, denominada PTA (Pulsar Timing Array). Este método, completamente distinto e independiente de los inteferómetros terrestres, consiste en usar la señal emitida por varios púlsares -estrellas de neutrones que emiten señales de radio muy precisas al girar- como detectores de ondas gravitacionales. Sin embargo, finalmente ha sido LIGO el que se ha llevado el gato al agua, aunque si Advanced Virgo hubiera estado funcionando el día de la detección probablemente también hubiera descubierto la señal. Además de la GW150914, durante el primer mes de operaciones AdvLIGO también detectó otra señal, LVT151012, mucho más débil. Todavía no está claro si se trata de una señal real o no. La gran pregunta es, ¿se trata GW150914 de una señal poco frecuente o es algo común en el Universo? Todavía no lo sabemos. El objetivo principal de LIGO y los demás detectores es precisamente medir la frecuencia de estos sucesos tan energéticos.

Detector LIGO de Livingston (LIGO).

Además de fusiones de agujeros negros, LIGO y sus hermanos deberán ser capaces de detectar en el futuro colisiones de estrellas de neutrones o sistemas binarios formados por estas estrellas. Del mismo modo que la astronomía tradicional estudia todo el espectro electromagnético mediante multitud de instrumentos distintos, los interferómetros terrestres solo son capaces de observar un “color” de las ondas gravitacionales. Para observar otras longitudes de onda necesitamos detectores distintos. El interferómetro espacial europeo eLISA podrá detectar en el futuro ondas gravitacionales de mayor longitud de onda -correspondientes, por ejemplo, a sistemas binarios de enanas blancas o fusiones de agujeros negros supermasivos-, mientras que la técnica PTA de la que hablamos más arriba podrá ser sensible a longitudes de onda aún mayores propias de las ondas gravitacionales primordiales o las emitidas por sistemas binarios supermasivos.

Distintos detectores para distintas longitudes de onda de ondas gravitacionales (LIGO).

Han sido muchos años de espera, muchos más de lo previsto, pero al fin, justamente un siglo después de que Einstein predijese su existencia, ahora podemos decir que son reales. Hoy ha nacido la astronomía de ondas gravitacionales.

PD 1: el sonido de las ondas gravitacionales

Si “traducimos” la señal GW150914 a ondas de sonido detectables por el oído humano podemos obtener un inquietante a la par que fascinante efecto:

Ahora bien, las ondas gravitacionales no son ondas de sonido. Esto puede parecer una obviedad, pero lo recalco porque en un par de medios han llevado la analogía un pelín demasiado lejos (el sonido es una onda de presión que se desplaza por el aire, mientras que las ondas gravitacionales son una distorsión del propio tejido del espaciotiempo). También se pueden transformar en sonido las emisiones de radio procedentes de púlsares, por ejemplo, o, si me apuran, cualquier tipo de señal electromagnética, pero eso no las convierte en sonido. Y, por cierto, la señal tampoco se llama chirp. Chirp significa en inglés “gorjeo” o “pío” y es el adjetivo que se le ha dado a esta señal por su curiosa traducción sonora.

PD 2: ¿ondas gravitatorias u ondas gravitacionales?

Originalmente escribí esta entrada usando el adjetivo gravitatorio en vez de gravitacional, este último usado por el 99% de medios. La razón es simple. Siempre he pensado que “gravitacional” es un calco del inglés gravitational y, además, no me gusta. Pero, como bien apunta el maestro César Tomé, hoy en día se ha normalizado en castellano el uso del término “onda gravitatoria” para referirse a las gravity waves de la física de fluidos. No estoy de acuerdo con esta traducción -prefiero “ondas de gravedad”-, ¿pero quién soy yo para llevar la contraria? Además, si he pasado por el aro a la hora de escribir “jupíteres calientes” en vez de “júpiteres calientes” -lo odio-, puedo superar esto. Hay que adaptarse.

Fuente: Eureka