31 de julio de 2015
alcalorpolitico.com
Titulares en los periódicos como: “Alertan por robots asesinos”(1) o “Científicos temen «robots asesinos»”,(2) que parecen sacados de una obra de ciencia ficción, no lo son y cualquiera de nosotros pudo leerlos hace un par de días en periódicos impresos y sus versiones en línea. Este tipo de encabezados, junto con otros un poco más matizados pero no menos impactantes, como: “Elon Musk y Stephen Hawking advierten: los robots armados amenazarán a la humanidad”(3), hasta llegar a algunos que ya no sonaban tanto a una advertencia sobre una posible rebelión de las máquinas: “Stephen Hawking y Noam Chomsky piden que inteligencia artificial no se use para crear armas”.(4)
Pero con titulares sensacionalistas, que sonaban más a promoción para película de Terminator, o sin ellos, de cualquier forma muchas de estas notas, sobre todo en sitios de internet, iban acompañadas de imágenes justamente de alguna de las películas de Terminator, específicamente de aquellas tomadas de escenas en las cuales los villanos de esa serie –robots plateados, parecidos un poco a esqueletos, con unos terribles ojos con lucecita roja- estaban a punto de atacar.(5)
A todo esto definitivamente la noticia no tenía intención de promover Terminator Genysis, a la que además mucha más promoción no le hacía ya mucha falta, pues se estrenó a principios del mes y en casi todo el mundo batió récords de taquilla: tan sólo en México en su primera semana de proyección recaudó más de 100 millones de pesos.
Tampoco quiere decir que a personas como el físico inglés Stephen Hawking, o el lingüista estadounidense Noam Chomsky, o el empresario nacido en Sudáfrica Elon Musk, les haya dado por decir tonterías (aunque no estoy muy segura de que ellos hayan usado recientemente el término “robots asesinos”).
Si después de los terroríficos titulares continuaron leyendo las notas, tal vez ya sepan que todo este asunto tiene que ver con una carta abierta (6) escrita por investigadores en Inteligencia Artificial y Robótica, a la que se sumaron muchas otras personas, algunas muy conocidas como Hawking, Chomsky y Musk o el cofundador de Apple, Steve Wozniak, además de otras menos conocidas, pero no menos importantes como Frank Wilczek, Premio Nobel de Física 2004 o Jaan Tallin cofundador del servicio de mensajería Skype.
La carta es un posicionamiento sobre las armas autónomas, que tal como establece el mismo texto son aquellas que: “seleccionan y atacan objetivos sin la intervención humana”, explicando que quedan excluidos los “misiles de crucero o los drones pilotados a control remoto en los cuales los humanos toman las decisiones de ataque”.
La comunidad de especialistas en Inteligencia Artificial (IA) y Robótica que escribió esta carta, establece que “así como la mayoría de los químicos y biólogs no tienen interés en construir armas químicas o biológicas, así la mayoría de los investigadores en IA no tienen interés en construir armas con IA [...] De hecho químicos y biólogos se han sumado ampliamente a acuerdos internacionales que han prohibido exitosamente las armas químicas y biológicas...”
Al respecto, sabemos que en verdad el desarrollo y uso las armas químicas y biológicas ha sido prohibido, sin embargo tristemente el mundo sí ha conocido su uso en diferentes guerras, sobre todo el de las armas que utilizan las propiedades tóxicas de una sustancia, las armas químicas: como el gas asfixiante fosgeno y agentes lacrimógenos usados en la Primera Guerra Mundial, o el cianuro de hidrógeno que usaron los nazis en sus asesinatos masivos en campos de concentración. Además de agentes nerviosos como el gas sarín también usado en la Segunda Guerra Mundial o el BZ, un agente incapacitante delirante, probado por EUA en la Guerra de Vietnam.
Por otro lado, las armas con Inteligencia Artificial no existen, así que ¿por qué precuparnos? Los especialistas en IA, dicen que lo que debemos pensar es que todavía no existen: “La tecnología en IA ha alcanzado un punto en el que el desarrollo de sistemas de este tipo [armas autónomas] es -practicamente, si no legalmente- factible en años, no décadas, y hay mucho en juego: las armas autónomas se han descrito como la tercera revolución en la guerra, después de la pólvora y las armas nucleares.”
Quienes se dedican a la investigación en Inteligencia Artificial, buscan crear máquinas que sean capaces de un comportamiento inteligente autónomo, es decir que no requiera de un humano que decida por la máquina y que incluya: razonamiento, conocimiento, planeación, aprendizaje, comunicación, percepción y la habilidad de moverse y de manipular objetos. Este campo de estudio es muy especializado además de que en él convergen muchos campos de la ciencia y la tecnología como: matemáticas, ciencias de la computación, neurociencias, lingüística e incluso la filosofía y psicología.
No toda la Inteligencia Artificial se desarrolla en relación con robots, pero es cierto que la robótica es muy cercana a este campo. Aunque los robots pueden ser autónomos o semiautónomos, en cualquier caso requieren contar con IA que les permita moverse e incluso realizar la planeación de sus movimientos, respecto a su entorno.
Los robots, sobre todo los semiautónomos, desarrollados para tareas específicas, existen y “conviven” con nosotros, como los brazos robóticos que se utilizan en la industria para tareas repetitivas de ensamblado o empaque. También en la industria se utilizan los llamados Vehículos de Guiado Automático o AGVs: robots móviles que pueden seguir caminos y así transportar mercancías en espacios grandes como almacenes.
Se han comenzado a desarrollar robots autónomos que, por ejemplo, pueden actuar como guías en museos, sin embargo ni siquiera estos están hecho para parecerse mucho a nosotros -ni tampoco a Terminator-. Hasta ahora los robots humanoides son minoría y principalmente aparecen en exhibiciones o competencias como la RoboCup, en la que se presentan equipos de robots -humanoides y no humanoides- que deben ser capaces de jugar partidos de futbol soccer entre ellos, aunque el objetivo último de ese proyecto es que “a mediados del siglo XXI un equipo de jugadores robóticos humanoides totalmente autónomos ganen un partido de soccer siguiendo la reglas oficiales de la FIFA, en contra del equipo [de humanos] que más recientemente haya ganado la Copa Mundial”.(7)
Aunque es muy divertido ver los partidos de la RoboCup, podrán darse cuenta que esos equipos de robots no están cerca de ganarle ni a la selección mexicana, de cualquier forma es impresionante saber que cualquiera de los movimientos lentos o aparentemente “torpes” que realizan esos robots, son decididos por ellos, usando por supuesto de la información que sus programadores les han incluido previamente, pero que una vez que se las ven solos en sus pequeñas canchas de futbol no necesitan más de sus humanos.
Así, me queda claro que el avance en estos campos ha sido impresionante en los últimos años y que siempre será mucho mejor que los seres humanos, nos aseguremos que este u otros desarrollos científicos y tecnológicos los usemos en aplicaciones constructivas y no destructivas, o como terminan diciendo los especialistas en Inteligencia Artificial: “creemos que la IA tiene un gran potencial para beneficiar a la humanidad en muchas formas, y el objetivo de este campo es que así sea. Comenzar una carrera militar de armas con IA es una mala idea, y debe evitarse prohibiendo armas ofensivas autónomas que terminen estando fuera del control humano”.
I'll be back! mientras tanto, comentarios y sugerencias: [email protected]; twitter: @paux_gr
(1) Titular en la primera plana de la versión impresa del periódico mexicano Reforma, del día 29 de julio de 2015.
(2) Nota incluída en la página de internet del periódico mexicano El Universal: http://www.eluniversal.com.mx/articulo/mundo/2015/07/29/cientificos-temen-robots-asesinos
(3) Noticia en el sitio CNN Expansión: http://www.cnnexpansion.com/tecnologia/2015/07/28/elon-musk-y-stephen-hawking-alertan-sobre-robots-asesinos
(4) Nota en el diario digital chileno El Mostrador: http://www.elmostrador.cl/cultura/2015/07/29/stephen-hawking-y-noam-chomsky-piden-que-inteligencia-artificial-no-se-use-para-crear-armas/
(5) Como ejemplo, ver la ilustración de la nota incluida en la versión en línea del diario británico The Guardian: http://www.theguardian.com/technology/2015/jul/27/musk-wozniak-hawking-ban-ai-autonomous-weapons
(6) La carta abierta sobre las armas autónomas puede leerse íntegra en inglés (y firmarse) aquí: http://futureoflife.org/AI/open_letter_autonomous_weapons
(7) Información y objetivos de la RoboCup: http://www.robocup.org/about-robocup/objective/
Pero con titulares sensacionalistas, que sonaban más a promoción para película de Terminator, o sin ellos, de cualquier forma muchas de estas notas, sobre todo en sitios de internet, iban acompañadas de imágenes justamente de alguna de las películas de Terminator, específicamente de aquellas tomadas de escenas en las cuales los villanos de esa serie –robots plateados, parecidos un poco a esqueletos, con unos terribles ojos con lucecita roja- estaban a punto de atacar.(5)
A todo esto definitivamente la noticia no tenía intención de promover Terminator Genysis, a la que además mucha más promoción no le hacía ya mucha falta, pues se estrenó a principios del mes y en casi todo el mundo batió récords de taquilla: tan sólo en México en su primera semana de proyección recaudó más de 100 millones de pesos.
Tampoco quiere decir que a personas como el físico inglés Stephen Hawking, o el lingüista estadounidense Noam Chomsky, o el empresario nacido en Sudáfrica Elon Musk, les haya dado por decir tonterías (aunque no estoy muy segura de que ellos hayan usado recientemente el término “robots asesinos”).
Si después de los terroríficos titulares continuaron leyendo las notas, tal vez ya sepan que todo este asunto tiene que ver con una carta abierta (6) escrita por investigadores en Inteligencia Artificial y Robótica, a la que se sumaron muchas otras personas, algunas muy conocidas como Hawking, Chomsky y Musk o el cofundador de Apple, Steve Wozniak, además de otras menos conocidas, pero no menos importantes como Frank Wilczek, Premio Nobel de Física 2004 o Jaan Tallin cofundador del servicio de mensajería Skype.
La carta es un posicionamiento sobre las armas autónomas, que tal como establece el mismo texto son aquellas que: “seleccionan y atacan objetivos sin la intervención humana”, explicando que quedan excluidos los “misiles de crucero o los drones pilotados a control remoto en los cuales los humanos toman las decisiones de ataque”.
La comunidad de especialistas en Inteligencia Artificial (IA) y Robótica que escribió esta carta, establece que “así como la mayoría de los químicos y biólogs no tienen interés en construir armas químicas o biológicas, así la mayoría de los investigadores en IA no tienen interés en construir armas con IA [...] De hecho químicos y biólogos se han sumado ampliamente a acuerdos internacionales que han prohibido exitosamente las armas químicas y biológicas...”
Al respecto, sabemos que en verdad el desarrollo y uso las armas químicas y biológicas ha sido prohibido, sin embargo tristemente el mundo sí ha conocido su uso en diferentes guerras, sobre todo el de las armas que utilizan las propiedades tóxicas de una sustancia, las armas químicas: como el gas asfixiante fosgeno y agentes lacrimógenos usados en la Primera Guerra Mundial, o el cianuro de hidrógeno que usaron los nazis en sus asesinatos masivos en campos de concentración. Además de agentes nerviosos como el gas sarín también usado en la Segunda Guerra Mundial o el BZ, un agente incapacitante delirante, probado por EUA en la Guerra de Vietnam.
Por otro lado, las armas con Inteligencia Artificial no existen, así que ¿por qué precuparnos? Los especialistas en IA, dicen que lo que debemos pensar es que todavía no existen: “La tecnología en IA ha alcanzado un punto en el que el desarrollo de sistemas de este tipo [armas autónomas] es -practicamente, si no legalmente- factible en años, no décadas, y hay mucho en juego: las armas autónomas se han descrito como la tercera revolución en la guerra, después de la pólvora y las armas nucleares.”
Quienes se dedican a la investigación en Inteligencia Artificial, buscan crear máquinas que sean capaces de un comportamiento inteligente autónomo, es decir que no requiera de un humano que decida por la máquina y que incluya: razonamiento, conocimiento, planeación, aprendizaje, comunicación, percepción y la habilidad de moverse y de manipular objetos. Este campo de estudio es muy especializado además de que en él convergen muchos campos de la ciencia y la tecnología como: matemáticas, ciencias de la computación, neurociencias, lingüística e incluso la filosofía y psicología.
No toda la Inteligencia Artificial se desarrolla en relación con robots, pero es cierto que la robótica es muy cercana a este campo. Aunque los robots pueden ser autónomos o semiautónomos, en cualquier caso requieren contar con IA que les permita moverse e incluso realizar la planeación de sus movimientos, respecto a su entorno.
Los robots, sobre todo los semiautónomos, desarrollados para tareas específicas, existen y “conviven” con nosotros, como los brazos robóticos que se utilizan en la industria para tareas repetitivas de ensamblado o empaque. También en la industria se utilizan los llamados Vehículos de Guiado Automático o AGVs: robots móviles que pueden seguir caminos y así transportar mercancías en espacios grandes como almacenes.
Se han comenzado a desarrollar robots autónomos que, por ejemplo, pueden actuar como guías en museos, sin embargo ni siquiera estos están hecho para parecerse mucho a nosotros -ni tampoco a Terminator-. Hasta ahora los robots humanoides son minoría y principalmente aparecen en exhibiciones o competencias como la RoboCup, en la que se presentan equipos de robots -humanoides y no humanoides- que deben ser capaces de jugar partidos de futbol soccer entre ellos, aunque el objetivo último de ese proyecto es que “a mediados del siglo XXI un equipo de jugadores robóticos humanoides totalmente autónomos ganen un partido de soccer siguiendo la reglas oficiales de la FIFA, en contra del equipo [de humanos] que más recientemente haya ganado la Copa Mundial”.(7)
Aunque es muy divertido ver los partidos de la RoboCup, podrán darse cuenta que esos equipos de robots no están cerca de ganarle ni a la selección mexicana, de cualquier forma es impresionante saber que cualquiera de los movimientos lentos o aparentemente “torpes” que realizan esos robots, son decididos por ellos, usando por supuesto de la información que sus programadores les han incluido previamente, pero que una vez que se las ven solos en sus pequeñas canchas de futbol no necesitan más de sus humanos.
Así, me queda claro que el avance en estos campos ha sido impresionante en los últimos años y que siempre será mucho mejor que los seres humanos, nos aseguremos que este u otros desarrollos científicos y tecnológicos los usemos en aplicaciones constructivas y no destructivas, o como terminan diciendo los especialistas en Inteligencia Artificial: “creemos que la IA tiene un gran potencial para beneficiar a la humanidad en muchas formas, y el objetivo de este campo es que así sea. Comenzar una carrera militar de armas con IA es una mala idea, y debe evitarse prohibiendo armas ofensivas autónomas que terminen estando fuera del control humano”.
I'll be back! mientras tanto, comentarios y sugerencias: [email protected]; twitter: @paux_gr
(1) Titular en la primera plana de la versión impresa del periódico mexicano Reforma, del día 29 de julio de 2015.
(2) Nota incluída en la página de internet del periódico mexicano El Universal: http://www.eluniversal.com.mx/articulo/mundo/2015/07/29/cientificos-temen-robots-asesinos
(3) Noticia en el sitio CNN Expansión: http://www.cnnexpansion.com/tecnologia/2015/07/28/elon-musk-y-stephen-hawking-alertan-sobre-robots-asesinos
(4) Nota en el diario digital chileno El Mostrador: http://www.elmostrador.cl/cultura/2015/07/29/stephen-hawking-y-noam-chomsky-piden-que-inteligencia-artificial-no-se-use-para-crear-armas/
(5) Como ejemplo, ver la ilustración de la nota incluida en la versión en línea del diario británico The Guardian: http://www.theguardian.com/technology/2015/jul/27/musk-wozniak-hawking-ban-ai-autonomous-weapons
(6) La carta abierta sobre las armas autónomas puede leerse íntegra en inglés (y firmarse) aquí: http://futureoflife.org/AI/open_letter_autonomous_weapons
(7) Información y objetivos de la RoboCup: http://www.robocup.org/about-robocup/objective/