Robot, pórtate bien: Las Leyes de la Robótica

Buscando cosas fantabulosas en StumbleUpon, me encontré con un artículo [1] que menciona las Leyes de la Robótica de Tilden. Yo estaba familiarizado con las Leyes de la Robótica de Asimov, del que me declaro admirador, que han sido popularizadas por distintas obras de ciencia ficción y han pasado a ser un referente al hablar de robots. Estas leyes de Asimov funcionan estableciendo un cierto resguardo para guiar el comportamiento de robots inteligentes y lograr que no dañen a los humanos.

Varias veces me he puesto a darle vueltas al asunto de sobre qué implicancias tiene el definir estas reglas para los robots, y de cómo podría ser realizable la implantación de ellas. Por ejemplo, las leyes asimovianas se enfocan en el aspecto social del robot (la relación humano-robot) y en cómo se establece una jerarquía de relaciones de poder (humano > robot), mientras que las leyes de Tilden se enfocan principalmente en ver al robot como un organismo autónomo. Por eso, escribo este artículo para explorar ideas sobre cómo plantear reglas fundamentales para regir el comportamiento de un robot.

Lo primero, ¿qué es un robot?

La palabra “robot” se hizo conocida en 1920, en la obra R.U.R. de Karel Čapek [2]. Proviene del checo “robota” que significa “labor forzada” y hacía referencia a una forma de esclavitud, de trabajo obligado. En la actualidad vemos que los robots ya se han vuelto comunes como un elemento cultural de la automatización industrial, de la ciencia ficción e incluso del ambiente doméstico con varios proyectos que ya se están haciendo parte de los hogares. Aún así, pese a la masificación del concepto, no existe una definición estricta de sobre qué es un robot ni sobre qué elementos lo componen. Generalmente uno asocia el término a máquinas humanoides con una voz que pareciera venir rebotando desde dentro de un tarro, pero también se puede considerar como robots a programas de software capaces de funcionar de manera autónoma (por ejemplo, bots de conversación como cleverbot [3], o inteligencias artificiales de videojuegos), o más comunmente a máquinas no humanoides que realicen tareas de manera autónoma o semi-autónoma (un gran ejemplo de esto son los robots Kiva, altamente usados en las bodegas de Amazon para organizar sus productos más rápidamente [4]). Pese a las ambigüedades que aún existen para definir el concepto, podemos estar de acuerdo en que los robots son máquinas con un cierto de autonomía capaces de desempeñar ciertas labores.

Máquinas inteligentes

La autonomía de un robot no implica que sea una máquina inteligente, así como la inteligencia artificial no implica la existencia de inteligencia. Sobre esto último quizás me extienda en otra ocasión (la IA es una de las áreas que me apasionan) pero por ahora me limito a mencionar que la inteligencia artificial es, a grandes rasgos, la automatización de comportamientos “racionales”, es decir, lograr que la máquina entregue el resultado que entregaría un humano. Cuando hablamos de una máquina inteligente, en cambio, y nos mantenemos al margen del concepto de “artificial”, llegamos a la idea de sobre qué pasaría si las máquinas alcanzaran la verdadera inteligencia (otro tema que no tiene una definición absoluta). La inteligencia dotaría a la máquina de una autonomía mayor que la estructura dada por su programa o por su construcción, y la dotaría de elementos como la imaginación, la memoria no estructurada, y un aprendizaje similar al aprendizaje humano, capaz de adquirir conocimientos y habilidades en todo tipo de disciplinas. Esto ha sido tema de estudio durante muchos años y Alan Turing propuso un test con el que considerar a una máquina como inteligente. Este test se basa en la idea de que si un juez no puede distinguir a una máquina de un humano, la máquina se considera inteligente. Pero este test se enfoca en el aspecto conductual de la inteligencia, en cómo esta se exterioriza. Incluso ya hay un software que pasó el test de Turing [5]. Lo que no considera este planteamiento es el aspecto interno de la inteligencia, como los motivos o la consciencia.

Robótica Asimoviana

Isaac Asimov [6], gran escritor y científico que vivió entre 1920 y 1992, abordó estos últimos temas en su literatura de ciencia ficción y se volvió uno de los mayores referentes del género. En sus libros como “Yo Robot”, “Sueños de Robot” y “Visiones de Robot” se presenta a los robots como máquinas de mayor complejidad a la actual, capaces de ayudar a los humanos en labores diarias, e inteligentes hasta un cierto grado. Incluso existen robots que no se distinguen de un humano normal o robots que terminan convirtiéndose en uno (como en el cuento “El Hombre Bicentenario”. Sí, el cuento vino antes que la película). Todas estas capacidades se sustentan en la existencia de un “cerebro positrónico”, que es capaz de funcionar de manera análoga al cerebro humano y darles capacidades equivalentes o incluso superiores. Pero en estas obras, el ser humano, para no ser superado por su creación en un nivel de especie (porque es superado en varias capacidades), diseña reglas que pongan al robot, por definición, al servicio del hombre. Así nacen las leyes de la robótica clásicas de la literatura de Asimov:

  1. Un robot no debe dañar a un ser humano o, por su inacción, dejar que un ser humano sufra daño.
  2. Un robot debe obedecer las órdenes que le son dadas por un ser humano, excepto cuando estas órdenes están en oposición con la primera Ley.
  3. Un robot debe proteger su propia existencia, hasta donde esta protección no esté en conflicto con la primera o segunda Leyes.

En muchísimas obras de ciencia ficción se mencionan estas leyes como la base del comportamiento robótico (como por ejemplo, Eve no Jikan [7]), pese a que Asimov en sus mismos cuentos buscaba situaciones en las que estas leyes pudieran ser llevadas a contradicciones. De estas mismas contradicciones aparece una nueva ley, la llamada “Ley Cero” (o Zeroth):

  1. Ninguna máquina puede dañar a la Humanidad; o, por inacción, dejar que la Humanidad sufra daño.

En los mismos relatos de Asimov (se recomienda leer algún relato del Ciclo de Trántor [8]) se describe cómo estas leyes motivan a las máquinas a dedicarse durante miles de años a contribuir al desarrollo de la humanidad como especie, incluso contribuyendo en política y en el desarrollo económico.

Pero todo esto lleva a ciertas preguntas técnicas cuando uno piensa en llevar estas leyes a la práctica. ¿Cómo podemos implementar las leyes de la robótica de Asimov en robots reales? Asimov habla de un cerebro positrónico, pero ¿qué debe poder hacer este cerebro positrónico? Partiendo de la Ley 1, el robot debe ser capaz de entender lo que es un humano. Esto implica más que el solo hecho de “reconocer un humano” como se podría hacer con algoritmos de Visión Computacional y Aprendizaje de Máquina. Porque se habla de dañar a un humano, el robot debe entender al ser humano como un organismo vivo, conocer sus propiedades, sus reacciones, sus características físicas y psicológicas. Todo esto implica un tipo de máquina diferente a las que tenemos ahora, mucho más compleja y con un “cerebro” mucho más orgánico, capaz de razonamientos de nivel superior.

Quizás para llegar a ese nivel de razonamiento en las máquinas, debemos diseñarlas de tal forma en que puedan crecer como organismos naturales e ir incrementando en complejidad como un resultado emergente de su interacción con las personas, otras máquinas y el entorno. Aquí es donde es adecuado mencionar las leyes de Tilden.

Las leyes de Tilden (no de Tinder, de Tilden)

 Mark Tilden [9] es uno de los grandes robotistas modernos, famoso por su planteamiento de los robots BEAM. La robótica BEAM [10] (Biology, Electronics, Aesthetics and Mechanics) plantea un diseño de robots mucho más simple que los robots convencionales. Estos robots tienen una mayor tendencia a ser construidos con circuitos analógicos en vez de digitales, lo que muchas veces conlleva la ausencia de microprocesadores. La principal idea de estos robots es que se parezcan mucho más a organismos vivos en vez de a máquinas programables. Siguen siendo máquinas, pero con la ventaja de que pueden reaccionar de una forma mucho más natural a su entorno.

Mark Tilden
Mark Tilden

La idea de la robótica de Tilden es reducir el comportamiento de un robot a sus componentes esenciales, y como este planteamiento es distinto en complejidad de las leyes de Asimov, él planteó su propio conjunto de leyes:

  1. Un robot debe proteger su existencia bajo todo costo.
  2. Un robot debe obtener y mantener acceso a su propia fuente de alimentación.
  3. Un robot debe buscar continuamente mejores fuentes de alimentación.

Se puede ver en estas leyes que el planteamiento es mucho más sencillo en cuanto a costos y a los requerimientos de estas máquinas (en parte, lo que Tilden andaba buscando), lo que las hace mucho más fáciles de implementar en la práctica. A diferencia de las leyes de Asimov, son leyes mucho más “realizables” y abren toda una rama de estudio que ve la robótica de una forma distinta. A la vez, estas leyes plantean al robot de una manera muy similar a los organismos vivos, lo que implica que podrían, hasta un cierto grado, desarrollarse como tales y producir resultados nuevos que no podríamos haber imaginado.

Pero a fines prácticos, la robótica es la creación de herramientas autónomas, y para regularla como tal es que la EPRSC estableció algunos principios sobre los que se debe guiar su desarrollo comercial.

Regulando los robots de ahora

El año 2010, el Engineering and Physical Sciences Research Council (Consejo de Investigación en Ingeniería y Ciencias Físicas) en un conjunto con el Arts and Humanities Research Council (Consejo de Investigación en Artes y Humanidades), ambas instituciones de Reino Unido, desarrollaron un evento en conjunto con el fin de establecer ciertos principios para guiar la investigación en robótica, de manera que esta se pueda integrar en la sociedad para el máximo beneficio de los ciudadanos [11]. Estas leyes se inspiran en las leyes de la robótica de Asimov en el sentido de proteger al ser humano, aunque como se dice en la declaración de principios, estas leyes difícilmente son llevables a la práctica en la vida real ya que un robot no puede conocer todas las formas en las que un ser humano puede ser dañado. Estos principios plantean que la responsabilidad en la robótica cae sobre los humanos que los crean y que, en consecuencia, determinan el funcionamiento de la máquina.

Los principios obtenidos en la reunión de estas dos organizaciones se cristalizan en cinco reglas éticas para la construcción de robots. En sus palabras: “Las cinco reglas éticas de la robótica se consideran como un documento vivo. No se espera que se consideren como leyes rígidas, sino como un instrumento para informar las discusiones y para referencia futura”.

  1. Los Robots son herramientas multiuso. Los robots no deben ser diseñados única o principalmente para matar o dañar humanos, a excepción de casos de seguridad nacional.
  2. Los Humanos, no los Robots, son agentes responsables. Los Robots deben ser diseñados y operados dentro de las leyes existentes y los derechos y libertades fundamentales, incluyendo la privacidad.
  3. Los Robots son productos. Deben ser diseñados usando procesos que aseguren su seguridad.
  4. Los Robots son artefactos fabricados. No deben ser diseñados de una manera engañosa que pueda confundir a usuarios vulnerables; su naturaleza de máquina debe ser transparente.
  5. Siempre debe ser identificable la persona con la responsabilidad legal por un Robot.

Estos principios sirven como una base para la legislación sobre robótica, para guiar un desarrollo de la industria de una manera que asegure el beneficio de la ciudadanía. Como un complemento, se adjuntan siete “mensajes de alto nivel” para motivar la responsabilidad en la industria y la investigación en robótica.

  1. Creemos que los robots tienen el potencial de causar un impacto inmensamente positivo en la sociedad. Queremos motivar la investigación responsable en robótica.
  2. Las malas prácticas nos afectan a todos.
  3. Enfrentar las preocupaciones del público nos ayudará a progresar.
  4. Es importante demostrar que nosotros, como robotistas, estamos comprometidos con los mejores estándares de las prácticas.
  5. Para entender el contexto y las consecuencias de nuestras investigaciones, debemos trabajar con expertos de otras disciplinas incluyendo: ciencias sociales, leyes, filosofía y artes.
  6. Debemos considerar la ética sobre la transparencia: hay límites a lo que debe estar abiertamente disponible.
  7. Cuando vemos informaciones erróneas en la prensa, debemos tomar el tiempo para contactar a los periodistas responsables.

Así como para ir cerrando

Si me preguntan con cual de estas leyes me quedo, me pongo el sombrero y me voy enojado (no uso sombrero, es sólo una metáfora). Cada una de estas leyes se planteó en un contexto puntual que quería ser abordado. Las leyes de Asimov nacen en el contexto de la robótica de su ciencia ficción y deben siempre primero considerarse en ese contexto; para eso es recomendable además de conocer esas leyes, leer su literatura, no se van a arrepentir. Ponen una base de sobre cómo deben comportarse los robots con respecto a los humanos, y los plantea como herramientas que pueden ayudarnos a crecer como sociedad. Pero aún hay muchas tareas que los robots estándar que están siendo desarrollados aún no son capaces de abordar. Tilden nos abre todo un planteamiento distinto que se vale de varias disciplinas para conceptualizar a los robots como entes dinámicos capaces de desarrollarse de manera similar a los organismos vivos. Nos ayuda un poco a abrir la mente sobre cómo podemos plantear los problemas que queremos solucionar con máquinas y a la vez hace la bella tarea de integrar varias disciplinas en la discusión. Esto último se considera en las leyes propuestas por EPSRC / AHRC, que se encargan de plantear principios acordes a la robótica moderna como industria que se está integrando de gran manera en la sociedad.

Todos estos planteamientos contribuyen a que nos preguntemos cómo queremos que se desarrolle la robótica de aquí hacia al futuro. Quizás aún faltan leyes que plantear, cosa casi segura, y por eso las discusiones deben seguir abiertas y deben considerar desde el ingeniero más especializado en control hasta los niños que se crían con películas de ciencia ficción que les dan una perspectiva confusa de la robótica real, para que así podamos todos ser beneficiados por el desarrollo tecnológico y por estas criaturitas tan fabulosas.

¿Cierto que son adorables? ¿Sí? (Fuente de la imagen: http://www.notimerica.com/sociedad/noticia-nao-robot-poliglota-sera-nuevo-trabajador-bancos-tokio-2020-20150203145049.html)
¿Cierto que son adorables? ¿Sí? (Fuente de la imagen: http://www.notimerica.com/sociedad/noticia-nao-robot-poliglota-sera-nuevo-trabajador-bancos-tokio-2020-20150203145049.html)

Y bueno, ya que llegaron leyendo hasta aquí… ¿se les ocurre alguna ley que agregar? Súmense a la discusión 😉

Referencias

  1. Tilden’s Laws of Robotics: https://en.wikipedia.org/wiki/Tilden%27s_Laws_of_Robotics
  2. Origen de la palabra robot: http://www.xatakaciencia.com/robotica/el-origen-de-la-palabra-robot
  3. Cleverbot: http://www.cleverbot.com/
  4. CNET News – Meet the robots making Amazon even faster: https://www.youtube.com/watch?v=UtBa9yVZBJM
  5. ABC.es Ciencia – Un ordenador pasa por primera vez el test de Turing y convence a los jueces de que es humano http://www.abc.es/ciencia/20140609/abci-superordenador-supera-primera-test-201406091139.html
  6. Isaac Asimov – Divulgación científica y ciencia ficción: http://www.asimov.es/
  7. Eve no Jikan: http://myanimelist.net/anime/3167/Eve_no_Jikan
  8. Ciclo de Trántor: https://es.wikipedia.org/wiki/Saga_de_la_Fundaci%C3%B3n
  9. The Evolution of a Roboticist: http://www.botmag.com/the-evolution-of-a-roboticist-mark-tilden/
  10. Robótica BEAM: https://es.wikipedia.org/wiki/Rob%C3%B3tica_BEAM
  11. EPSRC Principles of Robotics: https://www.epsrc.ac.uk/research/ourportfolio/themes/engineering/activities/principlesofrobotics/
Anuncios

Un comentario en “Robot, pórtate bien: Las Leyes de la Robótica

  1. Muy interesante. Del tema solo “entiendo” lo leìdo de Asimov y lo que vi de Data en Star Trek, xd, pero igual me gusta leer de estas cosas. Las leyes de Tilden, en comparaciòn a las de Asimov, la verdad que me resultaron bastante prosaicas. Pero bueno, Asimov es literatura. Un salu2.

Responder

Introduce tus datos o haz clic en un icono para iniciar sesión:

Logo de WordPress.com

Estás comentando usando tu cuenta de WordPress.com. Cerrar sesión / Cambiar )

Imagen de Twitter

Estás comentando usando tu cuenta de Twitter. Cerrar sesión / Cambiar )

Foto de Facebook

Estás comentando usando tu cuenta de Facebook. Cerrar sesión / Cambiar )

Google+ photo

Estás comentando usando tu cuenta de Google+. Cerrar sesión / Cambiar )

Conectando a %s