Tres leyes de la robótica

En ciencia ficción las tres leyes de la robótica son un conjunto de normas escritas por Isaac Asimov, que la mayoría de los robots de sus novelas y cuentos están diseñados para cumplir. En ese universo, las leyes son "formulaciones matemáticas impresas en los senderos positrónicos del cerebro" de los robots (lo que hoy llamaríamos ROM). Aparecidas por primera vez en el relato Runaround (1942), establecen lo siguiente:

1. Un robot no debe dañar a un ser humano o, por su inacción, dejar que un ser humano sufra daño.
2. Un robot debe obedecer las órdenes que le son dadas por un ser humano, excepto si estas órdenes entran en conflicto con la Primera Ley.
3. Un robot debe proteger su propia existencia, hasta donde esta protección no entre en conflicto con la Primera o la Segunda Ley.

Esta redacción de las leyes es la forma convencional en la que los humanos de las historias las enuncian; su forma real sería la de una serie de instrucciones equivalentes y mucho más complejas en el cerebro del robot.

Asimov atribuye las tres Leyes a John W. Campbell, que las habría redactado durante una conversación sostenida el 23 de diciembre de 1940. Sin embargo, Campbell sostiene que Asimov ya las tenía pensadas, y que simplemente las expresaron entre los dos de una manera más formal.

Las 3 leyes aparecen en un gran número de historias de Asimov, ya que aparecen en toda su serie de los robots, así como en varias historias relacionadas, y la serie de novelas protagonizadas por Lucky Starr. También han sido utilizadas por otros autores cuando han trabajado en el universo de ficción de Asimov, y son frecuentes las referencias a ellas en otras obras, tanto de ciencia ficción como de otros géneros.

Propósito

Estas leyes surgen como medida de protección para los seres humanos. Según el propio Asimov, la concepción de las leyes de la robótica quería contrarrestar un supuesto "complejo de Frankenstein", es decir, un temor que el ser humano desarrollaría frente a unas máquinas que hipotéticamente pudieran rebelarse y alzarse contra sus creadores. De intentar siquiera desobedecer una de las leyes, el cerebro positrónico del robot resultaría dañado irreversiblemente y el robot moriría. A un primer nivel no presenta ningún problema dotar a los robots con tales leyes, a fin de cuentas, son máquinas creadas por el hombre para su servicio. La complejidad reside en que el robot pueda distinguir cuáles son todas las situaciones que abarcan las tres leyes, o sea poder deducirlas en el momento. Por ejemplo saber en determinada situación si una persona está corriendo daño o no, y deducir cuál es la fuente del daño.

Las tres leyes de la robótica representan el código moral del robot. Un robot va a actuar siempre bajo los imperativos de sus tres leyes. Para todos los efectos, un robot se comportará como un ser moralmente correcto. Sin embargo, es lícito preguntar: ¿Es posible que un robot viole alguna de sus tres leyes? ¿Es posible que un robot "dañe" a un ser humano? La mayor parte de las historias de robots de Asimov se basan en situaciones en las que a pesar de las tres leyes, podríamos responder a las anteriores preguntas con un "sí".

Asimov crea un universo en el que los robots son parte fundamental a lo largo de diez mil años de historia humana, y siguen teniendo un papel determinante por diez mil años más. Es lógico pensar que el nivel de desarrollo de los robots variaría con el tiempo, incrementándose su nivel de complejidad cada vez más.

Historia de las tres leyes de la robótica

Los primeros robots construidos en la Tierra (vistos, por ejemplo, en Yo, Robot) eran modelos poco avanzados. Era una época en donde la robopsicología no estaba aún desarrollada. Estos robots podían ser enfrentados a situaciones en las cuales se vieran en un conflicto con sus leyes. Una de las situaciones más sencillas se da cuando un robot debe dañar a un ser humano para evitar que dos o más sufran daño. Aquí los robots decidían en función de un criterio exclusivamente cuantitativo, quedando luego inutilizados, al verse forzados a violar la primera ley.

Posteriores desarrollos en la robótica, permitieron la construcción de circuitos más complejos, con una mayor capacidad de autorreflexión. Una peculiaridad de los robots es que pueden llegar a redefinir su concepto de "daño" según sus experiencias, y determinar niveles de éste. Su valoración de los seres humanos también puede ser determinada por el ambiente. Es así que un robot puede llegar a dañar a un ser humano por proteger a otro que considere de más valía (su amo, por ejemplo). También podría darse el caso de que un robot dañara físicamente a un ser humano para evitar que otro sea dañado psicológicamente, pues llega a ser una tendencia el considerar los daños psicológicos más graves que los físicos. Estas situaciones nunca se hubieran dado en robots más antiguos. Asimov plantea en sus historias de robots las más diversas situaciones, siempre considerando las posibilidades lógicas que podrían llevar a los robots a tales situaciones.

Una cuarta ley

Uno puede llegar a encariñarse con los robots de Asimov, él que nos muestra en sus historias robots cada vez más "humanos". En El hombre bicentenario, Asimov nos narra la historia de Andrew Martin, nacido robot, y que lucha durante toda su vida para ser reconocido como un ser humano. Están también R. Daneel Olivaw y R. Giskard Reventlov, que tienen un papel fundamental en la segunda expansión de los seres humanos y la consiguiente fundación del imperio galáctico. Siendo los robots más complejos jamás creados, fueron capaces de desarrollar la ley cero de la robótica ("Zero law", en inglés) como corolario filosófico de la primera:

Un robot no puede hacer daño a la Humanidad o, por inacción, permitir que la Humanidad sufra daño.

R. Giskard murió en Robots e Imperio, tras verse obligado a dañar a un ser humano en virtud de la ley cero. El problema fundamental con esta ley es definir "Humanidad", así como determinar qué supone un "daño" para la Humanidad. R. Daneel logró asimilarla gracias al sacrificio de Giskard, convirtiéndose desde entonces en el protector en la sombra de la Humanidad. Daneel, bajo distintas identidades, se convierte en uno de los personajes más importantes del ciclo de Trántor (formado por los cuentos y novelas de robots, las novelas del imperio, y la saga de las fundaciones: 17 libros) siendo además un elemento clave en su continuidad para conseguir mayor esfuerzo.

Crítica

En principio habría que considerar a las máquinas autónomas inteligentes que violan las leyes.

Un misil puede ser considerado inteligente y no tiene problema en matar humanos. Un sistema computacional que coordina ataques aéreos y terrestres utilizado en un centro de operaciones militar viola las leyes. Cualquier robot policía que se pudiese crear debería poder matar como lo hace la policía humana. Esto implicaría revisar los conceptos fundamentales que sostienen a una sociedad. Por ejemplo, si la propiedad privada prima por sobre la vida humana, entonces el servicio de policía debe poder matar humanos para proteger la propiedad privada. Que sea un robot o un humano no hace diferencia, puesto que el resultado es el mismo.

El problema surge de considerar si un conjunto de robots puede apoderarse de los recursos disponibles y esclavizar o aniquilar a los humanos sin importar de qué humano se trate. Cualquier humano sin importar raza, religión o estatus económico sería tratado del mismo modo. Esto deja de lado el problema de los humanos que se esclavizan entre sí y los genocidios que se cometen contra ciertos grupos humanos. ¿Sería más grave que esto lo haga un grupo de robots?

En general las películas de ciencia ficción como Yo, robot plantean que un robot en extremo inteligente puede tomar la decisión de controlar el destino de los humanos y que esto es inaceptable. Estas películas plantean que el pensamiento absolutamente lógico de un robot es inaceptable porque las emociones pueden regular la conducta de un modo más adecuado, más humano.

Hay que destacar que esta idea atentaría contra la evolución natural. Si los robots son creaciones humanas y nos superan en inteligencia y capacidad, entonces que los humanos sean aniquilados no plantearía un problema, porque los robots serían un estado evolutivo superior, y los humanos han sido el eslabón entre los monos y los robots. Los robots serían materia evolucionando.

En definitiva, aunque la vida orgánica pueda ser superada por un estado superior de vida inorgánica inteligente, los robots, hay que recordar que su base de conocimientos, su cultura, habría nacido de los humanos. Se podría decir que los robots serían un estado cognitivo superior humano sin cuerpo orgánico: la mente humana evolucionando en soportes inorgánicos.