El celebre autor de ciencia ficción Isaac Asimov tuvo la previsión de proponer las tres leyes de la robótica
hace más de medio siglo. ¿Es el homosapiens del siglo 21, como especie,
suficientemente sabio como para escuchar su aviso y evitar la
auto-destrucción en manos de robot sapiens desobedientes cuyos ancestros
estemos construyendo hoy en día?
[Nota: Este artículo es la traduccion de René Mérou del artículo que publicó OFSET (una interesante asociación para impusar el software libre en la educación) titulado DRM and Other Forces Overriding the Three Laws of Robotics [EN] publicado por HUNG Chao-Kuei. Aquí en francés]
Globalmente, los derechos de los consumidores e incluso los derechos humanos están siendo erosionados porque algunos vendedores han descubierto que la propiedad intelectual y el copyright sirven para vendernos varias veces lo mismo e infectan a sus productos electrónicos con mecanismos de DRM (Digital Restrictions Management) y como el DMCA -- la ley que intenta proteger los DRM -- es negociada secretamente por unos pocos sectores de unos pocos países fuertes para ser impuesta al resto del planeta mediante tratados (ACTA 1, 2) al margen de los parlamentos. Estas poderosas fuerzas están reemplazando las tres leyes de la robótica (si existieron alguna vez) por otra cosa de principios insensatos.
Como lo describe Asimov, un robot debe dar la máxima prioridad a (L1) la protección de la vida humana, (L2) a la obediencia a las ordenes humanas, (L3) a su propia protección, en ese orden, obligatoriamente. Todo robot en la ciencia-ficción de Asimov está equipado con un cerebro positrónico que se vuelve loco, por así decirlo, si en algún momento transgrede esas leyes. Esto representa para una sociedad que depende profundamente de los robots la misma idea que lo que es un fusible en un aparato eléctrico. Imaginen la amenaza que con que nos enfrentaríamos en un mundo lleno de robots sin esas leyes.
Excepto que no necesitan realmente imaginarlo. Estamos viviendo en ese mundo.
Lo que Asimov no predijo es que los robots serían controlados por software en vez de por circuitos positrónicos. Esta pequeña desviación en su predicción respecto a lo que realmente ha sobrevenido después ha cegado a la mayoría de profesionales de la informática (personas que suelen disfrutar de la ciencia ficción de Asimov, por cierto).
Primero, pongamos a parte el malware que rompe la ley. Es concebible que haya siempre gente que rompa la ley creado malos robots, tanto si la sociedad exige que las leyes robóticas sean parte de la ley general como si no. Lo que nos interesa son los robots que son producidos conforme a las leyes legales en la sociedad.
Ahora considere unos pocos ejemplos de software existente y que viola la tercera y la segunda ley de la robótica. El software suicida que se destruye a si mismo con bombas temporales es una violación de la (L3), y probablemente una violación de la (L2). Véase también "viodentia faiure4wn" or "kindle 1984" sobre algunos casos de software desobedeciendo órdenes humanas.
Seguidamente, pasemos a modo ciencia-ficción por un momento y consideremos qué pasará en unas pocas décadas. Suponga que su nieto compra un robot médico para cuidar de vuestro ritmo cardiaco vigilando y ajustando algún implante médico. Se siente peor después de que empiecen sus cuidados y sospecha de que el robot no está funcionando correctamente. Incluso ha oído hablar de algunos muertes relacionadas con este modelo de robot.
O suponga que el hospicio (hablamos del futuro) donde usted vive compra un robot para efectuar terapias físicas o incluso operaciones a sus huéspedes. Una nueva y más segura forma de efectuar esas funciones se ha extendido en internet, y todos los huéspedes incluido usted desean intensamente adoptarla.
En cada caso, su nieto encuentra un robot experto capaz de examinar los robots y hacerles modificaciones a su cerebro positrónico o a su software o a lo que sea, para eliminar su deficiencia y/o mejorar sus servicios, por tanto su calidad de vida o incluso salvaros de una "muerte por código defectuoso". El experto pregunta al robot para explorar y explicar el diseño de su circuito/software, y ayudar al experto a examinar y mejorar sus circuitos/software.
En respuesta, un robot en el mundo de Asimov obedecería sin la más mínima duda (quizás tras verificar la profesión del experto) de acuerto con (L1) y (L2). Pero que haría un robot en el mundo actual? Ya sabe, nuestro mundo real, poblado por habitantes que son completamente inconscientes de las tres leyes de la robótica y, simultáneamente, han sufrido lavados de cerebro por la propaganda de la "propiedad" intelectual, el mundo en que el derecho de la "propiedad intelectual" está anulando el derecho a la propiedad física. Acaso el robot obedecerá o es más probable que se niegue a cooperar citando el derecho al copyright como su primera prioridad (L0), destruyéndose a si mismo y enviando una señal DMCA de estar siendo forzado a un apagado por un experto, e intentando desafiar (L1), (L2) y (L3), todas de golpe.
Y todo esto no está tan lejos de ocurrir. Los implantes medicos de Medtronic's lo harían si pudiesen. El robot perro Aibo de Sony,
lo haría si pudiera. Y no importa si ellos nunca lo podrán hacer por
medios técnicos. Los fabricantes pueden perfectamente invocar (o ya lo
han hecho) la todo poderosa DMCA para encubrir sus malas decisiones
técnicas que ignoran el principio Kerckhoff sobre la seguridad de los ordenadores. (Explicación en términos no técnicos (wikipedia), en una metáfora matemática de "la cuadratura del circulo", o en una imágen como se muestra en la derecha)
Estamos viviendo en un mundo donde las tres leyes propuestas por Asimov no solo reciben caso omiso, y negligente sino que de hecho por abuso que se hace de la ley de propiedad intelectual, son prácticamente suprimidas por leyes problemáticas -- DMCA y ACTA. Estamos poniéndonos a nosotros mismos a merced de los robots cuyos comportamientos desafiantes contra nosotros están protegidos por esas leyes.
¿Existe alguna posibilidad de cambiar el futuro a uno mejor donde nuestras vidas estén dependiendo cada vez más de varias formas de robots desafiantes? No sé como interpretarán la Psicohistoria de Asimov, pero para mí, atraer al público general ignorante de la informática al conocimiento de los inminentes peligros es una forma posible e importante de cambiar el curso del futuro.
[Nota: Este artículo es la traduccion de René Mérou del artículo que publicó OFSET (una interesante asociación para impusar el software libre en la educación) titulado DRM and Other Forces Overriding the Three Laws of Robotics [EN] publicado por HUNG Chao-Kuei. Aquí en francés]
Globalmente, los derechos de los consumidores e incluso los derechos humanos están siendo erosionados porque algunos vendedores han descubierto que la propiedad intelectual y el copyright sirven para vendernos varias veces lo mismo e infectan a sus productos electrónicos con mecanismos de DRM (Digital Restrictions Management) y como el DMCA -- la ley que intenta proteger los DRM -- es negociada secretamente por unos pocos sectores de unos pocos países fuertes para ser impuesta al resto del planeta mediante tratados (ACTA 1, 2) al margen de los parlamentos. Estas poderosas fuerzas están reemplazando las tres leyes de la robótica (si existieron alguna vez) por otra cosa de principios insensatos.
Como lo describe Asimov, un robot debe dar la máxima prioridad a (L1) la protección de la vida humana, (L2) a la obediencia a las ordenes humanas, (L3) a su propia protección, en ese orden, obligatoriamente. Todo robot en la ciencia-ficción de Asimov está equipado con un cerebro positrónico que se vuelve loco, por así decirlo, si en algún momento transgrede esas leyes. Esto representa para una sociedad que depende profundamente de los robots la misma idea que lo que es un fusible en un aparato eléctrico. Imaginen la amenaza que con que nos enfrentaríamos en un mundo lleno de robots sin esas leyes.
Excepto que no necesitan realmente imaginarlo. Estamos viviendo en ese mundo.
Lo que Asimov no predijo es que los robots serían controlados por software en vez de por circuitos positrónicos. Esta pequeña desviación en su predicción respecto a lo que realmente ha sobrevenido después ha cegado a la mayoría de profesionales de la informática (personas que suelen disfrutar de la ciencia ficción de Asimov, por cierto).
Primero, pongamos a parte el malware que rompe la ley. Es concebible que haya siempre gente que rompa la ley creado malos robots, tanto si la sociedad exige que las leyes robóticas sean parte de la ley general como si no. Lo que nos interesa son los robots que son producidos conforme a las leyes legales en la sociedad.
Ahora considere unos pocos ejemplos de software existente y que viola la tercera y la segunda ley de la robótica. El software suicida que se destruye a si mismo con bombas temporales es una violación de la (L3), y probablemente una violación de la (L2). Véase también "viodentia faiure4wn" or "kindle 1984" sobre algunos casos de software desobedeciendo órdenes humanas.
Seguidamente, pasemos a modo ciencia-ficción por un momento y consideremos qué pasará en unas pocas décadas. Suponga que su nieto compra un robot médico para cuidar de vuestro ritmo cardiaco vigilando y ajustando algún implante médico. Se siente peor después de que empiecen sus cuidados y sospecha de que el robot no está funcionando correctamente. Incluso ha oído hablar de algunos muertes relacionadas con este modelo de robot.
O suponga que el hospicio (hablamos del futuro) donde usted vive compra un robot para efectuar terapias físicas o incluso operaciones a sus huéspedes. Una nueva y más segura forma de efectuar esas funciones se ha extendido en internet, y todos los huéspedes incluido usted desean intensamente adoptarla.
En cada caso, su nieto encuentra un robot experto capaz de examinar los robots y hacerles modificaciones a su cerebro positrónico o a su software o a lo que sea, para eliminar su deficiencia y/o mejorar sus servicios, por tanto su calidad de vida o incluso salvaros de una "muerte por código defectuoso". El experto pregunta al robot para explorar y explicar el diseño de su circuito/software, y ayudar al experto a examinar y mejorar sus circuitos/software.
En respuesta, un robot en el mundo de Asimov obedecería sin la más mínima duda (quizás tras verificar la profesión del experto) de acuerto con (L1) y (L2). Pero que haría un robot en el mundo actual? Ya sabe, nuestro mundo real, poblado por habitantes que son completamente inconscientes de las tres leyes de la robótica y, simultáneamente, han sufrido lavados de cerebro por la propaganda de la "propiedad" intelectual, el mundo en que el derecho de la "propiedad intelectual" está anulando el derecho a la propiedad física. Acaso el robot obedecerá o es más probable que se niegue a cooperar citando el derecho al copyright como su primera prioridad (L0), destruyéndose a si mismo y enviando una señal DMCA de estar siendo forzado a un apagado por un experto, e intentando desafiar (L1), (L2) y (L3), todas de golpe.
Y todo esto no está tan lejos de ocurrir. Los implantes medicos de Medtronic's lo harían si pudiesen. El robot perro Aibo de Sony,
lo haría si pudiera. Y no importa si ellos nunca lo podrán hacer por
medios técnicos. Los fabricantes pueden perfectamente invocar (o ya lo
han hecho) la todo poderosa DMCA para encubrir sus malas decisiones
técnicas que ignoran el principio Kerckhoff sobre la seguridad de los ordenadores. (Explicación en términos no técnicos (wikipedia), en una metáfora matemática de "la cuadratura del circulo", o en una imágen como se muestra en la derecha)Estamos viviendo en un mundo donde las tres leyes propuestas por Asimov no solo reciben caso omiso, y negligente sino que de hecho por abuso que se hace de la ley de propiedad intelectual, son prácticamente suprimidas por leyes problemáticas -- DMCA y ACTA. Estamos poniéndonos a nosotros mismos a merced de los robots cuyos comportamientos desafiantes contra nosotros están protegidos por esas leyes.
¿Existe alguna posibilidad de cambiar el futuro a uno mejor donde nuestras vidas estén dependiendo cada vez más de varias formas de robots desafiantes? No sé como interpretarán la Psicohistoria de Asimov, pero para mí, atraer al público general ignorante de la informática al conocimiento de los inminentes peligros es una forma posible e importante de cambiar el curso del futuro.
The saddest aspect of life right now is that science gathers knowledge faster than society gathers wisdom. [Lo más triste de la vida actual es que la ciencia alcanza conocimientos más rápido que la sociedad alcanza sabiduría.]-- Issac AsimovQuizás es tiempo de empezar a escribir y releer más ciencia ficción sobre estos asuntos como "robots con DRM" o "Robots y copyrights". La gente puede leer más sobre estos peligros desde historias que pasan en una futura sociedad, en un planeta distante, o en un universo alternativo, porque:
It is the invariable lesson to humanity that distance in time, and in space as well, lends focus. It is not recorded, incidentally, that the lesson has ever been permanently learned. [Es una lección invariante para la humanidad que la distancia en el tiempo e igualmente en el espacio, atrae la atención. No consta, por cierto, que la lección haya sido nunca aprendida de forma permanente.] -- Issac Asimov, "Fundación e Imperio" Capítulo 13Fuente: http://hispalinux.es/node/727
No hay comentarios:
Publicar un comentario