Compendio de investigaciones sobre el derecho y los robots, Guías, Proyectos, Investigaciones de Derecho

¡Descarga Compendio de investigaciones sobre el derecho y los robots y más Guías, Proyectos, Investigaciones en PDF de Derecho solo en Docsity! Revista de deRecho PRivado, n.º 32, eneRo - junio de 2017, PP. 53 a 97 Robótica y derecho: sugerencias, confluencias, evoluciones en el marco de una investigación europea* ❱ eRica PalmeRini** sumario: i. “robots entre nosotros”: de la ciencia ficción a la realidad. ii. el ro- bot en la escena jurídica. iii. una infinidad de problemas, ¿un enfoque unitario? a. el antecedente: el proyecto RoboLaw. B. ¿Qué es un robot? Base tecnológica y cuestiones jurídicas. iv. La identificación de los temas. el robot como objeto (ahora) jurídico. a. de la calificación genérica a la laguna normativa. v. robot y tutela de los consumidores. vi. Los problemas de la seguridad y de la responsa- bilidad en el mercado emergente de la robótica. a. Las propuestas de esquemas alternativos a las reglas comunes de la responsabilidad. B. Algunas observaciones críticas. c. escenarios presentes y futuros. vii. Cyborgs y human enhancement en- tre viejo… viii. … y nuevo. * traducción del italiano, indira díaz Lindao. título original: “robotica e diritto: suggestio- ni, intersezioni, sviluppi a margine di una ricerca europea, publicado” en Responsabilità Civi- le e Previdenza, fasc. 6, 2016, p. 1815B. Fecha de recepción: 6 de octubre de 2016. Fecha de aceptación: 22 de mayo de 2017. para citar el artículo: palmerini, e., “robótica y derecho: sugerencias, confluencias, evoluciones en el marco de una investigación europea”, Revista de Derecho Privado, universidad externado de Colombia, n.º 32, enero-junio de 2017, 53-97. doi: https://doi.org/10.18601/01234366.n32.03 ** doctorado en derecho. profesora asociada de la scuola superiore sant’anna, pisa, italia. con- tacto: erica.palmerini@sssup.it [54] Er i c a Pa l m E r i n i I. “Robots entre nosotros”1: de la ciencia ficción a la realidad robots, androides, cyborgs, autómatas, invaden el imaginario contemporáneo y ofrecen ideas para una consideración filosófica y antropológica de las transfor- maciones que la tecnología imprime al hombre, a su cuerpo y al ambiente que lo rodea. desde los clásicos de la ciencia ficción, a la filmografía, a las historietas, a los dibujos animados, las sugerencias que ofrecen los distintos géneros literarios, las producciones culturales y los medios de comunicación son tan numerosas que no pueden reproducirse siquiera sumariamente, lo que exime de efectuar citaciones exhaustivas2. Las novedades que nos ofrecen los avances técnicos y científicos de los años (relativamente) más recientes se relacionan con la comprobación (si bien en for- ma menos espectacular y por algunos aspectos más rudimentaria) de objetos que antes solo eran concebidos por la fantasía de los escritores y por la inspiración creativa de autores cinematográficos y televisivos, diagramadores y diseñadores. seres artificiales, criaturas híbridas, sistemas cibernéticos sofisticados, que inte- ractúan con el hombre y actúan en el mundo virtual y en el mundo físico; los productos de ingeniería que funcionan con autonomía (al menos en apariencia) ya forman parte de nuestra contemporaneidad, y prácticamente, sin que nos de- mos cuenta, varios ejemplos de la tecnología robótica han comenzado a entrar en nuestra cotidianeidad. La automatización está presente desde hace tiempo en el sector industrial, donde cada vez más se hace uso de robots en el ámbito de los procesos produc- tivos, en el ensamble y la manipulación de materiales, en las cadenas de montaje, en la confección de mercancías. No obstante, el sector de la robótica industrial está caracterizado por una rígida separación de las máquinas frente a los traba- jadores. el robot industrial está confinado a un espacio estructurado para aco- gerlo, y aislado por barreras físicas o virtuales. también es conocido el empleo de robots en ambientes extremos e inaccesibles al hombre, como en los planetas del sistema solar o en las profundidades marinas. Rover diseñados por agencias espaciales visitan cuerpos celestes a millones de kilómetros de distancia y pro- 1 Robot fra noi. Le creature intelligenti che stiamo per costruire, turín, 2014 (trad. ital. de Robot Futures, cambridge, Ma, 2013), es el título de un libro muy divulgado escrito por Nourbakhsh, i. r., uno de los más famosos exponentes de la investigación en el campo de la robótica. otras fuentes recientes de información general sobre el fenómeno son cingolani, r. y Metta, G., Umani e umanoidi. Vivere con i robot, Bolonia, 2015; de Biase, L., Homo pluralis. Esseri umani nell’era tecnologica, turín, 2015. 2 por otra parte, la reflexión cultural sobre el fenómeno, desde diversas perspectivas disciplina- rias, a su vez es tan variada como para hacer prácticamente superfluo, además que arbitrario, cualquier intento que se haga en este sentido en un artículo que afronta el tema desde un aspec- to eminentemente jurídico. se recuerdan tan solo, a título ejemplificativo, henry, B., Dal Golem ai cyborgs. Trasmigrazioni nell’immaginario, Livorno, 2012; así como los artículos reunidos en el marco del convenio sobre Roboethics in film, Múnich, 28 y 29 de febrero de 2014, publicados en el volumen homónimo, al cuidado de Battaglia, F. y Weidenfeld, N., pisa, 2014. Revista de deRecho PRivado, n.º 32, eneRo - junio de 2017, PP. 53 a 97 [57]Ro b ó t i c a y d e R e c h o: s u g e R e n c i a s, c o n f l u e n c i a s, e v o l u c i o n e s. . . paralelamente a la difusión de las aplicaciones robóticas y a su empleo en diversos sectores, pero sobre todo con miras a su introducción en la vida co- tidiana, emergen preocupaciones de orden ético y jurídico. desde el punto de vista ético son cuestionados, principalmente, los aspectos relativos a la acepta- bilidad social de la innovación tecnológica, el acceso a la misma según criterios no discriminatorios y fundados en principios de justicia social, y la integridad de la investigación científica en terrenos límite. pero como estos aspectos no son propios de la reflexión ética y filosófica de la robótica, sino del debate crítico sobre la innovación tecnológica en general, la discusión asume diversos puntos de vista y se concentra sobre temas característicos de este sector. La roboética8 es principalmente la ética de los investigadores, de los fabricantes y de las personas involucradas en el uso de los robots9. una de sus ramas específicas estudia la éti- ca de la conducta humana en la interacción con artefactos robóticos y el impacto que este vínculo genera en los planos de la identidad y de lo emocional10; sobre la base de que los robots son máquinas diseñadas frecuentemente para evocar, a partir de similitudes y de reacciones a los estímulos del ambiente, a un ser vivien- te, humano o animal11, con las consecuencias que generan, por un lado, la ficción y la simulación de emociones12, y por el otro, la proyección de significados en las relaciones13. 8 el término ha sido acuñado por veruggio, G., The euron Roboethics Roadmap, 2006, disponible en: http://www3.nd.edu/~rbarger/ethics-roadmap.pdf. Ver también verruggio, G. y operto, F., “roboethics: social and ethical implications of robotics”, en Handbook of Robotics, siciliano, B. y Khatib, o. (eds.), 2008, springer, 1151 ss. 9 Lin, p., abney, K. y Bekey, G. a. (eds.), Robot Ethics. The Ethical and Social Implications of Robot- ics, cambridge (Ma), 2012; id., “robot ethics: Mapping the issues for a mechanized world”, en Artificial Intelligence, 2011, 175 (5-6), 942-949; Capurro, r. y Nagenborg, M. (eds.), Ethics and Robotics, heidelberg, 2009; decker, M. y Gutmann, M. (eds.), Robo- and Information Ethics. Some fundamentals, Berlin, 2012; Wallach, W., “From robots to techno sapiens: ethics, Law and public policy in the developments of robotics and Neurotechnologies”, en Law, Innova- tion and Technology, 2011, 3(2), 185-207; von schomberg, r., “From an ethics of technology towards an ethics of knowledge policy: implications for robotics”, en Artificial Intelligence and Society, 2008, 22, 331-348. Con respecto específicamente a la neurobótica, Wagner, j. j. can- non, d. M. y van der Loos, h. F. M., Cross-cultural Considerations in Establishing Roboethics for Neuro-robot Applications, proceedings of the 2005 ieee 9th international conference on reha- bilitation robotics, chicago, iL, usa; r. Bogue, “robot ethics and Law”, en Industrial Robot: An International Journal, 2014, 41(5), 398-402. 10 turkle, s., Alone Together. Why We Expect More from Technology and Less from Each Other, New York, 2011. 11 es el caso, p. ej., del robot “paro” (http://www.parorobots.com/), que tiene la apariencia de una cría de foca y es usado para la terapia de personas ancianas y con problemas cognitivos porque ayuda a reducir el estrés y facilita la socialización. Ver, p. ej., “japan develops robot- ic seals to comfort sick and elderly”, bbc, 2 de octubre, 2010 (http://www.bbc.com/news/ health-11459745). 12 sharkey, a., “robots and human dignity: a consideration of the effects of robot care on the dignity of older people”, en Ethics and Information Technology, 2014, 16, 63-75. 13 ver, p. ej., sharkey, N. y sharkey, a., “the crying shame of robot nannies: an ethical apprais- al”, en Interaction Studies, 2010, 11 (2), 161-190; sharkey, a. y sharkey, N., “Granny and the Revista de deRecho PRivado, n.º 32, eneRo - junio de 2017, PP. 53 a 97 [58] Er i c a Pa l m E r i n i por otra parte, la ética de las máquinas14 se preocupa por construir e insertar en el funcionamiento de las máquinas un código moral. si los robots son efi- cientes en cuanto (también) caracterizados por una autonomía que se alimenta por medio de la capacidad de aprendizaje de la que son dotados y los habilita al cumplimiento de acciones no programadas, resulta importante incluir en el código del programa reglas que puedan gobernar los comportamientos de los robots, aun los no anticipados, permitiéndoles distinguir, entre las conductas posibles, la más apropiada o menos nociva. esta rama de estudio presenta, de un lado, un perfil esencialmente tecnológico, que debe proporcionar las soluciones técnicas que estén en capacidad de dotar al robot de una moral, y del otro, un perfil de reflexión ética, que se ocupa de construir un conjunto ordenado y sim- ple de reglas de comportamiento, según la sugestión de las leyes de asimov, que posteriormente puedan ser transformadas en un código binario. por su parte, el interés del jurista se suscita por la entrada de los robots en ambientes cotidianos y por la variedad de relaciones que de ellos se derivan y que, como es posible imaginar, serán la regla en el futuro. Las modalidades de interacción son distintas entre sí –daños, relación contractual, injerto o implante en el cuerpo– y evocan otras ramas del sistema jurídico. el robot diseñado para la asistencia en el hogar o en una clínica hospitalaria, entra en íntimo contac- to con la persona que lo utiliza (con frecuencia un paciente o, en general, una persona en condiciones de fragilidad debido a su edad, a una enfermedad o a una incapacidad), con sus familiares y con los operadores de ese ambiente, sus- citando de forma inevitable la ocasión para la ocurrencia de accidentes, lesiones o perjuicios. una elevada capacidad sensorial del robot y todas las especificacio- nes técnicas incluidas en el diseño de la máquina pueden minimizar, aunque no anulen completamente, la eventualidad de colisiones, caídas e impactos de di- versa índole. además, cuanto más delicada es la función que deben llevar a cabo (como, p. ej., levantar a un paciente de la cama), tanto más graves pueden ser las consecuencias dañosas provocadas por un mal funcionamiento, por una errónea interpretación de los estímulos ambientales o por un desperfecto eléctrico. así, el robot quirúrgico que permite efectuar intervenciones de alta precisión y ope- rar en dimensiones muy pequeñas, sin la dificultad que eventualmente tendría el robots: ethical issues in robot care for the elderly”, en Ethics and Information Technology, 2012, 14 (1), 27-40; scheutz, M., “The inherent dangers of unidirectional emotional Bonds between humans and social robots”, en Robot Ethics: The Ethical and Social Implications of Robotics, cit., 205 ss. 14 anderson, M. y anderson, s. L., Machine Ethics, cambridge, 2011; Gunkel, d. j., The Machine Question. Critical Perspectives on AI, Robots, and Ethics, cambridge (Mass.), 2012; Wallach, W. y allen, c. Moral machines: Teaching robots right from wrong, oxford-new York, 2009; Malle, B. F., scheutz, M. y austerweil, j. L., Networks of Social and Moral Norms in Human and Robot Agents, international conference on robot ethics, Lisbon, 2015; Malle, B. F. y scheutz, M. Moral Competence in Social Robots, ieee international symposium on ethics in engineering, sci- ence, and technology, chicago (iL), 2014. Revista de deRecho PRivado, n.º 32, eneRo - junio de 2017, PP. 53 a 97 [59]Ro b ó t i c a y d e R e c h o: s u g e R e n c i a s, c o n f l u e n c i a s, e v o l u c i o n e s. . . cirujano en el plano visual y manual, puede causar lesiones a los propios órganos y a los vasos sanguíneos circundantes, si por error el software operativo genera movimientos involuntarios. pero la modalidad de la interacción dañosa es solo una de las tantas posi- bilidades. software robots (softbots) son comúnmente usados para realizar tran- sacciones financieras15; sistemas automatizados llevan a cabo ventas on line y permiten organizar la distribución de los bienes adquiridos; sistemas expertos (o deep learning systems)16 constituyen un auxilio potente, en contextos clínicos, en el diagnóstico de una condición patológica a partir de la observación de las condiciones del paciente17; softwares son utilizados para escribir artículos perio- dísticos en circunstancias de emergencia, como por ejemplo, para reportar un sismo en tiempo real18. La legalidad de este tipo de aplicaciones tecnológicas y de las operaciones realizadas a través de ellas surge del tipo de relación contrac- tual establecida o mediada por un ente robotizado; del instrumento y del proceso decisorio que conduce a la elección terapéutica, o de la dimensión del posible reconocimiento por atribuir al trabajo (que llamaremos) intelectual, generado por un robot. otra realidad próxima, con la que el derecho también deberá con- frontarse, es la de las transacciones corrientes, incluso de modesto valor, gracias a las cuales un robot puede comprar productos alimenticios o medicinas para la persona a la que cuida19. en definitiva, la prospectiva de la compenetración entre el hombre y la máquina se lleva a cabo mediante una serie de aplicaciones, que van desde el implante de prótesis avanzadas, a la creación de conexiones cerebro-máquina para controlar el movimiento de una extremidad o de un robot (o incluso para exteriorizar el pensamiento), a la estimulación cerebral profunda. estas trans- formaciones inducen a revisar la construcción jurídica del concepto de cuerpo y de sus partes, y a determinar, sobre bases nuevas, las fronteras operativas de la noción de integridad física, así como a replantear el régimen aplicable a realida- des materiales, ya sean externas o internas, que desarrollan funciones esenciales para la persona. 15 acerca de los riesgos vinculados al creciente uso de sistemas de inteligencia artificial y de pro- gramas automáticos en las finanzas modernas, transformadas de esta manera en una “cyborg finance” en la que los principales actores son en parte no humanos, ver Lin, t. c. W., The New Investor, 60 ucla L. Rev. 678 (2012-2013). 16 un ejemplo es Watson de la ibm: http://www-03.ibm.com/innovation/us/watson/ 17 Ferrucci, d., Levas, al., Bagchi, s., Gondek, d. y Mueller, e. T. , “Watson: Beyond jeopar- dy!”, en Artificial Intelligence, 2013, 93-105. 18 Ver: http://www.bbc.com/news/technology-26614051 19 el proyecto europeo robot-era (http://www.robot-era.eu/robotera/) prevé el desarrollo de tres robots personales: el primero es un robot de asistencia doméstica, el segundo se mueve dentro de un inmueble compuesto por varias unidades habitables, por ejemplo, un condominio, y el tercero es utilizado para la circulación en el espacio externo, donde puede cumplir tareas sim- ples. Revista de deRecho PRivado, n.º 32, eneRo - junio de 2017, PP. 53 a 97 [62] Er i c a Pa l m E r i n i condensada en la fórmula de responsible research and innovation (rri)24, se encuen- tra cada vez más respaldada por la conciencia de que un ambiente legal claro, transparente y predispuesto a recoger las novedades apenas delineadas, puede constituir un incentivo al desarrollo de este sector del mercado, contrario a una falaz pero enérgica representación de la regulación jurídica en términos de im- pedimento o freno a la innovación. en definitiva, este enfoque unitario y proactivo se encuentra reafirmado por la reciente posición adoptada por el regulador europeo. un grupo de trabajo ins- tituido por la Comisión de Asuntos jurídicos del Parlamento europeo redactó un documento analítico sobre los problemas jurídicos planteados a partir de las evoluciones en el campo de la robótica, que, con un llamado para la expedición de una resolución del mismo parlamento, invita a la comisión a adoptar una regulación en la materia25. como tema de interés académico, la regulación de la robótica se ha incluido en la agenda de elaboración de políticas. A. El antecedente: el proyecto RoboLaw entre las motivaciones de esta investigación se encuentra una segunda circuns- tancia, más ocasional, esto es, la individualización de los problemas en el contex- to de una investigación desarrollada en el ámbito del séptimo programa Marco y llevada a cabo por un grupo interdisciplinario26. esta se inscribe en una cola- boración entre juristas e ingenieros; inicialmente estuvo focalizada en el análisis de casos de estudio individuales (p. ej., los problemas jurídicos planteados por la experimentación de un robot para la recolección de residuos urbanos, al que se le había permitido circular por las calles de peccioli, un pequeño pueblo de la provincia de pisa27) y, sucesivamente, adoptó una postura abierta a la considera- 24 el concepto de rri es, en realidad, mucho más complejo y no se agota en la preocupación por la ética de la investigación y de sus aplicaciones. para una visión general en el contexto de las políticas europeas que sirven de sostén a la ciencia y a la tecnología, ver european commis- sion, Options for Strengthening Responsible Research and Innovation, Luxembourg, 2013. para una valoración del nivel de penetración de los cánones de la rri en la investigación científica en el campo de la robótica, ver Koops, B.-j., palmerini, e. y salvini, p. Responsible Innovation and Robotics, en Handbook - Responsible Innovation: A Global Resource, r. von schomberg (ed.), en proceso publicación por edward elgar publishing. 25 committee on Legal affairs, Draft Report with recommendations to the Commission on Civil Law Rules on Robotics (2015/2103 (inl), 24 de enero de 2017. el parlamento aprobó la propuesta de resolución el 16 de febrero de 2017. 26 roboLaw – regulating emerging robotic technologies: robotics Facing Law and ethics (G.A. n. 289092), 2012-2014, disponible en: www.robolaw.eu 27 Se alude al proyecto europeo dustbot – networked and Cooperating robots for urban Hy- giene (www.dustbot.org), 2006-2009. Sobre las implicaciones jurídicas, ver salvini, p., et al., An Investigation on Legal Regulations for Robot Deployment in Urban Areas: A Focus on Italian Law, en Advanced Robotics, 2010, 24, 1901-1917. Revista de deRecho PRivado, n.º 32, eneRo - junio de 2017, PP. 53 a 97 [63]Ro b ó t i c a y d e R e c h o: s u g e R e n c i a s, c o n f l u e n c i a s, e v o l u c i o n e s. . . ción de todas las potencialidades, aunque también de los riesgos, generados por el progreso de la investigación y por los avances de la industria robótica. el proyecto fue estructurado sobre cuatro líneas de análisis: la primera estu- vo dirigida a estudiar el rol de las distintas fuentes de la regulación de la ciencia y la tecnología. en el contexto del tema más amplio de la governance de las tec- nologías emergentes, la investigación se focalizó sobre las ventajas y los límites de los instrumentos de soft law superpuestos a la legislación vinculante; además, en un campo dominado por una normatividad de origen técnico se afrontó el problema clave del avance de la regulación privada28. Las reglas técnicas y es- tándar emanadas por organismos privados, algunas veces, aunque no siempre, en razón de una remisión legislativa explícita, fueron examinadas en sus aspectos críticos, ligados tanto a la legitimación democrática de los entes que imparten las prescripciones como a la accesibilidad y a la imparcialidad de sus contenidos; principalmente, se analizó su complejo vínculo con los deberes de seguridad y de conformidad para el uso, que pesa sobre los fabricantes y distribuidores, y sus repercusiones en el plano de la responsabilidad ante la observancia o inobservan- cia de tales preceptos29. La definición de la base tecnológica de la investigación, a través de la cons- trucción de una taxonomía de las aplicaciones robóticas (estructurada sobre los elementos de la materialidad, del nivel de autonomía, de la función, del ambiente y de la interacción del hombre) y la descripción del estado del arte en materia, constituyó un segundo tramo de la investigación30. un tercer segmento fue dedicado a la descripción del debate ético-jurídico sobre el tema del human enhancement, en primer lugar, reconstruido en sus as- pectos generales, y luego discutido en relación específica con su potencialización por medio de las técnicas robóticas31. La investigación propiamente jurídica, inicialmente, giró en torno a la deli- neación de las zonas de intersección e influencia recíproca entre derecho y ro- 28 esta parte de la investigación confluyó en el volumen Law and Technology. The challenge of re- gulating technological development, palmerini, e. y stradella,e. (eds.), pisa, 2013, que reúne las actas del convenio “regulating technological development at the intersection of science and law”, pisa, 21 y 22 de junio de 2012. sobre el vínculo complejo entre innovación y regulación en el sector de la robótica ver, en particular, palmerini, e., “the interplay between law and technology, or the roboLaw project in context”, ibíd., 7-24. 29 ver, en particular, en el volumen citado en la nota precedente, el análisis de Zei, astrid, “shi- fting the boundaries or breaking the branches? on some problems arising with the regulation of technology”, 167-204. 30 salvini, p., deliverable d4.1 – Taxonomy of robotic technologies; salvini, p. y shah, h., deliver- able d4.2 – State-of-the-art in robotic research: Case-studies from sssa laboratories. 31 son referentes en este aspecto el informe interno de Battaglia, F. y carnevale,a., deliverable d5.1 - An ethical-philosophical analysis of the human enhancement; y los volúmenes Beyond Therapy v. Enhancement? Multidisciplinary analyses of a heated debate, Lucivero, F. y vedder, a. (eds.), pisa, 2013; Reframing the Debate on Human Enhancement, Battaglia, F. y carnevale, a. (eds.), HumanaMente, n.º especial 26, 2014. Revista de deRecho PRivado, n.º 32, eneRo - junio de 2017, PP. 53 a 97 [64] Er i c a Pa l m E r i n i bótica32, para luego focalizarse, por un lado, sobre la discusión interdisciplinaria de los problemas considerados de mayor relevancia, como el de la responsabili- dad33; y sobre el análisis de aplicaciones robóticas singulares, identificadas por su inminencia, por la novedad de las cuestiones que plantean y por la importancia de su impacto social34. el resultado de esta selección llevó a centrar la atención en los robots quirúrgicos, las prótesis robóticas, los vehículos autónomos y los care robots, que han sido examinados considerando todas sus implicaciones éticas y jurídicas. Los resultados de la investigación han constituido la base para la formulación de recomendaciones de políticas recogidas en un documento final destinado a la comisión europea35. el enfoque analítico adoptado por la redacción de este documento refleja la extrema diversidad de las aplicaciones robóticas, circunstancia que hace impo- sible una representación unitaria, y tampoco justifica tentativos de tratamientos omnicomprensivos, especialmente cuando se orientan al objetivo pragmático de proponer soluciones de regulación que correspondan a efectivas lagunas del sis- tema o puedan remediar ineficiencias o encuadramientos discutibles. B. ¿Qué es un robot? Base tecnológica y cuestiones jurídicas La dificultad de individualizar una matriz unitaria del discurso también resi- de en la ausencia de una definición unívoca de robot en el plano tecnológico. La imposibilidad sustancial de compartir una noción suficientemente precisa, que responda a las múltiples formas de implementación robótica existentes, es una constatación común y un punto de partida constante, aunque negativo, de cualquier reflexión sobre el tema36. en la búsqueda de un rasgo característico, el acento se pone con frecuencia en la capacidad de los robots de ejecutar tareas de manera automatizada, o bien en la autonomía de la máquina frente al control humano, en la movilidad en el ambiente o, incluso, en el dato exterior de las 32 Leenes, r. et al., deliverable d3.1 – Inventory of current state of robolaw. 33 Rethinking Responsibility in Science and Technology,Battaglia, F., mukerji, n. y nida-rümelin, j. (eds.), pisa, 2014. 34 el método de selección de cuatro aplicaciones robóticas tiene en cuenta el proceso de clasifi- cación formulado y aplicado en el ámbito del proyecto europeo ethicBots: tamburrini, G. y datteri, e. (eds.), deliverable d2 – methodology for the identification and analysis of techno- ethical issues (http://ethicbots.na.infn.it/). 35 palmerini, e. et al., deliverable d6.2 - Guidelines on regulating robotics. una síntesis de los resul- tados del proyecto se encuentra también contenida en Bertolini, A. y palmerini, e. Regulating Robotics: A Challenge for Europe, en Upcoming issues of EU Law. Compilation of in-depth analyses. Workshop for the iuri committee of the european parliament, session ii, 94-129, Brussels, office for the official publications of the european communities, 2014, disponible en: http:// www.europarl.europa.eu/studies 36 al igual que la mención al origen del término robot, que habría sido usado por primera vez por el dramaturgo ciego Karel cǎpek en su trabajo Rossum’s Universal Robots, como derivación de la raíz robota que significa “trabajo duro, trabajo forzado”. Revista de deRecho PRivado, n.º 32, eneRo - junio de 2017, PP. 53 a 97 [67]Ro b ó t i c a y d e R e c h o: s u g e R e n c i a s, c o n f l u e n c i a s, e v o l u c i o n e s. . . el tipo de información a proporcionar a los consumidores (p. ej., mediante el folleto de instrucciones) y regulan la colocación de la marca ce. La definición de las medidas de seguridad está a cargo de un sistema complejo que compete, en parte, a las autoridades nacionales que fijan los procedimientos y las condiciones con base en las cuales un producto puede ser considerado seguro; y en parte, a la determinación de los organismos internacionales de seguridad, mediante la fijación de los estándares técnicos40. el hecho de que el producto pertenezca, eventualmente, a una clase más específica reenvía a otras regulaciones. es el caso de los robots que constituyen dispositivos médicos como las prótesis, las nanocápsulas robóticas, los exoesque- letos utilizados en el ámbito sanitario y los robots quirúrgicos. en este caso, la normatividad aplicable es proporcionada por las dos directivas sobre la materia41 y por las respectivas normas de implementación que trazan un cuadro completo de regulación, que en todo caso se presenta en un nivel extremadamente general e insuficiente para captar los riesgos y las potencialidades de estos productos42. dicha normatividad es considerada como un marco regulatorio favorable a la innovación en el ámbito sanitario, toda vez que la uniformidad de reglas respecto de cualquier dispositivo de uso médico permite que los fabricantes se puedan mover en diversos sectores del respectivo mercado, sin incurrir en costos tran- saccionales elevados. por otra parte, la naturaleza transversal y general de la disciplina le impone situarse en un nivel mínimo de seguridad, al cual podrían escapar justamente los dispositivos tecnológicamente más avanzados. de hecho, las principales debili- dades de este esquema regulatorio tienen que ver, por un lado, con la falta de consideración de los nuevos riesgos que plantea la creciente sofisticación de los dispositivos43; y por el otro, con la insuficiente regulación de la fase experimen- tal y de puesta en funcionamiento de los dispositivos, los cuales son tomados en consideración, casi exclusivamente, al momento de su introducción en el merca- do. respecto al primer aspecto, no se consideran las características especiales de los dispositivos robóticos con un nivel elevado de integración en el cuerpo, por 40 véanse, por ejemplo, los estándares iso 10218-1/2, robots and robotic devices. Safety require- ments for industrial robots (part 1: robots; part 2: robot systems and integration), Ginebra, 2011; e iso 13482, robots and robotic devices - Safety requirements for service robots - Per- sonal care robot, Ginebra, 2014. 41 directiva 93/42/cee del consejo, del 14 de junio de 1993, acerca de los dispositivos médicos; directiva 90/385/cee del consejo, del 20 de junio de 1990, sobre los productos sanitarios im- plantables activos. 42 para un análisis completo del tema, ver palmerini, e., A legal perspective on body implants for therapy and enhancement, en International Review of Law, Computers & Technology, 2015, 29 (2-3), 226-244. 43 se trata de un fenómeno característico de “regulatory disconnection”, según la nomenclatura em- pleada por Brownsword, r. y Goodwin, M., Law and the Technologies of the Twenty-First Century, Cambridge, 2012, 369 ss. Revista de deRecho PRivado, n.º 32, eneRo - junio de 2017, PP. 53 a 97 [68] Er i c a Pa l m E r i n i ejemplo, mediante la conexión al sistema nervioso, central o periférico, y la po- sibilidad de una comunicación Wireless entre el dispositivo y un operador u otra plataforma externa. La directiva 90/385 se ocupa principalmente de los dispo- sitivos implantables, como los pacemakers o los infusores para la insulina, pero la época en que se expidió la hace obsoleta, tanto en relación con las potencialida- des invasivas de los nuevos dispositivos como con la extrema delicadeza y com- plejidad de las funciones con las que están destinadas a interferir. La disciplina es igualmente inadecuada respecto de los riesgos de interferencia externa derivados de la conectividad de los dispositivos, que en otros lugares las autoridades de regulación han comenzado a tomar en consideración44, mientras en europa no han sido afrontados ni siquiera en el curso del proceso de revisión de la platafor- ma normativa existente, que desde hace tiempo emprendió la comisión45. respecto a la regulación de los tests clínicos, la normativa es extremadamen- te genérica y se limita a una remisión a los principios generales en materia de experimentación humana, quedando de esta manera privada de la especificidad necesaria para acoger la peculiaridad del uso experimental de dispositivos médi- cos, como una prótesis robótica. esta regulación, en definitiva, solo se refiere a los dispositivos de uso médico, es decir, a aquellos dispositivos que tienen un fin terapéutico o de diagnóstico. sin embargo, según la enunciación de la directiva 42/93 (art. 2), la tarea de defi- nir la finalidad médica del producto es reenviada al mismo fabricante que solicita la certificación del producto y al material informativo con la cual la acompaña. La razón de esta solución, confirmada en una ocasión por la Corte de justicia46, es la de proteger la salud de los pacientes, pero también la de asegurar la libre circulación de los bienes en el territorio comunitario. por estas razones, a este régimen podrían escapar aplicaciones robóticas que solo tengan como objetivo el aumento de potencialidades, y no de terapia, aunque presenten características invasivas similares a las de los dispositivos médicos propiamente dichos47. 44 fda, Cybersecurity for Networked Medical Devices Containing Off-the-Shelf (ots) Software, 14 de enero de 2005 (www.fda.gov/downloads/Medicaldevices/deviceregulationandGuidance/ Guidancedocuments/ucm077823.pdf); fda, Content of Premarket Submissions for Management of Cybersecurity in Medical Devices, 2 de octubre de 2014 (www.fda.gov/downloads/Medicalde- vices/deviceregulationandGuidance/Guidancedocuments/ucm356190.pdf). Ver, además, el documento Attack Surface: Healthcare and Public Health Sector, emanado recientemente por el national Cybersecurity and Communications integration Center en el uS department of homeland security, que describe las vulnerabilidades asociadas a los dispositivos empleados en el ámbito sanitario (www.kslaw.com/library/publication/HH051412:Bulletin.pdf). 45 ello debería concluirse con el dictado de un reglamento que sustituye a las directivas prece- dentes: european commission, Proposal for a Regulation of the European Parliament and of the Council on medical devices, and amending Directive 2001/83/EC, Regulation (EC) No 178/2002 and Regulation (EC) No 1223/2009, com (2012) 542 final, Brussels, 26 de septiembre de 2012. 46 cgue, Case C-219/11 Brain Products GmbH v BioSemi vof and Others [2012]. 47 en el proceso de revisión de la directiva este problema ha sido considerado y ha derivado en la propuesta de introducir en la nueva reglamentación un agregado que contiene una lista especial Revista de deRecho PRivado, n.º 32, eneRo - junio de 2017, PP. 53 a 97 [69]Ro b ó t i c a y d e R e c h o: s u g e R e n c i a s, c o n f l u e n c i a s, e v o l u c i o n e s. . . A. De la calificación genérica a la laguna normativa si por regla existe una base normativa que ofrece un marco jurídico para muchas de las tecnologías robóticas actuales, lo expuesto pone en evidencia en qué medi- da pueden existir implementaciones que no recaigan en los regímenes existentes y, por lo tanto, queden por fuera de la regulación. un segundo ejemplo, muy claro, es proporcionado por los vehículos autó- nomos que, desde el punto de vista jurídico, se ubican en un área gris. La cir- culación en las calles de automóviles sin conductor es posible, actualmente, por reglamentaciones especialmente introducidas para consentir su uso. una deta- llada investigación sobre la legislación estadounidense, a nivel federal, incluida la regulación derivada de la convención de Ginebra de 1949, y de cada uno de los estados, concluyó que “probablemente”, en la actualidad, su uso no está prohi- bido48. No obstante, una intensa actividad de lobbying ha llevado a la emanación de disposiciones ad hoc que autorizan la circulación en vía experimental por las calles de diversos estados (los primeros en legislar sobre la materia han sido Nevada, Florida, california y Michigan). estos se han ocupado de reglamentar el permiso especial que legitima la circulación de estos vehículos; de imponer algunos requisitos de seguridad, como la presencia a bordo de una persona que pueda asumir el control del vehículo en caso de necesidad; de los perfiles de la responsabilidad en caso de incidente y los aspectos asegurativos49. en europa, por el contrario, la convención de viena sobre el tráfico urbano de 1968 excluye, en forma plausible, la circulación de vehículos autónomos por las vías públicas, comoquiera que una norma impone que cada vehículo debe de “productos implantables o, incluso, invasivos sin un objetivo médico”, que han de conside- rarse como dispositivos sometidos al mismo régimen, con prescindencia del hecho de que sean definidos para uso médico por el fabricante (art. 2.1). La cuestión es ampliamente discutida en Maslen, h., et al., The regulation of cognitive enhancement devices: Refining Maslen et al.’s model, en Journal of Law and the Biosciences, 2015, 1-14 y en el artículo precedente de los mismos autores, “the regulation of cognitive enhancement devices: extending the medical model”, ibíd., 2014. vale la pena destacar que la solución descrita, si fuese finalmente acogida, se ocupa únicamente de garanizar estándares mínimos de seguridad del producto, pero no concierne en sí misma a la legitimidad de dispositivos con fines de potencialización. 48 Walker smith, B., Automated Vehicles Are Probably Legal in the United States, 1 Texas A&M Law Review, 2014, 411-521. La national Highway Traffic Safety Administration (nhtsa) ha asumi- do una posición clara a favor del desarrollo de tecnologías de automatización avanzada para el transporte: ver el Preliminary Statement of Policy Concerning Automated Vehicles, y principalmente el sucesivo 2016 Update. 49 otros aspectos regulados en las leyes de los estados americanos pueden referirse a: la indicación a otros conductores, mediante licencias especiales, de que se trata de vehículos autónomos; el registro de los datos sobre eventuales colisiones y la obligación de transmitirlos a la autoridad competente; las restricciones a la posibilidad de utilizar vehículos autónomos en ciertas partes del territorio. para un análisis detallado de la legislación, además del trabajo citado en la nota nota 48, espec. 500-508, ver también Gosselin, K. M., Navigating the Policy Landscape to Bring Autonomous Vehicle Legislation to Your State, New York University Journal of Legislation and Public Policy Quorum, 2015, 85-109, espec. 91-97. Revista de deRecho PRivado, n.º 32, eneRo - junio de 2017, PP. 53 a 97 [72] Er i c a Pa l m E r i n i incluso venderlos por su valor. el hecho de que los robots sean objetos tangibles y móviles permite que sean utilizados para recoger datos sobre el consumo y so- bre las preferencias individuales, no solo en el ambiente digital, sino también en el mundo real, que luego serán utilizados para realizar estrategias de marketing personalizadas, sin necesidad de que el usuario acceda a la red56. en otras pala- bras, las tecnologías robóticas permiten obtener amplios conocimientos sobre los deseos y los intereses de consumo del público, en un grado mucho mayor al de las estrategias comúnmente usadas en la actualidad (como encuestas tele- fónicas o mediante internet, elaboración de perfiles de clientes o campañas de fidelización), puesto que la interacción con los clientes y la recopilación y gestión analítica de información no se realizarán únicamente mediante instrumentos te- lemáticos, sino a través de diversos medios. de esta información será posible realizar un seguimiento, procesarla y combinarla, para luego aplicarla a técnicas de marketing dirigidas a obtener la más elevada tasa de conversión entre la ofer- ta de un producto y su venta efectiva. el cuadro que se va delineando muestra más de un aspecto de divergencia respecto a los cánones de transparencia y de corrección sobre los cuales está basado el mercado de provisión de bienes y ser- vicios a los consumidores. por lo tanto, la idoneidad de las actuales técnicas de protección del consumidor deberá ser objeto de un constante monitoreo. Ligada a la tutela de los consumidores en sentido lato, también se encuentra la perspectiva que se cuestiona sobre el vínculo entre la aparición de los robots en ambientes ordinarios y la protección de la privacidad de los datos personales. Los sistemas robóticos están equipados con una red muy sofisticada de senso- res, videocámaras, tecnologías para el reconocimiento facial y de los objetos, que permiten percibir al ambiente circundante en un modo bastante preciso y, de hecho, convertirse en instrumentos de vigilancia57. Las preocupaciones por la vida privada comprenden tanto a los robots destinados a operar en ambien- tes domésticos y en íntimo contacto con las personas58 como a las tecnologías como aquella de los drones59. estos últimos pueden alcanzar fácilmente lugares generalmente inaccesibles, pueden estar equipados con telecámaras de alta re- solución o termo-cámaras para la visión nocturna, además de micrófonos y, en consecuencia, pueden efectuar capturas fotográficas o de comunicaciones. sus dimensiones pueden ser muy reducidas, al punto de hacer difícil su visualización y señalización. La naturaleza ubicua de la tecnología aumenta su potencial, pero 56 posibles escenarios son descritos a modo de historias de ciencia ficción por Nourbakhsh, Robot tra noi, cit., 23 ss. 57 calo, r., Robots and Privacy, en Robot Ethics. The Ethical and Social Implications of Robotics, cit., 187-202. 58 Kaminski, M. e., Robots in the Home: What Will We Have Agreed to?, Idaho Law Review, 2015, vol. 51, 661-677. 59 “they represent the cold, technological embodiment of observation”: calo, r., The Drone as Privacy Catalyst, Stanford Law Review online, 2011, 64, 29-33, 33. Revista de deRecho PRivado, n.º 32, eneRo - junio de 2017, PP. 53 a 97 [73]Ro b ó t i c a y d e R e c h o: s u g e R e n c i a s, c o n f l u e n c i a s, e v o l u c i o n e s. . . es por muchas razones disonante con las modalidades de protección de los datos personales, sobre los que se basa la normativa actual. No por casualidad, el sector de la robótica es uno de los más involucrados por el concepto de privacidad by design implementado también por el nuevo reglamento sobre el tratamiento de los datos60. VI. Los problemas de la seguridad y de la responsabilidad en el mercado emergente de la robótica Garantizar una seguridad elevada de los propios productos y proyectar respues- tas adecuadas ante la eventualidad de que causen daño a quien los utiliza o a ter- ceros constituye una de las preocupaciones constantes de la industria robótica. Los sistemas robóticos están cada vez más pensados para ser introducidos en am- bientes comunes, en íntima relación con el hombre, circunstancia que aumenta, junto con la versatilidad de la tecnología, las ocasiones de contacto y de impacto accidental. respecto a los robots industriales –máquinas que son destinadas a espacios predispuestos para acogerlos con barreras físicas y virtuales, y dotadas de dispositivos que se detienen o reducen su movimiento en caso de que una per- sona ingrese al área limitada– el riesgo de accidente está contenido. Mucho más difícil es introducir sistemas de seguridad confiables en relación con los robots móviles, que son diseñados para circular en ambientes no estructurales, como el tráfico urbano ordinario, o para ser introducidos en viviendas privadas, o para actuar en íntima relación con una persona que sufre discapacidad o que necesita de una terapia de rehabilitación. es el caso de los robots asistentes, que deben moverse en ambientes altamen- te dinámicos y unir autonomía y flexibilidad para asistir al individuo en las activi- dades cotidianas; el sistema de sensores con los que son dotados debería permitir su localización, evitar los obstáculos, planificar la trayectoria a seguir, pero la complejidad de estas operaciones es tal que no permite eliminar totalmente los riesgos que ellas comportan. todavía más evidente es el problema relativo a los vehículos autónomos, que según algunas estimaciones pueden aumentar nota- blemente la seguridad del tráfico en la calle, dado que no sufren de déficit de atención, de problemas de distracción, de imprudencia o impericia; en efecto, su software se encuentra en capacidad de registrar y seguir la trayectoria de varios objetos en movimiento a lo largo de un campo visual más amplio que el humano y cuentan con tiempos de reacción más rápidos. sin embargo, el riesgo principal está determinado por la necesidad de compartir el ambiente operativo con otros 60 reglamento 2016/679 del Parlamento europeo y del Consejo del 27 de abril de 2016, relativo a la protección de las personas físicas en lo que respecta al tratamiento de datos personales y a la libre circulación de estos datos, y que deriva de la directiva 95/46/Ce. Ver, en particular, art. 25. Revista de deRecho PRivado, n.º 32, eneRo - junio de 2017, PP. 53 a 97 [74] Er i c a Pa l m E r i n i vehículos normalmente guiados y con peatones cuyo comportamiento puede ser imprevisto, así como por la velocidad de funcionamiento que no puede ser limi- tada en forma excesiva, so pena de privarlos de utilidad para el desplazamiento. por otra parte, los robots que se utilizan para la rehabilitación de las personas, como por ejemplo las extremidades que se utilizan después de un ictus cerebral o de una lesión de la médula espinal61, dispositivos que se llevan consigo y que por lo tanto están destinados a ser utilizados en estrecho contacto con el cuerpo, suscitan preocupaciones respecto a la seguridad de la persona que los usa. por su parte, sistemas como las prótesis biónicas o las interfaces cerebro-máquina que maniobran una silla de ruedas u otra plataforma robótica plantean el problema relativo a la correcta interpretación de la señal que conduce el movimiento del miembro artificial o del dispositivo externo. Las tipologías de riesgos a afrontar se encuentran ligadas a los vicios de ingeniería o de programación (un escaso examen de los componentes mecáni- cos, defectos del sistema electrónico o del software, algoritmos no confiables), a errores humanos del operador, a condiciones ambientales que obstaculizan la actividad de los sensores. un mal funcionamiento podría generar que el robot no se detenga ante la presencia de un obstáculo, que asuma una velocidad excesiva, que se ponga bruscamente en movimiento, en definitiva, que asigne una respues- ta incorrecta a los estímulos que recibe62. pero existen otros tipos de riesgos a tener en consideración, como el de la seguridad del sistema informático contra potenciales ataques externos, que envían al robot comandos no autorizados y dañan el sistema operativo63. estas consideraciones esbozan, sumariamente, las razones de orden técnico y socioeconómico que hacen crucial el tema de la seguridad y de la responsa- bilidad en el análisis jurídico de la robótica. La preocupación por la fijación de estándares elevados de seguridad y por una clara definición de las reglas sobre la atribución de la responsabilidad depende principalmente de las característi- cas de la robótica de servicio, destinada a generar formas de íntima interacción hombre-máquina, y con ello a multiplicar en forma exponencial las ocasiones de daño. por su parte, las delicadas tareas que podrían ser destinadas a un robot y la cercanía con usuarios vulnerables como los enfermos, personas ancianas o 61 como el Lokomat, sobre la cual véase la investigación de riener, r. et al., Locomotor Training in Subjects with Sensori-Motor Deficits: An Overview of the Robotic Gait Orthosis Lokomat, Journal of Healthcare Engineering, 2010, 1, 197-216. 62 vasic, M. y Billard, a. Safety Issues in Human-Robot Interactions, en proceedings of the 2013 ieee-ras international Conference on robotics and Automation, Karlsruhe, 6 a 10 de mayo de 2013. 63 Lo subraya, junto con los demás problemas de seguridad a considerar en la gestión de los riesgos, Wu, s. s., Risk Management in Commercializing Robotics, 3 de abril, 2013, en: http://con- ferences.law.stanford.edu/werobot/wp-content/uploads/sites/29/2013/04/risk-management- in-Commercializing-robotics.pdf Revista de deRecho PRivado, n.º 32, eneRo - junio de 2017, PP. 53 a 97 [77]Ro b ó t i c a y d e R e c h o: s u g e R e n c i a s, c o n f l u e n c i a s, e v o l u c i o n e s. . . imprevisibilidad de los comportamientos crearían una fricción con el fundamen- to común de las reglas de responsabilidad por daños y con los modos tradiciona- les de los cuales el sistema jurídico se vale para atribuirla, basados en la culpa y en la relación de causalidad71. de la dificultad para asignar la responsabilidad en los sistemas complejos, pero principalmente de la supuesta incompatibilidad entre la ratio de este tipo de reglas y el modo de operación de los productos robóticos, se desprende la necesidad de romper con los modelos existentes y razonar según esquemas innovativos. A. Las propuestas de esquemas alternativos a las reglas comunes de la responsabilidad Mientras los diversos análisis comparten la premisa acerca de las característi- cas especiales que detentan los sistemas robóticos, proyectan soluciones diversas para afrontar el llamado “responsibility gap”. Las principales propuestas pueden articularse en una triple partición. una primera corriente confiaría al instituto de la limitación de la respon- sabilidad una doble tarea: por un lado, la de promover la innovación en la in- vestigación y en la industria robótica, reduciendo el temor ante elevados costos ligados a la participación en las controversias civiles; por el otro, la de garantizar inmunidad a los fabricantes frente a eventos dañosos que no habrían podido ser evitados usando la debida diligencia, al diseñar el producto y al informar al consumidor de sus riesgos potenciales. esta idea de una “inmunidad selectiva”, que se aplicaría principalmente a los fabricantes de esquemas robóticos abiertos, constituiría un compromiso eficiente con la necesidad de dar impulso al desa- rrollo de tecnologías innovativas y la de incentivar la adopción de medidas de seguridad72. una segunda tesis recurre a la creación de una personalidad jurídica para los robots a los fines de convertirlos directamente en responsables de los eventuales daños causados a terceros73. esta posibilidad es considerada más eficiente res- pecto al intento de adaptar los actuales esquemas de responsabilidad tradicional a las hipótesis de los robots con autonomía limitada. estos esquemas podrían encontrar aplicación en los casos en los que se considerara asimilable la capa- cidad cognitiva y decisoria de los robots a la de los sujetos que, por la edad o la debilidad en el plano psíquico, no están obligados a responder en primera per- 71 Matthias, a., The responsibility gap: Ascribing responsibility for the actions of learning automata, en Ethics and Information Technology, 2004, 6, 175-183. 72 calo, Open Robotics, cit., 131 ss. 73 Leroux, c. et al., Suggestion for a green paper on legal issues in robotics. Contribution to Deliverable D3.2.1 on els issues in robotics, disponible en: http://www.eurobotics.net/cms/upload/pdf/euro- botics_deliverable_d.3.2.1_annex_suggestion_Greenpaper_els_issuesinrobotics.pdf Revista de deRecho PRivado, n.º 32, eneRo - junio de 2017, PP. 53 a 97 [78] Er i c a Pa l m E r i n i sona por los daños generados a otros, y son sustituidos en la función resarcitoria por aquellos sujetos que los tienen a cargo. igualmente, y tal vez en modo más apropiado, la acción podría compararse con la de seres dotados de una racionali- dad primitiva, como la de los animales, la cual involucra la responsabilidad de su propietario. sin embargo, esta responsabilidad por defecto en el control de la ac- tuación del robot podría imponer cargas excesivas al propietario, en los casos en que la propia tecnología es usada con el fin de aliviar la condición de las personas que, como los ancianos o los discapacitados, los utilizan con fines de asistencia y cuidado. en estos casos se vería frustrada la razón de ser de la introducción de estas implementaciones tecnológicas, es decir, hacer accesible a más personas la disponibilidad de una ayuda doméstica, en respuesta a los problemas de enveje- cimiento de la sociedad, de la escasez de asistencia de tipo profesional y de los costos elevados que la misma representa, así como de la necesidad de promover la independencia y la inclusión social de sus usuarios potenciales. a partir de la capacidad embrionaria –aunque probablemente en aumento– de los robots, de expresar un alto nivel de autonomía, se propone un argumento más general dirigido a construir una subjetividad del robot74. La “personalidad electrónica” es considerada un enfoque plausible al problema de la responsabili- dad, tanto para los robots dotados de un cuerpo como para los softwares robots que exhiben un cierto grado de autonomía e interactúan con las personas. a esta propuesta se suma, naturalmente, la necesidad de crear un registro y dotar a cada robot de una identificación al momento de su puesta en el comercio, además de asegurar que le sea asociado un fondo a través del cual sea factible responder por las obligaciones. Los mecanismos por medio de los cuales se podría formar y financiar este fondo podrían ser diversos, y la respectiva elección implicaría la identificación del sujeto sobre el cual deberían recaer, en todo o en parte, las consecuencias económicas de los eventuales daños provocados por la máquina75. una tercera indicación se encuentra orientada en sentido opuesto, es decir, hacia un incremento de la responsabilidad del propietario de la máquina frente a la tutela del eventual perjudicado76. La constatación de la que se parte es la difi- cultad para este último de probar la negligencia del propietario, o bien, en el caso de que opere un régimen de responsabilidad por producto defectuoso, el defecto del producto y el nexo de causalidad, en razón a la complejidad y al carácter “inescrutable” del funcionamiento de máquinas extremadamente sofisticadas para una persona común. por el contrario, el propietario debería responder con base en un criterio de responsabilidad objetiva, dado que como beneficiario de la 74 Leroux et al., ob. cit., 58 ss. 75 explora esta hipótesis de encuadramiento del problema de la responsabilidad también el draft report del iuri committee, punto 31.f). 76 decker, M., Responsible Innovation for Adaptive Robots, en Rethinking Responsibility in Science and Technology, Battaglia, F., mukerji, n. y nida-rümelin, j. (eds.), Pisa, 2014, 65 ss. Revista de deRecho PRivado, n.º 32, eneRo - junio de 2017, PP. 53 a 97 [79]Ro b ó t i c a y d e R e c h o: s u g e R e n c i a s, c o n f l u e n c i a s, e v o l u c i o n e s. . . tecnología puede obtener ventajas económicas y productivas mediante la intro- ducción del robot en su organización. puesto que esta regla debe ser sostenible y compatible con el avance del proceso de automatización y con la difusión de la robótica de servicio, se propone acompañarla con la fijación de un límite máximo de resarcimiento al cual podría estar sujeta la misma persona, circunstancia que permitiría asegurar el riesgo con mayor facilidad. B. Algunas observaciones críticas La variedad de las propuestas delineadas resalta la centralidad del tema de la responsabilidad en la reflexión jurídica sobre la tecnología y, en particular, sobre la robótica. dentro de su diversidad, ellas comparten un tramo común, en el sen- tido de que parten del presupuesto de una novedad radical en las características del agente material y en la causación del evento dañoso, al punto de imponer una salida del régimen común de imputación de la responsabilidad. sin embargo, esta concepción no parece plenamente convincente y las soluciones operativas a las que conduce son discutibles. La idea de exonerar a los fabricantes de tecnologías robóticas de la responsa- bilidad por eventos que, aunque atribuibles causalmente a la acción de un robot, quedan efectivamente fuera de su capacidad de control, se conectan con el ob- jetivo de favorecer el aumento de la industria del sector. de hecho, los fabrican- tes del sector difícilmente estarían en capacidad de anticipar y, por lo tanto, de internalizar los costos, potencialmente elevados, de las controversias civiles para el resarcimiento de los daños causados. se asume evidentemente que la robótica representa un caso especial, en el cual a la deseabilidad social de la innovación en el sector se suma la presencia de riesgos constantes y difícilmente determi- nables con antelación, ligados a las características propias de la tecnología. sin embargo, no son claras las razones que justifican este tratamiento, y el régimen especial parecería aplicable a cualquier tipo de esquema robótico por el hecho de compartir las mismas características técnicas, sin distinguir en razón a la mayor o menor capacidad de aplicaciones singulares para dar respuestas a las necesidades sociales cualificadas. esta propuesta realmente madura en el sistema estadounidense, en el cual se adopta un enfoque que dista del europeo en cuanto a la regulación de la tec- nología. en efecto, mientras en el contexto europeo está fuertemente radicado el principio de precaución, que presenta numerosas bases normativas y se ha extendido de la tutela al ambiente a otros sectores como el de la biotecnología, en estados unidos es más común un tratamiento en términos de evaluación del riesgo. por lo tanto, una menor importancia adquieren las consideraciones relativas a la apreciación, en el plano social, de ciertos progresos científicos y tecnológicos, en la óptica de un equilibrio con los riesgos aceptables. cabe plan- tearse, igualmente, si esta solución, además de ser poco convincente en términos Revista de deRecho PRivado, n.º 32, eneRo - junio de 2017, PP. 53 a 97 [82] Er i c a Pa l m E r i n i Finalmente, la hipótesis de atribuir subjetividad jurídica a los robots parece particularmente inadecuada cuando las tareas de la máquina implican adoptar roles de auxilio a la persona en la vida cotidiana, aunque estos sean llevados a cabo en forma elemental. de hecho, la ventaja de convertir a agentes artificiales en personas jurídicas, dotadas de autonomía patrimonial, se aprecia eventual- mente en el plano económico, cuando las acciones y las transacciones a realizar son suficientemente automatizadas, no requieren el ejercicio de la discreciona- lidad y no involucran juicios éticos. en este caso, la sustitución de una persona por un ente virtual puede representar un ahorro económico, y justificar de esa forma la ficción jurídica. esta sustitución, por el contrario, no puede suceder y no debería ser estimulada mediante mecanismos de separación patrimonial, cuando la función del robot sea de asistencia material a personas en situación de vulnerabilidad, para evitar el riesgo de confiarles tareas de cuidado en un sentido más elevado, hasta tanto la técnica progrese al punto de volverlo posible83. el tercer planteamiento, de carácter opuesto a los precedentes, se enfoca exclusivamente en el perfil de la responsabilidad del usuario o propietario del robot, que incluso se quiere convertir en objetiva para favorecer la posición del perjudicado. esta tesis también parece criticable por dos razones. por un lado, porque no tiene en cuenta el canal alternativo de la responsabilidad del fabri- cante. se trata de la vía que verosímilmente sería tomada con mayor frecuencia por las víctimas potenciales de accidentes, tanto por la mayor solvencia de las compañías fabricantes frente al comprador individual del producto, si se trata de una persona física, como por el régimen actualmente aplicable, que ya facilita la posición del actor. La existencia misma de esta alternativa le resta utilidad a la propuesta de endurecer la responsabilidad del propietario, especialmente cuando ella se basa, esencialmente, en el intento de asegurar al demandado un remedio válido y no excesivamente oneroso. en segundo lugar, porque este plan- teamiento implicaría endurecer el régimen aplicable a los usuarios finales de las máquinas, que como las víctimas de accidentes podrían pertenecer a una catego- ría de sujetos vulnerables, como los ancianos o personas con discapacidad para cuya satisfacción de necesidades fue precisamente concebida la tecnología. esta solución, entonces, además de no parecer dotada de particular eficacia frente al objetivo de garantizar con certeza la compensación, en relación con los propieta- rios responsables constituiría un elemento disuasorio respecto de la adquisición de la máquina, al punto de desalentar la difusión de una tecnología socialmente 83 darling, K. (Extending legal protection to social robots: The effects of anthropomorphism, empathy, and violent behaviour towards robotic objects, en calo, r.; Froomkin, a. M. y Kerr, i. (eds.), Robot Law, Cheltenham-northampton, 2016, 213 ss.), por el contrario, discute la posibilidad de extender derechos a los social robots, no por una dignidad intrínseca de los mismos, sino por reflejar sen- timientos que estamos orientados a proyectar sobre máquinas que exhiben comportamientos sociales y reacciones emotivas. La autora plantea la idea de que esta inclinación natural podría requerir una cierta forma de protección jurídica distinta a la de tipo propietario. Revista de deRecho PRivado, n.º 32, eneRo - junio de 2017, PP. 53 a 97 [83]Ro b ó t i c a y d e R e c h o: s u g e R e n c i a s, c o n f l u e n c i a s, e v o l u c i o n e s. . . útil. parece obvio que la premisa prácticamente tácita de este razonamiento sea el empleo de los robots en el ámbito de una organización empresarial, con exclu- sión del consumidor individual que no tendría modo de internalizar los costos ligados a acciones de responsabilidad y debería estar especialmente protegido frente a esta eventualidad, principalmente si se encuentra en condiciones de fra- gilidad personal o económica. pero el simple hecho de vincular una responsabi- lidad objetiva a la propiedad de la máquina no consentiría articular la distinción, por el contrario relevante, entre el mero uso personal para fines privados y el uso sistemático y organizado al interior de dinámicas comerciales84. C. Escenarios presentes y futuros Más allá de las críticas que se han generado por la especificidad de las propuestas individuales, es necesario rechazar la idea general que se inclina por el aban- dono de la disciplina común de la responsabilidad civil, en consideración a las características irreductibles de autonomía e imprevisibilidad de los robots. Las razones son de tipo técnico y de principio. una primera objeción está relacio- nada con la especificación de la capacidad de controlar y de internalizar las con- secuencias de las propias acciones, como elementos que subyacen a las reglas de la responsabilidad. para la tesis que se comenta, estos elementos –destinados a desaparecer en un futuro con el uso de máquinas inteligentes, en capacidad de exhibir comportamientos imprevistos y no programados– no justificarían la aplicación de las reglas generales de la responsabilidad al sujeto al cual estarían formalmente dirigidas las acciones del robot. sin embargo, la realidad es que la ratio subyacente a la imputación de la responsabilidad extracontractual no está unívoca e indisolublemente vinculada a la posibilidad de controlar la actuación propia o ajena. en los sistemas actuales, los criterios de imputación de la respon- sabilidad son diversos y no todos se encuentran vinculados a esta lógica sobre la cual se fundamenta la regla general de la responsabilidad por culpa85. de ello se desprende que, aunque la intermediación de una máquina disminuya, o incluso disuelva, el vínculo existente entre quien la puso en funcionamiento (fabricán- dola, programándola o haciendo uso de ella) y las consecuencias de su actividad concreta, pueden subsistir suficientes razones para encauzar desde el punto de vista jurídico dichas consecuencias al autor originario. el concepto de riesgo de empresa, de actividad peligrosa, de defectuosidad y de la expectativa razonable de seguridad, incluso el de la culpa, en sus aspectos de previsibilidad y de deber 84 a tal distinción podría corresponder la de robótica industrial y robótica de servicio y, dentro de esta última, la subdivisión en dos grandes segmentos de mercado, la de los professional service robots y la de los personal service robots. 85 para una síntesis ver Fabre-magnan, M., Droit des obligations, 2 – Responsabilité civile et quasi- contracts, 3.ª ed., Paris, 2013, 62 ss. Revista de deRecho PRivado, n.º 32, eneRo - junio de 2017, PP. 53 a 97 [84] Er i c a Pa l m E r i n i de evitar el daño, siguen teniendo sentido –y por lo tanto siguen teniendo poder para decidir sobre la distribución de los costos de los accidentes– aun en el caso en el que la conducta material es realizada por un agente impersonal, sin que sea invalidada la racionalidad del sistema. una segunda objeción, esta vez más general y de principio, concierne a la misma idea de proponer una “fuga” del sistema general de la responsabilidad, sobre la base de la incapacidad de controlar el trabajo de los robots, cada día más complejos y sofisticados, que actúan de manera autónoma e imprevisible. esta condición, si fuera efectivamente verificable, podría convertirse, de un lado, en el límite mismo de la técnica robótica, puesto que cabría preguntarse acerca de la legitimidad de la construcción de máquinas similares. de otro lado, esa no debe- ría ser la premisa fáctica para no responsabilizar al hombre de la construcción y del uso de los robots; al contrario, la responsabilidad humana, aunque no de ma- nera completamente sobrepuesta a la existente, debe aumentar progresivamente a medida que crece la capacidad técnica para introducir nuevas fuentes poten- ciales de riesgo en el ambiente. en un interesante ejercicio de autorregulación realizado por un grupo de estudiosos de diversas disciplinas, constituido como Ad Hoc Committee on Responsible Computing86, se ha tomado una posición en este sentido, aunque referida a la responsabilidad moral vinculada a la fabricación y al uso de los robots. una de las reglas acuñadas por el grupo se refiere, justamen- te, a la eventualidad de que los comportamientos futuros del producto no sean razonablemente previsibles, de la cual se extrae la conclusión de que esto debe implicar un aumento de la responsabilidad de quien lo ha diseñado, de frente a resultados dañosos. La característica de las máquinas robóticas de adaptarse al ambiente con el curso del tiempo, la capacidad de aprender o de auto modificar su propio programa carga a los fabricantes de una mayor responsabilidad en la anticipación de eventuales problemas y en la introducción de medidas preven- tivas. esta admisible constatación, desarrollada en relación con la responsabilidad en el plano ético, no está exenta de encontrar correspondencia en el plano jurídi- co. el uso de disposiciones conceptuales y de reglas amplias que se refieren a los deberes de información, a la previsibilidad del daño, a los risk management (me- diante la aplicación de estándares de seguridad preventivos y el uso de instru- mentos de seguridad) para quienes emprenden profesionalmente una actividad que resulta fuente de daños potenciales, permite mantener nuevos y complejos sistemas tecnológicos en la órbita del actual sistema de responsabilidad civil. La utilidad de los robots del futuro está representada, precisamente, por su versa- tilidad, es decir, por la capacidad de autogenerar el propio programa operativo. 86 ver la rule 2 en la versión más reciente del documento Moral Responsibility for Computing Arti- facts: Five Rules, Version 27, disponible en: https://edocs.uis.edu/kmill2/www/therules/moral- responsibilityForcomputerartifactsv27.pdf Revista de deRecho PRivado, n.º 32, eneRo - junio de 2017, PP. 53 a 97 [87]Ro b ó t i c a y d e R e c h o: s u g e R e n c i a s, c o n f l u e n c i a s, e v o l u c i o n e s. . . VII. Cyborgs y human enhancement entre viejo… el tema de la fusión hombre-máquina y de la potencialización humana93 es una conclusión natural de la búsqueda de la interacción entre robótica y derecho. La robótica es, en efecto, uno de los medios tecnológicos más potentes para lograr el crecimiento de las capacidades humanas, que se lleva a cabo por medio del implante de artefactos en el cuerpo o bien, desde las perspectivas más radicales y futuristas, mediante el abandono del cuerpo y la continuación de la personalidad en un soporte artificial. en la situación actual, la puesta en funcionamiento de prótesis avanzadas y de exoesqueletos robóticos está dirigida a auxiliar en forma eficiente a personas afectadas por una discapacidad motora o a volver más fáciles y seguros los movimientos de los ancianos. de la misma forma, implantes co- cleares, ampliamente difundidos en el uso clínico, o implantes de retina, todavía en fase de experimentación, permiten restituir capacidades auditivas o visivas a las personas que se encuentran impedidas a causa de traumas o malformaciones. es más, implantes para la estimulación cerebral ya se utilizan para el tratamien- to de síntomas como el temblor en el mal de parkinson, y se está probando su implementación para el tratamiento de otras condiciones patológicas como el alzheimer, la depresión y la dependencia de sustancias estupefacientes. interfaces cerebro-máquina pueden ser utilizadas tanto para que personas que están imposibilitadas para comunicarse con el exterior puedan hacerlo, como en el caso de la locked-in síndrome, como para controlar dispositivos como prótesis, sillas de ruedas y otras plataformas robóticas. otras tipologías de im- plantes se encuentran en fase de estudio a fin de superar déficits cognitivos y consentir la recuperación de determinadas funciones, como por ejemplo aque- llas ligadas a la adquisición y a la conservación de los recuerdos. estos objetivos de carácter esencialmente terapéutico ya dejan entrever posibles evoluciones en cuanto a la potencialización en el plano físico, sensorial y cognitivo. prótesis u otros sistemas robóticos, directamente interconectados con el sistema nervioso, podrán desarrollar en manera eficiente las mismas funciones que las extremi- dades naturales, pero también potencializar las actuales capacidades humanas, por ejemplo, permitiendo cumplir con acciones a distancia y superar, por ende, vínculos espaciales; o bien, aumentar la fuerza e intensidad de los propios ges- tos; o, incluso, actuar en la escala temporal habitual, puesto que el pensamiento puede accionar un dispositivo mecánico en modo acelerado respecto al normal proceso neuronal que mueve un brazo o una pierna94. también la potencializa- 93 recientemente, sobre el tema de la potencialización humana, a modo de síntesis del debate actual, ver palazzani, L., Il potenziamento umano. Tecnoscienza, etica e diritto, torino, 2015. 94 Nicolelis, M., Il cervello universale. La nuova frontiera delle connessioni tra uomini e computer (trad. ital. de a. panini de Beyond Boundaries: The New Neuroscience of Connecting Brains with Machines and How It Will Change Our Lives, New York, 2011), torino, 2013, 184 ss. Revista de deRecho PRivado, n.º 32, eneRo - junio de 2017, PP. 53 a 97 [88] Er i c a Pa l m E r i n i ción cognitiva, normalmente obtenida mediante la asunción de fármacos u otras sustancias, puede realizarse por medio de implantes neuronales u otros sistemas no implantables que generan campos magnéticos capaces de estimular la activi- dad cerebral. esta variedad de sistemas serán dotados de sensores para percibir al ambien- te real y estarán conectados a la red de internet, en modo de permitir a quien los lleva consigo recoger y procesar información con una magnitud que de lo contrario no podría ser percibida por la experiencia humana y, de este modo, por ejemplo, resolver cálculos matemáticos complejos, sobresalir en habilidades lingüísticas o generar destrezas musicales. algunos estudiosos predicen que la convergencia de la robótica y de las neurociencias llevará a la puesta en fun- cionamiento de neuroprótesis avanzadas, que permitan a los tecno-científicos usar la tecnología digital, informativa y neuroscientífica como un auxilio per- manente95; y que en el curso de pocos años, el desempeño de sistemas híbridos hombre-robot superará el de los sistemas puramente biológicos96. se trataría del primer paso hacia una transformación transhumanista, que verá a los hombres convivir con híbridos hombre-máquina, hasta poder ser sustituidos por robots u otra suerte de sistemas mecánicos a los cuales transferir, con un acto de upload, la conciencia humana y lograr de esta manera una especie de inmortalidad97. estos escenarios requieren un doble nivel de análisis: por un lado, a fin de identificar el régimen aplicable al cuerpo objeto de la transformación y al aparato tecnológico que, integrado con el cuerpo, termina por desarrollar funciones que a este le son útiles o esenciales; por otro lado, a los fines de definir los propios límites –si es que los hay– de las posibilidades de transformación o deformación del cuerpo, al punto de superar la prospectiva de los confines del plano físico. en relación con ambos interrogantes, la distinción, aunque fuertemente controvertida, entre alteraciones terapéuticas y acciones dirigidas a la potencia- lización humana, está destinada a desempeñar un rol esencial. de hecho, por un lado, no se puede dudar de que la modificación y la inclusión de artefactos en el cuerpo sean legítimas, cuando tales procedimientos presentan naturaleza intrín- secamente terapéutica. Los ejemplos de este tipo de alteraciones son diversos y conocidos en forma previa a los desarrollos más prometedores de la robótica: desde el uso de órganos y tejidos artificiales para el sostenimiento de funciones vitales a través de auxilios mecánicos, bien sean externos al cuerpo, como en la 95 Wallach, From Robots, cit., 186. 96 Nourbakhsh, i. r., The Coming Robot Dystopia, en Foreign Affairs, 16 de junio de 2015, disponi- ble en: https://www.foreignaffairs.com/articles/2015-06-16/coming-robot-dystopia 97 Kurzweil, r., Singularity is Near: When Human Transcends Biology, New York, 2005; chalmers, d. j., The Singularity: A philosophical analysis, en Journal of Consciousness Studies 2010, 17(9-10), 7-65. recientemente, un estudio detallado del argumento, incluso de las opiniones críticas, ha sido proporcionado por los análisis reunidos en el volumen Intelligence Unbound: The Future of Uploaded and Machine Minds, Blackford, r. y Broderick, d. (eds.), chichester, 2014. Revista de deRecho PRivado, n.º 32, eneRo - junio de 2017, PP. 53 a 97 [89]Ro b ó t i c a y d e R e c h o: s u g e R e n c i a s, c o n f l u e n c i a s, e v o l u c i o n e s. . . ventilación mecánica, o implantados, como el pacemaker o las bombas para la insulina. de igual manera, las hipótesis en las que la intervención terapéutica es precedida por una operación extirpadora, como es el caso de la amputación selectiva de una extremidad (lesionada por un trauma) seguida de una recons- trucción biónica98, no exceden la esfera precedida por el interés de la tutelada de la salud de las personas. por otro lado, el cuerpo transformado podría continuar sujeto al mismo ré- gimen del cuerpo puramente biológico, cuando la transformación se produce en consonancia, e incluso a favor de un objetivo ligado a la tutela de la salud o de otro interés fundamental. a esta conclusión se dirigen tanto el análisis concep- tual como la praxis jurisdiccional que ha sabido afrontar las consecuencias de la desaparición de los límites entre cosa y persona generados por el desarrollo tecnológico, en forma coherente con la garantía de los derechos fundamentales. con su implante en el cuerpo y su destinación a funciones esenciales, el dispositi- vo artificial es absorbido por el régimen de las partes naturales correspondientes, puesto que esto depende del rol instrumental que este desempeña en relación con la preservación de la vida, con la promoción de la salud y con la protección de la identidad de la persona. en forma muy subjetiva, y no necesariamente en relación con la ambigüedad de estatus introducida por el progreso tecnológico, se ha afirmado que “la mente no coincide con el espacio corporal, sino que lo incluye dentro de sí; y entonces, espacio interno y espacio externo pueden rea- lizar un proceso de osmosis en la construcción del yo. el yo puede impregnar fuertemente algunos objetos extraños que por memoria, afectos, necesidad, son vehículos insustituibles y canales de experiencia e incluso de percepción de sí mismo”99. además de las hipótesis de “cuerpos extendidos”, en los cuales la calificación y el régimen propio de la corporeidad se aplican a cosas que están materialmente “fuera” de ella100, en la práctica también se conocen otras hipótesis de extensio- nes o sustituciones robóticas que han sido resueltas sin producir efectos disrup- tivos en las categorías conceptuales involucradas. en una controversia surgida entre un veterano estadounidense cuadripléjico y la compañía aérea cuya tripu- lación dañó su silla de ruedas robótica, la naturaleza del dispositivo determinó la decisión de la empresa aseguradora de conceder un resarcimiento calculado 98 aszmann, o., et al., “Bionic reconstruction to restore hand function after brachial plexus injury: a case series of three patients”, Lancet online, 25 de febrero de 2015. 99 Zatti, P., “di là dal velo della persona fisica. realtà del corpo e diritti dell’uomo”, en Maschere del diritto, volti della vita, milano, 2009, 63. 100 La referencia es al conocido caso decidido por bghz 124, 52 vi. Civil Senate (vi zr 62/93), 9 de noviembre de 1993, donde la destrucción de la muestra de esperma congelada, por parte de la clínica donde estaba conservada, dio lugar al resarcimiento de los daños a la integridad física en los términos del § 823 i bgb, en la medida en que la muestra de esperma es considerada parte del cuerpo donante. Revista de deRecho PRivado, n.º 32, eneRo - junio de 2017, PP. 53 a 97 [92] Er i c a Pa l m E r i n i de los contratos, que, al sancionar el contenido de la reglamentación privada que contrasta con la ley o con los principios de orden público, puede lograr la remoción de las cláusulas que tienen por efecto limitar la libertad o un derecho fundamental de la persona. en consecuencia, el sistema jurídico actual parece estar en capacidad de ase- gurar cobertura a las exigencias de protección que nacen de la compenetración entre el hombre y los artefactos tecnológicos, al menos cuando esta se dirige a garantizar, de la forma más eficaz, intereses fundamentales. por otra parte, el ordenamiento también debe proteger, de manera reflexiva, el rechazo de la tec- nología, aun cuando esté orientada a la superación de discapacidades, y ofrecer alternativas a las soluciones puramente tecnológicas108. VIII. … y nuevo solo recientemente el término cyborg comienza a ser cuestionado en la reflexión ética y jurídica. una versión débil de esta tendencia únicamente alude al uso de la tecnología como auxilio de la superación de patologías y discapacidades, mediante el implante de un dispositivo externo en el cuerpo humano. desde el implante coclear, a la estimulación cerebral profunda y a la prótesis avanzada, la combinación de instrumentos electrónicos y meca-trónicos con materialidad corpórea no da lugar a cuestiones que resulte imposible resolver desde el punto de vista jurídico. respecto a los auxilios tradicionales, como un pacemaker, las problemáticas aumentan en el plano cuantitativo, asociadas a la mayor compleji- dad del sistema nervioso con la que estos dispositivos están interconectados, con la delicadeza de la intervención requerida para su posicionamiento y, a veces, con la necesidad de una fase de entrenamiento para aprender su uso. ciertamente, el cyborg, entendido como el hombre que mediante el uso de un aparato tecno- lógico supera déficits físicos, perceptivos y motores, no constituye una novedad radical para el sistema jurídico. a pesar de la naturaleza prevalentemente terapéutica de estos dispositivos, en los mismos se entrevé un potencial ulterior: la telecámara para “sentir” los colores permite captar también los rayos infrarrojos, no accesibles al ojo hu- mano; el brazo robótico no solo permite ejercitar la función prensil, sino que le imprime mayor fuerza a la acción o permite superar otros vínculos espaciales y temporales; el implante visual, por el momento solo en fase experimental, o el auditivo, podrían conferir capacidades perceptivas definitivamente superiores a las comunes. La tecnología robótica representa un instrumento eficaz para la 108 piénsese en los implantes cocleares para la curación de ciertas formas de sordera, que a dife- rencia de otros tratamientos se insertan quirúrgicamente dentro del oído medio. una parte importante de sus potenciales destinatarios los rechaza porque no conciben la sordera como una incapacidad, sino como una diferencia que es parte integrante de la identidad y, como tal, debe ser protegida. Revista de deRecho PRivado, n.º 32, eneRo - junio de 2017, PP. 53 a 97 [93]Ro b ó t i c a y d e R e c h o: s u g e R e n c i a s, c o n f l u e n c i a s, e v o l u c i o n e s. . . enhancement a todo nivel, físico, sensorial y cognitivo, de modo tal que se acerca a la prospectiva de la potencialización humana más allá de cualquier finalidad, si- quiera parcialmente terapéutica. el cyborg, en una segunda acepción del término, es el hombre que gracias a un equipamiento tecnológico supera los límites físicos y mentales propios de la psiquis y de la propia corporalidad humana; pero tam- bién aquel que confía a la máquina las tareas automáticas que una computadora puede desarrollar de manera rápida y eficiente, para concentrarse en funciones superiores, creativas e intelectualmente exigentes. en la versión más radical de esta expresión y de la ideología a la que está ligada, el cyborg es la entidad que se libera del cuerpo, con todas sus debilidades, para continuar viviendo en un soporte únicamente artificial, virtual o mecánico. Los interrogantes suscitados por estos escenarios futuristas son múltiples, y se mueven, principalmente, entre la identificación del estatus aplicable a sis- temas híbridos hombre-máquina y la misma legitimación de la transformación de la condición humana para ser incorporada en seres virtuales, pasando por la aceptabilidad de un uso ilimitado de instrumentos artificiales para atravesar las fronteras del plano físico. ¿puede admitir el derecho una corporeidad cambiante, fluida, ni natural ni artificial, ni orgánica ni mecánica? ¿o existen en el sistema constitucional límites que se refieren a un núcleo constitutivo, identificativo, estructural y, por lo tanto, irrenunciable de la identidad humana en el cuerpo? Las respuestas a estos interrogantes deben ser necesariamente normativas y radicarse en un sistema de valores. de hecho, los escenarios descritos, aunque totalmente futuristas, no parecen encontrar límites en la biología, por lo menos si se tiene en cuenta la hipótesis del enhancement humano, a través de un equi- pamiento anexo al cuerpo, que pasa a formar parte del mismo en forma perma- nente. Los estudios que han sido conducidos hasta las fronteras más avanzadas de la neurociencia, prácticamente califican como necesarias estas posibles trans- formaciones: con la adquisición de la capacidad de usar instrumentos artificiales, el cerebro comienza a considerarlos como verdaderas extensiones del cuerpo biológico y a crear una representación en los circuitos neuronales. Mediante un proceso altamente dinámico y de adaptación, el sistema nervioso central puede contribuir a diseñar una imagen del cuerpo modelada con base en las informa- ciones visivas, táctiles y sensoriales que recibe, hasta el punto de producir un sentido de pertenencia corpórea que puede “inducir a cada uno de nosotros, en pocos segundos, a aceptar otro cuerpo enteramente nuevo como si fuera la verdadera casa de nuestra existencia consciente”109. La capacidad expansiva y de mejoramiento de la tecnología robótica puede, por lo tanto, ser asimilada en nuestra corporeidad de modo prácticamente natural, extendiendo materialmen- te nuestras posibilidades de acción y de interacción con el ambiente. 109 Nicolelis, ob. cit., 84 s. Revista de deRecho PRivado, n.º 32, eneRo - junio de 2017, PP. 53 a 97 [94] Er i c a Pa l m E r i n i por el contrario, en el plano normativo, una constatación formulada de tiempo atrás –con la habitual apertura visual hacia el futuro– y según la cual “los ‘derechos humanos’ no estarían perdidos en una transición eventual hacia el post-humano o el trans-humano […] el derecho se asoma a estos nuevos terri- torios y de ellos no puede sustraer la mirada”110, constituye un punto de partida, pero la aspiración de delinear una condición poshumana en su relación con los derechos fundamentales está todavía por construirse. una primera prospectiva confiaría exclusivamente a la autonomía indivi- dual la elección de recurrir a la tecnología para fines de enhancement. es más, la transformación del cuerpo mediante la técnica está siendo cada vez más con- ceptualizada como objeto de un derecho, una posibilidad abierta que se vuelve parte del derecho de construir libremente la propia identidad, usando todas las oportunidades a disposición111-112. sin embargo, la regulación no puede cincunscribir el problema del mejo- ramiento humano a la esfera privada, puesto que los efectos de las elecciones personales recaerían, en combinación con la difusión de experiencias similares, sobre la comunidad. ello podría suceder incluso de manera directa, cuando una capacidad especial con la que decide dotarse una persona –piénsese en la visión de rayos X113– pueda ser usada para violar derechos de otros (en este caso el derecho a la intimidad). pero también en modo más sutil e indirecto, dado que un fenómeno de amplia dimensión podría afectar el orden social, provocando la distorsión de valores sobre los que este se basa, como la igualdad y la no discriminación, la justicia distributiva, la igualdad de oportunidades114; o bien terminaría por restringir la libertad de aquellos que preferirían prescindir de las 110 rodotà, s., La vita e le regole. Tra diritto e non diritto, milán, 2006, 87. 111 rodotà, s., “of machines and men: the road to identity. scenes for a discussion”, en hilde- brandt, M. y rouvroy, a. (eds.), Law, Human Agency and Autonomic Computing. The Philosophy of Law Meets the Philosophy of Technology, oxford-new York, 2011, 180. 112 un centro de investigación californiano, el institute for the Future, elaboró un documento des- tinado a ofrecer un cuadro normativo para el enhancement cognitivo, titulado Magna cortica, que incluye un derecho a la auto-transformación para la potencialización cognitiva, así como un derecho de rechazarla, que debe estar garantizado aunque tal elección podría con el tiempo ser considerada irresponsable. ver: http://www.openthefuture.com/2014/05/magna_cortica.html 113 el ejemplo es de Brownsword, r., “regulating human enhancement: things can only Get Better?”, en Law, Innovation and Technology, 2009, 1, 142. 114 No por casualidad, partiendo de una perspectiva individualista se resalta en todo caso la nece- sidad de reformular el contenido de los derechos fundamentales, o bien crear otros nuevos, ya sea para los individuos potencializados, ya sea para todos los demás: Koops, B.-j., “Concerning ‘humans’ and ‘human’ rights. human enhancement from the perspective of Fundamental rights”, en Engineering the Human. Human Enhancement Between Fiction and Fascination, Koops, B.-j.; Lüthy, c.h.; Nelis, a.; sieburgh, c.; jansen, j. P. m. y schmid, m. S. (eds.), Berlin- Heidelberg, 2013, 165-182. Revista de deRecho PRivado, n.º 32, eneRo - junio de 2017, PP. 53 a 97