La Personalidad Jurídica de los Robots: Una Nueva Reality a Considerar en Derecho, Guías, Proyectos, Investigaciones de Derecho

¡Descarga La Personalidad Jurídica de los Robots: Una Nueva Reality a Considerar en Derecho y más Guías, Proyectos, Investigaciones en PDF de Derecho solo en Docsity! Derecho civil Revista Anales de la Facultad de Ciencias Jurídicas y Sociales. Universidad Nacional de La Plata. UNLP. Año 16/Nº 49-2019. Anual. Impresa ISSN 0075-7411-Electrónica ISSN 2591-6386 La persona electrónica POR LUIS ALBERTO VALENTE (*) Derecho Civil Sumario: I. Lineamientos generales.- II. Desarrollo.- III. Conclusión.- IV. Informe final.- V. Bibliografía. (1) Resumen: los extraordinarios avances en materia de robótica y de inteligencia artificial prometen incidir sobre los primeros principios del Derecho Civil. En el presente trabajo analizamos a la “persona electrónica” y lo hacemos siguiendo los lineamientos aconsejados en el seno de la Unión Europea. Palabras claves: robots - inteligencia artificial - persona electrónica The electronic person Abstract: the extraordinary advances in issues like robotics and artificial intelligence are bound to influence in the first principles of the Civil Law. In this current work we shall analyse the “electronic person” following the outline suggested within the fold of the European Union. Keywords: robots - artificial intelligence - electronic person I. Lineamientos generales I.1. Introducción Destaca Rogel Vide (2018) que en el ámbito de la Unión Europea se ha tomado conciencia de un fenómeno de extraordinaria proyección jurídica: la robótica. En esa órbita y como también lo destaca el Catedrático de Derecho Civil de la Universidad Complutense de Madrid, es fundamental recordar el Proyecto de In- forme de la Comisión de Asuntos Jurídicos del Parlamento Europeo, de 31 de mayo (*) Prof. Titular Derecho Privado I, Facultad de Ciencias Jurídicas y Sociales, Universidad Nacional de La Plata y Universidad Católica de La Plata. https://doi.org/10.24215/25916386e001 2 Derecho Civil Revista Anales de la Facultad de Ciencias Jurídicas y Sociales. Universidad Nacional de La Plata. UNLP. Año 16/Nº 49-2019. Anual. Impresa ISSN 0075-7411-Electrónica ISSN 2591-6386 de 2016, con recomendaciones destinadas a la comisión sobre normas de Derecho civil sobre robótica. La ponente de ese proyecto fue la ministra y eurodiputada (luxemburguesa) Mady Delvaux. De aquel documento surgió la Resolución del Parlamento Europeo, de 16 de febrero de 2017, con recomendaciones destinadas a la Comisión sobre normas de Derecho Civil sobre robótica. Entre muy prolíficas consideraciones destaca que la tendencia actual apunta al desarrollo de máquinas inteligentes y autónomas, con capacidad de ser entrena- das para pensar y tomar decisiones de manera independiente. Así también considera que el aprendizaje automático puede mejorar la capa- cidad de analizar datos, aunque esa conclusión plantea retos vinculados (entre otros aspectos) a la transparencia y a la inteligibilidad de los procesos decisorios. Entre otras sustanciales recomendaciones, el Parlamento Europeo desliza un interesante acápite: Se trata de crear a largo plazo una personalidad jurídica específica para los robots, de forma que como mínimo los robots autónomos más complejos puedan ser considerados personas electrónicas responsa- bles de reparar los daños que puedan causar, y posiblemente aplicar la personalidad electrónica a aquellos supuestos en los que los robots tomen decisiones autónomas inteligentes o interactúen con terceros de forma independiente (Rec. nº 59 - f ). Lo expuesto nos introduce en una temática tan interesante como controvertida. Como dice Barrio Andrés en la presentación de su libro Derecho de los Robots: “los robots han llegado, y más están en camino”. A su vez, indica que aquellos y los sistemas de inteligencia artificial son uno de los grandes inventos verdaderamente disruptivos del entorno digital y constituyen un vector de cambio vertiginoso de nuestras sociedades que apenas se ha comenzado a vislumbrar (Barrio, 2018). En efecto, la robótica y la inteligencia artificial son descritas como “tecnolo- gías disruptivas”, ya que pueden transformar vidas y prácticas de trabajo, afectar al mercado laboral y los niveles de empleo, y eventualmente tendrán un gran impac- to en todas las esferas de la sociedad. De esa forma en ámbitos comparados interesantes elucubraciones abordan la idea de estar —o no— ante una nueva categoría jurídica: la persona electrónica. La persona electrónica - Luis Alberto Valente (pp. 1-30) 5 Revista Anales de la Facultad de Ciencias Jurídicas y Sociales. Universidad Nacional de La Plata. UNLP. Año 16/Nº 49-2019. Anual. Impresa ISSN 0075-7411-Electrónica ISSN 2591-6386 Es posible pensar que el Derecho positivo vigente se vea superado por la nue- va realidad operándose posiblemente una metamorfosis de las categorías jurídi- cas. Incluso, en ámbitos comparados se ha planteado si conviene crear una nueva rama jurídica: el Derecho de los Robots (Belloso, 2018). Por lo pronto, la premisa es adaptar el Derecho general en función de las es- pecificaciones necesarias y a fin de dar una apropiada respuesta a los conflictos jurídicos. Bajo ese entendimiento y consecuentes con la inquietud deslizada por el mis- mo Parlamento Europeo, ¿es posible otorgar a los robots el estatus de sujeto de derecho? Ante la posibilidad de que se diseñen aquellos que sean cada vez más autó- nomos y que tengan capacidad de aprender de su entorno tomando decisiones independientes, ¿puede la estimativa atribuirle subjetividad jurídica? A tono con ello, ¿puede hablarse en la especie de una personalidad jurídica electrónica, vale decir, atribuirle al robot una personalidad jurídica específica? Tal como se deslizará oportunamente cuestión es debatida allende nuestras fronteras. I.4. La problemática y su plataforma especulativa El plural dimensionamiento de los Derechos Humanos brinda un pertinaz reto al avance (uso y abuso) tecnológico. De esa forma, es posible visualizarlos ante el medio ambiente y la calidad de vida; o vislumbrar los provenientes de la informa- ción y comunicación, sin perjuicio —desde luego— de aquellos pertenecientes al ámbito de bioética y de las biotecnologías. Se parte de que los avances de la sociedad tecno-científica no se conseguirán sobre la base de negar los valores de la propia humanidad. Destaca Nuria Belloso Martín (2018) que el debate sobre los límites de la cien- cia y la tecnología, ya no está tan estrechamente vinculado a los temores de des- trucción del ser humano relacionado con la bomba atómica. Para la Catedrática de Filosofía del Derecho de la Universidad de Burgos, los nuevos retos son los del post-humanos, en los que el “umbral” del humano se abre a nuevas expectativas y posibilidades. Para Belloso Martin no se debe confundir el transhumanismo que postula que la tecnociencia debe contribuir a la mejora pero no a la suplantación del ser https://doi.org/10.24215/25916386e001 6 Derecho Civil Revista Anales de la Facultad de Ciencias Jurídicas y Sociales. Universidad Nacional de La Plata. UNLP. Año 16/Nº 49-2019. Anual. Impresa ISSN 0075-7411-Electrónica ISSN 2591-6386 humano; y el posthumanismo que directamente pregona la superación de la hu- manidad actual por una superhumanidad y ello como resultado final del proceso de desarrollo tecnocientífico. Siguiendo las aguas de tal razonamiento, el trashumanismo sostiene la posibi- lidad de mejorar las capacidades intelectuales y físicas de la especie humana y a su vez que la tecnología debe mejorar la vida eliminando la enfermedad, el sufri- miento, el envejecimiento e incluso la muerte. El posthumanismo, a su turno, pretende superar al ser humano sobre la base de la tecnología. De aquí la necesidad de la ética a la que luego aludiremos. Debe advertirse que la revolución tecnológica debe ser considerada en su proyección sobre los Derechos Humanos no pudiendo vulnerar la dignidad humana. El transhumanismo como propuesta ética no propone sucumbir al imperati- vo tecnológico. En este orden, se propone dirigir la tecnología de un modo más apropiado. No se trata de poner a los individuos a merced de la tecnología, sino de poner la tecnología al servicio del individuo. Esto implica evaluar cuidadosamen- te los mejores usos que se pueden hacer de esta para asegurar el mayor bien para todos y la conservación de su dignidad (Murillo, 2014). Se trata —dice Murillo— de “mejorar” a la especie humana. Pero como bien se cuestiona el Catedrático de la Universidad de Navarra: ¿Qué se entiende por mejora? Es que no se puede dejar de tomar nota de los daños colaterales que la tecno- logía ha causado. Con similares lineamientos se ha dicho que el Transhumanismo (Humanity +) es solo un paso al post-humanismo (Humanity ++) y ello al querer alterar la esen- cia de lo humano (González Melado, 2010). Sin pretender posicionarnos ante tamañas disyuntivas solo planteamos la ne- cesidad de dar respuestas prudentes, producto de la inexorable mesura que impo- ne una problemática cuyas proyecciones son tan complejas como aún desconoci- das; tan imprevisibles como sospechosamente inextricables. II. Desarrollo II.1. La Inteligencia Artificial como problemática jurídica Como se deslizara, el término “inteligencia artificial” (IA o bien AI en inglés) se aplica a los sistemas que manifiestan un comportamiento inteligente, pues son La persona electrónica - Luis Alberto Valente (pp. 1-30) 7 Revista Anales de la Facultad de Ciencias Jurídicas y Sociales. Universidad Nacional de La Plata. UNLP. Año 16/Nº 49-2019. Anual. Impresa ISSN 0075-7411-Electrónica ISSN 2591-6386 capaces de analizar su entorno y pasar a la acción —con cierto grado de autono- mía— con el fin de alcanzar objetivos específicos. Es la inteligencia propia de las máquinas y que le permite asumir funciones cognitivas, interpretando los datos externos, aprendiendo y empleando esos co- nocimientos para efectuar tareas y alcanzar objetivos mediante una adaptación flexible. Susana Navas Navarro (2017) señala que IA es un campo de la ciencia y la in- geniería que se ocupa de la comprensión, desde el punto de vista informático, de lo que se denomina comúnmente comportamiento inteligente. También se ocupa de la creación de artefactos que exhiben ese comportamiento. Tras señalar que se trata de emular las diversas capacidades del cerebro hu- mano para presentar comportamientos inteligentes en diferentes disciplinas hace una interesante disquisición conceptual entre IA y algoritmo. Un sistema de IA necesita de una secuencia de instrucciones denominadas es- tructuras algorítmicas. Y por algoritmo se entiende el procedimiento para encon- trar la solución a un problema mediante la reducción del mismo a un conjunto de reglas (Navas Navarro, 2017). A su vez, la Inteligencia Artificial aplicada a los robots genera fabulosas consecuencias. En esa órbita, la comunicación de la Comisión al Parlamento Europeo en un documento que se denomina Inteligencia Artificial para Europa (Bruselas, 25/04/2018) destaca (entre muchas consideraciones y todas verdaderamente tras- cendentales) que la Inteligencia Artificial, además de facilitarnos la vida, nos está ayudando a resolver algunos de los principales retos a los que se enfrenta nuestro mundo: desde el tratamiento de las enfermedades crónicas o la reducción de las tasas de mortalidad en los accidentes de tráfico hasta la lucha contra el cambio climático o la previsión de las amenazas a la ciberseguridad. Sus aportes se ven reflejados en varios sectores: desde la energía hasta la edu- cación; o desde los servicios financieros hasta la construcción, y muchos otros que surgirán en las próximas décadas y que actualmente son inimaginables. Lo que al decir de aquel Informe elaborado por la Comisión Europea la Inte- ligencia Artificial está transformando nuestro mundo, nuestra sociedad y nuestra industria convirtiéndose (a su vez) en el arma estratégica del siglo XXI. En función de ello (refiriéndose a la Unión Europea) señala: nuestra forma de abordar la cuestión de la Inteligencia Artificial definirá el mundo en el que vamos a vivir. De allí la necesidad de contar con un marco ético y jurídico apropiado pre- viendo (a su vez) la fuga de cerebros y el significativo atraso consecuente. https://doi.org/10.24215/25916386e001 10 Derecho Civil Revista Anales de la Facultad de Ciencias Jurídicas y Sociales. Universidad Nacional de La Plata. UNLP. Año 16/Nº 49-2019. Anual. Impresa ISSN 0075-7411-Electrónica ISSN 2591-6386 Tras sostener la necesidad de registrar y clasificar a los robots destaca que el desarrollo de la tecnología robótica debe orientarse a complementar las capaci- dades humanas y no a sustituirlas. A la luz de lo que someramente describiéramos y relativo al trasfondo filosófico del problema lo anterior implica una significativa toma de posición en torno a la problemática aquí considerada. El Anexo habla de “trazabilidad” de “robots avanzados”. De aquí que se pregona el control por los seres humanos sobre las máquinas inteligentes. Generar meca- nismos más o menos autónomos puede tener un impacto mayúsculo y ser una herramienta decisiva a fin de aumentar la eficacia de la producción. II.3. Ámbitos de la robótica Los robots pueden ser diseñados para ser usados en diferentes entornos. Pue- den estar referidos a un contexto ambiental determinado (robots terrestres, acuá- ticos o espaciales); pueden estar diseñados para la práctica quirúrgica; pueden estar referidos a una actividad prostética (dispositivos o exoesqueletos dedicados a la sustitución de partes del cuerpo o que mejoran la comunicación entre el siste- ma nervioso y los músculos de seres humanos). Los hay destinados a la salud y los que asisten a pacientes con necesidades o cuidados especiales. También los que ayudan en un proceso de rehabilitación. El Catedrático Michael Froomkin (2018) —en el prólogo de la obra Derecho de los Robots— señala que los robots y los sistemas de inteligencia artificial parecen estar a punto de iniciar una revolución en el sector sanitario. Los cirujanos robóti- cos lograrán mejores resultados clínicos y es probable que los diagnósticos basa- dos en inteligencia artificial sean capaces de detectar nuevas enfermedades. A su vez, los investigadores médicos utilizando inteligencia artificial abrigan también la esperanza de nuevos medicamentos y nuevas curas. Los psicólogos auxilián- dose de la inteligencia artificial prometen no solo una mejor atención de la salud mental, sino, asimismo, una atención asequible para las masas. Bajo tal égida, se estima que debe prestarse especial atención al posible de- sarrollo de un vínculo emocional entre seres humanos y robots.  Especialmente en el caso de grupos vulnerables, como niños, personas mayores y personas con discapacidad. Expresamente la Resolución del Parlamento Europeo destaca las graves conse- cuencias físicas y emocionales que ese vínculo podría causar a los seres humanos. La persona electrónica - Luis Alberto Valente (pp. 1-30) 11 Revista Anales de la Facultad de Ciencias Jurídicas y Sociales. Universidad Nacional de La Plata. UNLP. Año 16/Nº 49-2019. Anual. Impresa ISSN 0075-7411-Electrónica ISSN 2591-6386 A su vez, puede tratarse de un robot humanoide, vale decir, diseñado para si- mular la forma y los movimientos de un ser humano. Son usados para investiga- ciones científicas. A su turno, los androides son los robots construidos para parecerse a los hu- manos y no solamente en lo físico sino también en lo emocional o intelectual. Los denominados cyborgs son híbridos mezcla de humanos y robots, es decir, hombre-máquina. Los robots, pueden ostentar uso militar. En materia de educación pueden fomentar el conocimiento y el aprendizaje. A su vez, no se descuenta que puedan estar destinados al arte o al entretenimiento, etc. De ello se concluye que la complejidad de la materia se proyecta sobre múltiples cuestiones y que por lo pronto aquellas imponen excluir soluciones simplistas. II.4. Acerca del estatus de persona En torno a los robots, la cuestión es vislumbrar si el Derecho puede o no con- siderarlos “persona”. En su caso conviene por revisar la dogmática atinente a ese concepto. Antes de alcanzar una respuesta directa conviene partir de los cimientos mis- mos de la cuestión. La Suprema Corte de Justicia de la Nación en los autos: “Sánchez Elvira Berta c/ Mº de Justicia y DD HH” del 22 de mayo de 2007, y parafraseando al destacado jurista Alfredo Orgaz (1946) recordaba que persona es quien tiene la aptitud de ser titular de derechos y de deberes. Siendo una aptitud jurídica emana del Derecho y solo tiene sentido y validez dentro del Derecho. Y la personalidad no es una cualidad natural, algo que pueda existir antes de todo ordenamiento jurídico y con independencia de este: es una cualidad pura- mente jurídica, repetimos (dice Orgaz) algo que el Derecho construye para sus fines particulares. En ese camino, la personalidad es un expediente técnico, un expediente jurí- dico de unificación de derechos y deberes alrededor de un centro. Ser persona 12 Derecho Civil Revista Anales de la Facultad de Ciencias Jurídicas y Sociales. Universidad Nacional de La Plata. UNLP. Año 16/Nº 49-2019. Anual. Impresa ISSN 0075-7411-Electrónica ISSN 2591-6386 —concluye Orgaz (1946)— es ser el centro ideal de un conjunto de relaciones jurí- dicas, actuales o solamente posibles. Seguramente subyace en la especie aquellas elucubraciones sobre las que el Catedrático español Legaz y Lacambra pusiera énfasis hace muchos años. Hoy se vislumbran con meridiana claridad ante la posibilidad de hallarnos ante una “personalidad electrónica” (cuestión impensable por aquellos tiempos). Decía el citado Catedrático que En el problema de la personalidad van implicadas, cuanto menos, las siguientes cuestiones. En primer lugar, hay que dilucidar quién es persona jurídica con arreglo a un ordenamiento dado de Derecho; en segundo lugar, debe establecerse quien debe ser persona jurídi- ca; tercero (como decisiva cuestión), en qué consiste propiamente ser persona jurídica; y por último, qué significa ser persona humana in- dependientemente de la personalidad jurídica (Legaz y Lacambra, 1943, p. 504). Y tras esas disquisiciones concluía que la personalidad jurídica es una peculiar manera o forma de ser de la existencia, vale decir, como un estar en situaciones jurídicas que implica el hacer situaciones jurídicas nuevas. Dice Recaséns Siches (1985) que la personalidad jurídica es tan solo la síntesis unificada de las funciones jurídicas no imputadas a los hombres que la realizan sino a un sujeto conceptual, construido, consistente en ese común término de imputación. La personalidad jurídica es una construcción del Derecho y constituye una imputación unitaria que las normas proyectan sobre un complejo de relaciones, pudiendo advertir que son efectuadas por un esquema unificado de funciones subjetivas. Adaptando ideas y parafraseando a Recasens Siches (1985), hay un sujeto con- ceptual construido por la norma y al que el Derecho le atribuye un determinado repertorio de relaciones jurídicas. En el Parlamento Europeo y en parte de la dogmática comparada no se des- carta esa idea en torno a los robots y sobre todo considerando la complejidad de las relaciones y situaciones que habrán de generarse a través de la nueva especie jurídica. La persona electrónica - Luis Alberto Valente (pp. 1-30) 15 Revista Anales de la Facultad de Ciencias Jurídicas y Sociales. Universidad Nacional de La Plata. UNLP. Año 16/Nº 49-2019. Anual. Impresa ISSN 0075-7411-Electrónica ISSN 2591-6386 admitirse esa personificación se estaría ante una resignificación de categorías jurídicas. La automatización conduce al resultado de que las actividades se desplacen, paso a paso, del usuario al sistema o robot. Admite la Resolución que la autonomía de los robots suscita la cuestión de su naturaleza y de si pertenecen a una de las categorías jurídicas existentes o si debe crearse una nueva categoría con sus propias características jurídicas. Se parte de la base de que considerando los impresionantes avances tecnológi- cos de la última década, los robots ya no solo pueden realizar actividades que an- tes eran típica y exclusivamente humanas, sino que el desarrollo de determinados rasgos cognitivos y autónomos —como la capacidad de aprender de la experiencia y tomar decisiones cuasi independientes— ha hecho que estos robots se asimilen cada vez más a agentes que interactúan con su entorno, pueden modificarlo de forma significativa, y en ese contexto la Resolución determina que es crucial la cuestión de la responsabilidad jurídica. II.8. El autoaprendizaje Cuanto más autónomos sean más difícil será considerarlos simples instrumen- tos en manos de otros agentes (como fabricante, el operador, el propietario, el usuario, etc.). En otros términos, la capacidad de aprendizaje, o mejor, el aprendizaje adapta- tivo es el que pretende emular un sistema de IA y de allí que podamos referirnos a agentes inteligentes. El autoaprendizaje es una característica que permite advertir la progresividad en la adquisición de conocimientos. En consecuencia, ello incide en la responsa- bilidad, ya que deberá determinarse si la actividad ilícita es producto del progra- ma originario del robot o bien del aprendizaje de este, del manejo que de aquel se haga o si contrariamente es independiente del uso dispensado. El comportamiento de la máquina se adapta al entorno tras un proceso de aprendizaje o nuevas formas de comportamiento del sistema. El autoaprendizaje y la excesiva autonomía pueden derivar en la imprevisibili- dad y el consecuente riesgo para las personas. Ese punto de vista ha hecho decir a Diaz Alabart (2018) que la personalidad electrónica no resulta convincente y asocia la conclusión advirtiendo que la https://doi.org/10.24215/25916386e001 16 Derecho Civil Revista Anales de la Facultad de Ciencias Jurídicas y Sociales. Universidad Nacional de La Plata. UNLP. Año 16/Nº 49-2019. Anual. Impresa ISSN 0075-7411-Electrónica ISSN 2591-6386 autonomía y la imprevisibilidad, no es un progreso para la humanidad si no está al servicio de las personas. Esa óptica impone la necesidad de no confundir personalidad y capacidad. II.9. La capacidad del robot Tanto el autoaprendizaje como la automatización nos conduce a otro aspecto del robot: su capacidad jurídica. Debe entenderse que reconocer personalidad no implica, por sí, reconocerles capacidad. Esto último es un resorte celoso de la ley quien puede limitar el menta- do atributo, o directamente impedirlo, de acuerdo con los fines que lo respaldan. El Anexo a la Resolución del Parlamento Europeo se refiere a los siguientes as- pectos a tomar en cuenta al pregonar una definición europea de robot autónomo “inteligente”. — Capacidad de adquirir autonomía mediante sensores y/o mediante el in- tercambio de datos con su entorno (interconectividad) y el intercambio y análisis de dichos datos. — Capacidad de autoaprendizaje a partir de la experiencia y la interacción. — Un soporte físico mínimo. — Capacidad de adaptar su comportamiento y acciones al entorno. Aunque referido a un abordaje diferente, decía Cifuentes que no se debe con- fundir personalidad y capacidad: Esta última es un concepto que se refiere a la dinámica y que admite grados, ausencia parcial, limitaciones o extensiones. La personalidad no. Es más bien de situación, de estática pura, de existencia elemental: existe o no: se es con ella, o sin ella no se es. Carece de sentido y razón decir que hay personalidad para algo y no para otro algo. De ello se colige que la personalidad es un prius; la capacidad un posterius (Ci- fuentes, 1995, p. 143). De acuerdo con lo expuesto, no parece acertado hablar de personalidad limi- tada en relación con los robots si en definitiva lo que se limita es la capacidad y no la personalidad. La persona electrónica - Luis Alberto Valente (pp. 1-30) 17 Revista Anales de la Facultad de Ciencias Jurídicas y Sociales. Universidad Nacional de La Plata. UNLP. Año 16/Nº 49-2019. Anual. Impresa ISSN 0075-7411-Electrónica ISSN 2591-6386 En otros términos y en el caso que nos ocupa, si hablamos de capacidad es- tamos ante un problema de limitación jurídica de la actuación del dispositivo, lo cual, desde luego, genera incumbencias o compromisos jurídicos en quien lo fa- brica, manipula, programa o comercializa. Si se piensa en la factibilidad de una personalidad electrónica deberá abordar- se la problemática relativa a su capacidad progresiva la que, a su vez, y en este caso, adquiere caracteres específicos. Hablar de capacidad progresiva en la especie significa indagar acerca de su au- tonomía y si la actividad es fruto del programa originario, o bien, del uso que de ese programa originario haya hecho el dueño. II.10. Derechos personalísimos y robótica Teniendo como objeto manifestaciones interiores de la persona, no se puede hablar de derechos personalísimos en directa relación a los robots. En cambio, puede avizorarse que estos y la inteligencia artificial puede vulne- rarlos a punto de constituir una nueva modalidad de avasallamiento de la persona. Como bien destaca la Resolución del Parlamento Europeo la evolución de la robótica y de la inteligencia artificial debe concebirse de modo que preserve la dignidad, la autonomía y la autodeterminación del individuo. Especialmente se refiere al ámbito de atención y a la compañía de las personas, y en el contexto de los dispositivos médicos que reparen o mejoren a los seres humanos. La robótica encierra un potencial empoderamiento que puede generar tensio- nes o posibles riesgos. Como bien dice la Resolución los mismos deben ser evaluados a la luz de la seguridad y salud humanas; la libertad, la intimidad, la integridad y la dignidad; la autodeterminación y la no discriminación, y la protección de los datos personales. En especial se debe prestar atención a aquellos robots que representan una amenaza significativa para la privacidad y no solo por su ubicación geográfica, sino también, por su capacidad de obtener y transmitir información; datos perso- nales y sensibles. De allí que pregona que el actual marco normativo debe actualizarse y comple- tarse a través de eficaces directrices éticas que reflejen la complejidad del ámbito de la robótica y sus numerosas implicaciones sociales, médicas y bioéticas. https://doi.org/10.24215/25916386e001 20 Derecho Civil Revista Anales de la Facultad de Ciencias Jurídicas y Sociales. Universidad Nacional de La Plata. UNLP. Año 16/Nº 49-2019. Anual. Impresa ISSN 0075-7411-Electrónica ISSN 2591-6386 A su vez, que los fabricantes de robots deben asegurarse de que la autonomía de los robots que diseñan es limitada; y que siempre debe ser posible que un ser humano asuma el control de un robot. Deben mantener estrictos estándares de control de calidad; o garantizar el mínimo daño psicológico a los usuarios; o ase- gurarse que el producto es identificable y como tal no es alterable; y a su vez, que los robots deben proteger los datos personales mediante una encriptación y alma- cenamiento seguro. Como se ve el análisis de las cuestiones que engloba la roboética es en buena parte casuístico y depende del tipo de robots. Entre muchísimas otras puede se- ñalarse la posible alteración de la identidad humana, ya sea en términos físicos, psicológicos o sociales. II.12. Bioética y robótica En aquella dirección, la Resolución del Parlamento Europeo del año 2017 se- ñala que el marco de orientaciones éticas debe basarse en los principios de bene- ficencia, no maleficencia, autonomía y justicia. Se pone énfasis en que se trata de preservar la dignidad humana, la igualdad, la justicia y la equidad; la no discriminación, el consentimiento informado, la vida privada y familiar; y la protección de datos. Lo expuesto no excluye otras cuestiones como la estigmatización, la transpa- rencia, la autonomía, la responsabilidad individual y social; considerando vigen- tes las actuales prácticas y códigos éticos. Sobre la base de las reglas elaboradas por el escritor de ciencia ficción Isaac Asimov (1942) pueden señalarse reglas dirigidas sobre todo a fabricantes, diseña- dores u operadores de robots: 1. Un robot no hará daño a un ser humano ni por inacción permitirá que un ser humano sufra un daño. 2. Un robot debe cumplir las órdenes dadas por los seres humanos (a excepción de aquellas que entren en con- flicto con la primera ley). 3. Un robot debe proteger su propia existencia en la me- dida en que esta protección no entre en conflicto con la primera y con la segunda ley. Más adelante se plantea otra regla, según la cual, un robot no puede perjudicar a la humanidad, ni con su inacción permitir que la humanidad sufra daño. La primera ley traduce el principio de no maleficencia y evidentemente posee en la especie mayor fortaleza. Pero también el principio de beneficencia permite que la robótica tenga como eje esencial hacer el bien (beneficencia) lo cual impli- ca servir a los intereses del ser humano, procurando su bienestar y respetando sus derechos fundamentales. La persona electrónica - Luis Alberto Valente (pp. 1-30) 21 Revista Anales de la Facultad de Ciencias Jurídicas y Sociales. Universidad Nacional de La Plata. UNLP. Año 16/Nº 49-2019. Anual. Impresa ISSN 0075-7411-Electrónica ISSN 2591-6386 Por el principio de autonomía debe respetarse la capacidad del robot para to- mar sus propias decisiones, pero no olvidando que está obligado a respetar las órdenes del ser humano que lo controla. Por el principio de justicia se pregona la aplicación equitativa de los beneficios asociados a la robótica. Se trata de la igualdad de condiciones en el acceso a los beneficios de la robótica y por sectores sociales menos favorecidos. En suma, considerando al principio de transparencia y sumado a los principios de la bioética, toda decisión o solución adoptada debe estar justificada, ya que puede tener un impacto significativo en la vida de las personas y en sus derechos fundamentales. II.13. La bioética y el principio de transparencia En la Resolución aquí considerada se pone de resalto el principio de transpa- rencia que consiste en la necesidad de justificar cualquier decisión que se haya adoptado con la ayuda de la inteligencia artificial y hasta pregona que los robots avanzados estén equipados con una especie de caja negra que registre las opera- ciones efectuadas por la máquina y los procedimientos lógicos que han conduci- do a la formulación de sus decisiones (conf. nº 12 ap. y Res. cit.). El principio de transparencia impone a los creadores o a los programadores que resulten claros a la hora de determinar las funciones operativas del robot, ya que el comportamiento de este puede tener en aquel al agente responsable de la actuación dañosa. Se pregona el diseño transparente de la máquina. En definitiva, se trata de mensurar por qué la máquina adopta la resolución en cuestión, cual es la lógica o código de conducta que la avala. Puede enlazarse esa idea con la relativa a la capacidad de la máquina para tomar decisiones de manera independiente. Esto se relaciona con el marco ético que también resulta determinante. II.13.1. La responsabilidad del robot II.13.2. Breves lineamientos Destaca Erica Palmerini (2017) que garantizar una seguridad elevada de los propios productos y proyectar respuestas adecuadas ante la eventualidad de que causen daño a quien los utiliza o a terceros constituye una de las preocupaciones constantes de la industria robótica. https://doi.org/10.24215/25916386e001 22 Derecho Civil Revista Anales de la Facultad de Ciencias Jurídicas y Sociales. Universidad Nacional de La Plata. UNLP. Año 16/Nº 49-2019. Anual. Impresa ISSN 0075-7411-Electrónica ISSN 2591-6386 Para la profesora asociada de la Scuola Superiore Sant’Anna —Pisa—, los siste- mas robóticos están cada vez más pensados para ser introducidos en ambientes comunes, en íntima relación con el hombre, circunstancia que aumenta, junto con la versatilidad de la tecnología, las ocasiones de contacto y de impacto accidental. En Europa la cuestión la responsabilidad de los robots es muy debatida. Se sos- tiene que la necesidad de dilucidar al sujeto responsable en el supuesto de daños ocasionados por robots es lo que motiva principalmente a reglamentar la materia. Sin embargo, se ha respondido que la solución se establece pensando en la vícti- ma quien no espera saber de quién es la culpa, sino que desea una compensación rápida (Diario La Vanguardia, 17/04/2018). En materia de responsabilidad luce con todo resplandor la necesidad de con- sensuar si el robot es una cosa o un producto, o bien, si puede ser visto como un agente o sujeto autónomo y capaz de ser titular de derechos y obligaciones. Siendo que el robot es una entidad dotada de materialización física pero tam- bién de un software que procesa información, los riesgos son asequibles en ambas esferas. De manera que la interacción defectuosa puede generar lesiones tanto a nivel físico como espiritual. Ello se vincula también a cómo se utiliza el dispositivo tecnológico o a la capa- cidad de este para producir cambios, o bien, la irremediable dinámica vinculada a los modos de utilización de los robots. La imprevisibilidad o su carácter impredecible brindan una nota particular a la problemática de la responsabilidad. Por lo pronto deberá pensarse en distribuir o discernir la responsabilidad entre los sujetos involucrados, sea el usuario, el distri- buidor, el fabricante del hardware, el programador del software, etc. La capacidad de interacción con el ambiente y la imprevisibilidad de la con- ducta son factores que ponen en crisis el fundamento que en la especie pueden exhibir aquellas tradicionales reglas de responsabilidad, como también, a la rela- ción de causalidad misma. Gómez Riesco señala que esa autonomía es la que plantea el reto del futuro. Es extensible a aquellas máquinas capaces de actuar en un determinado ámbito, que puedan tomar sus propias decisiones en razón del entorno y de las órdenes que se les den en función de la programación con que hayan sido configuradas. Todo ello sin perjuicio de que se puedan desarrollar robots con lo que se ha llamado in- teligencia artificial “general” o “fuerte” que sería la más semejante a la inteligencia humana (Gómez - Riesco Tabernero, 2018). La persona electrónica - Luis Alberto Valente (pp. 1-30) 25 Revista Anales de la Facultad de Ciencias Jurídicas y Sociales. Universidad Nacional de La Plata. UNLP. Año 16/Nº 49-2019. Anual. Impresa ISSN 0075-7411-Electrónica ISSN 2591-6386 II.14. La robótica y la cuestión laboral Sin pretender en estos desarrollos abordar, en forma integral, la compleja pro- blemática relativa a la incidencia de la robótica sobre la esfera laboral, no obstan- te, conviene hacer una breve alusión a la visceral cuestión. Como dice Mady Delvaux (2018) la problemática laboral constituye segura- mente el mayor reto para nuestra sociedad y para nuestros sistemas educativos. Los robots deberán cooperar con los humanos. Lo cual impone la idea de capacitación y entrenamiento del individuo para po- der interactuar con aquel. La Resolución del Parlamento Europeo considera que el aprendizaje automáti- co ofrece enormes ventajas económicas e innovadoras a la sociedad, su utilización puede entrañar una transformación del mercado de trabajo y de allí la necesidad de reflexionar sobre el futuro de la educación, el empleo y las políticas sociales. Debe pensarse en la convivencia entre el robot y el trabajador, siendo de rigor avizorar la especialización laboral como arma que coadyuve a la solución de se- mejante problema. De esa forma la educación no luce distante de la problemática del empleo, ya que aquella es un apéndice ineludible si se piensa en que el trabajo requerirá una formación especializada. En tanto, la idea es transferir a los robots tareas peligrosas y perjudiciales, pero sin perjuicio de advertir acerca de nuevos riesgos generados por la robotización. A su vez, la automatización de los puestos de trabajo puede liberar a las personas de tareas manuales o monótonas y permitirles que se dediquen a otras más creativas y significativas. La cualificación habrá de atemperar la posibilidad innegable de que un robot pueda sustituir a dos o más trabajadores. Como dice el empresario de Silicon Valley, Martin Ford (2016), es probable que algunos trabajos desaparezcan, pero es de esperar que otros se creen para lidiar con las innovaciones de la nueva era. Sin embargo, en ese proceso de destrucción creativa (por el cual se espera des- trucción de puestos de trabajo, pero a su vez la generación de nuevas ocupacio- nes) “es probable que la economía se dirija a un punto de inflexión en el que la creación de trabajos empezará a ser insuficiente para mantener empleada a toda la fuerza de trabajo” (Ford, 2016, p. 170). https://doi.org/10.24215/25916386e001 26 Derecho Civil Revista Anales de la Facultad de Ciencias Jurídicas y Sociales. Universidad Nacional de La Plata. UNLP. Año 16/Nº 49-2019. Anual. Impresa ISSN 0075-7411-Electrónica ISSN 2591-6386 La robótica y la inteligencia artificial demandarán mano de obra, referidas a trabajadores cualificados y que empleen conocimientos destinados a la imple- mentación, fabricación, montaje, diseño, mantenimiento, etc. En definitiva, son muchos los riesgos, pero también debe entenderse que la investigación, el desarrollo y la innovación generarán progresos innegables en el campo de la salud, la economía, la educación, etc. Aun cuando naveguemos por esas aguas los desafíos son múltiples y las ace- chanzas, si bien no son inmediatas, son (al menos) palpables y predecibles. En definitiva, la política legislativa no solo debe contemplar los efectos deriva- dos de aquella sino también la inexorable vinculación que habrá de establecerse entre el hombre y la máquina. III. Conclusión Todo lo expuesto nos persuade de encontrarnos ante un fenómeno de extraor- dinario impacto social y presumible proyección jurídica. La duda central pasa por considerar si el robot puede ser considerado un obje- to o bien si cabe la posibilidad de apreciarlo como un sujeto autónomo, titular de derechos y obligaciones. Si es lo segundo y como lo sugiere Barrio Andrés (2018) es a todas luces necesa- rio definir las condiciones de legitimidad jurídica de los nuevos sistemas robóticos y establecer con precisión un régimen claro de derechos y obligaciones. El profesor de la Universidad Carlos III de Madrid asevera lo anterior tras ad- vertir que aquellos junto a la Inteligencia Artificial están impulsando la cuarta re- volución industrial, la Industria 4.0, y por lo que el Derecho debe dar apropiada cobertura “ante potenciales creaciones que superen los confines de los laborato- rios” (Barrio, 2018, p. 63). Debe recordarse que la industria 4.0 o cuarta revolución industrial, viene de la mano de aplicación y uso de la IA como así de la robótica en los más variados aspectos. Estamos ante un fenómeno que promete producir profundos cambios sociales, culturales, económicos y también transformaciones en el Derecho, en sus institu- ciones y en sus operadores jurídicos. Un régimen legal avanzado debe partir de categorizaciones jurídicas que asegu- ren y garanticen el desarrollo tecnológico pero que también protejan los derechos La persona electrónica - Luis Alberto Valente (pp. 1-30) 27 Revista Anales de la Facultad de Ciencias Jurídicas y Sociales. Universidad Nacional de La Plata. UNLP. Año 16/Nº 49-2019. Anual. Impresa ISSN 0075-7411-Electrónica ISSN 2591-6386 de la persona reforzando el libre desarrollo de la personalidad y amparando sufi- cientemente a los derechos fundamentales. La tecnología robótica (como bien lo dice el Parlamento Europeo) debe orien- tarse a complementar las capacidades humanas y no a sustituirlas. Bajo ese norte, todo expediente jurídico tenderá a reconocer que en este su- puesto no son cosas lo que complementa a las capacidades humanas, ya que es menester reconocerles una pronunciada autonomía de actuación, como así, apti- tudes de aprendizaje y reacción ante un marco situacional determinado. A su vez, si hablamos de “seres sensibles” (por ejemplo) no nos referimos a la sensibilidad antropológica o existencial. Sino a la sensibilidad resultante de la actuación autónoma del dispositivo (sea sus sensores o procesadores) y de sus probables proyecciones jurídicas. Son factores indicativos de estar frente a un margen de actuación pertenecien- te a una categoría ontológica completamente nueva. No se trata de considerar sujeto a una cosa. Sino de reconocer subjetividad jurí- dica a un dispositivo inteligente y que autónomamente interactúa con el entorno. Es a todas luces exacto lo que señala una autorizada doctrina comparada al recordar que los robots son máquinas, cosas, todo lo singulares que se quiera; y que, aun cuando puedan realizar tareas, como las personas, difieren de ellas en capitales aspectos (Rogel Vide, 2018). Es ello una verdad incontrastable. Aun así, la cuestión se refiere a la conveniente cualificación jurídica del sustra- to lo que a su vez exige un análisis jurídico-teleológico de su función instrumental y en miras de los incuestionables avances tecnológicos. En otros términos, el concepto de “persona electrónica”, en sí, no merece vin- cularse necesariamente a lo humano ni mucho menos a una persona jurídica tipo sociedad, asociación o fundación. Tampoco la persona humana es morfológica- mente vinculada con la persona jurídica. Es ocioso advertir que son realidades diferentes. En cambio, el nuevo sujeto de derecho debe ser concebido instrumental o fun- cionalmente, considerando su proyección física, psicológica y social. Desde luego y en esa tónica, ameritando al ser humano como eje de consideraciones éticas y jurídicas. Ahora bien, es presumible que estemos ante un sujeto que exhiba un contexto jurídico propio. https://doi.org/10.24215/25916386e001