Partiendo de un enfoque desde los riesgos que el tratamiento de los datos biométricos y los sistemas de IA biométricos implican para los derechos humanos, se analiza su protección en la legislación sobre protección de datos personales y en la Propuesta de Reglamento sobre Inteligencia Artificial de la Unión Europea.

La inteligencia artificial (IA) es una realidad cuyo desarrollo plantea múltiples problemas en la actualidad. El conflicto surge entre las posibilidades técnicas reales, y las consecuencias éticas de implementarla hasta sus últimas consecuencias. El presente trabajo analiza alguna de estas problemáticas y sostiene que la IA, es un instrumento al servicio del ser humano y sólo así debe ser utilizado, so pena de convertirse en un recurso ingobernable. Urge, por tanto, un ejercicio de responsabilidad que proteja el humanismo y (...) los derechos fundamentales, defendiendo que, el ser humano es, y debe seguir siendo, el centro de la creación. (shrink)

La Inteligencia Artificial tiene implicaciones significativas para los derechos humanos, tanto en términos de desafíos como de oportunidades. Por eso los derechos están presentes en las declaraciones y propuestas sobre su regulación. Sin embargo, esta presencia tiene que enfrentarse a algunos problemas. Uno de ellos es el de la determinación de qué significa el enfoque de derechos humanos. Este trabajo pretende dar luz sobre esta cuestión.

La Ley de la IA ha sido aprobada en marzo 2024 y el presente escrito analiza algunos aspectos de dicha Ley en relación con los derechos fundamentales, que preocupan tanto a la sociedad. Iniciando con algunos apuntes críticos relativos a la primera versión de la propuesta, el trabajo enfoca la visión general de losderechos fundamentales presentada en esta Ley y argumenta que si bien los derechos fundamentales están presentes y concretados a través de distintos derechos en distintos contextos (laboral, consumo, (...) etc.), la Ley no hace ninguna referencia sustancial a algunos de los derechos fundamentales, para los cualeslas aplicaciones basadas en IA podrían significar un gran cambio. En consecuencia, el artículo identifica algunos aspectos de la visión normativa de la IA que podría ser más beneficiosa a los ciudadanos y sus derechos. (shrink)

La integración de la tecnología en el ámbito del derecho penal plantea desafíos significativos debido a la falta de regulación de la inteligencia artificial (IA), lo que podría comprometer los derechos fundamentales. Este estudio se centra en abordar estos desafíos y proponer soluciones mediante un análisis exhaustivo de la situación actual y las posibles implicaciones de la IA en el sistema jurídico penal. El objetivo principal de esta investigación es analizar los problemas, desafíos y oportunidades que surgen con (...) la implementación de la inteligencia artificial en el ámbito penal. Se busca identificar la necesidad de una regulación específica para la IA en el derecho penal, con el fin de proteger los derechos fundamentales de las personas y garantizar un sistema jurídico justo y equitativo. Para abordar esta problemática, se adoptó un enfoque metodológico cualitativo. Se llevó a cabo una revisión bibliográfica detallada para examinar los antecedentes, problemas y desafíos asociados con la IA en los sistemas jurídicos, especialmente en el ámbito penal. Además, se realizaron análisis de criterios y opiniones de expertos en derecho para obtener una comprensión más profunda de la situación y las posibles soluciones. Los resultados de este estudio revelan la necesidad urgente de establecer una normativa específica para regular la aplicación de la inteligencia artificial en el ámbito penal. Se destaca que la falta de regulación representa un riesgo significativo para los derechos fundamentales, especialmente en lo que respecta a la configuración de delitos con el apoyo de la IA. Además, se identifican diferentes dimensiones que deben abordarse en la regulación, incluyendo principios y reglas básicas del derecho, supervisión humana de los sistemas de IA y la promoción de la innovación responsable en este campo. Este artículo subraya la importancia de establecer una regulación efectiva para la inteligencia artificial en el ámbito penal. Esta regulación no solo protegerá los derechos fundamentales de las personas, sino que también promoverá un uso responsable y progresivo de la IA como una herramienta valiosa para los profesionales del derecho. Es crucial que la regulación sea integral y adaptable para garantizar un sistema jurídico justo y equitativo en la era digital. (shrink)

Este artículo reseña: Miguel Ángel PRESNO LINERA, Derechos fundamentales e inteligencia artificial, Marcial Pons, Madrid, 2022, 144 pp.

El acceso al Derecho y a unos servicios jurídicos básicos constituye una exigencia fundamental del Estado de Derecho. El desarrollo de aplicaciones de inteligencia artificial jurídica capaces de proporcionar un mejor conocimiento y comprensión del Derecho aplicable en cada situación particular ha difuminado, llegando incluso a eliminar en algunas áreas de la práctica legal, la distinción entre “información jurídica” y "asesoramiento legal”. A partir de ahí, la conjunción de la inteligencia artificial jurídica, la computación en (...) la nube y las TICs para producir conocimiento jurídico “customizado” y distribuirlo masivamente a través de la red está generando formas disruptivas de prestación de los servicios jurídicos que pueden ayudar a colmar bolsas hasta ahora desatendidas de necesidades jurídicas básicas. Ello requiere, sin embargo, un nuevoenfoque regulador de los servicios legales. (shrink)

El presente trabajo explora cómo la Inteligencia Artificial (IA) puede integrarse en los cuidados a personas dependientes y con discapacidad en España, resaltando su capacidad para promover la autonomía y la atención centrada en la persona. Inspirado en la Convención sobre los Derechos de las Personas conDiscapacidad de las Naciones Unidas, el documento propone un cambio del modelo institucionalizado de cuidado hacia uno comunitario y más integrado en el hogar, donde la tecnología, especialmente la IA, juegue un papel crucial. (...) Se discuten los beneficios y riesgos de la IA en los cuidados, como mejorar la calidad de vida y la eficiencia de los servicios, al tiempo que se plantea la necesidad de un análisis cuidadoso para evitar la discriminación y asegurar el respeto por los derechos humanos. Además, se detallan ejemplos de tecnologíasactuales, como robots de atención domiciliaria y sistemas de monitoreo remoto, mostrando la creciente integración de la IA en el ámbito de los cuidados. (shrink)

El objetivo de este trabajo es proporcionar razones a favor de la teoría jurídica computacional como una nueva área de la teoría jurídica contemporánea. El trabajo inicia con una breve panorámica de la historia de la inteligencia artificial con el fin de contar con una estantería que permita ubicar los distintos acercamientos que pueden darse en el terreno de la inteligencia artificial aplicada al derecho (IAD): los correspondientes al enfoque top-down y al bottom-up. Después de una enunciación (...) de los temas de interés por parte de la comunidad internacional de IAD se exponen algunos desarrollos con referencia especial a los realizados en el Laboratorio de Constructivismo Jurídica del Instituto de Investigaciones Jurídicas de la Universidad NacionalAutónoma de México en los que se resalta el papel de la teoría jurídica computacional: los proyectos EXPERTIUS I, EXPERTIUS II y el Sistema inteligente para la configuración y visualización del derecho globalizado como una red adaptativa compleja emergente. El artículo finaliza con algunas reflexionessobre los potenciales beneficios y riesgos de la inteligencia artificial en el nuevo derecho que está a punto de emerger. (shrink)

The aim of this paper is to study the temporal de-synchronization that occurs, within the European Union (EU), between technological innovations in Artificial Intelligence and its legal regulations. To do that, I base on a thesis formulated by Hartmut Rosa, a German sociologist close to the Critical Theory of society, according to which the temporal structures of politics are no longer compatible with the pace of change in some others social spheres. This produces a new form of social pathology, (...) which Rosa calls "risks of de-synchronisation", and whose most worrying effect must be sought in the displacement of decision-making processes from the political sphere to faster areas of society, fundamentally the market. To analyze this problem, I first reconstruct the thesis of desynchronization as a social pathology derived from acceleration. Then, I map the AI legislation process at EU level. Finally, I defend the thesis that this legislative process, which is certainly very admirable, has consistently come too late. El objetivo de este trabajo es estudiar el desajuste temporal que se produce, dentro de la Unión Europea (UE), entre las innovaciones tecnológicas en materia de Inteligencia Artificial y sus regulaciones jurídicas. Para ello se parte de una tesis formulada por Hartmut Rosa, sociólogo alemán cercano a la Teoría Crítica de la sociedad, de acuerdo con la cual las estructuras temporales de la política no resultan hoy ya compatibles con el ritmo de cambio de algunas esferas sociales. Esto produce una nueva forma de patología social, que Rosa denomina “riesgos de la desincronización”, y cuyo efecto más preocupante hay que buscar en el desplazamiento de los procesos de toma de decisiones desde el ámbito de la política hacia otros ámbitos de la sociedad más rápidos, fundamentalmente el mercado. Para analizar esta problemática se reconstruye, en primer lugar, la tesis de la desincronización como patología social derivada de la aceleración. Tras ello, se hace un mapeo del proceso de legislación en materia de IA a nivel de la UE. Por último, se defiende la tesis de que este proceso legislativo, ciertamente muy admirable, ha llegado sistemáticamente tarde. (shrink)

Congreso Internacional sobre Inteligencia Artificial, Robótica y Filosofía del Derecho. Sevilla, 1-2 de diciembre de 2021.

La dataización de la vida, de la sociedad, en el siglo XXI se ha convertido en una realidad indiscutible, alcanzando igualmente a la algoritmización de la Justicia. Los retos y los riesgos son enormes y el panorama que se presenta es complejo. Asistimos a una cada vez mayor “hibridación” de la Justicia: las máquinas ylos humanos interaccionan, los algoritmos asisten a los operadores jurídicos, se crean sistemas complementarios de las decisiones de jueces, fiscales, abogados, notarios, etc., si bien, cada vez (...) más, caminamos hacia la sustitución progresiva del ser humano en la Justicia por las máquinas, por los robots. El dilema de la Justicia está presente. Hay que evitar el desequilibrio, las desigualdades, la brecha digital, la aminoración de garantías, la conversión de Justicia en el frío dato estadístico-matemático, que pervierta el modelo de Justicia humano; un modelo con falencias pero que ha venido construyéndose desde el respeto a los derechos y garantías. (shrink)

Este artículo reseña: Fernando H. LLANO ALONSO (dir.), Joaquín GARRIDO MARTÍN y Ramón VALDIVIA JIMÉNEZ (coords.), Inteligencia artificial y Filosofía del derecho. Ediciones Laborum, Murcia, 2022, 558 pp.

The purpose of this investigation is to establish the interference of Artificial Intelligence in the legal field, with special attention to the legal decision. For this, a descriptive analysis of its use in judicial, administrative and legislative decisions is carried out addressing scenarios of substantive, procedural and probative law in order to solve the following legal question: Is artificial intelligence an instrument to adopt legal decisions or Is it a new entity that generates legal decisions? This question is (...) developed taking into account different sources of law, including judicial pronouncements, doctrine and legislation that develops the use of artificial intelligence, which are analyzed with government and state policies that have raised their incorporation into the field of law. (shrink)

El presente artículo se centra en el papel de los Derechos Humanos (DH) y Objetivos de Desarrollo Sostenible (ODS) en la gobernanza mundial de las nuevas tecnologías para la salud humana. La primera parte aborda la gobernanza: el proceso de gobernar diferentes asuntos de la vida colectiva, incluyendo múltiples actores y medios. La segunda parte trata de la gobernanza mundial de las nuevas tecnologías: la necesidad, la viabilidad y cómo debería ser. La tercera parte reflexiona sobre la gobernanza mundial de (...) las nuevas tecnologías para la salud humana, analizando los recientes planes de la Organización Mundial de la Salud (OMS) para la gobernanza mundial de la edición del genoma humano y de la inteligencia artificial (IA) para lasalud. Se concluye que un buen procedimiento es insuficiente para una buena gobernanza, el contenido ético es crucial. Se recomienda prestar especial atención al papel de los DH y los ODS. Se sugiere una ética proactiva a lo largo de todo el proceso (conceptualización, diseño, desarrollo, distribución y uso) de las nuevas tecnologías, implicando la educación ética de las diferentes partes interesadas. (shrink)

El presente trabajo se centra en la ética de la IA y en los principios que la inspiran. Antes de las normas que regulan la IA es necesario conocer las cuestiones éticas relacionadas con el desarrollo, la implementación y el uso responsable de los sistemas de IA. El concurso de estos fundamentos éticos es necesario para proteger los derechos y la dignidad de las personas, garantizar la equidad en el acceso y tratamiento de datos, minimizar los sesgos y riesgos asociados (...) con los algoritmos, promover la transferencia en las decisiones automatizadas y auspiciar la confiabilidad en la tecnología, el beneficio humano y el bienestar social.También se propone el estudio de la ética de la IA desde un punto de vista omnicomprensivo que integre tanto la ética aplicada como la metaética de la IA. (shrink)

RESUMEN: El derecho constituye una de las formas de inteligencia más necesarias y potentes, de la que depende el futuro de la humanidad. Es preciso conectar el pensamiento jurídico con el debate contemporáneo sobre la inteligencia. Se propone un enfoque integrador que abarca tanto la inteligencia artificial como la inteligencia institucional y la inteligencia emocional. Necesitamos juristas inteligentes, con nuevas formas de pensamiento, preparados para manejar un derecho que responde cada vez más a una dinámica de red. (...) Conceptos clave de la racionalidad jurídica aparecen como componentes de la inteligencia. Las sociedades inteligentes dependen de sistemas inteligentes y las instituciones se presentan como objetos inteligentes. El derecho está modulando nuestro mundo mental y nuestra sensibilidad ABSTRACT: Law is one of the most necessary and powerful types of intelligence. The future of humanity depends on it. We should connect legal thinking with the actual discussion on intelligence. This article presents an integrative approach that embraces both artificial, institutional and emotional intelligence. We need smart jurists, provided with new forms of thinking and trained to manage a law working increasingly as a net. Key concepts of legal rationality are components of intelligence. Smart societies depend on smart systems. Institutions appear as smart entities. Law modulates our mental world and our sensibility. (shrink)

Este artículo se propone exponer las tres circunstancias que concurrieron en la celebración en Sevilla de las XXVIII Jornadas de la Sociedad Española de Filosofía Jurídica y Política, dedicadas al estudio de la temática relativa a la Filosofía del Derecho y pandemia en la sociedad global. Las reflexiones que lo integran pretenden esbozar, de forma puramente programática, algunas consideraciones sobre esas tres principales circunstancias que, a juicio del autor, explicitan el sentido de las Jornadas. En primer término, la referencia (...) a la sede en la que el encuentro se desarrolló, es decir, al peculiar estímulo que el ámbito espacial y el clima cultural de Sevilla podían proyectar sobre el desarrollo de las deliberaciones del evento. El segundo término, la temática de la pandemia con todo lo que su incidencia en la experiencia jurídica ha comportado y comporta. Por último, se alude al punto de vista o al enfoque desde el que se contempló la temática monográfica de las Jornadas, que no podía ser otro que el de una reflexión filosófica jurídica y política. (shrink)

Los recientes desarrollos de la inteligencia artificial generativa suponen desafíos a conceptos tradicionales del Derecho, uno de ellos es el de autoría. El problema que aborda este trabajo es cómo concebir la autoría de una obra escrita por una inteligencia artificial generativa en la que la intervención humana, en cuestiones de estilo y contenido, es nula o mínima. Para ello se enumeran casos recientes en los que se plantea ese problema a partir de artículos escritos empleando ese (...) tipo de tecnología. Pero el objetivo del trabajo es la revisión de la concepción de autoría que subyace a las normativas internacionales que regulan la propiedad intelectual y los presupuestos éticos que las justifican (la concepción de Locke, la concepción romántica y la concepción utilitarista). Sobre la base de una lectura de “¿Qué es un autor?” de Michel Foucault se sostiene que la noción de autoría cumple una función social que, al menos al estado del arte de la inteligencia artificial generativa, esta no puede cumplir y, por tanto, no debe ser reconocida como autora de las obras mencionadas. Concluyendo que las obras literarias elaboradas por inteligencia artificial generativa multipropósito con nula o escasa intervención humana deben ser consideradas como obras de dominio público. (shrink)

Desde la Revista “Derechos y Libertades” se nos convoca a dar nuestra opinión sobre los desafíos a los que se enfrenta el actual discurso de los derechos humanos. La cuestión planteada nos remite a la historicidad del propio concepto de derechos humanos, que no puede sustentarse sobre una razón abstracta, sino sobre una concepción evolutiva, diversa e intercultural del ser humano y de la sociedad. Desafíos han existido siempre y son amplios, pero quizá ahora estamos en un momento de importantes (...) cambios tecnológicos y transiciones energéticas, que demandan un enfoque ético, político y jurídico, para poder intervenir sobre los nuevos conflictos sociales que se derivan de su aplicación. (shrink)

En este trabajo se lleva a cabo un estudio filosófico-jurídico del derecho al debido proceso reconocido en el artículo 24 de la Constitución Española, a fin de adaptarlo a la Era algorítmica. Para la consecución de este objetivo, el trabajo se divide en tres puntos. En el primero se hará un repaso por la historia y la fundamentación jurídica del debido proceso en el sistema jurídico español. En el segundo se considerarán las garantías y los principios que habrían de (...) conformar un derecho al debido proceso tecnológico, derecho necesario en esta nuestra Era algorítmica. Por último, a modo de conclusión, se adelantará una propuesta de inclusión constitucional de los principios y garantías tecnológicas descritas. (shrink)

Las normas del Derecho Internacional Humanitario establecen límites al uso de los medios y métodos de combate en el desarrollo de las hostilidades. Si bien en su origen el DIH no fue elaborado teniendo en cuenta los desafíos planteados por el desarrollo de la inteligencia artificial en ese contexto, es una realidad que en la actualidad la evolución de esta inteligencia, los algoritmos y su aplicación militar emergente constituyen un desafío a la luz de las normas humanitarias. Ese (...) desafío comprende tres ámbitos fundamentales: el técnico, el legal y el ético. Si bien se puede decir que la IA, en la etapa actual de desarrollo, permite que un programa computerizado basado en algoritmos realice ciertas tareas en un entorno complejo e incierto, a menudo con mayor precisión que los seres humanos, también debemos destacar que no hay tecnología que haga que una máquina se comporte como un ser humano, quien puede determinar si una acción es lícita o ilícita y decidir no continuar con lo programado, teniendo como objetivo primordial la protección de las víctimas. Los Estados deben adoptar regímenes de verificación, prueba y monitoreo como parte del proceso para determinar e imponer limitaciones o prohibiciones de acuerdo a los principios esenciales de distinción y proporcionalidad que el DIH establece en la utilización de armas durante los conflictos armados internacionales o no internacionales. Tanto desde una perspectiva legal como ética el ser humano está en el centro de esta problemática, ya que la responsabilidad por el uso de la fuerza no puede transferirse a sistemas de armas o algoritmos, y sigue siendo una responsabilidad humana. (shrink)

Se aborda la intersección entre la ética, la inteligencia artificial (IA) y el capitalismo digital. Se plantean tres supuestos: primero, que la IA incrementa su efectividad a expensas de nuestra intimidad y autonomía, fundamentales para la condición humana. Segundo, que es crucial entender la IA dentro del contexto del capitalismo digital, donde se convierte en un producto ideológico y mercantil. Tercero, se enfatiza la necesidad de regulaciones tanto globales como nacionales para salvaguardar los derechos humanos frente a los riesgos (...) que presenta la IA. Se destaca que la digitalización ha transformado las relaciones sociales, creando un mundo donde la IA puede vulnerar nuestra dignidad. Además, criticamos la falta de regulación adecuada, advirtiendo que sin un marco ético, la IA podría ser utilizada para manipular y vigilar a las personas. Finalmente, se aboga por una ética de la IA que priorice la dignidad humana y fomente un uso responsable de la tecnología, reconociendo sus beneficios, pero también los riesgos que conlleva en un mundo cada vez más digitalizado. (shrink)

El propósito de este trabajo consiste en exponer las tareas más apremiantes que, a juicio del autor, debe asumir la Filosofía del Derecho del presente y del inmediato futuro. Para ello, se analizan las dos tareas que se consideran de interés prioritario: la primera versa en torno a lo que entraña el desafío tecnológico propio de la sociedad digital que habitamos y que se concreta en la respuesta que desde la filosofía jurídica debe avanzarse respecto a la omnipresencia en (...) todos los ámbitos sociales, económicos, políticos, culturales y jurídicos de la Inteligencia Artificial (IA). Hace referencia la segunda al riesgo cultural que entraña la pretensión de determinados movimientos que se autoconsideran portavoces de los signos del universo tecnológico y los desarrollos de la tecnociencia, para inferir la propuesta ideológica del final del humanismo y el inicio de la era posthumanista. El trabajo concluye asignando a la Filosofía del Derecho la función de ser la conciencia de la IA que es Inteligencia sin conciencia; y de reivindicar la persistente necesidad de respetar y realizar los valores humanistas frente a su pretendida abolición por el posthumanismo. (shrink)

Resumen: Se efectúa una aproximación a los derechos humanos desde la perspectiva de la inteligencia en sus distintas facetas, especialmente desde la inteligencia artificial pero también desde la inteligencia institucional y la emocional. Aparecen como derechos inteligentes, que desarrollan la inteligencia de los individuos y hacen a las sociedades más inteligentes. Se presenta su dimensión cognitiva y su capacidada para cuestionar programas. Son instancias críticas que preservan la dignidad de los seres humanos en su compleja interacción con las máquinas (...) inteligentes y estimulan un pensamiento no mecánico. Absrtact: This article aims to give an approach to the human rights from the point of view of intelligence in their different types, especially from artificial intelligence, but also from institutional and emotional intelligence. They appear as smart rights that develop the intelligence of the individuals and make societies more intelligent. Their cognitive dimension is shown, as well as their capacity to question programs. They are critical instances that preserve the human dignity in their complex interaction with intelligent machines and stimulate a not-mechanical thinking. (shrink)

El presente texto, no busca abarcar el impacto de las nuevas tecnologías en el ejercicio del Derecho en nuestro país, probablemente la tecnología puede llevar a la cristalización de ideas maravillosas para impartir justicia de manera pronta y oportuna, sin embargo se pueden avizorar ciertas amenazas y peligros en su implementación, cuando a nivel mundial se plantean métodos de solución de controversias virtuales y juzgados digitales mediante la inteligencia artificial, aquello que se pensaba por la humanidad en un (...) futuro muy lejano, esta realidad toma fuerza en el sector justicia. (shrink)

La nueva ley de bioética en Francia, propuesta en 2019 y aprobada por la Asamblea Nacional el 29 de junio de 2021, introduce en su artículo primero, relativo a las Tecnologías de Reproducción Artificial (ART por sus siglas en inglés), modificaciones al artículo L. 2141-2 y L. 2141-3 de la ley número 2011-814 de 7 de julio de 2011 relativa a la bioética. Abre así el camino a “cualquier pareja formada por un hombre o una mujer o por dos (...) mujeres o cualquier mujer soltera”. Como resultado, se rompe el vínculo entre el derecho y la bioética. Mientras que el derecho debe proteger el interés individual, la bioética le recuerda al derecho que también debe protegerse el bien común. De ahí las siguientes interrogantes que surgen a raíz de esta nueva ley de bioética: ¿las ART son un derecho para todos? ¿Es legítimo reivindicarlo en nombre de la igualdad? ¿Qué pasa con la justicia? En este artículo me gustaría abordar el tema desde un punto de vista biojurídico, situando el problema en el marco de la filosofía del derecho. (shrink)

Las investigaciones que Carlos Alchourrón desarrolló en la Filosofía del Derecho se vincularon, desde inicios de la década de 1980, con problemáticas críticas de la Inteligencia Artificial. Su contribución a la construcción de una lógica de las normas se conectó rápidamente con la deducción automática y los Sistemas Expertos Jurídicos. Su preocupación por la cuestión de los conflictos de obligaciones que pueden plantearse en un sistema normativo cuando el juez se enfrenta a la necesidad de emitir un veredicto (...) considerando ciertos hechos, se vinculó, en sus trabajos, con la noción más general de "condicionales derrotables" y con la formalización del Razonamiento No Monótono. Pero su contribución de mayor impacto fue aquella derivada de la búsqueda de una solución al problema de los resultados múltiples que surgen de la derogación de una norma en un sistema jurídico, problema que puede ser visto, en un contexto epistémico, como el de la contracción de un conjunto de creencias. Su enfoque constructivo, que desarrolló con David Makinson, convergió con el axiomático elaborado por Peter Gärdenfors, dando lugar al surgimiento de la teoría de los Cambios Racionales de Creencias, más conocida como AGM, teoría que fue adoptada en IA como un modelo standard para la especificación de las actualizaciones de Bases de Conocimiento, operaciones que, habitualmente, involucran la introducción de una nueva creencia que puede ser inconsistente con las anteriores. ¿Por qué AGM adquirió rápidamente carta de ciudadanía en IA, al punto de que su influencia, medida según la cantidad de menciones bibliográficas del artículo fundacional de 1985, se ha duplicado en la última década? Mostraremos en este trabajo que la teoría apareció en un momento de crisis de la IA y que el alto nivel de abstracción del modelo de AGM era lo que muchos investigadores de la disciplina estaban buscando. El presente artículo, luego de describir la génesis de AGM, realiza un análisis histórico de las circunstancias en las cuales la teoría se introdujo en la IA y una evaluación cuantitativa y cualitativa de su impacto en dicha disciplina. The main lines of research that Carlos Alchourrón developed in the Philosophy of Law, were connected, from the beginnings of the 80' s, to some critical problems in the Artificial Intelligence. His contributions to the construction of a logic of norms were rapidly linked to automatic deduction and the Legal Expert Systems. His concerns for the conflict of obligations that could arise in a normative system when a judge has to issue a ruling taking some particular facts into account were associated in his work with the more general notion of "defeasible conditionals" and with the formalization of Non Monotonic Reasoning. But his most relevant contribution was the one derived from the search of a solution to the problem of multiple outcomes resulting from the derogation of a norm in a legal corpus, which may be considered -within an epistemic framework- analogous to the contraction of a set of beliefs. The constructive approach he worked out with David Makinson converged with Peter Gärdenfors' axiomatic, giving rise to the formulation of the theory of Rational Changes of Belief, which was adopted in AI as a model for the specification of the updates of Knowledge Bases as it usually involves a new belief that may be inconsistent with the old ones. (shrink)

A inteligência artificial invadiu as áreas da vida e visa reconfigurar a própria vida, com impactos nos direitos humanos. Estas repercussões no desenvolvimento humano têm tanto detractores como defensores. O artigo tem como objetivo estabelecer implicações bioéticas e psicopolíticas da inteligência artificial para os direitos humanos. O artigo foi elaborado sob o modelo PRISMA e utilizou a hermenêutica analógica para interpretação dos textos. Os resultados indicam benefícios, ameaças e oportunidades para as liberdades fundamentais e os direitos à equidade, (...) identidade, autodeterminação, autonomia, privacidade e bem-estar. As conclusões referem-se à integração de dispositivos, dados e algoritmos, que impactam os direitos humanos e suscitam a necessidade de refletir sobre a sua recriação, reformulação ou reconfiguração. (shrink)

Cada vez son más estrechas las relaciones entre la informática y el Derecho. La evolución ha sido notable: de la informática jurídica documental, que nos ha facilitado en numerosas ocasiones obtener información jurídica muy completa en un corto espacio de tiempo, hemos pasado a una Informática jurídica de gestión, que cada día avanza más en su empeño de liberar al jurista de las tareas más rutinarias. Se ha llegado así a la Informática jurídica decisional, con un futuro más prometedor. (...) Pero también, como contrapartida, es la esfera que más susceptibilidades y reticencias provoca. Concretamente, vamos a prestar especial atención a la proyección de las nuevas tecnologías en las decisiones judiciales, tanto en la vertiente de la Inteligencia Artificial como en la de los Sistemas Expertos Jurídicos: es un área controvertida, ya que en la actualidad no es posible, ni deseable, una suplantación plena del razonamiento jurídico del juez o del abogado por el cálculo informático del ordenador. Basta que se configure como una herramienta de apoyo o de ayuda a la decisión. Todo ello proyecta una nueva línea de reflexión para la Filosofía del Derecho, como es la hermenéutica telemática. (shrink)

The aim of this paper is to provide a theoretical model of judicial reasoning that satisfactorily integrates the partial explanations offered by three differ- ent theoretical research paradigms: Philosophy of Law, Legal Epistemology, and Artificial Intelligence and Law.The model emerges from the application of knowledge elicitation and knowledge representation methods. The model employs the theory of neural networks as a theoretical metaphor in order to generate its explanations and its visual representations.The epistemological status of the model is of a (...) constructivist stripe. It is in line with contemporary research tendencies within cognitive psychology that propose that judicial reasoning may be better understood if we assume a coherentist and a connectionist approach.Resumen:El objetivo de este ensayo es presentar un modelo teórico del razona- miento judicial que pueda integrar de manera satisfactoria las explicaciones parciales ofrecidas en tres distintos paradigmas de investigación teórica: la filosofía del derecho, la epistemología jurídica y la inteligencia artificial aplicada al derecho.Este modelo surge de la aplicación de algunos métodos de elicitación y representación del conocimiento. Y emplea la teoría de las redes neurales como una metáfora teórica a fin de generar sus propias explicaciones y representaciones visuales.El estatus epistemológico del modelo es de corte constructivista, y se encuentra en la línea de las tendencias de investigación contemporánea dentro de la psicología cognitiva, la cual plantea que el razonamiento judicial puede ser entendido de mejor manera si asumimos un enfoque coherentista y conexionista. (shrink)

En 1956, se introdujo el término de inteligencia artificial (IA) para referirse a una tecnología que es capaz de emular las operaciones cognoscitivas del ser humano mediante el uso de sistemas computacionales y programas informáticos, con el fin de ayudar a la toma de decisiones en distintas áreas de conocimiento.Sin embargo, se ha llegado a cuestionar si debe emplearse el calificativo de inteligencia a esos usos de la tecnología digital. También, se ha generado preocupación sobre sus implicaciones éticas, debido (...) a que la inteligencia artificial consiste en sistemas no autónomos que no son capaces de actos libres y responsables, lo cual exige que sean guiados por personas. Por tanto, el presente trabajo tiene como objeto presentar algunos fundamentos de la filosofía realista de santo Tomás de Aquino que nos permitan hacer una valoración de la inteligencia artificial. (shrink)

La presente investigación tiene como propósito establecer la injerencia de la Inteligencia Artificial en al ámbito jurídico, con especial atención en la decisión jurídica y política. Para ello, se realiza un análisis descriptivo de su uso en las decisiones judiciales, administrativas y legislativas abordando escenarios del derecho sustantivo, procesal y probatorio con el fin de resolver la siguiente pregunta jurídica: ¿la inteligencia artificial es un instrumento para adoptar decisiones jurídicas o es un nuevo ente generador de decisiones (...) jurídicas? Este interrogante es desarrollado teniendo en cuenta diferentes fuentes del derecho, entre las que se destacan pronunciamientos judiciales, doctrina y legislación que desarrolla el uso de la inteligencia artificial, las cuales son analizadas con políticas de gobierno y de Estado que han planteado su incorporación en el campo del derecho. Palabras-clave: Inteligencia Artificial, Big Data, Derecho TIC, Sentencias judiciales, Pruebas judiciales. (shrink)

Las posibilidades que ofrece el desarrollo de la inteligencia artificial y el manejo de macro datos son ingentes. Sus aplicaciones se extienden también al ámbito sanitario en el que resulta difícil separar la práctica médica y el proceso creciente de digitalización. Sin embargo, no todo es luz en este nuevo universo algorítmico. Existe también otro lado apenas perceptible, más opaco, pero impregnado de brumas provenientes de los intereses y expectativas económicos de las grandes empresas multinacionales. De ahí la necesidad (...) de incidir en la protección de los datos personales sanitarios, así como en la salvaguarda de la privacidad del paciente; teniendo presente que la defensa de los derechos fundamentales constituye un instrumento inequívoco de limitación del poder, en este caso, tecnocientífico. (shrink)

Las nuevas tecnologías presentan los desafíos más variados. Pero, en lo que a la violencia de género refiere, el uso de tecnología como la inteligenciaartificial puede ayudar a minimizar ciertos tipos o aspectos de este flagelo. Dadas las particularidades que representa este tipo de violencia, el éxito ofracaso de la aplicación de la inteligencia artificial dependerá de una selección estratégica de técnicas inteligentes actualmente disponibles.

In this paper I will present an analysis of the impact that the notion of “bounded rationality”, introduced by Herbert Simon in his book “Administrative Behavior”, produced in the field of Artificial Intelligence (AI). In particular, by focusing on the field of Automated Decision Making (ADM), I will show how the introduction of the cognitive dimension into the study of choice of a rational (natural) agent, indirectly determined - in the AI field - the development of a line of (...) research aiming at the realisation of artificial systems whose decisions are based on the adoption of powerful shortcut strategies (known as heuristics) based on “satisficing” - i.e. non optimal - solutions to problem solving. I will show how the “heuristic approach” to problem solving allowed, in AI, to face problems of combinatorial complexity in real-life situations and still represents an important strategy for the design and implementation of intelligent systems. (shrink)

Desde hace ya bastante tiempo existe una tendencia a afirmar que el derecho o las normas de diferente tipo no son adecuadas o aplicables para las diferentes nuevas tecnologías que van apareciendo de forma continua. Este trabajo intentará dar la vuelta a ese razonamiento y, centrándose en la inteligencia artificial, tratará de plantear criterios adecuados para que esa tecnología y muchas otras sean desarrolladas y aplicadas de forma adecuada a los derechos fundamentales en general y a la privacidad (...) en particular. Dentro de esos criterios se analizará lo que debe aportar la explicabilidad de la tecnología mencionada y se profundizará en algunos conceptos adicionales como la posibilidad y la necesidad de controlar y de auditar sistemas de inteligencia artificial. Para realizar la mencionada profundización se recurrirá a lo que se conoce como objetivos de protección y a los principios de la ciberética, incluyendo una referencia especial a la sostenibilidad y a la resiliencia de este tipo de sistemas. (shrink)

Reseña al libro Valls Prieto, Javier. Inteligencia artificial, derechos humanos y bienesjurídicos. Pamplona: Aranzadi, 2021, 137 pp.

This article proposes to elucidate Wilfrid Waluchow’s notion of constitutional morality by explaining how it relates to the classical common law idea of artificial reason. It examines how Waluchow’s effort to reconcile insights from the thought of H.L.A. Hart and Ronald Dworkin through the idea of constitutional morality is both reminiscent of the artificial reason of the common law and distinct from it. It shows that constitutional morality evokes the subtle union of custom and reason found in (...) class='Hi'>artificial reason, but also that it proposes, under the influence of Hart’s notion of rule of recognition, a narrower understanding of law’s foundation in established practices, and that it gives, consistent with Dworkin’s vision of law as integrity, a greater theoretical scope to law’s rationality. (shrink)

La inteligencia artificial (IA) no es sólo una moda, sino un conjunto de sistemastecnológicos que han adquirido en los últimos años un enorme desarrollo con aplicaciones a múltiples aspectos de la vida cotidiana de los ciudadanos, tanto por parte de particulares (empresas) como de los propios Estados.La Unión Europea ha apostado siempre por compatibilizar los avances tecnológicos con el respeto de los principios y valores de la democracia, el Estado de Derecho y los derechos y libertades fundamentales. Desde (...) tales premisas, actualmente se enfrenta a la búsqueda de un modelo regulatorio de la IA ante las carencias del Reglamento General de Protección de Datos (RGPD) en este ámbito.A través de la Propuesta de Reglamento (UE) sobre IA, se pretende adoptar una regulación marco del uso de la IA que suponga una “tercera vía” inspirada en los principios y valores de la Unión y se contraponga a las actuales fórmulas regulatorias “abstencionistas” (EE.UU) e “hiperreguladoras” (China), proporcionando un modelo que consiga el efecto imitador o “efecto Bruselas” de una IA “confiable” para los ciudadanos y las empresas a nivel mundial. (shrink)

Este trabajo es una aproximación a la crítica de Martin Heidegger a la cibernética. La primera parte es una descripción de lo que él escribió o dijo sobre el tema y de algunas nociones cercanas como la de ciencia, técnica y el principio de razón. Para Heidegger la cibernética es una nueva ciencia fundamental que sustituye a la filosofía. Las nuevas ciencias cibernéticas son el derecho, la naturaleza, la historia o el arte. En la segunda parte me pregunto si (...) la crítica de Heidegger sigue vigente. ¿Todavía puede hablarse de ciencia en el mismo sentido que él? Su vigencia depende de si la causalidad todavía es el saber perseguido por la inteligencia artificial. Concluyo que sí, la causalidad todavía es perseguida por razones de utilidad. Por último, presento y dejo abiertos algunos de los temas relacionados con el Derecho como nueva ciencia cibernética. (shrink)

La inteligencia artificial transforma el derecho. No es solo un modo de facilitar la actividad jurídica. Tiene implicaciones epistemológicas y sociales. El derecho se reduce a datos y a cálculos. Prospera un jurista maquinal. Se empobrece la racionalidad jurídica. Se olvida que la clave del derecho no es el procesamiento de datos sino la creación de sentido.

Los riesgos que conlleva el desarrollo de la Inteligencia Artificial (IA) desatan múltiples distopías, siendo su aplicación en el ámbito de la Seguridad y la Defensa uno de sus aspectos más controvertidos. A pesar de las numerosas llamadas de atención de diferentes actores gubernamentales, no gubernamentales e interestatales, los Estados afrontan el desarrollo de los Sistemas Autónomos Letales (SALAS) de forma diferente en función de sus intereses, su cultura y sus valores éticos, frecuentemente, ante la ausencia de una clara (...) legalidad internacional. Es en este entorno geopolítico, donde los principios y valores occidentales que antaño fueron guía en la esfera mundial y que en la actualidad se encuentran cuestionados y eclipsados por una realidad propia de un mundo diferente, en el que las Naciones Unidas tratan de alcanzar acuerdos que regulen el desarrollo de los SALAS y limiten el riesgo de que las máquinas pudieran escapar al control de los seres humanos. (shrink)

La etapa de la “Web 2.0” despertó numerosas ilusiones sobre el potencial de los medios sociales para renovar y extender los espacios de deliberación, discusión y emancipación política de la ciudadanía. Sin embargo, la concentración empresarial que siguió al establecimiento de unas pocas plataformas como intermediarios culturales en el espacio digital ha propiciado diferentes reacciones en contra desde diferentes ámbitos. Este ensayo presenta los principales problemas de los medios sociales para la discusión y deliberación. En particular se identifican tres factores (...) constituyentes de los mismos: plataformización, automatización y aceleración. Se argumenta que estos factores presentan serias amenazas para la salvaguarda de los derechos democráticos y se explora como el desarrollo de la inteligencia artificial generativa reforzará y extenderá estas amenazas. (shrink)

Los códigos éticos humanos no son coherentes en su diseño ni tampoco tienen una distribución universal. Por lo tanto, la imposible universalidad ni completitud de los sistemas éticos para la inteligencia artificial (IA) es algo evidente que tan sólo fue apuntado someramente por el estudio reciente del MIT (Moral Machine). Al tener toda ética un matiz cultural inequívoco, y también incluir grados de interpretación en sus principios (como el derecho universal a la vivienda, evidente si bien ninguna institución (...) vela por su cumplimiento, algo que una máquina no entendería). Al mismo tiempo se produce un problema formal: un sistema de IA no siempre cuenta con suficientes datos ni tiempo óptimo para procesar una situación, por lo que un factor de azar ético debe tenerse en cuenta en el diseño de tales sistemas. (shrink)

A pesar de los innumerables beneficios, hay varias críticas y preocupaciones en relación con el uso de la Inteligencia Artificial (IA), especialmente en Brasil, donde no hay ninguna legislación federal en vigor hasta el momento. Las legislaciones estatales existentes y los proyectos de ley que se están votando en el Congreso, como el PL 21/20, son defectuosos e incompletos, especialmente en lo que respecta a algunas aplicaciones de la IA que implican altos riesgos para los derechos y libertades fundamentales, (...) además de traer a menudo un sesgo potencial, duplicando o potenciando el racismo institucionalizado existente en la sociedad u otras formas de discriminación. Existe una inequidad codificada que propicia infraestructuras injustas, sinembargo, donde hay poder hay resistencia, y en este sentido es necesario señalar la importancia de las contra codificaciones basadas en la solidaridad y que repiensan la justicia, es decir, un enfoque emancipador de la tecnología. Este es el cambio paradigmático necesario, y siendo necesario, tiene que ser posible y debe buscarse con el máximo esfuerzo. Se trata de verdaderas formas de resistencia, como instrumentos abolicionistas para el “Nuevo Código Jim”, nuevas formas de discriminación de raza, género y clase existentes a través del uso de las nuevas tecnologías, en el sentido de prácticas de diseño orientadas a la justicia. (shrink)

Una escueta visión histórica de la filosofía política analizada desde el punto de vista de la teoría del derecho y de la sociedad, nos permite ver cómo ha ido desarrollándose, desde Ockham, y actualmente hasta filósofos liberales como Rawls, una concepción de la justicia fundada en el hecho contractual, dispositivo mediante el cual se establece un determinado orden en la sociedad, orden basado en una noción artificial (construida) de la justicia. Hobbes se constituye en el momento clave del (...) giro copernicano de la cuestión, con su idea convencional de justicia. Luego el utilitarista Hume elabora las llamadas ¿circunstancias de la justicia¿, también convencionales, argumentación que influirá finalmente en Rawls en su idea de ¿sociedad bien ordenada¿. (shrink)