La irrupción de la Inteligencia artificial (IA) causa esperanzas e incertidumbres, por las amplias posibilidades que tiene, pero también por los riesgos que representa. Luego de explicar sucintamente en qué consiste la IA, se exponen ejemplos de la presencia de sistemas y aplicaciones en distintos y dispares campos: en la industria, la biotecnología, el cambio climático, la medicina, los negocios, el entretenimiento y las finanzas. Los efectos que la IA puede causar en el planeta, en la cultura y (...) en la vida de los seres humanos hace necesaria una reflexión sobre la eticidad de esas aplicaciones, pues su omnipresencia puede derivar en una algor-cracia (la era digital gobernada por algoritmos) por lo que es necesario pensar y desarrollar una algor-ética, que oriente la utilización de la IA y sus aplicaciones. Se ofrece un decálogo de pautas éticas que permitirán que aquello es técnicamente posible, esté a favor de los seres humanos y nunca les haga daño, ni propicie condiciones adversas o lesivas para ellos. Además de la regulación ética y bioética, las aplicaciones de la IA necesitan un marco jurídico. Se comenta brevemente la Ley de Inteligencia artificial, aprobada por el Parlamento Europeo en marzo del 2024 y redactada con un enfoque basado en el riesgo. Se concluye que son imprescindibles unos parámetros éticos y bioéticos que humanicen la IA, sobre la base de una antropología verdadera, que garantice su utilización al servicio de lo humano, poniendo en el centro la primacía de la dignidad humana. (shrink)

A 4ª Revolução Industrial é o culminar da era digital. Atualmente, tecnologias como robótica, nanotecnologia, genética e inteligência artificial prometem transformar nosso mundo e a maneira como vivemos. O campo da Segurança e da Ética da Inteligência Artificial são áreas de pesquisa emergentes que vêm ganhando popularidade nos últimos anos. Diversas organizações de cunho privado, público e não governamentais têm publicado diretrizes propondo princípios éticos para a regulamentação do uso e desenvolvimento de sistemas inteligentes autônomos. Meta-análises do campo (...) de pesquisa em Ética da IA apontam uma convergência sobre certos princípios éticos que, supostamente, governam a indústria da IA. Entretanto, pouco se sabe sobre a eficiência desta forma de “Ética”. Neste estudo, gostaríamos de realizar uma análise crítica do atual estado da Ética da IA, e sugerir que essa forma de governança baseada em diretrizes éticas principialista não é suficiente para normatizar a indústria da IA e seus desenvolvedores. Acreditamos que drásticas mudanças sejam necessárias, tanto nos processos de formação de profissionais das áreas ligadas ao desenvolvimento de software e sistemas inteligentes quanto no aumento da regulamentação desses profissionais e sua indústria. Para tanto, sugerimos que o Direito se beneficie das contribuições recentes da Bioética, de forma a explicitar em termos legais as contribuições da Ética da IA para a governança. (shrink)

Se aborda la intersección entre la ética, la inteligencia artificial (IA) y el capitalismo digital. Se plantean tres supuestos: primero, que la IA incrementa su efectividad a expensas de nuestra intimidad y autonomía, fundamentales para la condición humana. Segundo, que es crucial entender la IA dentro del contexto del capitalismo digital, donde se convierte en un producto ideológico y mercantil. Tercero, se enfatiza la necesidad de regulaciones tanto globales como nacionales para salvaguardar los derechos humanos frente a los (...) riesgos que presenta la IA. Se destaca que la digitalización ha transformado las relaciones sociales, creando un mundo donde la IA puede vulnerar nuestra dignidad. Además, criticamos la falta de regulación adecuada, advirtiendo que sin un marco ético, la IA podría ser utilizada para manipular y vigilar a las personas. Finalmente, se aboga por una ética de la IA que priorice la dignidad humana y fomente un uso responsable de la tecnología, reconociendo sus beneficios, pero también los riesgos que conlleva en un mundo cada vez más digitalizado. (shrink)

Este artículo muestra que la ética del discurso en versión de la ética cordis contribuye a mantener una actitud crítica de discernimiento ante las tecnologías de la inteligencia artificial. Propone distinguir entre opinión pública y razón pública, para destacar el sentido crítico del uso público de la razón en la línea de Kant, Rawls, Habermas y Cortina. Y afrontar las dificultades para ejercer la razón pública en la era digital: impacto de la inteligencia artificial en la (...) comunicación, hiperconectitividad, datificación, “panóptico digital” y la espiral del silencio, que ponen en peligro el uso de la razón y la intimidad personal. (shrink)

Este articulo examina algunos de los desafíos que enfrenta la educación ante el incontrarrestable avance del desarrollo de herramientas como las tecnologías de la información y la comunicación (TICs) y la inteligencia artificial (IA). En particular se analizan la necesidad de cambios en la estructura institucional de la educación, en particular aquellos relacionados con sus rigideces y lentitud; el significado de la tecnología, su no neutralidad y los cam bios que se instalan en el circuito humano/tecnología; los nuevos (...) alumnos, su atención y la distracción tecnológica, y en particular el rol de la relación alumno/adulto en la educación. Ante el advenimiento de una educación hibrida, este documento pone el acento en cuarto aspectos: a) la necesidad de fortalecer las facultades humanas al considerar el uso de estas herramientas tecnológicas en la educación, b) la importancia de situar la ética en el centro de una educación hibrida ; c) la urgencia de desarrollar una política de apoyo y fortalecimiento docente ante la redefinición e identidad de la profesión, y d) la importancia de fomentar una gran alianza para converger en una visión común acerca de cómo ha de ser la educación. (shrink)

El presente artículo explora cómo el mundo digital ha transformado no solo la comunicación humana, sino también la naturaleza misma del ser humano. Este nuevo entorno antropológico requiere una adaptación de la teología y la moral a la lógica digital. Se requiere una “cibermoral”, respuesta ética que permita un desarrollo integral del hombre en este contexto. La cibermoral aborda los desafíos y oportunidades que presentan las redes sociales y la inteligencia artificial y ofrece principios éticos que guíen su (...) uso responsable. El artículo analiza cómo estas tecnologías influyen en la identidad, la relacionalidad y la sociabilidad del ser humano y promueve una relacionalidad integral basada en la dignidad, la empatía y las virtudes cardinales y teologales, con el fin de lograr una auténtica comunión en el ámbito digital. (shrink)

El uso de la Inteligencia artificial (IA) en la Medicina de laboratorio (ML) ha provocado un salto cualitativo en el diagnóstico de enfermedades que aquejan al ser humano. El desarrollo de robots para la medición, cálculo y predicción ha aumentado la confiabilidad, validez y reproducibilidad de las pruebas diagnósticas con IA, induciendo a una fácil elección de dicha tecnología en el laboratorio clínico. Sin embargo, la IA en la ML entraña una serie de reflexiones éticas que deben considerarse. (...) La incipiente tecnología en desarrollo, la presencia de sesgos cognitivos en los algoritmos y datos, la incertidumbre del funcionamiento del robot, las limitaciones tecnológicas, la amenaza a la privacidad y la ausencia de un marco legal abren conflictos éticos que laceran la equidad, la seguridad y la autonomía del hombre. El imperativo tecnológico de la IA en la ML no debe superar la responsabilidad, ni atentar contra la dignidad de la persona. (shrink)

El presente trabajo se centra en la ética de la IA y en los principios que la inspiran. Antes de las normas que regulan la IA es necesario conocer las cuestiones éticas relacionadas con el desarrollo, la implementación y el uso responsable de los sistemas de IA. El concurso de estos fundamentos éticos es necesario para proteger los derechos y la dignidad de las personas, garantizar la equidad en el acceso y tratamiento de datos, minimizar los sesgos y riesgos asociados (...) con los algoritmos, promover la transferencia en las decisiones automatizadas y auspiciar la confiabilidad en la tecnología, el beneficio humano y el bienestar social.También se propone el estudio de la ética de la IA desde un punto de vista omnicomprensivo que integre tanto la ética aplicada como la metaética de la IA. (shrink)

This article is intended to present a proposal for dialogic digital ethics on a critical reading of the European Commission's independent high-level expert group’s document Ethics Guidelines for Trustworthy AI (2019). These would be digital ethics with a normative horizon for action and criteria for justice based on dialogue and possible agreement between all agents involved and affected by the digital reality. The aim is to show that the participation of all parties involved is not merely advisable but morally required (...) as part of the Commission’s effort to generate common European willingness and governance to deal with the fourth industrial revolution now going on. The acknowledgement of equal dignity implied by people-centric artificial intelligence (AI) is utterly unthinkable without this possibility of equal participation. Without it, trust cannot be generated or guaranteed. As we intend to show, the new principle of explicability plays a decisive role in this objective as a principle with a moral as well as an instrumental. El presente artículo tiene como objetivo presentar los rasgos básicos de una ética digital dialógica a partir de una lectura crítica del documento elaborado por grupo independiente de expertos de alto nivel para la Comisión Europea Ethics Guidelines for Trustworthy AI (High-level expert Group on Artificial Intelligence, 2019). Una ética digital que tiene en el diálogo y acuerdo posible de todos los agentes implicados y afectados por la realidad digital su horizonte normativo de actuación, su criterio de justicia. La finalidad es mostrar que, en su esfuerzo por generar una voluntad común y una gobernanza europeas ante la actual revolución industrial, la participación de todas las partes implicadas no solo es recomendable sino moralmente exigible. El reconocimiento de la igual dignidad que implica una Inteligencia Artificial centrada en las personas no es ni siquiera pensable sin el horizonte de una participación igual. Sin ella, la confianza no puede generarse ni garantizarse. Como pretendemos mostrar, en este objetivo juega un papel decisivo el nuevo principio de explicabilidad, principio que posee un valor moral y no solo instrumental. (shrink)

A inteligência artificial (IA)[1] tem se tornado cada vez mais importante na indústria moderna, trazendo consigo benefícios e inovações capazes de transformar a maneira como o trabalho é executado. Sendo assim, este artigo tem o objetivo de elucidar alguns tipos de IA e sua aplicabilidade no cotidiano da vida moderna. Ademais, intenciona-se abordar os apelos da personalização de conteúdos que capturam e algoritmizam o indivíduo, de modo a ensejar os desafios éticos implicados em seu avanço. E, por fim, ambiciona-se (...) tencionar a relação entre os benefícios do avanço tecnológico frente a questão concernente à autonomia e liberdade do corpo próprio na acepção merleau-pontyana, trazendo o corpo para condição de sujeito e, com isso, rompendo com a tradição cartesiana dualista, de modo a seguir na proposta de atribuir ao corpo-sujeito, a capacidade de fazer ato e, dessa forma, se constituir enquanto um corpo político, sendo a base para ações inteligentes e cautelosas até mesmo na função de operar as máquinas que sem ele não podem sequer ser acionadas. [1] Sigla utilizada para referir-se à inteligência artificial e que será mencionada ao longo do artigo com fins de abreviação dos termos. (shrink)

O texto busca discutir paradoxos do debate público na era da Inteligência Artificial. Parte da concepção de esfera pública de Habermas e sua aplicabilidade no seio das reflexões atuais sobre o debate público e suas novas modalidades potencializadas pelas tecnologias digitais. Pretende trazer ao escrutínio das reflexões as formas de como jovens adultos de diferentes países garantem sua participação na esfera pública digital através do exercício da cidadania, da consolidação de uma sociedade bem-informada e coautora de seus sistemas político (...) e jurídico. Na configuração da ágora digital, o uso da inteligência artificial em diferentes enquadramentos sociais e políticos originam diferentes níveis de participação, uma vez que estamos situados em três domínios de fronteiras difusas: Mundo analógico (cidadãos desconectados) Mundo digital (cidadãos conectados) e Mundo híbrido (cidadãos e máquinas conectados). Se, conforme argumenta Habermas, a vida em sociedade não é possível sem a comunicação e a relação com o outro, como garantir diálogo e consenso no mundo híbrido? Como pensar a democracia no cyberespaço e em uma esfera pública, que agregue vontades, argumentos, posições, defesas e consensos? (shrink)

La dataización de la vida, de la sociedad, en el siglo XXI se ha convertido en una realidad indiscutible, alcanzando igualmente a la algoritmización de la Justicia. Los retos y los riesgos son enormes y el panorama que se presenta es complejo. Asistimos a una cada vez mayor “hibridación” de la Justicia: las máquinas ylos humanos interaccionan, los algoritmos asisten a los operadores jurídicos, se crean sistemas complementarios de las decisiones de jueces, fiscales, abogados, notarios, etc., si bien, cada vez (...) más, caminamos hacia la sustitución progresiva del ser humano en la Justicia por las máquinas, por los robots. El dilema de la Justicia está presente. Hay que evitar el desequilibrio, las desigualdades, la brecha digital, la aminoración de garantías, la conversión de Justicia en el frío dato estadístico-matemático, que pervierta el modelo de Justicia humano; un modelo con falencias pero que ha venido construyéndose desde el respeto a los derechos y garantías. (shrink)

Este trabajo analiza algunos temas de inteligencia artificial y ética. Desde una óptica humanista pone en el centro la reflexión antropológica para pasar a una exploración de la dimensión ética. En definitiva, el artículo realiza una defensa del ser humano, indaga sobre la responsabilidad ética de esa ciencia y muestra gran interés en que todos (pobres y ricos) se vean beneficiados por sus avances. La inteligencia artificial nos obliga a reflexionar de nuevo sobre los procesos éticos. (...) Durante un tiempo parecía que la ética de esta ciencia estaba dominada por filosofías transhumanistas. Es hora de poner al hombre en todas sus dimensiones en el centro del pensamiento. (shrink)

El discurso sobre la seguridad que viene planteándose en el ámbito de la Inteligencia Artificial (IA) se caracteriza por un predominio de las perspectivas técnica y normativa. Los efectos ambivalentes de esta tecnología y su consideración como un sistema sociotécnico plantean la necesidad de complementar este discurso integrando una perspectiva moral. Así pues, el objetivo principal de este trabajo consiste en argumentar que la seguridad moral es un elemento indispensable para alcanzar una IA confiable, en virtud de las (...) diversas situaciones donde la dignidad humana puede verse comprometida. (shrink)

Este estudio reflexionar pretende críticamente sobre la posibilidad de un enfoque dataficado, hiperconectado y algoritmizado de clarificación, fundamentación y aplicación de lo moral: la hiperética artificial. Para ello, se mostrará la ética como un saber práctico que, preocupado por la racionalización de los comportamientos libres, ha encontrado en el diálogo entre afectados el criterio de moralidad desde el cual poder criticar tanto el conocimiento como el comportamiento. Posteriormente, se profundizará en la etificación, el intento de establecer procesos de transformación (...) de la realidad social y moral en datos y metadatos computables en línea. Después, se expondrá cómo los modelos matemáticos artificialmente inteligentes están colonizando progresiva e implacablemente los procesos de racionalización con arreglo a sentido, produciendo falta de sentido, anomia y psicopatologías en las democracias maduras. Finalmente, se reflexionará críticamente sobre el diseño, aplicación y uso de algoritmos de inteligencia artificial como instrumento para establecer qué es justo y felicitante para una sociedad digitalmente hiperconectada. (shrink)

O artigo aborda os efeitos da Inteligência Artificial (IA) na educação, enfatizando a necessidade de repensar as estratégias pedagógicas nas universidades. Explora as transformações trazidas pela IA incluindo a automação e o potencial de personalização do ensino. Argumenta que as universidades devem se adaptar para formar profissionais capazes de trabalhar com a IA valorizando habilidades como criatividade, pensamento crítico e competências éticas. O texto também discute o papel dos professores na era da IA sugerindo que devem se concentrar mais (...) no desenvolvimento de habilidades interpessoais e críticas dos alunos. Propõe uma reflexão sobre a direção ética e moral da educação em um mundo cada vez mais dominado pela IA. (shrink)

En la era del Antropoceno y en el contexto de la Cuarta Revolución Industrial, la inteligencia artificial representa un elemento que profundiza los problemas relacionados con la degradación ambiental. En este sentido, figuras destacadas como Aimee van Wynsberghe y Mark Coeckelbergh han comenzado a plantear el concepto de inteligencia artificial sostenible (IAS). Sin embargo, es importante conectar esta propuesta conceptual con un modelo de innovación que permita su realización en aras de la sostenibilidad. La quíntuple hélice (...) constituye una oportunidad para el impulso de la IAS a través de una innovación comprometida con la participación social y el cuidado ambiental. (shrink)

A construção de modelos artificiais capazes de tomar decisões geralmente é contrastada à fraca estrutura de comportamento ético capaz de compreender o uso de inteligência artificial para a escolha moral. Neste artigo, discutimos o papel da ética de Hans Jonas e da filosofia crítica de Andrew Feenberg na determinação de princípios para uma ética destes modelos, indo na direção oposta às pesquisas e publicações recentes na área. Analisando o caso específico trazido em Boot et al., à luz de ambos (...) filósofos, podemos demonstrar como os avanços na técnica carecem da necessária crítica filosófica e estudo da nova ética na era da tecnologia. (shrink)

Actualmente la inteligencia artificial se encuentra en un punto de desarrollo nunca visto prometiendo grandes beneficios que trascienden en las distintas esferas sociales. Una problemática al respecto es la aparente neutralidad de los algoritmos utilizados en su programación y su impacto a gran escala en relación con la discriminación generada a partir de los sesgos inmersos en ellos, provenientes de sus diseñadores. Esto como resultado de una mirada parcial a la realidad y la persona misma. La solución a (...) la segregación es posible hallarla no solo en las llamadas paridades, que son una respuesta que pretende ompensar errores en la programación y trae como consecuencia desigualdades en oportunidades y privilegios para ciertos grupos, sino en una mirada a la totalidad de la persona. (shrink)

Resumo: Nas últimas décadas, a transformação da economia e do mercado de trabalho tem despertado questionamentos éticos relacionados ao advento e à prevalência das novas tecnologias. Neste cenário, destaca-se a emergência do "infoproletariado", uma classe trabalhadora cada vez mais subjugada à lógica do trabalho digital e da economia do conhecimento. Paralelamente, essa transformação se dá em um contexto de "sociedade do cansaço", onde o ritmo acelerado e incessante das atividades produtivas impõe um esgotamento físico e mental às pessoas. Este artigo (...) pretende explorar a interseção desses três conceitos: o infoproletariado, a sociedade do cansaço e a ética das novas tecnologias. Discutiremos as implicações da crescente digitalização do trabalho, a sobrecarga cognitiva e emocional dos trabalhadores, e as questões éticas decorrentes da automação e da exploração da força de trabalho neste contexto. Compreender essa complexa rede de relações é crucial para repensar práticas de trabalho mais justas e sustentáveis na era digital. Palavras-chave: Trabalho; Infoproletariado; Inteligência Artificial; Ética; Sociedade do Cansaço; Capitalismo; Economia. (shrink)

A proveniência de dados e a inteligência artificial são cruciais na saúde, garantindo a integridade e a transparência das informações. A proveniência possibilita a rastreabilidade dos dados em diagnósticos, promovendo confiança nas decisões clínicas, enquanto a inteligência artificial analisa grandes volumes de dados, facilitando a identificação de padrões e a personalização de tratamentos. É relevante abordar a proveniência de dados e a inteligência artificial no contexto da saúde, enfatizando seus desafios e implicações éticas, com o objetivo de (...) fornecer orientações a pesquisadores e profissionais da área. Este estudo teve como objetivo apresentar os desafios e implicações éticas evidenciadas nas publicações científicas encontradas sobre a proveniência de dados e a inteligência artificial no contexto de saúde. Realizamos uma revisão integrativa utilizando como estratégia de busca os termos Data Provenance and Artificial Intelligence and Health. Após analisar os resultados obtidos e revisar os textos completos, identificamos e selecionamos 2 artigos internacionais relevantes para a temática em questão. Nossa pesquisa evidencia a escassez de estudos sobre a proveniência de dados e a inteligência artificial em saúde, especialmente no que tange aos desafios e implicações éticas relacionados a esses processos. Nesse contexto, este trabalho constitui uma contribuição relevante para o campo da Ciência da Informação. Para pesquisas futuras sobre a temática aqui em questão, é fundamental desenvolver frameworks e diretrizes que integrem considerações éticas e práticas de governança de dados, abordando a proteção da privacidade, a transparência dos algoritmos e a mitigação de viés, além de aprofundar a pesquisa em estudos interdisciplinares. (shrink)

Las normas del Derecho Internacional Humanitario establecen límites al uso de los medios y métodos de combate en el desarrollo de las hostilidades. Si bien en su origen el DIH no fue elaborado teniendo en cuenta los desafíos planteados por el desarrollo de la inteligencia artificial en ese contexto, es una realidad que en la actualidad la evolución de esta inteligencia, los algoritmos y su aplicación militar emergente constituyen un desafío a la luz de las normas humanitarias. (...) Ese desafío comprende tres ámbitos fundamentales: el técnico, el legal y el ético. Si bien se puede decir que la IA, en la etapa actual de desarrollo, permite que un programa computerizado basado en algoritmos realice ciertas tareas en un entorno complejo e incierto, a menudo con mayor precisión que los seres humanos, también debemos destacar que no hay tecnología que haga que una máquina se comporte como un ser humano, quien puede determinar si una acción es lícita o ilícita y decidir no continuar con lo programado, teniendo como objetivo primordial la protección de las víctimas. Los Estados deben adoptar regímenes de verificación, prueba y monitoreo como parte del proceso para determinar e imponer limitaciones o prohibiciones de acuerdo a los principios esenciales de distinción y proporcionalidad que el DIH establece en la utilización de armas durante los conflictos armados internacionales o no internacionales. Tanto desde una perspectiva legal como ética el ser humano está en el centro de esta problemática, ya que la responsabilidad por el uso de la fuerza no puede transferirse a sistemas de armas o algoritmos, y sigue siendo una responsabilidad humana. (shrink)

La dimensión ética respecto al uso de la inteligencia artificial es hoy un debate obligado en diversas áreas del conocimiento. Los beneficios de la IA en la educación son innegables, sin embargo, invitan a los educadores a una reflexión profunda respecto a los objetivos que se espera alcanzar en los aprendizajes, así como a los riesgos que este tipo de tecnología presenta. A través de una revisión bibliográfica sobre los alcances éticos en educación, se constata la existencia de (...) diversas regulaciones que, desde la perspectiva humanista, apuntan a un uso responsable, sin perder de vista que el fin último es la persona y su dignidad. La ética corre tras los avances tecnológicos, pues la reflexión sobre el uso adecuado de ellas no logra anticiparse a su rápida implementación. Unesco y el Consenso de Beijing señalan que la IA debe estar al servicio de la educación y que es crucial promover una utilización equitativa e inclusiva, transparente y responsable. Generar confianza debe ser el pilar fundamental de esta construcción ética, por ello exige que los líderes escolares y los docentes reflexionen la finalidad del uso; se promueva una adecuada capacitación; se identifiquen beneficios y riesgos y se incorpore a toda la comunidad educativa. (shrink)

Frente a una narrativa distópica presente en los medios de comunicación y cultura popular que caracteriza el avance y desarrollo de la inteligencia artificial como una amenaza o riesgo existencial (e.g. desempleo tecnológico, sistemas de armas autónomas letales, robots asesinos, propaganda política computacional etc.) quiero valorar de manera crítica y constructiva el rol de la inteligencia artificial para el bien común (AI4SG). La tecnología digital también se puede aplicar para la solución de grandes problemas de la (...) humanidad, como los 17 Objetivos de Desarrollo Sostenible y sus 169 metas de la agenda 2030. En este artículo, comentaré distintos casos de uso y aplicación de la inteligencia artificial y la robótica encaminados a conseguir los 17 Objetivos de Desarrollo Sostenible y qué principios éticos deben guiar su aplicación para que la inteligencia artificial consiga la ambiciosa agenda 2030. También comentaré el plan de acción de España y la estrategia nacional para cumplir la agenda 2030 y de qué manera incorpora las TIC. (shrink)

Los vínculos entre datos, algoritmos y dispositivos configuran desarrollos de sistemas fuertes de inteligencia artificial que impactan en los modos de ser y estar en el mundo. El artículo se orienta establecer implicaciones psicopolíticas de las inteligencias artificiales sobre el cuerpo, mediante una hermenéutica analógica de textos (2010-2021) en sus fases sintáctica, semántica y pragmática, que permita establecer una analogía entre los posibles beneficios, riesgos y oportunidades para los cuerpos y las subjetividades. Los resultados indican implicaciones en la (...) reconfiguración del cuerpo en los escenarios digital, el mercado de los perfiles o nuevas formas de ser y estar en el mundo digital, así como el ejercicio de una psicopolítica en diferentes etapas: manipulación, modificación de conductas y gobernanza. Las conclusiones apuntan a nuevas prácticas del neoliberalismo orientadas a la interioridad de los sujetos y a la comercialización de los perfiles configurados mediante sistemas de inteligencia artificial. (shrink)

El discurso sobre la seguridad que viene planteándose en el ámbito de la Inteligencia Artificial (IA) se caracteriza por un predominio de las perspectivas técnica y normativa. Los efectos ambivalentes de esta tecnología y su consideración como un sistema sociotécnico plantean la necesidad de complementar este discurso integrando una perspectiva moral. Así pues, el objetivo principal de este trabajo consiste en argumentar que la seguridad moral es un elemento indispensable para alcanzar una IA confiable, en virtud de las (...) diversas situaciones donde la dignidad humana puede verse comprometida. (shrink)

La integración de la tecnología en el ámbito del derecho penal plantea desafíos significativos debido a la falta de regulación de la inteligencia artificial (IA), lo que podría comprometer los derechos fundamentales. Este estudio se centra en abordar estos desafíos y proponer soluciones mediante un análisis exhaustivo de la situación actual y las posibles implicaciones de la IA en el sistema jurídico penal. El objetivo principal de esta investigación es analizar los problemas, desafíos y oportunidades que surgen con (...) la implementación de la inteligencia artificial en el ámbito penal. Se busca identificar la necesidad de una regulación específica para la IA en el derecho penal, con el fin de proteger los derechos fundamentales de las personas y garantizar un sistema jurídico justo y equitativo. Para abordar esta problemática, se adoptó un enfoque metodológico cualitativo. Se llevó a cabo una revisión bibliográfica detallada para examinar los antecedentes, problemas y desafíos asociados con la IA en los sistemas jurídicos, especialmente en el ámbito penal. Además, se realizaron análisis de criterios y opiniones de expertos en derecho para obtener una comprensión más profunda de la situación y las posibles soluciones. Los resultados de este estudio revelan la necesidad urgente de establecer una normativa específica para regular la aplicación de la inteligencia artificial en el ámbito penal. Se destaca que la falta de regulación representa un riesgo significativo para los derechos fundamentales, especialmente en lo que respecta a la configuración de delitos con el apoyo de la IA. Además, se identifican diferentes dimensiones que deben abordarse en la regulación, incluyendo principios y reglas básicas del derecho, supervisión humana de los sistemas de IA y la promoción de la innovación responsable en este campo. Este artículo subraya la importancia de establecer una regulación efectiva para la inteligencia artificial en el ámbito penal. Esta regulación no solo protegerá los derechos fundamentales de las personas, sino que también promoverá un uso responsable y progresivo de la IA como una herramienta valiosa para los profesionales del derecho. Es crucial que la regulación sea integral y adaptable para garantizar un sistema jurídico justo y equitativo en la era digital. (shrink)

En 1956, se introdujo el término de inteligencia artificial (IA) para referirse a una tecnología que es capaz de emular las operaciones cognoscitivas del ser humano mediante el uso de sistemas computacionales y programas informáticos, con el fin de ayudar a la toma de decisiones en distintas áreas de conocimiento.Sin embargo, se ha llegado a cuestionar si debe emplearse el calificativo de inteligencia a esos usos de la tecnología digital. También, se ha generado preocupación sobre sus implicaciones (...) éticas, debido a que la inteligencia artificial consiste en sistemas no autónomos que no son capaces de actos libres y responsables, lo cual exige que sean guiados por personas. Por tanto, el presente trabajo tiene como objeto presentar algunos fundamentos de la filosofía realista de santo Tomás de Aquino que nos permitan hacer una valoración de la inteligencia artificial. (shrink)

Este artigo explora os desafios impostos pela implementação de sistemas algorítmicos e inteligência artificial (IA) em diversas plataformas que fazem parte da cultura digital hoje. O foco principal é analisar como a literatura científica recente relaciona a questão algorítmica com os fenômenos da pós-verdade e a crise da democracia, em um contexto onde a disseminação de fake news e a manipulação digital desempenham papeis centrais. A pesquisa mapeia artigos publicados nos últimos dois anos, pós-pandemia, identificando correlações entre a aparição (...) do termo ‘pós-verdade’, o declínio da confiança social nas instituições democráticas e o colapso da verdade na esfera pública, o que tem configurado um cenário chamado de ‘crise da democracia’. Entre os temas abordados nos 13 artigos analisados, destacam-se a relação entre democracia e fake news, a crise da verdade na esfera pública e a manipulação algorítmica na era digital. Com base nesses estudos, o artigo esboça os desafios para a consolidação de uma política pública informada e democrática em um cenário cada vez mais influenciado por algoritmos e plataformas digitais. Em última análise, o trabalho contribui para a compreensão dos impactos das novas tecnologias na democracia, propondo caminhos possíveis para mitigar os riscos da pós-verdade e fortalecer o espaço público democrático. (shrink)

Los constantes avances tecnológicos han provocado una verdadera revolución en nuestro modus vivendi que, todavía, impactan de forma exponencial a la sociedad como un todo. Vivimos en la era de la información y, en ella, uno de los principales temas que emerge es el que concierne a la privacidad y a la protección de datos personales. Con la introducción de los sistemas informáticos en prácticamente todos los sectores sociales, nuestros datos son cada vez más útiles pero vulnerables a la vez, (...) siendo colectados, tratados y transferidos, muchas veces, de una manera desprovista de preocupaciones éticas. Teniendo esto en cuenta, el presente estudio busca provocar una reflexión acerca de los impactos de la sociedad de la información, la comprensión y el alcance da la Inteligencia Artificial, y, sobre todo, alentar la discusión sobre la importancia de considerar los valores éticos y morales en conjunto con el desarrollo tecnológico, intentando poner sobre la mesa los riesgos de que la tecnología, sin la observación de los principios éticos, pueda crear nuevos problemas sociales. (shrink)

El uso de la Inteligencia Artificial (IA) y su desarrollo en los últimos años, así como el papel que jugó durante la pandemia en 2020 ha suscitado, por un lado, un gran interés en sus aplicaciones en favor de la vida y, por el otro, temores respecto a su apego a criterios éticos que promueven y defienden la dignidad humana, la justicia, el principio de sociabilidad y de subsidiaridad. Por ello surge la intención del papa Francisco y de (...) monseñor Paglia, desde la Academia Pontificia para la Vida, de lanzar el llamado a reflexionar sobre la incorporación de la ética en la IA; a la par, la fundación RenAIssance alberga el llamado para que, desde una perspectiva global y en todos los sectores, se incorporen principios éticos en las diferentes aplicaciones de la IA. (shrink)

Desde el 22 de noviembre de 2022, con la liberación de ChatGPT, la inteligencia artificial generativa (GenAI) ha emergido como un tema central en el ámbito educativo. Este artículo explora la evolución de los lenguajes políticos en torno a la GenAI en la educación, analizando las dinámicas de poder y los umbrales de historicidad que han moldeado su desarrollo. A través de una perspectiva de historia crítica conceptual praxeológica, siguiendo las metodologías de Elias Palti y basándose en experiencias (...) docentes, se cuestiona el uso problemático del término "Inteligencia Artificial" y se examinan los presupuestos epistemológicos que subyacen a las interpretaciones dominantes sobre la GenAI en la educación. Se analizan los "tipos ideales" que promueven una visión tecnocéntrica y optimista de la GenAI, como la personalización del aprendizaje, la democratización del acceso y la eficiencia administrativa. El artículo critica estos enfoques por perpetuar desigualdades, profundizar el determinismo tecnológico y minimizar las dimensiones sociales, culturales y éticas de la educación. Además, se exploran los procesos de dominación y las relaciones de saber-poder asociados con la implementación de la GenAI, destacando la dependencia tecnológica, la dominación epistémica y la vigilancia sobre estudiantes y docentes. Finalmente, se aboga por la necesidad de promover narrativas de soberanía digital y autodeterminación tecnológica, especialmente en el sur global, para desarrollar soluciones tecnológicas que respondan a contextos locales y fomentar un debate más crítico y pluralista sobre el papel de la IA en la educación. (shrink)

El aumento de los costos sanitarios y financieros de las enfermedades, las discapacidades y las disparidades respalda la aceleración mundial de los intereses y las inversiones en IA (inteligencia artificial) sanitaria para lograr soluciones sanitarias mejores, más baratas, más rápidas y justas a escala mundial y local. Sin embargo, no existe un consenso sobre la aplicación práctica de los principios de la IA responsable en diversos sectores, estados y sistemas de creencias de todo el mundo. Este estudio de (...) prueba de concepto utiliza el marco ético pluralista global (el Contrato Social Personalista) para proporcionar, por tanto, el primer análisis conocido de ética computacional (AiCE, por sus siglas en inglés) y política basado en IA aumentada bayesiana que integra análisis clínicos, de rentabilidad y de disparidades en la atención sanitaria con datos representativos a nivel nacional para estimar el costo global de las disparidades en la atención sanitaria en la colonoscopia (CS, por sus siglas en inglés) y el ahorro de la CS habilitada por IA para reducirlas. El estudio sugiere que revertir las disparidades raciales, en particular entre hispanos y asiáticos, puede ahorrar a los sistemas sanitarios estadounidenses 17.610 millones de dólares al año, con un ahorro potencial de 625,40 millones de dólares para los hispanos y 289 millones de dólares para los asiáticos en particular (con un ahorro similar para las comunidades vulnerables en países de ingresos medios y bajos). Los resultados anteriores respaldan el imperativo de ahorro de costos que supone la inversión estratégica y de capacitación en estas medidas impulsadas por la IA para mejorar los objetivos estratégicos de sostenibilidad, eficacia, eficiencia y equidad (SEEE) de la atención sanitaria. Estos resultados empíricos informan el argumento bioético global más amplio de las dimensiones gemelas de la dignidad y la seguridad humanas (arraigadas en el relato personalista, multicultural y metafísico de la persona como miembro de la familia humana global) para destacar el imperativo ético de la IA para optimizar el rendimiento del ecosistema sanitario digital global. Semejante fin instrumental es un medio decisivo para avanzar hacia el fin último del bien común, en el que se salvaguarda el bien individual de cada persona y en el que éste encuentra su realización trabajando hacia él. (shrink)

Resumen: Se efectúa una aproximación a los derechos humanos desde la perspectiva de la inteligencia en sus distintas facetas, especialmente desde la inteligencia artificial pero también desde la inteligencia institucional y la emocional. Aparecen como derechos inteligentes, que desarrollan la inteligencia de los individuos y hacen a las sociedades más inteligentes. Se presenta su dimensión cognitiva y su capacidada para cuestionar programas. Son instancias críticas que preservan la dignidad de los seres humanos en su compleja (...) interacción con las máquinas inteligentes y estimulan un pensamiento no mecánico. Absrtact: This article aims to give an approach to the human rights from the point of view of intelligence in their different types, especially from artificial intelligence, but also from institutional and emotional intelligence. They appear as smart rights that develop the intelligence of the individuals and make societies more intelligent. Their cognitive dimension is shown, as well as their capacity to question programs. They are critical instances that preserve the human dignity in their complex interaction with intelligent machines and stimulate a not-mechanical thinking. (shrink)

Baseando-se na concepção de justiça de Nancy Fraser, a justiça requer não só redistribuição ou reconhecimento, mas também uma dimensão política de representação. Essa dimensão diz respeito ao poder público, à formação e à aplicação das normas que regem a interação social, determinando os sujeitos, a substância e as fronteiras da justiça. A subordinação estrutural de gênero está intrinsecamente ligada às três esferas de injustiça (redistribuição, reconhecimento e representação). Para tratar da desigualdade de gênero, é necessário falar, inicialmente, da separação (...) institucional entre produção e reprodução, que historicamente relegou as mulheres a papéis predominantemente reprodutivos, limitando suas oportunidades de participação social e política. Essa divisão também está profundamente ligada à desconsideração do trabalho doméstico no capitalismo, visto que tal modalidade laboral foi invisibilizada e desvalorizada, apesar de ser fundamental para a manutenção da força de trabalho e do sistema produtivo. A exclusão do trabalho doméstico do escopo do “trabalho” formalmente reconhecido agrava a subordinação estrutural das mulheres, perpetuando a desigualdade de gênero ao negar-lhes as mesmas condições e possibilidades de participação que os homens, o que tem consequências diretas no desenvolvimento de tecnologias e nas mídias digitais. A falta de diversidade nos grupos que desenvolvem as IAs (formados majoritariamente por homens brancos) e as bases de dados enviesadas contribuem para a perpetuação da injustiça de gênero. Como resultado, esta é reproduzida e ampliada tanto no âmbito econômico quanto no cultural e político e, consequentemente, na esfera digital. Dessa forma, o presente trabalho tem por objetivo expor a conexão entre a subordinação estrutural do gênero e a manutenção da violência de gênero pela tecnologia. (shrink)

El uso cada vez más frecuente de la Inteligencia Artificial en el ámbito delDerecho, obliga a plantearse si las decisiones automatizadas pueden, y deben, ser justas. El algoritmo, en el Machine Learning, tiene la virtualidad de ir aprendiendo, lo que lo dota de un cierto grado de autonomía. Sesgos, discriminaciones y desigualdades que derivan de decisiones automatizadas, ponen al descubierto el mito del algoritmo justo. El criterio de justicia que se exige en la concepción analógica del Derecho también (...) debe exigirse en la dimensión digital. En este trabajo, desde la dificultad inicial de una falta de consenso sobre qué sea la fairness, examino cómo incorporar la fairness al algoritmo. Ello exigirá un previo análisis de los fundamentos iusfilosóficos y de algunas de las teorías de la justicia (utilitaristas, contractualistas, comunitaristas, igualitaristas) a partir de las cuales se puedan establecer parámetros, correctores y garantías para la consecución de la imprescindible correlación entre la fairness artificial y la fairness legal. (shrink)

A ética discursiva de Jurgen Habermas ressalta o compromisso da linguagem racional em um diálogo no qual o objetivo é a busca de um consenso comum. Na atual sociedade a inteligência artificial (IA) tem ganhado cada vez mais espaço, e no contexto educacional não é diferente. Diante disso, objetiva-se então compreender como os princípios habermasianos podem conduzir a prática das IAs, de maneira que possa promover um ensino inclusivo e equitativo para os alunos com autismo em sala de aula. (...) Trata-se de pesquisa qualitativa, com levantamento bibliográfico e a proposta de criação de um aplicativo considerando a ética discursiva de acordo com Habermas. Os resultados implicam que uma IA criada com base haremmasiana ajuda a tornar a sala de aula inclusiva para os alunos com o diagnóstico do autismo. Conclui-se então que a IA pode ser um instrumento promotor da inclusão se criado com este propósito e aplicado de maneira coerente para alunos com autismo. (shrink)

Artificial intelligence in all its developments is advancing faster than the capacity of institutions and organizations to offer legal, but also deontological responses: assuming the ethical implications of the new digital scenarios where technology learns from human routines to personalize content is fundamental from the academic, politicy and business spheres. This paper offers an interpretative framework of the evolution of smart speakers and voice assistants as tools for information singularization in parallel to the study of the European framework for (...) the creation of an ethics of ai. The results show an effort by institutions to respond to an unstoppable progress and demonstrate that ai cannot be addressed by legal regulation alone but is above all a matter of ethical preference. (shrink)

O artigo tem como objetivo compreender alguns dos principais aspectos da era da inteligência artificial e problematizar o trabalho e as relações de produção emergentes nessa nova realidade. Nele, refletem-se sobre as vastas implicações e efeitos no mercado de trabalho e sobre as possiblidades de abordagem e enfrentamento das dramáticas contradições presentes na economia da inteligência artificial. Buscando superar as limitações das visões tecno-otimistas e tecnopessimistas, conclui-se pela necessidade de um protagonismo intelectual e prático dos atores e líderes (...) públicos e privados na direção de um novo contrato social baseado na abundância criada pelo novo superciclo tecnológico de uso geral convergente. (shrink)

En las últimas décadas la apropiación y construcción de archivos ha ido ganando terreno dentro de las prácticas artísticas, permitiendo visibilizar las políticas de archivo y los órdenes sociales a los que responden. Al mismo tiempo, han propuesto modos divergentes de activación de la memoria, problematizando creativamente las jerarquías y protocolos tradicionales, constituyéndose, así, en lo que podemos llamar estrategias anarchivísticas. Considerando que, en el seno de la cultura digital, la IA (Inteligencia Artificial) se ha vuelto clave en (...) la gestión de la información, el presente artículo se pregunta de qué manera la utilización artística de esta tecnología contribuye a ofrecer nuevos enfoques para pensar el archivo, el patrimonio y la memoria. Dentro de la madeja de prácticas existentes, jalaremos de dos hilos: 1) por un lado, las tácticas apropiacionistas que operan activando nuevas lecturas sobre archivos ya constituidos; 2) por otro, aquellas que proponen la construcción de archivos nuevos, generalmente abarcando elementos dispersos u otrora ignorados. Ahondaremos en estas tendencias centrándonos en dos casos que abordan específicamente el patrimonio fílmico –Jan Bot y Oráculo de Capturas de Pantalla– identificando sus estrategias y características. (shrink)

El aumento considerable de la capacidad de la inteligencia artificial (IA) implica un alto consumo de recursos energéticos. La situación ambiental actual, caracterizada por la acuciante degradación de ecosistemas y la ruptura del equilibrio, exige tomar medidas en diversos ámbitos. La IA no puede quedar al margen, y aunque es empleada para objetivos de sostenibilidad, debe plantearse como sostenible en términos integrales. La propuesta de una inteligencia artificial sostenible se argumenta a partir de una evaluación ética (...) constructiva, donde la inclusión y la participación de los grupos de interés representan dos elementos fundamentales. (shrink)

El acelerado proceso de degradación ambiental alerta sobre una grave situación en la que la inteligencia artificial (IA) no puede mantenerse al margen. Las propuestas de Aimee van Wynsbergue y Mark Coeckelbergh sobre una IA comprometida con la sostenibilidad ambiental, suponen un primer paso para plantear un desarrollo alternativo de esta tecnología disruptiva. Sin embargo, es necesario ofrecer un fundamento teórico para plantear una inteligencia artificial sostenible (IAS). Este fundamento puede originarse en dos propuestas éticas familiarizadas (...) con la responsabilidad y el cuidado. Por un lado, se encuentra la ética de la responsabilidad de Hans Jonas; y por otro, las éticas del cuidado de Carol Gilligan y los pueblos indígenas, fuertemente sensibilizados con la naturaleza. (shrink)

Las tecnologías de la inteligencia artificial (IA) hacen emerger con mayor fuerza una pregunta central para la filosofía contemporánea: ¿cómo se generan los desplazamientos éticos a través de la producción de nuevas formas de convivencia tecnológica? Saber en qué consisten estos desplazamientos y si contribuyen, o no, a determinados tipos de convivencia es más urgente que precipitarse a una producción de normativa que no se enfrenta a los cambios inherentes al nuevo entorno. Pero una de las consecuencias que (...) apuntan en este enfoque es que la programación, sometida a las lógicas de la anticipación, no puede resolver el problema simplemente. La programación tiende a la formación de nichos o esferas en los que los individuos se desenvuelven perdiendo visión de la complejidad; la delegación de los cálculos a las máquinas hace que disminuya no sólo la capacidad del cálculo aritmético sino la imaginación matemática, creando nichos epistémicos crecientemente reservados a las máquinas; la minería de datos borra las diferencias entre lo público y lo privado, afianzando modos de comportamiento que esquivan la autorreflexión y el escrutinio de nuestras acciones en relación al bien común. Pero ¿pueden los programas desenvolverse en un sentido contrario, fortaleciendo las destrezas epistémicas, haciendo visible la complejidad, la participación política y la diversificación de bienes comunes en un mundo tecnológicamente denso? O en otros términos, ¿podemos encontrar en ellos claves para una ética robusta de la convivencia tecnológica? Las contribuciones de este número desgranan las transformaciones en las nociones de autonomía, creatividad y precariedad en el contexto de la IA. (shrink)

La inteligencia artificial (IA) es una realidad cuyo desarrollo plantea múltiples problemas en la actualidad. El conflicto surge entre las posibilidades técnicas reales, y las consecuencias éticas de implementarla hasta sus últimas consecuencias. El presente trabajo analiza alguna de estas problemáticas y sostiene que la IA, es un instrumento al servicio del ser humano y sólo así debe ser utilizado, so pena de convertirse en un recurso ingobernable. Urge, por tanto, un ejercicio de responsabilidad que proteja el humanismo (...) y los derechos fundamentales, defendiendo que, el ser humano es, y debe seguir siendo, el centro de la creación. (shrink)

El propósito de este trabajo consiste en exponer las tareas más apremiantes que, a juicio del autor, debe asumir la Filosofía del Derecho del presente y del inmediato futuro. Para ello, se analizan las dos tareas que se consideran de interés prioritario: la primera versa en torno a lo que entraña el desafío tecnológico propio de la sociedad digital que habitamos y que se concreta en la respuesta que desde la filosofía jurídica debe avanzarse respecto a la omnipresencia en todos (...) los ámbitos sociales, económicos, políticos, culturales y jurídicos de la Inteligencia Artificial (IA). Hace referencia la segunda al riesgo cultural que entraña la pretensión de determinados movimientos que se autoconsideran portavoces de los signos del universo tecnológico y los desarrollos de la tecnociencia, para inferir la propuesta ideológica del final del humanismo y el inicio de la era posthumanista. El trabajo concluye asignando a la Filosofía del Derecho la función de ser la conciencia de la IA que es Inteligencia sin conciencia; y de reivindicar la persistente necesidad de respetar y realizar los valores humanistas frente a su pretendida abolición por el posthumanismo. (shrink)

Recientes avances en Inteligencia Artificial (IA) como el Project Debater de IBM son indicadores de que la IA lingüística perfecta, es decir, capaz de superar el test de Turing y simular la conducta lingüística humana de manera indiscernible, es una realidad cercana que implicará numerosos efectos sobre nuestras vidas. Como propone la filosofía de la técnica de Langdon Winner, esos efectos deben ser evaluados antes de que la tecnología sea implantada para proporcionar así a la sociedad la posibilidad (...) de decidir si el posible cambio es conforme a su proyecto ético y político. Para contribuir a esa decisión, en este artículo pronosticamos las consecuencias de esa tecnología sobre la autopercepción del ser humano mediante dos argumentos. Por un lado, un argumento principal utilizando como premisas la caracterización de esa IA y varias teorías de la psicología social y de la personalidad. Y, por el otro, una inferencia por analogía con la antropología cartesiana. (shrink)

Desde hace ya bastante tiempo existe una tendencia a afirmar que el derecho o las normas de diferente tipo no son adecuadas o aplicables para las diferentes nuevas tecnologías que van apareciendo de forma continua. Este trabajo intentará dar la vuelta a ese razonamiento y, centrándose en la inteligencia artificial, tratará de plantear criterios adecuados para que esa tecnología y muchas otras sean desarrolladas y aplicadas de forma adecuada a los derechos fundamentales en general y a la privacidad (...) en particular. Dentro de esos criterios se analizará lo que debe aportar la explicabilidad de la tecnología mencionada y se profundizará en algunos conceptos adicionales como la posibilidad y la necesidad de controlar y de auditar sistemas de inteligencia artificial. Para realizar la mencionada profundización se recurrirá a lo que se conoce como objetivos de protección y a los principios de la ciberética, incluyendo una referencia especial a la sostenibilidad y a la resiliencia de este tipo de sistemas. (shrink)