This article investigates the metaphor of the “black box” in artificial intelligence, a representation that often suggests that AI is an unfathomable power, politically uncontrollable and shrouded in an aura of opacity. While the concept of the “black box” is legitimate and applicable in deep neural networks due to the in- herent complexity of the process, it has also become a generic pretext for the perception, which we seek to critically analyze, that AI systems are inscrutable and out (...) of control, as well as supposedly endowed with intel- ligence and creativity. To challenge these ideas, we will address what we call the supremacy of patterns and the two significant phenomena that result from it: enchanted determinism and the dictatorship of the past. (shrink)

With automation of routine decisions coupled with more intricate and complex information architecture operating this automation, concerns are increasing about the trustworthiness of these systems. These concerns are exacerbated by a class of artificial intelligence that uses deep learning, an algorithmic system of deep neural networks, which on the whole remain opaque or hidden from human comprehension. This situation is commonly referred to as the black box problem in AI. Without understanding how AI reaches its conclusions, it is an (...) open question to what extent we can trust these systems. The question of trust becomes more urgent as we delegate more and more decision-making to and increasingly rely on AI to safeguard significant human goods, such as security, healthcare, and safety. Models that “open the black box” by making the non-linear and complex decision process understandable by human observers are promising solutions to the black box problem in AI but are limited, at least in their current state, in their ability to make these processes less opaque to most observers. A philosophical analysis of trust will show why transparency is a necessary condition for trust and eventually for judging AI to be trustworthy. A more fruitful route for establishing trust in AI is to acknowledge that AI is situated within a socio-technical system that mediates trust, and by increasing the trustworthiness of these systems, we thereby increase trust in AI. (shrink)

Many of the computing systems programmed using Machine Learning are opaque: it is difficult to know why they do what they do or how they work. Explainable Artificial Intelligence aims to develop analytic techniques that render opaque computing systems transparent, but lacks a normative framework with which to evaluate these techniques’ explanatory successes. The aim of the present discussion is to develop such a framework, paying particular attention to different stakeholders’ distinct explanatory requirements. Building on an analysis of “opacity” from (...) philosophy of science, this framework is modeled after accounts of explanation in cognitive science. The framework distinguishes between the explanation-seeking questions that are likely to be asked by different stakeholders, and specifies the general ways in which these questions should be answered so as to allow these stakeholders to perform their roles in the Machine Learning ecosystem. By applying the normative framework to recently developed techniques such as input heatmapping, feature-detector visualization, and diagnostic classification, it is possible to determine whether and to what extent techniques from Explainable Artificial Intelligence can be used to render opaque computing systems transparent and, thus, whether they can be used to solve the Black Box Problem. (shrink)

It has become a truism that the ethics of artificial intelligence (AI) is necessary and must help guide technological developments. Numerous ethical guidelines have emerged from academia, industry, government and civil society in recent years. While they provide a basis for discussion on appropriate regulation of AI, it is not always clear how these ethical guidelines were developed, and by whom. Using content analysis, we surveyed a sample of the major documents (_n_ = 47) and analyzed the accessible information regarding (...) their methodology and stakeholder engagement. Surprisingly, only 38% report some form of stakeholder engagement (with 9% involving citizens) and most do not report their methodology for developing normative insights (15%). Our results show that documents with stakeholder engagement develop more comprehensive ethical guidance with greater applicability, and that the private sector is least likely to engage stakeholders. We argue that the current trend for enunciating AI ethical guidance not only poses widely discussed challenges of applicability in practice, but also of transparent development (as it rather behaves as a black box) and of active engagement of diversified, independent and trustworthy stakeholders. While most of these documents consider people and the common good as central to their telos, engagement with the general public is significantly lacking. As AI ethics moves from the initial race for enunciating general principles to more sustainable, inclusive and practical guidance, stakeholder engagement and citizen involvement will need to be embedded into the framing of ethical and societal expectations towards this technology. (shrink)

In recent years, increasingly advanced artificial intelligence (AI), and in particular machine learning, has shown great promise as a tool in various healthcare contexts. Yet as machine learning in medicine has become more useful and more widely adopted, concerns have arisen about the “black-box” nature of some of these AI models, or the inability to understand—and explain—the inner workings of the technology. Some critics argue that AI algorithms must be explainable to be responsibly used in the clinical encounter, while (...) supporters of AI dismiss the importance of explainability and instead highlight the many benefits the application of this technology could have for medicine. However, this dichotomy fails to consider the particular ways in which machine learning technologies mediate relations in the clinical encounter, and in doing so, makes explainability more of a problem than it actually is. We argue that postphenomenology is a highly useful theoretical lens through which to examine black-box AI, because it helps us better understand the particular mediating effects this type of technology brings to clinical encounters and moves beyond the explainability stalemate. Using a postphenomenological approach, we argue that explainability is more of a concern for physicians than it is for patients, and that a lack of explainability does not introduce a novel concern to the physician–patient encounter. Explainability is just one feature of technological mediation and need not be the central concern on which the use of black-box AI hinges. (shrink)

A proveniência de dados e a inteligência artificial são cruciais na saúde, garantindo a integridade e a transparência das informações. A proveniência possibilita a rastreabilidade dos dados em diagnósticos, promovendo confiança nas decisões clínicas, enquanto a inteligência artificial analisa grandes volumes de dados, facilitando a identificação de padrões e a personalização de tratamentos. É relevante abordar a proveniência de dados e a inteligência artificial no contexto da saúde, enfatizando seus desafios e implicações éticas, com o objetivo de (...) fornecer orientações a pesquisadores e profissionais da área. Este estudo teve como objetivo apresentar os desafios e implicações éticas evidenciadas nas publicações científicas encontradas sobre a proveniência de dados e a inteligência artificial no contexto de saúde. Realizamos uma revisão integrativa utilizando como estratégia de busca os termos Data Provenance and Artificial Intelligence and Health. Após analisar os resultados obtidos e revisar os textos completos, identificamos e selecionamos 2 artigos internacionais relevantes para a temática em questão. Nossa pesquisa evidencia a escassez de estudos sobre a proveniência de dados e a inteligência artificial em saúde, especialmente no que tange aos desafios e implicações éticas relacionados a esses processos. Nesse contexto, este trabalho constitui uma contribuição relevante para o campo da Ciência da Informação. Para pesquisas futuras sobre a temática aqui em questão, é fundamental desenvolver frameworks e diretrizes que integrem considerações éticas e práticas de governança de dados, abordando a proteção da privacidade, a transparência dos algoritmos e a mitigação de viés, além de aprofundar a pesquisa em estudos interdisciplinares. (shrink)

A partir da hipótese de que a inteligência artificial como tal não representaria o fim da supremacia humana, uma vez que, na essência, a IA somente simularia e aumentaria aspectos da inteligência humana em artefatos não biológicos, o presente artigo questiona sobre o risco real a ser enfrentado. Para além do embate entre tecnofóbicos e tecnofílicos, o que se defende, então, é que as possíveis falhas de funcionamento de uma inteligência artificial – decorrentes de sobrecarga de informação, de uma (...) programação equivocada ou de uma aleatoriedade do sistema – poderiam sinalizar os verdadeiros riscos existenciais, sobretudo quando se considera que o cérebro biológico, na esteira do viés da automação, tende a assumir de maneira acrítica aquilo que é posto por sistemas ancorados em inteligência artificial. Além disso, o argumento aqui defendido é que falhas não detectáveis pela provável limitação de controle humano quanto ao aumento de complexidade do funcionamento de sistemas de IA representam o principal risco existencial real. Palavras-chave: Inteligência artificial, risco existencial, superinteligências, controle humano. (shrink)

One of the best known arguments against the connectionist approach to artificial intelligence and cognitive science is that neural networks are black boxes, i.e., there is no understandable account of their operation. This difficulty has impeded efforts to explain how categories arise from raw sensory data. Moreover, it has complicated investigation about the role of symbols and language in cognition. This state of things has been radically changed by recent experimental findings in artificial deep learning research. Two kinds of (...) artificial deep learning networks, namely the convolutional neural network and the generative adversarial network have been found to possess the capability to build internal states that are interpreted by humans as complex visual categories, without any specific hints or any grammatical processing. This emergent ability suggests that those categories do not depend on human knowledge or the syntactic structure of language, while they do rely on their visual context. This supports a mild form of empiricism, while it does not assume that computational functionalism is true. Some consequences are extracted regarding the debate about amodal and grounded representations in the human brain. Furthermore, new avenues for research on cognitive science are open. (shrink)

Este trabalho apresenta-se como um ensaio teórico que aborda as relações entre racismo algorítmico e inteligência artificial no âmbito da cultura digital. Como proposição metodológica baseia-se na perspectiva qualitativa utilizando-se da revisão sistemática de artigos acadêmicos, livros e publicações relevantes com ênfase nas atuais discussões acerca do Racismo Algorítmico fomentado por bases que alimentam as big techs e, por consequência, a Inteligência Artificial (IA) generativa e seus vieses, identificando desse modo, padrões e tendências no estudo do racismo algorítmico. (...) Como considerações preliminares apontamos que esses bases não emitem registros e parâmetros de forma isenta, muito menos despretensiosa, e que detectar essa provável intencionalidade pode se converter em uma possível maneira de subverter a hegemonia desses conglomerados digitais. (shrink)

Este artículo propone un marco metafísico para distinguir entre la inteligencia humana y la artificial. Postula dos mundos idénticos y deterministas: uno compuesto por un agente humano y otro por un agente artificial. Estos agentes exhiben diferentes mecanismos de procesamiento de información a pesar de su aparente similitud en un sentido causal. Proporcionando un modelado conceptual de su diferencia, este artículo resuelve lo que llama "el problema del punto de vista": cómo justificar una perspectiva omnisciente a través de la cual (...) un determinista afirma el determinismo desde dentro del universo supuestamente determinista. (shrink)

O estudo filosófico da ética sobre as interações entre os seres humanos e as tecnologias que empregam a Inteligência Artificial se tornou um tópico popular e importante como nunca antes. O estudo dos problemas que concernem essas interações justifica-se por conta das transformações tecnológicas pelas quais as sociedades humanas têm passado, e que ainda podem acarretar profundas mudanças legais, políticas e sociais. O artigo tem como objetivo principal identificar o papel da ética, enquanto disciplina filosófica, com relação ao (...) recente e promissor domínio de investigação sobre a ética da Inteligência Artificial. Após apresentar a posição do filósofo Peter Railton na ética aplicada à Inteligência Artificial, o artigo reconstitui as suas explicações na ética normativa e na metaética. Ao ilustrar as conexões entre a ética aplicada à Inteligência Artificial e a teoria moral, o artigo argumenta que o papel da ética na ética da Inteligência Artificial pode ser explicitado com o auxílio da engenharia conceitual. Essa abordagem mostra que conceitos como ‘agente’ e ‘interesse’, que são cruciais para a ética, como pode ser visto nas explicações de Railton, não devem ser pensados exclusivamente pela ética, ou mesmo somente pela filosofia, mas necessitam ser informados pelas ciências naturais e humanas. O artigo enfatiza a necessidade de realizar a tarefa filosófica de pensar a ética para além da ética, em um contexto interdisciplinar capaz de lidar com os complexos problemas práticos que impactam as sociedades humanas. (shrink)

O uso da inteligência artificial no Poder Judiciário ainda encontra fortes limitações à luz da compreensão representacional-computacional da mente. A exemplo do projeto pioneiro do juiz robô na Estônia, a dificuldade reside na incapacidade de apreensão da narrativa subjetiva da máquina. Logo, através da experiência do ser-aí-no- mundo de Heidegger, define-se um contraste entre cognição humana e funcionamento computacional. Partindo de uma pesquisa qualitativa e de cunho bibliográfico, busca-se demonstrar a complexidade de conceber dispositivos puramente físicos com inteligências aptas (...) a substituírem juízes por robôs. Conclui-se que ainda não há tecnologia capaz de substituir a ciência cognitiva heideggeriana do Dasein. (shrink)

A presente pesquisa tem como objetivo analisar na literatura a produção científica sobre a inteligência artificial e discutir o seu uso com o olhar habermasiano através da teoria do agir comunicativo. Ilustra exemplos de aplicação da IA em obras de ficção. Discute as questões das tecnologias digitais e as limitações binárias da inteligência artificial. Como método, adota duas etapas distintas: abordagem teórica através da Teoria do Agir Comunicativo; e a introdução do resultado de pesquisas através do método de (...) revisão sistemática, a fim de reunir literatura relevante disponível em bases de dados. A base de dados selecionada foi a Scopus, base internacional multidisciplinar. Os termos utilizados na estratégia de busca, na busca avançada e sem corte temporal, foram: inteligência artificial, Habermas e teoria do agir comunicativo. A pesquisa resultou em sete registros. A discussão envolve a análise desses documentos, embasados na literatura científica, em especial a teoria do agir comunicativo. Conclui que, embora as teorias de Habermas não sejam diretamente relacionadas com a inteligência artificial, as ideias se conectam ao proporcionar reflexões como a ética do discurso e a relação da sociedade com a tecnologia. (shrink)

This paper focuses on the use of ‘black box’ AI in medicine and asks whether the physician needs to disclose to patients that even the best AI comes with the risks of cyberattacks, systematic bias, and a particular type of mismatch between AI’s implicit assumptions and an individual patient’s background situation.Pacecurrent clinical practice, I argue that, under certain circumstances, these risks do need to be disclosed. Otherwise, the physician either vitiates a patient’s informed consent or violates a more general (...) obligation to warn him about potentially harmful consequences. To support this view, I argue, first, that the already widely accepted conditions in the evaluation of risks, i.e. the ‘nature’ and ‘likelihood’ of risks, speak in favour of disclosure and, second, that principled objections against the disclosure of these risks do not withstand scrutiny. Moreover, I also explain that these risks are exacerbated by pandemics like the COVID-19 crisis, which further emphasises their significance. (shrink)

This article aims to critically analyze the epistemological foundations of artificial intelligence (AI). By examining works that explain how this technology works, it is understood that its epistemological basis is made up of the inductive method and statistics based on a mathematization of reality. It is these elements that allow machines to learn by recognizing patterns and to make predictions and provide answers. However, these foundations have limitations and problems that have been discussed by philosophers throughout history. In this article (...) we will present how induction and mathematization function as the epistemological basis of artificial intelligence and how some of the limitations of this technology can be explained through the weaknesses of the methods that support it. (shrink)

A ética discursiva de Jurgen Habermas ressalta o compromisso da linguagem racional em um diálogo no qual o objetivo é a busca de um consenso comum. Na atual sociedade a inteligência artificial (IA) tem ganhado cada vez mais espaço, e no contexto educacional não é diferente. Diante disso, objetiva-se então compreender como os princípios habermasianos podem conduzir a prática das IAs, de maneira que possa promover um ensino inclusivo e equitativo para os alunos com autismo em sala de aula. (...) Trata-se de pesquisa qualitativa, com levantamento bibliográfico e a proposta de criação de um aplicativo considerando a ética discursiva de acordo com Habermas. Os resultados implicam que uma IA criada com base haremmasiana ajuda a tornar a sala de aula inclusiva para os alunos com o diagnóstico do autismo. Conclui-se então que a IA pode ser um instrumento promotor da inclusão se criado com este propósito e aplicado de maneira coerente para alunos com autismo. (shrink)

As artificial intelligence (AI) thrives and propagates through modern life, a key question to ask is how to include humans in future AI? Despite human involvement at every stage of the production process from conception and design through to implementation, modern AI is still often criticized for its “black box” characteristics. Sometimes, we do not know what really goes on inside or how and why certain conclusions are met. Future AI will face many dilemmas and ethical issues unforeseen by (...) their creators beyond those commonly discussed (e.g., trolley problems and variants of it) and to which solutions cannot be hard-coded and are often still up for debate. Given the sensitivity of such social and ethical dilemmas and the implications of these for human society at large, when and if our AI make the “wrong” choice we need to understand how they got there in order to make corrections and prevent recurrences. This is particularly true in situations where human livelihoods are at stake (e.g., health, well-being, finance, law) or when major individual or household decisions are taken. Doing so requires opening up the “black box” of AI; especially as they act, interact, and adapt in a human world and how they interact with other AI in this world. In this article, we argue for the application of cognitive architectures for ethical AI. In particular, for their potential contributions to AI transparency, explainability, and accountability. We need to understand how our AI get to the solutions they do, and we should seek to do this on a deeper level in terms of the machine-equivalents of motivations, attitudes, values, and so on. The path to future AI is long and winding but it could arrive faster than we think. In order to harness the positive potential outcomes of AI for humans and society (and avoid the negatives), we need to understand AI more fully in the first place and we expect this will simultaneously contribute towards greater understanding of their human counterparts also. (shrink)

O texto busca discutir paradoxos do debate público na era da Inteligência Artificial. Parte da concepção de esfera pública de Habermas e sua aplicabilidade no seio das reflexões atuais sobre o debate público e suas novas modalidades potencializadas pelas tecnologias digitais. Pretende trazer ao escrutínio das reflexões as formas de como jovens adultos de diferentes países garantem sua participação na esfera pública digital através do exercício da cidadania, da consolidação de uma sociedade bem-informada e coautora de seus sistemas político (...) e jurídico. Na configuração da ágora digital, o uso da inteligência artificial em diferentes enquadramentos sociais e políticos originam diferentes níveis de participação, uma vez que estamos situados em três domínios de fronteiras difusas: Mundo analógico (cidadãos desconectados) Mundo digital (cidadãos conectados) e Mundo híbrido (cidadãos e máquinas conectados). Se, conforme argumenta Habermas, a vida em sociedade não é possível sem a comunicação e a relação com o outro, como garantir diálogo e consenso no mundo híbrido? Como pensar a democracia no cyberespaço e em uma esfera pública, que agregue vontades, argumentos, posições, defesas e consensos? (shrink)

Este artigo trata da inteligência artificial, com ênfase na computação cognitiva, como uma problemática contemporânea no contexto da cibercultura. Teve como objetivo investigar na literatura científica os principais aspectos da computação cognitiva em unidades de informação. Procurou levantar as perspectivas da computação cognitiva em unidades de informação e mapear como essas unidades têm utilizado (ou podem utilizar) a inteligência artificial em suas atividades e interação com o usuário. A metodologia utilizada se inscreve como pesquisa bibliográfica. Reflete com ênfase, (...) principalmente, em outras leituras a partir do levantamento bibliográfico realizado na base de dados Ebsco e na Brapci, com recorte de 2009 a 2019. Foi realizada uma análise do discurso simples e a categorização dos assuntos dos artigos a partir das abordagens teóricas do ponto de vista da cibercultura. Destaca como resultado as principais definições encontradas na literatura, um case empírico que está sendo desenvolvido pela autoria deste artigo, a abordagem teórica com base na cibercultura, as perspectivas e aplicações dos artigos investigados. Finalmente se considera que a literatura sobre computação cognitiva trata da biblioteca e do bibliotecário no contexto contemporâneo. Os artigos são predominantes estrangeiros, na sua maioria são populistas tecnocráticos, possuem abordagens qualitativas e se referem a computação cognitiva como inteligência artificial. (shrink)

A inteligência artificial (IA)[1] tem se tornado cada vez mais importante na indústria moderna, trazendo consigo benefícios e inovações capazes de transformar a maneira como o trabalho é executado. Sendo assim, este artigo tem o objetivo de elucidar alguns tipos de IA e sua aplicabilidade no cotidiano da vida moderna. Ademais, intenciona-se abordar os apelos da personalização de conteúdos que capturam e algoritmizam o indivíduo, de modo a ensejar os desafios éticos implicados em seu avanço. E, por fim, ambiciona-se (...) tencionar a relação entre os benefícios do avanço tecnológico frente a questão concernente à autonomia e liberdade do corpo próprio na acepção merleau-pontyana, trazendo o corpo para condição de sujeito e, com isso, rompendo com a tradição cartesiana dualista, de modo a seguir na proposta de atribuir ao corpo-sujeito, a capacidade de fazer ato e, dessa forma, se constituir enquanto um corpo político, sendo a base para ações inteligentes e cautelosas até mesmo na função de operar as máquinas que sem ele não podem sequer ser acionadas. [1] Sigla utilizada para referir-se à inteligência artificial e que será mencionada ao longo do artigo com fins de abreviação dos termos. (shrink)

El aumento considerable de la capacidad de la inteligencia artificial (IA) implica un alto consumo de recursos energéticos. La situación ambiental actual, caracterizada por la acuciante degradación de ecosistemas y la ruptura del equilibrio, exige tomar medidas en diversos ámbitos. La IA no puede quedar al margen, y aunque es empleada para objetivos de sostenibilidad, debe plantearse como sostenible en términos integrales. La propuesta de una inteligencia artificial sostenible se argumenta a partir de una evaluación ética constructiva, donde la inclusión (...) y la participación de los grupos de interés representan dos elementos fundamentales. (shrink)

One staple of living in our information society is having access to the web. Web-connected devices interpret our queries and retrieve information from the web in response. Today’s web devices even purport to answer our queries directly without requiring us to comb through search results in order to find the information we want. How do we know whether a web device is trustworthy? One way to know is to learn why the device is trustworthy by inspecting its inner workings, 156–170 (...) 1995; Humphreys 2004, Episteme, 6, 221–229 2009). But ordinary users of web devices cannot inspect their inner workings because of their scale, complexity, and the corporate secrecy which enshrouds both the procedures by which the devices operate and the companies that make them. Further piling on this predicament, authors have criticized web technology on the grounds that the invisibility of the web devices’ inner workings prevents users from critically assessing the procedures that produce a given output, in some cases, barring users from fulfilling their epistemic responsibilities, 343–355 2010; Miller and Record Episteme, 10, 117–134 2013). I consider four broad kinds of reasons which we can acquire without inspecting the inner workings of black-boxed technology: individual understanding, expert testimony, testing through experience, and social vetting; and show how each is a viable method of appraising black-boxed technology. By deploying these methods, we can remain responsible inquirers while nonetheless benefitting from today’s epistemic resources on the web. (shrink)

Much more than their machinic reality, current iterations of AI rely on imagined divisions of human and non-human properties and skills that have genealogical ties to colonization. For this reason, research efforts have recently been made to historicize these imaginaries, connecting them to colonial ideals that delegate black and brown colonized people into the realm of the non-human. Atanasoski and Vora (Surrogate humanity. Race, robots and the politics of technological futures, Duke, Durham and London, 2019) have called this a (...) “surrogate humanity”, where narratives of autonomous technologies function to disappear precisely the formerly colonized peoples that are enveloped in its production process. At the same time, the gendered and racialized roots of this maternal figure represents an opportunity to uncover and critique the invisibilization of embodied resources necessary to produce AI, precarious bodies labouring to produce algorithmic infrastructures in a manner that can be considered in a genealogy of carework and reproduction. These genealogies complicate the detachment suggested by the surrogate figure and go beyond it to proclaim a more generative function of the relationship between the black maternal figure and AI. The article analyses Tabita Rezaire’s multi-media artwork Sugar Walls Teardom to think through decolonial and queer renderings of the black female bodies upon which technological imaginaries rest, to extend beyond AI surrogacy and towards notions of kinship, care and world-making by producing an AI aesthetics that is relational, embodied, and celebratory of other ways of liveness. (shrink)

O programa de pesquisa em Inteligência Artificial, desde sua origem, tem a inteligência humana como modelo, e sua reprodução como escopo. Com o objetivo de sustentar a necessidade de um novo modelo de investigação sobre inteligência, a presente pesquisa destaca inicialmente o caráter imitativo da IA clássica mediante as críticas de Searle e Dreyfus ao projeto da IA. Procuramos sustentar que uma abordagem mais ampla de inteligência, como a sugerida por Bickhard, que tem comoreferência os sistemas (...) físicos autossustentáveis recursivamente, partindo da investigação do funcionamento de inteligências primitivas, é a perspectiva mais produtiva para a IA. Para isso, apresentamos o advento dos “xenobots”, os organismos vivos programados, como um marco nesta perspectiva de pesquisa em IA que se desprende do modelo imitativo de inteligência, sem desconsiderar a dimensão interacionista dos organismos vivos, para promover uma “inteligência biológica artificializada”. (shrink)

La inteligencia artificial doxástica (IAD) es un tipo de inteligencia artificial que reproduce actitudes doxásticas. Si la IAD cumple con las condiciones de paridad epistémica que se le exige a un humano, ¿podría ser también un igual epistémico? Dos iguales epistémicos sostienen propiedades cognitivas simétricas como la inteligencia, el razonamiento o la ausencia de sesgos. Para evaluar si alguien es un igual se tendrán en cuenta estas condiciones: (1) la igualdad probatoria, (2) la igualdad cognitiva y (3) revelación completa. La (...) IAD cumple tanto (1) como (2), pero es en (3) cuando se descubre que no puede ser un igual epistémico. Ésta responde con la opinión popular más aceptada estadísticamente, es incapaz de sostener y defender sus propias afirmaciones y éstas no son un genuino acto de habla. Es una máquina doxástica incapaz de señalar cuáles son las razones que guían su respuesta. (shrink)

RESUMO : Será que um dia serão desenvolvidos computadores digitais capazes de pensar de modo similar ao nosso? Ou será que, independentemente da tecnologia, os computadores digitais estarão sempre limitados a manipularem dados sem compreendê-los? Neste trabalho, apresentarei duas concepções antagônicas de Filosofia da Mente: a Inteligência Artificial Forte, que responde afirmativamente à primeira questão, e a crítica de John Searle a esta corrente, que, por sua vez, responde de maneira afi rmativa à segunda questão. Para tanto, iniciarei o (...) artigo apresentando o famoso jogo da imitação proposto por Alan Turing para decidir se uma máquina é ou não inteligente, jogo este que ficou conhecido como teste de Turing. Logo em seguida, analisarei minuciosamente o experimento mental do quarto chinês, que é uma crítica ao teste de Turing e ao programa de pesquisa da Inteligência Artificial Forte. PALAVRAS-CHAVE : Teste de turing; Inteligência artificial; Quarto chinês; John Searle. (shrink)

Recientes avances en Inteligencia Artificial (IA) como el Project Debater de IBM son indicadores de que la IA lingüística perfecta, es decir, capaz de superar el test de Turing y simular la conducta lingüística humana de manera indiscernible, es una realidad cercana que implicará numerosos efectos sobre nuestras vidas. Como propone la filosofía de la técnica de Langdon Winner, esos efectos deben ser evaluados antes de que la tecnología sea implantada para proporcionar así a la sociedad la posibilidad de decidir (...) si el posible cambio es conforme a su proyecto ético y político. Para contribuir a esa decisión, en este artículo pronosticamos las consecuencias de esa tecnología sobre la autopercepción del ser humano mediante dos argumentos. Por un lado, un argumento principal utilizando como premisas la caracterización de esa IA y varias teorías de la psicología social y de la personalidad. Y, por el otro, una inferencia por analogía con la antropología cartesiana. (shrink)

Despite the growing popularity of machine learning models in the cyber-security applications ), most of these models are perceived as a black-box. The eXplainable Artificial Intelligence has become increasingly important to interpret the machine learning models to enhance trust management by allowing human experts to understand the underlying data evidence and causal reasoning. According to IDS, the critical role of trust management is to understand the impact of the malicious data to detect any intrusion in the system. The previous (...) studies focused more on the accuracy of the various classification algorithms for trust in IDS. They do not often provide insights into their behavior and reasoning provided by the sophisticated algorithm. Therefore, in this paper, we have addressed XAI concept to enhance trust management by exploring the decision tree model in the area of IDS. We use simple decision tree algorithms that can be easily read and even resemble a human approach to decision-making by splitting the choice into many small subchoices for IDS. We experimented with this approach by extracting rules in a widely used KDD benchmark dataset. We also compared the accuracy of the decision tree approach with the other state-of-the-art algorithms. (shrink)

El acelerado proceso de degradación ambiental alerta sobre una grave situación en la que la inteligencia artificial (IA) no puede mantenerse al margen. Las propuestas de Aimee van Wynsbergue y Mark Coeckelbergh sobre una IA comprometida con la sostenibilidad ambiental, suponen un primer paso para plantear un desarrollo alternativo de esta tecnología disruptiva. Sin embargo, es necesario ofrecer un fundamento teórico para plantear una inteligencia artificial sostenible (IAS). Este fundamento puede originarse en dos propuestas éticas familiarizadas con la responsabilidad y (...) el cuidado. Por un lado, se encuentra la ética de la responsabilidad de Hans Jonas; y por otro, las éticas del cuidado de Carol Gilligan y los pueblos indígenas, fuertemente sensibilizados con la naturaleza. (shrink)

Esta apresentação tem como objetivo iniciar a reflexão, no contexto teórico da Ciência da Informação, dos questionamentos que possam surgir e as possibilidades teóricas para responder tais questionamentos em relação à Inteligência Artificial aplicada à fotografia. A metodologia utilizada nesse estudo foi o levantamento bibliográfico sobre fotografia e IA nas áreas que dialogam de forma interdisciplinar com a Ciência da Informação, bem como o retorno às teorias de Vilén Flusser como aporte para possíveis interpretações favoráveis ao debate conceitual aqui (...) proposto. (shrink)

Philosophical and sociological approaches in technology have increasingly shifted toward describing AI (artificial intelligence) systems as ‘(moral) agents,’ while also attributing ‘agency’ to them. It is only in this way – so their principal argument goes – that the effects of technological components in a complex human-computer interaction can be understood sufficiently in phenomenological-descriptive and ethical-normative respects. By contrast, this article aims to demonstrate that an explanatory model only achieves a descriptively and normatively satisfactory result if the concepts of ‘(moral) (...) agent’ and ‘(moral) agency’ are exclusively related to human agents. Initially, the division between symbolic and sub-symbolic AI, the black box character of (deep) machine learning, and the complex relationship network in the provision and application of machine learning are outlined. Next, the ontological and action-theoretical basic assumptions of an ‘agency’ attribution regarding both the current teleology-naturalism debate and the explanatory model of actor network theory are examined. On this basis, the technical-philosophical approaches of Luciano Floridi, Deborah G. Johnson, and Peter-Paul Verbeek will all be critically discussed. Despite their different approaches, they tend to fully integrate computational behavior into their concept of ‘(moral) agency.’ By contrast, this essay recommends distinguishing conceptually between the different entities, causalities, and relationships in a human-computer interaction, arguing that this is the only way to do justice to both human responsibility and the moral significance and causality of computational behavior. (shrink)

The application of AI in medicine (AIM) is producing health practices more reliable, accurate and efficient than traditional medicine (TM) by assisting partly / totally the medical decision-making, such as the use of deep learning in diagnostic imagery, designing treatment plans or preliminary diagnosis. Yet, most of these AI systems are pure “black-boxes”: the practitioner understands the inputs and outputs of the system but cannot have access to what happens “inside” it and cannot offer an explanation, creating an opaque (...) process that culminates in a “trust gap” in two levels: (a) between patients and the medical experts; (b) between the medical expert and the medical process itself. This creates a “black-box medicine” since the practitioner ought to rely (epistemically) on these AI systems that are more accurate, fast and efficient than any expert or group of human experts but are not transparent (epistemically) and do not offer any kind of explanation. In this paper, we want to introduce some preliminary remarks about the pros and cons of three possible solutions to deal with the “trust gap” in AIM. (shrink)

Economists have long treated technological phenomena as events transpiring inside a black box and, on the whole, have adhered rather strictly to a self-imposed ordinance not to inquire too seriously into what transpires inside that box. The purpose of Professor Rosenberg's work is to break open and examine the contents of the black box. In so doing, a number of important economic problems be powerfully illuminated. The author clearly shows how specific features of individual technologies have shaped a (...) number of variables of great concern to economists: the rate of productivity improvement, the nature of learning processes underlying technological change itself, the speed of technology transfer, and the effectiveness of government policies that are intended to influence technologies in particular ways. The separate chapters of this book reflect a primary concern with some of the distinctive aspects of industrial technologies in the twentieth century, such as the increasing reliance upon science, but also the considerable subtlety and complexity of the dialectic between science and technology. Other concerns include the rapid growth in the development of costs associated with new technologies as well as the difficulty of predicting the eventual performance characteristics of newly emerging technologies. (shrink)

In Artificial Intelligence, Artificial Neural Networks are very accurate models in tasks such as classification and regression in the study of natural phenomena, but they are considered “black boxes” because they do not allow direct explanation of what they address. This paper reviews the possibility of scientific explanation from these models and concludes that other efforts are required to understand their inner workings. This poses challenges to access scientific explanation through their use, since the nature of Artificial Neural Networks (...) makes it difficult at first instance the scientific understanding that can be extracted from them. (shrink)

Com base na visão crítica do filósofo sul-coreano, Byung-Chul Han, de que a ordem digital está descoisificando o mundo ao informatizá-lo, o artigo propõe uma reflexão sobre os riscos da migração humana para a infosfera ou para o mundo-das-não-coisas. Em tal universo, somente as informações digitais prevalecem, circulando ininterruptamente, surpreendendo, excitando, e, com isso, inaugurando uma nova forma de controle social. Pelas vias desse tipo de comunicação de massa, o virtual se impõe aos fatos, relativizando a relação com verdade e (...) verificação e, consequentemente, com democracia, memória e história. A psicopolítica, sistema de poder hegemônico atual, é a quem interessa essa manobra do psiquismo humano pela contínua positividade estimuladora, que visa transformar cidadãos em meros phono sapiens jogadores de uma ‘realidade’ gamificada. Por isso, o momento exige debate a respeito dos limites permitidos às tecnologias e à inteligência artificial, pois se passam a servir de sinônimo à anulação do mundo-das-coisas é porque nos ameaçam com a perda do mundo como tal. (shrink)

O artigo aborda o tema da Inteligência Artificial (IA) e seu papel na sustentabilidade econômica e social em diversas fases. Inicialmente, realiza uma revisão bibliográfica extensiva para estabelecer um marco teórico, identificando estudos anteriores que exploram a relação entre IA, emprego e sustentabilidade. Em seguida, adota uma abordagem qualitativa para analisar como a IA influencia a dinâmica do mercado de trabalho, focando em desafios como desemprego tecnológico e oportunidades para novas formas de empregabilidade. Baseando-se na teoria da Sociedade de (...) Risco de Ulrich Beck e imbuído do otimismo racional de Matt Ridley, a pesquisa discute os riscos, com ênfase no desemprego decorrente da automação gerada pela IA, seus benefícios e possíveis elementos enfrentadores e mitigadores, sejam jurídicos, regulatórios, políticos ou empresariais. As conclusões enfatizam o potencial da IA em promover o desenvolvimento sustentável, mitigando riscos como o desemprego tecnológico, desde que haja um esforço conjunto entre governos, setor privado e a sociedade. (shrink)

Review article, based on ‘Brain Story’, by Susan Greenfield.

Contributing to a rising number of Critical Data Studies which seek to understand and critically reflect on the increasing datafication and digitalisation of governance, this paper focuses on the field of school monitoring, in particular on digital data infrastructures, flows and practices in state education agencies. Our goal is to examine selected features of the enactment of datafication and, hence, to open up what has widely remained a black box for most education researchers. Our findings are based on interviews (...) conducted in three state education agencies in two different national contexts, thus addressing the question of how the datafication and digitalisation of school governance has not only manifested within but also across educational contexts and systems. As our findings illustrate, the implementation of data-based school monitoring and leadership in state education agencies appears as a complex entanglement of very different logics, practices and problems, producing both new capabilities and powers. Nonetheless, by identifying different types of ‘doing data discrepancies’ reported by our interviewees, we suggest an analytical heuristic to better understand at least some features of the multifaceted enactment of data-based, increasingly digitalised governance, within and beyond the field of education. (shrink)

Contemporary design practices, such as participatory design, human-centered design, and codesign, have inherent ethical qualities, which often remain implicit and unexamined. Three design projects in the high-tech industry were studied using three ethical traditions as lenses. Virtue ethics helped to understand cooperation, curiosity, creativity, and empowerment as virtues that people in PD need to cultivate, so that they can engage, for example, in mutual learning and collaborative prototyping. Ethics of alterity helped to understand human-centered design as a fragile encounter between (...) project team members and prospective users, and foregrounds the ethics in these encounters: our tendencies to “grasp the other” and to “program invention.” And pragmatist ethics helped to understand codesign as a process of joint inquiry and imagination, involving the organization of iterative processes of problem setting and solution finding, with moral qualities. When we open the “black boxes” of design practices, we find them filled with ethics. Moreover, it is proposed that design practitioners need to make explicit their practices’ inherent ethical qualities and that they can do that by embracing reflexivity. (shrink)

This article analyzes emerging artificial intelligence (AI)-enhanced lie detection systems from ethical and human resource (HR) management perspectives. I show how these AI enhancements transform lie detection, followed with analyses as to how the changes can lead to moral problems. Specifically, I examine how these applications of AI introduce human rights issues of fairness, mental privacy, and bias and outline the implications of these changes for HR management. The changes that AI is making to lie detection are altering the roles (...) of human test administrators and human subjects, adding machine learning-based AI agents to the situation and establishing invasive data collection processes as well as introducing certain biases in results. I project that the potentials for pervasive and continuous lie detection initiatives (“truth machines”) are substantial, displacing human-centered efforts to establish trust and foster integrity in organizations. I argue that if it is possible for HR managers to do so, they should cease using technologically-based lie detection systems entirely and work to foster trust and accountability on a human scale. However, if these AI-enhanced technologies are put into place by organizations by law, agency mandate, or other compulsory measures, care should be taken that the impacts of the technologies on human rights and wellbeing are considered. The article explores how AI can displace the human agent in some aspects of lie detection and credibility assessment scenarios, expanding the prospects for inscrutable, “black box” processes and novel physiological constructs (such as “biomarkers of deceit”) that may increase the potential for such human rights concerns as fairness, mental privacy, and bias. Employee interactions with autonomous lie detection systems rather with than human beings who administer specific tests can reframe organizational processes and rules concerning the assessment of personal honesty and integrity. The dystopian projection of organizational life in which analyses and judgments of the honesty of one’s utterances are made automatically and in conjunction with one’s personal profile provides unsettling prospects for the autonomy of self-representation. (shrink)

Programas de computador vêm sendo usados para a geração de textos jornalísticos, publicados diariamente na imprensa de língua inglesa. Existem milhares de livros vendidos na livraria da Amazon que não foram escritos por pessoas, mas por algoritmos sofisticados que compilam textos sobre temas específicos a partir de dados disponíveis online. Recentemente, pelo menos dois grupos de pesquisadores, trabalhando de modo independente um do outro, publicaram suas pesquisas sobre o uso de algoritmos capazes de gerar hipóteses científicas para serem testadas empiricamente. (...) Em 2014, a editora Springer constatou que mais de 120 textos, gerados por algoritmos, haviam sido publicados em algumas de suas revistas. Não deve transcorrer muito tempo, portanto, até que o uso de algoritmos para a geração de textos acadêmicos comece a se difundir nas universidades. O objetivo deste artigo é discutir algumas das implicações do uso de inteligência artificial para a produção de textos acadêmicos, especialmente textos de filosofia. Noções como “autoria” e “originalidade” terão de ser redefinidas no futuro. (shrink)

Este trabalho visa contribuir para o entendimento do conceito de inteligência artificial - IA, e estagio atual de desenvolvimento. Hoje esse campo do conhecimento se desenvolve muito rapidamente e existe ainda pouca massa crítica para o exercicio de ideias muito consolidadas. Nesse sentido observar experiências que usam de alguma forma inteligência artificial pode ser de utilidade. Para o exame dessas experiências este trabalho vai se concentrar na área de aplicação do planejamento de cidades e comunidades urbanas, incluindo o (...) modelo baseado no uso de extensas bases de dados característica central dos projetos de IA e do que segue denominado de cidades inteligentes. Por outro lado, a apreensão gerada em torno da IA generativa com a possibilidade de desenvolvimentos sem controle pode conduzir ao uso do principio da precaução como forma de deter avanços muito acelerados em um caminho desconhecido em especial sobre as consequências para os seres humanos. A implementação desse princípio se daria a partir de um debate público sobre definição de objetivos e necessidade de monitoramento para uma possível regulação. O debate público sobre IA refletiria as possibilidades da esfera pública política e a luta hoje em defesa da democracia em um mundo dominado pelo uso de dados de forma privada pelas big techs. Por fim conclui com um breve exame sobre a situação brasileira e o uso de bases públicas de registros administrativos no campo da Inteligência Artificial. (shrink)

A modernidade e a pós-modernidade estão atravessando um processo corrosivo da moral, numa relativização de valores em várias esferas. No desejo emancipatório, o indivíduo acaba desconfiado e descrente frente aos projetos históricos, cético frente aos padrões éticos e valores morais. Deseja viver intensamente, embalado pelo prazer. Cai, sem perceber, num individualismo narcisista. No entanto, este individualismo reinante já dá mostras de graus de responsabilidade, aberto às regras morais, à eqüidade, aberto ao futuro, como que numa reabilitação da inteligência sob (...) forma de ética. Verificamos um retorno à ética. (shrink)

One of the primary, if not most critical, difficulties in the design and implementation of autonomous systems is the black-boxed nature of the decision-making structures and logical pathways. How human values are embodied and actualised in situ may ultimately prove to be harmful if not outright recalcitrant. For this reason, the values of stakeholders become of particular significance given the risks posed by opaque structures of intelligent agents (IAs). This paper explores how decision matrix algorithms, via the belief-desire-intention model (...) for autonomous vehicles, can be designed to minimize the risks of opaque architectures. Primarily through an explicit orientation towards designing for the values of explainability and verifiability. In doing so, this research adopts the Value Sensitive Design (VSD) approach as a principled framework for the incorporation of such values within design. VSD is recognized as a potential starting point that offers a systematic way for engineering teams to formally incorporate existing technical solutions within ethical design, while simultaneously remaining pliable to emerging issues and needs. It is concluded that the VSD methodology offers at least a strong enough foundation from which designers can begin to anticipate design needs and formulate salient design flows that can be adapted to the changing ethical landscapes required for utilisation in autonomous vehicles. (shrink)

The present paper looks at one of the most thorough articles on the intelligence of GPT, research conducted by engineers at Microsoft. Although there is a great deal of value in their work, I will argue that, for familiar philosophical reasons, their methodology, ‘Black-box Interpretability’ is wrongheaded. But there is a better way. There is an exciting and emerging discipline of ‘Inner Interpretability’ (also sometimes called ‘White-box Interpretability’) that aims to uncover the internal activations and weights of models in (...) order to understand what they represent and the algorithms they implement. In my view, a crucial mistake in Black-box Interpretability is the failure to appreciate that how processes are carried out matters when it comes to intelligence and understanding. I can’t pretend to have a full story that provides both necessary and sufficient conditions for being intelligent, but I do think that Inner Interpretability dovetails nicely with plausible philosophical views of what intelligence requires. So the conclusion is modest, but the important point in my view is seeing how to get the research on the right track. Towards the end of the paper, I will show how some of the philosophical concepts can be used to further refine how Inner Interpretability is approached, so the paper helps draw out a profitable, future two-way exchange between Philosophers and Computer Scientists. (shrink)

My aim in this article is to contribute to the larger project of assessing the relative merits of different theories of substance. An important preliminary step in this project is assessing the explanatory resources of one main theory of substance, the so-called bundle theory. This article works towards such an assessment. I identify and explain three distinct explanatory challenges an adequate bundle theory must meet. Each points to a putative explanatory gap, so I call them the Gap Challenges. I consider (...) three bundle-theoretic strategies for meeting these challenges. I argue that none of them goes very far. The upshot is that, absent other strategies for meeting the challenges, bundle theory involves a significant amount of stipulation. This black box makes bundle theory relatively weak with respect to its explanatory power—unless, of course, rival theories of substance are unable to do better. (shrink)

Este artículo tiene como objetivo explorar y dilucidar las distinciones fundamentales entre la inteligencia artificial (IA) y la inteligencia sentiente, tal como se propone en la filosofía de Xavier Zubiri. El estudio busca comprender hasta qué punto la IA puede replicar aspectos de la inteligencia humana y cómo la comprensión de la inteligencia sentiente puede informar e influenciar el desarrollo futuro de la IA. La investigación adoptó un enfoque cualitativo, utilizando una investigación bibliográfica para construir un marco teórico sólido sobre (...) la IA y la inteligencia sentiente. Además, se realizó un análisis de contenido para comparar la inteligencia artificial con la inteligencia sentiente, con un enfoque en la filosofía de Xavier Zubiri, que permitió identificar dos categorías principales relacionadas con la IA desde la perspectiva de la inteligencia sentiente: características ausentes y presentes de la IA según la comprensión de la inteligencia sentiente. Dentro de las características ausentes, se encontraron 14 unidades de registros; para las características presentes, 7 unidades de registro, con un total de 21 códigos. El estudio concluye que, aunque la inteligencia artificial puede imitar ciertos aspectos de la inteligencia humana, no puede replicar la totalidad de la experiencia sentiente. (shrink)

A menudo, el destello de los beneficios que reporta la inteligencia artificial en numerosos espacios, eclipsa los impactos medioambientales de esta tecnología. En este sentido, en un contexto marcado por la superación de los límites planetarios, es conveniente iniciar una senda reflexiva que aspire a plantear una inteligencia artificial sostenible. El compromiso con la responsabilidad y el cultivo del cuidado modelan un marco ético para la realización de la sostenibilidad como un ideal moral indispensable para el presente y el futuro (...) de los intelectos sintéticos. El reconocimiento y la estimación de la vulnerabilidad de la biosfera constituyen dos piezas claves para comprender los efectos de una agencia moral mediada por la tecnología. (shrink)