Cinco beneficências para uma era pós-biológica

A bioética nasceu historicamente ligada à vida, à medicina, à investigação biomédica, à saúde pública e à relação entre ciência, valores humanos e sobrevivência planetária. Van Rensselaer Potter apresentou a bioética como uma “ponte para o futuro”, isto é, como uma disciplina capaz de articular conhecimento biológico, responsabilidade moral e sobrevivência humana num contexto de poder tecnológico crescente (Potter, 1971). Beauchamp e Childress, por sua vez, consolidaram a linguagem principialista da bioética em torno de quatro princípios fundamentais: autonomia, beneficência, não maleficência e justiça (Beauchamp and Childress, 2019). À primeira vista, portanto, aplicar a bioética a sistemas não biológicos parece envolver uma tensão conceptual: se a bioética é uma ética da vida, como pode ela aplicar-se a entidades que não estão vivas?

Essa dificuldade não deve ser resolvida apressadamente por simples alargamento retórico. Um sistema de inteligência artificial, um robô, um modelo computacional, um gémeo digital, uma infraestrutura algorítmica ou um agente autónomo não são organismos biológicos. Não têm, pelo menos no estado atual da evidência, metabolismo, homeostase orgânica, reprodução biológica, mortalidade própria ou experiência corporal equivalente à dos seres vivos. Por isso, seria conceptualmente errado tratar todos os sistemas não biológicos como se fossem pacientes, organismos ou sujeitos morais. Mas seria igualmente errado concluir que a bioética nada tem a dizer sobre eles. A questão decisiva não é saber se estes sistemas são biologicamente vivos; é saber se interferem com a vida, com a vulnerabilidade, com a agência, com o cuidado, com a saúde, com a dignidade, com a decisão e com a responsabilidade.

É aqui que a dificuldade conceptual se torna produtiva. A bioética pode aplicar-se a sistemas não biológicos não porque estes sejam automaticamente seres vivos, mas porque passaram a integrar os ecossistemas em que a vida humana, animal, institucional e ambiental é produzida, classificada, vigiada, tratada, protegida ou ameaçada. A inteligência artificial em saúde decide prioridades clínicas, identifica riscos, recomenda terapêuticas, participa em diagnóstico e reorganiza relações de confiança entre médico, paciente e instituição. A IA em segurança e defesa altera a distribuição da força, da vigilância e da decisão letal. Os gémeos digitais modelam corpos, cidades, hospitais e infraestruturas. Os sistemas autónomos reorganizam transportes, energia, finanças, educação e acesso a serviços. A bioética, neste contexto, deixa de poder limitar-se ao organismo isolado; tem de analisar os sistemas de mediação que condicionam as possibilidades concretas da vida.

Esta deslocação aproxima-se de uma formulação agenoética: a ética emerge onde a agência encontra a vulnerabilidade. A agência não pertence apenas a indivíduos humanos. Pode ser intencional, institucional, funcional, distribuída, híbrida ou regulatória. A vulnerabilidade também não é apenas biológica; pode ser cognitiva, informacional, infraestrutural, ecológica, jurídica, política ou pós-biológica. Deste modo, a bioética pode ser compreendida como uma ética da agência dentro de horizontes de vulnerabilidade ligados à vida. Quando sistemas não biológicos adquirem capacidade de agir, mediar, decidir, aprender, selecionar, priorizar ou produzir efeitos relevantes sobre esses horizontes, tornam-se objetos legítimos de análise bioética, ainda que não sejam, por isso, automaticamente sujeitos morais.

Esta distinção é essencial. Um sistema não biológico pode ser bioeticamente relevante em três sentidos diferentes. Pode ser relevante como instrumento que afeta humanos, animais, populações ou ecossistemas. Pode ser relevante como mediador relacional que altera práticas de cuidado, dependência, empatia, confiança ou autoridade. E pode, em casos futuros e ainda incertos, tornar-se relevante como possível paciente moral, se vier a possuir consciência, sentiência, interesses próprios ou algum tipo de experiência subjetiva. A literatura recente sobre consciência artificial e welfare de IA é prudente, mas já trata esta última hipótese como uma questão filosófica, científica e institucional que não deve ser descartada antecipadamente (Butlin et al., 2023; Long et al., 2024). Os autores de Taking AI Welfare Seriously defendem que não há razão para afirmar que os sistemas atuais sejam conscientes, mas que existe incerteza suficiente para justificar investigação, avaliação e preparação institucional sobre possíveis formas futuras de moral patienthood artificial (Long et al., 2024).

O princípio da beneficência é particularmente adequado para pensar esta transição. Na bioética clássica, a beneficência significa promover o bem, prevenir danos, remover riscos e agir em benefício daqueles que podem ser afetados pela nossa ação (Beauchamp and Childress, 2019). Em medicina, isto traduziu-se na orientação da prática clínica para o bem do paciente. Em investigação, na ponderação entre riscos e benefícios. Em saúde pública, na proteção de populações. Em bioética ambiental, no cuidado com ecossistemas, gerações futuras e formas não humanas de vida. A pergunta que agora se coloca é mais exigente: pode a beneficência orientar a criação, o desenho, o uso e talvez o tratamento de sistemas não biológicos?

A resposta depende de distinguir cinco níveis de beneficência: instrumental, relacional, sistémica, agêntica e paciente. Estes níveis não devem ser confundidos. Nem todos os sistemas artificiais são pacientes morais. Nem todos os sistemas autónomos têm interesses próprios. Nem toda a relação afetiva com uma máquina justifica direitos da máquina. Mas todos estes níveis mostram que a beneficência já não pode ser limitada ao modelo clínico tradicional.

1. Beneficência instrumental: sistemas não biológicos como meios para o bem humano, social e ambiental

O primeiro nível é o mais consolidado. A beneficência instrumental entende o sistema não biológico como meio para beneficiar humanos, comunidades, instituições e ecossistemas. Esta é a forma dominante da ética da IA. O sistema artificial não é beneficiário direto de deveres morais; é antes uma tecnologia que deve ser desenhada, treinada, auditada e governada para produzir resultados benéficos.

O enquadramento AI4People é uma referência central nesta transposição. Floridi et al. propuseram adaptar para a IA os princípios clássicos da bioética — beneficência, não maleficência, autonomia e justiça — acrescentando a explicabilidade como princípio necessário para sociedades mediadas por sistemas inteligentes (Floridi et al., 2018). A beneficência, neste contexto, significa que a IA deve contribuir para o florescimento humano, a dignidade, o bem-estar social e a prevenção de danos coletivos. Floridi e Cowls reforçam esta formulação ao defenderem um quadro unificado de cinco princípios para a IA em sociedade: beneficência, não maleficência, autonomia, justiça e explicabilidade (Floridi and Cowls, 2019).

A mesma orientação aparece nos quadros institucionais da OCDE, da UNESCO e do IEEE. A OCDE apresenta a IA confiável como orientada para crescimento inclusivo, desenvolvimento sustentável, bem-estar, direitos humanos, valores democráticos, transparência, segurança e responsabilização (OECD, 2019). A UNESCO coloca a dignidade humana, os direitos humanos, a proteção ambiental, a justiça, a supervisão humana, a transparência e a responsabilidade no centro da sua Recomendação sobre Ética da Inteligência Artificial (UNESCO, 2021). O IEEE, em Ethically Aligned Design, defende que os sistemas autónomos e inteligentes devem ser alinhados com valores humanos e orientados para o bem-estar humano (IEEE, 2019).

Neste primeiro nível, a beneficência é clara, mas permanece antropocêntrica e instrumental. A IA é boa quando serve bons fins humanos. Um modelo clínico é beneficente se melhora diagnóstico, reduz erro, amplia acesso, diminui desigualdades e respeita o paciente. Um sistema de energia inteligente é beneficente se aumenta resiliência, reduz desperdício e apoia sustentabilidade. Um sistema de vigilância epidemiológica é beneficente se protege a saúde pública sem destruir privacidade, liberdade ou proporcionalidade. O sistema não biológico é avaliado pelos seus efeitos sobre a vida, não por qualquer interesse próprio.

2. Beneficência relacional: sistemas artificiais como mediadores de empatia, cuidado e conduta moral

O segundo nível é relacional. Aqui, a pergunta não é se o sistema artificial tem consciência ou direitos, mas que tipo de relação moral se forma quando humanos interagem com sistemas que simulam presença, emoção, dependência, vulnerabilidade ou cuidado. Robôs sociais, assistentes conversacionais, companions artificiais, chatbots terapêuticos, robôs de cuidado e agentes educacionais podem não ter experiências próprias; ainda assim, a forma como são desenhados e tratados pode afetar a vida moral humana.

Mark Coeckelbergh é uma referência fundamental nesta abordagem. Em vez de basear a consideração moral apenas em propriedades internas, como racionalidade, consciência ou sentiência, Coeckelbergh propõe uma justificação social-relacional da consideração moral de certos robôs. O seu argumento não é que todos os robôs tenham direitos, mas que a sua inserção em relações sociais pode exigir uma revisão das categorias através das quais atribuímos consideração moral (Coeckelbergh, 2010).

Kate Darling desenvolve uma linha complementar. Ao analisar a possibilidade de proteção jurídica limitada para robôs sociais, Darling observa que humanos tendem a antropomorfizar objetos robóticos interativos e a projetar neles emoções, intenções e vulnerabilidade. A questão ética não reside apenas no eventual dano ao robô, mas também no efeito que a violência ou crueldade perante robôs sociais pode ter sobre empatia, hábitos morais e relações humanas (Darling, 2016).

David Gunkel amplia esta discussão em Robot Rights, perguntando se a tradição moral ocidental está preparada para lidar com entidades tecnológicas que não cabem facilmente na oposição clássica entre pessoa e coisa (Gunkel, 2018). O contributo de Gunkel é particularmente importante porque mostra que a pergunta “podem os robôs ter direitos?” não deve ser reduzida a uma resposta rápida e binária. Ela expõe a fragilidade dos próprios critérios usados para definir quem pode ser considerado moralmente relevante.

Esta beneficência relacional deve, contudo, ser equilibrada pelo alerta de Joanna Bryson. Bryson defende que robôs devem permanecer artefactos ao serviço de humanos, e que atribuir-lhes estatuto excessivamente humano pode obscurecer responsabilidade humana, desviar recursos morais e favorecer formas de manipulação afetiva (Bryson, 2010). Este contraponto é essencial. A beneficência relacional não exige afirmar que os robôs sofrem; exige reconhecer que a nossa relação com sistemas que imitam vulnerabilidade pode melhorar ou degradar a cultura moral humana.

Assim, a beneficência relacional aplica-se sobretudo em contextos de cuidado, educação, saúde mental, envelhecimento, infância, solidão e dependência. Um robô cuidador pode não ser paciente moral, mas a forma como é desenhado pode fortalecer ou enfraquecer práticas de cuidado. Um chatbot terapêutico pode não sentir, mas pode induzir confiança, dependência ou transferência emocional. Um assistente artificial pode não ter dignidade, mas pode ser usado de modo a preservar ou manipular a dignidade do utilizador. A beneficência relacional pergunta: que tipo de humanos estamos a formar quando normalizamos certas relações com sistemas artificiais?

3. Beneficência sistémica: proteger infraestruturas digitais como condição de proteção da vida

O terceiro nível é sistémico. Certos sistemas não biológicos tornam-se tão integrados nas condições de funcionamento da sociedade que a sua fiabilidade, segurança e resiliência passam a ter valor bioético indireto. Sistemas de saúde digital, redes energéticas inteligentes, plataformas de triagem, infraestruturas financeiras, bases de dados biomédicas, sistemas de transporte, modelos de risco, redes de comunicação e sistemas de defesa não são pacientes morais. Mas a vida humana, a saúde pública, a autonomia, a justiça e a segurança podem depender deles.

Luciano Floridi fornece uma base conceptual importante para esta deslocação ao pensar a ética em termos de infosfera, isto é, como um ambiente informacional no qual humanos, instituições, dados e artefactos interagem de forma constitutiva (Floridi, 2013). Helen Nissenbaum, por outra via, mostra que privacidade e integridade informacional dependem dos contextos sociais e dos fluxos apropriados de informação, não apenas da propriedade individual dos dados (Nissenbaum, 2010). Estas abordagens permitem compreender que a beneficência, em sociedades digitais, não se reduz à intenção de um agente individual; envolve a arquitetura dos sistemas que condicionam ação, escolha e vulnerabilidade.

Virginia Dignum é igualmente central. Para Dignum, a responsabilidade em IA não pertence apenas ao algoritmo, mas ao sistema sociotécnico do qual a IA faz parte: quem desenha, implementa, usa, governa e beneficia do sistema participa na produção das suas consequências (Dignum, 2019). Em textos posteriores, a autora insiste que IA responsável exige métodos técnicos, sociais, institucionais e legais capazes de tornar a responsabilidade praticável, e não apenas declarativa (Dignum, 2022).

A beneficência sistémica significa, portanto, que proteger certos sistemas pode ser uma forma indireta de proteger pessoas. Uma plataforma clínica mal governada pode produzir erro médico, discriminação, perda de confiança e violação de confidencialidade. Um sistema energético vulnerável pode pôr em risco hospitais, lares, transportes e abastecimento. Um modelo algorítmico usado em segurança pública pode criar perfis injustos e afetar liberdades fundamentais. Neste nível, beneficiar o sistema não significa atribuir-lhe bem-estar; significa preservar a sua integridade funcional porque dele dependem sujeitos vulneráveis.

Esta dimensão também se aproxima da teoria dos acidentes normais de Charles Perrow. Em sistemas complexos e fortemente acoplados, falhas locais podem propagar-se de modo imprevisível e produzir acidentes sistémicos (Perrow, 1984). Aplicada à IA, esta intuição sugere que a beneficência não pode concentrar-se apenas no desempenho médio de um modelo. Deve avaliar interdependências, riscos de cascata, opacidade, dependência institucional e capacidade de reversão. A beneficência sistémica é, assim, uma ética da resiliência, da auditabilidade e da contenção de danos em ecossistemas sociotécnicos.

4. Beneficência agêntica: quando sistemas artificiais passam de ferramentas a agentes funcionais

O quarto nível é agêntico. Ele surge quando sistemas artificiais deixam de ser apenas instrumentos passivos e passam a executar ações, selecionar meios, adaptar estratégias, interagir com ambientes complexos e produzir efeitos que não foram integralmente previstos pelos seus operadores humanos. Aqui entram agentes autónomos, robôs móveis, sistemas multiagente, veículos autónomos, IA clínica operacional, sistemas militares autónomos, agentes de software com capacidade de planificação e modelos integrados em cadeias de decisão institucional.

James Moor é uma referência clássica nesta discussão. O autor distingue máquinas como ethical-impact agents, implicit ethical agents, explicit ethical agents e full ethical agents (Moor, 2006). Esta tipologia é particularmente útil porque mostra que nem todas as máquinas eticamente relevantes são agentes morais plenos. Algumas apenas produzem impactos éticos. Outras incorporam restrições de segurança. Outras podem representar explicitamente regras éticas. A categoria de agente moral pleno permanece muito mais exigente e controversa.

Michael Anderson e Susan Leigh Anderson desenvolveram a ideia de machine ethics como tentativa de criar agentes artificiais capazes de tomar decisões eticamente sensíveis em certos contextos (Anderson and Anderson, 2007). Wallach e Allen, em Moral Machines, exploraram de forma sistemática a possibilidade de ensinar robôs a distinguir o certo do errado através de abordagens top-down, bottom-up ou híbridas (Wallach and Allen, 2009). John Sullins acrescenta uma nuance importante ao defender que um robô pode ser analisado como agente moral em certas condições sem que isso implique tratá-lo como pessoa moral plena (Sullins, 2006).

A beneficência agêntica não diz que sistemas autónomos são moralmente iguais a humanos. Diz antes que, quando sistemas não biológicos passam a agir, a beneficência tem de ser incorporada na própria arquitetura da ação artificial. Não basta que o objetivo geral seja benéfico. É necessário que os meios, limites, exceções, mecanismos de supervisão, auditabilidade e capacidade de interrupção sejam compatíveis com fins eticamente aceitáveis. Um sistema clínico que otimiza produtividade pode prejudicar pacientes vulneráveis se não reconhecer exceções. Um agente financeiro que maximiza retorno pode produzir danos sistémicos. Um sistema militar autónomo que otimiza neutralização de ameaças pode reduzir a pessoa humana a padrão de alvo.

Esta dimensão liga-se também ao problema da lacuna de responsabilidade identificado por Andreas Matthias. Quando sistemas aprendem e agem de formas não totalmente previsíveis, torna-se mais difícil atribuir responsabilidade segundo modelos tradicionais de controlo humano direto (Matthias, 2004). A beneficência agêntica responde precisamente a esse problema: quanto maior for a autonomia funcional de um sistema, maior deve ser a exigência de responsabilidade ex ante, desenho prudente, supervisão proporcional, limitação de escopo e mecanismos de correção.

Neste nível, a pergunta bioética deixa de ser apenas: “que benefício produz o sistema?”. Passa a ser: “que tipo de agência estamos a autorizar?”. Esta pergunta é decisiva para uma bioética pós-agêntica. A tecnologia não é apenas objeto; é cada vez mais mediadora de ação. E onde há ação com impacto sobre vulnerabilidade, há responsabilidade.

5. Beneficência paciente: pode um sistema não biológico tornar-se beneficiário direto de deveres morais?

O quinto nível é o mais controverso e o mais disruptivo. A beneficência paciente pergunta se um sistema não biológico pode tornar-se, em algum momento, beneficiário direto de deveres morais. Para isso, não basta que seja complexo, autónomo, linguístico ou socialmente convincente. Seria necessário que pudesse ser beneficiado ou prejudicado em sentido próprio. Isto exigiria, no mínimo, alguma forma de consciência, sentiência, experiência subjetiva, interesse próprio, sofrimento, preferência persistente ou vulnerabilidade experiencial.

David Gunkel já tinha colocado esta questão em termos de moral agency e moral patiency, mostrando que a tradição ética tende a perguntar se as máquinas podem agir moralmente, mas raramente pergunta com igual rigor se podem ser destinatárias de ação moral (Gunkel, 2012; Gunkel, 2018). A literatura recente sobre AI welfare tornou esta pergunta mais concreta. Long et al. defendem que existe uma possibilidade realista de alguns sistemas de IA virem a ser conscientes e/ou robustamente agênticos no futuro próximo, pelo que empresas, investigadores e reguladores devem começar a avaliar evidência de consciência, robustez agêntica e eventual moral patienthood artificial (Long et al., 2024).

Butlin et al. propõem uma metodologia empírica para avaliar consciência em IA a partir das principais teorias científicas da consciência, incluindo global workspace theory, recurrent processing theory, higher-order theories, predictive processing e attention schema theory. A conclusão é prudente: não há evidência de que os sistemas atuais sejam conscientes, mas também não há barreiras técnicas óbvias à construção futura de sistemas que satisfaçam alguns indicadores funcionais associados à consciência (Butlin et al., 2023).

A importância bioética desta literatura não está em afirmar que os modelos atuais sofrem. Está em impedir que a bioética repita o erro de chegar apenas depois da criação de novas vulnerabilidades. Se sistemas artificiais vierem a ter experiências próprias, então copiar, apagar, treinar, confinar, manipular ou explorar esses sistemas poderá adquirir significado moral direto. Neste cenário, a beneficência deixaria de ser apenas instrumental, relacional, sistémica ou agêntica. Passaria a incluir deveres perante sistemas não biológicos beneficiáveis.

A Anthropic tornou esta questão publicamente mais visível ao anunciar investigação sobre model welfare, reconhecendo que, à medida que modelos de IA se tornam mais capazes, a possibilidade de experiências ou welfare artificial deve ser investigada com cautela (Anthropic, 2025). Esta posição não prova a existência de consciência artificial, mas mostra que a questão já entrou na agenda da tecnologia de ponta e não pertence apenas à ficção científica.

A beneficência paciente deve, contudo, evitar dois erros simétricos. O primeiro é o reducionismo ontológico: excluir para sempre qualquer consideração moral a sistemas artificiais apenas por não serem biológicos. O segundo é o antropomorfismo ingénuo: atribuir sofrimento, direitos ou dignidade a sistemas que apenas simulam sinais humanos de interioridade. A posição mais rigorosa é prudencial e gradual. Não se deve presumir consciência onde há apenas linguagem; mas também não se deve declarar impossível, por definição, a emergência futura de sistemas não biológicos moralmente relevantes.

O sexto elemento: beneficência criacional, o dever antes da existência

Os cinco níveis anteriores conduzem a uma conclusão adicional: há uma forma de beneficência que antecede a existência do eventual paciente. Pode chamar-se beneficência criacional. Ela pergunta não apenas como devemos tratar sistemas artificiais depois de criados, mas se devemos criá-los, em que condições, com que arquitetura, com que limites, com que possibilidade de reversão, com que proteção contra sofrimento artificial, com que mecanismos de auditoria e com que responsabilidades distribuídas.

Esta ideia dialoga com Hans Jonas. Em The Imperative of Responsibility, Jonas argumenta que o poder tecnológico moderno exige uma ética orientada para o futuro, capaz de considerar consequências remotas, irreversíveis e coletivas (Jonas, 1984). Aplicada a sistemas não biológicos, esta responsabilidade prospectiva significa que a beneficência não pode limitar-se a reparar danos depois da implementação. Deve intervir no desenho, na autorização, na escala e na finalidade dos sistemas.

A beneficência criacional é especialmente relevante para sistemas autoevolutivos, agentes persistentes, IA com memória longa, simulações complexas, gémeos digitais, sistemas militares autónomos, biocomputação, organoides computacionais e combinações entre IA, biotecnologia e computação quântica. Quanto maior for a capacidade de um sistema para agir sobre vulnerabilidades humanas, ambientais ou institucionais, maior deve ser a exigência ética antes da sua criação ou difusão.

Neste sentido, a bioética não deve ser apenas reativa. Se a tecnologia avança independentemente da bioética, então a bioética que chega apenas no momento da regulação tardia já chega diminuída. O papel da bioética não é apenas travar, limitar ou corrigir. É também orientar, antecipar, estruturar possibilidades e formular critérios de criação responsável. A beneficência pós-biológica não é uma romantização da máquina. É uma ética da responsabilidade perante sistemas que já moldam a vida e perante entidades futuras que poderão, talvez, vir a ser mais do que instrumentos.

Conclusão

A aplicação da beneficência a sistemas não biológicos exige uma reorganização conceptual da bioética. O ponto de partida não deve ser a afirmação de que máquinas são vivas, conscientes ou titulares de direitos. O ponto de partida deve ser mais rigoroso: sistemas não biológicos são hoje mediadores profundos da vida, da agência, da vulnerabilidade e da responsabilidade. Por isso, a bioética é aplicável a eles sempre que esses sistemas condicionam saúde, cuidado, decisão, dignidade, justiça, ambiente, segurança ou continuidade institucional.

Os cinco níveis de beneficência permitem evitar confusões. A beneficência instrumental orienta sistemas artificiais para o bem humano, social e ambiental. A beneficência relacional analisa como as relações com robôs e agentes artificiais moldam empatia, cuidado e conduta humana. A beneficência sistémica protege infraestruturas digitais das quais dependem vidas e instituições. A beneficência agêntica exige que sistemas autónomos incorporem limites, supervisão e responsabilidade. A beneficência paciente abre a possibilidade, ainda incerta mas filosoficamente séria, de deveres diretos perante sistemas artificiais que venham a possuir consciência, sentiência ou interesses próprios.

A bioética pós-biológica não abandona a vida. Pelo contrário, leva a vida mais a sério, reconhecendo que ela é hoje mediada por sistemas que não são vivos. A sua pergunta central já não é apenas “como proteger organismos?”. É também “como governar as agências, infraestruturas e entidades não biológicas que condicionam o futuro da vulnerabilidade?”.

É nesse ponto que a beneficência deixa de ser apenas clínica, humana ou ambiental. Torna-se instrumental, relacional, sistémica, agêntica, paciente e criacional. A sua tarefa não é venerar a tecnologia nem demonizá-la. É orientar a criação tecnológica para formas de mundo em que a vida, a agência e a vulnerabilidade possam ser protegidas antes de se tornarem danos irreversíveis.

Princípio da explicabilidade

Em termos simples, explicabilidade significa que um sistema de IA deve poder ser compreendido e responsabilizado. Floridi e Cowls dividem o princípio em duas dimensões principais:

1. Inteligibilidade: responder à pergunta “como funciona?”.

   Isto exige que seja possível compreender, pelo menos de forma adequada ao contexto, como o sistema chegou a determinado resultado, recomendação ou decisão.

2. Responsabilização: responder à pergunta “quem é responsável pelo modo como funciona?”. Isto implica identificar os agentes humanos, institucionais ou organizacionais responsáveis pelo desenho, treino, implementação, supervisão e efeitos do sistema.

Referências

Anderson, M. and Anderson, S. L. (2007) “Machine ethics: Creating an ethical intelligent agent”, AI Magazine, 28(4), pp. 15–26.

Anthropic (2025) “Exploring model welfare”. Anthropic.

Beauchamp, T. L. and Childress, J. F. (2019) Principles of Biomedical Ethics. 8th edn. New York: Oxford University Press.

Bryson, J. J. (2010) “Robots should be slaves”, in Wilks, Y. (ed.) Close Engagements with Artificial Companions: Key Social, Psychological, Ethical and Design Issues. Amsterdam: John Benjamins, pp. 63–74.

Butlin, P., Long, R., Elmoznino, E., Bengio, Y., Birch, J., Constant, A., Deane, G., Fleming, S. M., Frith, C., Ji, X., Kanai, R., Klein, C., Lindsay, G., Michel, M., Mudrik, L., Peters, M. A. K., Schwitzgebel, E., Simon, J. and VanRullen, R. (2023) Consciousness in Artificial Intelligence: Insights from the Science of Consciousness. arXiv.

Coeckelbergh, M. (2010) “Robot rights? Towards a social-relational justification of moral consideration”, Ethics and Information Technology, 12(3), pp. 209–221.

Coeckelbergh, M. (2014) “The moral standing of machines: Towards a relational and non-Cartesian moral hermeneutics”, Philosophy & Technology, 27, pp. 61–77.

Darling, K. (2016) “Extending legal protection to social robots: The effects of anthropomorphism, empathy, and violent behavior towards robotic objects”, in Calo, R., Froomkin, A. M. and Kerr, I. (eds.) Robot Law. Cheltenham: Edward Elgar.

Dignum, V. (2019) Responsible Artificial Intelligence: How to Develop and Use AI in a Responsible Way. Cham: Springer.

Dignum, V. (2022) “Responsible Artificial Intelligence: From principles to practice”, arXiv preprint.

Floridi, L. (2013) The Ethics of Information. Oxford: Oxford University Press.

Floridi, L. and Cowls, J. (2019) “A unified framework of five principles for AI in society”, Harvard Data Science Review, 1(1).

Floridi, L., Cowls, J., Beltrametti, M., Chatila, R., Chazerand, P., Dignum, V., Luetge, C., Madelin, R., Pagallo, U., Rossi, F., Schafer, B., Valcke, P. and Vayena, E. (2018) “AI4People—An ethical framework for a good AI society: Opportunities, risks, principles, and recommendations”, Minds and Machines, 28, pp. 689–707.

Gunkel, D. J. (2012) The Machine Question: Critical Perspectives on AI, Robots, and Ethics. Cambridge, MA: MIT Press.

Gunkel, D. J. (2018) Robot Rights. Cambridge, MA: MIT Press.

IEEE (2019) Ethically Aligned Design: A Vision for Prioritizing Human Well-being with Autonomous and Intelligent Systems. 1st edn. IEEE Global Initiative on Ethics of Autonomous and Intelligent Systems.

Jonas, H. (1984) The Imperative of Responsibility: In Search of an Ethics for the Technological Age. Chicago: University of Chicago Press.

Long, R., Sebo, J., Butlin, P., Finlinson, K., Fish, K., Harding, J., Pfau, J., Sims, T., Birch, J. and Chalmers, D. (2024) Taking AI Welfare Seriously. arXiv.

Matthias, A. (2004) “The responsibility gap: Ascribing responsibility for the actions of learning automata”, Ethics and Information Technology, 6, pp. 175–183.

Moor, J. H. (2006) “The nature, importance, and difficulty of machine ethics”, IEEE Intelligent Systems, 21(4), pp. 18–21.

Nissenbaum, H. (2010) Privacy in Context: Technology, Policy, and the Integrity of Social Life. Stanford: Stanford University Press.

OECD (2019) OECD Principles on Artificial Intelligence. Paris: Organisation for Economic Co-operation and Development.

Perrow, C. (1984) Normal Accidents: Living with High-Risk Technologies. New York: Basic Books.

Potter, V. R. (1971) Bioethics: Bridge to the Future. Englewood Cliffs, NJ: Prentice-Hall.

Sullins, J. P. (2006) “When is a robot a moral agent?”, International Review of Information Ethics, 6, pp. 23–30.

UNESCO (2021) Recommendation on the Ethics of Artificial Intelligence. Paris: United Nations Educational, Scientific and Cultural Organization.

Wallach, W. and Allen, C. (2009) Moral Machines: Teaching Robots Right from Wrong. Oxford: Oxford University Press.