Que critérios concretos permitem distinguir controlo humano significativo de mera validação operacional?

Santoni de Sio e Van den Hoven defendem que o controlo humano significativo exige sistemas concebidos de forma a permitir rastreabilidade moral, compreensão adequada e imputação responsável da decisão (Santoni de Sio and Van den Hoven, 2018).

Pode uma arma ser eticamente preferível por reduzir danos colaterais se, ao mesmo tempo, torna o uso da força mais frequente?

A precisão técnica pode, assim, produzir um efeito paradoxal: reduzir o dano em cada ataque individual, mas aumentar a disponibilidade geral para recorrer à força letal.

Que mecanismos de escrutínio parlamentar ou independente deveriam acompanhar a aquisição de sistemas militares com funções autónomas ou semiautónomas?

a aquisição e o teste de tecnologias militares emergentes deveriam incluir revisão jurídica e ética independente, com participação de especialistas em direito internacional humanitário, ética da guerra, engenharia, IA, segurança e direitos fundamentais.

Como deve ser atribuída responsabilidade quando uma decisão letal resulta da interação entre operador, comandante, software, fabricante e doutrina operacional?

Rebecca Crootof mostrou que armas autónomas podem gerar danos graves sem que seja fácil identificar uma intenção criminosa individual, defendendo a necessidade de pensar formas de responsabilização adequadas à guerra automatizada (Crootof, 2016).

A União Europeia conseguirá compatibilizar autonomia estratégica de defesa com uma proibição robusta de armas letais autónomas sem controlo humano significativo?

ao mesmo tempo que afirma limites éticos, a União promove autonomia estratégica, inovação em defesa, robótica, IA e sistemas autónomos através dos seus instrumentos industriais e de segurança.

A NATO está a construir um modelo substantivo de governação ética ou apenas uma linguagem de responsabilidade para acelerar a adoção de IA militar?

A Aliança procura, assim, manter vantagem tecnológica sem abandonar uma linguagem de responsabilidade democrática. O desafio é saber se essa linguagem se traduzirá em limites operacionais reais ou apenas em princípios gerais compatíveis com uma aceleração contínua da automação militar.

Portugal deve criar uma comissão nacional de avaliação ética e jurídica para tecnologias militares emergentes?

Uma democracia não deve medir a sua maturidade tecnológica apenas pela capacidade de desenvolver ou adquirir sistemas avançados. Deve medi-la também pela capacidade de dizer que certas decisões exigem presença humana qualificada, responsabilidade política e limites normativos claros.

Início
Conhecimento
Inovação & Tecnologia
Drones de ataque, autonomia e decisão letal: o caso português e os limites éticos da guerra tecnológica

Inovação & Tecnologia
Aeroespacial & Segurança
Diários da Bioética

Drones de ataque, autonomia e decisão letal: o caso português e os limites éticos da guerra tecnológica

Miguel Vieira11 de maio de 20268 min de leitura

Também disponível em:English

Autonomous Weapons Systems and Bioethics

Leituras relacionadas

A eticidade dos textos que escrevemos: O que é humano e o que é digital nos textos que escrevemos?

Vivemos um tempo singular. Tenho estado em alguns eventos nas quais, normalmente, existem intervenções e o que é curioso (ou não) tenho notado cada vez mais uma certa uniformização e mecanização da tonalidade textual. Hoje, nunca foi tão fácil escrever. Mas nunca foi tão difícil saber quem escreve. Contudo, vai sendo cada vez mais fácil compreender um texto escrito pela inteligência Artificial ou pela inteligência humana, pois o texto escrito pela IA é perceptível a linguagem uniformizada....

21 de julho de 20262 min de leituraCarlos Costa Gomes

Já está disponível a edição n.º 30 da Revista Portuguesa de Bioética

O Centro de Estudos de Bioética apresenta a edição n.º 30 da Revista Portuguesa de Bioética, dedicada aos desafios éticos da ciência, da saúde, da tecnologia e da sociedade. A edição integral é exclusiva para sócios, enquanto os artigos serão publicados individualmente no site com acesso parcial e transitarão progressivamente para acesso aberto. A versão física estará brevemente disponível na Amazon.

15 de julho de 20262 min de leituraAntónio Jácomo

Uma necessária revisão do ensino jurídico brasileiro:reflexões sobre os processos acadêmicos perante a realidade das inteligências artificiais generativas

Este artigo propõe uma revisão crítica do ensino jurídico brasileiro, historicamente vinculado a matrizes europeias e restrito a elites até meados do século XX, diante da crise pedagógica do século XXI e do advento da inteligência artificial generativa (IAG). Analisa críticas à formação excessivamente teórica e fragmentada, que falha em desenvolver habilidades práticas e pensamento crítico, e examina as Diretrizes Curriculares Nacionais (2018/2021), que priorizam metodologias ativas, integração

15 de maio de 202626 min de leituraThierry Chozem Zamboni Kotinda