O Papa Leonardo XIV chamou os membros das Nações Unidas a adotar medidas concretas para proibir armas autônomas letais durante sua próxima reunião em Genebra, alertando que decisões que afetam a vida humana, liberdade e uso da força devem permanecer sempre sob supervisão humana eficaz, informada e responsável.
Máquinas são ferramentas, não pessoas
Em seu discurso papal, o Papa enfatizou que as máquinas são ferramentas e não pessoas, rejeitando a ideia de conceder direitos ou personalidade jurídica a sistemas de IA. Ele ressaltou que os humanos têm a responsabilidade de guiar, mudar e, quando necessário, rejeitar aplicações da tecnologia que coloquem em risco o bem comum.
O discurso reflete posições já manifestadas pelo Papa em seu primeiro grande documento papal, divulgado em maio, que destacou a necessidade de proteger a pessoa humana na era da inteligência artificial.
O que isso significa para desenvolvedores
Para profissionais que criam ou implantam sistemas de IA em ambientes críticos — como defesa, saúde ou veículos autônomos — a mensagem papal reforça um princípio essencial: a supervisão humana deve estar presente em cada etapa de decisão. Segundo a interpretação do discurso, os sistemas de IA devem ser “desarmados”, ou seja, impedidos de operar sem responsabilidade humana clara.
Recomenda-se implementar mecanismos de aprovação humana explícita antes de qualquer ação automatizada com potencial para causar harmas. Decisões baseadas em IA devem ser registradas de forma auditável e transparente, e os sistemas devem permitir reversibilidade, caso o modelo cometa erros.
Cooperação internacional e regulamentação
O Papa também chamou as instituições internacionais a agir para proteger o bem comum contra riscos associados à IA, propondo padrões compartilhados, supervisão independente e mecanismos claros de accountability. Essa orientação está alinhada com marcos regulatórios vigentes, como o AI Act da União Europeia, que já exigem salvaguardas semelhantes na construção de sistemas de IA.
O que ainda não foi divulgado
- Detalhes sobre como será implementada a proibição de armas autônomas letais sugerida pelo Papa;
- Lista completa de países ou entidades que apoiam ou se opõem à iniciativa;
- Impactos específicos sobre legislações nacionais de IA fora da Europa;
- Reações formais de governos ou empresas desenvolvedoras de tecnologia à proposta do Papa.
