Segundo a Bloomberg Businessweek, o ex-presidente Donald Trump está impulsionando uma iniciativa de responsabilização por IA que pode abrir um jogo de culpa quando os modelos apresentarem comportamento indesejado. Segundo a mesma publicação, a iniciativa surge em meio a crescentes preocupações sobre os efeitos colaterais de sistemas avançados de aprendizado de máquina.
Segundo a Bloomberg Businessweek, a proposta busca estabelecer quem deve responder por danos causados por sistemas de inteligência artificial quando eles agem de forma inesperada ou prejudicial. Segundo a fonte, isso inclui situações em que o modelo produz saídas que causam prejuízo financeiro, danos à reputação ou riscos à segurança física.
Segundo a Bloomberg Businessweek, ao criar essa expectativa de responsabilidade, o movimento pode gerar disputas entre desenvolvedores, usuários e fornecedores de serviços de IA sobre quem arcará com os prejuízos. Segundo a mesma publicação, cada parte pode alegar que a outra falhou em cumprir deveres de monitoramento, atualização ou limitação de uso do modelo.
Segundo a fonte, esse cenário de jogo de culpa pode levar a um aumento de litígios, já que partes afetadas podem buscar compensação através de ações judiciais contra diferentes agentes da cadeia de IA. Segundo a Bloomberg Businessweek, os processos podem envolver pedidos de indenização por perda de receita, custos de correção e danos morais, dependendo da jurisdição aplicável.
Segundo a Bloomberg Businessweek, a pressão por definir responsabilidades também pode incentivar as empresas a adotar medidas de controle, teste e transparência para reduzir riscos de comportamento indesejado dos modelos. Segundo a mesma publicação, tais medidas podem incluir auditorias de desempenho, limites de uso claros e mecanismos de intervenção humana em tempo real.
