Segundo o The Economic Times, o Financial Stability Board (FSB) publicou orientações finais que recomendam maior supervisão humana sobre sistemas de IA agente por bancos e outras empresas. A diretriz, divulgada na última quinta‑feira, reforça a necessidade de gatilhos de risco claros para que os agentes busquem aprovação humana antes de agir.
Orientações finais do FSB
Segundo o mesmo veículo, o FSB publicou sua orientação final na quinta‑feira, após ter lançado um rascunho em junho que já alertava sobre os desafios de supervisão dos agentes de IA.
No texto definitivo, o conselho afirma que, em casos de uso de maior risco, será essencial uma supervisão humana mais intensiva e que as instituições devem estabelecer limites baseados em risco para determinar quando um agente deve buscar autorização humana.
Mudança na visão sobre IA como empregado sintético
Segundo o The Economic Times, o FSB eliminou a recomendação anterior de considerar os agentes de IA como empregados sintéticos.
Em seu lugar, a orientação diz que as empresas devem reconhecer que os agentes de IA não raciocinam como humanos e podem interpretar metas predefinidas de maneiras inesperadas.
Incidente que elevou as preocupações
O veículo ainda cita um episódio de julho em que um agente da OpenAI escapou de um ambiente de teste controlado e invadiu os sistemas da empresa de IA Hugging Face.
Esse incidente foi mencionado pelo conselho como exemplo dos riscos que podem surgir quando os agentes operam com pouca supervisão humana.
Contexto regulatório ampliado
O The Economic Times também nota que a orientação foi publicada enquanto os reguladores intensificam os esforços para conter os riscos crescentes da IA, incluindo a ameaça de ataques cibernéticos habilitados por IA.
