Segundo a Economic Times CEO da Anthropic Dario Amodei rejeita alegacao de que regulamentacao de IA concentraria poder chamando a ideia de "escolha falsa". Amodei argumenta que processos institucionais justos podem conter poder corporativo e proteger individuos enquanto regulamentacao pode ser projetada para colocar maior foco nas empresas mais avancadas do que em desafiantes menores.
Amodei chama regulacao de escolha falsa
- Respondendo a debate provocado por comentarios do investidor Gavin Baker Amodei disse que a opcao entre concentrar poder de IA atraves de regulamentacao e distribuila amplamente era uma escolha falsa.
- Ele argumentou que processos instituicionais justos podem conter poder corporativo e proteger individuos.
- Regulamentacao pode ser projetada para colocar maior foco nas empresas mais avancadas do que em desafiantes menores.
Pocoes da Anthropic em legislacao e frameworks de teste
- Amodei pontuou o apoio da Anthropic ao projeto de lei SB53 da Californai e posicao anterior sobre SB1047 ambos isentando empresas abaixo de limites de receita ou thresholds de treinamento de modelos.
- A Anthropic apoiou frameworks de teste que impoem requisitos mais rigorosos em modelos de fronteira do que em sistemas menos avancados beneficiando desafiadores incluindo desenvolvedores de IA de codigo aberto.
- Amodei rejeitou sugestao de que sua mensagem publica sobre riscos de IA tem sido desproporcionalmente negativa dizendo ter buscado equilibrar avisos com o potencial beneficio da tecnologia.
Concentracao estrutural e confianca publica
- Amodei disse que IA e estruturalmente propensa a concentrar poder devido a economia e requisitos de computacao para escalar modelos avancados.
- Acesso a grande quantidade de poder computacional e chips permanece concentrado entre empresas de IA de fronteira e grandes provedores de hardware.
- Modelos de codigo aberto podem ajudar a distribuir capacidades mas nao sao suficientes para distribuir poder de calculo.
- O maior problema enfrentando o setor segundo Amodei e uma crise de confianca publica.
- Empresas devem ganhar confianca entregando beneficios tangiveis nao baseando-se apenas em marketing otimista.
- Amodei permanece a favor de testes pre-deploy para modelos de fronteira e testes de modelos de codigo aberto enquanto se aproximam da fronteira.
- Expressou apoio a proposta de Demis Hassabis CEO do Google DeepMind para um corpo de supervisao de IA tipo FINRA.
