Urgência em Controle da IA: Especialistas pedem “pedal de freio” para evitar riscos futuros
A Anthropic alerta sobre a urgência de um “pedal de freio” no desenvolvimento de IA, destacando riscos e a necessidade de controle humano. Entenda mais!
Desenvolvimento de IA e a Necessidade de Controle
Os modelos de inteligência artificial (IA) estão se desenvolvendo em um ritmo acelerado, a ponto de, em breve, poderem evoluir sem a necessidade de intervenção humana. Diante dessa realidade, a Anthropic alerta o setor de IA sobre a urgência de estabelecer um “pedal de freio”, para evitar que as empresas percam o controle sobre suas criações.
CONTINUA DEPOIS DA PUBLICIDADE
Os sistemas de IA que conseguem se autoaperfeiçoar, conhecidos como “autoaperfeiçoamento recursivo total”, podem trazer benefícios significativos para áreas como ciência e saúde, mas também apresentam riscos consideráveis para a humanidade.
Marina Favaro, líder do The Anthropic Institute, e Jack Clark, cofundador da Anthropic, destacam em uma postagem no blog que o autoaperfeiçoamento recursivo total pode aumentar a probabilidade de os humanos perderem o controle sobre os sistemas de IA.
CONTINUA DEPOIS DA PUBLICIDADE
Eles afirmam que, se esses sistemas forem capazes de criar seus próprios sucessores, a forma como os protegemos, monitoramos e moldamos seu comportamento se torna ainda mais crucial.
Urgência em Reavaliar o Desenvolvimento de IA
Os especialistas alertam que o setor está mais próximo da IA com autoaperfeiçoamento do que se imaginava anteriormente. Por isso, as empresas de tecnologia devem considerar a possibilidade de desacelerar ou até pausar o desenvolvimento de IA avançada, permitindo que os pesquisadores compreendam melhor os potenciais danos sociais que essa tecnologia pode causar.
Leia também
Além disso, é fundamental que os pesquisadores desenvolvam mecanismos para que os humanos possam intervir caso a situação saia do controle.
Em uma entrevista à CNN, Clark enfatizou a necessidade de um “pedal de freio” para o setor. Ele comparou a situação a dirigir um carro, onde atualmente só existe um pedal de acelerador, sem a opção de desacelerar. Clark também comentou sobre a preocupação com narrativas de ficção científica em que a IA se rebela contra os humanos, reconhecendo que essa é uma questão que merece atenção.
Desafios e Oportunidades no Setor de IA
A incapacidade de validar e confiar no comportamento da IA representa um risco significativo para seu desenvolvimento. O alerta da Anthropic surge em um momento em que a empresa solicitou a realização de uma oferta pública inicial (IPO) para levantar bilhões de dólares, com o objetivo de acelerar a construção de data centers e computadores necessários para a IA.
A SpaceX, que também atua no setor de IA, está prestes a realizar uma IPO que pode arrecadar US$ 75 bilhões, tornando-se a maior já registrada.
A colaboração entre grandes empresas de IA, como Anthropic, SpaceX e OpenAI, para estabelecer mecanismos de controle pode parecer contraditória em um mercado competitivo, mas Clark acredita que essa cooperação é viável. Ele citou exemplos históricos, como a Guerra Fria, onde países rivais encontraram maneiras de estabilizar a corrida armamentista nuclear, sugerindo que uma abordagem semelhante pode ser necessária no campo da IA.