Anthropic suspende acesso a novos modelos de IA para estrangeiros; entenda os motivos por trás da
A suspensão do acesso aos novos modelos de IA da Anthropic levanta questões sobre segurança nacional. Quais são os riscos que motivaram essa decisão?
Anthropic Suspende Acesso a Novos Modelos de IA para Estrangeiros
A Anthropic decidiu suspender o acesso a seus novos modelos de inteligência artificial, Fable 5 e Mythos 5, para usuários estrangeiros. Essa medida foi determinada pelo governo dos Estados Unidos e se aplica a qualquer cidadão de outro país, mesmo que esteja dentro do território americano.
CONTINUA DEPOIS DA PUBLICIDADE
A decisão também impacta funcionários estrangeiros da própria empresa.
De acordo com a Anthropic, a ordem foi emitida com base em questões de segurança nacional, embora não tenha especificado quais riscos motivaram essa decisão. Em um comunicado, a empresa afirmou que as autoridades acreditam ter identificado uma maneira de contornar as proteções de segurança do Fable 5, mas ressaltou que a técnica apresentada envolve vulnerabilidades consideradas limitadas.
CONTINUA DEPOIS DA PUBLICIDADE
Além disso, capacidades semelhantes podem ser encontradas em outros modelos disponíveis publicamente.
A Anthropic também analisou uma demonstração da suposta técnica e constatou apenas falhas menores, sem benefícios específicos relacionados ao modelo. Até o momento, nenhum teste conseguiu identificar um método universal capaz de quebrar as barreiras de segurança do sistema.
CONTINUA DEPOIS DA PUBLICIDADE
A empresa defendeu que o Fable 5 foi desenvolvido com mecanismos avançados de proteção para minimizar o uso indevido da tecnologia em atividades de ataques digitais.
Segundo a companhia, o modelo passou por milhares de horas de testes de segurança antes de seu lançamento, incluindo avaliações com órgãos governamentais e organizações privadas. Os demais modelos do Claude continuam operando normalmente. O governo dos EUA não fez declarações adicionais sobre o assunto.
O que é o Claude
Fundada em 2021 por ex-funcionários da OpenAI, a Anthropic é responsável pelo chatbot Claude, que oferece funcionalidades semelhantes ao ChatGPT. Apesar de ser uma empresa recente, a Anthropic recebeu investimentos bilionários de grandes nomes da tecnologia, como Google e Amazon, e se destacou por sua abordagem voltada à segurança no desenvolvimento de sistemas de inteligência artificial.
Leia também
A empresa afirma que sua missão é criar modelos mais confiáveis e com maior controle sobre possíveis usos indevidos. Essa visão tem sido um dos pilares de sua atuação no mercado de inteligência artificial.