A Meta substituirá equipes de risco no Instagram e Facebook

A Meta, empresa responsável pelo Instagram e Facebook, substituirá equipes de supervisão de risco por sistemas automatizados de IA (inteligência artificial) em até 90% das avaliações internas. A medida, segundo documentos obtidos pela imprensa internacional, impactará decisões relacionadas à privacidade, segurança e integridade dos usuários.

A nova estratégia da Meta é um sistema automatizado de questionários que os desenvolvedores preencherão ao sugerir novas funcionalidades. Esses formulários serão processados por um sistema de IA, que oferecerá uma avaliação imediata sobre os riscos potenciais associados às atualizações, incluindo impactos na privacidade de dados, segurança infantil, desinformação ou uso inadequado de recursos.

A empresa busca otimizar os processos internos e agilizar o lançamento de novos produtos. Através da automação, revisões que antes exigiam a intervenção de especialistas podem ser realizadas em poucos minutos, possibilitando que a Meta dimensione as inovações com maior velocidade.

A Meta, segundo fontes internas divulgadas à NPR, já diminuiu o número de revisores humanos e planeja tornar obsoletos os times dedicados à avaliação de riscos em produtos. Anteriormente, essas equipes tinham a responsabilidade de verificar se uma determinada função poderia infringir a política de segurança da plataforma, colocando os usuários em risco.

A empresa busca substituir funcionários por inteligência artificial como parte de sua estratégia para diminuir os custos operacionais e elevar a produtividade das equipes de engenharia e produto. O sistema será aplicado nos aplicativos e redes sociais mais importantes: Facebook, Instagram, WhatsApp e Threads.

A inteligência artificial poderá desempenhar um papel fundamental no monitoramento do conteúdo compartilhado nos status do WhatsApp, que recentemente disponibilizou ferramentas para personalização.

Apesar do otimismo da liderança da Meta, incluindo Mark Zuckerberg, sobre o papel da IA na otimização de processos, a decisão gerou preocupações internas. Ex-funcionários e membros atuais das equipes alertam que decisões automatizadas podem negligenciar nuances de contexto, particularmente em questões sensíveis como proteção de menores, discurso de ódio e uso político da plataforma.

A TechCrunch informou que existe apreensão entre os funcionários em relação à IA não estar totalmente preparada para identificar riscos complexos que necessitam de avaliação humana. Uma das preocupações é que erros nesses sistemas possam resultar no lançamento de recursos potencialmente perigosos ou que infrinjam regulamentações de privacidade.

Recentemente, um problema no Instagram que causava o consumo excessivo de bateria em dispositivos Android foi solucionado. Situações como essa demonstram a necessidade de monitoramento técnico e análise humana em diversos níveis nas decisões de produto.

A Meta passará a não revisar manualmente a maior parte das funcionalidades em desenvolvimento. A empresa defende que o sistema automatizado é confiável e que os desenvolvedores manterão a responsabilidade por revisar suas propostas antes de disponibilizá-las aos usuários.

Entretanto, conforme relatado pelo The Economic Times, especialistas alertam que essa descentralização da supervisão pode gerar falhas na responsabilização, em que falhas ou efeitos adversos não sejam adequadamente identificados ou corrigidos.

O debate reacende a questão do emprego ético da inteligência artificial em plataformas com bilhões de usuários. Especialistas em segurança digital enfatizam que a IA, embora eficiente, não substitui a sensibilidade humana para questões éticas e sociais. Organizações de direitos digitais alertam que a automação de decisões pode comprometer a transparência, dificultando auditorias externas sobre as práticas da Meta. Há dúvidas sobre como o sistema de IA foi treinado e quais dados alimentam suas decisões.

A Meta já iniciou a implementação parcial do sistema, com expectativa de expansão para todas as áreas até o fim de 2025. A tecnologia foi desenvolvida internamente e está sendo integrada às rotinas de desenvolvimento de produto nas sedes dos Estados Unidos e da Europa.

Registros internos indicam que os primeiros setores afetados serão os de recomendações de conteúdo, anúncios e moderação de comentários, com ênfase inicial no Instagram e Facebook.

Fonte por: Mundo Conectado