Riscos das Respostas de IA no Google
As respostas geradas por Resumos de IA no Google podem representar riscos à saúde ao fornecer informações incorretas. Uma investigação realizada pelo The Guardian revelou que usuários que buscam informações sobre doenças e exames podem estar vulneráveis a essas falhas.
CONTINUA DEPOIS DA PUBLICIDADE
Um exemplo citado no relatório envolve a recomendação da ferramenta de busca a pacientes com câncer de pâncreas, sugerindo alimentos ricos em gordura. Essa orientação contrasta com as recomendações de médicos, que alertaram que seguir esse conselho poderia colocar a vida dos pacientes em risco.
Consequências da Falta de Contexto
Ao desconsiderar o contexto e as informações pessoais dos usuários, o Google pode fornecer respostas enganosas e perigosas. Um teste realizado sobre informações relacionadas a funções hepáticas demonstrou que isso poderia levar os usuários a não buscarem ajuda médica, mesmo quando necessário.
CONTINUA DEPOIS DA PUBLICIDADE
Em resposta às críticas, o Google afirmou ao The Guardian que considera os Resumos de IA como “úteis” e “confiáveis”, além de estar sempre aprimorando a qualidade dessas respostas. A empresa também destacou que a taxa de precisão dessa funcionalidade é equivalente à de sua ferramenta de busca.
Além disso, o Google declarou que, caso as respostas geradas pela inteligência artificial estejam incorretas, tomará as medidas adequadas conforme suas políticas internas.
