O amigo e colega Guilherme Ravache reproduziu em sua newsletter, nesta 3a feira, uma “notícia” capturada no AI Overviews, o serviço de informações do Google que se propõe a ser uma “alternativa” aos sites jornalísticos. Vejam a tela: o Brasil perdeu o jogo contra o Japão por 1×0 e, com isso, foi eliminado da Copa do Mundo.
Isso mesmo: a IA cometeu um erro grave. Mais um, na verdade, considerando as explicações do próprio Google: “Ela está em constante evolução e pode fornecer informações imprecisas ou ofensivas”. No caso, era uma informação inútil porque o mundo inteiro viu o jogo pela TV. E era “apenas” uma partida de futebol.
Agora, imaginem a mesma situação envolvendo temas relevantes, como doenças, acidentes, agressões, crimes, sequestros, crises políticas… E não é apenas o Google: fake news estão correndo à solta o tempo todo, pelas redes sociais e agora também pelas IAs. O problema é a quantidade de pessoas que acreditam nelas e entopem a internet com “verdades” que captaram da IA.
Pergunte, mas sempre desconfiando
As plataformas de IA – como, aliás, já comentamos aqui – vivem basicamente da cópia de conteúdos retirados de sites e blogs oficialmente registrados. Nem sempre fornecem os devidos créditos e, ao que parece, a maioria dos usuários também não faz questão de perguntar.
No ChatGPT ou Gemini, por exemplo, sempre uso a velha mania – sim, aprendi na juventude – de “confiar desconfiando”. É fundamental fazer as perguntas (prompts) certas, principalmente na hora de questionar de onde a máquina tirou as respostas.
Outro ponto que a maioria dos especialistas tem deixado em segundo plano é o uso que os chatbots fazem dos prompts. Vale lembrar a história de executivos da Samsung na Coreia que , em 2023, foram proibidos de usar o ChatGPT porque, numa reunião estratégica, consultaram o chatbot utilizando dados confidenciais da empresa (aqui, os detalhes).
Eles não sabiam que todos os prompts que fornecemos a uma plataforma de IA vão para seu banco de dados, que pode reproduzi-las toda vez que alguém pesquisar aquele assunto. Pois é, com a onipresença da IA em nossas vidas, cuidar bem do que perguntamos vai se tornando questão de segurança (e de saúde) pública.
