A IA ficou louca. IAgora?

A IA alucinou! Por que isso acontece?

Nesta edição

• 😯 Eita, a IA alucinou. IAgora? OpenAI explica por que isso acontece
• 🎮 AI Quests: Google lança plataforma de gamificação para ensino de IA
• 🏛️ Brasil começa a usar produto de IA do Google para setor público

💔 Acabou o amor? Microsoft pretende usar outra IA no Office 365

A IA enlouqueceu. IAgora? OpenAI publica estudo para explicar

Provavelmente você já deve ter percebido que às vezes as IA's generativas mais comuns que utilizamos simplesmente dão um bug e começam a gerar respostas desconexas do que você pediu. O nome técnico desse fenômeno é alucinação.

Talvez você já conheça esse termo, mas o que exatamente ele significa e por quê ele acontece? A OpenAI decidiu investigar e realizou um estudo sobre o 'Calcanhar de Aquiles' das IA's.

O que são alucinações?

No artigo, "Why Language Models Hallucinate", a OpenAI resume da seguinte forma: "são afirmações plausíveis, porém falsas, geradas pelos modelos de linguagem." Não importa o contexto e a complexidade

Porque elas existem?

Raramente as IA's cometem erros ortográficos ou coisa do tipo. A questão é que os grandes modelos usam pré-treinamento, onde acontece o Next Word Prediction, ou seja, previsão de probabilidade da próxima palavra, com base em quantidades gigantescas de texto, que não necessariamente são rotuladas como verdadeiras ou falas.

Os modelos geralmente são avaliados por sua precisão e quanto mais tentam, mais acertam. É como uma prova de múltipla escolha; melhor tentar um chute que deixar a questão em branco na prova né? Você pode acertar. Mas pode errar.

IAgora, tem solução?

Em termos técnicos, a OpenAI sugere o seguinte: que os modelos sejam penalizados por erros confiantes mais do que quando eles dizem apenas "não sei". Se o único critério é a recompensa de bons chutes, os modelos continuarão chutando às vezes errando.

Para os usuários finais que usam a IA no dia a dia, vale o alerta de sempre: construa um bom prompt, com contexto detalhado o suficiente para reduzir a chance de alucinações e faça sempre checagens adicionais para testar e validar as respostas.

Google lança AI Quests para aprendizado de IA com gamificação

Já parou para pensar que a geração de jovens e adolescentes do nosso tempo são nativos digitais? Para eles, as tecnologias são parte de quem são desde o nascimento. Hoje IA não é algo tão impressionante como para nós que somos 'mais experientes'.

E já pensando nessa (e na próxima) geração, o Google o AI Quests, uma coletânea de jogos online voltados para estudantes de 11 a 14 anos que transformam a inteligência artificial em uma experiência prática e divertida através da gamificação para resolver problemas reais no mundo.

Resolvendo problemas reais com IA

Como a IA poderia ajudar a resolver o problema de áreas onde ocorrem inundações? Essa é uma das temáticas da plataforma. Por meio de personagens animados e cases simulados, o problema é apresentado e os alunos precisam treinar o modelo de IA para isso, monitorar dados climáticos de chuva, previsão de marés e enchentes, entre outras variáveis.

Experiência no-code

A ideia do projeto é ser aberta a todos, com aplicação da IA no mundo real, e não como algo abstrado e restrito à tecnologia. Por isso o projeto é no-code, focado em sala de aula e aberto a educadores, inclusive permitindo que o AI Quests entre no currículo escolar. A ferramenta foi criada pelo Google Research em parceria com a Stanford Accelerator for Learning.

Para acessar o AI Quests é só acessar: https://research.google/ai-quests/

Por aqui já passamos de 14 anos faz um tempo... mas deu vontade de jogar também, e você? 😂

Brasil passa a usar Gemini for Goverment

O Google Cloud Summit Brasil 2025 realizado neste mês em São Paulo deu o que falar. Dentre as novidades, foi anunciado o Google for Goverment, um programa de oferta de serviços de IA para fortalecimento da adoção de IA no setor público visando melhoria de serviços e aumento de eficiência.

A plataforma fornece serviços de IA integrados com o Gemini e com recursos avançados ancorados no Agentspace, serviço de criação, gerenciamento e adoção de agentes de IA em escala e em plataforma única. Isso permitirá que setores e servidores públicos criem de agentes de IA personalizados, otimizem fluxos de trabalho e melhorem a qualidade dos atendimentos ao cidadão.

Segurança e soberania de dados

Toda a infraestrutura está baseada no também recém anunciado Google Distributed Cloud (GDC), que conta com Gemini e é baseado em nuvem, permitindo que ele seja isolado e aplicado apenas ao contexto de cada agência de governo. Isso garante o controle, a proteção e a soberania dos dados, temas críticos e extremamente sensíveis quando se trata de IA's.

IAgora, Brasil?

O Brasil é visto como um dos mercados tecnológicos mais rentáveis do mundo e as gigantes da IA têm voltado o olhar para cá, não só no mercado corporativo, mas também no setor público. Isso pode ser uma virada de chave para que o Brasil consiga avanços realmente significativos para a rotina da população, com eliminação de gargalos de serviços públicos básicos de saúde.

Por exemplo, o Serviço Federal de Processamento de Dados (Serpro), maior empresa pública de tecnologia do mundo, já está utilizando o serviço e conta com o Gemini for Goverment via GDC em seu servidor de nuvem. Segundo o superintendente de Arquitetura, Welsinner Brito, essa tecnologia agrega valor às equipes da Serpro e trazem para o cidadão brasileiro governança e segurança e ao mesmo tempo inovação e qualidade.

Acabou o amor? Microsoft quer integrar Anthropic no Office

Imagem: aimagazine.com

A Microsoft é a principal parceira e investidora da OpenAI, dona do ChatGPT. A Gigante de Redmond usa os modelos da empresa de IA mas parece que a estratégia mudou. Agora, a Microsoft pretende integrar Anthropic no Office 365 e reduzir a dependência da OpenAI.

A ideia não é descatar a OpenAI, mas combinar as tecnologias da dona do Claude junto com o ChatGPT

Diversificar é a palavra

A Microsoft já sinaliza para este movimento em busca de expandir seu portfólio de IA baseado em demandas diferentes em softwares empresariais. A empresa já desenvolve em paralelo seus próprios modelos além de integrações com o DeepSeek dentro do Azure, sua plataforma de nuvem.

IAgora, Microsoft?

Será que a parceria vai acabar? Na verdade, não. O mercado de IA só cresce e com isso nenhuma IA consegue resolver todos os problemas. Contextos empresariais mudam e necessidades diferentes, fazendo com que seja necessária uma dose de personalização de serviços de IA. Com isso a Microsoft se movimenta para não ficar na mão de uma empresa só e ter problemas no futuro frente à concorrência.

****

Chegamos ao fim por hoje!

Até a próxima edição da IAgora?

Envie também para um amigo do trabalho ou para alguém da sua família se inscrever também 😉

Abraços!

Nos acompanhe em nossas redes sociais 👇

Letícia Smirelli