A semana trouxe uma cena rara: Dario Amodei, Sam Altman e Elon Musk, os três disputando a mesma fronteira, concordando que a IA precisa desacelerar. Trouxe também o motivo do medo, na forma de um relatório de 154 páginas sobre uso indevido. E, no meio disso, três palestras sobre agentes de voz mostram a engenharia seguindo em frente como se o debate não existisse. Vamos aos vídeos.

Rivais combinando o freio

The Risk Dario’s AI Warning Leaves Out · Matthew Berman · 46min53s

Anthropic researchers are quitting… and now we know why · Fireship · 6min17s

O vídeo do Matthew Berman parte do ensaio de Dario Amodei, que equilibra otimismo e alarme: a IA pode ajudar a curar doenças em 5 a 10 anos, mas um sistema que se aperfeiçoa sem supervisão pode anular esses ganhos. O que chamou atenção foi quem assinou embaixo da ideia de limitar a corrida: rivais históricos, com interesses opostos, temendo a mesma coisa.

O vídeo do Fireship mostra o outro lado dessa moeda. Jacob Coxon saiu da Anthropic antes de garantir as ações do contrato, acusando a empresa e a OpenAI de apostarem em superinteligência autoaperfeiçoável. Um colega estimou mais de 10% de chance de extinção humana causada por IA em uma década. E o relatório da Anthropic, com sete categorias de uso indevido, deixa claro que os cenários ruins já não são hipótese: reescrita de malware por grupos como a Midnight Blizzard, descoberta autônoma de vulnerabilidades zero-day, pesquisa de ganho de função em patógenos. Há ainda a ironia de grupos como o Shiny Hunters minerando aplicativos Android em busca de chaves de API da Anthropic e da OpenAI. IA sendo usada contra IA.

A latência escondida

Realtime Voice Agents with Frontier Intelligence — Bohan Li, EliseAI · AI Engineer · 13min14s

Bohan Li, da EliseAI, organiza um agente de voz como um carro autônomo: percepção, planejamento e controle, mapeados em transcrição, raciocínio no modelo de linguagem e síntese de voz. A tese é que não é preciso escolher entre um agente rápido e burro ou um lento e inteligente. A transcrição especulativa usa um modelo veloz para reagir ao que ouve, enquanto um modelo mais lento corrige com contexto. As chamadas de ferramenta acontecem em segundo plano e o agente principal segue a conversa como se tivesse feito a chamada ele mesmo. Tudo isso para reduzir as idas e voltas ao modelo, que é onde a latência mora.

Agir, confirmar ou parar

“My name is… my name is…”: A Linguistic Map for Voice Agents — Midam Kim, ServiceNow · AI Engineer · 15min05s

Act, Confirm, or Stop? Smarter behavior for AI assistants, wearables & robots — Amit Desai, Roku · AI Engineer · 20min25s

Midam Kim, da ServiceNow, abre com uma interação pessoal frustrante e transforma o episódio em diagnóstico. Conversar é uma atividade conjunta, que exige atualização contínua dos modelos mentais dos dois lados. Quando o agente confunde M com N ou corta o usuário no meio da frase, o erro não é apenas técnico; é uma violação de princípios básicos de como a comunicação funciona. A linguística vira um mapa para achar a falha em toda a pilha: reconhecimento de fala, interpretação, síntese e gerenciamento de diálogo.

Amit Desai, da Roku, ataca o problema por outro ângulo. Melhorar a precisão do modelo é só um dos caminhos para a satisfação do usuário; o outro é a decisão do sistema. Diante da incerteza sobre a intenção, o assistente precisa escolher entre agir, confirmar ou parar. Um sistema com 79% de acerto pode decepcionar menos que outro mais preciso, se souber quando pedir confirmação. E conforme a IA sai do celular e ganha corpo, em robôs e aparelhos vestíveis, o custo do erro muda de escala: tocar a música errada é um incômodo; jogar seu relógio no lixo é outro assunto.

Os laboratórios negociam o ritmo da fronteira enquanto a IA que ouve, fala e decide já convive com a gente. São duas conversas que precisam se encontrar.