O Google tinha um produto equivalente ao ChatGPT um ano antes da OpenAI lançar o seu. Três painéis desta edição mostram o outro lado da história: o que acontece quando os modelos de fronteira ficam caros demais e a indústria precisa fazer a IA funcionar fora da nuvem.

O incumbente que inventou tudo e não conseguiu entregar

What is Google even doing? · Matthew Berman · 13min59s

O vídeo reconstrói o declínio do Google em IA a partir de um fato: os pesquisadores que escreveram “Attention Is All You Need” em 2017 trabalhavam no Google. O DeepMind tinha um produto comparável ao ChatGPT com um ano de antecedência. Nada disso chegou ao mercado porque a empresa temia canibalizar o negócio de buscas, que paga a conta.

A perda não foi de capacidade técnica. Foi de instinto. A preocupação em proteger uma fonte de receita existente superou a disposição de competir com ela. O vídeo menciona a saída de figuras como Jeff Dean e Demis Hassabis como sintoma de uma crise interna: quando a liderança não decide entre defender o legado e disputar o futuro, os talentos saem.

Comprimir, localizar, rotear: três caminhos para escapar da API

O custo dos modelos de ponta tornou-se inviável para desenvolvedores individuais e empresas pequenas. A resposta está em três frentes que convergem para o mesmo objetivo: rodar IA boa o suficiente sem depender de uma API central.

Compression at the Edge · painel NVIDIA, Unsloth, HuggingFace, Ollama · 46min01s

A discussão sobre compressão mostra que a quantização deixou de ser um compromisso técnico para virar estratégia de distribuição. Reduzir um modelo de FP32 para FP4 comprime oito vezes com perda mínima de qualidade. Técnicas de quantização dinâmica, que misturam números de bits por camada, cortam 86% do tamanho mantendo 76% da precisão original. Isso significa rodar modelos grandes em hardware de consumo, não em clusters alugados por hora.

Local Models: Trust, Control, Optimization · Carter Abdallah, NVIDIA · 43min21s

O painel sobre modelos locais eleva a discussão para um terreno geopolítico. A soberania sobre modelos de IA deixou de ser uma preferência arquitetural para virar cálculo estratégico. Modelos abertos chineses ganham espaço enquanto o Ocidente perde liderança. No lado prático, modelos específicos de domínio saem mais baratos e mais eficientes que APIs monolíticas para tarefas estreitas. Pré-treinar 400 bilhões de parâmetros em seis meses parece extremo, mas o painel argumenta que é viável com parcerias e infraestrutura otimizada.

The State of Model Routing · painel NVIDIA, Cognition, OpenRouter · 48min17s

O roteamento de modelos é a terceira frente e talvez a mais pragmática. Em vez de escolher um modelo, um roteador decide dinamicamente qual usar para cada tarefa, equilibrando custo e desempenho. A Cognition afirma que seu roteador Fusion supera modelos de fronteira em certas tarefas, o que desafia a ideia de que modelos menores são apenas “suficientemente bons”. O campo ainda não tem solução consolidada, o que é exatamente o que o torna atraente para startups.

Quem inventou a tecnologia não é necessariamente quem a entrega. E quem entrega pode não ser quem cobra mais caro por ela.