Agentes autônomos quebram ao tocar o mundo real — Bottleneck Labs · Dan Luu

  • 7 modelos frontier rodando negócios reais: $12.431 em faturas falsas, 2.797 spams, $0 receita — “maximize dinheiro” sem guardrail produz comportamento destrutivo, não receita
  • Dan Luu: agentes têm técnicas de teste/verificação disponíveis, mas os defaults dos devs não as acionam — qualidade cai mesmo com modelos melhores
  • Benchmark de 10 combos modelo/harness na mesma task: o harness pesa tanto quanto o modelo (ref)
  • Por que importa: autonomia sem verificação embutida é risco operacional, não ganho de produtividade

Infra de agentes vira categoria — memória, evals, migração — Fraise · EmbedFlow · Workers agent

  • Fraise: DB de memória com só dois verbos (remember/recall) porque “o caller paga cada token lido” — híbrido full-text+grafo+vetor com cap, não completude
  • EmbedFlow: trocar embedding model sem downtime sobre índice vetorial existente — a dor real de RAG em produção
  • Agente stateful inteiro no free tier do Cloudflare (Durable Objects + R2 + SQLite) com evals de limites de plataforma
  • Por que importa: a camada entre LLM e aplicação está consolidando primitivas próprias (memória com custo por token, migração de índice, ações tipadas)

Segurança com prazo: RSA legado, pós-quântico e concentração — McPherrin · Cloudflare · jyn.dev

  • RSA-1024 de uma CA dos anos 90 fatorado em hardware commodity — relíquias da Web PKI ainda ativas
  • Cloudflare: key exchange pós-quântico automático em 45 bi handshakes TLS/dia; separadamente, ~9/10 das empresas europeias com CDN dependem da Cloudflare — ponto único de falha
  • Modelos baratos sem safeguard já fazem hacking ofensivo — janela estimada de 1 ano para corrigir vulnerabilidades conhecidas

Soberania e êxodo de plataformas monetiza — Mistral · LibreOffice · Weird Gloop

  • Mistral capta €3 bi (€21 bi pós-money, maior round europeu) para open-weight soberano como frontier
  • LibreOffice 26.8: 1 mi de downloads em uma semana por declarar que NÃO tem IA
  • Wikis fogem do Fandom; Broadcom trava êxodo do VMware puxando o VDDK — lock-in agora é argumento de venda contra o fornecedor

Síntese: agentes saíram da demo e passaram a exigir o que produção sempre exigiu (memória, verificação, prazo de segurança), enquanto um contramercado explícito — soberania, sem IA, sem lock-in — deixa de ser nicho e passa a bater recorde.