Três conversas desta semana formam um retrato desconfortável. Kwindla Kramer, da Daily, descreve os agentes de IA como as páginas web de 1995: uma primitiva nova da qual mal arranhamos a superfície. Saoud Rizwan, do Cline, conta como essa mesma tecnologia está afogando mantenedores de código aberto em pull requests automáticos. E Dwarkesh Patel lembra que modelos que aprendem sozinhos vão tornar obsoleta a forma como avaliamos segurança hoje.
A próxima camada: software que aprende e age sozinho
Kramer traça uma linha direta entre o ensaio de Vannevar Bush, de 1945, e os agentes multimodais atuais. A tese é que vivemos um momento análogo ao nascimento da web: o que chamamos de “agente” hoje vai parecer tão primitivo quanto uma página HTML estática perto de um aplicativo moderno. O caminho para a frente, segundo ele, passa por sistemas com ferramentas embutidas e acesso progressivo a capacidades, saindo de agentes simples para algo com escala organizacional.
Dwarkesh chega no mesmo ponto por outro ângulo. Se modelos passarem a aprender continuamente depois de implantados, todo o arcabouço de avaliar segurança antes do lançamento perde sentido. A comparação que ele faz vale a pena: treinar e congelar um modelo é como formar um músico que nunca toca depois da formatura. A parte difícil fica para depois, manter os valores estáveis enquanto os pesos continuam atualizando.
A conexão entre os dois é direta. O software nativo de IA que Kramer imagina precisa exatamente do aprendizado contínuo que Dwarkesh descreve. E nenhum dos dois tem uma resposta boa para como governar sistemas desse tipo.
The New Primitives: Building AI Native Software · AI Engineer (Kwindla Kramer, Daily) · 21min14s
8 Predictions for the Era of Continual Learning · Dwarkesh Patel · 8min38s
O custo escondido: código aberto sob pressão
Enquanto alguns imaginam a próxima camada de software, a camada atual está rachando. Rizwan, que construiu o Cline (um dos primeiros agentes de codificação baseados em LLM), descreve o que vê pela frente: projetos banindo contribuições de IA e mantenedores sobrecarregados com relatórios de bugs gerados automaticamente. A confiança no processo colaborativo está se desfazendo.
Os exemplos são concretos. O projeto Zig proibiu IA em pull requests e issues, priorizando quem contribui com a mão. O CEO do curl disse estar sendo “DDoSado” por relatórios automáticos e cogita encerrar o programa de recompensas por bugs pela primeira vez em décadas. O tldraw passou a fechar todos os pull requests de terceiros, não importa a origem.
Para Rizwan, o código aberto como conceito técnico sobrevive. O que está morrendo é a comunidade que o sustentava. A ironia é dura: a mesma tecnologia que promete gerar a próxima geração de software corrói a base colaborativa que construiu a geração atual.
Open Source Is Dead. Long Live Open Source. · AI Engineer (Saoud Rizwan, Cline) · 17min30s
A pergunta que fica não é se o software nativo de IA vai chegar. É sobre quais fundações ele vai encontrar quando chegar.