Três vídeos desta semana tocam no mesmo nervo: a IA deixou de ser uma camada por cima do software e passou a mexer no que está embaixo. Um criador de agentes de codificação descreve a comunidade open source sendo engolida pelo volume de contribuições automáticas. Um CEO diz que estamos em 1995, só que para software nativo de IA. E alguém levanta um problema mais fundo: se os modelos aprenderem sem parar depois de implantados, toda a nossa ideia de avaliação de segurança perde o sentido.

Open source sob ataque da própria IA

Open Source Is Dead. Long Live Open Source. · Saoud Rizwan, Cline · AI Engineer · 17min30s

Saoud Rizwan, fundador do Cline (um dos primeiros agentes de codificação baseados em LLM, anterior ao Copilot e ao Claude), descreve um problema que ele mesmo ajudou a criar. A quantidade de pull requests, issues e relatórios de bugs gerados automaticamente por modelos de linguagem cresceu a ponto de inviabilizar o trabalho de manutenção. O problema não é a qualidade individual de cada contribuição. É o volume.

O projeto Zig baniu contribuições de IA em pull requests, issues e comentários, priorizando o crescimento de contribuidores humanos sobre a quantidade de código submetido. O CEO do curl relatou que o projeto está sendo “DDoSado” por relatórios de bugs gerados por IA e considera encerrar seu programa de recompensas por bugs pela primeira vez em décadas. O tldraw passou a fechar automaticamente todos os pull requests de terceiros, independente da origem.

A leitura de Rizwan é dura para quem trabalha com IA: o código aberto como conceito técnico sobrevive, mas a comunidade colaborativa que o sustentava está perdendo fôlego. As ferramentas que facilitam contribuir também facilitam entulhar.

Software nativo de IA: 1995 de novo

The New Primitives: Building AI Native Software · Kwindla Kramer, Daily · AI Engineer · 21min14s

Se o open source está em crise, o que está nascendo no lugar? Kwindla Kramer, CEO da Daily, propõe uma analogia: agentes de IA hoje estão para o software nativo de IA assim como páginas web em 1995 estavam para a internet que viria. Ninguém em 1995 sabia o que a web ia se tornar. A gente também não sabe que forma o software construído em torno de agentes vai assumir.

Kramer recua até 1945, quando Vannevar Bush descreveu interfaces de voz, reconhecimento óptico de caracteres e algo parecido com uma GoPro. As fundações conceituais para a era da inteligência existem há oitenta anos. O salto atual, segundo ele, é dar aos agentes acesso progressivo a ferramentas. Sistemas multimodais que deixam de ser assistentes passivos e passam a operar em nível organizacional. A peça que falta ainda não tem nome.

Modelos que não congelam

8 Predictions for the Era of Continual Learning · Dwarkesh Patel · 8min38s

A terceira frente atinge o núcleo dos modelos. Dwarkesh Patel argumenta que treinar um modelo e congelar seus pesos equivale a ensinar alguém a ler partitura sem nunca deixar a pessoa tocar o instrumento. Conhecimento teórico, por mais sólido, não substitui a prática acumulada.

Se modelos passarem a aprender de forma contínua após a implantação, algo que a indústria já discute, as avaliações de segurança feitas antes de o modelo entrar em produção perdem validade. Um modelo que atualiza os próprios pesos em produção é um alvo em movimento para qualquer teste estático. O alinhamento técnico precisa focar em manter valores estáveis mesmo quando o aprendizado não para. E a diversidade de “mentes” de IA, cada uma aprendendo com contextos diferentes, vai exigir formas novas de governança e interoperabilidade.

Estamos no meio da troca. O velho ainda funciona, o novo ainda não tem forma, e ninguém sabe quanto tempo essa sobreposição vai durar.