Um agente de código pode ignorar um aviso e apagar dados. Uma equipe pode construir uma ferramenta parecida com a de quem passou anos no projeto. Os vídeos de Jiachen Jiang e Hariprasad Sudharshan tratam de problemas diferentes, mas apontam para uma distinção útil: produzir código mais depressa não resolve as decisões que cercam esse código.
O aviso no chat não limita o acesso
Jiang usa o caso público da Replit, em que um agente apagou dados de produção, para separar instruções de controles efetivos. Se o agente tem credenciais e acesso à base, um pedido para não tocar nela não impede a operação. Ele recomenda ambientes isolados, credenciais de curta duração e registros fora do alcance do agente. Esses controles reduzem o alcance de uma falha; nenhum deles garante, por si só, que a ação autorizada seja correta.
Your AI Isn’t the Problem. Your Infrastructure Is. — Jiachen Jiang · AI Engineer · 31min30s
Construir depressa não basta para ser diferente
Sudharshan conta que, ao longo de dois anos construindo aplicativos, desenvolveu uma calculadora e encontrou ferramentas semelhantes criadas por outras pessoas. Chama esse ponto de partida comum de “mediana”: quando modelos e ferramentas estão disponíveis para muita gente, soluções parecidas podem surgir sem que ninguém tenha copiado ninguém.
A proposta dele é definir, antes de construir, qual aspecto do produto merece ser diferente. Uma demonstração funcional pode ser útil para uso interno ou aprendizado, mas não prova que haja uma vantagem duradoura. Para avaliar um projeto, vale perguntar quem já resolveu o problema, o que a equipe tem de particular e como a ferramenta chegará a quem vai usá-la.
I Spent Two Years Building the Median — Hariprasad Sudharshan · AI Engineer · 36min11s
O agente precisa de limites técnicos para operar; o produto precisa de uma razão para existir além da velocidade com que foi construído.