Escrever um objetivo para um agente não resolve como saber se ele o cumpriu. A dúvida reaparece quando a entrada são prontuários contraditórios ou quando alguém tenta afirmar que um sistema de IA é seguro. Três apresentações tratam dessa mesma distância entre intenção e prova, cada uma em uma etapa do trabalho.
Um contrato para o trabalho do agente
Stop Telling Agents How · Dan Barrett, Raymond Weitekamp e Jose Montes de Oca / AI Engineer · 49min35s
A equipe do OpenProse propõe declarar em arquivos Markdown o resultado esperado de um fluxo com vários agentes, em vez de escrever cada passo que deverão seguir. A apresentação mostra tarefas acionadas por eventos e a comparação de execuções com o contrato. O formato ajuda a registrar intenção e reaproveitar processos, mas os próprios apresentadores reconhecem um limite: se o agente afirma que cumpriu o contrato, essa declaração ainda precisa de conferência externa. Autonomia sem critério independente apenas desloca a dúvida para o fim da execução.
Documentos corretos antes de qualquer decisão
Insurance Claims Are AI’s Messiest Data Problem · Denys Linkov, Wisedocs / AI Engineer · 44min30s
Linkov fala especificamente de sinistros médicos. Um processo pode juntar digitalizações ruins, páginas duplicadas, registros de pacientes diferentes e diagnósticos que não concordam entre si. Sua equipe usa IA para extrair e relacionar documentos, mas precisa identificar lacunas e manter revisão humana. O resultado de uma busca bem redigida não resolve um prontuário incompleto. A palestra apresenta a experiência de uma fornecedora de tecnologia para seguros, não um desempenho comprovado para todas as operadoras.
Segurança pede evidência, não só cenários
AI Safety Fact vs. Fiction · YC Paper Club / Y Combinator · 1h37min
O debate tenta separar incidentes observáveis de previsões dramáticas sobre IA. Os participantes discutem afirmações que possam ser testadas, testes de estresse adaptativos, raciocínio formal e investigações independentes após falhas. São métodos e posições apresentados no encontro, não um consenso sobre quais riscos futuros têm maior probabilidade. A pergunta útil para quem implanta sistemas hoje é mais restrita: que evidência permitiria detectar um erro e que registro ajudaria a explicar suas causas?
Especificar o resultado, conferir os dados e investigar falhas são trabalhos diferentes. Um agente não deve aprovar sozinho os três.