É fácil dizer que uma função de IA parece útil. Mais difícil é conseguir que alguém a use sem receber um conselho ruim. As três palestras de hoje olham para esse intervalo entre o que se espera de um sistema e o que ele faz quando encontra pessoas e dados reais.
Interesse declarado não é uso
78% Wanted This AI Feature. Almost Nobody Used It - Supriya Subudhi, Bumble · AI Engineer · 14min44s
Supriya Subudhi conta que quase 78% dos participantes de uma pesquisa gostaram da ideia de receber sugestões sobre fotos no aplicativo Bumble. No teste da função, porém, apenas 10% a 15% a usaram. Mesmo quando o resultado médio pareceu bom, uma leitura das sugestões encontrou erros: a IA pedia que pessoas já sorrindo sorrissem mais. Ela defende observar o uso e examinar as respostas individualmente antes de tomar um teste positivo como sinal suficiente para lançar uma função.
O contexto que ajuda também precisa de limites
Everyone Has the Same AI Models. Here’s What Sets Agents Apart - Richmond Alake, Oracle · AI Engineer · 25min47s
Richmond Alake propõe uma camada para reunir o que o agente sabe, o que deve lembrar e quais dados pode acessar. Ele a chama de “plano de inteligência”. É uma proposta de arquitetura, não uma garantia de que qualquer agente aprenda com segurança ao longo do tempo. A parte interessante é separar memória de permissão: recuperar um dado não deveria, por si só, autorizar seu uso.
Your AI Agent Wants Your Data. Here’s How to Lock It Down - Jeff Smith, Oracle · AI Engineer · 21min39s
Jeff Smith leva essa distinção ao banco de dados. Uma consulta SQL gerada a partir de linguagem natural pode devolver linhas e ainda assim responder à pergunta errada. Para reduzir esse risco, ele sugere deixar o agente escolher entre relatórios com parâmetros e consultas já definidos, em vez de escrever qualquer consulta. O controle de acesso, argumenta, deve existir no próprio banco: uma ferramenta diferente não pode virar um atalho para contorná-lo.
Entre gostar da ideia e confiar no resultado, há trabalho de produto e de engenharia que nenhuma demonstração substitui.