Como organizar a arquitetura de IA de um produto
Separe interface, dados, modelo, ferramentas e observação. Um exemplo de triagem de pedidos mostra onde validar respostas e controlar ações.
Um botão “resumir com IA” parece uma pequena integração. Mesmo assim, alguém precisa de decidir que dados são enviados, onde fica a resposta, o que acontece se demorar e como corrigir um resumo errado. A arquitetura começa aí, antes da lista de bibliotecas.
Considere um exemplo hipotético: um SaaS de apoio quer sugerir categoria e prioridade para novos pedidos. A primeira versão pode mostrar uma sugestão ao operador sem alterar automaticamente o registo. Isso reduz as ações que a integração precisa de controlar.
Desenhe uma solicitação completa
A interface pede a classificação e indica se está em espera, em execução ou concluída. O backend verifica o acesso ao pedido, reúne apenas os dados necessários e chama o modelo. A resposta é validada antes de surgir como sugestão utilizável.
Se o modelo devolver uma categoria inexistente, formato inválido ou explicação sem apoio no pedido, o sistema deve tratar a situação. O sucesso da API não torna automaticamente válidos os dados devolvidos.
Separe sugestão e execução
Quando o operador aceita a sugestão, a atualização deve passar pelas mesmas permissões e verificações de uma edição manual. O servidor continua responsável pela regra de negócio. Uma instrução no texto do pedido não pode conceder acesso extra.
Se depois houver um agente com ferramentas, disponibilize operações pequenas e claras. A orientação da Anthropic sobre ferramentas recomenda começar por operações definidas e avaliá-las em tarefas concretas. Consultar disponibilidade é mais controlável do que permitir qualquer consulta.
Trate espera e repetição como parte do percurso
A classificação pode demorar mais do que o esperado. Mostre o estado e permita continuar o trabalho. Para tarefas longas, considere execução em segundo plano com um identificador de resultado, em vez de deixar a página à espera indefinidamente.
Defina limites de tempo e tentativas. Solicitações repetidas não devem criar resultados concorrentes sem indicar qual vale. Se existir efeito externo, registe a execução para evitar repeti-lo ao recuperar uma falha.
Observe o que a pessoa consegue concluir
Registe modelo, configuração, duração, falhas de validação, utilização e custo quando disponíveis. Os registos não devem tornar-se outra cópia indiscriminada dos dados dos clientes. Guarde o necessário para investigar e avaliar.
Acompanhe também aceitação e correção. Um resumo rápido pode aumentar o trabalho se o operador tiver de reabrir todo o histórico para confirmar. A medida útil inclui esse esforço e o tempo da API.
Acrescente componentes com uma razão
Pesquisa documental, filas, armazenamento vetorial e vários modelos podem ajudar. Cada componente deve resolver um problema observado e ter responsável pela manutenção. Na triagem, comece pelo fluxo mínimo que permita medir qualidade e corrigir erros.
Use a avaliação de modelos para SaaS para escolher a geração. Antes de ampliar ações, reveja os limites e responsabilidades dos agentes.
Sobre o autor
Tiago F SantiagoComentários
Ainda sem comentários
Partilhe uma dúvida ou experiência relacionada com o artigo.
Artigos relacionados
