Projeto de AI Agent da Yuanta Securities: relato do desenvolvimento real de um serviço com LLM

1. Introdução: em 2025, o grande tema da indústria de IA é “Agent”, e isso reforça a necessidade de sistemas mais avançados, indo além da abordagem tradicional de chatbots centrados em RAG.

2. Apresentação do projeto (serviço de chatbot de IA da Yuanta): superando altas barreiras de entrada, como os requisitos de segurança do setor financeiro, foi desenvolvido um chatbot com recursos de análise de investimentos baseados em IA, que acabou sendo selecionado como um serviço financeiro inovador.

3. Levantamento de requisitos e uso de classificação de intenções: os requisitos do serviço foram ajustados com base na análise de dados reais de perguntas dos usuários, e foi criada uma estrutura de monitoramento baseada em Function Calling para a melhoria contínua do LLM.

4. Técnica de Function Calling: para complementar as limitações do RAG, foi utilizado Function Calling como forma de processar dados em tempo real, mas foi necessário superar dificuldades relacionadas à integração de múltiplas funções e à execução correta das chamadas.

5. Engenharia de prompt e perspectiva operacional: destaca-se que o design de prompts e o gerenciamento de versões são essenciais para otimizar o desempenho do LLM, e que estratégias operacionais voltadas à redução de custos e ao fortalecimento da segurança são indispensáveis.

[moderator]

Foi movido por não se adequar ao Show GN.
Consulte o guia de uso do Show e publique novamente.