A resposta marcada como correta nesse exercício se aplica a conhecimentos institucionais, como regras, contratos, FAQs e políticas internas, em que a pergunta do usuário dificilmente vai bater exatamente com o texto dos documentos.
Para o caso concreto de buscar dados sobre a conta dos próprios clientes, no mundo real, essa não é uma boa abordagem, porque viola a privacidade, expondo seus dados pessoais em um banco que não é feito para proteger dados sensíveis e, portanto, está sujeito a queries maliciosas/prompt injection. Sem falar que dados como extrato de conta, por exemplo, mudam o tempo todo: a fonte da verdade tem que ser o sistema onde a conta é mantida, não um banco vetorial externo.
A solução mais adequada aqui chama-se tool use: o agente é provido com acesso às ferramentas necessárias para buscar as informações solicitadas pelo cliente. No caso de um extrato da conta, ele tem acesso direto ao sistema do banco, obtém o extrato mais recente, e pode responder com base nisso. Continua sendo eficiente porque ele não precisou consumir um monte de outras informações, foi direto na fonte.