[Projeto] Desafio: organizando o suporte ao cliente - Uma solução com LLM

Proposta de uma solução automatizada de categorização e resposta automática usando LLM, RAG.

Decomposição:

• Entrada de dados: Formulário, chatbot, e-mail por exemplo, canal de voz, definir os canais ou multicanais de entrada das solicitações.
• Processamento dos dados: API de processamento NLP com um LLM para reconhecimento de texto, conversão de voz pra texto, leitura de e-mails, chatbot para direcionamento das respostas ou atendente humano.
• Levantar e definitir quais as categoriaso ou classes de suporte: pagamento, FAQ, Erros etc...
• Levantar e definir quais as prioridade de cada categoria: Alto, médio, baixo por exemplo
• Saída: definir saídas de texto ou voz: se email, responder email em formato padronizado, se chatbot responder o chat de forma natural, se voz responder com audio convertido de texto com a resposta.

obs: Critérios para entradas e saídas vai depender da conversa com o sucesso do cliente e definidir o que é realmente necessário ou o mínimo viavel para ter um ROI.

Identificação de Padrões:

• Em caso de Formulário e chatbot: podemos direcionar títulos através de menus para categorizar.
• Cada resposta pode ser processada de acordo padrões de dados específicos por responsabilidade, por exemplo, dados de pagamento, dúvidas de uso FAQ, Erros comuns, podendo identificar por similaridade em uma base de dados vetorial ou hibrida (busca exata + similaridade) ou graphos de conhecimento, usando por exemplo técnicas de RAG e um LLM para reconhecer, compreender os textos e elaborar respostas considerando a base de conhecimento, caso não seja identificado pode direcionar para um departamento ou humano para analise e resposta. Isso pode ser feito também com agentes sendo cada agente responsavel por uma categoria identificada.
• Identificar o cliente por nome, código alguma informação: que possa permitir levantar histórico de atendimento, histórico de pagamentos, categoria do cliente ( ouro, prata , bronze e assim definir prioridade de atendimento)
• Definição de filas de prioridades o que é resposta automatica e o que deve ser direcionado pra um humano
• Identificar padrões dos textos, emails etc quem é o cliente, qual categoria
• identificar APIs comuns de backend, apis compartilhadas e apis especificas

obs: Critérios para entradas e saídas vai depender da conversa com o sucesso do cliente e definidir o que é realmente necessário ou o mínimo viavel para ter um ROI.

Abstração:

• cada parte da entrada precisa ser identificar estabelecido um mínimo necessário de dados por exemplo: Um titulo claro, nome ou código do cliente, pré seleção de uma categoria, uma descrição do problema, dúvida,
• Definição de API: para receber as entradas de acordo com um contrato, definição das saídas dessa API por exemplo, um texto padronizado, um email, de acordo com a recuperação das bases de conhecimento direcionada claramente para cada tipo.
• Definição das prioridades em filas por categoria por exemplo.
• Categorias: pagamento, FAQ, Erros
• Prioridades: baixo, médio, alto
• Cliente: Ouro, prata, bronze
• Email: endereço (identifica cliente), título, corpo
• Chatbot: Identificação do cliente, categoria selecionada, texto do chat
• Voz: identificação do cliente, categoria selecionada, voz convertida em texto
• APIs para cada categoria
  Templates de contexto para o LLM definidos para cada categoria

Algoritmizar:
Escolha das tecnologias como por exemplo usar LLM (LLAMA, GPT, OPUS etc..)
Base de dados vetorial, grapho ou recuperação exata para o RAG
Base de dados relacional com dados do cliente, chamados, histórico etc..
Orquestração usando por exemplo langchain, python pra criar agente de atendimento que conecte apis e llm, email, chatbot, voz

Interface de Entrada de dados selecionada ( Chat, email, voz)
identifique o cliente ( email, cpf, código)
identifique a categoria do cliente (ouro, prata, bronze)
identifique qual categoria de atendimento ( Dúvida, Pagamento, Erro, FAQ, etc)
Identifique o texto e se necessário categorize automaticamente com interpretação do LLM
direciona para API especifica: chat, email, voz
interpreta o texto e monta o prompt
Faz o RAG e identifica por similaridade de texto as provaveis respostas ( busca hibrida e ranqueamento para melhor precisão)
Elabora resposta
grava na fila ou email ou responde chat, ou responde voz
guarda histórico no CRM e logs
Responde chat, email ou voz
busca confirmação da solução com usuário
Continua ciclo de atendimento se necessário em loop até conclusão ou saída

obs: Esse é só um exercício de como poderia ser, feito pouco mais de 10 min, sem uma conversa com cliente. Ideal seria montar os casos de uso, especificar e definir claramente as entradas, saídas e forma de processamento, de acordo com as necessidaed, orçamento, know how etc, as vezes a solução mais simples atende e não a mais sofisticada.