Gostaria de saber se é seguro executar tarefas no chatgpt que envolva dados sigilosos de uma empresa. Por exemplo: se eu programa a IA a realizar uma pesquisa na base de dados da empresa, ha algum risco desses dados serem vazados pela llm? Tipo, ela aprende esses dados e depois se alguem de fora da empresa quiser saber alguma informação ela informar?
hoje, com a Alura e o Google Gemini
Olá, Wesley!
Essa é uma dúvida muito importante quando falamos sobre o uso de modelos de linguagem como o ChatGPT em ambientes que lidam com dados sensíveis.
No caso do ChatGPT, a OpenAI tem políticas de privacidade e termos de uso que controlam o armazenamento de dados, mas sempre vale a pena revisar os termos de serviço/uso de qualquer ferramenta que você use.
Cada dia que passa isso é melhor regulamentado, mas é sempre uma boa prática caso precise mesmo, é usar a IA dentro de um ambiente controlado, onde você tem controle total sobre os dados, como quando utiliza soluções com instalação local ou APIs que não armazenam dados após o processamento.
De toda maneira, não há risco de o modelo "aprender" ou "divulgar" dados de forma autônoma para outros, mas a responsabilidade sobre a segurança e privacidade dos dados compartilhados ainda recai sobre quem os utiliza, de maneira geral sabia manusear a capacidade da IA com aquilo que voce pode fornecer ou não para a mesma.
Espero ter ajudado e bons estudos!