Libere dados de clientes para um piloto de IA somente depois de verificar, por escrito e em teste, três controles de fundação: retenção zero no provedor de LLM, mascaramento ou tokenização de PII antes do modelo e default de não uso dos dados para treinar modelos ou enriquecer registros de terceiros. Se um dos três não for demonstrável, o piloto não escala e fica restrito a dados agregados ou não pessoais. A decisão não é escolher uma feature de confiança; é separar “trust” como valor de marca de controles arquiteturais e contratuais que alguém consegue mostrar.
O mecanismo por trás dos três controles
Retenção zero significa que o payload enviado ao provedor não fica armazenado além da execução. Mascaramento ou tokenização significa que nome, e-mail, telefone e outros identificadores são substituídos antes de chegar ao modelo, com remapeamento na volta. Default de não uso significa que os dados não treinam modelos nem enriquecem registros de terceiros, salvo decisão explícita em contrário. A Salesforce afirma que, antes de qualquer dado chegar ao modelo de linguagem, a camada de confiança detecta e mascara informações sensíveis, substituindo campos por tokens. A Salesforce também afirma que os registros de CRM não são compartilhados nem usados para enriquecer o banco de outra organização. São orientações úteis para redigir a exigência, não uma garantia de que qualquer fornecedor entrega o mesmo. Na prática, o default precisa aparecer no contrato e no painel: se a opção de treino ou enriquecimento vem ligada por padrão, o controle não é default de não uso.
Um teste hipotético com nome, e-mail e telefone
Monte um registro sintético — por exemplo, “Marina Alves”, “[email protected]” e “(11) 90000-0000” — e envie ao piloto uma tarefa que use esse registro. Verifique três coisas. Primeiro, se o modelo recebe apenas tokens no lugar dos campos pessoais; se o prompt chega com o e-mail em texto claro, o controle falhou. Segundo, se o log do provedor não retém o payload; se a retenção aparecer no painel ou no contrato, o piloto fica restrito a dados agregados. Terceiro, se há declaração contratual de que o dado não será usado para treinar modelos nem enriquecer registros de terceiros. Alternativa prática: se o fornecedor só oferece mascaramento depois do prompt, troque o fluxo para tokenização antes do envio ou use dados não pessoais. Critério reproduzível: os três controles passam no mesmo teste; qualquer falha impede a escala.
O limite da evidência e a decisão de escala
Documentação do fornecedor não prova conformidade legal, segurança real nem ROI. O teste acima verifica o que foi documentado e o que o piloto executa; não substitui auditoria independente, teste de penetração ou revisão jurídica. O mesmo vale para um fornecedor que só apresenta certificações genéricas: elas não respondem se o payload específico foi retido ou usado. A conclusão também não vale quando o caso de uso já opera apenas com dados agregados ou não pessoais, porque os três controles perdem centralidade. Em um piloto com dados pessoais, porém, a regra é binária: sem retenção zero demonstrável, sem mascaramento antes do modelo e sem default contratual de não uso para treino ou enriquecimento de terceiros, a marca não escala. Pode manter o experimento em ambiente restrito, com registro sintético e saída revisada, até que os três controles sejam demonstráveis. A decisão de escalar vem depois, e não no lugar, da prova.
Fontes
- Trust Shouldn’t Be a Product Feature. It Has to Be the Foundation.
- Trust Is the Product: How Salesforce Thinks About Data in the AI Era
Para aprofundar
- Zero-Party Data: Como Obter Dados Que Seus Clientes Querem Te Entregar
- Análise de Sentimento: Compreendendo Clientes através de Dados
Sinal / Crescimento & Receita. Texto produzido com auxílio de IA e revisão editorial automatizada.