Due diligence de fornecedores de IA: critérios técnicos, contratuais e registro de evidências
A contratação de soluções de inteligência artificial de terceiros exige um processo formal de avaliação para mitigar riscos operacionais, regulatórios e de segurança. A organização contratante permanece responsável perante clientes, titulares de dados e órgãos reguladores pelas decisões tomadas ou apoiadas por esses sistemas. Definir critérios técnicos e cláusulas contratuais específicas permite delimitar responsabilidades e formar o dossiê de evidências indispensável para a governança contínua.
Definição do escopo de uso e triagem preliminar de risco
A avaliação de fornecedores de IA deve começar pela delimitação precisa da finalidade do sistema dentro da organização. Ferramentas comerciais com capacidades generativas ou analíticas costumam ser apresentadas com múltiplos casos de uso, mas o nível de exposição jurídica e operacional varia conforme o contexto de aplicação, o volume de dados tratados e o grau de autonomia concedido à tecnologia.
Antes do envio de questionários extensos ao fornecedor, a equipe responsável pela solicitação interna precisa categorizar a criticidade da operação. Casos de uso que impactam diretamente direitos de pessoas físicas, decisões de crédito, processos seletivos ou operações essenciais demandam escrutínio mais detalhado do que ferramentas de apoio operacional sem acesso a dados sensíveis.
Essa triagem preliminar alinha as expectativas entre as áreas de negócios, segurança da informação, privacidade e compras, permitindo calibrar o nível de exigência documental de acordo com os riscos intrínsecos de cada contratação.
- Finalidade específica e objetivos de negócio da ferramenta de IA.
- Natureza dos dados de entrada, incluindo identificação de dados pessoais ou segredos de negócio.
- Grau de autonomia decisória atribuído ao sistema em relação à supervisão humana.
- Impacto potencial decorrente de eventuais saídas incorretas, imprecisas ou discriminatórias.
Critérios técnicos sobre dados, treinamento e desempenho
A investigação técnica de ferramentas de terceiros precisa esclarecer como o modelo foi construído, mantido e ajustado. É comum que fornecedores de IA utilizem dados submetidos pelos próprios clientes para aprimorar modelos centrais, prática que pode violar obrigações de confidencialidade e a legislação de proteção de dados caso não haja autorização expressa e mecanismos técnicos de isolamento.
A equipe de tecnologia deve exigir informações sobre a política de retenção dos dados inseridos no serviço via interface ou interface de programação de aplicações (API). Torna-se indispensável verificar se os dados trafegados permanecem retidos para fins de moderação, por quanto tempo ficam armazenados e se há garantias contratuais de segregação lógica entre ambientes de diferentes clientes.
Adicionalmente, deve-se verificar como o fornecedor mensura a acurácia, monitora o fenômeno de alucinação e trata o viés algorítmico. Embora muitas soluções operem sob regime de código proprietário, o fornecedor deve ser capaz de descrever as diretrizes de governança aplicadas ao treinamento e a periodicidade das atualizações do modelo.
- Confirmação expressa de que entradas e saídas não são utilizadas no treinamento de modelos compartilhados.
- Prazos e políticas de retenção temporária de logs e prompts de usuários.
- Mecanismos de isolamento lógico entre inquilinos na infraestrutura do fornecedor.
- Processos de detecção e correção de vieses, inconsistências e vulnerabilidades do sistema.
Salvaguardas contratuais e distribuição de responsabilidades
Os contratos padrão oferecidos por fornecedores de IA frequentemente contêm cláusulas de isenção de responsabilidade sobre a exatidão das respostas e a adequação do produto para fins específicos. Para proteger a organização, a equipe jurídica deve negociar termos aditivos que distribuam as responsabilidades de maneira compatível com o risco da operação.
O instrumento jurídico precisa contemplar disposições claras sobre a conformidade com a Lei Geral de Proteção de Dados Pessoais (LGPD), determinando os papéis de controlador e operador para cada fluxo de tratamento. Devem constar prazos específicos para a notificação de incidentes de segurança, obrigações de cooperação no atendimento a solicitações de titulares e regras estritas para a subcontratação de terceiros envolvidos no processamento da IA.
Outro ponto central reside na obrigação de comunicação prévia sobre mudanças substanciais no modelo. Alterações arquiteturais, substituição de modelos subjacentes ou modificações drásticas em políticas de moderação podem alterar o comportamento do sistema sem que a contratante perceba, desvirtuando os controles previamente homologados.
- Cláusula de notificação prévia obrigatória antes de alterações relevantes no modelo ou em suas diretrizes.
- Obrigação de suporte e cooperação técnica em auditorias ou requisições de autoridades competentes.
- Responsabilidade e procedimentos detalhados em casos de incidentes de vazamento ou corrupção de dados.
- Direito de rescisão sem penalidade em caso de alteração unilateral de termos de privacidade ou uso de dados.
Segurança da informação e dependência de infraestrutura
A segurança da cadeia de suprimentos de software atinge maior complexidade com a inteligência artificial. Fornecedores de IA dependem habitualmente de camadas adicionais de serviços, como provedores de nuvem para hospedagem de inferência e bibliotecas de código aberto, criando pontos de falha que escapam ao controle direto da contratante.
A avaliação de segurança deve analisar relatórios independentes de auditoria, históricos de testes de intrusão e as práticas de gerenciamento de identidade e acessos implementadas pelo parceiro. A forma como o fornecedor lida com vulnerabilidades emergentes em inteligência artificial, como injeção de prompt e exfiltração de contexto, precisa estar documentada.
É necessário também avaliar o plano de continuidade de negócios e a viabilidade de saída da solução. Caso o fornecedor encerre atividades, altere preços bruscamente ou enfrente indisponibilidade prolongada, a organização precisa ter mecanismos definidos para exportar históricos, dados e metadados, assegurando a transição para alternativas operacionais sem perda crítica de informação.
Montagem do dossiê de evidências e ciclo de revisão contínua
A homologação de um fornecedor de IA gera valor regulatório duradouro apenas se acompanhada da formalização das evidências coletadas. O processo de due diligence deve resultar em um dossiê estruturado, arquivando todas as respostas técnicas, termos de serviço vigentes na data da assinatura, avaliações de impacto e aprovações formais das lideranças responsáveis.
Esse repositório documental comprova a diligência e a boa-fé da organização caso surjam questionamentos regulatórios, processos judiciais ou auditorias internas. O registro de evidências conecta a análise inicial aos controles implementados, fechando o ciclo de governança institucional.
Por fim, a due diligence não constitui um procedimento estático. Sistemas de IA evoluem continuamente, exigindo que as avaliações sejam revisadas periodicamente. A organização deve estabelecer ciclos de reavaliação anual ou gatilhos operacionais que disparem nova análise sempre que houver mudança de versão de modelo, expansão do caso de uso ou incidentes relevantes reportados pelo mercado.
- Termos de uso, políticas de privacidade e acordos de nível de serviço vigentes arquivados.
- Questionário de due diligence assinado pelo responsável técnico ou legal do fornecedor.
- Relatório de análise de risco e deliberação formal do comitê de governança ou área responsável.
- Cronograma definido para reavaliação periódica do fornecedor e de seus controles.
Perguntas frequentes
Por que a contratante responde por falhas decorrentes de fornecedores de IA?
Perante a legislação brasileira, a relação de consumo e as obrigações de proteção de dados vinculam primariamente a entidade que disponibiliza o serviço ou toma decisões com base nele. Mesmo que a falha tenha origem técnica no modelo do fornecedor, a empresa contratante permanece responsável perante clientes, titulares e órgãos reguladores pelos impactos gerados por sua escolha operacional.
Como comprovar que os dados institucionais não estão sendo usados para treinar o modelo de terceiros?
A comprovação requer uma combinação de garantias contratuais e configurações técnicas. Do ponto de vista contratual, exige-se declaração expressa de que os dados submetidos não serão reutilizados para treinamento. Do ponto de vista técnico, guarda-se a documentação das opções de configuração ativadas, termos de serviço de nível corporativo e políticas formais de retenção publicadas pelo fornecedor.
Qual a diferença entre a homologação de um software tradicional e a de um fornecedor de IA?
Enquanto softwares tradicionais operam com regras determinísticas e saídas previsíveis, sistemas de IA exibem comportamento probabilístico, sujeito a desvios, alucinações e vieses contextuais. Além dos requisitos convencionais de segurança cibernética, a avaliação de fornecedores de IA precisa verificar a qualidade dos dados de origem, a supervisão humana necessária e a estabilidade das respostas ao longo do tempo.
Quais evidências mínimas devem ser arquivadas após a due diligence de IA?
A organização deve arquivar os termos contratuais assinados, os registros das configurações de privacidade adotadas, as respostas formais do fornecedor aos questionários técnicos e o parecer de risco elaborado internamente. Esses elementos compõem o dossiê que justifica a decisão de adoção e fundamenta futuras auditorias ou fiscalizações.