Samsung (mai/2023): código vaza para o ChatGPT

01 · CONTEXTO

Código interno digitado em uma ferramenta externa

Segundo o memo da Samsung, engenheiros vazaram acidentalmente código-fonte interno ao enviá-lo ao ChatGPT. A empresa passou a proibir o uso de ferramentas de IA generativa como o ChatGPT depois de descobrir esses envios; o objetivo do memo era evitar o envio de dados sensíveis a servidores externos.

1. Segundo o memo, engenheiros enviaram código-fonte interno à ferramenta externa por conta própria, sem nenhum ponto de inspeção no caminho do diagrama.

2. A preocupação descrita no memo é que o texto digitado passa a residir em servidores externos, o que dificulta recuperá-lo e apagá-lo.

3. A fonte deixa em aberto se o código foi apenas digitado ou também inspecionado por alguém de fora; este diagrama mostra só o caminho do envio e nada além disso.

O memo também alertava quem usava essas ferramentas em dispositivos pessoais a não enviar dados da empresa, e dizia que descumprir poderia levar à demissão.

02 · O QUE A FONTE DEIXA EM ABERTO

Risco documentado, detalhes não revelados

O memo não revelou qual era o código e não esclareceu se ele foi apenas digitado no ChatGPT ou se também foi inspecionado por alguém de fora da Samsung.

Uma pesquisa interna da empresa indicou que cerca de 65% dos funcionários ouvidos viam o ChatGPT como uma ameaça séria de segurança.

03 · O PROBLEMA DE ARQUITETURA

Onde o dado sai do controle da empresa

A preocupação do memo era que tudo o que é digitado em uma ferramenta como o ChatGPT passa a residir em servidores externos, o que torna difícil recuperar e apagar esses dados e pode torná-los acessíveis a outros usuários. O texto citava especificamente a inserção de código sensível.

Em termos de projeto, o texto sai do ambiente da empresa no momento em que é enviado; por isso o ponto natural de controle é a fronteira entre o funcionário e o serviço externo. DLP (prevenção de perda de dados) é a família de controles que inspeciona o conteúdo nessa fronteira.

04 · A RESPOSTA DA SAMSUNG

Restringir primeiro, construir o ambiente seguro depois

O memo apresentava a restrição como temporária: a sede revisava medidas de segurança para criar um ambiente seguro de uso de IA generativa, e até elas ficarem prontas o uso estava restrito.

A Samsung não era a única: outras empresas também restringiram a tecnologia, entre elas bancos de Wall Street como JPMorgan Chase, Bank of America e CitiGroup.

05 · COMO DESENHAR O CONTROLE

Gateway corporativo, DLP e a escolha entre SaaS e auto-hospedado

O diagrama a seguir é uma proposta conceitual de quem escreve este estudo, não a arquitetura da Samsung. Ele mostra como um gateway corporativo com filtro DLP pode decidir o destino de cada pedido de IA.

1. Todo pedido de IA sai do funcionário e entra por um único gateway da empresa, em vez de ir direto ao serviço externo.

2. O gateway entrega o conteúdo ao filtro DLP, que o inspeciona antes de qualquer saída da rede da empresa.

3. Conteúdo que o filtro libera pode seguir ao serviço de IA externo.

4. Conteúdo marcado como sensível é desviado para o modelo auto-hospedado e não sai da infraestrutura da empresa.

5. O gateway registra eventos de uso e de bloqueio para auditoria, sem depender de a pessoa lembrar da regra.