Plataformas de mensagens seguras, como Signal, WhatsApp e, recentemente,Texto: criptografado RCSOs TEEs existem para servir a muitas funções diferentes, desde a gestão de direitos digitais (DRM) até a proteção de conteúdo e o armazenamento seguro de informações no seu carteira móvel do telefone, mas, para os nossos propósitos, nos concentraremos em como as empresas de tecnologia os utilizam para suas ferramentas de IA.
A ideia básica é simples: a maioria dos dispositivos de consumo não é poderosa o suficiente para lidar com os tipos de recursos de IA que as empresas querem oferecer, então, às vezes, elas enviam dados do seu dispositivo para servidores em nuvem mais poderosos para fazer os cálculos, e depois exibem os resultados no seu dispositivo. Como seus dados estão saindo do seu dispositivo, há uma comprometimento de privacidade. Por exemplo, se você pedir a um aplicativo de mensagens para resumir uma conversa, ele pode transferir esse poder computacional para um servidor em nuvem, enviando todo o conteúdo das suas mensagens para a nuvem e, depois, de volta ao seu telefone.
Os TEEs supostamente oferecem uma maneira de manter esses pedidos privados. Existem várias implementações disponíveis, como o Private Cloud Compute da Apple.
Os TEEs do lado do servidor podem realmente proteger os dados contra acesso não autorizado? Ou eles apenas adiam o problema, transferindo o risco para outro lugar?
Com os TEEs, as empresas podem garantir que os dados sejam processados de forma segura e privada, sem expor os usuários a riscos adicionais?Computação em Nuvem PrivadaDo GoogleComputação AI Privadae do WhatsAppProcessamento Privado. Não é apenas os grandes jogadores da tecnologia, nósvimos chatbots construídos com TEEstambém.
Os TEEs podem oferecer mais segurança e privacidade do que simplesmente rodar em claro, mas são fundamentalmente diferentes da criptografia real ou de rodar localmente. Apesar das promessas de algumas empresas de tecnologia, elas nunca serão capazes de igualar esse nível de segurança e privacidade. Por isso, o dispositivo do usuário nunca deve enviar dados automaticamente para um TEE. Vamos explorar os motivos.
O que exatamente é um TEE, afinal?
Um TEE (Trusted Execution Environment, ou Ambiente de Execução Confiável) é uma seção reforçada do computador que executa softwares de maneira que deve ser secreta até mesmo para outros processos em execução na máquina. Os TEEs também permitem que os usuários verifiquem que o código em execução é o código que eles acreditam estar executando, e não um código com backdoor, usando um processo chamado "atestação". Você também pode ter ouvido falar disso como um "enxame seguro" ou das marcas SGX ou TrustZone.
A intenção de um TEE baseado em nuvem é simples: uma empresa pode executar um servidor em seu data center, mas ainda processar dados que você fornece em seu nome sem que elas próprias possam ver essas informações.
Um TEE é seguro?
Na prática, vimos várias rachaduras e hacks a cada ano que mostram que é possível acessar esses dados. Isso ocorre porque, enquanto a criptografia depende da matemática, os TEEs dependem da engenharia para fornecer sua segurança. Os algoritmos de criptografia padrão são criados por processos colaborativos de anos de duração, produzidos por matemáticos de todo o mundo e baseados em problemas estudados há décadas. A matemática é confiável, e não há atalho para quebrá-la que também não desestabilizaria as compreensões fundamentais da matemática como campo.
O entendimento coletivo de todos os matemáticos do mundo é que os algoritmos de criptografia padrão não são quebráveis, dentro do conhecimento coletivo mundial. Nenhum engenheiro responsável constrói um sistema baseado em um novo método de criptografia antes de oferecê-lo para ser testado.
A engenharia, por outro lado, não funciona assim. Cada sistema individual é o produto de um grupo de engenheiros que o colocam no mundo, e cada produto terá suas próprias peculiaridades e bugs que precisam ser descobertos e corrigidos individualmente. Esses bugs são encontrados após a construção do sistema, não antes. Ninguém construiu ainda um sistema que seja invulnerável. Pelo contrário, há novas pesquisas o tempo todo que encontram novas maneiras de invadir sistemas TEE. Eles são corrigidos conforme surgem, mas é improvável que se tornem perfeitos, e certamente não em um futuro próximo.
Os TEEs, em particular, são um problema de engenharia difícil porque a chave de criptografia está fisicamente lá no dispositivo. Construir um TEE significa manter a chave completamente separada e inacessível enquanto está no mesmo dispositivo físico que partes do sistema que não deveriam ter acesso à chave.
Muitos ataques contra TEEs envolvem "canais laterais". Em um ataque por canal lateral,O agressor mede os impulsos elétricos.Dito isso, um TEE versus texto simples em um servidor é a diferença entre conseguir ler os dados facilmente e ter que realizar um monte de trabalho especializado para acessá-los. Esse trabalho frequentemente envolve acessar a máquina física. Isso é mais relevante para proteger contra vigilância em massa, e para muitas pessoas, isso pode ser suficiente em termos de segurança.
Mas isso é o cerne do problema. "Seguro o suficiente para a maioria dos casos" e "criptografado como em matemática" não são a mesma coisa, e é importante não confundir os dois. E os serviços que atualmente oferecem "criptografia como em matemática" têm uma verdadeira degradação de segurança ao mudar para a segurança baseada em TEEs.
Se você quiser mergulhar nas inúmeras questões de segurança e limitações dos TEEs que vimos até agora, elas estão bem documentadas aqui.
Os ataques por canal lateral contra TEEs são bem conhecidos por explorarem vulnerabilidades em componentes de hardware específicos, como o processador ou a memória.
Os TEEs ainda estão em desenvolvimento e têm limitações significativas em termos de segurança e desempenho.here, Aqui, AquiEAqui.
O que isso tem a ver com LLM e IA?
Às vezes, organizações querem oferecer um LLM que possa responder a consultas de forma privada. Existem LLMs no dispositivo, mas eles são limitados em tamanho. Então, quando as organizações querem oferecer a capacidade de responder a consultas sem poder ver a conversa, elas recorrem aos TEEs. Isso é uma maneira útil de executar um chatbot que seja razoavelmente privado. É o que Apple, Google, WhatsApp e outros estão fazendo.
Por que não recorrer à criptografia? Afinal, a inferência de LLM é apenas um monte de matemática, como qualquer outra coisa que um computador faz. Ele leva uma entrada para uma função (muito grande) e produz uma saída. Nós temos a matemática para realizar esse cálculo de uma forma que esconde as entradas e saídas da pessoa que está executando o cálculo, é só extremamente caro. É chamado de criptografia homomórfica, e ninguém ainda descobriu como fazê-lo rápido o suficiente para que faça sentido para esse tipo de cálculo.
Em vez disso, o atrativo de um TEE é que ele executará esse cálculo para você dentro de uma seção opaca especial de um servidor. Os fabricantes de TEE tentam tornar o mais difícil possível para a pessoa que está executando o TEE espiar dentro. Mas você ainda precisa confiar no operador para não colocar um estetoscópio na caixa para tentar descobrir o que está acontecendo lá dentro.
Neste caso, é razoável considerar esses sistemas como "respeitadores de privacidade", mas não "criptografados". Essa distinção é importante, especialmente quando falamos sobre como os TEEs interagem com mensagens seguras. Quando alguém usando um aplicativo de chat criptografado de ponta a ponta pede a um LLM para resumir, revisar ou armazenar essas mensagens, o conteúdo delas está deixando o dispositivo e indo para um servidor de terceiros não criptografado em algum lugar. Isso representa uma ameaça significativa à privacidade dos aplicativos de chat seguros, e é cada vez mais difícil para os usuários assumirem o controle disso.
Como isso se traduz em conselhos práticos?
A resposta varia de acordo com o modelo de ameaça individual, mas uma boa regra geral é que o dispositivo do usuário nunca deve enviar dados automaticamente para um TEE. Quando a pessoa que possui o telefone pode escolher quais informações são enviadas, mesmo que seja um pedaço de dados como "mensagens não lidas", elas têm a oportunidade de pausar e considerar se esses dados podem ser muito sensíveis para correr o risco de serem enviados.
Em contraste, quando os dados são enviados automaticamente, o envio automático se torna uma característica do sistema como um todo. Se o sistema era anteriormente criptografado de ponta a ponta, adicionar a exfiltração automática torna todo o sistema não mais criptografado de ponta a ponta.
Desenvolvedores:Não construam sistemas que enviem automaticamente dados de um dispositivo para um TEE, especialmente quando eles vêm de um aplicativo que é de outra forma criptografado de ponta a ponta.
Usuários:Se os desenvolvedores ignorarem nós e construírem esse sistema,Virar DesligarQualquer recurso de envio automático de dados. Tire um segundo para pensar em quanto você está disposto a arriscar ao enviar dados quando optar por enviá-los fora do dispositivo.
Então, Sobre o que devo estar preocupado?
As TEEs (Unidades de Execução Confidencial) são úteis para segurança em várias circunstâncias. Seu telefone provavelmente possui uma TEE onde ele guarda a chave que criptografa os dados de desbloqueio biométrico e a base do chaveiro onde as senhas são armazenadas. Também habilita certos sistemas de backup, como como você pode restaurar um telefone com seu código de acesso ou restaurar backups do WhatsApp ou Signal.
Mas quando falamos de processamento em nuvem, é importante esclarecer que isso não é o mesmo que criptografia de ponta a ponta e não oferece o mesmo nível de privacidade.
Grande parte de nossas vidas privadas está em nossos telefones e mensagens. Trabalhamos por anos para proteger essas mensagens, com grandes conquistas como o RCS criptografado, e as contínuas melhorias na experiência do usuário do Signal e do WhatsApp. Até vimos melhorias reais na segurança de backup comrecursos como Proteção Avançada de Dadosque trazem criptografia de ponta a ponta para vários tipos de dados fora do mensagens, como notas e fotos.
Mas à medida que as empresas lançam recursos de IA que interagem com esses serviços criptografados, puxando dados de dispositivos e para um TEE baseado em nuvem, elas estão erosando as proteções de privacidade da criptografia de ponta a ponta e correm o risco de causar confusão séria sobre quais dados estão protegidos e quais não.