No ano passado, a Apple lançou um esquema semelhante, conhecido como Private Cloud Compute, para sua plataforma Apple Intelligence AI. Os usuários podem ativar o serviço no aplicativo de comunicação criptografado de ponta a ponta da Apple, o Messages, para gerar resumos de mensagens e compor mensagens “Smart Reply” em iPhones e Macs.
Comparar o Private Cloud Compute e o Private Processing lado a lado é como comparar maçãs e laranjas. O Private Cloud Compute da Apple é a base de toda a Apple Intelligence onde quer que possa ser aplicado. Já o Private Processing foi desenvolvido especificamente para o WhatsApp e não suporta os recursos de IA da Meta de forma mais ampla. A Apple Intelligence também foi projetada para realizar o máximo de processamento de IA possível no dispositivo e enviar solicitações para a infraestrutura de Private Cloud Compute apenas quando necessário. Como esse processamento “no dispositivo” ou “local” requer hardware potente, a Apple projetou a Apple Intelligence para funcionar apenas em suas gerações recentes de hardware móvel. iPhones e iPads antigos nunca serão compatíveis com a Apple Intelligence.
A Apple é uma fabricante de smartphones e outros dispositivos de alta qualidade, enquanto a Meta é uma empresa de software, com cerca de 3 bilhões de usuários que possuem todos os tipos de smartphones, incluindo dispositivos antigos e de baixo desempenho. Rohlf e Colin Clemmons, um dos engenheiros líderes do Private Processing, afirmam que não era viável projetar recursos de IA para o WhatsApp que pudessem ser executados localmente em todos os dispositivos que o WhatsApp atende. Em vez disso, o WhatsApp concentrou-se em projetar o Private Processing para ser o mais inútil possível para atacantes em caso de violação.
“O design é de minimização de riscos”, diz Clemmons. “Queremos minimizar o valor de comprometer o sistema.”
Todo o esforço levanta uma questão mais básica sobre por que uma plataforma de comunicação segura como o WhatsApp precisa oferecer recursos de IA. No entanto, a Meta é enfática ao afirmar que os usuários esperam esses recursos neste momento e farão o que for preciso para obtê-los.
“Muitas pessoas querem usar ferramentas de IA para ajudá-las ao enviar mensagens”, disse Will Cathcart, chefe do WhatsApp, em um e-mail para a WIRED. “Achamos importante construir uma maneira privada de fazer isso, porque as pessoas não deveriam ter que mudar para uma plataforma menos privada para obter a funcionalidade de que precisam.”
“Qualquer sistema de criptografia de ponta a ponta que use inferência de IA fora do dispositivo será mais arriscado do que um sistema puramente de ponta a ponta. Você está enviando dados para um computador em um centro de dados, e essa máquina vê suas mensagens privadas”, diz Matt Green, um criptógrafo da Universidade Johns Hopkins que revisou algumas das garantias de privacidade do Private Processing, mas não auditou o sistema completo. “Eu acredito no WhatsApp quando eles dizem que projetaram isso para ser o mais seguro possível, e acredito neles quando dizem que não podem ler suas mensagens. Mas também acho que há riscos aqui. Mais dados privados serão enviados para fora do dispositivo, e as máquinas que processam esses dados serão alvo de hackers e adversários estatais.”
O WhatsApp também afirma que, além de recursos básicos de IA, como resumo de texto e sugestões de escrita, o Private Processing, idealmente, criará uma base para expandir para recursos de IA mais complexos e envolventes no futuro, que envolvem processamento e, potencialmente, armazenamento de mais dados.
Como Green coloca, “Dado todas as coisas malucas que as pessoas usam os mensageiros seguros, qualquer uma dessas coisas tornará os computadores de Private Processing um alvo muito grande.”
