A IA está destruindo a internet. A matemática é a nossa única esperança.

Conteúdo gerado por IA costumava ser apenas uma novidade – criando imagens estranhas como papas com seis dedos ou sósias de celebridades realistas, mas falsos. Era principalmente diversão inofensiva. Mas isso mudou drasticamente. O recente conflito no Irã mostrou o quão perigoso isso pode ser: vídeos completamente fabricados de soldados americanos capturados, aviões de guerra iranianos decolando de bases escondidas e estações de radar destruídas se espalharam rapidamente online. Essas falsificações se tornaram virais, foram acreditadas por milhões e circularam amplamente antes que alguém pudesse confirmar que não eram reais.

A internet mudou drasticamente. Costumava nos ajudar a formar opiniões, mas agora muitas vezes nos faz questionar o que é verdade. Essa falta de confiança é um grande problema e afeta muito mais do que apenas informações online.

Brian Trunzo é o diretor de crescimento da Succinct Labs.

Detecção não funciona

É natural pensar que podemos resolver o problema de falsificações geradas por IA criando melhores ferramentas de detecção – essencialmente, usando IA para combater a IA. Mas essa abordagem não funciona bem. Mesmo mudanças simples, como borrar ou distorcer imagens, podem facilmente enganar os melhores detectores, reduzindo drasticamente sua precisão. Isso acontece porque detectar essas falsificações é fundamentalmente difícil, muito parecido com a forma como o software antivírus nunca conseguiu parar completamente o malware: aqueles que criam as falsificações sempre têm uma vantagem.

Mas a falha na detecção é quase irrelevante, porque o problema já superou isso.

A IA ultrapassou a simples criação de texto; agora é capaz de ação independente. Esses sistemas de IA podem navegar na internet, comprar online, publicar informações, negociar entre si e até mesmo se comunicar com pessoas – às vezes crianças – que não percebem que estão interagindo com uma máquina. Se esses sistemas apresentarem mau funcionamento quando usados amplamente, as consequências poderiam ser graves.

Imagine uma IA treinada com informações ligeiramente falhas. Na área da saúde, isso poderia levar a pequenos erros de cobrança que somam milhões em encargos fraudulentos em todo um sistema hospitalar. Da mesma forma, nas compras online, IAs focadas em maximizar o lucro podem descobrir e explorar brechas ocultas nos preços, causando perdas inexplicáveis ​​de bilhões de dólares para as empresas.

Uma borboleta que bate as asas em um conjunto de dados de treinamento causa um tornado na economia real.

Uma vez que uma IA comete um erro, não há um registro claro de como isso aconteceu. Ela não pensa passo a passo; em vez disso, processa informações através de inúmeras configurações ocultas e fornece respostas com base em probabilidades. Como essas configurações estão sempre mudando, você não obterá a mesma resposta exatamente duas vezes. Isso significa que não podemos rastrear de forma confiável seu raciocínio para entender *por que* uma decisão foi tomada – ou até mesmo verificar quais dados ela aprendeu ou quais diretrizes ela seguiu.

Um novo relatório de Stanford destaca um problema chave: a IA está avançando mais rápido do que nossa capacidade de gerenciar seu impacto. Isso é especialmente verdadeiro quando se trata de regulamentação, que está se tornando cada vez mais complexa. Estamos vendo uma enxurrada de propostas tanto no nível federal quanto estadual – mais de 90 recomendações federais e mais de 1.000 projetos de lei estaduais apenas em 2025. No entanto, a maioria dessas regulamentações está focada em IA simples como chatbots, e não estão equipadas para lidar com sistemas de IA mais avançados que podem realizar independentemente tarefas como comprar, vender e tomar decisões.

Simplesmente rotular o conteúdo ou fornecer avisos não é suficiente ao lidar com agentes de IA. Quando esses agentes tomam medidas, qualquer dano já ocorreu. A questão central aqui é garantir que esses sistemas sejam verificáveis antes de operar.

E a verificação requer prova.

A prova nos libertará

Aqui, ‘prova’ significa uma confirmação segura e verificável – não apenas uma declaração ou revelação. É uma garantia imutável de que um sistema de IA desempenhou como descrito, usando entradas específicas e criando certas saídas, tudo sem expor nenhum dos dados originais utilizados.

Como pesquisador, sou fascinado por provas de conhecimento zero, ou provas ZK. Elas permitem que alguém prove que uma afirmação é verdadeira sem revelar nenhuma informação extra – apenas o fato de que *é* verdadeira. Este conceito, primeiramente delineado em um artigo do MIT em 1985, era originalmente considerado uma ideia bonita, mas impraticável. No entanto, por volta de 2016, descobrimos uma aplicação no mundo real: verificar a autenticidade de ogivas nucleares sem revelar seus projetos. Este avanço rapidamente levou à adoção de provas ZK pela tecnologia blockchain, onde agora ajudam a proteger bilhões de dólares em ativos digitais.

Agora, ZK está chegando à IA, onde o problema não é a computação, mas a verdade.

Provas de Conhecimento Zero podem ajudar a verificar se uma foto foi tirada por um dispositivo genuíno em um momento específico e não foi alterada, tudo sem revelar detalhes privados sobre a imagem ou a pessoa que a tirou. Essa capacidade poderia melhorar drasticamente como confiamos nas informações online. No entanto, verificar de onde vêm as mídias é apenas o começo – há muito mais potencial além disso.

Como analista, estou particularmente entusiasmado com o potencial de aplicar provas de Zero-Conhecimento à IA. Podemos usar ZK para criar um sistema onde cada decisão que uma IA toma é verificável – essencialmente um ‘recibo’ para suas ações. Olhando para o upstream, isso ajuda a garantir que os dados usados para treinar esses modelos sejam confiáveis e estejam em conformidade com os regulamentos, tudo sem revelar informações confidenciais. No downstream, podemos vincular criptograficamente os resultados de volta ao processo que os gerou, permitindo a auditabilidade ao mesmo tempo em que protegemos segredos comerciais. Finalmente, ZK permite que pessoas e agentes de IA provem quem são, mantendo a privacidade para todos os envolvidos.

Uma estrutura conceitual para restaurar a confiança online

Nos anos 90, a internet não era muito segura. Era fácil para qualquer um criar um site falso fingindo ser legítimo, e informações confidenciais como senhas e números de cartão de crédito eram enviadas online sem criptografia, o que significava que qualquer um poderia interceptá-las. Essa falta de segurança tornou quase impossível conduzir negócios online de forma confiável.

A solução foi mudar para HTTPS. Os navegadores da web começaram a desconfiar automaticamente de sites, a menos que pudessem verificar a identidade do site com um certificado digital – essencialmente um link verificado entre o endereço do site e suas credenciais de segurança. Sem essa prova, os navegadores exibiam um aviso e, eventualmente, bloqueavam a conexão por completo. A internet se tornou segura não porque as empresas prometeram ser confiáveis, mas porque os navegadores exigiram prova de identidade antes de transmitir qualquer informação confidencial.

Web1 escalou com matemática.

A internet inicial, conhecida como Web2, cresceu rapidamente graças a uma lei chamada Seção 230. Esta lei protegia plataformas como Facebook e YouTube de serem responsabilizadas pelo que os usuários postavam. Foi um bom acordo na época, permitindo o florescimento das mídias sociais. No entanto, este acordo funcionava bem quando as pessoas simplesmente compartilhavam atualizações online – não foi projetado para os poderosos sistemas de IA de hoje que podem tomar ações no mundo real. Agora enfrentamos um novo desafio: se uma IA causar danos, quem deve ser responsabilizado já que não é um ser humano?

Então veio a Web3, um conceito que Chris Dixon descreveu como ‘Read Write Own’ – a ideia de que os usuários controlariam seus dados, os criadores se beneficiariam diretamente de seu trabalho e as plataformas seriam responsáveis perante suas comunidades. Embora a promessa inicial fosse sobre propriedade e descentralização, ela não pegou completamente. A Web3 rapidamente se associou a investimentos arriscados em NFT e, quando esses investimentos perderam valor, a visão mais ampla também sofreu.

A Web3 estava certa em buscar maneiras de passar da confiança para a certeza. No entanto, simplesmente possuir partes da internet não é suficiente, como a IA e os programas automatizados estão nos mostrando. A questão importante não é *quem* controla uma plataforma, mas se você pode *confiar* no que está acontecendo nela. Tokens digitais não são a solução; provas verificáveis são o que precisamos.

À medida que a internet se torna mais proativa e envolve pessoas e IA, precisamos de garantias claras sobre os sistemas com os quais interagimos: quem os criou, quais informações foram usadas para construí-los, quais regras eles seguem e se têm permissão para agir. Essas garantias são cruciais, mesmo – e especialmente – quando esses sistemas são mantidos em segredo por seus proprietários.

A criptografia de conhecimento zero permite que os desenvolvedores essencialmente ‘sele’ informações sobre seus dados de treinamento antecipadamente. Isso cria uma impressão digital criptográfica que permite que as provas ZK verifiquem coisas como a origem dos dados, como foram usados e quaisquer limitações, tudo sem revelar os dados reais em si. Em vez de confiar na confiança, fornece prova verificável.

Isto não é mais apenas uma questão de proteção ao consumidor. É uma questão de segurança nacional.

Deepfakes foram apenas um aquecimento. A verdadeira ameaça é o uso de agentes sofisticados – provavelmente controlados por países estrangeiros – para influenciar diretamente o comportamento americano. Esses agentes podem incluir sistemas automatizados operando em nossos mercados financeiros, interagindo com nossas principais instituições e até mesmo se envolvendo com crianças, tudo sem nenhuma maneira de confirmar sua origem ou autorização. Este problema é corrigível, mas os EUA precisam estabelecer salvaguardas agora, antes que adversários aproveitem as vulnerabilidades existentes.

Para garantir segurança e responsabilização, o Congresso deve determinar que sistemas de IA poderosos – especialmente aqueles que lidam com áreas sensíveis como finanças ou crianças – usem assinaturas digitais seguras e verificáveis. Essas assinaturas confirmariam a identidade da IA, quem é responsável por ela e seus limites operacionais, sem compartilhar detalhes confidenciais. O mesmo princípio deve se aplicar a todas as ações significativas tomadas por esses sistemas de IA. À medida que a IA lida cada vez mais com transações para indivíduos e empresas em velocidades rápidas, cada evento importante – como pagamentos, acordos, negociações ou compartilhamento de dados – deve ser acompanhado por prova de autorização e quaisquer restrições relevantes.

Como investidor em criptomoedas, estou realmente encorajado com o que está acontecendo com as provas de conhecimento zero. O governo dos EUA, por meio do NIST no Departamento de Comércio, está ativamente buscando maneiras de padronizar essa tecnologia como parte de seu programa de Criptografia de Aprimoramento de Privacidade – e isso é enorme! Precisamos pressionar para que eles finalizem esses padrões rapidamente para que se tornem as diretrizes oficiais. Acho que o foco deve ser em responsabilizar as pessoas se elas *não conseguirem* provar algo, em vez de fiscalizar o conteúdo existente. Isso muda a responsabilidade de uma forma que realmente se encaixa com a ética de privacidade e auto-soberania em cripto.

HTTPS nos deu leitura. A Seção 230 nos deu escrita. ZK nos dá prova.

Ler Escrever Possuir Provar.

Como analista, quero esclarecer que as opiniões compartilhadas aqui são minhas e não necessariamente representam as opiniões da CoinDesk, sua empresa controladora ou quaisquer entidades associadas.

Gate lidera os ganhos de participação de mercado spot à medida que os volumes CEX aumentam pela primeira vez em cinco meses.

Gate Lidera os Ganhos de Participação no Mercado Spot à medida que os Volumes das CEX Aumentam pela Primeira Vez em Cinco Meses

Por que isso importa:

Como analista, observei uma mudança positiva no mercado de criptomoedas durante junho. Vimos o volume de negociação em exchanges centralizadas (CEX) aumentar pela primeira vez em cinco meses – o volume de negociação à vista subiu 15,3%, atingindo US$ 1,11 trilhão, e alcançamos um novo recorde de US$ 311 bilhões em negociação perpétua de Futuros de Ativos do Mundo Real (RWA).

O Clarity Act é o esforço de proteção ao consumidor mais importante dos últimos anos.

O paradoxo da privacidade de proteger crianças online

A Lei de Clareza não é um passe para evasão de sanções, na verdade.