Bloomberg Línea Brasil — Conhecida como a “mãe da internet” — título que carrega com modéstia e constante ressalva —, a cientista da computação Radia Perlman é uma das poucas vozes na indústria da tecnologia com autoridade moral e técnica para atuar como um “detector de fraudes e exageros” (BS detector).
Autora do protocolo STP (Spanning Tree Protocol), a inovação que permitiu às redes de computadores transitarem dados de forma robusta e autônoma sem colapsar em loops, Perlman ajudou a desenhar os trilhos invisíveis sobre os quais a sociedade digital trafega hoje.
Diferente de ondas tecnológicas anteriores que a especialista criticou abertamente — como o bitcoin (que define como ineficiente e sem utilidade real fora do crime) e a computação quântica, envolta no mito de que substituirá os computadores pessoais —, Perlman reconhece que a inteligência artificial não é apenas uma ilusão de mercado. “A IA é genuinamente real e está resolvendo problemas importantes no mundo real”, afirma.
A pioneira, no entanto, demonstra apreensão sobre o impacto na sociedade e no conhecimento. “Por exemplo, alguns estudantes usam IA para fazer o dever de casa, o que resulta em nunca aprenderem nada. Cérebros que nunca são exercitados pelo aprendizado atrofiam”, diz.
⟶ Assine as newsletters da Bloomberg Línea e receba as notícias do dia em primeira mão no e-mail.
Em entrevista à Bloomberg Línea, concedida por e-mail antes de subir ao palco da Febraban Tech, Perlman alertou para os riscos sistêmicos de confiar a gestão de infraestruturas críticas a modelos probabilísticos e rebateu a tese de que a IA criará novos empregos em proporção igual aos que vai extinguir.
Leia a seguir os principais trechos da entrevista.
No início de sua carreira no MIT, você trabalhou na linguagem LOGO e acompanhou de perto as primeiras pesquisas de IA. O que mudou radicalmente entre aquela visão pioneira e o uso atual de IA generativa?
A visão original do que a IA poderia alcançar está se desenrolando de forma bastante fiel ao que se previa. Os métodos é que evoluíram, mas isso era esperado. Quando a IA conseguiu derrotar o melhor jogador de xadrez do mundo, algumas pessoas ficaram desapontadas porque o objetivo foi alcançado com apenas algumas heurísticas e poder computacional maciço para testar jogadas futuras. Acho que essas pessoas prefeririam um programa muito mais complexo, com regras geniais escritas por programadores. Mas o objetivo foi atingido, e isso é o que importa. A abordagem mais eficaz para a IA em outras áreas tem sido essa: regras muito simples, permitindo que a IA aprenda sozinha.
Avanços surpreendentes vêm ocorrendo. Os melhores humanos não têm mais chance no xadrez ou no Go [jogo de tabuleiro de origem chinesa]. Eu achei incrível quando o IBM Watson venceu o Jeopardy! (programa de TV sobre conhecimentos gerais). Hoje, a IA descobre novos medicamentos na saúde e — infelizmente — faz o dever de casa de estudantes preguiçosos.
Você tem falado sobre sua preocupação com o modo como algoritmos de recomendação alimentam bolhas e “caixas de eco”. Como se sente ao ver a infraestrutura que ajudou a criar ser usada para otimizar engajamento por meio do extremismo?
Eu acho aterrorizante. Embora a mesma crítica possa ser feita aos telefones, aos carros e a outras tecnologias da sociedade. Golpistas ligam para as pessoas e as convencem a transferir dinheiro. Os carros são incrivelmente úteis, mas também permitem que assaltantes de banco fujam rapidamente da cena do crime. Qualquer avanço técnico pode ser usado tanto para o bem quanto para o mal.
A indústria promove a ideia de que a IA pode “autocorrigir” e gerenciar redes de forma autônoma. Para quem projetou o STP para rodar de forma determinística e impecável, qual o perigo de entregar a engenharia de redes a modelos probabilísticos?
A ideia de ter uma IA gerenciando uma rede me assusta. Se você tem uma caixa dentro da sua rede aprendendo como o tráfego “deveria” ser, ela pode fazer coisas inofensivas, como alterar custos de links, e a rede continuará funcionando bem. Mas imagine: anos depois, os ingressos para o show da Taylor Swift entram em pré-venda e o tráfego da rede muda drasticamente. Quem sabe o que a IA decidirá fazer? Como ela nunca viu um cenário como esse antes, pode simplesmente concluir que a Terceira Guerra Mundial começou.
Esperaria que uma IA de rede atuasse majoritariamente como um monitor, alertando os seres humanos sobre anomalias, em vez de tomar decisões autônomas imprevisíveis.
Você costuma alertar contra “escrever código sem entender o problema a fundo”. Como a adoção maciça de assistentes de IA por novos desenvolvedores afetará a criação de arquiteturas simples e robustas?
O ato de escrever código ou projetar protocolos sem o devido entendimento já era um problema antes da IA. Eu sempre analiso um problema por diferentes ângulos e, geralmente, chego a uma solução muito simples. Pessoas que mergulham direto na programação para resolver algo e deixam para fazer remendos (patches) depois acabam gerando designs complicados e instáveis. O mesmo ocorre em sistemas gigantescos que ninguém mais compreende, onde desenvolvedores aplicam correções rápidas para criar novas funções ou reparar bugs.
Quando comecei a programar, uma única pessoa projetava algo e escrevia todo o código. Talvez começasse a usar sub-rotinas escritas por outra pessoa, mas essas sub-rotinas eram relativamente pequenas e usadas por programadores suficientes para estarem razoavelmente depuradas.
A IA não vai resolver essa questão. Pelo contrário, pode piorar as coisas ao permitir que os sistemas cresçam e se tornem atordoantemente gigantescos em uma velocidade inédita.
Com o avanço das redes neurais, sistemas do tipo “caixa-preta” viraram regra. Na segurança da informação, isso representa um risco sistêmico incalculável?
Na verdade, quando há um ser humano envolvido no sistema, já existem inúmeros riscos. Um exemplo instrutivo: eu mesma caí em um golpe. Eu precisava renovar a minha carteira de motorista. Sou humana, não sabia o domínio DNS exato. Fiz uma busca na internet e cliquei no primeiro resultado. O nome parecia legítimo, algo como WashingtonStateLicensingDepartment.org. O site era super organizado. Pedia meu nome, endereço, número da habilitação e cartão de crédito. Os criminosos foram gananciosos e começaram a fazer cobranças repetidas até que o setor de fraudes do banco me alertou. Percebi o que devia ter acontecido, e o banco cancelou todas as transações fraudulentas e me deu um novo cartão.
Me disseram: “Você deveria saber que era .gov e não .org”. Eu argumento que, por ser humana, não se deve esperar que eu saiba disso.
Tempos depois, caí em outro golpe. Fiz uma compra online de uma marca de sapatos da qual compro a cada poucos anos (os sapatos duram bastante). Cerca de uma hora depois da compra, o setor de fraudes do banco me ligou perguntando se eu havia autorizado alguém, em outro país, a baixar meu cartão de crédito para uma carteira digital. Eu disse que não. Perguntaram se eu tinha usado o cartão recentemente em algum restaurante onde alguém pudesse ter copiado o número, ou em algum posto de gasolina com um leitor clonador. Também disse que não. Então respondi: “A única vez que usei o cartão na última semana foi para comprar algo on-line, e sei que aquela empresa é legítima porque já comprei dela antes.” Foi então que olhei com mais atenção para a aba do navegador que ainda estava aberta e percebi que tinha digitado o nome da empresa com um pequeno erro. Os criminosos previram os erros de digitação mais comuns, compraram esses domínios e clonaram o site perfeitamente, com os mesmos sapatos e os mesmos preços.
Agentes de IA talvez não piorem significativamente a situação, podem até tornar as transações mais seguras via autenticação criptográfica. Escrevi um parágrafo no meu livro Network Security: Private Communication in a Public World que resume bem isso: “Os seres humanos são incapazes de armazenar chaves criptográficas de alta qualidade com segurança e possuem velocidade e precisão inaceitáveis ao executar operações criptográficas. Eles também são grandes, caros de manter, difíceis de gerenciar e poluem o meio ambiente. É surpreendente que esses dispositivos continuem a ser fabricados e implantados, mas eles são tão onipresentes que precisamos projetar nossos sistemas ao redor de suas limitações.”
Diante do colapso da verdade compartilhada trazido por deepfakes, você chegou a dizer que a internet “pode ser o fim da civilização”. Há solução técnica para isso ou é um problema estritamente humano?
Haveria uma solução técnica, se toda informação fosse publicada por fontes reputáveis conhecidas, assinada criptograficamente e se todos concordassem sobre quais fontes são confiáveis. Mas as pessoas não confiam nas mesmas organizações. Acho o Snopes (site de checagem de fatos) incrível, muito cuidadoso ao apurar boatos. Porém, tenho certeza de que quem vê o Snopes contradizer algo em que quer acreditar vai concluir que o Snopes é completamente corrupto.
A IA vai piorar um pouco as coisas, com as deepfakes. Mas quem quer espalhar desinformação sempre conseguiu injetar texto na internet e torná-lo viral. Mesmo sem imagens e vídeos gerados por IA, as pessoas encontram fotos ou vídeos antigos ou fora de contexto para embasar suas publicações.
Queria acreditar que, ao entenderem como funcionam as deepfakes, as pessoas se tornariam céticas em relação a imagens e vídeos. No entanto, tenho quase certeza de que quem deseja acreditar em algo vai acreditar.
Você é conhecida por atuar como uma “detectora de fraudes e exageros” da indústria, desmontando mitos sobre bitcoin e sobre computação quântica. Hoje vemos um ciclo de hype parecido em torno da inteligência artificial. O que na IA atual representa um avanço de engenharia genuíno ou é apenas uma ilusão de mercado?
A IA é genuinamente real, e está resolvendo problemas importantes no mundo real. Não é apenas hype. Estou um pouco preocupada com alguns dos efeitos colaterais. Por exemplo, alguns estudantes usam IA para fazer o dever de casa, o que resulta em nunca aprenderem nada. Cérebros que nunca são exercitados pelo aprendizado atrofiam. A IA vai acabar fazendo muitas tarefas melhor do que as pessoas, e esses empregos vão desaparecer.
Fico realmente apreensiva pelos recém-formados. Ouvi dizer que o mercado de trabalho está bastante sombrio. Quando expresso essa preocupação, algumas pessoas me dizem alegremente: “Mas para cada emprego perdido, surgirão novos, como especialistas em criar prompts de IA”. Não acredito que o número de novos empregos chegue nem perto de ser suficiente para substituir todos os postos assumidos pela IA.
A IA veio para ficar. É como o crack. Agora que as pessoas estão se acostumando com tudo o que ela faz por elas, e as empresas percebem que podem substituir trabalhadores humanos e economizar rios de dinheiro, será impossível retirá-la de cena. Fico me perguntando, com toda a reação contrária aos data centers, se o mundo vai ficar sem energia ou sem espaço para instalá-los.
O avanço da IA generativa disparou uma explosão no tráfego de dados e uma corrida por mega data centers, gerando forte escrutínio nos EUA e no mundo sobre viabilidade financeira e consumo colossal de energia. Do ponto de vista de arquitetura de redes, que princípios de eficiência, escalabilidade e otimização de tráfego deveríamos revisitar para evitar um colapso total da rede física e da rede elétrica?
Não tenho certeza de que o tráfego de rede em si será o grande gargalo. No entanto, a capacidade de processamento computacional exigida realmente parece incapaz de acompanhar a demanda. Isso vai exigir novos locais para data centers e novas fontes de energia. Talvez os data centers consigam gerar a própria energia — por exemplo, com energia solar.
Leia também: Coursera mira ensino individualizado com IA após aquisição bilionária da Udemy, diz CEO
