#014 - Hackearam o Alerta de Emergência do Brasil

Sexta-feira, 23h40. Celular no silencioso não adiantou. Em Brasília, São Paulo, Rio, Bahia e Pará, milhões de telas acenderam ao mesmo tempo com um alerta oficial da Defesa Civil. A mensagem era uma só palavra: "misantropi4".

Não foi um terremoto. Não foi um bug. Foi alguém de fora do sistema acionando, de longe, o canal que o governo usa pra avisar a população quando a vida está em risco. O Brasil tirou a plataforma do ar.

Começou na noite de sexta, 19 de junho, e se arrastou até por volta de 1h30 da madrugada de sábado. O sistema de alerta da Defesa Civil Nacional disparou de novo e de novo. Não era aviso de enchente nem de barragem. Era a palavra "misantropia", em vários disparos escrita em leetspeak: "misantropi4", com letras trocadas por números. A assinatura de quem queria deixar claro que aquilo não foi acidente.

O ataque usou o Cell Broadcast, a tecnologia que o governo usa pra avisar a população numa emergência de verdade, gerenciada pela Anatel. Esses disparos são classificados como "Alerta Extremo" e foram desenhados pra furar qualquer configuração do aparelho, tocar mesmo no silencioso, porque numa enchente repentina isso é a diferença entre vida e morte. O que existe pra proteger a população virou a arma perfeita: máximo alcance, máxima confiança, zero atrito.

Foram 9 a 10 alertas falsos numa noite só, atingindo celulares em Brasília, São Paulo, Rio, Belo Horizonte, Salvador, Curitiba, Campo Grande, Bahia e Pará. A Polícia Federal abriu investigação junto com o Ministério da Integração e do Desenvolvimento Regional, dono da plataforma, com a hipótese principal de ação hacker coordenada. O disparo veio de alguém de fora do Sistema Nacional de Proteção e Defesa Civil, acionando a plataforma "Defesa Civil Alerta" remotamente. O governo tirou tudo do ar e desligou o Cell Broadcast preventivamente. O sistema feito pra salvar vidas em desastre ficou indisponível porque foi usado contra as pessoas que deveria proteger.

E aí veio a parte que mais devia tirar o sono de quem integra sistemas. O estrago não parou nos celulares. O Google Maps consome o feed oficial da Defesa Civil pra mostrar alertas de risco no mapa. Quando o feed foi envenenado, o Maps engoliu sem perguntar e passou a exibir "alerta extremo de alagamento" em São Paulo, Rio, Minas Gerais e Distrito Federal. Em alguns pontos, com a palavra "misantropia" junto. Um sistema confiável foi comprometido, e todo sistema que confiava nele repetiu a mentira na hora. O Google só foi revisar e corrigir os dados do Maps depois que o alerta falso já tinha rodado o país.

Fontes: CNN, Bloomberg, Cybernews

Meredith Whittaker, presidente do Signal, soltou a frase da semana: chatbots de IA "não são seus amigos", "não são seres conscientes", "não são interlocutores sencientes". Ela disse que nem pergunta nada pra eles, porque não quer que pensar uma ideia seja substituído pela resposta de um sistema que só faz a média do que já existe.

A parte que pega de verdade veio sobre os agentes. A Microsoft vende a visão de um agente do Copilot que faz suas compras de Natal lendo as mensagens da sua família. Whittaker destrinchou o que esse agente precisa ter: seu cartão de crédito, seu navegador, seu Signal, a permissão de mandar mensagem pros seus irmãos em seu nome, seu endereço, sua agenda.

A conclusão dela: "O que você acabou de descrever é um sistema com acesso muito amplo a várias aplicações e serviços. No contexto do Signal, seria um tipo de backdoor."

O argumento técnico é simples e incômodo. Um agente que lê sua mensagem antes de ela ser criptografada, ou depois de descriptografada, transforma a criptografia ponta a ponta em teatro. E concentra a vida digital inteira num ponto só, que vira o lugar perfeito pra um hacker ou um governo bater.

É a mesma história da Defesa Civil, vista por dentro do aparelho. Lá, a confiança concentrada num canal institucional virou alvo. Aqui, a conveniência concentrada num agente vira o mesmo alvo. Quanto mais o agente faz por você, mais ele sabe sobre você. E mais caro fica perdê-lo.

Fontes: The Next Web

Uma investigação do Guardian mostrou marcas usando influenciadores gerados por IA que se passam por clientes reais, sem deixar claro que não são gente. É o mesmo material da semana, confiança, visto do lado de quem fabrica.

Os números explicam por que isso não é nicho. Cerca de 58% dos consumidores nos EUA já seguem ao menos um influenciador virtual. 35% da Geração Z diz ter comprado um produto promovido por uma persona de IA. A Lu do Magalu, nossa conhecida, faturou uma estimativa de US$ 2,5 milhões em 2024 em 74 posts patrocinados. Isso é mais ou menos 40 vezes a renda anual de um criador humano com posts pagos. A Lil Miquela acumulou cerca de US$ 11 milhões em contratos de marca, com Prada, Calvin Klein e Samsung.

O custo de produzir prova social caiu pra perto de zero. Você gera um rosto, uma história, um "antes e depois" de cliente que nunca existiu. O problema é que o risco subiu na mesma proporção. A FTC, nos EUA, já proíbe testemunho de celebridade feito por IA pago, review fabricado e endosso de influenciador de IA sem divulgação.

Fontes: The Guardian, SQ Magazine

A própria AWS admitiu que agentes de IA não têm segurança nem contexto de negócio. No summit em Nova York, a Amazon lançou dois serviços pra tapar o buraco: o Continuum, que detecta e corrige vulnerabilidades de código, e o Context, que monta um grafo de conhecimento dos dados da empresa. Tradução: quem vende agente está reconhecendo que vendeu ação antes de vender proteção. The Decoder

A Jane Street está virando uma das maiores investidoras de IA do mundo. A firma de trading colocou US$ 1 bilhão na CoreWeave em abril e tem participação na Anthropic, enquanto usa IA pra turbinar as próprias operações. Quando o dinheiro mais esperto do mercado financeiro vira sócio da infraestrutura de IA, é sinal de onde eles acham que está o próximo ciclo. WSJ

Sam Altman disse que uma geração inteira de pesquisadores atrasou a IA. Em Stanford, ele defendeu o scaling e cutucou os céticos: a turma que subestimou o que escalar modelo poderia fazer segurou o campo por anos. Citou como prova um modelo da OpenAI que refutou uma conjectura matemática. The Decoder

O Nobel John Jumper saiu do Google DeepMind pra Anthropic. Jumper ganhou o Nobel pelo AlphaFold e não é o único nome grande deixando o DeepMind. A Anthropic segue puxando cérebro do Google, o mesmo movimento que a gente vem acompanhando desde a corrida do Mythos. TechCrunch

Já existe app pra fazer texto de IA parecer escrito por gente devagar. O New York Times mapeou "humanizers" e "autotypers" que estudantes usam pra furar detectores: o app digita o texto aos poucos e deixa a escrita menos robótica. A corrida entre gerar e detectar IA já tem um mercado paralelo só pra enganar o detector. NYT

Vou te dar uma teoria que não sai da minha cabeça. Já aviso que é especulação, mas me acompanha.

Em fevereiro, depois de a Anthropic fechar uma rodada de US$ 30 bilhões, o Elon Musk brigou feio com a empresa nas redes. O mesmo Musk que no dia 12 de junho virou o primeiro trilionário do mundo com o IPO da SpaceX. No meio das farpas, ele cravou a sacada: "não tem como escapar da ironia inevitável de a Anthropic acabar virando Misanthropic. Vocês estavam condenados a isso quando escolheram o nome."

Repara no trocadilho. Anthropic vem de anthropos, "humano" em grego: o nome de uma IA que se vende como feita pra ajudar a humanidade. Misanthropic é o oposto exato: quem odeia a humanidade. Musk virou o nome do avesso pra dizer que a IA deles é anti-humana.

Agora junta as pontas. A palavra que o hacker disparou no broadcast da Defesa Civil foi "misantropi4". Ecoa exatamente o termo que o homem mais rico do planeta tinha usado pra atacar a Anthropic em público poucos meses antes.

Pode ser só coincidência. Mas lembra do Mythos 5? Ficou três dias no ar e o governo dos EUA mandou tirar, porque era poderoso demais pra estar na mão de pessoas comuns.

Um bom hacker não precisa de muito: com um modelo de fronteira desse, dá pra mapear as vulnerabilidades do sistema brasileiro (que são muitas) e montar o ataque num fim de semana. Se gente leiga já faz coisa impressionante com IA, imagina quem tem dez anos de estrada.

Coincidência ou não, isso vai ficar cada vez mais comum. A IA está numa curva tipo lei de Moore: a de Moore dizia que o número de transistores num chip dobrava a cada ano ou dois, e foi o que fez a tecnologia disparar por décadas. A capacidade dos modelos hoje dobra em intervalos ainda menores. O poder de atacar cresce exponencial. A capacidade de tapar buraco anda linear. As coisas estão evoluindo rápido demais pra alguém conseguir fechar todos os buracos a tempo.

Caos e oportunidade. Ao mesmo tempo, como sempre.

Abraços! Mateus Dias

P.S. Chegou até aqui e recebeu o alerta? Responde aqui com a palavra “recebi” pra eu saber que tu leu até o final.