#026 - A Grande Aposta de Elon Musk.

Elon Musk colocou prazo para a IA superar humanos no trabalho digital. Um pesquisador que passou pela OpenAI e pela Anthropic pediu demissão por medo de perdermos o controle dessa mesma tecnologia. As falas colocam capacidade e controle na mesma discussão, num momento em que os agentes já recebem tarefas maiores.

Elon Musk publicou no X que a IA conseguirá fazer qualquer tarefa digital em nível sobre-humano até o fim de 2027. O post é de 31 de agosto e fala em "fim do ano que vem". O prazo merece atenção porque, fora de contexto, essa frase vira facilmente uma promessa para dezembro deste ano.

Ele também delimitou o alcance: atividades digitais que dispensam manipular o mundo físico. Portanto, a previsão deixa de fora o trabalho manual. Ainda assim, "qualquer tarefa digital" é uma afirmação enorme. Inclui muito mais do que escrever código ou produzir um texto convincente.

Musk voltou ao assunto numa fala publicada em vídeo em 1º de setembro, mantendo a distinção entre trabalho digital e tarefas que exigem manipular o mundo físico.

Gary Marcus contestou a previsão. Em seu texto, o pesquisador recupera uma declaração de Musk de abril de 2024, quando ele esperava uma IA mais inteligente que qualquer humano individual até o fim de 2025. Marcus interpreta o novo prazo como mais um adiamento e aponta dificuldades persistentes, como gerar informações falsas.

A palavra que pesa nessa discussão é "qualquer". Ser excelente em uma tarefa delimitada ainda deixa em aberto o desempenho no trabalho completo, com informação faltando e objetivos que mudam no meio do caminho.

Pense numa situação hipotética: um agente recebe a tarefa de preparar uma campanha. Ele pode produzir os materiais e configurar tudo rapidamente. Se o briefing tiver uma promessa errada, executar melhor pode fazer o erro chegar mais longe. O trabalho também exige perceber que aquela instrução precisa ser questionada.

É nesse ponto que a previsão interessa a quem já usa IA. Se a capacidade de execução crescer no ritmo que Musk espera, a capacidade de conferir o trabalho terá de acompanhar. Uma empresa pode ganhar velocidade e, ao mesmo tempo, perder a noção do que autorizou seus agentes a fazer.

Mesmo que o prazo de Musk se confirme, a empresa continuará responsável pelo que seus agentes fizerem em seu nome.

Fontes: Publicação original de Elon Musk no X, 31 de agosto, Gary Marcus contesta a previsão e recupera a declaração de 2024, Vídeo da fala de Musk publicado em 1º de setembro

Jacob Coxon pediu demissão da Anthropic e levou a discussão para o X. Depois de três anos somados pesquisando pré-treinamento na OpenAI e na Anthropic, acusou as duas empresas de correrem em direção a uma superinteligência capaz de melhorar a si mesma, colocando vidas em risco.

O anúncio veio na noite de 8 de setembro nos Estados Unidos. Nele, Coxon afirmou que pessoas que constroem IA acreditam sinceramente que ela poderia matar todos nós até o fim da década. Disse também ouvir, em privado, temores que executivos e pesquisadores suavizam ao falar com a imprensa.

Vale ler o verbo com cuidado: poderia. Coxon descreve um risco que considera grave e relata o medo de colegas. Transformar isso em "a IA vai acabar com a civilização" tira justamente a incerteza que precisamos discutir.

A resposta de Evan Hubinger deu mais peso ao alerta. O responsável pela ciência de alinhamento da Anthropic concordou publicamente com a existência desse temor e estimou, pessoalmente, uma chance superior a 10% de a IA matar todos os humanos na próxima década. Esse número expressa o julgamento dele. Não veio de uma medição nem representa uma previsão oficial da empresa.

Hubinger disse acreditar que a Anthropic está fazendo o melhor que pode. Também afirmou que ainda falta um plano para resolver o alinhamento de uma superinteligência.

Alinhamento, aqui, significa fazer um sistema perseguir objetivos compatíveis com as intenções e os interesses humanos. Conforme a capacidade cresce, precisamos conseguir avaliar se ele continua respeitando esses limites. Uma resposta convincente na tela, sozinha, não resolve essa questão.

A reportagem do The Hill trouxe a explicação de Samuel Marks, também pesquisador da Anthropic, para a continuidade dessa corrida: incentivos comerciais e a crença de que concorrentes menos responsáveis chegarão primeiro. Dá para reconhecer o perigo e, ainda assim, encontrar uma justificativa para acelerar.

Esse raciocínio merece cobrança. Se cada laboratório se considera o mais preparado para chegar primeiro, o compromisso com segurança precisa aparecer nas decisões de limitar o avanço, inclusive quando isso custa vantagem competitiva.

O alerta merece atenção sem virar certeza de catástrofe. Coxon também disse ver espaço para coordenação entre os laboratórios. Sua saída cobra uma mudança de direção antes que a aposta se torne irreversível.

Fontes: Jacob Coxon no X, Evan Hubinger no X, The Hill.

OpenAI diz ter cumprido a meta de criar um "estagiário de pesquisa" automatizado até setembro. No relatório publicado em 6 de setembro, a definição é esta: um sistema interno que executa tarefas de pesquisa bem delimitadas, sob direção humana, inclusive trabalhos que tomariam alguns dias de um pesquisador qualificado. A próxima meta é criar um pesquisador de IA automatizado até março de 2028.

Em meados de agosto, os agentes acumulavam 3,1 dias de execução para cada dia de trabalho humano, considerando jornadas de oito horas. Esse número mede tempo de execução agregado. Chamar isso de "produtividade 3,1 vezes maior" exigiria demonstrar quanto trabalho útil saiu desse tempo.

A supervisão aparece no próprio resultado: mais da metade das tarefas bem-sucedidas, com duração estimada de quatro a oito horas para um humano, exigiu ao menos uma intervenção. As medições são internas e preliminares.

Também existe uma conta relevante. Pela tabela de preços da API, o consumo diário mediano por pesquisador já passava de 600 dólares; no percentil 90, faixa dos usuários de maior consumo, de 7 mil dólares. São valores de referência para o uso, sem equivaler necessariamente ao custo efetivamente pago pela empresa.

Em junho, pesquisadores da Epoch AI propuseram decompor a pesquisa em mais de 60 tarefas para acompanhar a automação com precisão. O método ajuda a distinguir escrever código de decidir qual experimento merece ser feito.

Minha hipótese: conforme executar fica mais fácil, a fila pode se formar na avaliação. Imagine uma equipe que consegue testar dez ideias durante a noite, mas só tem capacidade de examinar duas na manhã seguinte. A produção aumentou; oito resultados ainda esperam alguém conferir se merecem atenção.

Nesse exemplo, contratar mais capacidade de execução aumentaria a fila. A empresa precisaria ampliar a revisão ou escolher melhor quais ideias mandar para os agentes.

O cientista-chefe Jakub Pachocki também vê um limite na supervisão: em texto separado, afirma que a confiança no monitoramento deve restringir o avanço dos sistemas.

Fontes: Relatório da OpenAI, Proposta da Epoch AI, Análise de Pachocki.

A OpenAI apresentou uma proposta de solução para Navier-Stokes. Em 8 de setembro, a empresa divulgou uma prova produzida por um modelo interno e uma formalização em Lean, linguagem usada para verificar demonstrações matemáticas. Segundo a OpenAI, o grupo que encontrou a solução reuniu cerca de 10 mil agentes. Foram 88 horas até o resultado e mais 17 para formalização e verificação.

A empresa afirma ter resolvido uma das formulações do problema e diz que não pretende reivindicar o Prêmio do Milênio. A aceitação independente pela comunidade matemática é uma etapa distinta do anúncio. Fonte: OpenAI.

Um relatório da Anthropic mostra o uso de IA em ataques reais. Publicado em 10 de setembro, o documento reúne operações interrompidas pela empresa entre dezembro de 2025 e agosto de 2026. A Anthropic afirma que operadores individuais passaram a sustentar campanhas que antes exigiam equipes especializadas. O relatório também acusa empresas chinesas de usar respostas do Claude para desenvolver modelos concorrentes.

São conclusões da investigação da Anthropic, parte interessada nos casos. Os episódios descrevem uso indevido por pessoas, uma questão diferente do risco de sistemas futuros escaparem do controle humano. Fonte: Anthropic.

A OpenAI anunciou apoio a quatro projetos de segurança na Califórnia. Em texto de 9 de setembro, Chris Lehane defendeu propostas que incluem regras para avaliadores independentes e auditores de IA. A empresa também pediu exigências federais obrigatórias voltadas aos laboratórios que desenvolvem os sistemas mais capazes.

O desenho defendido por ela pouparia pequenas empresas e pesquisadores que atuam longe desse limite. O anúncio registra a posição política da OpenAI; não equivale à aprovação dos projetos. Fonte: OpenAI.

A Anthropic quer monitorar abuso com os dados sob controle do cliente. Anunciado em 1º de setembro, o Enterprise Frontier Safeguards foi desenvolvido com participação de mais de 100 clientes. A proposta permite manter registros de atividade na infraestrutura de nuvem da empresa contratante e encaminhar alertas à equipe dela. A implantação será gradual, prevista para começar no outono do hemisfério norte.

Para empresas que trabalham com informação sensível, muda quem guarda os registros e quem faz a revisão humana. Fonte: Anthropic.

Estou preparando um vídeo para o YouTube a partir de um relatório, de um livro escrito por um pesquisador do MIT e de outras leituras sobre o avanço da inteligência artificial. Esse material discute 12 futuros possíveis para a IA. Quero citar alguns aqui.

Em um deles, a humanidade freia o avanço da tecnologia e estabelece acordos de controle, como tenta fazer com as armas nucleares.

Em outro, a IA se torna tão mais inteligente que nos subjuga.

Pense só, quando decidimos construir uma estrada, não perguntamos ao cavalo, à formiga, à aranha ou ao pássaro se aquilo vai atrapalhar a vida deles.

Simplesmente construímos. Nossos objetivos são diferentes dos deles. Uma inteligência muito acima da nossa poderia nos tratar do mesmo jeito.

Há ainda um cenário de convivência pacífica. A IA teria seu espaço, os seres humanos teriam o deles e talvez os híbridos também vivessem numa região delimitada.

Estamos falando de horizontes de 100, 200, 500 ou até mil anos.

Um desses futuros vê a IA como continuação da evolução humana. Imagine um robô que vive mais, substitui peças quando elas deixam de funcionar, tem mais inteligência e memória e se conecta aos outros como parte de uma mente coletiva. Seria uma continuação da nossa espécie em silício, sem o corpo de carbono que temos hoje.

Também fico atento ao incentivo por trás de algumas previsões. Existe a especulação de que, perto da abertura de capital dessas empresas, elas possam anunciar que chegaram à AGI para aumentar sua avaliação e cobrar mais.

Eu não sei se isso vai acontecer. Mas esse incentivo precisa entrar na conta quando alguém promete uma data para a AGI.

Eu acredito que a IA está avançando rápido. Basta olhar para o que mudou nos últimos três anos e imaginar essa velocidade por mais 200. Alguns daqueles futuros passam a merecer atenção.

Pode ser um cenário catastrófico. Pode ser uma convivência tranquila. Pode até ser uma IA benevolente, um "deus" superinteligente que conhece tudo e faz bem à humanidade. Eu não sei qual caminho vamos seguir.

Por isso, prefiro concentrar minha energia nos próximos três a cinco anos. Nesse período, vejo uma janela enorme para aprender a usar a IA e construir riqueza. Não sei se depois teremos renda universal para quem não conseguir se adaptar. Também não sei se chegaremos a acordos internacionais para limitar a IA como fazemos com armas nucleares.

O que sei é que essa janela está aberta agora. Ficar preso a cenários para daqui a 200 anos é um jeito de sofrer por antecipação enquanto as decisões que podemos tomar hoje ficam para depois.