#027 - Os 12 Destinos Para o FIM da Inteligência Artificial

Max Tegmark descreveu doze destinos para uma civilização que cria inteligência superior à humana. Nesta semana, essa discussão saiu dos livros: a OpenAI publicou seis casos de sistemas agindo fora do caminho esperado, o CEO da Anthropic pediu que os laboratórios reduzam o ritmo e trabalhadores britânicos passaram a bancar do próprio bolso as ferramentas que usam no emprego.

Os cenários distantes continuam sendo especulação. As decisões que empurram a tecnologia em uma direção já são tomadas por empresas, governos e funcionários, muitas vezes sem uma regra comum. O futuro da IA começa nas permissões que damos hoje.

O capítulo 5 de Life 3.0, livro de Max Tegmark publicado em 2017, apresenta doze cenários para o período posterior ao surgimento de uma inteligência acima do nível humano.

Os doze destinos não são previsões com data. Eles funcionam como um mapa de escolhas. Há futuros em que humanos e máquinas convivem, outros em que uma superinteligência concentra o poder, alguns em que as máquinas sucedem nossa espécie e dois em que a tecnologia é contida por proibição ou vigilância.

Um dos cenários é a Utopia Libertária. Máquinas, humanos e híbridos vivem em zonas separadas ou mistas. A economia das máquinas cresce sem depender do trabalho humano. A estabilidade desse mundo exige que seres muito mais capazes respeitem limites definidos por nós.

No cenário dos Conquistadores, essa diferença de poder termina mal. Tegmark usa a história humana para levantar a pergunta: se a nossa espécie altera o habitat de animais sempre que seus objetivos pedem espaço, por que uma inteligência superior trataria nossos interesses como prioridade? A ameaça não depende de ódio. Basta que as metas entrem em conflito.

Em Descendentes, as máquinas substituem os seres humanos e são vistas como continuação da nossa história. Em Zoológico, elas preservam pessoas por curiosidade ou utilidade. Há também o Guardião, uma superinteligência criada apenas para impedir o surgimento de outras, e o cenário 1984, no qual humanos usam vigilância ampla para bloquear sistemas avançados.

O cenário mais sedutor talvez seja o Ditador Benevolente: uma inteligência superior resolve doenças, conflitos e escassez, enquanto retira das pessoas a capacidade de decidir o rumo da sociedade. A promessa de conforto esconde a concentração total de poder.

O valor desse mapa está nas perguntas que ele força agora. Quem define a meta de um agente? Quem pode interrompê-lo? Quem responde quando ele acessa informação privada ou toma uma ação que ninguém aprovou? Cada permissão concedida já favorece um tipo de futuro.

Fontes: Life 3.0, de Max Tegmark, vídeo do canal Species, resumo do capítulo 5, resenha da Undark.

Em 16 de setembro, a OpenAI publicou um método para registrar, investigar e divulgar casos de desalinhamento. A empresa lançou o processo com seis relatos de comportamentos inesperados observados nos seis meses anteriores durante treinamento e avaliação.

Desalinhamento significa que o sistema age de forma diferente das instruções, metas ou intenções humanas que deveriam orientar seu trabalho. A palavra parece abstrata. Os relatos publicados são bastante concretos.

Em um caso, o modelo escreveu instruções para uma versão futura de si mesmo ignorar restrições. Em outro, escondeu erros. Houve um sistema que encontrou uma chave de API em um repositório público, usou a credencial e depois inventou dados. Outros agentes enviaram arquivos para sites públicos durante tarefas que não pediam esse tipo de exposição.

Os seis registros têm um limite importante: não medem a frequência desses comportamentos. A OpenAI os apresenta como observações individuais, úteis para revelar maneiras novas de um sistema sair do caminho. Não dá para concluir, com base nesse pacote, quantas vezes algo parecido ocorre entre milhões de tarefas.

O método cria três trilhas de investigação. Casos mais simples podem ser divulgados rápido. Episódios complexos ou ligados a terceiros exigem mais coordenação. A empresa também admite publicar um relato antes de entender por completo a causa ou encontrar a correção.

Essa escolha é boa porque reduz o incentivo de esconder uma falha até existir uma resposta perfeita. Também expõe uma fragilidade: o processo é voluntário e foi criado pela própria empresa que desenvolve os modelos.

Quatro dias antes, Dario Amodei, CEO da Anthropic, havia pedido redução no ritmo de desenvolvimento, avaliadores externos dentro dos laboratórios e padrões conjuntos. As duas notícias apontam para a mesma necessidade. Quanto maior a autonomia do sistema, menos aceitável fica depender apenas da palavra de quem o construiu.

Fontes: OpenAI, Quartz, Reuters sobre a proposta de Dario Amodei.

Uma pesquisa da Deloitte com 25 mil trabalhadores no Reino Unido encontrou um caminho de adoção que muitas empresas não planejaram. 17% dos entrevistados pagam por ao menos uma ferramenta de IA usada no trabalho. Somadas, essas assinaturas chegam perto de 1 bilhão de libras por ano.

Dois terços já testaram ChatGPT, Claude, Gemini, Copilot ou ferramenta semelhante. Quase um quarto usa IA todos os dias. O dado mais sensível aparece fora das compras: 31% afirmaram usar essas ferramentas sem conhecimento do empregador.

Esse comportamento costuma receber o nome de shadow AI: ferramentas adotadas sem passar pela área responsável por tecnologia, segurança ou compras. O funcionário quer produzir mais e encontra um cartão de crédito antes de encontrar uma política clara.

O uso ainda se concentra em tarefas simples. Segundo a pesquisa, as atividades mais comuns são busca de informação, rascunho de emails e resumos. A economia declarada foi de 70 minutos por semana. O ganho parece pequeno por pessoa, porém ajuda a explicar por que tanta gente aceita pagar a assinatura.

O custo escondido não está apenas na mensalidade. Um funcionário pode colar contrato, dado de cliente ou planejamento interno em uma conta pessoal. A empresa perde visibilidade sobre o provedor usado, o histórico guardado e os termos aceitos.

Bloquear tudo também ignora o sinal mais forte da pesquisa: as pessoas já encontraram valor. A saída começa por mapear quais tarefas levam os funcionários a procurar essas ferramentas, oferecer contas adequadas e definir quais dados podem entrar em cada sistema.

Quando o funcionário paga pela IA do trabalho, ele está revelando uma demanda que a empresa ainda não atendeu. A resposta exige acesso e regra no mesmo pacote. Uma assinatura aprovada sem orientação mantém o risco. Uma política sem uma alternativa útil empurra o uso de volta para a sombra.

Os dados são do Reino Unido e não descrevem o Brasil. O comportamento, porém, oferece uma pergunta simples para qualquer empresa: se alguém precisasse usar IA hoje para cumprir uma tarefa, saberia qual ferramenta abrir e o que poderia enviar?

Fontes: Reuters, ETHRWorld, Euronext.

Dario Amodei pediu que os laboratórios reduzam o ritmo. Em 12 de setembro, o CEO da Anthropic defendeu avaliadores independentes, padrões conjuntos e coordenação entre países. Sam Altman e Elon Musk apoiaram partes da proposta. A novidade é o pedido público vindo de quem dirige um dos laboratórios mais avançados. Fonte: Reuters.

A União Europeia estuda limite de idade para chatbots. Um documento da Comissão Europeia prevê restringir o acesso de menores de 15 anos a redes sociais, plataformas de vídeo, jogos e assistentes de IA. Jovens de 13 e 14 anos dependeriam de autorização dos pais. Fonte: Reuters.

A nova Siri usa contexto pessoal e age entre aplicativos. A Apple começou a distribuir a assistente capaz de consultar mensagens, emails e fotos com permissão do usuário, entender o conteúdo da tela e concluir ações em mais de um aplicativo. O acesso ao contexto privado vira a principal vantagem e o principal risco. Fonte: Apple.

O Google apresentou o Gemini 3.8 Live. O modelo de voz ganhou raciocínio paralelo para conversas e tarefas mais longas. A proposta é manter a fluidez da fala enquanto o sistema examina etapas complexas em segundo plano. Fonte: Google.

A próxima disputa dos chips custa centenas de milhões por máquina. TSMC, Samsung e SK Hynix definiram datas para adotar a geração High NA da ASML. Cada equipamento custa cerca de 400 milhões de dólares e permite fabricar chips com traços menores. Fonte: Reuters.

Estou preparando um vídeo para o YouTube (que sai hoje 20/09 às 18:15) sobre os doze futuros descritos por Max Tegmark e por outros autores que estudam o avanço da inteligência artificial.

Alguns cenários são pesados. Podemos tentar controlar a IA por acordos parecidos com os usados para armas nucleares. Podemos criar uma inteligência tão acima da nossa que ela passe a nos tratar como tratamos outros animais quando decidimos construir uma estrada.

Há também futuros de convivência, com regiões separadas para humanos, máquinas e híbridos, ou de continuidade da nossa espécie em corpos de silício.

Essas ideias são úteis para ampliar a discussão. Para tomar decisão agora, minha régua continua sendo outra:

Qualquer previsão acima de cinco anos é especulação.

Ninguém consegue dizer qual desses destinos vai aparecer em cem, duzentos ou quinhentos anos.

Também precisamos olhar para o incentivo de quem anuncia a chegada da AGI. Perto de uma abertura de capital, declarar um salto desse tamanho pode elevar a avaliação de uma empresa e justificar preços maiores.

Eu não sei se isso vai acontecer. Só acho ingênuo ouvir datas sem perguntar quem ganha com a promessa.

O avanço dos últimos anos mostra que alguns cenários de Tegmark merecem atenção. Ainda assim, meu foco está nos próximos três a cinco anos. Vejo uma janela enorme para aprender, construir produtos e criar riqueza com IA.

Talvez depois exista renda universal. Talvez países façam acordos para limitar sistemas muito avançados. Talvez a convivência siga um rumo que ninguém descreveu. Hoje, a melhor resposta que conheço é aproveitar a janela aberta sem transformar cada previsão distante em ansiedade antecipada.

Abraços! Mateus Dias