No documento Situational Awareness, Leopold Aschenbrenner descreve uma cena que parece ficção científica… mas é só a realidade acelerada. Ele lembra que, a cada seis meses, um zero a mais é adicionado aos planos corporativos: dez bilhões viram cem, depois um trilhão . Esse acréscimo não está em planilhas abstratas, mas em contratos de energia que somem do mercado, em transformadores elétricos disputados como ouro, em clusters de computação planejados com a mesma grandiosidade de um programa espacial
Em apenas quatro anos, diz Aschenbrenner, saltamos de um GPT-2 que mal contava até cinco para um GPT-4 que supera alunos em provas avançadas de matemática. Pela lógica que ele apresenta, até 2027 poderemos ter máquinas capazes de trabalhar lado a lado com doutores e engenheiros.
E a conta não para aí. O documento mostra riscos que vão além da tecnologia: a ameaça de um “apagão de dados”, já que consumimos praticamente toda a internet para treinar as máquinas. A vulnerabilidade de segredos estratégicos, comparáveis ao Projeto Manhattan, diante da espionagem estatal . E, sobretudo, a dimensão geopolítica… a disputa aberta entre o “mundo livre” e a China pelo controle da próxima superinteligência.
Ler Situational Awareness é ter a sensação de que a história está sendo escrita em tempo real, sem pausas. A pergunta que fica é se vamos apenas assistir a mais esse espetáculo de zeros e promessas, ou se vamos assumir o risco e a responsabilidade de pensar, antes que deixemos isso também para as máquinas.
