Nos dias de hoje, o laboratórios de IA de fronteira estão todos correndo para construir modelos de auto-aperfeiçoamento. Alguns acreditam que é o caminho mais seguro para superinteligência– à medida que a IA se aperfeiçoa num ciclo de fusão mental, pensa-se que acabará por ultrapassar a compreensão humana (e talvez até o controlo).
Está tudo muito bem, mas eu tenho um boletim informativo para produzir. Eu me perguntei se o autoaperfeiçoamento recursivo também poderia ser útil para mim. Posso usar a IA para treinar e melhorar continuamente um modelo que automatiza parte do trabalho árduo deste boletim informativo?
Depois de mais ou menos uma semana de experiências, a resposta parece ser um retumbante – e surpreendente – sim. Além do mais, envolver-se em modelos de auto-aperfeiçoamento mostra uma visão diferente de como a IA pode se desenvolver – uma visão que não se centra num punhado de empresas que controlam toda a indústria.
Comecei experimentando um ciclo simples de autoaperfeiçoamento
Para começar, experimentei treinar um pequeno modelo de linguagem a partir do zero – com isso quero dizer que joguei fora todo o trabalho duro Cláudio placa.
eu instalei Pesquisa automáticaque ajuda um modelo de IA pronto para uso a construir e melhorar um modelo menor. AutoResearch é a ideia de Andrej Karpatiaum pesquisador superstar de IA que ajudou a fundar a OpenAI, liderou o trabalho de IA na Tesla e recentemente ingressou Antrópico.
Liguei para Claude e dei a instrução recomendada: “Olá, dê uma olhada em program.md e vamos iniciar um novo experimento!” Enquanto Claude fazia o trabalho pesado, eu fornecia silício (um Nvidia DGX, um “supercomputador” de desktop projetado para experimentação de IA), a eletricidade (esquentando por alguns dias seguidos) e uma disposição possivelmente imprudente de deixar o modelo pular todas as verificações usuais de permissão para fazer seu trabalho (deixe-o cozinhar!)
Eu verificava o projeto AutoResearch a cada poucas horas e ficava maravilhado enquanto Claude ajustava parâmetros e regimes de treinamento, observava como isso alterava o resultado do modelo menor e continuava a refiná-lo ainda mais.
Aqui está o que uma versão inicial desse modelo de linguagem menor produziu quando solicitei que completasse a frase “No começo…”
Não é tão brilhante. Mas os modelos posteriores, melhorados autonomamente por Claude, tornaram-se mais coerentes e menos propensos a repetições insanas e intermináveis. Dificilmente é o GPT-5, mas mostrou um caminho promissor para a melhoria contínua.
Minha jornada continuou com algo mais complexo – e útil
Já utilizo um agente que conta com Claude para me ajudar a encontrar trabalhos de pesquisa dignos de nota, então decidi ver se era possível construir algo que fosse além disso.
Recorri a uma ferramenta de uma startup chamada Intelecto Primordialque usa IA para treinar um modelo personalizado para uma tarefa específica. Eu coletei cerca de 100 entradas anteriores “Em outro lugar na fronteira da IA” – os pedaços de pesquisa que seguem o ensaio principal em meu boletim informativo. Então, criei um ambiente de treinamento Prime Intellect e pedi a Claude que me ajudasse a construir meu próprio modelo, que batizei de Frontier_Paper_Curator, para encontrar e resumir artigos interessantes.
Claude encontrou mais artigos e gerou vários dados sintéticos para ajudar no treinamento. Em seguida, aproveitou outro modelo para avaliar a produção do Frontier_Paper_Curator, enquanto o ambiente de treinamento também melhorou o modelo com aprendizagem por reforço.
