Jan Leike, um importante pesquisador da OpenAI que renunciou no início deste mês alegando “preocupações de segurança”, juntou-se ao concorrente Antrópico para “trabalhar na supervisão escalonável, generalização fraca a forte e pesquisa de alinhamento automatizado”, de acordo com a postagem de Leike no X.
A Anthropic se posicionou para ser a antítese da OpenAI: uma corporação de benefício público dedicada ao progresso cauteloso. Foi fundada por ex-funcionários da OpenAI que partiram, de acordo com o Tempos Financeiros, porque acreditavam que a OpenAI estava se desviando de sua missão de desenvolver uma IA mais segura e ética e se tornando muito focada em interesses comerciais após o acordo de US$ 1 bilhão com a Microsoft. Para aqueles que acompanham o drama da IA, a entrada de Leike na Anthropic não é nenhuma surpresa.
“Já faz muito tempo que levamos muito a sério as implicações da AGI. Devemos priorizar a preparação para eles da melhor maneira possível”, disse Leike em postagens de acompanhamento sobre sua renúncia há algumas semanas. “Só então poderemos garantir que a AGI beneficie toda a humanidade.”
Leike trabalhou anteriormente na equipe de “Superalinhamento” da OpenAI, o que parece estar alinhado com sua função na Anthropic, garantindo que os sistemas inteligentes sejam projetados para agir de acordo com os valores humanos. Em seu tópico após anunciar sua renúncia, Leike criticou a OpenAI por não fornecer recursos computacionais suficientes para garantir o sucesso.
Por sua vez, a Anthropic emprega “IA constitucional”, que incorpora princípios éticos no treinamento de um modelo de IA, reunindo contribuições do público e integrando conceitos de fontes como a Declaração Universal dos Direitos Humanos das Nações Unidas, como relatei anteriormente.
Outra saída notável da OpenAI é seu cofundador, Ilya Sutskever, que saiu no início deste mês e teria estado ausente do escritório desde que liderou um golpe fracassado contra o CEO Sam Altman em novembro. Embora Sutskever tenha renunciado e ainda não tenha indicado seu próximo passo, seus valores se alinham com os da Anthropic, tornando-o um destino plausível para ele, ao lado de Leike.
theverge