Demissão de CEO da OpenAI – Antes dos dias de “exílio” do CEO da OpenAI, Sam Altman – que foi demitido e readmitido em quatro dias -, vários pesquisadores escreveram uma carta ao conselho de administração alertando sobre uma poderosa descoberta de inteligência artificial que, segundo eles, poderia ameaçar a humanidade, disseram à Reuters duas pessoas familiarizadas com o assunto.

A carta e o algoritmo de IA anteriormente não relatados foram desenvolvimentos importantes antes da destituição de Altman pelo conselho, o garoto-propaganda da IA generativa, disseram as duas fontes. Antes de seu retorno triunfante na terça-feira, mais de 700 funcionários ameaçaram pedir demissão e se juntar à Microsoft (MSFT.O), apoiadora, em solidariedade ao seu líder demitido.

Ministério Público espanhol pede 9 anos de prisão para Daniel Alves; saiba

As fontes citaram a carta como um fator entre uma longa lista de queixas do conselho que levaram à demissão de Altman, entre as quais estavam preocupações sobre a comercialização de avanços antes de compreender as consequências. A Reuters não conseguiu revisar uma cópia da carta. A equipe que escreveu a carta não respondeu aos pedidos de comentários.

Depois de ser contatada pela Reuters, a OpenAI, que se recusou a comentar, reconheceu em uma mensagem interna aos funcionários um projeto chamado Q* e uma carta ao conselho antes dos eventos do fim de semana, disse uma das pessoas. Um porta-voz da OpenAI disse que a mensagem, enviada pela executiva de longa data Mira Murati, alertou a equipe sobre certas histórias da mídia sem comentar sobre sua veracidade.

Alguns membros da OpenAI acreditam que Q* (pronuncia-se Q-Star) pode ser um avanço na busca da startup pelo que é conhecido como inteligência artificial geral (AGI), disse uma das pessoas à Reuters. OpenAI define AGI como sistemas autônomos que superam os humanos nas tarefas economicamente mais valiosas.

Dados os vastos recursos computacionais, o novo modelo foi capaz de resolver certos problemas matemáticos, disse a pessoa sob condição de anonimato porque o indivíduo não estava autorizado a falar em nome da empresa. Embora apenas realizem matemática no nível dos alunos do ensino fundamental, a aprovação em tais testes deixou os pesquisadores muito otimistas sobre o sucesso futuro do Q*, disse a fonte.

‘Véu da ignorância’

Os pesquisadores consideram a matemática uma fronteira do desenvolvimento de IA generativa. Atualmente, a IA generativa é boa na escrita e na tradução de idiomas, prevendo estatisticamente a próxima palavra, e as respostas à mesma pergunta podem variar amplamente. Mas conquistar a capacidade de fazer matemática – onde só existe uma resposta certa – implica que a IA teria maiores capacidades de raciocínio semelhantes à inteligência humana. Isto poderia ser aplicado a novas pesquisas científicas, por exemplo, acreditam os pesquisadores de IA.

Ao contrário de uma calculadora que pode resolver um número limitado de operações, a AGI pode generalizar, aprender e compreender.

Em sua carta ao conselho, os pesquisadores destacaram as proezas e o perigo potencial da IA, disseram as fontes, sem especificar as preocupações exatas de segurança mencionadas na carta. Há muito que se discute entre os cientistas da computação sobre o perigo representado por máquinas altamente inteligentes, por exemplo, se decidirem que a destruição da humanidade é do seu interesse.

Os pesquisadores também sinalizaram o trabalho de uma equipe de “cientistas de IA”, cuja existência foi confirmada por várias fontes. O grupo, formado pela combinação das equipes anteriores “Code Gen” e “Math Gen”, estava explorando como otimizar os modelos de IA existentes para melhorar seu raciocínio e, eventualmente, realizar trabalhos científicos, disse uma das pessoas.

Altman liderou esforços para tornar o ChatGPT um dos aplicativos de software de crescimento mais rápido da história e atraiu investimentos – e recursos computacionais – necessários da Microsoft para se aproximar da AGI.

Além de anunciar uma série de novas ferramentas numa demonstração este mês, Altman afirmou na semana passada, numa cimeira de líderes mundiais em São Francisco, que acreditava que grandes avanços estavam à vista.

“Quatro vezes na história da OpenAI, a mais recente foi apenas nas últimas semanas, eu pude estar na sala, quando empurramos o véu da ignorância para trás e a fronteira da descoberta para frente, e conseguir fazer isso é a honra profissional de uma vida”, disse ele na cimeira de Cooperação Económica Ásia-Pacífico.

Um dia depois, o conselho demitiu Altman.

(Texto traduzido após ser publicado pela Reuters em 23/11)
(Foto: Reprodução)