Segundo investigadores da empresa que criou o ChatGPT, o projeto Q* é uma descoberta que põe em risco a segurança e o futuro da Humanidade.
Q* (Q-Star): a descoberta que põe em risco a Humanidade
Recentemente, uma carta confidencial enviada ao conselho de administração da OpenAI, assinada por um grupo de investigadores de inteligência artificial da empresa, desencadeou uma série de eventos que abalaram o mundo da inteligência artificial.
Esta carta, datada pouco antes da destituição de Sam Altman do cargo de CEO, revela uma descoberta que, segundo fontes especializadas, poderia ter implicações significativas para a Humanidade, destacando um projeto interno conhecido como Q* (Q Star).
Os especialistas em desenvolvimento de software de inteligência artificial que subscreveram a carta alertam para uma descoberta que, afirmam, poderia ameaçar a existência humana. A Reuters e o The Information foram os primeiros a noticiar a existência desta carta, que se tornou um fator crítico nas queixas do conselho de administração que levaram à destituição de Sam Altman.
As preocupações expressas na carta incluíam não apenas as implicações da descoberta em si, mas também inquietações sobre a comercialização de avanços tecnológicos antes de compreender totalmente as suas consequências.
Este debate ético intensificou-se, levando vários investigadores a ameaçar deixar a empresa. Surpreendentemente, Altman foi readmitido após a sua saída, demonstrando a complexidade e a importância da questão.
A agência de notícias Reuters não conseguiu obter uma cópia da carta, mas uma fonte mencionou uma mensagem interna sobre o projeto Q* e uma carta ao conselho de administração. O projeto Q*, ou Q-Star, é visto por alguns especialistas como um passo significativo em direção à inteligência artificial geral (AGI), um sistema autónomo capaz de superar as capacidades humanas em tarefas economicamente valiosas.
Sob anonimato devido a acordos de sigilo, uma fonte da agência Reuters revelou que o projeto Q*, munido de vastos recursos computacionais, conseguiu resolver problemas matemáticos, embora inicialmente a um nível de complexidade básica.
A Reuters alerta para a impossibilidade de verificar de forma independente as capacidades do projeto Q*, mas destaca que esta conquista representa um avanço notável, ultrapassando as limitações da inteligência artificial generativa (IA), que historicamente tem sido mais eficaz em linguagem e tradução de texto.
A carta sublinha a relevância desta proeza ao superar uma das barreiras tradicionais da IA: a matemática. A capacidade do Q* de dominar conceitos matemáticos mais avançados sugere um nível de raciocínio mais próximo ao humano.
Comparativamente às calculadoras tradicionais, que resolvem um número finito de operações, a IA generativa, exemplificada pelo Q*, demonstra a capacidade de generalizar, aprender e compreender, semelhante ao cérebro humano, permitindo uma gama mais ampla de “raciocínios” matemáticos.
A carta destaca o perigo associado a este avanço, mas as fontes não especificam os riscos envolvidos. A maior incerteza, de acordo com a Reuters, está relacionada com a possibilidade de sistemas altamente inteligentes tomarem decisões probabilísticas sobre a destruição da raça humana.
Altman, apesar de ter sido demitido e posteriormente readmitido, expressou otimismo em relação aos avanços iminentes na OpenAI. O CEO mencionou ter presenciado momentos de revelação na história da empresa e acredita que estes são sinais de progresso.
A história de Altman continuou com a sua ida para a Microsoft, o que desencadeou uma série de eventos dentro da OpenAI, incluindo ameaças de demissões em massa. O conselho de administração acabou por cair, e Altman regressou à OpenAI, reafirmando a complexidade e a importância da gestão dessas inovações na vanguarda da inteligência artificial.
O Projeto Q* permanece no centro deste cenário, prometendo continuar a desafiar os limites da IA e a suscitar questões fundamentais sobre ética, segurança e o futuro da Humanidade.
