Cos’è Q Star, il pericolo per l’umanità che avrebbe allontanato Altman da OpenAI

Sam Altman, CEO di OpenAI, è stato al centro di una controversa vicenda che ha scosso le fondamenta dell'azienda pioniera nell'intelligenza artificiale. La situazione ha raggiunto il suo apice con il suo licenziamento e successivo reintegro in seguito allo sviluppo segreto di un nuovo modello di intelligenza artificiale denominato Q* (che si legge Q Star). Questa innovazione, che si prospetta come un passo avanti verso l'intelligenza artificiale generale (AGI), ha sollevato preoccupazioni significative riguardo alle sue implicazioni per l'umanità.

Q Star e le preoccupazioni del CdA di OpenAI

Il licenziamento temporaneo di Altman da OpenAI è stato una risposta diretta alle preoccupazioni sollevate dal consiglio di amministrazione dell'azienda. La decisione è stata influenzata proprio dalla scoperta di Q Star*, una tecnologia che potrebbe portare a un salto qualitativo nell'ambito dell'AGI. La mancata valutazione delle possibili conseguenze di questa tecnologia, prima della sua commercializzazione, ha causato allarme tra i membri del consiglio, spingendoli a rimuovere Altman dal suo ruolo.

Il progetto Q* rappresenta un progresso fondamentale per OpenAI nel campo dell'AGI, sistemi in grado di superare gli esseri umani in compiti di grande impatto economico. La capacità di Q* di risolvere problemi matematici è stata una dimostrazione chiave del suo potenziale. Questo sviluppo suggerisce che l'AGI potrebbe avvicinarsi a modelli di ragionamento umano, con significative implicazioni per la ricerca scientifica e la società.

Il rientro di Sam Altman e il futuro dell’AI con Q Star

Dopo un breve periodo di assenza, Sam Altman è stato reintegrato nella sua posizione di CEO di OpenAI, grazie alle pressioni dei dipendenti e degli investitori. Questo ritorno segna un momento cruciale per il futuro dell'intelligenza artificiale, poiché il ruolo di Altman e il potere che esercita nell'azienda sono ora più rilevanti che mai.

L'avanzamento dell'intelligenza artificiale, come dimostra il caso di Q Star, ha sollevato preoccupazioni diffuse sulla necessità di una regolamentazione adeguata. Gli esperti del settore, inclusi accademici e governi, concordano sull'importanza di stabilire normative per controllare l'evoluzione dell'AI e prevenire potenziali scenari negativi.

Il ritorno di Sam Altman al timone di OpenAI segna quindi un momento decisivo per l'azienda e per il campo dell'intelligenza artificiale in generale. Con la sua guida, OpenAI continuerà a essere all'avanguardia nello sviluppo di tecnologie rivoluzionarie, mentre si confronta con le sfide etiche e di sicurezza inerenti a tale progresso.

Q Star pericolosa per l’umanità? La crisi interna di OpenAI

Riepilogando quello che è accaduto negli ultimi giorni, Sam Altman, CEO di OpenAI, è stato al centro di un tumulto interno all'azienda, culminato con il suo licenziamento e successivo reintegro. La causa principale di questa situazione turbolenta sembra essere stata la scoperta di Q*, nuovo modello avanzato di intelligenza artificiale che promette di essere il primo passo verso l'intelligenza artificiale generale.

Secondo le informazioni, il team di OpenAI, guidato da Jakub Pachocki e Szymon Sidor, ha scoperto che Q* poteva risolvere autonomamente problemi matematici di base, un segno promettente verso il raggiungimento dell'AGI.

La domanda più che legittima ora è la seguente: perché Q Star potrebbe essere pericolosa per l’umanità?

Il potenziale impatto di Q* ha sollevato preoccupazioni etiche significative all'interno del consiglio di amministrazione di OpenAI. La lettera dei ricercatori, che non ha raggiunto il consiglio, ha messo in luce la capacità e il pericolo potenziale di Q*.

La scoperta di Q* ha segnato una svolta significativa nel campo dell'Intelligenza Artificiale, in quanto il modello ha mostrato capacità di risoluzione di problemi matematici a un livello elementare, dimostrando un approccio deterministico a differenza delle IA generative attuali, che si basano su modelli probabilistici. Questa capacità di Q* di fornire risposte esatte in campo matematico è stata vista come un importante passo avanti verso la simulazione del ragionamento umano.

In particolare, Q* potrebbe non essere rischiosa al momento per l’umanità, ma il fatto di risolvere problemi matematici, per ora elementari, e di avvicinarsi a un livello molto più elevato di AI, la rende il primo step verso un’intelligenza artificiale in grado di pensare e agire come un umano, e quindi, potenzialmente, di superarlo.

Il licenziamento di Altman è stato visto come una reazione a questi timori, aggravati dalla possibilità che Altman potesse commercializzare prematuramente questa tecnologia rivoluzionaria senza un'adeguata valutazione dei suoi rischi.

I tre livelli di Intelligenza Artificiale

OpenAI si concentra su tre livelli dell'AI, teorizzati da Nick Bostrom: l'ANI (Artificial Narrow Intelligence), l'AGI (Intelligenza Artificiale Generale), e l'ASI (Artificial Super Intelligence). Mentre l’ANI si occupa di compiti specifici, AGI e ASI rappresentano forme di AI più avanzate, con l'AGI che si avvicina alle capacità cognitive umane e l'ASI che le supera.