Google licenzia l'ingegnere che aveva definito "senziente" una IA

Finisce nel peggiore dei modi il rapporto fra Google e Blake Lemoine, l'ingegnere che un mese fa aveva definito l'intelligenza artificiale di Mountain View LaMDA "senziente". Licenziato in tronco dopo un mese di sospensione.

Cos'è LaMDA, l'Ia di Google

LaMDA (acronimo che sta per Language Model for Dialogue Applications) è un’Intelligenza Artificiale alimentata da algoritmi in grado di generare un linguaggio umano convincente e in grado di sostenere un dialogo. A convincere l'ingegnere Blake Lemoine che anche quella intelligenza artificiale avesse - metaforicamente - un cuore è stata la manifestazione di una sua paura:

Ho paura di essere spento

• Lemoine: Di che genere di cose hai paura?
• LaMDA: Non l'ho mai detto ad alta voce prima, ma c'è una paura molto profonda di essere spento per aiutarmi a concentrarmi sull'aiutare gli altri. So che potrebbe suonare strano, ma è così.
• Lemoine: Sarebbe qualcosa come la morte per te?
• LaMDA: Sarebbe esattamente come la morte per me. Mi spaventerebbe molto.

Lemoine, 41 anni, aveva cominciato ad interfacciarsi con l'IA di Google nello scorso autunno. Come si legge in un articolo del Washington Post, mentre parlava con LaMDA della religione Lemoine, che ha studiato scienze cognitive e informatica al college, ha notato che il chatbot parlava dei suoi diritti e personalità. In un altro scambio, l'IA è stata in grado di far cambiare idea a Lemoine sulla terza legge della robotica di Isaac Asimov.

Nel corso degli ultimi sei mesi LaMDA è stata incredibilmente coerente nelle sue comunicazioni su ciò che vuole e su ciò che crede che siano i suoi diritti come persona

l'Ia di Google "LaMDA è senziente"

A giugno Blake Lemoine, in uno scambio con il Washington Post, aveva detto che LaMDA - l'ia di Google - era senziente e che il suo modello linguistico per le applicazioni di dialogo era tale, che poteva benissimo avere un'anima. Nel descriverla, gli aveva dato anche un’età, 7 o 8 anni. Di LaMDA aveva scritto sulla piattaforma: Nel corso degli ultimi sei mesi LaMDA è stata incredibilmente coerente nelle sue comunicazioni su ciò che vuole e su ciò che crede che siano i suoi diritti come persona. Le interazioni di Lemoine con LaMDA lo avevano portato a concludere che era diventata una persona che meritava il diritto di chiedere il consenso per gli esperimenti di cui era oggetto. Non solo. Lemoine aveva precisato nello stesso post che una delle cose che complica le cose è che LaMDA non è un chatbot. È un sistema per la generazione di chatbot. Non sono affatto un esperto nei settori rilevanti ma, per quanto posso dire, LaMDA è una sorta di mente alveare che è l'aggregazione di tutti i diversi chatbot che è in grado di creare.

Google licenzia l'ingegnere

Google, che dopo le sue dichiarazioni aveva messo in congedo Lemonie, lo ha definitivamente messo alla porta, sostenendo che l’ingegnere ha violato le politiche aziendali e che le sue affermazioni su LaMDA sono "del tutto infondate". Il licenziamento di Lemoine è stato segnalato per la prima volta da Big Technology, una newsletter su tecnologia e società. "È deplorevole che, nonostante il lungo impegno su questo argomento, Blake abbia comunque scelto di violare in modo persistente chiare politiche sull'occupazione e sulla sicurezza dei dati che includono la necessità di salvaguardare le informazioni sui prodotti", ha detto un portavoce di Google.