Riprenderà il lavoro che ha interrotto bruscamente a OpenAI, la società di Sam Altam da cui si è allontanato polemizzando per quelle che, a suo avviso, sarebbero carenti misure di sicurezza rispetto ai rischi dell’intelligenza artificiale. Jan Leike si è appena unito al team di Anthropic, la scaelup americana in cui ha investito pure Amazon, diretta competitor di OpenAI nello sviluppo di chatbot di AI.
Pochi giorni fa, sul proprio profilo X, Jan Leike si era esposto pubblicamente postando una frase perentoria: «OpenAI deve diventare una società AGI attenta alla sicurezza». AGI è l’acronimo per Artificial General Intelligence, ovvero l’AI più intelligente di qualsiasi persona al mondo (una tecnologia simile pare che ancora non ci sia. Pare.)
Jan Leike e l’importanza del super allineamento
Come riassume TechCrunch, in Anthropic Jan Leike ricoprirà un ruolo analogo a quello in OpenAI (era il codirettore del team sul super allineamento): si occuperà infatti della divisione impegnata sul medesimo fronte. La materia è estremamente tecnica, ma con implicazioni tutt’altro che di nicchia: il principio alla base dell’allineamento impone che le aziende sviluppino intelligenze artificiali che non possano mettere a rischio la sicurezza e l’incolumità delle persone.
Come una sorta di garanzia per impedire che, un domani, robot decidano autonomamente di mettere a rischio la vita di un essere umano perché, stando ai loro ragionamenti, così si dovrebbe fare.
Anthropic è una società in espansione, così come tutte le altre impegnate sulla frontiera dell’AI. Cofondata da Dario e Daniela Amodei, ha appena ingaggiato Mike Krieger, il cofounder di Instagram, divenuto responsabile del prodotto della società. Rispetto alle questioni sicurezza e tutela dei diritti d’autore, OpenAI è da tempo al centro delle polemiche: l’ultima è scoppiata dopo che l’attrice Scarlett Johansonn si è pubblicamente lamentata del fatto che la voce dell’assistente vocale Sky lanciata dalla società è tremendamente simile alla sua (qui abbiamo ricostruito l’inter vicenda).
