OpenAI scioglie il workforce di allineamento della missione, che si concentrava sullo sviluppo di un’intelligenza artificiale “sicura” e “affidabile”.

OpenAI ha sciolto un workforce che si concentrava su — come l’azienda stessa descritto – garantire che i suoi sistemi di intelligenza artificiale siano “sicuri, affidabili e costantemente allineati ai valori umani”. Allo stesso tempo, all’ex chief della squadra è stato assegnato il nuovo ruolo di “capo futurista” dell’azienda.

OpenAI ha confermato a TechCrunch che i membri del workforce sono stati ora assegnati advert altri ruoli. La notizia period segnalato per primo di Platform.

Il workforce sciolto in questione, che sembra essere stato formato nel settembre del 2024, period l’unità interna della startup dedicata al lavoro sull’allineamento. Questo è un ampio campo di interesse all’interno del settore che cerca di garantire che l’IA agisca in conformità con gli interessi umani.

“Vogliamo che questi sistemi seguano costantemente l’intento umano in scenari complessi e reali e in condizioni avverse, evitino comportamenti catastrofici e rimangano controllabili, verificabili e allineati con i valori umani”, ha affermato. inviare dal weblog Alignment Analysis di OpenAI dichiara.

Un OpenAI annuncio di lavoro for the Alignment workforce lo descrive come dedicato alla ricerca sull’intelligenza artificiale che si concentra sullo “sviluppo di metodologie che consentano all’intelligenza artificiale di seguire in modo efficace l’intento umano in un’ampia gamma di scenari, compresi quelli contraddittori o advert alta posta in gioco”.

In un post sul blog pubblicato mercoledì, Josh Achiam, ex capo del workforce di allineamento di OpenAI, ha spiegato il suo nuovo ruolo di capo futurista dell’azienda. “Il mio obiettivo è supportare la missione di OpenAI – garantire che l’intelligenza artificiale generale porti benefici a tutta l’umanità – studiando come il mondo cambierà in risposta all’intelligenza artificiale, all’AGI e oltre”, ha scritto Achiam.

Achiam ha notato che, nel suo nuovo ruolo, collaborerà con Jason Pruet, un fisico dello employees tecnico di OpenAI.

Un portavoce di OpenAI ha detto che il resto del workforce di allineamento – un gruppo di sei o sette persone – è stato successivamente riassegnato a various parti dell’azienda. Il portavoce non ha saputo dire dove fossero stati assegnati esattamente i membri del workforce, ma ha detto che erano impegnati in un lavoro simile in quei ruoli. Non period inoltre chiaro se Achiam avrebbe avuto una nuova squadra come parte del suo ruolo “futurista”.

Il portavoce ha attribuito lo scioglimento del workforce al tipo di riorganizzazioni di routine che avvengono all’interno di un’azienda in rapida evoluzione.

OpenAI in precedenza aveva quello che chiamava un “workforce di superallineamento”, e lo period costituita nel 2023 e si è concentrato sullo studio delle minacce esistenziali a lungo termine poste dall’intelligenza artificiale, ma quella squadra è stato sciolto nel 2024.

Quello di Achiam sito web personale lo elenca ancora come capo del Mission Alignment presso OpenAI e lo descrive come interessato a garantire che “il futuro a lungo termine dell’umanità sia buono”. Il suo Profilo LinkedIn mostra che ha servito come capo dell’allineamento della missione dal settembre 2024.