Evan Hubinger
Evan Hubinger è un ricercatore sulla sicurezza dell'AI presso Anthropic, noto per aver messo in guardia sul fatto che l'intelligenza artificiale potrebbe rappresentare una minaccia esistenziale per l'umanità.
0 storie.
Chi è
Evan Hubinger è un ricercatore presso Anthropic, un'azienda che sviluppa sistemi di intelligenza artificiale con un focus sulla loro sicurezza e allineamento ai valori umani. Si è occupato di AI alignment, il campo che mira a garantire che sistemi di AI potenti facciano ciò che gli esseri umani intendono e non causino danni. Il suo lavoro rientra nel più ampio ambito della AI safety, che studia come prevenire che le tecnologie di AI producano risultati pericolosi.
È stato associato al movimento dell'altruismo efficace, che applica evidenze e ragionamento per trovare i modi più impattanti per migliorare il mondo. Questa filosofia ha influenzato gran parte del pensiero sui rischi dell'AI.
Cosa ha detto
Hubinger ha espresso pubblicamente preoccupazione per il fatto che un'AI avanzata potrebbe costituire un rischio esistenziale per l'umanità. Secondo quanto riportato, avrebbe stimato che esiste oltre il 10% di probabilità che l'AI possa uccidere tutti gli esseri umani, e che questa minaccia potrebbe presentarsi entro il prossimo decennio. Questi avvertimenti suggeriscono che ritiene il pericolo sia serio e che si stia avvicinando più rapidamente di quanto gli attuali sforzi di sicurezza possano affrontare.
Le sue preoccupazioni si allineano con quelle di altri ricercatori di Anthropic che hanno lanciato allarmi sul fatto che il ritmo dello sviluppo dell'AI sta superando la capacità di garantirne la sicurezza. Dai loro avvertimenti traspare che al momento non esiste una soluzione chiara per gestire i rischi posti da sistemi di AI sempre più capaci.
Perché è importante
Gli avvertimenti di persone come Hubinger contano perché provengono da ricercatori profondamente impegnati nella costruzione di sistemi di AI, non da osservatori esterni. Se qualcuno che lavora all'interno di uno dei principali laboratori di AI ritiene che il rischio sia reale e urgente, le sue parole hanno peso nel dibattito su quanto seriamente governi, aziende e pubblico dovrebbero prendere la sicurezza dell'AI. Le loro opinioni esercitano pressione sugli sviluppatori di AI e sui regolatori perché investano di più nella ricerca sulla sicurezza e prendano in considerazione un rallentamento dello sviluppo quando i rischi diventano troppo elevati.
Domande più frequenti
Cosa fa Evan Hubinger ad Anthropic?
È un ricercatore di AI alignment, il che significa che il suo lavoro si concentra sul garantire che i sistemi di AI si comportino in modo sicuro e coerente con le intenzioni umane.
Quanto è preoccupato per l'AI?
Ha dichiarato che esiste oltre il 10% di probabilità che l'AI possa uccidere tutti gli esseri umani, probabilmente entro i prossimi dieci anni. Si tratta di una stima del rischio molto elevata rispetto alla maggior parte delle discussioni pubbliche sull'AI.
Cos'è l'AI alignment?
L'AI alignment è il campo di ricerca che cerca di garantire che i sistemi di AI facciano ciò che gli esseri umani desiderano e evitino di causare danni involontari. È una parte fondamentale per rendere sicura un'AI potente.
Ogni storia su Evan Hubinger (0)
Nessuna storia riguarda ancora Evan Hubinger.