Perché i primi sistemi di intelligenza artificiale erano progettati per essere casuali — e perché non ci hanno più soddisfatto

What you could do with it

Un ricercatore potrebbe studiare come funziona il pensiero creativo "disordinato" esaminando perché una rete neurale produce risposte inattese ¹.
Un'azienda come OpenAI potrebbe ridurre la casualità in un chatbot in modo che fornisca risposte sicure e prevedibili invece di strane ¹.
Uno psicologo potrebbe utilizzare una rete neurale per osservare i tipi di errori produttivi che si verificano all'interno di un modello del cervello ¹.

A math-based escape from order

Negli anni Cinquanta, un gruppo di ingegneri e artisti discuteva una domanda semplice: le macchine possono essere creative? Alcuni, come John Pierce, ingegnere elettrico alla Bell Labs, credevano che la risposta fosse sì — ma solo se si lasciavano fare errori alle macchine ¹.

Pierce sosteneva che la matematica dovesse essere usata per rimuovere l'ordine dall'arte, non per rinforzarlo. Aggiungendo raffiche calcolate di casualità, un computer poteva uscire dai modelli prevedibili e produrre qualcosa di inaspettato — che lui vedeva come la scintilla della creatività ¹.

Questa idea non era solo filosofia. I ricercatori iniziarono a costruire prime reti neurali — programmi informatici vagamente ispirati al funzionamento del cervello umano — che includevano deliberatamente casualità. Gli psicologi in particolare erano entusiasti perché questi modelli avrebbero potuto permettere loro di studiare i processi "disordinati" all'interno della mente umana ¹.

Strange answers were the point

Quando pensiamo all'AI oggi, di solito immaginiamo sistemi come ChatGPT che forniscono risposte utili e corrette. Ma i pionieri di un tempo valutavano questi sistemi per la ragione esattamente opposta ¹.

Avevano già macchine capaci di dare risposte ragionevoli e attese. Ciò che li entusiasmava delle reti neurali era la loro capacità di produrre risultati strani, sorprendenti, persino bizzarri — il tipo di output che proviene da un pensiero creativo, simile ai sogni ¹.

Questi sistemi vivevano soprattutto nei laboratori universitari, quindi una risposta sbagliata o strana non aveva conseguenze nel mondo reale ¹. Questo cambiò quando l'AI si spostò dai laboratori di ricerca ai prodotti che le persone usano ogni giorno.

The sanding down of strangeness

Oggi, aziende come OpenAI e Anthropic riducono deliberatamente la casualità nei propri sistemi. I rischi legali e finanziari significano che un chatbot che occasionalmente inventa fatti o fornisce risposte inattese è un passivo ¹.

Lindquist definisce questo processo un "levigatura" della stranezza — l'imprevedibilità creativa è ancora presente nel nucleo, ma ora è largamente soppressa ¹. È per questo che l'AI moderna a volte ancora allucina: la casualità non è mai stata completamente rimossa, solo controllata.

La ricerca è apparsa sulla rivista Past and Present, e Lindquist sostiene che ci sarà sempre un compromesso tra creatività e prevedibilità nelle macchine progettate per imitare il pensiero umano ¹.

I fatti principali

I primi ricercatori di intelligenza artificiale negli anni Cinquanta aggiunsero intenzionalmente casualità per imitare la creatività umana
L'ingegnere della Bell Labs John Pierce sosteneva che la matematica dovesse rimuovere l'ordine, non aggiungerlo, per consentire output creativi
Le moderne aziende di intelligenza artificiale sopprimono questa casualità a causa di rischi legali e finanziari
La ricerca è stata pubblicata sulla rivista Past and Present da Benjamin Lindquist del MIT

Fonti

Q&A: How AI came to model the “messy” human mind