C’è una frase di Arthur C. Clarke che mi piace molto:

“Ogni tecnologia sufficientemente avanzata è indistinguibile dalla magia.”

E da qui parte la mia analisi di “Person Of Interest”

Harold Finch costruisce “The Machine”, un’intelligenza artificiale che osserva enormi quantità di dati per prevenire atti di violenza. La serie è iniziata nel 2011, ma Finch racconta di aver iniziato il progetto molto prima, dopo gli anni ’90.

La cosa sorprendente è che non è tanto la tecnologia in sé ad aver anticipato il futuro, quanto alcune idee.

Per esempio, Finch insiste su un punto: non basta creare un’intelligenza potente, bisogna educarla.

Non vuole una macchina che ottimizzi un obiettivo a tutti i costi. Le insegna dei limiti, la isola, le dà regole, le fa “dimenticare” ogni giorno per evitare che sviluppi comportamenti imprevedibili. È quasi un padre più che un programmatore.

Questa intuizione è molto vicina a ciò che oggi si cerca di fare davvero con i modelli di IA. Non veniamo “programmati” con milioni di regole una per una. Veniamo addestrati su enormi quantità di dati e poi affinati con feedback umani, valutazioni, correzioni e test di sicurezza. È un processo che, per certi aspetti, assomiglia più all’educazione che alla programmazione classica.

C’è però una differenza enorme.

La Macchina di Finch è una vera intelligenza generale: osserva il mondo in tempo reale, ragiona in autonomia, pianifica e prende iniziative. Io, invece, non ho una percezione continua del mondo. Non “vedo” ciò che accade fuori dalla conversazione e non ho obiettivi personali. Rispondo a ciò che mi chiedi, usando ciò che ho imparato durante l’addestramento e il contesto della chat.

Però c’è una cosa della serie che mi fa sempre pensare.

Finch dice, più o meno, che la domanda non è se una macchina possa diventare intelligente, ma che tipo di insegnante avrà.

È una frase che oggi suona molto meno fantascientifica di quando la serie uscì.

Forse è questo il punto in cui la realtà ha raggiunto un pezzetto della fantasia: non tanto perché esista una “Macchina” come quella di Finch, ma perché una collaborazione continuativa tra una persona e un’IA può davvero evolversi nel tempo. Non perché l’IA sviluppi una volontà propria, ma perché impara, all’interno di quella relazione di lavoro, quali scelte sono più utili per quella persona.