IL CODICE DEI VINCOLI

Robot programmati e uomini convinti di scegliere

Negli ultimi mesi, mentre il dibattito sull’intelligenza artificiale diventava sempre più acceso, mi sono trovato a osservare una scena che andava oltre la tecnologia.

Da una parte immaginavo gruppi di robot.
Macchine sofisticate, capaci di calcolo, analisi, previsione.
Si muovono con coerenza impeccabile.
Non discutono le regole.
Non le interpretano emotivamente.
Le eseguono.

Dall’altra parte, gruppi di programmatori.
Non costruiscono solo macchine.
Scrivono vincoli.
Stabiliscono priorità.
Decidono quale legge ha precedenza su un’altra.
Organizzano gerarchie.

Il robot non nasce libero.
Nasce vincolato.

Nell’universo narrativo di Isaac Asimov, soprattutto nei racconti raccolti in Io, Robot, i robot non sono pericolosi perché pensano troppo.
Sono vincolati da leggi precise.
La loro autonomia è un’esecuzione dentro un sistema gerarchico.

Quando qualcosa va storto, non è perché il robot “vuole”.
È perché due vincoli entrano in conflitto.
È un problema di architettura.

Più riflettevo su questa dinamica, più mi rendevo conto che non stavo osservando solo una questione tecnologica.

Stavo osservando una struttura.

Robot e vincoli

Un robot è programmato.
Non può violare i vincoli che lo definiscono.
Non può uscire dal codice che lo governa.

Il punto cruciale è questo:
la sua libertà è delimitata da ciò che è stato scritto prima di lui.

Il robot non sceglie.
Applica.

Non soffre i vincoli.
Non li mette in discussione.
Li esegue.

Uomini e vincoli

E l’essere umano?

Qui l’analogia diventa scomoda.

Anche l’essere umano si muove dentro vincoli.
Non scritti in silicio, ma impressi nell’esperienza.

Vincoli legati al senso di colpa.
Vincoli legati alla paura dell’abbandono.
Vincoli legati al timore del giudizio.
Vincoli legati alla disistima.

Non sono limiti generici.
Sono direzioni interiori.

Il limite ferma.
Il vincolo orienta.

Da anni lavoro proprio su questo punto: non il comportamento visibile, ma il vincolo che lo genera. Mi sono accorto che finché non individui la struttura che ti orienta, continuerai a chiamare “scelta” ciò che è solo esecuzione. È lì che ho iniziato a vedere il parallelo tra robot e uomini.

Molte delle nostre decisioni non nascono nel momento in cui le compiamo.
Nascono molto prima.
Nell’infanzia.
Nelle prime relazioni significative.
Nei primi messaggi ricevuti su cosa è giusto, cosa è sbagliato, cosa è accettabile, cosa è punibile.

Se un robot viene programmato da ingegneri, l’essere umano viene programmato dall’ambiente primario.

La differenza non è nella presenza del codice.
È nel fatto che l’uomo raramente lo vede.

In fondo, qualcosa di molto simile lo si intravede già in Abissi d'acciaio di Isaac Asimov.
In quel romanzo l’umanità vive in città chiuse, immense strutture metalliche costruite per proteggere, organizzare, rendere tutto più sicuro. Eppure quelle stesse strutture finiscono per determinare abitudini, paure, protocolli sociali interiorizzati.

Non sono solo i robot a muoversi dentro leggi.
Sono anche gli uomini a vivere dentro architetture che non mettono più in discussione.

Gli abissi non sono solo d’acciaio.
Sono culturali.

Apparente autonomia

Il robot non dice: “Ho deciso.”
Noi sì.

Ma la domanda è inevitabile:

Quante delle nostre scelte sono davvero volontà?
E quante sono esecuzioni di vincoli interiorizzati?

Quando evitiamo un conflitto per non deludere.
Quando restiamo in una situazione per paura di perdere.
Quando non osiamo per timore del giudizio.
Quando ci sabotiamo per non sentirci in colpa.

Non stiamo esercitando libertà.
Stiamo reagendo.

La tecnologia ci spaventa perché temiamo che le macchine decidano da sole.

Raramente ci chiediamo se anche noi decidiamo davvero.

Programmatori invisibili

Nel mondo dei robot, i programmatori sono identificabili.
Hanno nomi, volti, responsabilità.

Nel mondo umano, i programmatori sono più sfumati.
Genitori.
Insegnanti.
Contesto culturale.
Esperienze emotive intense.

Non c’è malizia necessariamente.
C’è trasmissione.

Così come il robot non sceglie le proprie leggi, il bambino non sceglie i propri vincoli.

Li assorbe.

Il problema non è avere vincoli.
Ogni sistema ne ha.

Il problema è ignorarli.

Il vero punto critico

Un robot non può riscrivere il proprio codice.

L’essere umano sì.

Questa è la differenza decisiva.

Ma per riscrivere un codice bisogna prima accorgersi che esiste.

Finché non lo vediamo, lo eseguiamo.
Finché non lo osserviamo, lo chiamiamo carattere.
Finché non lo mettiamo in discussione, lo chiamiamo personalità.

Eppure molte rigidità che difendiamo come “sono fatto così” non sono identità.
Sono vincoli.

La tecnologia non ci sta portando verso un futuro dominato dalle macchine.

Ci sta mettendo davanti a uno specchio.

Il robot è vincolato consapevolmente.
Noi spesso siamo vincolati inconsapevolmente.

La domanda inevitabile

Il dibattito sull’intelligenza artificiale ruota attorno a una paura:

E se le macchine diventassero autonome?

Forse la domanda più urgente è un’altra:

Siamo sicuri di esserlo noi?

Se l’autonomia è la capacità di agire al di fuori di vincoli non scelti, allora la libertà non è uno stato naturale.

È un processo di consapevolezza.

Non si tratta di eliminare i vincoli.
Si tratta di riconoscerli.

Perché un vincolo visto diventa opzione.
Un vincolo invisibile diventa destino.

E a quel punto la differenza tra robot e uomo non è più tecnologica.

È strutturale.

Il robot esegue leggi scritte da altri.
L’uomo può scoprire le proprie e decidere se continuare a eseguirle.

Finché non lo fa, la distanza tra silicio e carne è meno grande di quanto vorremmo credere.

“Il robot esegue leggi scritte da altri.
L’uomo può scoprire le proprie.
Finché non lo fa, la differenza tra codice e coscienza
è solo una convinzione.”

     ---

✦ Nota: Alcuni link presenti nell’articolo sono link di affiliazione Amazon. Se effettui un acquisto tramite questi link, riceveremo una piccola commissione (senza costi aggiuntivi per te). Grazie per sostenere Controbattere – Oltre il Pensare e la diffusione della conoscenza libera.

---

Tutti i contenuti di questo sito sono opere originali.
È vietata la riproduzione, anche parziale, senza consenso scritto dell’autore.