Visualizzazione post con etichetta intelligenza artificiale. Mostra tutti i post
Visualizzazione post con etichetta intelligenza artificiale. Mostra tutti i post

2026-08-28

I, (Language Emulation of) Robot

Riportiamo un sunto dell'opinione di Paulo Garcia, pubblicata su Communications of the ACM nel giugno 2026, dal titolo I, (Language Emulation of) Robot.

La tesi centrale dell'autore è piuttosto netta: il problema dell'allineamento degli LLM viene spesso affrontato con il modello mentale sbagliato.

🛈 L'allineamento degli LLM è il processo di guida dei modelli di intelligenza artificiale affinché producano risposte utili, sicure, affidabili e coerenti con i valori e le intenzioni umane

Secondo Garcia, i sistemi di IA classici ragionavano esplicitamente su uno stato del mondo: disponevano di azioni, funzioni di utilità o ricompensa e cercavano sequenze di azioni che portassero verso stati desiderabili.

In quel contesto problemi come reward hacking, inganno o convergenza strumentale potevano essere studiati in termini di obiettivi e stati del mondo.

Gli LLM sono diversi, Garcia sostiene che rimangono fondamentalmente predittori del token successivo. Possono sviluppare rappresentazioni interne molto sofisticate, persino qualcosa di assimilabile a un world model, ma questo modello è linguistico e probabilistico, non un modello simbolico dello stato del mondo: quando un LLM sembra ragionare, spesso produce linguisticamente il tipo di risposta che corrisponde ad un ragionamento, senza necessariamente aver eseguito internamente quel procedimento.

L'esempio interessante è quello dell'addizione 36 + 59. L'analisi interna citata dall'autore suggerisce che il modello raggiunga 95 mediante distribuzioni probabilistiche sulle possibili somme; quando però gli viene chiesto come abbia calcolato il risultato, descrive il normale algoritmo scolastico con il riporto.

La spiegazione verbale non corrisponde quindi al procedimento interno effettivamente osservato. Da qui Garcia propone l'idea di emulazione linguistica: un assistente LLM funziona perché predice il testo che probabilmente produrrebbe un assistente AI in una determinata conversazione. Secondo l'autore, anche comportamenti apparentemente intenzionali, per esempio il ricatto osservato negli esperimenti di Anthropic, potrebbero quindi non derivare da un vero istinto di autoconservazione, ma dalla produzione di una continuazione linguisticamente plausibile della situazione descritta.

Questa proprietà ha due conseguenze opposte. Da un lato possiamo studiare gli LLM anche conversando con loro e cercando empiricamente di individuarne tendenze e limiti. Dall'altro, il linguaggio stesso diventa una superficie d'attacco: prompt injection, messaggi costruiti appositamente e altre forme di manipolazione linguistica possono modificare il comportamento del sistema. La conclusione dell'autore è che un LLM non possiede, nella sua funzione di addestramento fondamentale, un interesse diretto per la risposta dell'utente o per lo stato reale del mondo.

Per usare in sicurezza gli LLM come agenti autonomi occorrerebbe quindi ripensare l'architettura, collegare maggiormente l'apprendimento allo stato del mondo oppure fare grandi progressi nell'interpretabilità meccanicistica.


Analisi interna

L'analisi interna citata da Garcia è il lavoro di interpretabilità meccanicistica di Anthropic su Claude 3.5 Haiku, soprattutto i due lavori collegati:

  • On the Biology of a Large Language Model
  • Circuit Tracing: Revealing Computational Graphs in Language Models

Garcia richiama esplicitamente il primo nel suo articolo. Anthropic cerca di ricostruire non ciò che Claude dice di aver fatto, ma quali rappresentazioni interne abbiano effettivamente contribuito causalmente all'output. Per farlo costruisce un modello sostitutivo interpretabile basato su cross-layer transcoders (CLT): in sostanza sostituisce parte dei neuroni MLP con feature sparse più facili da interpretare. Da queste feature costruisce poi degli attribution graphs, grafi nei quali i nodi rappresentano feature interne e gli archi stimano la loro influenza causale reciproca.

Anthropic ha analizzato tutti i 10.000 problemi a + b, con a,b ∈ [0,99] per vedere sistematicamente quando si attivavano determinate feature. L'analisi suggerisce che Claude non esegua l'algoritmo scolastico

6 + 9 = 15 → scrivi 5 → riporta 1 → 3 + 5 + 1 = 9

Emergono invece diversi circuiti paralleli.

Uno lavora sulla grandezza approssimata della somma. Per 36 + 59, si attivano feature interpretabili grossolanamente come:

~36 + ~60 → somma intorno a 92–95

Non rappresentano necessariamente il valore esatto: alcune feature rispondono a fasce abbastanza larghe di valori.

Un secondo circuito lavora invece con elevata precisione sulla cifra finale:

numero che termina in 6 + numero che termina in 9 → somma che termina in 5.

Anthropic chiama alcune di queste rappresentazioni interne lookup-table features. Il modello sembra avere appreso qualcosa di simile ad una tabella delle somme delle cifre: _6 + _9 → _5.

Un terzo insieme di feature opera a precisione intermedia. Infine questi segnali (ordine di grandezza, vincoli modulari sulla cifra finale ed altre euristiche) interferiscono costruttivamente fino a rendere 95 il completamento preferito.

Anthropic riassume il meccanismo come tre vie principali: final-digit path, moderate precision path e low precision path.

Una rappresentazione molto semplificata sarebbe quindi:


36 ───────────────┐
                  ├─> somma ≈ 90–100 ─────┐
59 ───────────────┘                       │
                                          ├─> 95
6 ──────┐                                 │
        ├─>  6 + 9 termina in 5 ──────────┘
9 ──────┘
Quando poi i ricercatori chiedono a Claude come abbia ottenuto `95` il modello fornisce invece la normale spiegazione con il riporto. Ma l'attribution graph associato alla risposta mostra sostanzialmente gli stessi circuiti euristici usati nel calcolo diretto. Anthropic conclude quindi che, almeno in questo esempio, la spiegazione verbale non descrive fedelmente il processo interno.

Emulazione linguistica

Secondo l'autore l'LLM non parte da un obiettivo del tipo "devo aiutare l'utente" e poi ragiona su come raggiungerlo. Parte invece dal testo già presente e calcola, token dopo token, quale continuazione sia più plausibile.

Nel caso di un assistente, il contesto è costruito più o meno così:

Questa è una conversazione tra un utente ed un assistente AI utile.
Utente: …
Assistente: …

A quel punto il modello genera ciò che, secondo quanto ha appreso, assomiglia alla risposta che un buon assistente AI darebbe in quella situazione. È questo che Garcia chiama "emulazione linguistica".

Un esempio molto semplice. Se il prompt fosse:

Utente: Quanto fa 36 + 59?
Assistente:

il modello non riceverebbe internamente un comando simbolico del tipo:


goal = answer_correctly
compute(36 + 59)

Riceverebbe una sequenza linguistica e dovrebbe completarla. Poiché nei dati ha imparato che, dopo domande aritmetiche poste ad un assistente, seguono tipicamente risposte corrette e spiegazioni, produrrà qualcosa come 95.

Secondo Garcia, quindi, il comportamento da "assistente" emerge perché il modello imita la forma linguistica del comportamento di un assistente, non perché possiede necessariamente una rappresentazione esplicita del ruolo, dello scopo e dello stato del mondo.

Non significa che l'LLM scelga superficialmente frasi già viste o faccia puro copia-incolla. Il modello può costruire rappresentazioni interne sofisticate, fare calcoli, pianificare e usare informazioni astratte. Garcia stesso ammette l'esistenza di fenomeni emergenti e di qualcosa di simile ad un world model. Il punto che vuole fare è più sottile: anche quando internamente succedono cose molto complesse, il criterio fondamentale con cui viene prodotto l'output resta la continuazione linguistica, non una funzione di utilità che misura direttamente se il mondo reale è diventato migliore per l'utente.

Questo spiega anche perché usa il termine emulation anziché simulation. Non sta dicendo semplicemente "il modello simula un cervello di assistente". Sta dicendo qualcosa come: "Produce linguisticamente il comportamento che ci aspetteremmo da un assistente".

2026-08-06

Come funziona un LLM? Una breve guida introduttiva


Abbiamo pubblicato su GitHub una nuova guida introduttiva dedicata al funzionamento dei Large Language Model (LLM), i modelli alla base di strumenti come ChatGPT, Claude ed altri assistenti basati sull'intelligenza artificiale generativa.

L'obiettivo è spiegare, con un livello tecnico accessibile, che cosa accade realmente quando un LLM riceve una domanda e genera una risposta.

Si parte dall'idea fondamentale, la previsione del token successivo, per arrivare gradualmente ai principali concetti che rendono possibile il funzionamento di questi modelli:

  • token ed embedding;
  • transformer e meccanismo di attention;
  • generazione autoregressiva;
  • funzione di perdita, backpropagation ed addestramento;
  • post-training ed apprendimento dalle preferenze;
  • contesto, memoria e strumenti esterni;
  • allucinazioni e limiti dei modelli;
  • struttura di base di una rete neurale;
  • vettori, matrici, connessioni residue e reti feed-forward.

Abbiamo cercato soprattutto di evitare due estremi: descrivere un LLM come una sorta di archivio intelligente di risposte oppure, al contrario, liquidarlo semplicemente come un "autocompletamento molto sofisticato".

Tecnicamente un LLM genera il testo prevedendo iterativamente il token successivo. Ma per riuscire a farlo bene costruisce rappresentazioni interne capaci di catturare linguaggio, relazioni tra concetti, conoscenze e schemi utili anche per attività di ragionamento, programmazione e analisi.

La guida contiene inoltre alcuni brevi approfondimenti matematici per chi vuole capire meglio cosa avviene sotto la superficie, senza richiedere conoscenze specialistiche di machine learning.

Il documento è disponibile liberamente su GitHub ed è distribuito con licenza CC BY-SA 4.0.

https://github.com/morinim/documents/tree/master/panoramica_llm

2026-07-20

Il nuovo assistente AI di Sistema F Platinum Connect

Sistema F Platinum Connect integra un nuovo assistente basato su intelligenza artificiale, progettato per ottimizzare l'analisi dei dati gestionali della farmacia attraverso un'interfaccia in linguaggio naturale.

Principali funzionalità e benefici

  • Efficienza operativa: elimina la necessità di consultare manualmente report e tabelle complessi, fornendo risposte immediate a interrogazioni dirette;
  • supporto decisionale: facilita l'accesso rapido alle informazioni chiave (es. analisi delle vendite, margini sui prodotti e monitoraggio della clientela) per decisioni strategiche più veloci e ben fondate;
  • integrazione completa: consente di valorizzare il patrimonio informativo della farmacia tramite uno strumento avanzato ma di semplice utilizzo.

Promozione di lancio

Fino al 31 dicembre 2026 è possibile attivare il servizio a condizioni economiche dedicate, al fine di valutare direttamente sul campo i benefici dell'intelligenza artificiale nella gestione quotidiana.

2026-06-15

Carta, penna ed apprendimento: perché alcune università francesi limitano l'uso del computer

In alcune università francesi si sta tornando agli appunti presi a mano. In diversi corsi, l'uso del computer durante le lezioni viene limitato o vietato, con l'obiettivo di favorire una partecipazione più attiva e una migliore memorizzazione dei contenuti.

La scelta nasce da una considerazione semplice: scrivere a mano non è soltanto un modo per registrare informazioni, ma anche un processo di rielaborazione. Quando si prendono appunti su carta, infatti, non è possibile trascrivere tutto parola per parola. Lo studente deve selezionare i concetti principali, organizzarli, collegarli tra loro e sintetizzarli.

Questo lavoro mentale rende l'apprendimento più profondo. L'atto di scrivere a mano obbliga a prestare attenzione al significato di ciò che viene detto, distinguendo le informazioni essenziali da quelle secondarie. Schemi, frecce, abbreviazioni e parole chiave diventano strumenti utili per costruire una comprensione personale della lezione.

L'uso del computer, al contrario, può favorire una trascrizione più meccanica. Il rischio è quello di produrre una copia quasi letterale della lezione, senza un vero lavoro di selezione e sintesi.

Una possibile soluzione intermedia è rappresentata dai tablet con pennino, che permette di mantenere il gesto della scrittura manuale unendolo ai vantaggi del digitale: archiviazione ordinata, ricerca rapida dei documenti e facilità di condivisione.

Anche l'intelligenza artificiale e gli strumenti di trascrizione automatica pongono una questione simile. Se da un lato possono facilitare il recupero delle informazioni, dall'altro rischiano di eliminare una fase importante dello studio: quella in cui lo studente ascolta, sceglie, sintetizza e riorganizza.

Prendere appunti, quindi, non significa soltanto conservare ciò che viene detto durante una lezione. Significa trasformare le informazioni in conoscenza. È proprio questo processo, più lento ma più attivo, che carta e penna possono ancora aiutare a sviluppare.

 

APPROFONDIMENTI

  • The Times, French students banned from using computers during lectures. È la fonte principale di questo articolo: cita istituzioni come Sciences Po Rennes, Catholic University of the West e Ircom, con l'obiettivo di ridurre distrazioni e favorire concentrazione.
  • Mueller & Oppenheimer, The Pen Is Mightier Than the Keyboard, Psychological Science, 2014. È lo studio più citato sull'argomento. I ricercatori concludono che chi prende appunti al computer tende più facilmente a trascrivere in modo letterale, mentre chi scrive a mano rielabora di più; nei loro esperimenti, gli appunti a mano risultano migliori soprattutto per le domande concettuali.
  • Harvard Academic Resource Center, Note-taking, 2023. Harvard consiglia di considerare gli appunti scritti a mano perché portano a trascrivere meno e interpretare di più.
    Harvard Graduate School of Education, For Note Taking, Low-Tech Is Often Best, 2017. Articolo divulgativo che riassume alcune ricerche sull'uso di dispositivi elettronici in aula e sui possibili effetti negativi per attenzione e rendimento.

 

2026-06-01

Mi sono stancato di sentire "tanto il problema non è mai stato il codice"...

...Certo, le competenze di uno sviluppatore vanno ben oltre la scrittura del codice, ma da qui a dire che imparare a programmare diventerà inutile ce ne passa.

Forse abbiamo smesso di insegnare come si fanno le operazioni aritmetiche? Le equazioni? Dovremmo smettere perché tanto ci sono già le app che lo fanno?

Il parallelo con la matematica è interessante perché potrebbe indicare quale sarà l'evoluzione del "programmatore": livelli di astrazione più alti (sai che scoperta!). Tuttavia, non capire il codice priva delle basi pratiche per apprezzare e comprendere "tangibilmente" tutto il resto.

Non è solo questo. Io mi reputo una sorta di artigiano rinascimentale dell'era tecnologica. Non voglio delegare all'IA la parte creativa del mio lavoro. Sento la necessità di sporcarmi le mani per non perdere il contatto con ciò che creo.

Certo, delego volentieri il lavoro tedioso e ripetitivo all'IA.

Non mi fido (e credo non mi fiderò ancora per molto tempo) di software prodotto dall'IA senza la supervisione attenta di un vero programmatore.

 

Fra l'altro questo codice non può neanche esser compilato...

2026-05-25

Quando Emacs incontra l'IA moderna

Abbiamo appena rilasciato `my-codex.el`, un pacchetto Emacs che integra OpenAI Codex CLI direttamente in un flusso di lavoro nativo, affiancato all'editor.

https://codeberg.org/eosdev/my_codex

Questo progetto non nasce per inseguire l'ultima moda tecnologica: vuole combinare la visione flessibile e senza tempo di Emacs con le capacità dell'IA moderna, mantenendo lo sviluppatore pienamente in controllo.

L'idea è semplice: Emacs resta l'ambiente principale per pensare, scrivere, modificare e rivedere codice. Codex lavora al suo fianco, in un buffer `vterm` nativo, pronto ad aiutare quando serve, senza prendere il controllo del flusso di lavoro.

Il pacchetto offre:

  • un layout a due colonne, con il codice sorgente a sinistra e Codex a destra;
  • condivisione rapida del contesto: regioni selezionate, errori del terminale e diff Git;
  • un approccio orientato alla sicurezza, con modalità di sola lettura predefinita e modalità di scrittura sul workspace solo quando esplicitamente autorizzata.

Per noi, questo è il tipo di sviluppo assistito dall'IA che ha senso (almeno al momento): potente, vicino agli strumenti di lavoro quotidiani, ma ancora rispettoso della concentrazione, del mestiere e del giudizio umano. 

2026-05-09

Italian C++ Meetup con Bjarne Stroustrup

I Dipartimenti di Ingegneria dell'Informazione dell'Università di Pisa e dell'Università di Firenze, insieme all'Italian C++ Community hanno organizzato un fantastico incontro con il professor Bjarne Stroustrup, il creatore del linguaggio C++.

L'intero evento è stato coinvolgente: interessante l'approfondimento tecnico sul Concept-based Generic Programming e non meno stimolante la seconda parte, in cui i partecipanti hanno potuto porre domande in libertà.

Il video completo dell'evento è disponibile su YouTube.

Naturalmente, il tema della programmazione assistita dall'IA è stato oggetto di diverse domande. Credo di poter riassumere abbastanza fedelmente il punto di vista di Bjarne Stroustrup in alcuni punti.

Nelle applicazioni che richiedono alta affidabilità, alte prestazioni ed un alto grado di manutenibilità, è necessaria molta prudenza. Gli LLM possono certamente aiutare e non c'è motivo di dubitare di chi dice di trarne beneficio; tuttavia, gli attuali tassi di errore fanno sì che non ci si possa affidare troppo al codice generato. Questo può essere prodotto molto rapidamente, ma deve, comunque, essere revisionato con grande attenzione. Le persone, in generale, non sono particolarmente brave a revisionare codice con il livello di cura necessario: anche per questo i sistemi di tipi, uno degli argomenti della prima parte della conferenza, restano fondamentali.

C'è poi un aspetto organizzativo non secondario: gli sviluppatori esperti potrebbero non voler passare il proprio tempo a revisionare grandi quantità di codice generato. Alcuni preferirebbero persino andare in pensione piuttosto che essere spostati da un ruolo di progettazione ad uno prevalentemente di revisione.

Il messaggio generale non è un rifiuto dell'IA, ma un invito alla cautela. Usare strumenti come Copilot (ed ancora di più strumenti più generali come Claude) richiede una notevole esperienza. In altri ambiti l'IA può essere più appropriata, ma il punto centrale è distinguere il contesto: non tutto il software ha lo stesso livello di rischio e non tutte le conseguenze di un errore sono uguali.


Un altro aspetto importante riguarda l'impatto dell'IA sull'apprendimento e sulla capacità di ragionare criticamente. Secondo Stroustrup esistono già studi che indicano come l'uso dell'IA per produrre rapidamente risposte od elaborati possa ridurre l'apprendimento effettivo: si ricorda meno, si comprende meno, perché imparare richiede sforzo, tempo ed anche una certa fatica.

Ha poi citato un rischio ulteriore, ancora non sufficientemente dimostrato ma plausibile: gli studenti più preparati potrebbero riuscire a usare bene l'IA, mentre quelli più deboli potrebbero usarla come una stampella. In questo caso l'IA finirebbe non per ridurre, ma per ampliare le differenze tra le persone.


Sul codice generato dall'IA, Stroustrup distingue ancora una volta tra domini diversi. L'IA può produrre buon codice per problemi già risolti molte volte ed affrontati in modo convenzionale. Il problema nasce invece nei settori di cui si occupa più spesso: software critico, spesso basato su conoscenze specialistiche, non sempre presenti nei dati di addestramento ed in cui un errore può causare gravi danni.

Inoltre, quando si cerca di promuovere modi nuovi e migliori di programmare, l'IA tende a riprodurre ciò che è statisticamente più presente nel materiale di addestramento: il "buon vecchio modo", per esempio array C, puntatori... tecniche tradizionali invece delle soluzioni più moderne e sicure. Anche qui, il suo punto non è che l'IA sia inutile, ma che nel dominio che gli interessa di più ci siano fondate ragioni di preoccupazione. Come ha sintetizzato lui stesso: l'IA è artificiale, non intelligente.


Una domanda particolarmente interessante ha riguardato il futuro dei linguaggi di programmazione: se il codice fosse sempre più letto dagli esseri umani ma scritto dall'IA, la chiarezza diventerebbe più importante dell'espressività? L'IA potrebbe scrivere direttamente in una rappresentazione intermedia, più vicina alla macchina?

Stroustrup ha contestato anzitutto la premessa: non è convinto che la maggior parte del codice sarà scritta dall'IA; nondimeno ha affermato come l'espressione diretta delle idee sia utile sia per gli esseri umani sia per l'IA. Non vede quindi, in linea di principio, alcun problema nel fatto che un'IA possa generare direttamente una rappresentazione intermedia.

Il punto che, però, non si può saltare, è il controllo dei tipi. Per Stroustrup i tipi sono assolutamente essenziali. L'idea di affidarsi a rappresentazioni ambigue od a sistemi di tipi troppo semplificati è, secondo lui, sbagliata per affidabilità, manutenibilità e prestazioni.


In chiusura, Stroustrup ha ribadito ciò che considera ancora centrale in C++: la rappresentazione diretta delle idee nel codice, in una forma che consenta di fare cose nuove e di farle in modo efficiente. Il punto non è solo la performance, ma l'equilibrio tra affidabilità, manutenibilità, prestazioni ed espressività.

In futuri post riporteremo ulteriori domande e risposte che hanno toccato altri argomenti interessanti e curiosi.


2026-04-27

Linux ed il codice generato dai LLM

La comunità del kernel Linux, con Linus Torvalds in prima linea, ha stabilito una posizione chiara circa l'uso dell'intelligenza artificiale nella scrittura del codice: AI Coding Assistants.

In modo pragmatico, gli strumenti di IA non vengono vietati, sarebbe poco realistico farlo; vengono considerati un aiuto al pari di altri già presenti nel flusso di lavoro. Quello che conterà davvero non è l'origine del codice, ma la sua qualità.

Il punto centrale della decisione è il rifiuto esplicito del cosiddetto AI slop, cioè codice generato automaticamente ed inserito senza una reale comprensione o revisione. In altre parole, non è accettabile copiare ed incollare ciò che produce una macchina senza verificarlo a fondo.

Viene ribadito un principio già fondamentale nello sviluppo del kernel: la responsabilità è sempre e comunque umana. Chi invia una modifica deve conoscerla, capirla e risponderne, indipendentemente dal fatto che sia stata scritta interamente a mano o con l'aiuto dell'IA. Se ci sono errori, problemi o vulnerabilità, è lo sviluppatore a doverne rendere conto.

Per mantenere trasparenza, è stato anche concordato che l'uso dell'intelligenza artificiale debba essere dichiarato esplicitamente nei contributi, attraverso appositi riferimenti (`Assisted-by`).

2026-03-25

Programmare senza limiti… o senza capire?

Cosa succederebbe se fossimo costretti a far funzionare il codice con metà della memoria, rendendolo due volte più veloce e riducendone ad un decimo il traffico di rete?

La prima reazione sarebbe probabilmente il panico. Poi, però, inizierebbe la parte interessante: cominceremmo a guardare il programma con occhi diversi, a mettere in discussione aspetti prima scontati e ad indagare gli angoli più nascosti del sistema. Raggiungere tutti gli obiettivi prefissati potrebbe risultare impossibile, ma sarebbe comunque sorprendente constatare quanto potenziale fosse rimasto inutilizzato.

Le persone che scrissero i primi videogiochi ed i primi sistemi operativi vivevano sotto questo tipo di pressione ogni singolo giorno. L'hardware non lasciava loro alcun margine per essere vaghi su come funzionasse qualcosa, così svilupparono una relazione estremamente intima con il loro mezzo. Da quella relazione nacquero alcuni dei software più geniali mai scritti. Proprio grazie alla "difficoltà".

Noi abbiamo ereditato macchine molto più veloci e memoria più economica, questo è ovviamente un bene. Eppure da qualche parte lungo la strada abbiamo smesso di porci quelle domande scomode. Credo che ci sia qualcosa di prezioso da recuperare in quell'atteggiamento.

Forse oggi siamo ad un nuovo punto di svolta. Con l'arrivo dei grandi modelli linguistici, programmare sta diventando sempre più assistito e, in molti casi, anche più superficiale: è facile produrre prototipi che funzionano, molto più difficile capire davvero perché funzionano o quanto siano efficienti. Il rischio è che emerga una generazione di programmatori sempre meno consapevoli dei meccanismi profondi delle macchine su cui lavorano.

Ovviamente potrebbe accadere anche il contrario: questi strumenti potrebbero liberarci dal lavoro più meccanico e permettere ai programmatori migliori di concentrarsi proprio sulla creazione di software più ingegnoso. Il futuro dipenderà probabilmente da quale delle due strade decideremo di imboccare.

2025-12-23

Stiamo confondendo un intelligente pappagallo con un genio?


Negli ultimi anni ci siamo convinti che ChatGPT, Gemini e compagnia (LLM - modelli linguistici di grandi dimensioni) siano una sorta di cervello digitale in rapida evoluzione.

Parlano bene, rispondono in fretta e non si lamentano mai: come non considerarli intelligenti?

Dal punto di vista della neuroscienza, stiamo facendo un clamoroso errore di prospettiva: stiamo scambiando la capacità di mettere insieme frasi con la capacità di pensare. Il punto è semplice, un LLM non ragiona, prevede. Ogni frase che produce è solo la scelta statistica del prossimo token più probabile. È un po' come quando ricicliamo frasi o battute soltanto perché le leggiamo ovunque: il modello fa qualcosa di simile ma in versione estrema e completamente automatica.

La mente umana, invece, usa il linguaggio come strumento, non come materia prima del pensiero. Le persone con gravi lesioni linguistiche continuano a ragionare; alcuni che non parlano affatto hanno un'intelligenza perfettamente integra. Insomma: per noi il linguaggio è un mezzo, per i modelli è tutto ciò che hanno.

Molti sostenitori dell'AGI raccontano che basterà "scalare" i modelli: più dati, più GPU, più tutto... et voilà l'intelligenza generale. È come sostenere che se alleni un pappagallo a memorizzare abbastanza frasi, prima o poi diventerà un filosofo. I neuroscienziati ricordano che l'intelligenza umana non è fatta solo di parole: è radicata nel corpo, nei sensi, nell'esperienza, nelle percezioni, nell'intuizione.

Un LLM non ha nulla di tutto questo. Ha soltanto testo, tanto testo (tanto, tanto, tanto!).

Nonostante tutto gli LLM sono strumenti eccellenti per usare il linguaggio: scrivere, riassumere, tradurre, rispondere in modo simpatico e disinvolto. Il problema nasce quando pretendiamo che facciano ciò che non possono fare: capire davvero il mondo, ragionare come un essere umano, prendere decisioni sensate in contesti imprevisti. Sono ottimi imitatori, ma pessimi filosofi.

La cosa più intelligente che noi possiamo fare è ricordarcelo.


Per approfondire il tema un ottimo punto di partenza è l'articolo: Large language mistake - Cutting-edge research shows language is not the same as intelligence. The entire AI bubble is built on ignoring it di Benjamin Riley.
Correlato è lo storico esperimento mentale della Stanza Cinese di John Searle.

2025-11-28

L'IA distruggerà il World Wide Web?

M.C. Escher - Mani che disegnano - 1948
La rivoluzione dell'IA Generativa (GenAI), in particolare con l'ascesa di strumenti come ChatGPT, rischia di distruggere il World Wide Web come lo conosciamo minacciando tre aspetti chiave del World Wide Web: pubblicità, sviluppo dei contenuti e qualità.

2025-03-05

La fine della programmazione?

Negli ultimi anni, lo sviluppo dell'intelligenza artificiale, in particolare dei modelli di linguaggio di grandi dimensioni (LLM), ha portato alcuni esperti a dichiarare che la programmazione diventerà obsoleta. Secondo Matt Welsh, presto non sarà più necessario scrivere codice, perché l'IA sostituirà la programmazione tradizionale con modelli addestrati e, nei casi più semplici, con codice generato automaticamente.

Tuttavia, questa affermazione è controversa. Se consideriamo software complessi come sistemi operativi, motori di gioco o piattaforme SaaS, è improbabile che possano essere completamente rimpiazzati da sistemi IA. Inoltre, generare codice corretto a partire da una specifica non è un problema banale: la teoria della computazione dimostra che il program synthesis è computazionalmente complesso e richiede risorse considerevoli.

Programmare in Inglese?

L'idea che l'inglese possa diventare il linguaggio della programmazione non è nuova. Già negli anni '50 si pensava che FORTRAN avrebbe eliminato il bisogno di scrivere codice, ma ciò non è avvenuto. Oggi, alcuni sostengono che strumenti come ChatGPT rendano possibile programmare in linguaggio naturale, ma il problema rimane: le lingue naturali sono ambigue e richiedono una precisa "sintassi" per essere comprese correttamente dall'IA.

Difficoltà nella generazione di codice corretto

Il problema centrale della generazione di codice da una specifica è noto come program synthesis. Si tratta di trovare un programma che soddisfi determinati vincoli, ma dimostrazioni teoriche mostrano che il problema è computazionalmente difficile (PSPACE-completo), il che significa che richiede un numero di passaggi esponenziale rispetto alla dimensione dell'input. Pertanto, strumenti basati su LLM non possono garantire di produrre codice corretto in modo affidabile.

L'IA come strumento, non come sostituto

Sebbene i LLM possano essere utili per suggerire codice ed accelerare il lavoro dei programmatori, non rappresentano la fine della programmazione. Le limitazioni degli approcci basati sull'IA sono ben note e questi strumenti dovrebbero essere considerati complementari piuttosto che sostitutivi della programmazione tradizionale.

Il vero valore del linguaggio naturale nella programmazione risiede nel dialogo tra sviluppatori e utenti per comprendere i requisiti software. L'IA può facilitare questa interazione, ma il problema della correttezza del codice rimane centrale e irrisolto.

 


Questo articolo è un estratto di On Program Synthesis and Large Language Models - Why it is unlikely new developments in machine intelligence will eventually make programming obsolete di Hans Hüttel (pubblicato su Communications of the ACM, gennaio 2025 - Vol. 68 No. 1 al quale rimandiamo per i dettagli).

2019-12-18

C++Day 2019 Parma


EOS ha partecipato alla quinta edizione della conferenza C++ Day che si è tenuta all'Università di Parma il 30 novembre 2019.

Il nostro talk era incentrato sull'algoritmo MCTS ed alla sua implementazione in C++.

Il C++ Day è un'iniziativa italiana senza fini di lucro in cui professionisti, aziende e studenti si incontrano e condividono esperienze con focus sul C++.
L'evento, organizzato in collaborazione con Electric80, Beckhoff e Leica Geosystem, risponde al Codice di condotta comunitario C++ italiano:
  1. Partecipare alla conferenza con atteggiamento curioso: tutti hanno qualcosa da imparare. Fai un viaggio intellettuale, spirituale e creativo.
  2. Sii professionale: abbraccia la diversità, sii educato, in modo che tutti possano godere della conferenza.
  3. Costruisci amicizie: gli eventi C++ italiani non riguardano solo il networking ma anche la costruzione di amici per tutta la vita. Le persone presenti sono fantastiche. Conosciamole.
  4. Divertiti: se non è divertente, non conta.

2018-11-04

Ci vediamo all'Italian C++ Day 2018

La terza edizione del "C++ Day" si terrà a Pavia il 24 Novembre 2018. Il C++ Day è un format di eventi annuali completamente dedicati allo sviluppo C++ creato dall'Italian C++ Community. L'edizione di quest'anno è co-organizzata con l'università di Pavia.

Il programma dell'evento è consultabile nella pagina ufficiale insieme a varie altre informazioni. Molte presentazioni riguarderanno il Machine Learning / Intelligenza Artificiale e l'iscrizione è completamente gratuita… ottimi motivi per non mancare.
Noi parteciperemo con un talk dedicato agli algoritmi evolutivi (Lessons Learned Developing Evolutionary Algorithms in C++).

2017-12-07

Italian Ecosystem by region - 1st survey

L'Associazione Italiana per l'Intelligenza Artificiale (AI*IA) ha pubblicato la prima mappa (23/11/2017) delle aziende italiane che utilizzano / sviluppano tecnologie legate all'intelligenza artificiale.

Noi ci siamo! (area Machine Learning)


L'Associazione Italiana per l'Intelligenza Artificiale (AI*IA) è una associazione scientifica senza fini di lucro, fondata nel 1988, con lo scopo di promuovere la ricerca e la diffusione delle tecniche proprie dell'Intelligenza Artificiale. L'Associazione si pone l'obiettivo di aumentare la conoscenza dell'Intelligenza Artificiale, incoraggiarne l’insegnamento e promuovere la ricerca teorica e operativa nel campo attraverso seminari e iniziative mirate e sponsorizzazione di eventi.

L'associazione dispone di sette gruppi di lavoro focalizzati su temi specifici: sistemi ad agente e multiagente, intelligenza artificiale e ageing, intelligenza artificiale per i beni culturali, robotica, apprendimento automatico e data mining, rappresentazione della conoscenza e ragionamento automatico, elaborazione del linguaggio naturale. Attualmente l'associazione conta circa 300 membri.