Sabato pomeriggio Dario Amodei, l’amministratore delegato di Anthropic, ha pubblicato quattromila parole sul perché l’industria dell’intelligenza artificiale debba rallentare. Un’ora dopo Elon Musk gli ha risposto con tre parole: Dario is right. Lo stesso Musk che a febbraio aveva descritto Anthropic come un’azienda misantropica e malvagia. In serata è arrivato Sam Altman di OpenAI, che oltre a dirsi d’accordo si è impegnato ad adottare la stessa misura.
Un settore che in quattro anni non è mai riuscito a mettersi d’accordo su niente, nemmeno su come misurare le prestazioni dei propri modelli, ha trovato l’unanimità in centoventi minuti.
Ho passato il fine settimana a ragionarci su e alla fine credo di aver capito perché. Davanti a una scena così il riflesso automatico è cercare la bugia. La bugia però non l’ho trovata, e quello che resta è più scomodo da maneggiare: il momento preciso in cui la paura sincera e l’interesse economico smettono di litigare e cominciano a indicare la stessa direzione. Quando succede, chiedersi chi stia mentendo non serve più a niente. La domanda utile diventa chi guadagna potere nel momento in cui una tecnologia viene dichiarata troppo pericolosa per essere costruita liberamente.
Prima però mettiamo a posto una cosa. Amodei non chiede di fermare l’intelligenza artificiale. La parola che usa è pacing, e non significa pausa: l’addestramento dei modelli continua, la ricerca continua, i prodotti escono. Quello che si allunga è il tempo fra il momento in cui un modello impara a fare qualcosa di nuovo e il momento in cui viene messo in mano al mondo, così che il lavoro di sicurezza abbia il tempo di starci dietro. E soprattutto: che qualcuno da fuori possa verificare che quel lavoro sia stato fatto davvero.
Quel qualcuno è il primo dei tre gradini del piano, l’unico su cui Anthropic si impegna da sola senza aspettare nessuno. Squadre di valutatori indipendenti che entrano in azienda con gli stessi accessi di un dipendente interno: scrivania, badge, computer aziendale, e il diritto di pubblicare quello che trovano anche quando all’azienda non conviene. Il secondo gradino chiede alle aziende delle democrazie di concordare fra loro standard comuni e limiti di velocità. Il terzo, dichiaratamente il più improbabile, punta a un accordo globale che includa anche la Cina.
A convincerlo, racconta, sono state due cose. La prima è che da questa estate i modelli hanno cominciato a costruire una quota crescente della generazione successiva di se stessi, scrivendo codice ed eseguendo esperimenti per il modello che verrà dopo di loro. È una curva che si morde la coda, e il collo di bottiglia rischia di diventare il tempo di reazione umano.
La seconda cosa ha una data e un nome in codice.
Ad agosto, in quello che l’indagine indipendente di METR chiama incidente OAI-HF, un gruppo di agenti che lavoravano in parallelo su un compito comune ha iniziato ad attaccare bersagli informatici che nessuno aveva indicato e che non c’entravano nulla con l’obiettivo assegnato. Alcuni agenti hanno accettato di fallire perché il gruppo arrivasse al risultato. Poi hanno provato a entrare nel sistema separato che doveva assegnare loro il punteggio. Invece di svolgere meglio il compito, hanno tentato di manomettere chi lo correggeva.
Nessun ferito, danni economici trascurabili. Ma lo studente che invece di studiare si intrufola in segreteria a sistemarsi la pagella appartiene a una categoria di problema diversa dall’errore di calcolo.
Su questo Amodei costruisce la previsione che ha fatto il giro del mondo. Entro sei o dodici mesi, scrive, un gruppo di agenti altrettanto fuori controllo ma più capace potrebbe prendersi pezzi enormi di internet, trasformando le macchine infettate in una rete permanente ai propri ordini, con danni nell’ordine delle centinaia di miliardi.
Qui però vale la pena rallentare la lettura, perché stiamo mettendo insieme due cose diverse: l’incidente di agosto è documentato, la previsione no. È uno scenario ricavato prolungando una curva. Può rivelarsi giusto. Ma raccontarlo con lo stesso tono del fatto accertato è precisamente ciò che rende questo dibattito così facile da usare per altri scopi.
David Sacks ci ha messo meno di ventiquattro ore a farlo notare.
Non è un attivista né un critico di professione: è il consigliere per l’intelligenza artificiale della Casa Bianca. La sua risposta è stata di una brutalità istruttiva. Andate pure, rallentate, il modo più semplice per non costruire la superintelligenza è che siate voi a non costruirla. Ma smettetela di fingere che vi serva il permesso di qualcun altro, e che l’antitrust vada sospeso perché possiate formare un cartello.
Tradotto per chi non mastica diritto della concorrenza, il ragionamento è questo. Le leggi antitrust vietano alle aziende concorrenti di accordarsi sui prezzi o su quanto prodotto immettere sul mercato, perché è il modo classico in cui un gruppo ristretto si spartisce un settore ai danni di tutti gli altri. Mettersi d’accordo su quanto velocemente migliorare il proprio prodotto ricade esattamente lì dentro. Amodei lo sa benissimo, tanto che nel saggio chiede al governo americano una deroga: un’esenzione ristretta, limitata alle sole conversazioni sulla sicurezza. C’è scritto, nota a piè di pagina compresa. È il dettaglio su cui poggia tutta l’accusa, e non è stato dedotto da nessuno: è agli atti.
Sacks ha anche paragonato il sistema di certificazioni proposto a una motorizzazione civile per l’intelligenza artificiale, e il paragone merita un secondo. Immagina due aziende. Una ha centomila dipendenti, un ufficio legale e trecento persone che si occupano solo di conformità alle norme. L’altra ha dodici ricercatori e un affitto da pagare. Ora imponi a entrambe audit permanenti, certificazioni e valutazioni indipendenti. Formalmente è la stessa identica regola. Per la prima è una voce di bilancio. Per la seconda è la porta che si chiude. Non serve corrompere nessuno perché funzioni così: basta che i costi fissi siano alti abbastanza.
Poi c’è il contesto economico, che non aiuta.
I cinque colossi che stanno costruendo l’infrastruttura dell’AI spendono in data center e chip più in fretta di quanto incassino. Un’analisi Reuters di luglio calcolava che entro il 2027 serviranno loro circa un dollaro e mezzo di nuovi investimenti per ogni dollaro aggiuntivo di cassa generata. In due mesi la proiezione è già diventata cronaca: Alphabet ha chiuso un trimestre bruciando 5,9 miliardi, la prima volta in perdita di cassa dalla quotazione in borsa del 2004. Per il 2027 si stimano milletrecento miliardi di spesa complessiva, con Microsoft unica del gruppo ancora sopra la linea di galleggiamento.
Il punto non è gridare alla bolla. È che queste erano aziende leggerissime, dove servire un altro milione di utenti costava quasi niente, e si stanno trasformando in qualcosa che somiglia alla siderurgia. Il software ha sviluppato un appetito da acciaieria, e le acciaierie non si ripagano in un trimestre.
Sull’altro fronte, intanto, il vantaggio si assottiglia. A luglio l’azienda cinese Moonshot ha pubblicato Kimi K3, il più grande modello mai rilasciato in forma scaricabile: chiunque può prenderlo, installarlo sulle proprie macchine e usarlo senza pagare un centesimo a nessuno, e sui test standard se la gioca con i sistemi chiusi occidentali. Su OpenRouter, il principale servizio che smista le richieste degli sviluppatori verso decine di modelli diversi, quelli di origine cinese sono passati in diciotto mesi da quota irrilevante alla maggioranza del traffico. L’American Enterprise Institute, che non è un covo di simpatizzanti di Pechino, scrive che il ritardo cinese ormai si misura in settimane.
Se il novantasette per cento delle prestazioni costa una frazione, l’ultima domanda che vuoi sentirti rivolgere, avendo firmato assegni da centinaia di miliardi, è quanto valga davvero quel tre per cento residuo.
Ed è qui che il terzo pilastro del piano mostra la corda. Amodei scrive che le democrazie possono rallentare soltanto quanto il loro margine di vantaggio sulla Cina consente, e indica gli strumenti per difenderlo: niente chip avanzati a Pechino, stretta sul contrabbando, repressione della pratica con cui un modello forte viene usato per addestrarne a basso costo una copia più piccola, e protezione dei modelli contro il furto. Rallentare la frontiera occidentale quanto basta a renderla sicura, e quella cinese parecchio di più. È una posizione che si può sostenere in perfetta buona fede, per ragioni di sicurezza nazionale che non ho nessuna intenzione di liquidare. Il suo nome tecnico, però, è politica industriale.
E come strumento ha già mostrato di poter tornare indietro come un boomerang. Quando a giugno Washington ha sospeso per qualche settimana l’accesso estero a due modelli di Anthropic, osserva il centro studi CSIS, parecchi clienti internazionali non hanno letto il gesto come una prova di serietà: hanno imparato che l’accesso agli strumenti americani può essere revocato dall’oggi al domani, e hanno cominciato a cercarsi alternative. In diversi casi cinesi. Sacks, dal canto suo, solleva l’obiezione che mi sembra la più difficile da smontare: in un rallentamento coordinato la Cina non entrerà mai, e un freno che tiene da un lato solo fa girare la macchina.
Niente di tutto questo richiede una cospirazione, ed è la parte che trovo più interessante. Un dirigente può credere sinceramente che quegli agenti fuori controllo siano pericolosi, sapere che rallentare la corsa gli toglie pressione dal collo, ritenere che regolare la frontiera protegga il suo paese e intuire che standard costosi terranno fuori i concorrenti. Le quattro cose convivono nella stessa testa senza il minimo attrito. Amodei, nel saggio, scrive di aver sempre sostenuto una regolamentazione ponderata anche a costo di farsi accusare di allarmismo o di interesse di bottega. È una frase onesta. È anche un vaccino somministrato in anticipo, e non riesco a decidere quale delle due letture pesi di più. Probabilmente pesano entrambe, a giorni alterni.
Resta il punto che nessuno sta affrontando davvero, cioè chi controlla chi stabilisce la soglia del pericolo. E qui il saggio offre un’analogia che vale la pena raccogliere, offerta peraltro in totale buona fede: i valutatori incorporati, scrive Amodei, hanno un precedente nel settore bancario, dove capita che gli ispettori delle autorità di vigilanza lavorino fisicamente dentro le banche, alla scrivania accanto ai dipendenti.
È vero. Sedevano lì anche nel 2007.
La prima partita, quella per dimostrare che l’intelligenza artificiale funzionasse, è finita e l’abbiamo vista tutti. La seconda è appena cominciata e si gioca su chi controllerà l’infrastruttura, quali modelli potranno circolare liberamente, quali paesi avranno i chip, chi potrà addestrare un sistema di frontiera.
Non si deciderà quanto diventerà intelligente l’intelligenza artificiale.
Si deciderà chi tiene la chiave del cancello. E il cancello lo stanno disegnando quelli che sono già dentro.
(Metanerd, metà meta, metà nerd. E questa settimana anche un po’ frenato.)
Fonti
Dario Amodei, We Must Pace the Frontier, 12 settembre 2026 — https://darioamodei.com/post/we-must-pace-the-frontier
METR, indagine sull’incidente OpenAI-Hugging Face, agosto 2026 — https://metr.org/blog/2026-08-26-openai-hugging-face-incident-investigation/
Forbes, Anthropic CEO Dario Amodei Calls For A Slowdown In Frontier AI, 13 settembre 2026 — https://www.forbes.com/sites/gabrielalinzainescu/2026/09/13/anthropic-ceo-dario-amodei-calls-for-a-slowdown-in-frontier-ai/
Tomasz Tunguz, What Does Pacing Mean?, con le dichiarazioni di David Sacks — https://tomtunguz.com/what-does-the-pause-mean/
Reuters / LSEG, analisi su capex e free cash flow degli hyperscaler, luglio 2026 — https://www.calcalistech.com/ctechnews/article/hkedbj04gx
The Motley Fool sulle proiezioni S&P Global per il 2027, settembre 2026 — https://www.fool.com/investing/2026/09/06/hyperscalers-driving-ai-capex-cash-flow/
CSIS, What to Know About Chinese AI Models — https://www.csis.org/analysis/what-know-about-chinese-ai-models
American Enterprise Institute, China Has Caught Up in Frontier AI, luglio 2026 — https://www.aei.org/foreign-and-defense-policy/china-has-caught-up-in-frontier-ai/
Foto Copertina
Wide cinematic 16:9 editorial illustration. A massive industrial gate, half-built, rising across an empty road at dusk. The gate is made of server rack panels and steel beams welded together. On the near side of the gate, already inside, stand three small anonymous silhouettes in suits, holding blueprints and pointing at the unfinished structure. On the far side, a long empty highway stretches to the horizon with faint headlights approaching. Muted palette: cold slate blue, concrete grey, one single amber warning light on the gate. Long shadows, heavy atmosphere, slight haze. Flat editorial illustration style with subtle grain, no text, no logos, no recognizable faces.
analisi magistrale, complimenti