“Siamo abbastanza intelligenti per inventare l’intelligenza artificiale, ma non abbastanza per saperla usare”. L’aforisma che circola con insistenza si adatta bene a Mythos, l’ultimo software creato da Anthropic, società fondata da Dario Amodei che con la sorella Daniela è fra i fondatori e maggiori innovatori del settore.
Potrebbe essere anche la sintesi del saggio da poco pubblicato sul suo sito (“The Urgency of Interpretability”) in cui lo stesso Amodei spiega la natura del dilemma: l’uomo ha creato cervelli artificiali di straordinaria potenza senza conoscerne appieno il funzionamento né poterne prevedere le conseguenze. È vitale – dice Amodei – che prima di potenziare ulteriormente quegli strumenti si facciano passi avanti nella comprensione (l’“interpretabilità”) dei meccanismi interni che generano il pensiero artificiale. Occorre una “risonanza magnetica” dei cervelli artificiali, senza la quale il loro uso è cieco e comporta seri rischi.
Uno dei rischi più concreti e immediati riguarda i sistemi informatici che governano, spesso senza intervento umano o quasi, il funzionamento dei grandi organismi pubblici e privati, difendendoli dall’intrusione di estranei malintenzionati. Qualche settimana fa Anthropic ha sconvolto il mondo annunciando che il linguaggio Mythos era in grado di aggirare con successo la maggior parte dei sistemi di difesa informatica usati dalle grandi corporations. Per contenere il pericolo Anthropic intendeva restringerne l’uso per il momento a un numero ristretto di grandi organizzazioni. Tutte americane, fra l’altro, di cui una sola banca, la JP Morgan.
Un po di attenzione nel valutare questi annunci è d’obbligo. Nel mercato informatico “pericolosità” significa efficacia e genera attrazione commerciale: comunicazioni del genere possono essere una strategia di marketing. Forse non a caso, proprio ad aprile Anthropic ha superato OpenAI nelle vendite. In questo caso tuttavia diversi riscontri confermano che l’informazione è autentica e l’allarme si giustifica. Vanno intraprese azioni per limitare i rischi che Mythos ha messo in luce. Il problema naturalmente è che per farlo bisogna avere il software a disposizione. Per scoprire le vulnerabilità di un computer, niente è meglio di un hacker, informatico o in carne e ossa che esso sia.
Oltre un mese fa il governatore della Banca d’Inghilterra Andrew Bailey ha lanciato l’allarme sui pericoli del settore finanziario. Le banche sono esposte ai rischi informatici più di ogni altro settore, con la sola eccezione di quello della difesa. Rete nevralgica dell’economia e cassaforte che conserva i nostri soldi, esse sono ghiotta preda in ugual misura di terroristi e rapinatori. Bailey lamentava che le banche inglesi non avessero ancora accesso a Mythos. Da allora però le cose sono cambiate. L’amministrazione Trump, che inizialmente aveva messo Anthropic nella lista nera accusandola di limitare l’uso dei suoi software per ragioni politiche (leggi: umanitarie), dopo poco si è accorta di non poter fare a meno di Claude, il miglior programma di AI oggi sul pianeta. Con una delle sue consuete giravolte ne ha autorizzato l’uso alle agenzie del governo americano. Non si conoscono i dettagli dell’accordo, ma il risultato di pochi giorni fa è che Anthropic ha deciso di estendere la disponibilità di Mythos a 150 organizzazioni internazionali in oltre 15 paesi, fra cui Francia, Germania, Italia, Spagna, Olanda, Belgio, Svizzera, Svezia, India, Giappone, Corea del Nord, oltre alla NATO e all’Unione Europea. Dettaglio incoraggiante: si tratta dei tradizionali alleati degli Stati Uniti, e ci fa piacere pensare che la lista sia stata approvata dalla Casa Bianca.
Il segnale è chiarissimo e chiama in causa governi, autorità di vigilanza europee e nazionali oltreché le banche stesse. L’apertura americana apre la strada ai controlli ma li rende anche più urgenti, perché con la maggiore circolazione il pericolo che il nuovo software cada in mani sbagliate aumenta. Non è esagerato dire che si tratta di una corsa contro il tempo. Troviamo un’espressione di allarme, con il consueto linguaggio velato, anche nel discorso del governatore della Banca d’Italia il 29 maggio. Rapidità e corretta modalità di azione sono essenziali.
Primo, i controlli devono essere europei e non solo nazionali. Niente di peggio che procedere in modo scoordinato di fronte a un pericolo che minaccia il sistema europeo nel suo complesso. La vigilanza BCE, che già controlla i rischi operativi e informatici dei maggiori gruppi bancari dell’area, va messa in prima fila. Occorre un progetto ad hoc, una tantum ma con ricadute sullo SREP (l’analisi annuale che determina i requisiti prudenziali), con scadenza breve e supporto tecnico esterno: se possibile, da Anthropic stessa.
Secondo, le verifiche vanno fatte in modo “positivo”, non “negativo”. L’obiettivo non è solo scoprire le vulnerabilità degli attuali sistemi e rimuoverle, ma realizzare attraverso Mythos e le tecnologie AI un sistema di sicurezza informatica superiore. Non è necessariamente la stessa cosa.
Infine, l’esercizio deve essere cooperativo, non competitivo. Esperienze e soluzioni delle singole banche vanno condivise, non usate per acquisire un vantaggio competitivo. In un sistema altamente integrato su certi mercati (anche se frammentato in altri), la vulnerabilità della singola banca è vulnerabilità di sistema. Anche per garantire questo, la presenza della vigilanza europea è essenziale.
Come quasi sempre succede, anche in questo caso da un pericolo nascerà maggiore consapevolezza e sicurezza. A patto che si proceda rapidamente e nel modo giusto.
Riproduzione riservata ©

