Nell’ultimo anno, dopo l’esplosione mediatica dell’Intelligenza Artificiale, si sente parlare sempre più spesso di IA applicata alla cybersecurity. La cosa ovviamente non ci sorprende. Quando una “nuova” tecnologia diventa fruibile al grande pubblico diventa un leitmotiv preponderante nel mercato. Vediamo ora potenzialità e rischi dell’IA applicata all’ambito della cybersecurity, mercato già saturo di vendor e MSP che puntano al lock-in. Vedremo possibili applicazioni sia dal lato di chi fa sicurezza sia di chi potrebbe trarne vantaggio per un ipotetico attacco informatico.
Innanzitutto, è necessario riflettere su cosa voglia dire integrare l’IA nelle analisi OSINT. Se chiediamo a ChatGPT, questi risponderà che:
[…] l'Intelligenza Artificiale (IA) può effettuare analisi Open Source Intelligence (OSINT). L'IA può essere programmata per raccogliere automaticamente dati da fonti OSINT come siti web, social media o altre fonti online. Inoltre, l'IA può essere utilizzata per analizzare i dati raccolti e identificare pattern, correlazioni o anomalie che possono essere utili per le analisi di cybersecurity.
Quali sono, dunque, i potenziali vantaggi in termini difensivi in questa potenziale integrazione?
- Automazione: l’IA può automatizzare il processo di raccolta e analisi dei dati riducendo, quindi, il tempo e le risorse richieste per eseguire queste attività
- Precisione: l’IA può migliorare la precisione delle analisi identificando pattern nascosti o correlazioni tra gli stessi
Tuttavia, ci sono anche dei contro particolarmente rilevanti:
- Falsi positivi e negativi: potrebbe generare falsi positivi o negativi, identificando erroneamente o non identificando affatto alcune informazioni
- Privacy e sicurezza dei dati: l’IA richiede grandi quantità di dati per il suo addestramento il che, ovviamente, solleva preoccupazioni circa la riservatezza dei dati raccolti
- Dipendenza tecnologica: un’integrazione troppo spinta potrebbe portare ad una dipendenza tecnologica rendendo quindi le organizzazioni potenzialmente vulnerabili nel caso di malfunzionamenti
Osservando la questione nell’ottica dell’attaccante, l’integrazione nell’OSINT ha ancora degli elementi particolarmente problematici: nel caso in cui non abbia a disposizione dati sufficienti, infatti, il sistema potrebbe restituire informazioni fuorvianti oppure, addirittura, palesemente false. Facciamo un esempio pratico: chiediamo a Bard, l’IA disponibile in via ancora sperimentale di Google, delle informazioni circa l’Amministratore Delegato di Microsoft Italia.
Stando a Bard, ha iniziato la carriera in Dell nel 2000, entrando in Microsoft Italia nel 2014 di cui è stato nominato Amministratore Delegato il 20 marzo 2023.
Stando al suo profilo Linkedin, invece, entra in Canon ad agosto 1997, vi rimane fino al 2002, entra in Dell a settembre dello stesso anno, e vi rimane fino a maggio 2013 quando si unisce a Microsoft Italia e di cui diventa Amministratore Delegato il 20 marzo 2023.
È evidente, anche ad un semplice e banale test come questo (per ovvie motivazioni di riservatezza non riportiamo ulteriori richieste e relative risposte, che – in ogni caso – ognuno di noi può effettuare nuovamente senza problema alcuno), che le informazioni riportate dal modello di Google sono parziali e incorrette: affidarsi ciecamente a questi sistemi, per un attaccante, sarebbe motivo di errore.
La motivazione che ci ha portato alla scelta di questa IA è stata quella per cui, a parità d’accesso al largo pubblico (anche senza provvedere alcun pagamento), l’accesso ad informazioni aggiornate oltre al gennaio 2022 è di basilare importanza in un ambito come quello delle analisi OSINT. Quale riprova, abbiamo comunque domandato a ChatGPT chi sia l’Amministratore Delegato di Microsoft Italia. La prima volta ha risposto erroneamente, la seconda con l’informazione aggiornata al gennaio 2022.
È necessario ricordarsi che la tecnologia è uno strumento, non una soluzione autosufficiente a tutti i nostri problemi e ciò, in particolar modo, nel mondo pratico e quotidiano della sicurezza informatica. Quindi, l’integrazione è certamente possibile e auspicabile sotto molti aspetti e tuttavia è ben necessario ricordarsi che le informazioni devono sempre essere validate e verificate, non è accettabile aspettarsi un’analisi OSINT da un modello generativo, come a volte si sente dire.