L’IA rende più facili – e più pericolosi – gli attacchi alle aziende

Un’azienda statunitense cercava un programmatore per il suo team di intelligenza artificiale. Ha pubblicizzato la posizione, ha vagliato le candidature e i CV, ha fatto colloqui (online), ha controllato i dettagli e le referenze, e infine ha assunto uno sviluppatore e gli ha inviato un computer aziendale.

Tuttavia, non appena il nuovo dipendente ha ricevuto la postazione di lavoro, ha iniziato a installarvi dei malware. Il team di sicurezza se n’è accorto e ha chiesto al nuovo dipendente se avesse bisogno di assistenza, ma l’uomo è scomparso dai radar. Un’indagine ha rivelato che il nuovo assunto era una spia industriale della Corea del Nord. Aveva superato i controlli standard pre-assunzione utilizzando un’identità rubata negli Stati Uniti e una foto modificata dall’IA. Il tentativo di infiltrazione è stato fermato, ma solo per un pelo.

C’è un altro aspetto degno di nota in questo incidente: l’azienda presa di mira è uno dei maggiori fornitori di corsi di formazione sulla sicurezza per sensibilizzare i dipendenti sui metodi dei criminali informatici. Questa storia dovrebbe essere un monito per tutti noi: se il reparto risorse umane di un rinomato specialista della sensibilizzazione sulla sicurezza cade in una frode supportata dall’IA, allora può accadere a qualsiasi azienda.

Fin dagli albori dell’informatica, due dei principali rischi per la sicurezza sono stati il phishing (e-mail o messaggi fraudolenti) e il social engineering (ingannare la vittima sfruttando comportamenti sociali come l’educazione, la curiosità o la paura di contraddire un presunto superiore o collega). Alla fine degli anni ‘70, ad esempio, il famoso hacker Kevin Mitnick ottenne il codice sorgente della DEC (uno dei più importanti fornitori di tecnologie informatiche dell’epoca) – non attraverso un’elaborata attività di hacking, ma attraverso il social engineering: contattò semplicemente il responsabile del sistema, finse di essere uno dei principali sviluppatori dell’azienda e affermò di aver dimenticato la password.

Azioni di questo tipo – che siano finalizzare alla frode finanziaria o allo spionaggio o sabotaggio industriale, sono oggi molto più facili per i criminali informatici grazie all’IA. Sappiamo tutti quanto velocemente le tecnologie di IA generativa come ChatGPT possano comporre testi - e ci mettono lo stesso tempo a scrivere un’email di phishing o un sonetto di Shakespeare. Lo sviluppatore di ChatGPT, OpenAI, ha integrato delle barriere per prevenire gli abusi, ma gli aggressori le aggirano regolarmente attraverso istruzioni (prompt) formulate in modo intelligente o attraverso uno dei tanti servizi del dark web che offrono modi per aggirare le restrizioni.

Ancor peggio, l’IA non solo facilita gli attacchi informatici, ma li accelera anche. Alcuni possono persino essere automatizzati. Ciò significa che nessuna azienda è immune da attacchi di phishing o ransomware supportati dall’IA. L’argomentazione “Come azienda, siamo troppo piccoli perché i criminali informatici possano prenderci di mira” è ormai da tempo vittima della scalabilità illimitata delle risorse del cloud e dell’IA.

Lo stesso vale per la barriera linguistica. Per molto tempo, le aziende tedesche si sono considerate al sicuro dalla maggior parte delle operazioni mirate di criminalità informatica perché gli attacchi richiedevano la conoscenza della lingua tedesca. Ma anche in questo caso l’IA sta stravolgendo tutto. Chiunque abbia familiarità con DeepL o Google Translate sa che i modelli di traduzione IA sono buoni, stanno migliorando e probabilmente non sono troppo lontani dal fungere da interpreti in tempo reale. Secondo un report dello specialista di sicurezza Trend Micro, sul dark web circolano già diversi strumenti di IA deepfake per falsificare l’aspetto, la voce e la lingua di celebrità e altre persone nelle teleconferenze online a scopo di frode.