Gli esperti del Centro Ricerca AI di Kaspersky hanno recentemente rilevato un incremento nell’uso dei Large Language Models (LLM) da parte dei cybercriminali per creare contenuti destinati ad attacchi phishing e truffe online. Questi modelli permettono di generare automaticamente testi per siti fraudolenti in grande quantità, rendendo più complesso per gli utenti distinguere i siti veri da quelli pericolosi.
Secondo l’indagine, molti degli attacchi si rivolgono agli utenti di piattaforme di exchange e wallet di criptovalute, sfruttando specifici segnali linguistici prodotti dall’intelligenza artificiale.
Siti di phishing, come capire i tranelli creati con l’Intelligenza Artificiale?
Uno dei tratti distintivi dei testi generati dai LLM è la presenza di frasi particolari che indicano la natura del contenuto, come “In qualità di modello linguistico dell’AI…”, che può apparire anche involontariamente nei siti creati con l’intelligenza artificiale. Gli attacchi rivolti a utenti di varie piattaforme presentano spesso queste frasi, segnalando un utilizzo dell’AI per la produzione del contenuto.
Un altro indizio è costituito da espressioni “neutre” e generiche, come “approfondire” o “nel panorama in continua evoluzione”, oltre a messaggi di avvertenza, spesso incompleti, come “non posso fare esattamente ciò che vuoi”. Anche l’indicazione della data limite delle informazioni conosciute dall’AI, per esempio “fino a gennaio 2023”, può tradire l’uso dei LLM.
Strategie per ingannare i sistemi di rilevamento
Oltre a generare testi per siti fraudolenti, gli LLM consentono ai cybercriminali di inserire caratteri Unicode anomali, come diacritici o simboli matematici, per confondere i sistemi di sicurezza, rendendo più difficile individuare queste pagine di phishing.
Come proteggersi da attacchi sempre più “intelligenti”
Kaspersky suggerisce alcune pratiche per evitare le truffe online. Innanzitutto verificare i link ipertestuali: spesso i link presenti in e-mail fraudolente contengono piccoli errori di ortografia. Passare il mouse sopra i collegamenti permette di verificarli senza aprirli. Ancora, prima di cliccare su un link sospetto, è consigliabile digitare direttamente l’indirizzo nel browser per evitare di essere reindirizzati su siti non sicuri.
Come sempre, poi, è fondamentale utilizzare soluzioni di sicurezza avanzate: installare un programma di sicurezza efficace può proteggere da siti web pericolosi, download e estensioni a rischio.
I cyber attacchi saranno completamente automatizzati?
Con l’evoluzione degli LLM, distinguere tra contenuti generati dall’AI e quelli scritti manualmente diventerà sempre più difficile. Gli esperti di Kaspersky sottolineano come il crescente livello di automazione renda fondamentale l’uso di soluzioni di sicurezza capaci di analizzare sia i contenuti testuali sia i metadati e altri segnali di frode.
