Cosa sono i Worm AI?

Una nuova minaccia informatica

L’evoluzione delle minacce cyber è una costante che richiede attenzione e aggiornamento continui. Una delle più recenti preoccupazioni in questo ambito è rappresentata dai cosiddetti “vermi AI” (AI worms), una nuova forma di minaccia che sfrutta le capacità dei sistemi di intelligenza artificiale generativa per diffondersi autonomamente tra i sistemi, con il potenziale di rubare dati o diffondere malware.

Questi worms AI sono progettati per attaccare specificamente sistemi e applicazioni alimentati da AI, utilizzando prompt auto-replicanti avversari per propagarsi attraverso gli ecosistemi, dirottandoli per eseguire azioni non autorizzate. Il loro funzionamento si basa su meccanismi simili a quelli dei vermi informatici tradizionali, ma con un focus mirato verso le specifiche piattaforme dedicate alle AI.

Un esempio di questa minaccia è il verme Morris II, sviluppato da ricercatori di università e aziende, che ha dimostrato la capacità di infiltrarsi negli assistenti email basati su AI, estrarre dati e diffondere spam. Questo tipo di attacco evidenzia i rischi e le vulnerabilità negli ecosistemi interconnessi e autonomi, come quelli utilizzati per compiti come la prenotazione automatica di appuntamenti e potenzialmente l’acquisto di prodotti.

I ricercatori sottolineano l’importanza di un design delle applicazioni sicuro, la supervisione umana nelle operazioni AI e il monitoraggio di schemi insoliti all’interno dei sistemi per mitigare questi rischi. Sebbene i worms AI non siano ancora stati osservati “in libertà”, rappresentano una minaccia reale che deve essere affrontata da startup, sviluppatori e aziende tecnologiche.

Condividi
Archivio Blog