ChatGPT e il nuovo AI stanno seminando il caos nella cybersecurity in modi eccitanti e spaventosi

L'intelligenza artificiale generativa sta trasformando la cybersecurity, fornendo supporto sia agli attaccanti che ai difensori. I cybercriminali stanno sfruttando l'IA per lanciare attacchi sofisticati e innovativi su larga scala. E i difensori stanno utilizzando la stessa tecnologia per proteggere infrastrutture critiche, organizzazioni governative e reti aziendali, ha affermato Christopher Ahlberg, CEO della piattaforma di intelligence sulle minacce Recorded Future.

L'IA generativa ha aiutato soggetti malintenzionati a innovare e sviluppare nuove strategie di attacco, consentendo loro di stare un passo avanti alle difese informatiche. L'IA aiuta i criminali informatici ad automatizzare gli attacchi, scansionare le vulnerabilità e generare contenuti che risuonano con varie regioni geografiche e con diverse fasce di popolazione, consentendo loro di prendere di mira un'ampia gamma di potenziali vittime in diversi paesi. I criminali informatici hanno adottato la tecnologia per creare credibili e-mail di phishing. Il testo generato dall'IA aiuta gli aggressori a produrre e-mail altamente personalizzate e messaggi di testo più probabili a ingannare i bersagli.

"Penso che non sia necessario mettere in gioco molta creatività per capire che, amico, questo può effettivamente aiutare [i criminali informatici] a diventare autori, e questo è un problema", ha dichiarato Ahlberg.

Gli esperti stanno utilizzando l'IA per respingere gli attacchi. Le organizzazioni stanno utilizzando questa tecnologia per prevenire perdite e individuare vulnerabilità di rete in modo proattivo. Essa automatizza in modo dinamico anche compiti come l'impostazione di avvisi per determinate parole chiave e il rilevamento di informazioni sensibili online. Gli investigatori di minacce stanno utilizzando l'IA per identificare modelli insoliti e riassumere grandi quantità di dati, collegando le informazioni e i modelli nascosti provenienti da diverse fonti.

Il lavoro richiede ancora esperti umani, ma Ahlberg dice che la tecnologia IA generativa che stiamo vedendo in progetti come ChatGPT può aiutare.

"Vogliamo accelerare il ciclo di analisi per aiutarci ad analizzare alla velocità del pensiero," ha detto. "È una cosa molto difficile da fare e penso che stiamo assistendo a una svolta qui, cosa piuttosto entusiasmante."

Ahlberg ha anche discusso delle potenziali minacce che potrebbero portare le macchine altamente intelligenti. Con il mondo che diventa sempre più digitale e interconnesso, la capacità di distorcere la realtà e plasmare le percezioni potrebbe essere sfruttata da attori malintenzionati. Queste minacce non si limitano agli Stati-nazione, rendendo il panorama ancora più complesso e asimmetrico.

L'IA ha il potenziale per aiutare a proteggersi da queste minacce emergenti, ma presenta anche il proprio insieme di rischi. Ad esempio, le macchine con elevate capacità di elaborazione potrebbero violare i sistemi più velocemente ed efficacemente rispetto agli esseri umani. Per contrastare queste minacce, è necessario garantire che l'IA venga utilizzata in modo difensivo e con una chiara comprensione di chi ne ha il controllo.

Man mano che l'IA diventa sempre più integrata nella società, è importante che legislatori, giudici e altri soggetti decisionali comprendano la tecnologia e le sue implicazioni. Costruire forti alleanze tra esperti tecnici e responsabili delle politiche sarà cruciale per navigare il futuro dell'IA nella caccia alle minacce e oltre.

Le opportunità, le sfide e le considerazioni etiche dell'IA nella sicurezza informatica sono complesse ed in continua evoluzione. Garantire modelli di IA imparziali e mantenere il coinvolgimento umano nelle decisioni aiuterà a gestire le sfide etiche. Vigilanza, collaborazione e una chiara comprensione della tecnologia saranno cruciali nel affrontare le potenziali minacce a lungo termine delle macchine altamente intelligenti.

Ahlberg ha sollevato anche preoccupazioni riguardo alla Cina, alla Russia e agli avversari economici che mettono in campo macchine autonome. Questi paesi probabilmente non rallenteranno lo sviluppo dell'intelligenza artificiale o condivideranno considerazioni etiche. Nonostante avere la capacità di "scollegare" tali macchine sia una garanzia intelligente, suggerisce che l'integrazione della tecnologia nella società e nell'economia globale renderà difficile separarla. Ahlberg sottolinea la necessità di progettare prodotti e macchine con chiarezza su chi le controlla.

"La grande cosa che Internet ha fatto in tutto ciò è diventare il luogo in cui sono migrati tutte le informazioni del mondo", ha detto Ahlberg. "Questi grandi modelli linguistici stanno facendo cose davvero magiche... per accelerare quel ciclo di pensiero."

Ha aggiunto: "Nei prossimi 25 anni, il mondo diventa un riflesso di Internet."