ZERO DAY INITIATIVE

ChatGPT a supporto dei programmatori informatici: applicazioni, potenzialità e rischi del bot

Due ricercatori hanno vinto l’hackathon della Zero Day Initiative grazie al supporto di ChatGPT, che ha consentito loro di scovare e sfruttare in poco tempo vulnerabilità nei sistemi industriali. Aprendo il dibattito tra chi è preoccupato degli usi malevoli dell’AI e chi suggerisce di adeguarsi positivamente all’avvento di tali strumenti

Pubblicato il 30 Mar 2023

Martina Rossi

Analyst, Hermes Bay

Un team composto da due ricercatori, appartenente alla società di sicurezza informatica Claroty Ltd., ha affermato di essere riuscito a vincere l’hackathon della Zero Day Initiative grazie al supporto di ChatGPT. Il bot sarebbe stato utilizzato per scrivere stringhe di codice atte a sfruttare le vulnerabilità nei sistemi industriali, risparmiando così una grande quantità di tempo, che sarebbe invece stata necessaria per sviluppare lo stesso codice manualmente. Ciò avrebbe permesso ai due ricercatori di riscuotere un enorme successo al concorso, vincendo una somma pari a 123.000 dollari.

Come ChatGPT può migliorare la sicurezza informatica

ChatGPT può integrare il know-how dei criminal hacker

La competizione, in cui si sono sfidati esperti informatici, programmatori e sviluppatori di software, si è svolta nel mese di febbraio a Miami nell’ambito della Zero Day Initiative, un programma creato al fine di incentivare la segnalazione di vulnerabilità zero-day privatamente ai fornitori interessati, da ricercatori ricompensati finanziariamente.

Nel caso in questione, secondo quanto dichiarato dal ricercatore di Claroty, Noam Moshe, l’approccio adottato da lui e dal collega rivelerebbe come l’intelligenza artificiale generativa possa integrare il know-how degli hacker che se ne avvalgono.

I due ricercatori hanno affermato di aver rintracciato diversi potenziali punti deboli nei loro sistemi selezionati durante la fase operativa della competizione. Essi avrebbero usato ChatGPT per favorire la scrittura del codice e concatenare i bug, di modo da ricostruire la catena e assumere così il controllo del sistema.

Secondo le previsioni formulate dal docente di sicurezza informatica e sicurezza nazionale presso la Virginia Commonwealth University, Christopher Whyte, e riportate dal The Wall Street Journal, è possibile che diversi criminali informatici cerchino di “aggirare i limiti di cyber sicurezza insegnati ai bot”.

A parere del professor Whyte, piuttosto che istruire un bot a scrivere codice per prelevare dati da un computer senza che l’utente se ne accorga, un hacker potrebbe cercare di aggirarlo per scrivere codice dannoso formulando la richiesta senza che vi sia un innesco evidente.

L’abuso di ChatGPT per attività malevole

Come è ormai noto, numerosi criminali informatici stanno tentando di eludere le restrizioni poste da OpenAI, azienda produttrice di ChatGPT, al fine di utilizzare il bot per scopi dannosi.

Lo scorso 28 marzo, l’Ufficio Europeo di Polizia (Europol) ha diffuso un rapporto relativo al potenziale abuso di ChatGPT per attività malevole. Nello specifico, è stato sottolineato dagli analisti come sempre più organizzazioni criminali utilizzino il chatbot per condurre attacchi di social engineering, frodi, campagne di disinformazione e altre attività di natura informatica, come lo sviluppo di codice dannoso.

Attraverso una serie di workshop organizzati da Europol Innovation Lab, dedicati all’impatto di ChatGPT e alle possibilità di abuso di tale strumento, sono stati raccolti e analizzati numerosi casi d’uso pratici atti a fornire un’idea delle casistiche che Europol potrebbe trovarsi a dover fronteggiare. L’obiettivo era, altresì, quello di sensibilizzare l’opinione pubblica sull’impatto del bot e, più in generale, degli strumenti basati sull’intelligenza artificiale, nonché fornire raccomandazioni riguardo alle possibili azioni che possono essere messe in atto per fronteggiare i potenziali rischi derivanti da tali strumentazioni.

I possibili campi di applicazione di ChatGPT

Nonostante alcune voci autorevoli, tra cui l’esperto in sicurezza informatica di Zero Day Initiative Dustin Childs, ritengano che ChatGPT sia ad oggi ancora troppo “imprevedibile e suscettibile di errori” per essere considerata un’arma rapida ed efficace a disposizione dei criminali informatici, la preoccupazione nei confronti di questa tecnologia risulta essere ormai diffusa in diversi settori e non solamente fra i responsabili della sicurezza.

Il campo di applicazione di ChatGPT è in continua espansione e le possibilità di utilizzo risultano essere sempre maggiori.

Oltre alle note abilità nella stesura di codice per la programmazione informatica, il bot è in grado di comprendere e rispondere a input di vario genere, può creare o tradurre testi da una lingua all’altra, può essere utilizzato per riassumere lunghi brani in versioni più brevi, mantenendo un’estrema chiarezza espositiva.

Chat GPT è altresì capace di generare nuove idee e contenuti, i quali vengono successivamente trascritti dal bot o ancora, può essere utilizzato per generare un testo partendo da un audio, permettendo così di creare una sintesi vocale di contenuti scritti.

Gli elaborati prodotti risultano di una tale compiutezza da essere difficilmente individuabili e discernibili da quelli realizzati dall’azione umana. A fronte dell’enorme potere di tale strumento, a partire dalla sua diffusione hanno iniziato a sorgere preoccupazioni concernenti l’etica correlata al suo utilizzo in contesti come quello lavorativo, scolastico e della ricerca scientifica.

Se, infatti, risultano essere ben individuabili le attività illecite che possono essere svolte attraverso l’ausilio di ChatGPT, i confini di liceità di tale strumento risulterebbero essere meno chiari quando si tratta di applicare la prosa generata dal bot nei contenuti destinati ai contesti di cui sopra, come materiali di marketing, white paper o articoli.

Diverse istituzioni universitarie hanno iniziato ad impedire l’uso di strumenti basati sull’intelligenza artificiale nello svolgimento di saggi, compiti ed esami.

Secondo quanto dichiarato da Jenna Lyle, vice addetto stampa delle scuole pubbliche di New York, l’utilizzo di strumenti come ChatGPT, non svilupperebbe le capacità di pensiero critico e di risoluzione dei problemi, essenziali per il successo accademico e per molti aspetti della quotidianità.

In conseguenza delle maturate preoccupazioni per il possibile impatto negativo sull’apprendimento degli studenti e per la sicurezza dei contenuti, l’accesso a ChatGPT è stato quindi limitato sulle reti e sui dispositivi delle scuole pubbliche di New York.

Un approccio positivo all’uso dell’AI

Tuttavia, vi è anche chi cerca di adeguarsi positivamente all’avvento di tali strumenti, provando ad affrontarne i rischi e a trarne vantaggio. Secondo Hans Stokholm Kjer, project manager professionista e commentatore freelance, impedire agli studenti l’uso di ChatGPT, anche durante gli esami, rappresenterebbe una “dichiarazione di sconfitta”.

Soprattutto tra i Paesi scandinavi, si starebbe quindi sviluppando una linea di pensiero secondo la quale gli strumenti basati sull’intelligenza artificiale non dovrebbero essere banditi, quanto piuttosto adeguatamente regolamentati. Trattandosi di tecnologie che, secondo Kjer, saranno destinate a svilupparsi nei prossimi anni, è bene che gli studenti di oggi apprendano il loro funzionamento e che “possano guidarci attraverso gli sviluppi in sicurezza verso e oltre il 2050”.

Anche la professoressa danese Hanne Leth Andersen, rettore dell’Università di Roskilde e capo del comitato per le politiche educative presso Universities Denmark, si è espressa in merito, sottolineando l’importanza per le università di dotarsi di “regole e regolamenti univoci su come e quando l’uso di queste tecnologie è consentito e quando no”, in relazione agli obiettivi di apprendimento specifici di ciascun corso e programma.

Valuta la qualità di questo articolo

La tua opinione è importante per noi!

Speciale PNRR

Tutti
Incentivi
Salute digitale
Formazione
Analisi
Sostenibilità
PA
Sostemibilità
Sicurezza
Digital Economy
CODICE STARTUP
Imprenditoria femminile: come attingere ai fondi per le donne che fanno impresa
DECRETI
PNRR e Fascicolo Sanitario Elettronico: investimenti per oltre 600 milioni
IL DOCUMENTO
Competenze digitali, ecco il nuovo piano operativo nazionale
STRUMENTI
Da Istat e RGS gli indicatori per misurare la sostenibilità nel PNRR
STRATEGIE
PNRR – Piano nazionale di Ripresa e Resilienza: cos’è e novità
FONDI
Pnrr, ok della Ue alla seconda rata da 21 miliardi: focus su 5G e banda ultralarga
GREEN ENERGY
Energia pulita: Banca Sella finanzia i progetti green incentivati dal PNRR
TECNOLOGIA SOLIDALE
Due buone notizie digitali: 500 milioni per gli ITS e l’inizio dell’intranet veloce in scuole e ospedali
INNOVAZIONE
Competenze digitali e InPA cruciali per raggiungere gli obiettivi del Pnrr
STRATEGIE
PA digitale 2026, come gestire i fondi PNRR in 5 fasi: ecco la proposta
ANALISI
Value-based healthcare: le esperienze in Italia e il ruolo del PNRR
Strategie
Accordi per l’innovazione, per le imprese altri 250 milioni
Strategie
PNRR, opportunità e sfide per le smart city
Strategie
Brevetti, il Mise mette sul piatto 8,5 milioni
Strategie
PNRR e opere pubbliche, la grande sfida per i Comuni e perché bisogna pensare digitale
Formazione
Trasferimento tecnologico, il Mise mette sul piatto 7,5 milioni
Strategie
PSN e Strategia Cloud Italia: a che punto siamo e come supportare la PA in questo percorso
Dispersione idrica
Siccità: AI e analisi dei dati possono ridurre gli sprechi d’acqua. Ecco gli interventi necessari
PNRR
Cloud, firmato il contratto per l’avvio di lavori del Polo strategico
Formazione
Competenze digitali, stanziati 48 milioni per gli Istituti tecnologici superiori
Iniziative
Digitalizzazione delle reti idriche: oltre 600 milioni per 21 progetti
Competenze e competitività
PNRR, così i fondi UE possono rilanciare la ricerca e l’Università
Finanziamenti
PNRR, si sbloccano i fondi per l’agrisolare
Sanità post-pandemica
PNRR, Missione Salute: a che punto siamo e cosa resta da fare
Strategie
Sovranità e autonomia tecnologica nazionale: come avviare un processo virtuoso e sostenibile
La relazione
Pnrr e PA digitale, l’alert della Corte dei conti su execution e capacità di spesa
L'editoriale
Elezioni 2022, la sfida digitale ai margini del dibattito politico
Strategie
Digitale, il monito di I-Com: “Senza riforme Pnrr inefficace”
Transizione digitale
Pnrr: arrivano 321 milioni per cloud dei Comuni, spazio e mobilità innovativa
L'analisi I-COM
Il PNRR alla prova delle elezioni: come usare bene le risorse e centrare gli obiettivi digitali
Cineca
Quantum computing, una svolta per la ricerca: lo scenario europeo e i progetti in corso
L'indice europeo
Desi, l’Italia scala due posizioni grazie a fibra e 5G. Ma è (ancora) allarme competenze
L'approfondimento
PNRR 2, ecco tutte le misure per cittadini e imprese: portale sommerso, codice crisi d’impresa e sismabonus, cosa cambia
Servizi digitali
PNRR e trasformazione digitale: ecco gli investimenti e le riforme previste per la digitalizzazione della PA
Legal health
Lo spazio europeo dei dati sanitari: come circoleranno le informazioni sulla salute nell’Unione Europea
Servizi digitali
PNRR e PA digitale: non dimentichiamo la dematerializzazione
Digital Healthcare transformation
La trasformazione digitale degli ospedali
Governance digitale
PA digitale, è la volta buona? Così misure e risorse del PNRR possono fare la differenza
Servizi digitali
Comuni e digitale, come usare il PNRR senza sbagliare
La survey
Pnrr e digitale accoppiata vincente per il 70% delle pmi italiane
Missione salute
Fascicolo Sanitario Elettronico alla prova del PNRR: limiti, rischi e opportunità
Servizi pubblici
PNRR: come diventeranno i siti dei comuni italiani grazie alle nuove risorse
Skill gap
PNRR, la banda ultra larga crea 20.000 nuovi posti di lavoro
Il Piano
Spazio, Colao fa il punto sul Pnrr: i progetti verso la milestone 2023
FORUMPA2022
PNRR e trasformazione digitale: rivedi i Talk di FORUM PA 2022 in collaborazione con le aziende partner
I contratti
Avio, 340 milioni dal Pnrr per i nuovi propulsori a metano
Next Generation EU
PNRR, a che punto siamo e cosa possono aspettarsi le aziende private
Fondi
Operativo il nuovo portale del MISE con tutti i finanziamenti per le imprese
Servizi comunali
Il PNRR occasione unica per i Comuni digitali: strumenti e risorse per enti e cittadini
Healthcare data platform
PNRR dalla teoria alla pratica: tecnologie e soluzioni per l’innovazione in Sanità
Skill
Competenze digitali, partono le Reti di facilitazione
Gli obiettivi
Scuola 4.0, PNRR ultima chance: ecco come cambierà il sistema formativo
Sistema Paese
PNRR 2, è il turno della space economy
FORUM PA 2022
FORUM PA 2022: la maturità digitale dei comuni italiani rispetto al PNRR
Analisi
PNRR: dalla Ricerca all’impresa, una sfida da cogliere insieme
Innovazione
Pnrr, il Dipartimento per la Trasformazione digitale si riorganizza
FORUM PA 2022
PA verde e sostenibile: il ruolo di PNRR, PNIEC, energy management e green public procurement
Analisi
PNRR, Comuni e digitalizzazione: tutto su fondi e opportunità, in meno di 3 minuti. Guarda il video!
Rapporti
Competenze digitali e servizi automatizzati pilastri del piano Inps
Analisi
Attuazione del PNRR: il dialogo necessario tra istituzioni e società civile. Rivedi lo Scenario di FORUM PA 2022
Progetti
Pnrr, fondi per il Politecnico di Torino. Fra i progetti anche IS4Aerospace
Analisi
PNRR, Colao fa il punto sulla transizione digitale dell’Italia: «In linea con tutte le scadenze»
La Svolta
Ict, Istat “riclassifica” i professionisti. Via anche al catalogo dati sul Pnrr
Analisi
Spazio, Colao fa il punto sul Pnrr: i progetti verso la milestone 2023
FORUM PA 2022
Ecosistema territoriale sostenibile: l’Emilia Romagna tra FESR e PNRR
Il Piano
Innovazione, il Mise “centra” gli obiettivi Pnrr: attivati 17,5 miliardi
Analisi
PNRR: raggiunti gli obiettivi per il primo semestre 2022. Il punto e qualche riflessione
Analisi
PNRR: dal dialogo tra PA e società civile passa il corretto monitoraggio dei risultati, tra collaborazione e identità dei luoghi
Webinar
Comuni e PNRR: un focus sui bandi attivi o in pubblicazione
Analisi
Formazione 4.0: cos’è e come funziona il credito d’imposta
PA e Sicurezza
PA e sicurezza informatica: il ruolo dei territori di fronte alle sfide della digitalizzazione
PA e sicurezza
PNRR e servizi pubblici digitali: sfide e opportunità per Comuni e Città metropolitane
Water management
Water management in Italia: verso una transizione “smart” e “circular” 
LE RISORSE
Transizione digitale, Simest apre i fondi Pnrr alle medie imprese
Prospettive
Turismo, cultura e digital: come spendere bene le risorse del PNRR
Analisi
Smart City: quale contributo alla transizione ecologica
Decarbonizzazione
Idrogeno verde, 450 milioni € di investimenti PNRR, Cingolani firma
Unioncamere
PNRR, imprese in ritardo: ecco come le Camere di commercio possono aiutare
I fondi
Industria 4.0: solo un’impresa su tre pronta a salire sul treno Pnrr
CODICE STARTUP
Imprenditoria femminile: come attingere ai fondi per le donne che fanno impresa
DECRETI
PNRR e Fascicolo Sanitario Elettronico: investimenti per oltre 600 milioni
IL DOCUMENTO
Competenze digitali, ecco il nuovo piano operativo nazionale
STRUMENTI
Da Istat e RGS gli indicatori per misurare la sostenibilità nel PNRR
STRATEGIE
PNRR – Piano nazionale di Ripresa e Resilienza: cos’è e novità
FONDI
Pnrr, ok della Ue alla seconda rata da 21 miliardi: focus su 5G e banda ultralarga
GREEN ENERGY
Energia pulita: Banca Sella finanzia i progetti green incentivati dal PNRR
TECNOLOGIA SOLIDALE
Due buone notizie digitali: 500 milioni per gli ITS e l’inizio dell’intranet veloce in scuole e ospedali
INNOVAZIONE
Competenze digitali e InPA cruciali per raggiungere gli obiettivi del Pnrr
STRATEGIE
PA digitale 2026, come gestire i fondi PNRR in 5 fasi: ecco la proposta
ANALISI
Value-based healthcare: le esperienze in Italia e il ruolo del PNRR
Strategie
Accordi per l’innovazione, per le imprese altri 250 milioni
Strategie
PNRR, opportunità e sfide per le smart city
Strategie
Brevetti, il Mise mette sul piatto 8,5 milioni
Strategie
PNRR e opere pubbliche, la grande sfida per i Comuni e perché bisogna pensare digitale
Formazione
Trasferimento tecnologico, il Mise mette sul piatto 7,5 milioni
Strategie
PSN e Strategia Cloud Italia: a che punto siamo e come supportare la PA in questo percorso
Dispersione idrica
Siccità: AI e analisi dei dati possono ridurre gli sprechi d’acqua. Ecco gli interventi necessari
PNRR
Cloud, firmato il contratto per l’avvio di lavori del Polo strategico
Formazione
Competenze digitali, stanziati 48 milioni per gli Istituti tecnologici superiori
Iniziative
Digitalizzazione delle reti idriche: oltre 600 milioni per 21 progetti
Competenze e competitività
PNRR, così i fondi UE possono rilanciare la ricerca e l’Università
Finanziamenti
PNRR, si sbloccano i fondi per l’agrisolare
Sanità post-pandemica
PNRR, Missione Salute: a che punto siamo e cosa resta da fare
Strategie
Sovranità e autonomia tecnologica nazionale: come avviare un processo virtuoso e sostenibile
La relazione
Pnrr e PA digitale, l’alert della Corte dei conti su execution e capacità di spesa
L'editoriale
Elezioni 2022, la sfida digitale ai margini del dibattito politico
Strategie
Digitale, il monito di I-Com: “Senza riforme Pnrr inefficace”
Transizione digitale
Pnrr: arrivano 321 milioni per cloud dei Comuni, spazio e mobilità innovativa
L'analisi I-COM
Il PNRR alla prova delle elezioni: come usare bene le risorse e centrare gli obiettivi digitali
Cineca
Quantum computing, una svolta per la ricerca: lo scenario europeo e i progetti in corso
L'indice europeo
Desi, l’Italia scala due posizioni grazie a fibra e 5G. Ma è (ancora) allarme competenze
L'approfondimento
PNRR 2, ecco tutte le misure per cittadini e imprese: portale sommerso, codice crisi d’impresa e sismabonus, cosa cambia
Servizi digitali
PNRR e trasformazione digitale: ecco gli investimenti e le riforme previste per la digitalizzazione della PA
Legal health
Lo spazio europeo dei dati sanitari: come circoleranno le informazioni sulla salute nell’Unione Europea
Servizi digitali
PNRR e PA digitale: non dimentichiamo la dematerializzazione
Digital Healthcare transformation
La trasformazione digitale degli ospedali
Governance digitale
PA digitale, è la volta buona? Così misure e risorse del PNRR possono fare la differenza
Servizi digitali
Comuni e digitale, come usare il PNRR senza sbagliare
La survey
Pnrr e digitale accoppiata vincente per il 70% delle pmi italiane
Missione salute
Fascicolo Sanitario Elettronico alla prova del PNRR: limiti, rischi e opportunità
Servizi pubblici
PNRR: come diventeranno i siti dei comuni italiani grazie alle nuove risorse
Skill gap
PNRR, la banda ultra larga crea 20.000 nuovi posti di lavoro
Il Piano
Spazio, Colao fa il punto sul Pnrr: i progetti verso la milestone 2023
FORUMPA2022
PNRR e trasformazione digitale: rivedi i Talk di FORUM PA 2022 in collaborazione con le aziende partner
I contratti
Avio, 340 milioni dal Pnrr per i nuovi propulsori a metano
Next Generation EU
PNRR, a che punto siamo e cosa possono aspettarsi le aziende private
Fondi
Operativo il nuovo portale del MISE con tutti i finanziamenti per le imprese
Servizi comunali
Il PNRR occasione unica per i Comuni digitali: strumenti e risorse per enti e cittadini
Healthcare data platform
PNRR dalla teoria alla pratica: tecnologie e soluzioni per l’innovazione in Sanità
Skill
Competenze digitali, partono le Reti di facilitazione
Gli obiettivi
Scuola 4.0, PNRR ultima chance: ecco come cambierà il sistema formativo
Sistema Paese
PNRR 2, è il turno della space economy
FORUM PA 2022
FORUM PA 2022: la maturità digitale dei comuni italiani rispetto al PNRR
Analisi
PNRR: dalla Ricerca all’impresa, una sfida da cogliere insieme
Innovazione
Pnrr, il Dipartimento per la Trasformazione digitale si riorganizza
FORUM PA 2022
PA verde e sostenibile: il ruolo di PNRR, PNIEC, energy management e green public procurement
Analisi
PNRR, Comuni e digitalizzazione: tutto su fondi e opportunità, in meno di 3 minuti. Guarda il video!
Rapporti
Competenze digitali e servizi automatizzati pilastri del piano Inps
Analisi
Attuazione del PNRR: il dialogo necessario tra istituzioni e società civile. Rivedi lo Scenario di FORUM PA 2022
Progetti
Pnrr, fondi per il Politecnico di Torino. Fra i progetti anche IS4Aerospace
Analisi
PNRR, Colao fa il punto sulla transizione digitale dell’Italia: «In linea con tutte le scadenze»
La Svolta
Ict, Istat “riclassifica” i professionisti. Via anche al catalogo dati sul Pnrr
Analisi
Spazio, Colao fa il punto sul Pnrr: i progetti verso la milestone 2023
FORUM PA 2022
Ecosistema territoriale sostenibile: l’Emilia Romagna tra FESR e PNRR
Il Piano
Innovazione, il Mise “centra” gli obiettivi Pnrr: attivati 17,5 miliardi
Analisi
PNRR: raggiunti gli obiettivi per il primo semestre 2022. Il punto e qualche riflessione
Analisi
PNRR: dal dialogo tra PA e società civile passa il corretto monitoraggio dei risultati, tra collaborazione e identità dei luoghi
Webinar
Comuni e PNRR: un focus sui bandi attivi o in pubblicazione
Analisi
Formazione 4.0: cos’è e come funziona il credito d’imposta
PA e Sicurezza
PA e sicurezza informatica: il ruolo dei territori di fronte alle sfide della digitalizzazione
PA e sicurezza
PNRR e servizi pubblici digitali: sfide e opportunità per Comuni e Città metropolitane
Water management
Water management in Italia: verso una transizione “smart” e “circular” 
LE RISORSE
Transizione digitale, Simest apre i fondi Pnrr alle medie imprese
Prospettive
Turismo, cultura e digital: come spendere bene le risorse del PNRR
Analisi
Smart City: quale contributo alla transizione ecologica
Decarbonizzazione
Idrogeno verde, 450 milioni € di investimenti PNRR, Cingolani firma
Unioncamere
PNRR, imprese in ritardo: ecco come le Camere di commercio possono aiutare
I fondi
Industria 4.0: solo un’impresa su tre pronta a salire sul treno Pnrr

Articoli correlati

Articolo 1 di 3