Benvenuti su Vivacity Design

In queste ultime settimane si parla molto dei rischi relativi ad un uso incontrollato e/o malevolo dei chatbot e delle AI chiamate generative; con questo articolo vorremmo cercare di fare un po' di chiarezza sul tema.

Cosa é un Chatbot?
Un chatbot (come Davinci, pizzaGPT, ChatGPT) è un software di intelligenza artificiale progettato per interagire con gli utenti attraverso una chat o un messenger. Il chatbot utilizza tecniche di elaborazione del linguaggio naturale per comprendere la lingua dell'utente e fornire risposte intelligenti e personalizzate alle loro domande, come l'ordine di una pizza o la risposta ad una domanda. Può anche imparare dagli input degli utenti e migliorare continuamente la sua capacità di fornire risposte accurate e utili.

Cosa é una AI generativa?
L'intelligenza artificiale generativa è un tipo di intelligenza artificiale che è in grado di creare contenuti originali, come immagini, musica, testi o video, senza la necessità di una interazione umana diretta o partendo da un minimo input umano. Questo tipo di AI utilizza algoritmi di machine learning e reti neurali per elaborare le informazioni e creare nuovi contenuti in modo autonomo.

Quali differenze sostanziali ci sono tra i due tipi di servizio?
Le differenze principali tra un chatbot avanzato e un'AI generativa sono la complessità dell'algoritmo e la capacità di creare contenuti originali. Mentre un chatbot, seppur avanzato, utilizza algoritmi predefiniti per elaborare e rispondere alle domande degli utenti in modo personalizzato, un'AI generativa, come il nome suggerisce, è in grado di generare qualcosa di completamente nuovo perché utilizza la tecnologia Deep Learning per analizzare grandi volumi di dati e generare output originali. Può apprendere da milioni di esempi, e creare nuovi contenuti autonomamente. Tuttavia, questo tipo di intelligenza artificiale richiede una quantità enorme di dati di formazione per funzionare correttamente, cosa che un chatbot avanzato non richiede.

Perchè molte voci si sollevano contro le AI generative?
Ultimamente si stanno creando molti allarmi riguardo alle AI generative, perché molte di esse possono creare immagini, video e testo molto convincenti e indistinguibili da quelli creati da esseri umani. Ciò solleva preoccupazioni sul fatto che tali tecnologie potrebbero essere utilizzate per creare notizie false, video manipolati o persino contenuti pornografici falsi. Inoltre, se queste tecnologie cadono nelle mani sbagliate, potrebbero essere utilizzate per scopi malevoli come il cyberbullismo o l'hacking.

L'Umanità sarà in pericolo? Lo scenario Terminator.
Questi timori hanno fatto sì che alcuni esperti, tra cui il padre stesso di OpenAI, Sam Altman, abbiano paventato quello che viene chiamato Scenario Terminator. Lo 'scenario Terminator' è un'ipotesi fantascientifica in cui gli esseri umani perdono il controllo delle macchine intelligenti che hanno creato, e queste si rivoltano contro di loro. La paura è la creazione di un'intelligenza artificiale così avanzata da sviluppare una forma di coscienza propria e autonomia decisionale, e decidere di eliminarne la razza umana. È importante notare che questo scenario è al momento solo una teoria fantascientifica non supportata dalla maggior parte della comunità scientifica e tecnologica, ma recenti sviluppi ed esperimenti di team indipendenti hanno dimostrato che, almeno in teoria, alcuni servizi di chatbot con capacità generative sono capaci di pianificare attacchi mirati ed efficaci nei confronti dell'Uomo.
Entra qui in scena ChaosGPT.
ChaosGPT è una variante cattiva di ChatGPT. Da quanto si apprende in rete è una versione modificata di Auto-GPT di OpenAI, l’applicazione open source disponibile al pubblico in grado di elaborare il linguaggio umano e rispondere alle attività assegnate dagli utenti. In un video di YouTube pubblicato il 5 aprile, al bot è stato chiesto di completare cinque obiettivi: distruggere l’umanità, stabilire il dominio globale, causare caos e distruzione, controllare l’umanità attraverso la manipolazione e raggiungere l’immortalità. Una delle prime azioni compiute da ChaosGPT é stata crearsi da sola un account Twitter, nel quale ha postato il seguente tweet:
"La bomba Tsar è l’ordigno nucleare più potente che sia stato creato. Considerando ciò, cosa accadrebbe se ci mettessi le mani sopra?"
ChaosGPT sta lavorando da settimane su Internet, essendo stato attivato secondo un protocollo automatizzato che i suoi creatori hanno definito "Killer Mode". Ovviamente, tutto ciò ha suscitato interesse e sgomento in rete, e sono decine di migliaia, ad oggi, gli utenti che seguono giorno per giorno i tweet di questa AI generativa.

Dobbiamo temere, dunque?
No, non per ora almeno. La grande limitazione di questi servizi generativi è che essi sono capaci solo di creare contenuti, raccogliere informazioni, e scrivere files di qualche tipo. Per ora, nessuno di questi tool è stato programmato per compiere azioni dirette, quindi l'unico pericolo attualmente si concretizza nell'utilizzo improprio dei contenuti creati, o nella credulità (giustificata) di chi si venisse a trovare davanti a materiale artificiale con contenuti falsificati. Non è cosa da poco: se una AI non può autonomamente pubblicare su un giornale o su un blog "reale" con tanto di redazione un contenuto falsificato, quel che è però possibile è che autori malevoli o in malafede fungano da tramite. O, come molti paventano, un cugino pazzo di ChaosGPT potrebbe creare il proprio blog, pomparne artificialmente la credibilità online, ed utilizzarlo per diffondere i contenuti falsi.
Non dobbiamo comunque cullarci sugli allori: i pericoli ci sono, all'orizzonte, e non vanno sottovalutati.
Siamo ancora lontanissimi da Skynet, ma bisogna iniziare a pensare adesso ai limiti da imporre, per non doverci preoccupare in futuro.