OpenAccessGPT

1. Copyright 2023 Filippo Zanella - È vietata la redistribuzione e la pubblicazione dei contenuti e immagini non autorizzata espressamente dall’autore. OpenAccessGPT un piccolo side-project Filippo Zanella H-Farm Club 26 aprile 2023 @filippozanella filippo.zanella.ce@h-farm.com

3. Copyright 2023 Filippo Zanella - È vietata la redistribuzione e la pubblicazione dei contenuti e immagini non autorizzata espressamente dall’autore. I Large Language Models (LLM) sono una classe di modelli di deep learning, costruiti su architetture di reti neurali, progettati per elaborare e comprendere grandi quantità di dati di natural language. Una rete neurale è un tipo di modello di apprendimento automatico basato su una serie di piccole funzioni matematiche chiamate neuroni. Ogni neurone è una funzione che calcola un output in base a un input. Il potere della rete neurale deriva dalle connessioni tra i neuroni. L’insieme dei neuroni e delle loro connessioni costituisce un modello, ossia un programma informatico che cerca di descrivere determinati schemi/sistemi (pattern) o fare predizioni. I neuroni e i pesi delle connessioni fra di essi all’interno di un modello sono definiti automaticamente dai modelli stessi durante un processo di apprendimento. Forniti dei dati di addestramento, del tempo e risorse di calcolo suﬃcienti, un modello è in grado di imparare, definendosi in autonomia (e.g. è in grado di produrre del testo che, per un lettore, è indistinguibile dal testo scritto da un essere umano). Large Language Models

4. Copyright 2023 Filippo Zanella - È vietata la redistribuzione e la pubblicazione dei contenuti e immagini non autorizzata espressamente dall’autore. I LLM sono costruiti in particolare sull'architettura transformer, che consente loro di catturare schemi linguistici complessi e relazioni tra parole o frasi in insiemi di dati di testo su larga scala. L'architettura del transformer si basa su un meccanismo chiamato self- attention, che consente al modello di soppesare l'importanza di diverse parole o frasi in un dato contesto. Tale architettura è stata introdotta per la prima volta da dei ricercatori di Google nel paper "Attention Is All You Need" di Vaswani et al. nel 2017. L’architettura transformer “Transformers made self-supervised learning possible, and AI jumped to warp speed” (Jensen Juang, CEO of NVIDIA)

5. Copyright 2023 Filippo Zanella - È vietata la redistribuzione e la pubblicazione dei contenuti e immagini non autorizzata espressamente dall’autore. Esistono tre tipi di LLM basati sull'architettura transformer: ❖ Modelli Linguistici Autoregressivi (e.g. GPT): i modelli autoregressivi generano testo prevedendo la parola successiva in una sequenza date le parole precedenti. Sono addestrati per massimizzare la probabilità di ogni parola nel set di dati di addestramento, dato il suo contesto. ❖ Modelli di Linguaggio di Codifica Automatica (e.g. BERT): i modelli di codifica automatica, d'altra parte, imparano a generare una rappresentazione vettoriale di dimensioni fisse (chiamata anche embeddings) del testo di input ricostruendo l'input originale da una sua versione mascherata o danneggiata. ❖ Il terzo (e.g. T5) è la combinazione dei modelli di codifica automatica e autoregressivi. Tipi di LLM

6. Copyright 2023 Filippo Zanella - È vietata la redistribuzione e la pubblicazione dei contenuti e immagini non autorizzata espressamente dall’autore. La Generative AI è una delle applicazioni emergenti nell’ambito dell’Intelligenza Artificiale. È un termine generico che si riferisce a qualsiasi modello di intelligenza artificiale che genera un nuovo output basato su un input (spesso chiamato prompt). L’IA generativa non utilizza necessariamente i LLM. L'intelligenza artificiale generativa è un campo di ricerca che si concentra sulla creazione di sistemi AI in grado di generare nuovi dati o creare nuove versioni di dati esistenti. La sua capacità generativa consente di produrre dati sintetici (audio, codice, immagini, testi, simulazioni, video, …) e di supportare l’uomo nelle sue attività creative. Le applicazioni della Generative AI sono sempre più diﬀuse nell’industria multimediale, nella sanità, nell’arte, nel design. L’intelligenza artificiale generativa

7. Copyright 2023 Filippo Zanella - È vietata la redistribuzione e la pubblicazione dei contenuti e immagini non autorizzata espressamente dall’autore. Il Generative Pre-trained Transformer è dunque un modello di rete neurale basato sul deep learning e sull’utilizzo sia della NLG (natural language generation) che del NLP (natural language processing). GPT-3 come LLM GPT è stato formato utilizzando i dati presenti su internet (Common Crawl, WebText2, Wikipedia, …) per generare qualunque tipo di risposta a partire da un input. GPT-3, che ha 175 miliardi di parametri, è stato prima addestrato attraverso una fase di test supervisionato e successivamente tramite una una fase di rinforzo, l’RLHF (reinforcement learning from human feedback). L'uso di Reinforcement Learning from Human Feedback (RLHF) è ciò che rende ChatGPT unico. “OpenAI collects data from ChatGPT users to train and fine-tune the service further. Users can upvote or downvote responses they receive from ChatGPT and fill out a text field with additional feedback”.

8. Copyright 2023 Filippo Zanella - È vietata la redistribuzione e la pubblicazione dei contenuti e immagini non autorizzata espressamente dall’autore. La capacità di gestire dati di input e output di diversi tipi (testo, immagini, video, audio, ecc.) significa che GPT-4 è multi modale. GPT-4 come foundation model La terminologia per questi ultimi modelli si sta evolvendo rapidamente, con alcuni dibattiti nella comunità di esperti che sostengono che il "modello linguistico" sia troppo limitante. Il termine foundation model è stato reso popolare dai ricercatori di Stanford, ma è anche fonte di alcuni dibattiti.

9. Copyright 2023 Filippo Zanella - È vietata la redistribuzione e la pubblicazione dei contenuti e immagini non autorizzata espressamente dall’autore. ➡ GPT-3, è stato oggetto di critiche da parte dei ricercatori di Google sull'etica dell'IA per l'impatto ambientale (il consumo energetico) che richiede la fase di apprendimento e di memorizzazione dei modelli. ➡ L’uso di tecnologie di scrittura automatizzate, quali GPT-3 e altri, ha sollevato preoccupazioni riguardo l'integrità accademica e aumentato la posta in gioco su come le università e le scuole valuteranno ciò che costituisce una cattiva condotta accademica come il plagio. ➡ GPT-3 è stato criticato per il suo “bias algoritmico” (e.g. è più probabile che associ l'Islam al terrorismo e le persone di colore al crimine) ➡ GPT è stato creato con i dati del Common Crawl, un conglomerato di articoli protetti da copyright, post su Internet, pagine Web e libri estratti da 60 milioni di domini in un periodo di circa 10 anni. ➡ I LLM producono un testo che suona bene ma di fatto non possono garantire che sia corretto. It sounds right, but doesn’t mean it is right. ChatGPT non è perfetto

10. Copyright 2023 Filippo Zanella - È vietata la redistribuzione e la pubblicazione dei contenuti e immagini non autorizzata espressamente dall’autore. ❖ La russa Sberbank ha rilasciato GigaChat. per la capacità di quest’ultimo di comunicare in modo più intelligente in russo rispetto ad altre reti neurali straniere. ❖ È stato rilasciato GPT4All, uno dei sistemi di personal AI più potenti che può essere installato su un personal computer ed utilizzato senza una connessione a Internet, basato sul LLaMA (Large Language Model Meta AI). ❖ Databricks ha rilasciato Dolly 2.0 un LLM con 12B di parametri addestrato per meno di $30 per replicare una interattività umana simile a ChatGPT. Dolly 2.0 sarà open-source, incluso il codice di addestramento, il set di dati e i pesi del modello, tutti adatti per l'uso commerciale. ❖ StabilityAI ha rilasciato StableLM in versione alpha su GitHub con modelli di dimensioni di 3 miliardi e 7 miliardi di parametri, con licenza Creative Commons BY-SA-4.0 e capacità simili a GPT-3 pur con molti meno parametri. I concorrenti di ChatGPT Fermare politicamente e geograficamente questa tecnologia è impossibile. ChatGPT non è poi l’unica soluzione e molte altre sono già disponibili sul mercato.

12. Copyright 2023 Filippo Zanella - È vietata la redistribuzione e la pubblicazione dei contenuti e immagini non autorizzata espressamente dall’autore. Il 31 marzo 2023 il Garante per il trattamento dei dati personali ha imposto una limitazione provvisoria per gli utenti italiani del trattamento ad OpenAI L.C.C., la società proprietaria di ChatGPT, ai sensi dell’articolo 58 del Regolamenti UE 16/679, ossia il GDPR. La sera stessa OpenAI, ha bloccato di conseguenza l’uso del servizio dall’Italia onde evitare sanzioni ma al tempo stesso cercare una soluzione per rispettare le indicazioni del Garante. ChatGPT bloccato in Italia

13. Copyright 2023 Filippo Zanella - È vietata la redistribuzione e la pubblicazione dei contenuti e immagini non autorizzata espressamente dall’autore. Oltre alla mancanza di adeguata informativa agli utenti, il Garante ha rilevato che spesso i dati non corrispondevano a quelli reali. ChatGPT non ha un filtro idoneo a bloccare il servizio per i minori di 13 anni, perché non vi sarebbe un adeguata verifica dell’età dell’utente. Il Garante ha rilevato l’assenza di idonea base giuridica in relazione alla raccolta dei dati personali e al loro trattamento per scopo di addestramento degli algoritmi sottesi al funzionamento di ChatGPT. Le obiezioni del Garante verso ChatGPT

14. Copyright 2023 Filippo Zanella - È vietata la redistribuzione e la pubblicazione dei contenuti e immagini non autorizzata espressamente dall’autore. OpenAI, così come di per sé molte aziende americane, non può sottovalutare le richieste del Garante, per non incorrere in pesanti sanzioni e per adeguarsi comunque a quello che prevede il GDPR a livello Europeo. Di fatto poi, il trattamento dei dati degli utenti per addestrare l’intelligenza artificiale non è necessariamente illecito: lo è se è privo di idoneo, espresso ed informato consenso. Il 6 aprile 2023 si è svolto un incontro in videoconferenza tra i vertici di OpenAI e il collegio del Garante, nel quale la società statunitense si è impegnata a raﬀorzare: ✓ la trasparenza nell’uso dei dati personali degli interessati: ✓ i meccanismi esistenti per l’esercizio dei diritti; ✓ le garanzie per i minori. L’impegno di OpenAI verso il Garante

15. Copyright 2023 Filippo Zanella - È vietata la redistribuzione e la pubblicazione dei contenuti e immagini non autorizzata espressamente dall’autore. OpenAI è stata inizialmente fondata come organizzazione no-profit nel 2015. Nel 2019, OpenAI non ha rilasciato pubblicamente il modello precursore GPT-2, rompendo con le precedenti pratiche open source. Nello stesso anno, si è ristrutturata per essere una società a scopo di lucro. Nel 2020, Microsoft ha annunciato che la società aveva la licenza esclusiva di GPT-3 per i prodotti e servizi di Microsoft a seguito di un investimento multimiliardario in OpenAI. ‣ Parlare con ChatGPT non è gratuito; ‣ OpenAI utilizza ChatGPT per migliorare i propri modelli di IA; ‣ Quando non paghi, il prodotto tipicamente sei tu; ‣ Bisogna fidarsi di OpenAI sul fatto che i dati sono correttamente anonimizzati; ‣ Condividere informazioni sensibili è dunque sconsigliato; Potenziali criticità per OpenAI

16. Copyright 2023 Filippo Zanella - È vietata la redistribuzione e la pubblicazione dei contenuti e immagini non autorizzata espressamente dall’autore. Dopo il ban: PizzaGPT Il 1 aprile un giovane software engineer italiano ha rilasciato un chatbot basato sullo stesso modello di ChatGPT (turbo-3.5) che utilizza le API di OpenAI. Il software è di base gratuito e basato sulla chiave API del proprietario di PizzaGPT. Il progetto si sostiene dunque grazie alle donazioni di terzi e ai piani a pagamento che includono features aggiuntive.

17. Copyright 2023 Filippo Zanella - È vietata la redistribuzione e la pubblicazione dei contenuti e immagini non autorizzata espressamente dall’autore. Dopo il ban: uso delle VPN In alternativa a PizzaGPT, molti utenti si sono indirizzati ad utilizzare delle VPN per superare il limite imposto da OpenAI verso l’uso di ChatGPT in Italia. Un caso emblematico è quello del browser Opera, che include nativamente una VPN gratuita.

18. Copyright 2023 Filippo Zanella - È vietata la redistribuzione e la pubblicazione dei contenuti e immagini non autorizzata espressamente dall’autore. Dopo il ban: Poe La piattaforma di domande e risposte Quora ha aperto l'accesso pubblico alla sua nuova app di chatbot AI: “Poe”. Poe consente agli utenti di porre domande e ottenere risposte da una serie di chatbot AI, inclusi quelli di OpenAI. Poe è sempre di proprietà di una azienda americana ed è a pagamento. Nei T&C non è chiaro se Poe usa i dati per training.

19. Copyright 2023 Filippo Zanella - È vietata la redistribuzione e la pubblicazione dei contenuti e immagini non autorizzata espressamente dall’autore. Dopo il ban: OpenAccessGPT Durante le ferie pasquali Diego ed io abbiamo lavorato ad un progetto OpenAccessGPT in risposta al blocco di ChatGPT in Italia. L’idea era di fornire una alternativa open-source a ChatGPT che consentisse di avere maggiormente controllo dei propri dati senza bisogno di una VPN. OpenAccessGPT incoraggia la collaborazione, la personalizzazione, lo sviluppo guidato dalla community e la totale trasparenza. Gli utenti possono esplorare, modificare e migliorare il codice sorgente, adattandolo alle proprie esigenze e contribuendo alla crescita del progetto.

20. Copyright 2023 Filippo Zanella - È vietata la redistribuzione e la pubblicazione dei contenuti e immagini non autorizzata espressamente dall’autore. Cos’è OpenAccessGPT OpenAccessGPT è un'alternativa non uﬃciale a ChatGPT, open-source e incentrata sulla privacy. Utilizza le API (Application Programming Interfaces) di OpenAI per consentire la comunicazione con GPT-3.5 e GPT-4 (accesso anticipato) utilizzando la propria chiave API OpenAI. In OpenAccessGPT, i dati sono memorizzati esclusivamente nella memoria del vostro browser. È possibile esportare e importare tutte le chat per ripristinarle su un altro browser o computer sempre in OpenAccessGPT o accedervi con altre applicazioni.

21. Copyright 2023 Filippo Zanella - È vietata la redistribuzione e la pubblicazione dei contenuti e immagini non autorizzata espressamente dall’autore. Adattamento del codice Per realizzare OpenAccessGPT abbiamo fatto il fork di un progetto pre-esistente, rilasciato con licenza MIT. Siamo immensamente grati a Cogent Apps per il suo progetto open-source, che funge da base per OAGPT. In sostanza, abbiamo modificato il codice React: - rimuovendo tutta la parte di backend/account utente; - aggiungendo la localizzazione in altre lingue; - implementando l'importazione/esportazione locale della cronologia delle chat; - rimuovendo la Dockerizzazione esistente e fornendo la guida per l’installazione in locale via Node; - facendo bug fixing;

22. Copyright 2023 Filippo Zanella - È vietata la redistribuzione e la pubblicazione dei contenuti e immagini non autorizzata espressamente dall’autore. Rilascio In ottica di continuous delivery e per fornire una modalità web di accesso a OAGPT abbiamo utilizzato Vercel, una piattaforma per framework frontend e siti web statici in cloud. Ogni push sul main branch viene caricato automaticamente da e su Vercel, garantendo che la webapp live è la stessa di Github.

23. Copyright 2023 Filippo Zanella - È vietata la redistribuzione e la pubblicazione dei contenuti e immagini non autorizzata espressamente dall’autore. Comunicazione on-line Il 12 aprile abbiamo reso noto il progetto tramite un post su LinkedIn.

27. Copyright 2023 Filippo Zanella - È vietata la redistribuzione e la pubblicazione dei contenuti e immagini non autorizzata espressamente dall’autore. Il sito principale Potete trovate tutte le informazioni su OpenAccessGPT al sito https://it.openaccessgpt.org

28. Copyright 2023 Filippo Zanella - È vietata la redistribuzione e la pubblicazione dei contenuti e immagini non autorizzata espressamente dall’autore. Utilizzalo da browser Lo scopo principale della chat online è quello di mostrare le funzionalità dell'applicazione come un'anteprima del suo funzionamento quando installata in locale o sul vostro server. La app web non conserva dati in un backend ma in locale. La chat di OpenAccessGPT è disponibile online al sito https://chat.openaccessgpt.org

30. Copyright 2023 Filippo Zanella - È vietata la redistribuzione e la pubblicazione dei contenuti e immagini non autorizzata espressamente dall’autore. Installalo in locale È possibile installare OpenAccessGPT sul proprio computer, seguendo le istruzioni contenute nel repository Github. Seguite queste istruzioni per installare OpenAccessGPT sul vostro computer: 1. Clonare il repository GitHub di OAGPT sul computer locale. 2. Scaricare e installare Node.js 18.15.0 e npm per il proprio sistema operativo dal sito web di Node.js. 3. Navigare nella cartella app del repository ed eseguire il comando npm install. 4.Avviare l'applicazione con il comando npm start. L'applicazione web sarà disponibile all'indirizzo http:// localhost:3000.

31. Copyright 2023 Filippo Zanella - È vietata la redistribuzione e la pubblicazione dei contenuti e immagini non autorizzata espressamente dall’autore. Come iniziare 1. Installazione consigliata: Si consiglia di eseguire OpenAccessGPT in locale seguendo le istruzioni riportate nella repo o nel sito. 2. Ottenere la chiave API OpenAI: Per interagire con i modelli GPT di OpenAI tramite OAGPT, è necessario disporre di una chiave API OpenAI valida. Se non ne avete una, generatela nel portale della piattaforma OpenAI utilizzando il vostro account OpenAI: https:// platform.openai.com/account/api-keys. 3. Impostare la chiave API in OpenAccessGPT: Con la vostra chiave API, inseritela nell'interfaccia della chat di OpenAccessGPT. In questo modo si stabilisce una connessione sicura tra l'applicazione e le API di OpenAI, consentendo di utilizzare la chat. 4.Utilizzo della chat: Digita i messaggi nella chat e ricevi le risposte dal modello AI. Scegli GPT3.5 o GPT4. Risoluzione dei problemi di connessione: Se si riceve un messaggio che indica che la chat ha problemi di connessione alle API OpenAI potrebbe essere dovuto a un credito insuﬃciente nel tuo account OpenAI, che va ricaricato.

32. Copyright 2023 Filippo Zanella - È vietata la redistribuzione e la pubblicazione dei contenuti e immagini non autorizzata espressamente dall’autore. Costo OpenAccessGPT è un progetto gratuito e open-source, ma il suo utilizzo richiede l'accesso alle API di OpenAI, che hanno dei costi associati. Questi costi dipendono dal numero di parole inviate e ricevute dal modello OpenAI GPT tramite API. Informazioni dettagliate sui prezzi sono disponibili sul sito web di OpenAI: https://openai.com/pricing. Ci sono poi dei costi nascosti non a carico dell’utente finale che riguardano l’hosting del sito web e della web app di OAGPT. Questi sono a carico nostro e non prevedono donazioni per supportare i due servizi.

33. Copyright 2023 Filippo Zanella - È vietata la redistribuzione e la pubblicazione dei contenuti e immagini non autorizzata espressamente dall’autore. Collabora alla codebase Il codice sorgente di OpenAccessGPT è disponibile per l'uso, la modifica e il contributo di tutti, favorendo un approccio allo sviluppo dell'intelligenza artificiale guidato dalla comunità. È possibile modificare il codice e inviare una pull request, che, una volta revisionata e approvata, verrà unita al ramo principale. Tra le possibili PR, si segnala ad esempio la necessità di correggere eventuali bug e di integrare i miglioramenti derivanti dal repo di origine, per consentire a OAGPT di beneficiare di essi.

34. Copyright 2023 Filippo Zanella - È vietata la redistribuzione e la pubblicazione dei contenuti e immagini non autorizzata espressamente dall’autore. http://bit.ly/OpenAccessGPT Unisciti al server Discord! Per promuovere la collaborazione, l'innovazione e la fiducia, abbiamo creato un server Discord, per consentire agli utenti di discutere idee, chiedere supporto, porre domande, segnalare bug, proporre nuove funzionalità, condividere le proprie esperienze e contribuire allo sviluppo di OpenAccessGPT.

35. Copyright 2023 Filippo Zanella - È vietata la redistribuzione e la pubblicazione dei contenuti e immagini non autorizzata espressamente dall’autore. Sviluppi futuri ✓ aggiungere più modalità per installarlo in locale (i.e. immagini Docker specifiche); ✓ supportare ulteriori idiomi (e.g. ES e DE); ✓ aggiungere il supporto alle API di GPT-4; ✓ supporto ad altri LLM open-source alternativi a GPT-X; ✓ supporto a plugin di terze parti (e.g. integrare OAGPT con Mailchimp o altra app accessibile via API); ✓ implementare auto mode (ispirata a AutoGPT che si assegna nuovi sotto-obiettivi funzionali al conseguimento di un obiettivo maggiore, senza la necessità di un costante input da parte umana); ✓ …

37. Copyright 2023 Filippo Zanella - È vietata la redistribuzione e la pubblicazione dei contenuti e immagini non autorizzata espressamente dall’autore. (Chat) GPT-4 OpenAI ha impiegato 6 mesi per rendere GPT-4 più sicuro e allineato. GPT-4 ha l'82% in meno di probabilità di rispondere a richieste di contenuti proibiti. Ha il 40% in più di probabilità di produrre risposte fattuali rispetto a GPT-3.5. GPT-4 è multi modale, in quanto oltre a del testo può ricevere anche delle immagini come input. GPT-4 è disponibile attualmente unicamente per gli sviluppatori, mettendosi in lista d’attesa.

38. Copyright 2023 Filippo Zanella - È vietata la redistribuzione e la pubblicazione dei contenuti e immagini non autorizzata espressamente dall’autore. Ultime notizie da OpenAI - Gli utenti di ChatGPT ora possono disattivare la cronologia della chat per impedire che le conversazioni vengano utilizzate per addestrare e migliorare i modelli. - Le nuove conversazioni verranno conservate per 30 giorni e riviste solo quando necessario per monitorare eventuali abusi prima di essere eliminate definitivamente. - OpenAI prevede di lanciare un nuovo abbonamento ChatGPT Business nei prossimi mesi, che seguirà le politiche di utilizzo dei dati delle API e non utilizzerà i dati degli utenti finali per l'addestramento del modello. - È stata rilasciata una nuova funzionalità di esportazione che rende più facile per gli utenti esportare i propri dati e comprendere le informazioni memorizzate da ChatGPT.

39. Copyright 2023 Filippo Zanella - È vietata la redistribuzione e la pubblicazione dei contenuti e immagini non autorizzata espressamente dall’autore. filippo.zanella.ce@h-farm.com Grazie Director of Integrations @ Tritium Software SL Professor @ H-Farm College

OpenAccessGPT

OpenAccessGPT

Recomendados

Más contenido relacionado

La actualidad más candente

La actualidad más candente(20)

Similar a OpenAccessGPT

Similar a OpenAccessGPT(20)

OpenAccessGPT