La settimana scorsa c’è stato l’evento AI dell’anno.
Nvidia ha presentato una serie di novità estremamente interessanti… e non solo hardware.
Sicuramente il pezzo forte della conferenza è stata Blackwell, la nuova architettura GPU, pensata per addestrare modelli di AI generativa di prossima generazione… giganti.
Il chip è impressionante:
A parità di dimensione, ha il 2,5x prestazioni per training e 5x per la fase di inferenza, rispetto all'architettura Hopper precedente (le famose schede H100 che Mark Zuckerberg sta accumulando…).
Oltre a questo, a parità di potenza di calcolo.. è usa solo un quarto dell’energia!
È quindi estremamente più efficiente dal punto di vista energetico, e questa è una buona notizia, il costo per addestrare e servire i modelli di AI generativa…
Infatti è chiaro che Nvidia ha tutto l’interesse a rendere più efficienti i suoi chip (e consumare meno).
Se le aziende che li usano consumano meno, risparmieranno sull’uso di elettricità, a parità di calcoli effettuati…
Nonostante questo il tema di “quanto è sostenibile addestrare modelli esponenzialmente più grandi?”… diciamo che non è risolto 😅
Tuttavia le novità non sono state solo hardware… anzi!
Sono stati presentati vari software e piattaforme per simulazioni fisiche, addestramento di robot, microservizi AI, digital twin con fedeltà quasi reale…
Insomma, il futuro che vede Jensen Huang è chiaro.
L’AI sarà sempre più pervasiva in ogni aspetto della nostra vita, ed Nvidia vuole essere la piattaforma di riferimento anche software, oltre che hardware.
Piccolo reminder: Jensen sta dicendo a tutti di “non insegnare a programmare ai bambini, tanto lo faranno le AI per noi a breve”.
Fa ridere ma fa anche riflettere:
Tra l’altro mi ricordo che una volta ho sentito Jensen dire a un podcast: “Tutti pensano che siamo una compagnia che costruisce hardware. La verità è che noi abbiamo molti più software engineer che hardware engineer!
Siamo quasi una software house che accidentalmente progetta schede grafiche!”
(e tra l’altro ne fa solo il design, ma a produrle fisicamente è TSMC)
Poi, ci sono anche stati tantissimi altri interventi e annunci minori, che puoi recuperare dal canale Youtube di Nvidia.
Ti consiglio di guardare i primi 20 del Keynot di Jensen… è impressionte, Jensen è uno showman pazzesco.
Tra l’altro non è il classico presentatore ingessato alla mo’ Tim Cook o Sundar Pichai…
Ma è vero giga-nerd, che per due ore fa battute fantasy, citazioni a star trek, e che si esalta come un bambino felicissimo della sua nuova invenzione - in questo caso, un chip dal costo di R&D di $10 miliardi di dollari circa.
Consigliata la visione.
Cosa ne pensi del Keynote?
L’hai visto?
Vieni a dirci che ne pensi sul nostro Discord, trovi tutti i membri del team e migliaia di professionisti e appassionati di Tech, Data Science e AI! 🍕
By Giacomo Ciarlini - Head of Content & Education - Datapizza
Abbiamo trovato questa “collezione aperta” di ricette per addestrare e ottimizzare modelli di linguaggio come GPT.
Se sei interessato più alla parte tecnica di “come si costruisce una AI”, salvatela assolutamente.
Contiene metodologie, strumenti e istruzioni passo-passo per aiutare ad addestrare LLM/VLM.
Bonus: Include numerosi script e comandi da copiare e incollare per velocizzare il lavoro.
ll mese scorso ho creato un piccolo tool gratuito per scrivere velocemente contenuti, insegnando a GPT a usare lo stile dei tuoi esempi, e applicarlo a… un nuovo contenuto!
In pratica apri il link, poi:
📍 Inserisci la tua API Key di OpenAI (ho linkato tutorial per ottenerla) 📍 Personalizza il prompt inserendo alcune variabili (tipo, ambito, numero slides) 📍 Inserisci 4-5 esempi di TUOI contenuti nella cartella “esempi” 📍 Crea un file di testo con la sorgente nuovo articolo da scrivere 📍 Avvia l’ultima cella… Et voilà!
Dopo circa 45 secondi otterrai il contenuto stampato a video nell’ultima cella!
Ovviamente hai il costo delle chiamate API, ma conta che è circa 5 centesimi a contenuto per GPT4, se metti la 3.5 praticamente è gratis…
Perchè questo tool è una figata?
📍 Non devi pagare nessun altro tool “che scrive i contenuti come te” 📍 Ti lascio tutto il codice che puoi anche modificare 📍 Ti regalo il mio INTERO prompt accuratamente ingegnerizzato per la creazione contenuti 📍 Puoi usarlo come base per fare anche altre automazioni…
Ecco il link al Tool: https://shorturl.at/zQRZ3
Provalo e dimmi che ne pensi!
Utilizziamo i cookies al fine di raccogliere ed utilizzare dati come dichiarato nell’informativa sulla privacy.
Cliccando su "Accetta", aderisci all'utilizzo dei nostri cookies.
Scopri di più