Aritmetica per Inferenza degli LLM!

Serate tematiche dedicate allo studio di Python in tutte le sue accezioni, gratuite e aperte a chiunque.Vi aspettiamo per condividere ed esplorare assieme librerie, metodologie, strumenti, buone pratiche e come si sta evolvendo il panorama di Python.

Python Biella Group

Se volete capirci di più su come fornire grandi modelli e ottimizzare inferenza e memoria, questo evento fa per voi!

👀 Vi siete mai chiesti quanti parametri ha davvero un LLM? O perché un modello 2B a volte sembra più un 3B? Sapete cos’è una KV-Cache (spoiler: no, non è un fork di Redis)?Se volete capirci di più su come fornire grandi modelli e ottimizzare inferenza e memoria, questo evento fa per voi! 📌 Cosa imparerete?✅ Come contare i parametri di un LLM e perché sono importanti✅ La differenza tra calcolo e memoria nell’inferenza✅ Prefill vs. decoding: due fasi essenziali✅ Come ottimizzare la RAM della GPU e ridurre la latenza✅ L’impatto del batching e del time to first token 📅 Quando? 24 marzo 2025 ore 21:00📍 Dove? Zoom (link nel biglietto)Un talk pratico, chiaro e senza troppi fronzoli per chi vuole capirci davvero qualcosa! Ci vediamo lì! 🚀Ti aspettiamo live su Zoom! 🌟 Tutti i nostri contatti e Info 🌟 ➡️ https://pythonbiellagroup.it 🔴 Canale Youtube 🔴 ➡️ https://www.youtube.com/@PythonBiellaGroup 📚 Materiale e slides 📚 ➡️ https://github.com/PythonBiellaGroup

Le nostre {communityGuidelinesLink} descrivono il tipo di contenuto che vietiamo su Eventbrite. Se sospetti che un evento possa essere in violazione, puoi segnalarcelo in modo che possiamo indagare.

Per segnalare altre categorie di contenuti proibiti o illegali, invia {link}

Aritmetica per Inferenza degli LLM!

Altri eventi di Python Biella Group

Scopri altri eventi di Python Biella Group, da Scienze e tecnologia ad altre esperienze che potrebbero piacerti.

Ancora alla ricerca dell'evento giusto?

Esplora tutti gli eventi online per sfogliare e filtrare per data, categoria e altro.

Aritmetica per Inferenza degli LLM!

Altri eventi di Python Biella Group

Scopri altri eventi di Python Biella Group, da Scienze e tecnologia ad altre esperienze che potrebbero piacerti.

Potrebbe interessarti anche...

Sfoglia altri eventi con date, prezzi e formati diversi per trovare la tua prossima fantastica esperienza.

Ancora alla ricerca dell'evento giusto?

Esplora tutti gli eventi online per sfogliare e filtrare per data, categoria e altro.