One Trillion Parameters, One Token at a Time
Kurz zusammengefasst
m. Pacific / 13:30–14:30 UTC · Live Zoom session hosted by Rajat Dandekar on Maven.
Auf einen Blick
- Datum
- Zeit
- Stadt
- München
Teilnahme
Anmeldung und aktuelle Teilnahmebedingungen stehen auf der Veranstaltungsseite.
Zum Kalender
Das erwartet dich
AI Performance Engineering Meetup (Munich2) Friday, November20 · 5:30–6:30 a.m. Pacific / 13:30–14:30 UTC · Live Zoom session hosted by Rajat Dandekar on Maven. A recording will be available afterward. You click Send. A cluster of GPUs has to turn a trillion parameters intoyour next token. Where do the weights fit, what has to move, and what happens when thousands of people are waiting for an answer at once? Dr. Rajat Dandekar, co-founder of Vizuara and co-author of Build a DeepSeek Model (From Scratch), will use examples from DeepSeek, Kimi, and vLLM to build up the serving stack from one token to a full cluster.
- Do the GPU math. Work out why a trillion parameters at 16-bit precision take about 2 TB just for weights, why bandwidth can bottleneck decoding, and how batching lets requests share the cost of reading weights.
- Make the KV cache fit. See what multi-head latent attention (MLA), PagedAttention, and prefix caching each do to reduce memory use or reuse work, including what Kimi K3 does differently.
- Split the work across the cluster. Compare tensor, expert, and pipeline parallelism; see why you might run prefill and decode on separate GPUs; and learn where FP4 and speculative decoding fit.
For engineers building or tuning LLM inference stacks, or working out where to start when latency or GPU memory becomes a bottleneck. Bring your team. Register free on Maven for the Zoom session A Meetup RSVP isn’t a Maven registration.
Häufige Fragen
Wann findet One Trillion Parameters, One Token at a Time statt?
Am Freitag, 20.11.2026, 14:30–15:30 Uhr.
Wo findet One Trillion Parameters, One Token at a Time statt?
Die Veranstaltung findet in München statt.
Wie kann ich mich für One Trillion Parameters, One Token at a Time anmelden?
Die Anmeldung erfolgt über die Veranstaltungsseite. Dort stehen auch die aktuellen Teilnahmebedingungen.
Am selben Tag
Rund um den Termin
BVMID Unternehmer:FORUM EXKLUSIV | Bonita Grupp von TRIGEMA im Interview
Vor Ort09:00–13:30 Uhr
SheStartup - Frauen gründen
Vor Ort09:00 Uhr
Handelsblatt KI Summit 2026
Vor Ort18:00–19:00 Uhr
GPU Detective Stories: PyTorch Recompiles & Hidden Bottlenecks
Quelle & Transparenz
Angaben stammen von Meetup.
Alle Angaben ohne Gewähr. Termine, Preise und Teilnahmebedingungen bitte beim Veranstalter prüfen.
Fehler melden