LLM Inference Engineering: From KV Cache to Production Serving: A Practical Guide, Basics to Advanced
Lingua: inglese
Editore: Independently published, 2026
- Brossura
- Nuovo

Da: California Books, Miami, FL, U.S.A.California Books
Venditore AbeBooks dal 27 ottobre 2023
Condizione: Nuovo
EUR 22,99
Quantità: Più di 20 disponibili
Aggiungi al carrelloDescrizione dell’articolo da parte del venditore
Print on Demand.
Codice articolo I-9798178522462
- Titolo
- LLM Inference Engineering: From KV Cache to Production Serving: A Practical Guide, Basics to Advanced
- Autore
- Nainwal, Shashank
- Editore
- Independently published
- Anno di pubblicazione
- 2026
- Condizione
- New
- Rilegatura
- Brossura
- Lingua
- inglese
- ISBN 13
- 9798178522462
Training a model happens once. Serving it happens every time someone uses your product, and that is where most AI budgets go. This book explains, step by step, what really happens when an LLM generates text and how engineers make it fast and affordable at scale.
Starting from a single question, "what happens when a model produces one token?", you will build a complete mental model of modern inference, from first principles to production deployment.
What you will learn
- Why decoding is memory-bound, and how to predict speed and cost with simple napkin math
- The KV cache, PagedAttention, FlashAttention, and GQA/MQA/MLA explained in plain language
- Continuous batching, chunked prefill, speculative decoding, and prompt caching
- Quantization (FP8, INT4, GPTQ, AWQ), distillation, Mixture of Experts, and model routing
- Tensor, pipeline, and expert parallelism, plus disaggregated serving and long context
- How modern serving engines and the GGUF format work, and when to choose each
- How GPUs and TPUs work, and how to compare accelerators for inference
- Benchmarking, observability, cost modeling, and capacity planning
Inside the book
- 27 chapters across 8 parts, from basics to advanced
- 29 original diagrams
- Key takeaways and quiz questions in every chapter, with an answer key
- 3 hands-on labs you can run on a laptop or a single GPU
- 25 interview questions with model answers
- A formula cheat sheet, glossary, and curated list of foundational papers
Who this book is for
Software and ML engineers, platform and MLOps engineers, solution architects, technical product managers, and anyone preparing for AI infrastructure interviews. You need basic Python and a rough idea of what a neural network is. No CUDA or GPU required.
Written by an AI architect and former Amazon Web Services engineer who has built LLM applications serving millions of customers.
"Riassunto" può appartenere a un’altra edizione di questo titolo.
California Books
Miami, FL, U.S.A.
Venditore AbeBooks dal 27 ottobre 2023
Tariffe di spedizione nazionale per U.S.A.
| Articolo | Da 3 a 7 giorni lavorativi | Da 2 a 5 giorni lavorativi |
|---|---|---|
| Primo articolo | EUR 0,00 | EUR 10,71 |
Metodi di pagamento
Descrizione dello Store
We have 20 years experience selling books worldwide! Friendly customer support. Your satisfaction guaranteed!
Specializzazione
All authorized categoriesInformazioni sull’azienda del venditore
Miramar International Services LLC
FL, U.S.A.
Diritto di recesso
Se sei un consumatore puoi recedere dal contratto in conformità con quanto segue. Per Consumatore si intende qualsiasi persona fisica che agisce per scopi estranei alla propria attività commerciale, imprenditoriale, artigianale o professionale.
Informazioni sul diritto di recesso
Diritto legale di recesso
Hai il diritto di recedere dal presente contratto entro 14 giorni senza fornire alcuna motivazione.
Il periodo di recesso scade dopo 14 giorni dal giorno in cui tu o una terza parte, diversa dal vettore e da te indicata, acquisisce il possesso fisico dell'ultimo bene o dell'ultimo lotto o pezzo.
Per esercitare il diritto di recesso, compila e invia elettronicamente una dichiarazione esplicita sul nostro sito Web, alla voce “I miei acquisti” nella sezione “Mio account”. Ti comunicheremo senza indugio una conferma di ricezione di tale recesso su un supporto durevole (ad es. via e-mail).
Per rispettare il termine di recesso, è sufficiente inviare la comunicazione relativa all'esercizio del diritto di recesso prima della scadenza del periodo di recesso stesso.
Effetti del recesso
In caso di recesso dal presente contratto, ti rimborseremo tutti i pagamenti ricevuti, compresi i costi di spedizione (ad eccezione dei costi supplementari derivanti dalla tua eventuale scelta di un tipo di spedizione diverso dal tipo meno costoso di consegna standard da noi offerto).
Potremo effettuare una detrazione dal rimborso per la perdita di valore dei beni forniti, qualora tale perdita sia il risultato di una manipolazione non necessaria da parte tua.
Eseguiremo il rimborso senza indebito ritardo e non oltre 14 giorni dal giorno in cui saremo informati della tua decisione di recedere dal presente contratto.
Il rimborso sarà effettuato utilizzando lo stesso mezzo di pagamento da te usato per la transazione iniziale, salvo che tu non abbia espressamente concordato altrimenti; in ogni caso, non dovrai sostenere alcun costo quale conseguenza di tale rimborso.
Possiamo trattenere il rimborso finché non avremo ricevuto i beni oppure finché non avrai fornito la prova di averli rispediti, a seconda di quale condizione si verifichi per prima.
Dovrai rispedire i beni o consegnarli a California Books, Fort Wayne, Indiana, U.S.A., senza indebito ritardo e, in ogni caso, entro 14 giorni dal giorno in cui ci hai comunicato la tua volontà di recedere dal presente contratto. Il termine è rispettato se rispedisci i beni prima della scadenza del periodo di 14 giorni. I costi diretti della restituzione dei beni saranno a tuo carico. Sei responsabile solo della diminuzione del valore dei beni risultante da una manipolazione diversa da quella necessaria per stabilire la natura, le caratteristiche e il funzionamento dei beni stessi.
Eccezioni al diritto di recesso
Il diritto di recesso non si applica a:
- La fornitura di giornali, periodici o riviste ad eccezione dei contratti di abbonamento; e
- La fornitura di contenuto digitale non fornito su un supporto materiale (ad es. su un CD o DVD), se al momento dell'invio dell'ordine hai accettato l'inizio dell'esecuzione e hai riconosciuto che non avresti potuto recedere una volta iniziata l'esecuzione.