This book is a comprehensive guide aiming to demystify the world of transformers -- the architecture that powers Large Language Models (LLMs) like GPT and BERT. From PyTorch basics and mathematical foundations to implementing a Transformer from scratch, you'll gain a deep understanding of the inner workings of these models.

That's just the beginning. Get ready to dive into the realm of pre-training your own Transformer from scratch, unlocking the power of transfer learning to fine-tune LLMs for your specific use cases, explore advanced techniques like PEFT (Prompting for Efficient Fine-Tuning) and LoRA (Low-Rank Adaptation) for fine-tuning.

Step into the deployment of LLMs, delivering these state-of-the-art language models into the real-world, whether integrating them into cloud platforms or optimizing them for edge devices, this section ensures you're equipped with the know-how to bring your AI solutions to life.

Whether you're a seasoned AI practitioner, a data scientist, or a curious developer eager to advance your knowledge on the powerful LLMs, this book is your ultimate guide to mastering these cutting-edge models. By translating convoluted concepts into understandable explanations and offering a practical hands-on approach, this treasure trove of knowledge is invaluable to both aspiring beginners and seasoned professionals.

1. INTRODUCTION
1.1 What is AI, ML, DL, Generative AI and Large Language Model
1.2 Lifecycle of Large Language Models
1.3 Whom This Book Is For
1.4 How This Book Is Organized
1.5 Source Code and Resources
2. PYTORCH BASICS AND MATH FUNDAMENTALS
2.1 Tensor and Vector
2.2 Tensor and Matrix
2.3 Dot Product
2.4 Softmax
2.5 Cross Entropy
2.6 GPU Support
2.7 Linear Transformation
2.8 Embedding
2.9 Neural Network
2.10 Bigram and N-gram Models
2.11 Greedy, Random Sampling and Beam
2.12 Rank of Matrices
2.13 Singular Value Decomposition (SVD)
2.14 Conclusion
3. TRANSFORMER
3.1 Dataset and Tokenization
3.2 Embedding
3.3 Positional Encoding
3.4 Layer Normalization
3.5 Feed Forward
3.6 Scaled Dot-Product Attention
3.7 Mask
3.8 Multi-Head Attention
3.9 Encoder Layer and Encoder
3.10 Decoder Layer and Decoder
3.11 Transformer
3.12 Training
3.13 Inference
3.14 Conclusion
4. PRE-TRAINING
4.1 Machine Translation
4.2 Dataset and Tokenization
4.3 Load Data in Batch
4.4 Pre-Training nn.Transformer Model
4.5 Inference
4.6 Popular Large Language Models
4.7 Computational Resources
4.8 Prompt Engineering and In-context Learning (ICL)
4.9 Prompt Engineering on FLAN-T5
4.10 Pipelines
4.11 Conclusion
5. FINE-TUNING
5.1 Fine-Tuning
5.2 Parameter Efficient Fine-tuning (PEFT)
5.3 Low-Rank Adaptation (LoRA)
5.4 Adapter
5.5 Prompt Tuning
5.6 Evaluation
5.7 Reinforcement Learning
5.8 Reinforcement Learning Human Feedback (RLHF)
5.9 Implementation of RLHF
5.10 Conclusion
6. DEPLOYMENT OF LLMS
6.1 Challenges and Considerations
6.2 Pre-Deployment Optimization
6.3 Security and Privacy
6.4 Deployment Architectures
6.5 Scalability and Load Balancing
6.6 Compliance and Ethics Review
6.7 Model Versioning and Updates
6.8 LLM-Powered Applications
6.9 Vector Database
6.10 LangChain
6.11 Chatbot, Example of LLM-Powered Application
6.12 WebUI, Example of LLM-Power Application
6.13 Future Trends and Challenges
6.14 Conclusion
INDEX
REFERENCES
ABOUT THE AUTHOR

"Riassunto" può appartenere a un’altra edizione di questo titolo.

PBShop.store US

Wood Dale, IL, U.S.A.

Venditore con 5 stelle

Venditore AbeBooks dal 7 aprile 2005

Tariffe di spedizione nazionale per U.S.A.

Articolo	Da 7 a 14 giorni lavorativi	Da 7 a 14 giorni lavorativi
Primo articolo	EUR 0,00	EUR 0,00

I tempi di consegna sono stabiliti dai venditori e variano in base al corriere e al paese. Gli ordini che devono attraversare una dogana possono subire ritardi e spetta agli acquirenti pagare eventuali tariffe o dazi associati. I venditori possono contattarti in merito ad addebiti aggiuntivi dovuti a eventuali maggiorazioni dei costi di spedizione dei tuoi articoli.

Metodi di pagamento

Descrizione dello Store

We first started out as “The Paperback Exchange,” a chain of physical bookstores where we would part exchange your beloved books for new stories to transport you to faraway places. However, as shopping started to evolve to online shops and marketplaces, we bid our stores goodbye to become “PBShop.” This transition has only allowed us to blossom as we now ship thousands of titles to book lovers across the globe. We pride ourselves in being a community of local book lovers which allows our passion and devotion to shine in everything we do. In 2020 we not only celebrated our 20th birthday but our 1st birthday as being completely employee owned after becoming an E.O.T in September 2019. We are proud to be different and embrace standing apart on a book mountain by working from a virtual inventory which allows us to provide thousands of books that may be difficult to get for your bookshelf or your studies. Working with a number of different suppliers allows us to explore other avenues such as puzzles, sheet music and even stationery so we really do have something for everyone. Life is about being versatile in all realms of existence. If this is your first visit or you are a returning customer, we would like to welcome you to the PBShop family, for there is no friend as loyal as a book. We are a company who put our customers at the centre of everything we do as we understand the importance of reading because once you learn to read, you will forever be free. There are a whole lot of things in this world of ours that we are yet to explore, which is why we will forever inspire curious minds.…

Specializzazione

Hardbacks, Paperbacks

Informazioni sull’azienda del venditore

Pbshop.co.uk Ltd

Unit 22 Horcott Industrial Estate, Horcott Road
Fairford, Regno Unito GL7 4BX

Contatta il venditoreVisualizza gli articoli di questo venditoreVisita la vetrina del venditore

Condizioni di vendita

Returns Policy
We ask all customers to contact us for authorisation should they wish to return their order. Orders returned without authorisation may not be credited.
If you wish to return, please contact us within 14 days of receiving your order to obtain authorisation.

Returns requested beyond this time will not be authorised.

Our team will provide full instructions on how to return your order and once received our returns department will process your refund.
Please note the cost to return any unwanted order to us is borne by the buyer.

Should your order arrive damaged, not as advertised or faulty, we must be advised of this within 14 days of delivery. Please contact us so we can find the best solution for you.

Our Customer Care Team can be contacted via emailing paperback-us@paperbackshop.co.uk, or by calling our UK Office on +441285 712 917. We are available 9:00am till 5:30pm GMT weekdays and 9:00am till 1:00pm GMT on Saturdays.

Diritto di recesso

Se sei un consumatore puoi recedere dal contratto in conformità con quanto segue. Per Consumatore si intende qualsiasi persona fisica che agisce per scopi estranei alla propria attività commerciale, imprenditoriale, artigianale o professionale.

Informazioni sul diritto di recesso

Diritto legale di recesso

Hai il diritto di recedere dal presente contratto entro 14 giorni senza fornire alcuna motivazione.

Il periodo di recesso scade dopo 14 giorni dal giorno in cui tu o una terza parte, diversa dal vettore e da te indicata, acquisisce il possesso fisico dell'ultimo bene o dell'ultimo lotto o pezzo.

Per esercitare il diritto di recesso, compila e invia elettronicamente una dichiarazione esplicita sul nostro sito Web, alla voce “I miei acquisti” nella sezione “Mio account”. Ti comunicheremo senza indugio una conferma di ricezione di tale recesso su un supporto durevole (ad es. via e-mail).

Per rispettare il termine di recesso, è sufficiente inviare la comunicazione relativa all'esercizio del diritto di recesso prima della scadenza del periodo di recesso stesso.

Effetti del recesso

In caso di recesso dal presente contratto, ti rimborseremo tutti i pagamenti ricevuti, compresi i costi di spedizione (ad eccezione dei costi supplementari derivanti dalla tua eventuale scelta di un tipo di spedizione diverso dal tipo meno costoso di consegna standard da noi offerto).

Potremo effettuare una detrazione dal rimborso per la perdita di valore dei beni forniti, qualora tale perdita sia il risultato di una manipolazione non necessaria da parte tua.

Eseguiremo il rimborso senza indebito ritardo e non oltre 14 giorni dal giorno in cui saremo informati della tua decisione di recedere dal presente contratto.

Il rimborso sarà effettuato utilizzando lo stesso mezzo di pagamento da te usato per la transazione iniziale, salvo che tu non abbia espressamente concordato altrimenti; in ogni caso, non dovrai sostenere alcun costo quale conseguenza di tale rimborso.

Possiamo trattenere il rimborso finché non avremo ricevuto i beni oppure finché non avrai fornito la prova di averli rispediti, a seconda di quale condizione si verifichi per prima.

Dovrai rispedire i beni o consegnarli a PBShop.store US, Springfield Gardens, New York, U.S.A., +44 1285 712917, senza indebito ritardo e, in ogni caso, entro 14 giorni dal giorno in cui ci hai comunicato la tua volontà di recedere dal presente contratto. Il termine è rispettato se rispedisci i beni prima della scadenza del periodo di 14 giorni. I costi diretti della restituzione dei beni saranno a tuo carico. Sei responsabile solo della diminuzione del valore dei beni risultante da una manipolazione diversa da quella necessaria per stabilire la natura, le caratteristiche e il funzionamento dei beni stessi.

Eccezioni al diritto di recesso

Il diritto di recesso non si applica a:

La fornitura di giornali, periodici o riviste ad eccezione dei contratti di abbonamento; e
La fornitura di contenuto digitale non fornito su un supporto materiale (ad es. su un CD o DVD), se al momento dell'invio dell'ordine hai accettato l'inizio dell'esecuzione e hai riconosciuto che non avresti potuto recedere una volta iniziata l'esecuzione.

Condizioni di spedizione

Books are shipped from our US or UK warehouses. Delivery estimates allow for delivery from either location.

Demystifying Large Language Models

Descrizione dell’articolo da parte del venditore

Dati bibliografici

Riassunto

Table of Contents