Cantitate/Preț
Produs
Total produse
Vezi coșul
Llms in Production de Christopher Brousseau

Llms in Production

Autor Christopher Brousseau, Matt Sharp
en Limba Engleză Paperback – 11 feb 2025

STRUCTURA progresivă: de la concept la implementare ghidează cititorul prin aspectele tehnice riguroase ale integrării modelelor de limbaj mari în medii de producție reale. Considerăm că valoarea centrală a acestei lucrări publicate de Manning Publications constă în trecerea dincolo de discuțiile academice, axându-se strict pe stratul de aplicații al modelelor fundamentale și pe livrarea de fluxuri MLOps eficiente. Merită menționat că volumul abordează provocările practice legate de costuri, standarde de date și limitări hardware. Autorii detaliază tehnici esențiale precum ajustarea fină (fine-tuning), utilizarea PEFT și LoRA pentru eficientizarea antrenării, precum și optimizarea pentru hardware de larg consum sau rularea pe clustere Kubernetes. Prin cele 456 de pagini, ritmul textului este tehnic și aplicat, oferind exemple bogate în cod pentru inginerii de date și specialiștii în machine learning. Ca și Bhawna Singh în Building Applications with Large Language Models, autorii distilează experiență reală în principii acționabile. Totuși, în timp ce Singh analizează arhitecturi diverse precum PaLM și GPT, Christopher Brousseau și Matt Sharp pun accentul pe execuția tehnică a trei proiecte de referință. Putem afirma că parcurgerea etapelor de reimplementare a Llama 3, dezvoltarea unei extensii de cod pentru VS Code folosind RAG și livrarea unui model pe un dispozitiv Raspberry Pi oferă o perspectivă unică asupra ciclului de viață al unei aplicații AI. Considerăm această carte un ghid de inginerie indispensabil pentru trecerea de la prototip la sisteme stabile și sigure în cloud sau la nivel de edge computing.

Citește tot Restrânge

Preț: 33781 lei

Preț vechi: 42226 lei
-20%

Puncte Express: 507

Carte disponibilă

Livrare economică 26 octombrie-09 noiembrie

Livrare prin curier în România Termenul estimat este afișat lângă disponibilitate.
Transport gratuit de la 40000 lei Plată online sau ramburs, în funcție de opțiunile comenzii.
Retur gratuit în 14 zile Comandă securizată și suport în română.
 Adaugă în coș

Wish list
Gift list
Am citit!
Adaugă în listă

Specificații

ISBN-13: 9781633437203
ISBN-10: 1633437205
Pagini: 456
Dimensiuni: 184 x 233 x 24 mm
Greutate: 0.76 kg
Editura: Manning Publications

De ce să citești această carte

Recomandăm această carte în format paperback inginerilor de machine learning și cercetătorilor de date care stăpânesc limbajul Python. Cititorul câștigă strategii concrete pentru reducerea costurilor de rulare și optimizarea performanței prin tehnici precum LoRA și RLHF. Este o resursă esențială pentru cei care doresc să implementeze aplicații AI bazate pe LLM direct în producție, evitând eșecurile operaționale costisitoare.

Despre autor

Christopher Brousseau și Matt Sharp sunt ingineri cu o vastă experiență practică în domeniu, remarcându-se prin coordonarea a numeroase proiecte de succes ce au implicat implementarea la scară largă a modelelor de limbaj mari (LLM). Expertiza lor directă din industrie se reflectă în abordarea pragmatică a cărții, axată pe rezolvarea problemelor reale de infrastructură, optimizarea costurilor de calcul și arhitecturi MLOps. Adaptându-și cunoștințele pentru publicul tehnic, autorii oferă soluții testate în producție, transformând concepte teoretice complexe în ghiduri de implementare fiabile pentru inginerii AI contemporani.

Notă biografică

Christopher Brousseau is a Staff MLE at JPMorganChase with a linguistics and localization background. He specializes in linguistically-informed NLP, especially with an international focus and has led successful ML and Data product initiatives at both startups and Fortune 500s.

Descriere scurtă

Goes beyond academic discussions deeply into the applications layer of Foundation Models.

This practical book offers clear, example-rich explanations of how LLMs work, how you can interact with them, and how to integrate LLMs into your own applications. Find out what makes LLMs so different from traditional software and ML, discover best practices for working with them out of the lab, and dodge common pitfalls with experienced advice.

This book complements Sebastian Raschka’s Build a Large Language Model (From Scratch), which focuses on building and understanding LLMs from the ground up, by extending that foundation into real-world production—covering integration, cost-efficient training, and model evaluation.

In LLMs in Production you will:
  • Grasp the fundamentals of LLMs and the technology behind them
  • Evaluate when to use a premade LLM and when to build your own
  • Efficiently scale up an ML platform to handle the needs of LLMs
  • Train LLM foundation models and finetune an existing LLM
  • Deploy LLMs to the cloud and edge devices using complex architectures like PEFT and LoRA
  • Build applications leveraging the strengths of LLMs while mitigating their weaknesses
LLMs in Production delivers vital insights into delivering MLOps so you can easily and seamlessly guide one to production usage. Inside, you’ll find practical insights into everything from acquiring an LLM-suitable training dataset, building a platform, and compensating for their immense size. Plus, tips and tricks for prompt engineering, retraining and load testing, handling costs, and ensuring security.

Foreword by Joe Reis.

About the technology

Most business software is developed and improved iteratively, and can change significantly even after deployment. By contrast, because LLMs are expensive to create and difficult to modify, they require meticulous upfront planning, exacting data standards, and carefully-executed technical implementation. Integrating LLMs into production products impacts every aspect of your operations plan, including the application lifecycle, data pipeline, compute cost, security, and more. Get it wrong, and you may have a costly failure on your hands.

About the book

LLMs in Production teaches you how to develop an LLMOps plan that can take an AI app smoothly from design to delivery. You’ll learn techniques for preparing an LLM dataset, cost-efficient training hacks like LORA and RLHF, and industry benchmarks for model evaluation. Along the way, you’ll put your new skills to use in three exciting example projects: creating and training a custom LLM, building a VSCode AI coding extension, and deploying a small model to a Raspberry Pi.

What's inside
  • Balancing cost and performance
  • Retraining and load testing
  • Optimizing models for commodity hardware
  • Deploying on a Kubernetes cluster
About the reader

For data scientists and ML engineers who know Python and the basics of cloud deployment.

About the author

Christopher Brousseau and Matt Sharp are experienced engineers who have led numerous successful large scale LLM deployments.

Table of Contents

1 Generative AI: Why large language models have captured attention
2 Large language models: A deep dive into language modeling
3 Large language model operations: Building a platform for LLMs
4 Data engineering for large language models: Setting up for success
5 Training large language models: How to generate the generator
6 Large language model services: A practical guide
7 Prompt engineering: Becoming an LLM whisperer
8 Applications and Agents: Building an interactive experience
9 Creating an LLM project: Reimplementing Llama 3
10 Creating a coding copilot project: Integrating an LLM service into VS Code with RAG
11 Deploying an LLM on a Raspberry Pi: How low can you go?
12 Production, an ever-changing landscape: Things are just getting started
A History of linguistics
B Reinforcement learning with human feedback
C Multimodal latent spaces

Descriere

Learn how to put Large Language Model-based applications into production safely and efficiently.