LLMs w akcji:

Duże modele językowe (LLM) rewolucjonizują branżę IT, oferując bezprecedensowe możliwości w zakresie przetwarzania języka naturalnego. ChatGPT i podobne rozwiązania pokazały ogromny potencjał tej technologii, ale wdrożenie LLM w środowiskach produkcyjnych to znacznie więcej niż tylko korzystanie z gotowych API. Książka wypełnia lukę między teorią a praktyką, pokazując, jak przekształcić fascynujące demonstracje w działające produkty biznesowe. Stanowi doskonałe uzupełnienie publikacji Sebastiana Raschki Stwórz własne AI. Jak od podstaw zbudować duży model językowy, skupionej na budowaniu i zrozumieniu LLM od podstaw rozszerza tę wiedzę o praktyczne zastosowania w produkcji, w tym integrację, efektywne kosztowo trenowanie modeli i ocenę ich jakości.[JB1.1] Autorzy prowadzą czytelnika przez kompletny proces od wyboru odpowiedniego modelu bazowego, przez przygotowanie danych treningowych i techniki dostrajania, aż po wdrożenie w klastrze Kubernetes. Prezentują przy tym trzy praktyczne projekty: budowę własnego modelu LLM od podstaw, stworzenie rozszerzenia AI dla VS Code i wdrożenie modelu na Raspberry Pi. Szczególny nacisk kładą na aspekty produkcyjne zarządzanie kosztami, bezpieczeństwo, skalowanie i monitorowanie systemów opartych na LLM. W książce: * Kompletny przewodnik po LLMOps * Praktyczne techniki kompresji i optymalizacji (kwantyzacja, LoRA, destylacja wiedzy) * Inżynieria promptów i budowa agentów AI * Implementacja systemów RAG z wektorowymi bazami danych * Zarządzanie infrastrukturą Kubernetes dla aplikacji AI * Bezpieczeństwo, kontrola kosztów i monitorowanie systemów LLM Od teorii do produkcji praktyczny przewodnik po wdrażaniu LLM Recenzje ekspertów: Książka opisuje wszystkie kluczowe aspekty budowania i wdrażania dużych modeli językowych. Obejmuje szczegółowe i fascynujące obszary, pomijane w większości innych publikacji. Andrew Carr, Cartwheel Lektura obowiązkowa dla każdego, kto chce wykorzystać potencjał dużych modeli językowych w środowiskach produkcyjnych. Jepson Taylor, VEOX Inc. Wyjątkowy przewodnik, który upraszcza proces budowy i wdrażania złożonych dużych modeli językowych. Arunkumar Gopalan, Microsoft