AI Engineering

💻 پیشرفت‌های اخیر در هوش مصنوعی نه تنها تقاضا برای محصولات هوش مصنوعی رو افزایش داده، بلکه موانع ورود رو برای کسانی که می‌خواهند این محصولات رو بسازند، کاهش داده است. رویکرد «مدل به عنوان سرویس» (Model-as-a-Service)، هوش مصنوعی رو از یک رشته تخصصی و انحصاری به یک ابزار توسعه قدرتمند تبدیل کرده که هر کسی میتونه ازش استفاده کنه. اکنون همه، از جمله کسانی که حداقل تجربه یا هیچ تجربه قبلی در هوش مصنوعی ندارند، می‌توانند از مدل‌های هوش مصنوعی برای ساخت اپلیکیشن‌ها بهره ببرند. در این کتاب، چیپ هوین، نویسنده کتاب، درباره مهندسی هوش مصنوعی صحبت میکنه: فرآیند ساخت اپلیکیشن‌ها با مدل‌های پایه (Foundation Models) آماده و موجود.

📚 کتاب با مروری بر مهندسی هوش مصنوعی شروع میشه، توضیح میده که این رشته چه تفاوتی با مهندسی یادگیری ماشین (ML) سنتی داره و استک جدید هوش مصنوعی رو بررسی میکنه. هر چه بیشتر از هوش مصنوعی استفاده بشه، فرصت‌های بیشتری برای خطاهای فاجعه‌بار به وجود میاد و بنابراین، ارزیابی اهمیت بیشتری پیدا میکنه. این کتاب رویکردهای مختلف برای ارزیابی مدل‌های باز (Open-ended) رو بررسی میکنه، از جمله رویکرد به شدت در حال رشد «هوش مصنوعی به عنوان قاضی» (AI-as-a-judge).

🛠️ توسعه‌دهندگان اپلیکیشن‌های هوش مصنوعی کشف خواهند کرد که چطور در چشم‌انداز هوش مصنوعی، از جمله مدل‌ها، دیتاست‌ها، بنچمارک‌های ارزیابی و تعداد بی‌شمار یوزکیس‌ها و پترن‌های اپلیکیشن ناوبری کنند. شما چارچوبی رو برای توسعه یک اپلیکیشن هوش مصنوعی یاد میگیرید که از تکنیک‌های ساده شروع میشه و به سمت روش‌های پیچیده‌تر پیش میره، و کشف میکنید که چطور این اپلیکیشن‌ها رو به طور کارآمد دپلوی کنید.

⚙️ درک اینکه مهندسی هوش مصنوعی چیست و چه تفاوتی با مهندسی یادگیری ماشین سنتی دارد

📈 یادگیری فرآیند توسعه یک اپلیکیشن هوش مصنوعی، چالش‌های هر مرحله و رویکردهای حل آن‌ها

📐 کاوش در تکنیک‌های مختلف تطبیق مدل (Model Adaptation)، از جمله پرامپت انجینیرینگ، RAG، فاین‌تیونینگ، عامل‌ها (Agents) و مهندسی دیتاست، و درک اینکه چطور و چرا کار میکنند

🚀 بررسی گلوگاه‌های تاخیر (Latency) و هزینه هنگام سرویس‌دهی مدل‌های پایه و یادگیری نحوه غلبه بر آن‌ها

📊 انتخاب مدل، دیتاست، بنچمارک‌های ارزیابی و متریک‌های مناسب برای نیازهای خود

💡 چیپ هوین روی شتاب‌دهی تحلیل داده‌ها روی GPUها در شرکت Voltron Data کار میکنه. او پیش از این در Snorkel AI و NVIDIA فعالیت داشته، یک استارتاپ زیرساخت هوش مصنوعی رو تأسیس کرده و درس طراحی سیستم‌های یادگیری ماشین رو در استنفورد تدریس کرده است. او نویسنده کتاب Designing Machine Learning Systems است که یکی از پرفروش‌ترین کتاب‌های آمازون در حوزه هوش مصنوعی به شمار می‌ره. کتاب AI Engineering بر پایه کتاب قبلی او ساخته شده و مکمل اون است.

🗂️ فهرست مطالب

فصل 1. مقدمه‌ای بر ساخت اپلیکیشن‌های هوش مصنوعی با مدل‌های پایه

فصل 2. درک مدل‌های پایه

فصل 3. متدولوژی ارزیابی

فصل 4. ارزیابی سیستم‌های هوش مصنوعی

فصل 5. پرامپت انجینیرینگ

فصل 6. RAG و عامل‌ها

فصل 7. فاین‌تیونینگ

فصل 8. مهندسی دیتاست

فصل 9. بهینه‌سازی اینفرنس (Inference Optimization)

فصل 10. معماری مهندسی هوش مصنوعی و بازخورد کاربران

💬 نظرات برجسته درباره کتاب

«این کتاب یک راهنمای جامع و خوش‌ساخت برای جنبه‌های ضروری ساخت سیستم‌های هوش مصنوعی مولد ارائه میده. خواندن آن برای هر متخصصی که به دنبال مقیاس‌پذیری هوش مصنوعی در سطح سازمان است، الزامی است.»

— ویتوریو کرتلا، مدیر ارشد اطلاعاتی (CIO) سابق در P&G و Mars

«چیپ هوین هوش مصنوعی مولد رو کاملاً درک میکنه. او یک مدرس و نویسنده فوق‌العاده است که آثارش در کمک به تیم‌ها برای بردن هوش مصنوعی به محیط پروداکشن بسیار مؤثر بوده است. با تکیه بر تخصص عمیق او، کتاب AI Engineering یک راهنمای جامع و همه‌جانبه برای ساخت اپلیکیشن‌های هوش مصنوعی مولد در محیط پروداکشن است.»

— لوک متز، از خالقان ChatGPT

«هر مهندس هوش مصنوعی که در حال ساخت اپلیکیشن‌های دنیای واقعی است باید این کتاب رو بخواند. این یک راهنمای حیاتی برای طراحی اندتوانیو سیستم هوش مصنوعی، از توسعه و ارزیابی مدل گرفته تا دپلویمنت و عملیات در مقیاس بزرگ است.»

— آندری لوپاتنکو، مدیر بخش سرچ و هوش مصنوعی در Neuron7

«این کتاب به عنوان یک راهنمای ضروری برای ساخت محصولات هوش مصنوعی مقیاس‌پذیر عمل میکنه. برعکس کتاب‌های دیگه که روی ابزارها یا ترندهای فعلی و در حال تغییر تمرکز میکنند، چیپ دانش پایه‌ای و همیشگی رو دلیور میکنه. چه مدیر محصول باشید و چه مهندس، این کتاب به طور مؤثری شکاف همکاری بین تیم‌های مختلف رو پر میکنه.»

— آیلین بوی، مدیر عملیات محصول هوش مصنوعی در گوگل

«این یک انتقال قطعی به مهندسی هوش مصنوعی از سوی یکی از بزرگان مهندسی یادگیری ماشین است! چیپ پروژه‌ها و مسیرهای شغلی موفقی رو در هر مرحله‌ای از یک شرکت دیده و برای اولین بار تخصص خودش رو برای مهندسان هوش مصنوعی جدیدی که وارد این حوزه میشن، خلاصه کرده است.»

— swyx، کیوریتور و مهندس هوش مصنوعی

👤 درباره نویسنده

👨‍چیپ هوین در نقطه تلاقی هوش مصنوعی، داده و روایت‌گری کار میکنه. او پیش از این در Snorkel AI و NVIDIA حضور داشته، یک استارتاپ زیرساخت هوش مصنوعی رو تأسیس کرده (که خریداری شد)، روی بهینه‌سازی GPU برای پردازش داده کار کرده و درس طراحی سیستم‌های یادگیری ماشین رو در استنفورد تدریس کرده است. آخرین کتاب او، Designing Machine Learning Systems، یکی از پرفروش‌ترین کتاب‌های آمازون در حوزه هوش مصنوعی بوده و به بیش از ۱۰ زبان ترجمه شده است.

Recent breakthroughs in AI have not only increased demand for AI products, they’ve also lowered the barriers to entry for those who want to build AI products. The model-as-a-service approach has transformed AI from an esoteric discipline into a powerful development tool that anyone can use. Everyone, including those with minimal or no prior AI experience, can now leverage AI models to build applications. In this book, author Chip Huyen discusses AI engineering: the process of building applications with readily available foundation models.

The book starts with an overview of AI engineering, explaining how it differs from traditional ML engineering and discussing the new AI stack. The more AI is used, the more opportunities there are for catastrophic failures, and therefore, the more important evaluation becomes. This book discusses different approaches to evaluating open-ended models, including the rapidly growing AI-as-a-judge approach.

AI application developers will discover how to navigate the AI landscape, including models, datasets, evaluation benchmarks, and the seemingly infinite number of use cases and application patterns. You’ll learn a framework for developing an AI application, starting with simple techniques and progressing toward more sophisticated methods, and discover how to efficiently deploy these applications.

• Understand what AI engineering is and how it differs from traditional machine learning engineering
• Learn the process for developing an AI application, the challenges at each step, and approaches to address them
• Explore various model adaptation techniques, including prompt engineering, RAG, fine-tuning, agents, and dataset engineering, and understand how and why they work
• Examine the bottlenecks for latency and cost when serving foundation models and learn how to overcome them
• Choose the right model, dataset, evaluation benchmarks, and metrics for your needs
• Chip Huyen works to accelerate data analytics on GPUs at Voltron Data. Previously, she was with Snorkel AI and NVIDIA, founded an AI infrastructure startup, and taught Machine Learning Systems Design at Stanford. She’s the author of the book Designing Machine Learning Systems, an Amazon bestseller in AI.
• AI Engineering builds upon and is complementary to Designing Machine Learning Systems (O’Reilly).

Table of Contents

Chapter 1. Introduction to Building Al Applications with Foundation Models

Chapter 2. Understanding Foundation Models

Chapter 3. Evaluation Methodology

Chapter 4. Evaluate Al Systems

Chapter 5. Prompt Engineering

Chapter 6. RAG and Agents

Chapter 7. Finetuning

Chapter 8. Dataset Engineering

Chapter 9. Inference Optimization

Chapter 10. Al Engineering Architecture and User Feedback

Review

“This book offers a comprehensive, well-structured guide to the essential aspects of building generative AI systems. A must-read for any professional looking to scale AI across the enterprise.”

—Vittorio Cretella, former global CIO at P&G and Mars

“Chip Huyen gets generative AI. She is a remarkable teacher and writer whose work has been instrumental in helping teams bring AI into production. Drawing on her deep expertise, AI Engineering is a comprehensive and holistic guide to building generative AI applications in production.”

—Luke Metz, co-creator of ChatGPT

“Every AI engineer building real-world applications should read this book. It’s a vital guide to end-to-end AI system design, from model development and evaluation to large-scale deployment and operation.”

—Andrei Lopatenko, Director Search and AI, Neuron7

“This book serves as an essential guide for building AI products that can scale. Unlike other books that focus on tools or current trends that are constantly changing, Chip delivers timeless foundational knowledge. Whether you’re a product manager or an engineer, this book effectively bridges the collaboration gap between cross-functional teams, making it a must-read for anyone involved in AI development.”

—Aileen Bui, AI Product Operations Manager, Google

“This is the definitive segue into AI Engineering from one of the greats of ML Engineering! Chip has seen through successful projects and careers at every stage of a company and for the first time ever condensed her expertise for new AI Engineers entering the field.”

—swyx, Curator, AI Engineer

About the Author

Chip Huyen works in the intersection of AI, data, and storytelling. Previously, she was with Snorkel AI and NVIDIA, founded an AI infrastructure startup (acquired), worked on GPU optimization for data processing, and taught Machine Learning Systems Design at Stanford. Her last book, Designing Machine Learning Systems, is an Amazon bestseller in AI and has been translated into over 10 languages.