Machine Learning

اگر دنبال یک منبع متفاوت برای یادگیری عمیق ماشین‌لرنینگ هستی، این کتاب «یادگیری ماشین: رویکرد مبتنی بر محدودیت» (ویرایش دوم) واقعاً حرف‌های تازه‌ای برای گفتن داره.

برخلاف اکثر کتاب‌ها که فقط فرمول‌ها رو میریزن وسط، این کتاب اومده همه مفاهیم پایه مثل شبکه‌های عصبی و ماشین‌های کرنی (Kernel Machines) رو با یک نگاه یکپارچه بررسی کرده. ایده اصلیش هم اینه که یادگیری رو بر اساس «محدودیت‌های محیطی» (Environmental Constraints) تعریف می‌کنه. جذابیت ماجرا اینجاست که برای ادغام منطق با یادگیری ماشین، از منطق‌های چندمقداری مثل سیستم‌های فازی استفاده کرده که باعث می‌شه مباحث Deep Learning خیلی تمیز و منطقی توی این چارچوب جا بیفتن.

یک نکته باحال دیگه برای ما فنی‌ها: کتاب مفهوم «Regularization» رو خیلی ساده و در راستای اصل پارسیمونی (کم‌گزینی) توضیح داده. تمرین‌هاش هم طبق رتبه‌بندی «دونالد کِنوث» دسته‌بندی شده؛ یعنی از گرم‌کردن ساده شروع می‌شه تا چالش‌های عمیق پژوهشی. تازه یک شبیه‌ساز نرم‌افزاری هم داره که می‌تونی ایده‌ها رو باهاش تست کنی.

📋 سرفصل‌های کتاب:

1. تصویر کلی (نقشه راه)
2. اصول و مبانی یادگیری
3. ماشین‌های آستانه خطی
4. ماشین‌های کرنل
5. معماری‌های عمیق (Deep Architectures)
6. یادگیری با استفاده از محدودیت‌ها
7. موخره و جمع‌بندی
8. پاسخنامه تمرین‌ها

• پیوست الف: بهینه‌سازی مقید
• پیوست ب: اپراتورهای منظم‌سازی (Regularization)
• پیوست ج: حساب تغییرات
• پیوست د: شاخص نمادگذاری‌ها

🧑‍💼درباره نویسندگان

پروفسور گوری، پژوهش‌های پروفسور گوری بر حوزه هوش مصنوعی، با تمرکز ویژه بر یادگیری ماشین و بازی‌های کامپیوتری متمرکز است. او یکی از نویسندگان کتاب «اژدهایان وب: درون افسانه‌های فناوری‌های موتور جستجو» (انتشارات مورگان کافمن، ۲۰۰۷) است. وی پیش از این ریاست شاخه ایتالیایی انجمن هوش محاسباتی IEEE و همچنین ریاست انجمن هوش مصنوعی ایتالیا را بر عهده داشته است. نام او در فهرست برترین دانشمندان ایتالیایی (آکادمی VIA) قرار دارد و از اعضای برجسته (Fellow) انجمن‌های معتبر IEEE ،ECCAI و IAPR به شمار می‌رود.

دکتر آلساندرو بتی، پژوهشگر پسادکتری در دانشکده مهندسی اطلاعات و ریاضیات (DIISM) دانشگاه سیه‌نا در ایتالیا است. زمینه‌های مورد علاقه او شامل تحلیل الگوریتم‌ها، ریاضیات گسسته، ساختارهای درختی و تدوین «قوانین یادگیری» بر اساس اصولی مشابه «اصل کمترین کنش» (Least Action) در فیزیک می‌باشد.

دکتر استفانو ملاچی، پژوهشگر ارشد و استاد یار (در مسیر رسمی استخدام) علوم کامپیوتر در دانشکده مهندسی اطلاعات و ریاضیات دانشگاه سیه‌نا است. وی سابقه مدیریت تحقیق در شرکت ایتالیایی QuestIT را در کارنامه دارد و مدارک دکترا و کارشناسی ارشد (با درجه ممتاز) خود را از دانشگاه سیه‌نا دریافت کرده است. او از سال ۲۰۱۷ به عنوان دبیر تحریریه (Associate Editor) مجله معتبر “IEEE Transactions on Neural Networks and Learning Systems” فعالیت می‌کند و از داوران فعال مجلات و کنفرانس‌های بین‌المللی است.

تخصص و فعالیت‌های پژوهشی: پروفایل علمی او به شدت با فعالیت‌های پژوهشی در حوزه‌های یادگیری ماشین و به طور کلی هوش مصنوعی گره خورده است. فعالیت‌های اخیر او عبارتند از:

• توسعه فناوری‌های نوین برای سیستم‌های گفتگومحور (Conversational Systems) مبتنی بر یادگیری ماشین.
• مطالعه و پیشنهاد معماری‌های چندلایه (شبکه‌های عمیق) برای استخراج اطلاعات از تصاویر و ویدئوها با استفاده از فیلترهای کانولوشن تطبیقی و اصول نظریه اطلاعات.
• پژوهش در زمینه «ماشین‌های هسته» (Kernel Machines) و «نظریه منظم‌سازی» (Regularization Theory) در قالب چارچوب یکپارچه یادگیری از طریق محدودیت؛ رویکردی که اجازه می‌دهد مدل‌های یادگیری کلاسیک با بازنمایی‌های دانش نمادین ترکیب شوند.
• ارائه الگوریتم‌های منظم‌سازی منیفولد (Manifold Regularization) و شبکه‌های عصبی برای پیاده‌سازی معیارهای شباهت با کاربرد در بینایی ماشین.

Machine Learning: A Constraint-Based Approach, Second Edition provides readers with a refreshing look at the basic models and algorithms of machine learning, with an emphasis on current topics of interest that include neural networks and kernel machines. The book presents the information in a truly unified manner that is based on the notion of learning from environmental constraints. It draws a path towards deep integration with machine learning that relies on the idea of adopting multivalued logic formalisms, such as in fuzzy systems. Special attention is given to deep learning, which nicely fits the constrained-based approach followed in this book.

The book presents a simpler unified notion of regularization, which is strictly connected with the parsimony principle, including many solved exercises that are classified according to the Donald Knuth ranking of difficulty, which essentially consists of a mix of warm-up exercises that lead to deeper research problems. A software simulator is also included.

• Presents, in a unified manner, fundamental machine learning concepts, such as neural networks and kernel machines
• Provides in-depth coverage of unsupervised and semi-supervised learning, with new content in hot growth areas such as deep learning
• Includes a software simulator for kernel machines and learning from constraints that also covers exercises to facilitate learning
• Contains hundreds of solved examples and exercises chosen particularly for their progression of difficulty from simple to complex
• Supported by a free, downloadable companion book designed to facilitate students’ acquisition of experimental skills

Table of Contents

Chapter 1. The big picture

Chapter 2. Learning-principles

Chapter 3. Linear-threshold-machines

Chapter 4. Kernel-machines

Chapter 5. Deep-architectures

Chapter 6. Learning-with-constraints

Chapter 7. Epilogue

Chapter 8. Answers-to-exercises

Appendix A. Constrained-optimization

Appendix B. Regularization-operators

Appendix C. Calculus-of-variations

Appendix D. Index-to-notation

About the Author

Professor Gori’s research interests are in the field of artificial intelligence, with emphasis on machine learning and game playing. He is a co-author of the book “Web Dragons: Inside the myths of search engines technologies, Morgan Kauffman (Elsevier), 2007. He was the Chairman of the Italian Chapter of the IEEE Computational Intelligence Society, and the President of the Italian Association for Artificial Intelligence. He is in the list of top Italian scientists kept by VIAAcademy

(http://www.topitalianscientists.org/top_italian_scientists.aspx). Dr. Gori is a fellow of the IEEE, ECCAI, and IAPR.

Alessandro Betti Ph.D. is a Postdoctoral Researcher in the Department of Information Engineering and Mathematics (DIISM) of the University of Siena (Siena, Italy). Dr. Betti’s interests include analysis of algorithms, discrete mathematics, tree structures, and formulation of “learning laws” through least action like principles.

Stefano Melacci Ph.D. is a Senior Researcher (Tenure-Track Assistant Professor) in the area of Computer Science at the Department of Information Engineering and Mathematics, University of Siena (Siena, Italy). He has been the Research Manager of the Italian company QuestIT S.r.l. (Siena, Italy) and a Research Fellow of the Department of Information Engineering and Mathematics, University of Siena, where he received his PhD (2010), and the M.S. Degree (cum Laude). Since 2017 he has served as Associate Editor for the IEEE Transactions on Neural Networks and Learning Systems, and he is an active reviewer for several journals and international conferences.

His profile is strongly characterized by research activity in the fields of Machine Learning and, more generally, Artificial Intelligence. Recently, he has been working on new technologies for Machine Learning-based Conversational Systems and he studied and proposed Multi-Layer architectures (Deep Networks) for extracting information from static images and videos, using adaptive convolutional filters and principles from Information Theory. He previously worked in the context of Kernel Machines and Regularization Theory, under the unifying framework of Learning from Constraints that allows classic learning models to integrate symbolic knowledge representations. He proposed Manifold Regularization-based algorithms and Neural Networks that implement Similarly Measures, with applications to Computer Vision.