Episode 06: (XAI) פרשנות מודלים

Episode 6 October 28, 2020 00:22:22
Episode 06: (XAI) פרשנות מודלים
Amlek.AI: ML & AI Podcast
Episode 06: (XAI) פרשנות מודלים
/

Hosted By

Ariel Munafo

Show Notes

בפרק זה נעסוק באיך מפרשים מודלים ואיך מבינים את ההחלטות שלהם. תחום רחב זה נקרא Explainable artificial intelligence או Interpretable machine learning. בפרק נעסוק בטכניקות השונות שיש בתחום ובפרט ב ZF-NET, DeepDream, GradCam, Lime, Shap.

קישורים רלוונטיים:

Episode Transcript

No transcript available...

Other Episodes

Episode 11

January 05, 2021 00:14:42
Episode Cover

Episode 11: Curriculum Learning - תכניות אימון למודלים

בפרק זה נעסוק בתחום ה-Curriculum Learning - מה זה ולמה זה טוב? איך מסדרים בסדר מוצלח יותר את דוגמאות האימון ולפי אילו מדדים? בשיחה, נדבר על המרכיבים המקובלים - scoring ו-pacing, ועל מתודולוגית Teacher-Student. קישורים רלוונטיים: Curriculum learning מאמר ראשון בנושא (Elman) Curriculum for Reinforcement Learning Teacher-Student Curriculum Learning  On The Power of Curriculum Learning in Training Deep Networks   ...

Listen

Episode 17

April 07, 2021 00:16:22
Episode Cover

Episode 17: Models Discrimination

בפרק זה, נארח את אופיר יוקטן - שמתעסק בניבוי התאמה של קורות חיים. אופיר יציג כיצד הוא מתמודד עם מודלים מפלים על רקע מגדרי\גזעני. נעסוק בשיטות להתמודדות עם הבעיה הזו: העלמת או הינדוס פיצ'רים, אימון עם Database מאוזן, ושיטת Gradient reversal layer. קישורים:  "What is Adverse Impact? And Why Measuring It Matters." 26 Mar. 2018, https://www.hirevue.com/blog/hiring/what-is-adverse-impact-and-why-measuring-it-matters. Accessed 15 Dec. 2020.  "Bias in Natural Language Processing (NLP): A Dangerous But ...." 1 Sep. 2020, https://towardsdatascience.com/bias-in-natural-language-processing-nlp-a-dangerous-but-fixable-problem-7d01a12cf0f7. Accessed 15 Dec. 2020.  "Adversarial Removal of Demographic Attributes from Text Data." 20 Aug. 2018, https://arxiv.org/abs/1808.06640.  "Unsupervised Domain Adaptation by Backpropagation." 26 Sep. 2014, https://arxiv.org/abs/1409.7495.  ...

Listen

Episode 2

September 02, 2020 00:22:34
Episode Cover

Episode 02: Reinforcement Learning - Introduction

בפרק זה נדבר על למידה חיזוקית - Reinforcement Learning. נדבר על מושגי היסוד בתחום (environment, state, policy, agent, reward), על סיווג של התחום הזה ב-Machine Learning, על למה זה נהיה מאוד פופולארי, על הקשיים בתחום ועל דילמת ה-Exploration - Exploitation. קישורים שהוזכרו: שיתוף פעולה בין סוכנים במשחק המחבואים שיתוף פעולה בין סוכנים במשחק תפוס את הדגל סדרת הרצאות של David Silver Agent57 - מודל אחד שמשחק ברמה אנושית ב 57 משחקים BRETT- הרובוט שמרכיב לגו MuJoCo מנוע המדמה את חוקי הפיסיקה ...

Listen