Episode 01: The Lottery Ticket Hypothesis

Episode 1 • August 19, 2020 • 00:21:00
Episode 01: The Lottery Ticket Hypothesis
Amlek.AI: ML & AI Podcast
Episode 01: The Lottery Ticket Hypothesis

Aug 19 2020 | 00:21:00

/

Hosted By

Ariel Munafo

Show Notes

בפרק זה, נעסוק ב-Neural Network Pruning, כאשר נתקמד בפרט במאמר פורץ דרך מ2019, שנקרא "THE LOTTERY TICKET HYPOTHESIS: FINDING SPARSE TRAINABLE NEURAL NETWORKS", מבית היוצר של MIT.

במאמר זה, מציעים דרך מעניינת לקצץ רשת גדולה במעל 80% מהמשקלים שלה בצורה כזו שהביצועים (ה-accuracy) לא ייפגעו. קישורים שהוזכרו בפרק:

Other Episodes

Episode 11

January 05, 2021 • 00:14:42
Episode Cover

Episode 11: Curriculum Learning - תכניות אימון למודלים

בפרק זה נעסוק בתחום ה-Curriculum Learning - מה זה ולמה זה טוב? איך מסדרים בסדר מוצלח יותר את דוגמאות האימון ולפי אילו מדדים? בשיחה,...

Listen

Episode 6

October 28, 2020 • 00:22:22
Episode Cover

Episode 06: (XAI) פרשנות מודלים

בפרק זה נעסוק באיך מפרשים מודלים ואיך מבינים את ההחלטות שלהם. תחום רחב זה נקרא Explainable artificial intelligence או Interpretable machine learning. בפרק נעסוק...

Listen

Episode 15

March 02, 2021 • 00:19:31
Episode Cover

Episode 15: Transformers - האבולוציה של ניתוח סדרות בזמן

בפרק זה, נסקור את ההשתלשלות של ניתוח סדרות בזמן החל מ-RNN, דרך Attention Models ועד ל-Transformers.נדבר על Self Attention, Multi Headed Attention, LSTM, RNN,...

Listen