Episode 01: The Lottery Ticket Hypothesis

Episode 1 August 19, 2020 00:21:00
Episode 01: The Lottery Ticket Hypothesis
Amlek.AI: ML & AI Podcast
Episode 01: The Lottery Ticket Hypothesis

Aug 19 2020 | 00:21:00

/

Hosted By

Ariel Munafo

Show Notes

בפרק זה, נעסוק ב-Neural Network Pruning, כאשר נתקמד בפרט במאמר פורץ דרך מ2019, שנקרא "THE LOTTERY TICKET HYPOTHESIS: FINDING SPARSE TRAINABLE NEURAL NETWORKS", מבית היוצר של MIT.

במאמר זה, מציעים דרך מעניינת לקצץ רשת גדולה במעל 80% מהמשקלים שלה בצורה כזו שהביצועים (ה-accuracy) לא ייפגעו. קישורים שהוזכרו בפרק:

Other Episodes

Episode 12

January 19, 2021 00:15:13
Episode Cover

Episode 12: Gaussian process regression/ Kriging

בפרק זה נדבר על שיטת רגרסיה, שנקראת Kriging או Gaussian process regression - שיטה בייסיאנית שהחלה במטרה לאתר מכרות זהב. נדבר על מושגי מבוא,...

Listen

Episode 15

March 02, 2021 00:19:31
Episode Cover

Episode 15: Transformers - האבולוציה של ניתוח סדרות בזמן

בפרק זה, נסקור את ההשתלשלות של ניתוח סדרות בזמן החל מ-RNN, דרך Attention Models ועד ל-Transformers.נדבר על Self Attention, Multi Headed Attention, LSTM, RNN,...

Listen

Episode 4

September 30, 2020 00:16:39
Episode Cover

Episode 04: All Multi's

בפרק זה נדבר על כל ה-Multi's וננסה לעשות סדר במושגים שנוטים לבלבל: multi class classification, multi label classification, multi task learning, Multi objective, Multiple...

Listen