Episode 15: Transformers - האבולוציה של ניתוח סדרות בזמן

Episode 15 March 02, 2021 00:19:31
Episode 15: Transformers - האבולוציה של ניתוח סדרות בזמן
Amlek.AI: ML & AI Podcast
Episode 15: Transformers - האבולוציה של ניתוח סדרות בזמן

Mar 02 2021 | 00:19:31

/

Hosted By

Ariel Munafo

Show Notes

בפרק זה, נסקור את ההשתלשלות של ניתוח סדרות בזמן החל מ-RNN, דרך Attention Models ועד ל-Transformers.
נדבר על Self Attention, Multi Headed Attention, LSTM, RNN, GRU, Transformers ו-DeTR.

קישורים רלוונטיים:

Other Episodes

Episode 11

January 05, 2021 00:14:42
Episode Cover

Episode 11: Curriculum Learning - תכניות אימון למודלים

בפרק זה נעסוק בתחום ה-Curriculum Learning - מה זה ולמה זה טוב? איך מסדרים בסדר מוצלח יותר את דוגמאות האימון ולפי אילו מדדים? בשיחה,...

Listen

Episode 1

August 19, 2020 00:21:00
Episode Cover

Episode 01: The Lottery Ticket Hypothesis

בפרק זה, נעסוק ב-Neural Network Pruning, כאשר נתקמד בפרט במאמר פורץ דרך מ2019, שנקרא "THE LOTTERY TICKET HYPOTHESIS: FINDING SPARSE TRAINABLE NEURAL NETWORKS", מבית...

Listen

Episode 17

April 07, 2021 00:16:22
Episode Cover

Episode 17: Models Discrimination

בפרק זה, נארח את אופיר יוקטן - שמתעסק בניבוי התאמה של קורות חיים. אופיר יציג כיצד הוא מתמודד עם מודלים מפלים על רקע מגדרי\גזעני....

Listen