Episode 15: Transformers - האבולוציה של ניתוח סדרות בזמן

Episode 15 March 02, 2021 00:19:31
Episode 15: Transformers - האבולוציה של ניתוח סדרות בזמן
Amlek.AI: ML & AI Podcast
Episode 15: Transformers - האבולוציה של ניתוח סדרות בזמן

Mar 02 2021 | 00:19:31

/

Hosted By

Ariel Munafo

Show Notes

בפרק זה, נסקור את ההשתלשלות של ניתוח סדרות בזמן החל מ-RNN, דרך Attention Models ועד ל-Transformers.
נדבר על Self Attention, Multi Headed Attention, LSTM, RNN, GRU, Transformers ו-DeTR.

קישורים רלוונטיים:

Other Episodes

Episode 12

January 19, 2021 00:15:13
Episode Cover

Episode 12: Gaussian process regression/ Kriging

בפרק זה נדבר על שיטת רגרסיה, שנקראת Kriging או Gaussian process regression - שיטה בייסיאנית שהחלה במטרה לאתר מכרות זהב. נדבר על מושגי מבוא,...

Listen

Episode 9

December 09, 2020 00:18:06
Episode Cover

Episode 9: Adversarial Training - איך לבלבל מודלים?

בפרק זה, נדבר על Adversarial Attacks, על איך מייצרים Adversarial Examples בשיטת FGSM, על התקפות White or Black box models ונזכיר Certifiable Robustness. FGSM...

Listen

Episode 1

August 19, 2020 00:21:00
Episode Cover

Episode 01: The Lottery Ticket Hypothesis

בפרק זה, נעסוק ב-Neural Network Pruning, כאשר נתקמד בפרט במאמר פורץ דרך מ2019, שנקרא "THE LOTTERY TICKET HYPOTHESIS: FINDING SPARSE TRAINABLE NEURAL NETWORKS", מבית...

Listen