Episode 15: Transformers - האבולוציה של ניתוח סדרות בזמן

Episode 15 March 02, 2021 00:19:31
Episode 15: Transformers - האבולוציה של ניתוח סדרות בזמן
Amlek.AI: ML & AI Podcast
Episode 15: Transformers - האבולוציה של ניתוח סדרות בזמן
/

Hosted By

Ariel Munafo

Show Notes

בפרק זה, נסקור את ההשתלשלות של ניתוח סדרות בזמן החל מ-RNN, דרך Attention Models ועד ל-Transformers.
נדבר על Self Attention, Multi Headed Attention, LSTM, RNN, GRU, Transformers ו-DeTR.

קישורים רלוונטיים:

Other Episodes

Episode 8

November 25, 2020 00:23:57
Episode Cover

Episode 8: הורדת מימדים

בפרק זה נדבר על הורדת מימדים - Dimensionality reduction. נעסוק במוטיבציות (קללת המימדים), ובאלגוריתמים PCA, T-SNE, AutoEncoders, SOM. קישורים רלוונטיים: https://onlinecourses.science.psu.edu/stat505/lesson/11 https://distill.pub/2016/misread-tsne/ ...

Listen

Episode 6

October 28, 2020 00:22:22
Episode Cover

Episode 06: (XAI) פרשנות מודלים

בפרק זה נעסוק באיך מפרשים מודלים ואיך מבינים את ההחלטות שלהם. תחום רחב זה נקרא Explainable artificial intelligence או Interpretable machine learning. בפרק נעסוק בטכניקות השונות שיש בתחום ובפרט ב ZF-NET, DeepDream, GradCam, Lime, Shap. קישורים רלוונטיים: ספר אונלייני Visualizing CNN ZFNet - Visualizing and Understanding Convolutional Networks DeepDream Lime GradCam DeepLift Shap ...

Listen

Episode 12

January 19, 2021 00:15:13
Episode Cover

Episode 12: Gaussian process regression/ Kriging

בפרק זה נדבר על שיטת רגרסיה, שנקראת Kriging או Gaussian process regression - שיטה בייסיאנית שהחלה במטרה לאתר מכרות זהב. נדבר על מושגי מבוא, כמו: משתנה אקראי גאוסי ותהליך אקראי גאוסי, ועל משפט הגאוסיאני המותנה. קישורים רלוונטיים: https://www.math.univ-toulouse.fr/~fbachoc/LRC_Manon_2014.pdf Pydata nyc workshop on GPR Conjugate prior ...

Listen