Episode 15: Transformers - האבולוציה של ניתוח סדרות בזמן

Episode 15 March 02, 2021 00:19:31
Episode 15: Transformers - האבולוציה של ניתוח סדרות בזמן
Amlek.AI: ML & AI Podcast
Episode 15: Transformers - האבולוציה של ניתוח סדרות בזמן
/

Hosted By

Ariel Munafo

Show Notes

בפרק זה, נסקור את ההשתלשלות של ניתוח סדרות בזמן החל מ-RNN, דרך Attention Models ועד ל-Transformers.
נדבר על Self Attention, Multi Headed Attention, LSTM, RNN, GRU, Transformers ו-DeTR.

קישורים רלוונטיים:

Episode Transcript

No transcript available...

Other Episodes

Episode 9

December 09, 2020 00:18:06
Episode Cover

Episode 9: Adversarial Training - איך לבלבל מודלים?

בפרק זה, נדבר על Adversarial Attacks, על איך מייצרים Adversarial Examples בשיטת FGSM, על התקפות White or Black box models ונזכיר Certifiable Robustness. FGSM A Survey of Adversarial Machine Learning in Cyber Warfare no need to worry about adversarial examples in object detection in autonomous vehicles ...

Listen

Episode 13

February 02, 2021 00:18:03
Episode Cover

Episode 13: 3D

בפרק זה אנו נארח את פיטר נפתליאב הבלוגר ומנהל קהילת /r/2D3DAI שידבר איתנו על עולם התלת מימד. נעסוק ביישומים ובסוגי הבעיות בתחום. נסקור ייצוגים של DATA תלת מימדי: Cad, Mesh, Voxel, Points Cloud.   קישורים רלוונטיים: /r/2D3DAI 3D Reconstruction Points Cloud Marching cubes ...

Listen

Episode 1

August 19, 2020 00:21:00
Episode Cover

Episode 01: The Lottery Ticket Hypothesis

בפרק זה, נעסוק ב-Neural Network Pruning, כאשר נתקמד בפרט במאמר פורץ דרך מ2019, שנקרא "THE LOTTERY TICKET HYPOTHESIS: FINDING SPARSE TRAINABLE NEURAL NETWORKS", מבית היוצר של MIT. במאמר זה, מציעים דרך מעניינת לקצץ רשת גדולה במעל 80% מהמשקלים שלה בצורה כזו שהביצועים (ה-accuracy) לא ייפגעו. קישורים שהוזכרו בפרק: THE LOTTERY TICKET HYPOTHESIS: FINDING SPARSE, TRAINABLE NEURAL NETWORKS Deconstructing Lottery Tickets: Zeros, Signs, and the Supermask  ...

Listen