Episode 01: The Lottery Ticket Hypothesis

Episode 1 August 19, 2020 00:21:00
Episode 01: The Lottery Ticket Hypothesis
Amlek.AI: ML & AI Podcast
Episode 01: The Lottery Ticket Hypothesis
/

Hosted By

Ariel Munafo

Show Notes

בפרק זה, נעסוק ב-Neural Network Pruning, כאשר נתקמד בפרט במאמר פורץ דרך מ2019, שנקרא "THE LOTTERY TICKET HYPOTHESIS: FINDING SPARSE TRAINABLE NEURAL NETWORKS", מבית היוצר של MIT.

במאמר זה, מציעים דרך מעניינת לקצץ רשת גדולה במעל 80% מהמשקלים שלה בצורה כזו שהביצועים (ה-accuracy) לא ייפגעו. קישורים שהוזכרו בפרק:

Other Episodes

Episode 14

February 16, 2021 00:17:04
Episode Cover

Episode 14: Graph Neural Nets - שיכון גרפים

בפרק זה נארח את אלה בור, שתספר לנו על מהם גרפים (קשתות וצמתים), על בעיות המיוצגות ע"י גרפים ועל שיכון גרפים במרחב אוקלידי (GNN, Node2Vec).קישורים: Node2vec - https://arxiv.org/pdf/1607.00653.pdf, https://towardsdatascience.com/node2vec-embeddings-for-graph-data-32a866340fef GNN - https://arxiv.org/pdf/1812.08434.pdf Graph embeddings - https://towardsdatascience.com/graph-embeddings-the-summary-cc6075aba007   ...

Listen

Episode 6

October 28, 2020 00:22:22
Episode Cover

Episode 06: (XAI) פרשנות מודלים

בפרק זה נעסוק באיך מפרשים מודלים ואיך מבינים את ההחלטות שלהם. תחום רחב זה נקרא Explainable artificial intelligence או Interpretable machine learning. בפרק נעסוק בטכניקות השונות שיש בתחום ובפרט ב ZF-NET, DeepDream, GradCam, Lime, Shap. קישורים רלוונטיים: ספר אונלייני Visualizing CNN ZFNet - Visualizing and Understanding Convolutional Networks DeepDream Lime GradCam DeepLift Shap ...

Listen

Episode 9

December 09, 2020 00:18:06
Episode Cover

Episode 9: Adversarial Training - איך לבלבל מודלים?

בפרק זה, נדבר על Adversarial Attacks, על איך מייצרים Adversarial Examples בשיטת FGSM, על התקפות White or Black box models ונזכיר Certifiable Robustness. FGSM A Survey of Adversarial Machine Learning in Cyber Warfare no need to worry about adversarial examples in object detection in autonomous vehicles ...

Listen