201 reactions · 41 shares | Microsoft and CMU researchers have begun to unravel three mysteries in deep learning related to ensemble, knowledge distillation, and self-distillation. Discover how their work has led to the first theoretical proof with empirical evidence for ensemble in deep learning: https://aka.ms/AAavuq3 | Microsoft Research | Facebook
0:28
201 reactions · 41 shares | Microsoft and CMU researchers have begun …
已浏览 1.4万 次2 周前
FacebookMicrosoft Research
Knowledge Distillation: Principles, Algorithms, Applications
Knowledge Distillation: Principles, Algorithms, Applications
2022年7月22日
neptune.ai
What is Knowledge distillation? | IBM
What is Knowledge distillation? | IBM
2024年4月16日
ibm.com
Final intern talk: Distilling Self-Supervised-Learning-Based Speech Quality Assessment into Compact Models
Final intern talk: Distilling Self-Supervised-Learning-Based Spee…
7 个月之前
Microsoft
Artificial Intelligence | AI on Instagram: "Knowledge distillation is a deep learning technique where a compact “student” model learns to replicate the performance of a larger, more complex “teacher” model. Introduced in the paper “Distilling the Knowledge in a Neural Network” by Hinton, Vinyals, and Dean (2015), the process goes beyond simply training the student on labeled data, which they refer to as “hard labels”. Instead, the teacher provides “soft labels,” which are its full output probabi
0:53
Artificial Intelligence | AI on Instagram: "Knowledge distillatio…
已浏览 9218 次4 个月之前
Instagramgetintoai
Improving Generalization by Self-Training & Self Distillation
Improving Generalization by Self-Training & Self Distillation
已浏览 3773 次2020年6月10日
YouTubeMITCBMM
Self-Distilled Disentangled Learning for Counterfactual Prediction | Proceedings of the 30th ACM SIGKDD Conference on Knowledge Discovery and Data Mining
Self-Distilled Disentangled Learning for Counterfactual Prediction | Pro…
2024年8月24日
acm.org
14:47
CVPR 2021 Distill on the Go: Online knowledge distillation in self-supe…
已浏览 213 次2021年12月30日
bilibili人工智能基地
1:07:22
Lecture 10 - Knowledge Distillation _ Screen Sharing Version _ MIT 6.S9…
已浏览 62 次2022年10月16日
bilibilitiandiao123
15:35
知识蒸馏（Knowledge Distillation）和自监督学习（Self …
已浏览 7638 次2021年6月25日
bilibili日常半躺
1:18:02
【海华AI讲座】CMU助理教授李远志：集成，知识蒸馏与自蒸馏
已浏览 669 次2021年6月25日
bilibili海华研究院
7:21
深度学习中的知识蒸馏 - DistilBERT 解释
已浏览 614 次2023年6月26日
bilibili混沌云-混沌青莲
24:41
大模型的 蒸馏 (Distillation)究竟是什么，关于deepseek
已浏览 8.4万 次2025年2月6日
bilibili别问我-我不道啊
4:22
Evaluation Oriented Knowledge Distillation for Deep Face Recogni…
已浏览 49 次2022年7月6日
bilibili人工智能基地2
22:40
Communication-efficient federated learning via knowledge distillation
已浏览 302 次2024年5月9日
bilibilibili_CCIOT
12:37
【论文阅读】DeepSeekR1 ：4.1 要蒸馏还是要强化学习？（Distillation …
已浏览 115 次2025年2月11日
bilibili小蛋读论文
14:02
【自娱自阅】Knowledge distillation via softmax regression representa…
已浏览 519 次2022年5月21日
bilibili心念不明
8:58
【读论文】176 Self-Knowledge Distillation with Progressive Refin…
已浏览 898 次2021年10月14日
bilibili心念不明
14:33
BEGINNERS GUIDE TO HOME DISTILLING
已浏览 39.7万 次2019年10月30日
YouTubeBarley and Hops Brewing
14:02
Chapter 2: Flash Distillation
已浏览 2.5万 次2020年1月6日
YouTubeChESS Academy Now
13:44
Google's Deep Mind Explained! - Self Learning A.I.
已浏览 360万 次2016年5月2日
YouTubeColdFusion
52:33
Deep Learning(CS7015): Lec 7.1 Introduction to Autoncoders
已浏览 9万 次2018年10月24日
YouTubeNPTEL-NOC IITM
13:25
【读论文】214 Sharpness-Aware Training for Free
已浏览 597 次2022年6月4日
bilibili心念不明
5:01
Robust Cross Modal Representation Learning With Progressive Self Di…
已浏览 45 次2022年7月13日
bilibili人工智能基地2
19:05
Distilling the Knowledge in a Neural Network
已浏览 2.3万 次2020年6月28日
YouTubeKapil Sachdeva
13:59
【读论文】171 Be Your Own Teacher: Improve CNN via Self Dis…
已浏览 835 次2021年9月5日
bilibili心念不明
1:59
【25】DeSD: 基于深度自蒸馏的自监督学习在三维医学图像分割中的研究
已浏览 1756 次2022年8月6日
bilibiliMICS_China
1:43
自蒸馏算法（清华）
已浏览 1297 次2022年4月8日
bilibili优趣文化
5:30
Knowledge Distillation | Machine Learning
已浏览 8828 次2021年7月28日
YouTubeTwinEd Productions
6:24
Distillation curves | Intermolecular forces and properties | AP Chemis…
已浏览 2.7万 次2020年9月22日
YouTubeKhan Academy
观看更多视频
静态缩略图占位符

短视频

1:02
1.2K views · 20 reactions | วิธีการ Deep Learning ของ AI #AI #Deep #Learning |
已浏览 371 次2 周前
Facebookทำวิจัยจบง่าย เสร็จเร็ว
0:10
Distillation Deep Dive
2 个月之前
YouTubeAngus SmokerWalker
1:37
VQRAE: The AI That Sees, Creates & Reconstructs (One Tokenizer) #Shorts
已浏览 2 次3 个月之前
YouTubeCollapsedLatents
2:50
SDPO: One model, two roles!
已浏览 22 次2 周前
YouTubeGenSI
0:53
Artificial Intelligence | AI on Instagram: "Knowledge distillation is a deep learning
已浏览 9218 次4 个月之前
Instagramgetintoai
0:08
The SmokeWalkers | Deep into the distillation. Working toward that first pull. The condenser is
已浏览 8643 次2 个月之前
Instagramthesmokewalkers
0:07
Students up close and personal learning about distillation !! 🧪🥼🧑‍🔬 #education #highschool
已浏览 758 次2022年11月16日
TikTokcastschoolto
0:12
Distilling teaches you about life. You become the distillation of your own self. The more you
已浏览 300 次3 个月之前
TikTokthesmokewalkers
1:12
Artificial Intelligence | AI | DINO (Distillation with No Labels) is a self-supervised knowledge
已浏览 6075 次4 个月之前
Instagramgetintoai
Deepseek's Advanced Reasoning Model Insights Explained
已浏览 6.4万 次2025年1月27日
TikTokdianasaurbytes
0:44
Self-Healing Concrete in Action
已浏览 11.2万 次2021年6月1日
YouTubeWPI
1:54
Buchi distillation (Kjeldahl)
已浏览 8568 次2016年10月4日
YouTubeChris Yano
0:51
Eucalyptus Distillation Explained by Expert Distiller
已浏览 1739 次2018年1月17日
YouTubeDistilling Essential Oils
2:09
How to Self Pleasure For Beginners and Advanced
已浏览 1.7万 次2020年1月16日
YouTubeThe Tantra Queen: Daily Dose
1:04
Fractional distillation Animation | striping | rectification
已浏览 2867 次2020年9月21日
YouTubeChemical Engineering
1:38
Very realistic Tom Cruise Deepfake | AI Tom Cruise
已浏览 650.2万 次2021年2月28日
YouTubeVecanoi
1:43
Google DeepMind's Deep Q-learning playing Atari Breakout!
已浏览 143.2万 次2015年3月7日
YouTubeTwo Minute Papers
0:25
Packed Column
已浏览 2.5万 次2020年3月19日
YouTubeDavid Westmoreland
0:35
Cryogenic Air Separation Unit
已浏览 5247 次2022年1月18日
YouTubeDyon Air Separation Plant
0:54
What is Knowledge Distillation?
已浏览 1422 次4 个月之前
YouTubeGiffah