Out-of-Distribution（OOD）检测在机器学习的稳定性和安全性领域中，起着至关重要的作用。 例如，在自动驾驶领域中，我们希望驾驶系统在遇到模型训练阶段未曾见过的目标和情景，或者无法做出安全的决定时，能够把车辆的掌控权交给人类，并发出异常警告进行 ...

参考文献：Out of Distribution Generalization in Machine Learning. 术语：Performance gap：在数据集训练的模型，在测试集表现的性能差异，因为在测试集会遇到out-of-distribution的data; OOD的两大问题 有效的数据长什么样，怎么来的？ What kind of data is available？

2021年3月5日 · OOD detection 指的是模型能够检测出 OOD 样本，而 OOD 样本是相对于 In Distribution (ID) 样本来说的。 传统的机器学习方法通常的假设是模型训练和测试的数据是 独立同分布 的 (IID, Independent Identical Distribution)，这里训练和测试的数据都可以说是 In Distribution (ID)。 在实际应用当中，模型部署上线后得到的数据往往不能被完全控制的，也就是说模型接收的数据有可能是 OOD 样本，也可以叫异常样本 (outlier, abnormal)。 如今的深度模型常常会对 …

2021年10月8日 · 狭义一点的 Out-of-Distribution 指下面这个公式，而且我们不知道测试集中的样本分布形式。 在这种情况下，我们又怎么去保证可靠性？ 其实对于这方面的解决方法公式仍可以借助之前的结构，只是样本分布变为 non-IId。

2022年1月11日 · ID指的是in-distribution数据，也就是我们熟悉的训练数据；OOD指的是out-of-distribution，在不同的领域也可能被叫做outlier或者是anomaly data，说的是与ID分布不一致的数据。 其实ID和OOD的界定比较模糊，通常我们是将语意信息相差较大的两个数据集构成ID和OOD。 例如，我们在CIFAR-10上训练好了一个图像分类网络，那么对于这个网络来讲，CIFAR-10数据集的图像就是ID数据，而MNIST，或者是SVHN，以及LSUN等数据集就可以看做 …

2021年10月21日 · Abstract: Out-of-distribution (OOD) detection is critical to ensuring the reliability and safety of machine learning systems. For instance, in autonomous driving, we would like the driving system to issue an alert and hand over the control to humans when it detects unusual scenes or objects that it has never seen during training time and cannot ...

2021年8月31日 · This observed discrepancy indicates the significance of investigating the Out-of-Distribution (OOD) generalization problem. OOD generalization is an emerging topic of machine learning research that focuses on complex scenarios wherein the distributions of the test data differ from those of the training data.

2022年5月5日 · 最近，清华大学崔鹏等研究者发布了《分布外泛化(Out-Of-Distribution Generalization)》综述论文，针对该领域的系统、全面地探讨了OOD泛化问题，从定义、方法、评价到启示和未来发展方向。

🔍 OOD detection aims to identify when a model is presented with inputs that deviate from its training distribution. This allows systems to flag unusual cases for human review or fallback strategies. 💪 OOD robustness focuses on maintaining reliable performance even when test data differs from training data in important ways.

2024年6月14日 · Out-of-Distribution分布外 (OOD)泛化问题解决了测试分布未知且与训练不同的挑战性设置。 本文首次系统、全面地探讨了OOD泛化问题，从定义、方法、评价到启示和未来发展方向。