为什么杰弗里斯无信息先验可以看出客观先验分布 (为什么杰弗里·乔叟被称为英国现实主义的创始人)

杰弗里斯无信息先验是一个概率分布，它对未知参数没有任何先验知识。它得名于英国统计学家哈罗德·杰弗里斯，他在 1946 年提出了该先验。

杰弗里斯无信息先验的目的是找到一个既不偏向任何特定值也不具有任何主观信息的先验分布。这使其成为了贝叶斯推论中客观先验分布的合理选择。

杰弗里斯无信息先验的导出

杰弗里斯无信息先验的导出基于以下原则：

• 先验分布应该是不变的，这意味着它不应受到变量单位或参数化的改变的影响。
• 先验分布应该是无偏的，这意味着它不应偏向任何特定值。

这些原则导致了以下微分方程：

“`\frac{d\pi(\theta)}{d\theta} = \frac{1}{2}\pi(\theta)\left[\frac{d^2\log f(x|\theta)}{d\theta^2}\right]“`其中：$\pi(\theta)$ 是先验分布$f(x|\theta)$ 是似然函数$\theta$ 是未知参数

求解此微分方程得到杰弗里斯无信息先验：

“`\pi(\theta) \propto \sqrt{\det(I(\theta))}“`其中：$I(\theta)$ 是费雪信息矩阵$det(I(\theta))$ 是行列式

杰弗里斯无信息先验的性质

杰弗里斯无信息先验具有以下性质：

• 它是不变的。这意味着它不应受到变量单位或参数化的改变的影响。
• 它是不偏的。这意味着它不应偏向任何特定值。
• 它是客观的。这意味着它不包含任何主观信息。
• 它最大化熵。这意味着它是最不信息丰富的先验分布。

杰弗里斯无信息先验的应用

杰弗里斯无信息先验已应用于多种贝叶斯推论问题，包括：

• 参数估计
• 模型选择
• 预测

它是一个强大的工具，可用于在没有先验知识的情况下进行贝叶斯推论。

结论

杰弗里斯无信息先验是一个客观且不偏的先验分布，它可以用于多种贝叶斯推论问题。它基于不变性和无偏的原则，并最大化熵。杰弗里斯无信息先验是一个有用的工具，可用于在没有先验知识的情况下进行统计推断。