贝叶斯风险是衡量一个决策法则的好坏的标准。一般来说,多数情况下,对于某一个(或某些)状态θ值,决策法则δ1的风险函数值ρ(θ,δ1)最小;而对于另一个(或另一些)θ值,另一个决策法则δ2的风险函数最小,因此,评价一个决策法则的好坏,只能用在各种不同状态下其风险函数的平均值来衡量。贝叶斯风险β(δ)就是当决策法则为δ,在状态θ下风险函数的平均值,决策法则一经确定,其贝叶斯风险即为一常数。它反映出利用这一决策法则决策的平均损失。
贝叶斯统计是将参数 理解成具有先验分布的随机变量,在这个观点下,风险函数 便是随机变量,如果再把风险函数 对 取一次平均,那么所得结果就不依赖于参数 而仅依赖于决策函数d了,以此作为衡量决策, 函数优劣的标准应该是合理的。
从 的定义知,可以把贝叶斯风险看做是随机损失函数 求两次期望而得到的,当总体X和参数 都是
连续性随机变量时,
设总体X的分布函数为 ,用样本空间一个点 对未知参数 作的一个估计,亦即作一个决定,在统计决策中称这一决定为决策,并称可能采取的全部决策所成的集合为决策空间,记为
统计决策问题,实质上是对样本空间 的每一个样本点 ,在决策空间 上指明一个点与之对应.这样一个对应规则可以看做定义在样本空间 上而取值于决策空间 的一个函数,称这个函数为
决策函数,记为 .在不至于引起误解的情形下,也称 为
决策函数,这时,表示在得到样本观察值 时,采取决策 .因此 本质上是一个统计。