Statistical Decision Theory: Risk, Uncertainty, and Multi-Objective Decisions

Hyacehila

决策是管理活动的重要组成部分 为了避免决策失误 保证决策的科学性和有效性 我们需要研究决策实践的规律 形成了完整的理论体系 随着大数据时代的到来 数据在决策中越来越重要 因此形成了统计决策理论;

理论概述

统计决策的基本问题

概念

决策:为了实现某种目标 在基于一定信息和经验的基础上 对未来行动做决定的过程 统计决策:一种特殊的决策形式 使用数量分析的方法进行的决策; 统计决策的要素:决策主体 决策目标 决策对象(决策者可以影响的事物) 自然状态(外部环境) 备选方案(比较多个方案的好坏是重要的)

分类

根据决策的本质差别

确定型决策:对未来状况非常的了解 可以确定最满意的方案 非确定型决策: 竞争型:自然状态中存在无法控制的竞争对手(在博弈论中介绍) 风险型:各种自然状态的概率可以预测 不确定但是又有信息 不确定型决策:各种然状态的概率不可以预测 这种决策只能靠决策者的喜好与价值取向了

根据决策主体

分为个人决策和群体决策 由于个人能力终究有限 所以应该尽量采用群体决策

根据决策性质

程序化决策:往往有先例可循 一般有客观的正确答案 非程序化决策:缺少固定的决策手段 人更加的重要

是否运用数学模型

定性决策和定量决策

目标数量

单目标决策和多目标决策

竞争对手

独立决策和互动决策 其中互动决策也称为博弈论决策

连续性

是否需要进行一系列的决策

决策失误

只要有决策 就难以避免出现失误 想要尽可能减少失误需要:保证决策的完整流程 重视反馈和修正 使用实验验证决策

决策理论的发展

决策学是一个新兴理论 综合了运筹 数学建模 统计学 计算机科学等多方面的研究 用于管理决策问题的理论体系

理论体系

古典决策学:一种非常理想化的决策理论 需要决策者完全理性 自然情况完全可知 他的意义是要求我们作出理性决策 随着现代定量决策技术的发展 我们对现实情况了解的更多了 因此古典决策学现在逐渐的应用广泛 随后的决策学发展到决策组织学和决策行为学;这方面的学者更多的是经济学家和管理学家 也有其他的学科内容混入 并不是我们统计决策部分研究的重点

发展阶段

精神期望价值理论

提出了决策中的一个重要概念 效用 希望用定量的手段来描述各种决策造成的影响 这对决策学影响非常深远

期望效用理论

承接前面被提出的效用 在公理化的假设下运用逻辑学和数学对理性人的决策进行了分析 整个微观经济学都从这里开始 后续才展开了宏观经济学 金融学 计量经济学

贝叶斯决策理论

提出了主观概率用于决策 使用决策理论重新分析了统计分析方法 建立了贝叶斯决策理论 他是贝叶斯统计的一个巨大成果 我们会在贝叶斯统计中研究

决策分析理论

扩展了前面贝叶斯统计决策的成果 提出了决策分析这一全新的研究领域 序贯决策 多目标决策 群决策 多人多目标决策都是在决策分析理论提出后被人们开始系统研究的

决策行为理论

对已有的决策理论的一些假设提出了质疑 有限理性假设在决策行为理论中被提出 和决策分析理论平行的另一套理论

决策支持系统

并不属于理论研究的范畴 和计算机技术结合 希望帮助人们或者取代人类进行决策 当然也产生了一些理论研究成果 不过更多是对已有结果的使用和重整

发展趋势

从个人决策走向团体决策 从单目标走向多目标 从定性转向定量 计算机技术的结合使用 每一条趋势都是符合要求的

确定型决策

确定型决策是最基本的决策理论 我们可以说他是统计决策的范畴 因为我们确实需要使用信息才能决策 我们也可以把它排除统计决策的范畴 因为他使用的信息全部是先验的 没必要在这一点上进行更多的区分 统计决策就是我们对这一理论体系的总称 我们后面研究的方法都纳入统计决策的范畴 因为他们都是在进行或者尝试构建定量的模型 确定型决策和运筹学联系非常紧密,方法基本上都是从运筹学中引出的

确定型决策基本问题

概念

称为结构化决策或者标准决策 特点是可以根据完全确定的情况选择最满意的行动方案 结果完全决定于决策者的选择 是最基本的决策方法 研究决策时不可不研究 整个数学建模体系中 非常多的内容都属于确定型决策 他的难度可高可低 取决于模型本身的复杂程度

特点

容易量化 一般决策目标会用目标函数表达出来 可以明确的计算各个方案和他们的目标函数值

分类

单纯选优决策: 行动方案个数有限 掌握的数据资料无需加工处理 逐个比较方案就可以得到最优的结果(不必要研究) 模型选优决策: 建立数学模型 通过对模型的分析选择最优方案 确定型决策的范围非常的大 我们只会在后面选取一些经典的模型介绍 全面介绍时完全不可能的

步骤

收集现有的信息 建立数学模型 研究模型的最优解

盈亏平衡决策

基本原理

研究项目中 产量 成本 利润三者之间的关系 确定盈利区间和亏损区间 安全边际 是一种非常基础的确定型决策 一般分为线性和非线性模型两种

线性盈亏平衡

在一系列假设下 我们设TCTC为总成本 QQ是产量 TRTR 是总收入 pp是价格 FF是固定成本 bb是单位生产成本 则有

TR=pQTR=pQ TC=F+bQTC=F+bQ

通过解最大TRTR 规划就可以得到最优的QQ 这就是最基础的线性盈亏模型

非线性盈亏平衡

此时我们的TR TCTR~TC都是QQ的非线性函数 我们还是可以通过优化的手段得到最优的TRTR 哪怕这个形式变得非常的复杂 最差的情况我们也可以尝试数值求解

线性规划决策

在一定的约束条件下 让目标函数达到最大(最小)值 当约束条件和目标函数均线性 则就是线性规划决策的问题 可以完全使用最优化中的单纯形法或者其他方法求解 就是一个非常基础的最优化问题 能看出,整个确定型决策基本都是在已知研究对象的机理的情况下,建立数学模型,然后使用一些方法求解,他就是最常见的机理建模的问题,我们不必要在决策上单独研究它,非常多的地方都有他的思想

风险型决策原理

风险型决策的自然状态并不唯一,并且我们知道各个自然状态的概率我们已经知晓;这是他和确定型决策最大的区别了

基本问题

概念

无论采取什么决策方案 自然状态不唯一 都要承担一定的风险而不是一定能达到利益最大化;但是我们可以根据过去的经验判断各个自然状态的概率,可以通过比较方案的损益值,找到效果最优的方案 我们可以认为风险型决策是对先验概率的一次经典利用,但是由于缺乏样本的修正因而和贝叶斯决策有区别

损益矩阵

这是风险决策的重要组成 包含以下三个部分

  • 可行方案
  • 自然状态和发生的概率
  • 损益值(不同自然状态和可行方案搭配后的效果) 我们往往使用损益矩阵来进行表述 一般纵轴为可行方案 横轴为自然状态与概率 矩阵上的每一个位置都是搭配后形成的损益值

风险型决策的准则

有了损益矩阵 但是我们还是不能确定究竟那个方案最好 事实上并没有绝对的最好 决策准则是为了我们从损益矩阵中得到我们最后决策的可行方案

期望值准则

计算各个方案的损益的期望 期望最大或者最小的方案我们认为他是最好的

E(di)=LijpjE\left(d_{i}\right)=\sum L_{ij}p_{j}

由于损益矩阵有时候表示收益 有时候表示损失 因此具体什么方案和损益矩阵本身的特质有关 期望值准则一般适用于 概率出现具有明显的客观性质 并且比较稳定

等概率准则

当自然状态的概率难以预测的时候 我们选择假定各个自然状态出现等概率 然后使用期望值准则进行评判 适用于自然状态概率不好得到且出现概率比较接近

最大可能性准则

我们这里只考虑一次随机试验中出现的概率的最大的自然状态 根据最大概率自然状态的损益值 选择最好的方案 这样就把风险型决策变为来确定型决策 适用于某种自然状态出现的概率显著较高的情形

决策树

概念 绘制 应用

本质上还是一种期望决策方法 但是更加的直观 适合讨论使用

概念

是对决策过程的一种图解 在已知各种情况的概率下 把备选方案和自然状态以及损益值画成树状的结构 决策树算法是一种典型的分类方法

绘制

从决策节点出发 从左向右的绘制决策树 决策节点可以引出状态节点 要在他的分枝上标明方案名称(方案枝) 对于多级决策的问题 决策树中间可以有多个决策节点 根部的节点是我们要选择的 状态节点可以引出概率枝 导向结果节点 分枝上应该写清楚概率 他体现了方案的效应期望值 结果节点是某个方案和自然状态下的损益值

剪枝

绘制决策树是从左向右进行的,但是应用它要从右到左开始 我们称为剪枝 通过计算每一个状态节点对应的期望 选择最优的状态节点 然后剪除除了最优节点以外的所有节点 最后逐步推进到第一个决策节点 最后的决策树只会留下一个树枝 称为最优方案 我们有两种经典的剪枝方法

  • 预剪枝 在构造决策树的时候 如果这个节点继续划分没有带来准确度提升,就把它当作结果节点
  • 后剪枝 生成决策树后 从结果节点向上反推 如果剪除能带来更好的准确性 就剪除这个分枝

二阶段决策树

一阶段的决策树和直接使用损益矩阵计算没有区别 我们就没有必要单独研究一阶段决策树 二阶段决策树的思路就是把第二次决策放在第一次决策的结果节点后 再次引入新的结果节点 多层的决策树根据前面的思路进行后剪枝一层层的反推就可以了 比较每一层多个结果节点的期望进行决策

风险型决策的敏感性分析

风险型决策需要利用先验概率,但是这种先验概率具有不确定性,我们必须研究这种不确定带来的风险

敏感性分析简单介绍

我们的核心是研究转折点概率 也就是当概率发生什么样的变化 变化到什么状况的时候,最优方案发生了变化 由于我们使用的是期望值准则 因此核心就是分析方案的期望值相等的时候

两状态两行动

两状态两行动问题是最基础的 我们只有两个期望值 事实上只有一个参数pp 解方程E(d1)=E(d2)E(d_1)=E(d_2)就可以得到临界的期望值

三状态三行动

对于方案和行动更多的问题 我们需要研究更多的方程 解关于期望的不等式就可以得到什么某方案最优的结果

完全信息价值

我们用它来评估信息的意义 大家都知道决策的信息非常重要 但是这样的信息究竟价值多少 花费一定代价来获得信息值得吗 我们只需要比较有完全信息的损益期望和无完全信息的损益期望 他们的差值就是完全信息的价值

风险型决策方法

效用概率决策法

风险型决策中进行任何形式的决策都需要承担风险,每个人对风险的承担能力并不相同,损益期望并没有考虑这一点,效用就是为了弥补对主观因素考虑的缺失而引入的

效用的概念

效用是综合考虑了主观因素和客观引入之后引入的对于某个决策最后的综合评估;和我们前面使用的损益(一个单纯的货币计量)相比;效用考虑了主观因素,考虑了当决策结果多样化无法使用货币衡量的情况 引入效用可以让我们更好的进行决策

效用函数

效用具有主观性 因此确定效用是一个主观的过程;需要通过提问来确定 基本思路如下

  1. 损益值最高和最低的两个点确定为效用为0和效用为1
  2. 通过效用为0和效用为1的两个点 我们可以确定任何一种确定损益值的效用,只需要不断的提问,确定那种01组合的方案和确定损益的方案主管的效用一样,线性组合可以确定此时某个点的效应
  3. 根据每个确定损益的效用 绘制横轴为损益 纵轴为效用的效用函数 使用方案的效用来代替损益进行决策就是我们的效用决策方法,期望值准则是我们采用的最多的方案

连续性变量风险决策

效用概率方法还是基于决策树进行的 只是把损益换成了效用;但是在很多的决策情况中,损益矩阵无法列出 因为变量并不是只有离散的几个而是非常多 罗列所有可能方案是不现实的 因此我们引入了连续性变量的风险决策 要注意 这里探究是简化连续性变量风选型决策的方法;我们需要一些特殊的要求才可以使用 对于最一般的情形 我们还是需要列出所有方案(尽可能多的方案)

边际分析法

我们使用边际分析法,这一来自经济学中的方法来处理,经济学中的收益随生产的变化曲线往往是单峰的,当边际收益为0的时候 往往是我们需要的最大生产量 设MP是边际收入 ML是边际损失 成功出售的概率是p 则

MPp0=ML(1p0)MPp_0=ML(1-p_0)

解方程得到的p0p_0 是我们可以承受的最低售出概率

正态决策法

利用自然状态的概率分布来解决问题 根据中心极限定理 很多自然状态可以变化为正态分布 从而简化问题 如下例 研究一个生产销售问题的风险型决策 自然状态(市场需求量)是密度函数为f(x)f(x) 的随机变量 决策变量是需要生产的量 边际利润为aa 边际损失为bb 计算最优方案有 ak+f(x)dx=bkf(x)dx,a\int_k^{+\infty}f(x)\mathrm{d}x=b\int_{-\infty}^kf(x)\mathrm{d}x, 解方程得到的kk 就是我们应该生产的量

不确定型决策

在不确定型决策中,我们不知道各种自然状态发生的概率,此时我们也无法得出固定的最优方案 决策准则也带有主观随意性

乐观准则

我们认为出现最大收益的概率最大(虽然我们不知道) 因此选择最大收益的方案 当我们充满信心的时候 被高收益诱惑的时候使用乐观准则 每个方案取出最大收益的值座位这个方案的收益 最后比较每一个方案的收益 (如果是损失则应该反过来) 最后选择收益最大的方案

悲观准则

我们认为出现最小收益的概率最大 我们选择收益最小的方案 在不利中选取最有益的方案 往往我们缺乏信息的时候采用悲观准则 每个方案取出最小收益的值座位这个方案的收益 最后比较每一个方案的收益 (如果是损失则应该反过来) 最后选择收益最大的方案

乐观系数准则

折中前两种准则 取定乐观系数α\alpha 是我们认为出现最乐观情况出现的概率 我们选取每个方案最大收益和最小收益与乐观系数的线性组合来确定每个方案的收益 最后选取最大收益的方案

后悔值准则

  1. 计算每个自然状态下的最大收益
  2. 某个方案时收益和该自然状态下最大收益的差为我们的后悔值(正的)
  3. 给出每个方案的最大后悔值
  4. 选取最大后悔值最小的方案 这种决策方案更适合可以承担一定风险 但是能承担的不多这种有信心单不是完全有的情况

等概率准则

认为所有自然状态出现的概率相等 此时问题变为了普通的风险型决策

多目标决策

多目标决策基本介绍

在绝大多数现实世界的问题中 决策需要考虑的目标往往不是单一的 我们还是需要在多个方案中选则 但是需要考虑非常多的因素(很难同时达到最优) 我们的核心就是研究每个目标的权重 然后使用各种不同的方法完成决策 常见的多目标决策思路有:

  • 加权 多目标转换为单目标问题
  • 分层序列法 在重要目标达到最优后再让较次要的目标最优
  • 非劣解法 找到一组非劣解 从中找出最满意的
  • 多目标规划法 使用优化的思路求解多目标问题
  • 层次分析法 我们只在这里介绍一些经典思路,更多的方法会在其他的课程中介绍,决策问题永远只是一个总的纲要而非面面俱到的讲解

线性加权法

线性加权法是最常用的多目标决策方法,其思想是确定各个决策目标的权重,对需要决策的目标进行标准化,将多个目标转化为单个目标,然后进行决策 线性加权法的核心在于加权的方式如何确定,我们需要单独介绍;这里介绍决策指标应该如何标准化 决策指标种类非常多,有效益型(越大越好) 成本型(越低越好) 区间型(越接近某个值越好) 标准化就是某种数学变换 去除数据的量纲与数量级

  • 效益型:xijxminxmaxxmin\frac{x_{ij}-x_{min}}{x_{max}-x_{min}}
  • 成本型:xmaxxijxmaxxmin\frac{x_{max}-x_{ij}}{x_{max}-x_{min}}
  • 区间型:1xijxjmax(xijxj)1-\frac{x_{ij}-x_{j}}{max(x_{ij}-x_{j})}

熵权法

熵权法是一种客观赋权法,根据指标的变异程度,利用信息熵计算熵权,然后修正指标权重 信息熵的计算方法,假设系统一共有m种状态 每种状态的出现概率为pip_i 则信息熵为:

e=i=1mpilnpi\mathrm{e}=-\sum_{i=1}^{m}p_i\cdot\mathrm{ln}p_i

现在我们可以根据信息熵来计算权重 称为熵权

  • 计算第jj个指标在第ii个方案下的比重pij=xiji=1mxijp_{ij}=\frac{x_{ij}}{\sum_{i=1}^{m}x_{ij}}
  • 计算第jj个指标的熵值 ej=k=i=1mpijlnpije_{j}=-k=-\sum_{i=1}^{m}p_{ij}\cdot\mathrm{ln}p_{ij}
  • 计算每个指标的熵权 ωj=1ejj=1n(1ej)\omega_{j}=\frac{1-e_{j}}{\sum_{j=1}^{n}\left(1-e_{j}\right)} 熵权就是我们在线性加权中使用的权重

主观打分

根据专家咨询或者决策者主观打分确定权重

层次分析法(AHP)

基本原理

分析复杂问题包含的各种因素和他们的相互关系,把需要研究的问题分解成若干个层次,在每一层次均按照某个准则判断相对重要性,在最低层次通过对比给出因素权重 从低到高层层分析计算,最后计算出对总目标的权数 得到最优方案 层次分析法就是把一个巨大的问题进行分层的处理,通过两两的相对比较,给出相对的重要性,然后使用相对重要性来确定权值

相对重要性

相对重要性分为9档 按照下表给出 统计决策

模型构建

建立层次结构模型

讲一个总目标进行分解 分解为多个子目标 在大多数使用AHP的问题中 我们只考虑一层子目标 子目标的选取有时候会给出 比如赋权问题中需要赋权的量是给出的 他就是我们的子目标

两两比较子目标 构造判断矩阵

判断矩阵是层次分析法的核心 他的形式为A=(aij)m×mA=(a_{ij})_{m\times m} 其中mm是子目标的个数 aija_{ij} 是子目标iijj 相比的权重

判断判断矩阵一致性

判断矩阵的一致性指的是决策者是否在判断中保证了 如果A比B重要 B比C重要 那么一定A比C重要

  • 计算一致性指标CI C.I=λmaxmm1C.I=\frac{\lambda_{\max}-m}{m-1} 其中λmax\lambda_{max} 是判断矩阵最大特征值
  • 计算平均随机一致性指标RI 如下表统计决策 2
  • 计算一致性比率CR=CIRICR=\frac{CI}{RI}CR<0.1CR<0.1的时候 符合一致性标准
计算权重

我们使用特征根法求解权重 设权重为WW 则有

A×W=λmax×WA\times W=\lambda_{max}\times W

解方程就可以得到权重 特征向量明显满足规范性 高等代数中已经给予了证明

字典式法

就是按照分层序列法的要求进行计算 在大多数问题中 一旦要求主要变量达到最优 方案就已经确定了 事实上此时这就是加权法让最重要的指标权值为1 其他权值为0

TOPSIS

属于研究非劣解的范畴

ELECTRE

LINMAP

属于规划方法的范畴

优劣系数法

属于研究非劣解的范畴

  • Title: Statistical Decision Theory: Risk, Uncertainty, and Multi-Objective Decisions
  • Author: Hyacehila
  • Created at : 2024-01-01 07:06:22
  • Link: https://hyacehila.github.io//blog/2024/01/01/statistical-decision-theory-notes/
  • License: This work is licensed under CC BY-NC-SA 4.0.
Comments