Experimental Design Methods: ANOVA, one-factor experiments, and multi-factor experiments
试验设计概述
基本内容概述
方差分析所针对的数据;是经过一定设计的实验获取的数据,而不是一些随便测量的数据
试验设计与分析作为数理统计学的分支 来研究如何设计实验并分析数据;
本质上方差分析只研究一个问题: 在不同因素的不同水平的作用下,特性值的情况 我们希望通过对这个问题的研究 给予一些有用的判断
试验设计的目的很普通 研究如何以较少的试验工作量和较低的成本获取足够、可靠的有用信息;他的核心目的在于收集数据而不是分析数据
虽然如此 找到通用的试验设计方法是不显示的 针对某一类问题 我们可以给出一些较好的试验设计的方法 由于这一类问题往往非常特殊(在统计理论上) 因此我们选择直接在试验设计方法中介绍如何分析
实验:测重于学术界 试验:一种设计实验与分析的方法
试验设计是应用性非常强的学科 整个试验设计的发展史都是工业界主导的 应用在先理论在后 试验设计是为了解决实际问题产生的
发展历程
- Fisher在农田实践中提出的方差分析
- 日本统计学家田口玄一在工业商品生产的过程中提出的正交实验设计
- 中国进行导弹研制时由方开泰,王元教授提出的均匀设计 所有的设计方法都是在某种特定的情况下减少实验次数,减少成本
试验设计的常见术语与模型
因素与水平
在一项试验中,凡欲考察的变量称为因素 水平:因素所处的不同状态 因素根据水平是否连续 分为了定性因素和定量因素
响应
试验产生的结果 试验设计的目的是研究因素及因素间的交互作用对响应的影响和它们之间的关系 响应有时候也被我们称为特性值 好的试验 是在足够少的试验次数中获得足够多的响应与因素之间的关系
随机误差
在试验中 也可能对试验产生的量没有被我们纳入考察的范畴(往往是因为不能) 有的量被我们忽视了 他们未被控制 他们对试验结果产生的影响统一称为随机误差 好的试验设计可以大大降低随机误差的干扰 帮助我们找到规律
常用统计模型
统计试验设计的诸方法之所以能够高效率,其主要原因之一是它们是在特 定的数学模型下达到最优的方法; 常用的用于试验设计的模型有
- 方差分析模型
- 线性回归分析模型
- 非参数回归模型
- 稳健回归模型 具体的模型形式我们在后面讲解的时候会再提到
方差分析
我们在线性回归基础就介绍过方差分析问题 他是一种是示性变量的回归分析,往往研究某种因素的存在与否的效应
虽然它在线性回归基础被我们看作了一种狭义的回归分析问题 但是我们这一章会使用一个新的思路来研究
通过研究可比较的数组中数据间总的变差的来源分解;找到对事物的显著影响因素 因素之间的交互作用 以及最佳水平
我们需要保证数据的独立性 正态性(偏态变量需要正态化)方差齐性 我们往往在方差分析模型中研究下面的几类问题
- 均值差别的显著性检验
- 分离有关因素对总变异的作用
- 分析因素间的交互作用
- 方差齐性检验
方差分析的思想
下面是一次试验观测到的数据 横行是不同的条件 纵行是不同试验的观测
| 1 | 2 | 3 | 4 | 5 | 均值 |
|---|---|---|---|---|---|
| 89 | 62 | 93 | 71 | 85 | 71.4 |
| 75 | 78 | 60 | 61 | 83 | 80.0 |
| 我们想要判断哪个条件观测到的结果更好; 如果观测没有误差 那么不同条件多次试验的结果是一样的,自然容易判断; | |||||
| 但是事实上 试验结果总是被误差影响的 我们无法判断目前呈现的差异到底是条件变化引起的还是误差引起的,现在我们要来研究这个问题 | |||||
| 对于误差引起的指标波动 我们可以用同条件的一组试验中的结果对均值的波动来描述 也就是 |
对于总体的指标波动 可以用全部试验对总体的均值的误差来描述
对于这个因素变动引起的指标波动 可以用两次不同水平的均值对总体的均值误差来描述
非常自然的 我们能看出
我们能看出 无论是还是 他们都和试验进行的次数有关 对于 它使用了10个数据 但是两个均值是被剩下的十个条件计算得到的,也就是两个限制 他的自由度为 对于 它使用了两个数据 均值被二者限制 自由度为 总体的自由度是两者的和 为 如果条件改变对指标变动影响很显著 那么我们能得到会非常大 相对的会很小 我们考虑
当这个比值足够大的时候 就可以认为我们的试验产生的显著性的差异 这种差异不是误差可以解释的 从上面的推理我们能看出,需要进行单侧的检验就能得到我们的结果了 下面我们来一点点研究
单因素方程分析
模型构建
我们还是从单因素方差分析入手开始研究 我们前面给出过一个模型概况
其中是具体的取值 是某一种水平下多次试验的均值 最后则是随机误差 也就是我们认为除了要研究的因素的水平以外所有的变量都一样 因此研究所有水平的差异就是研究的差异 我们很容易的把上面的模型变形为下面的形式
这个模型也是很好理解的 是具体的取值 是总体的均值 是所有的水平对最后取值的影响 最后是随机误差 至于后面的等式 如下就可以证明
还是和我们在第一章干的事情一样 改写为矩阵形式
其中矩阵的形式就是我们在第一章研究的那样
方差分析中的常用统计量
首先给出一些方差分析中非常常用的统计量 令 总体均值
则定义总平方和如下
它直观的描述来整个数据集中所有的试验偏离总体均值的情况 再令 某种水平下的均值
则定义组内平方和
它直观的描述来某个水平下所有的试验偏离水平均值的情况 也就是随机误差的影响 再定义组间平方和
它解释了各个水平的试验偏离整体试验均值的程度 我们经过一系列运算可以得到下面的定理
假设检验
我们想要检验的是在模型因素下 各个水平下的均值有没有显著的差异 即
现在我们可以来推导检验统计量 可以推导到
因此
它反映了各个水平效应的影响 当假设成立的时候 也就是 因此
因此
当假设不成立的时候 非常明显的 组间平方和会增大 对应的会减少 检验统计量的值会偏大 因此我们需要做的就是单侧检验 里面含有的就是自由度的体现
区间估计
当我们拒绝原假设之后 也就是认为因素的各个水平是有差异的 我们就需要进行对差异大小进行估计了 习惯性上 我们对差异进行区间估计 当然对数据归一化以后 纳入回归分析 通过回归系数的大小研究效应也是可行的 容易知道
因此可以导出
最后导出枢轴量
最后的区间我们就不给出了 实际上这一段区间估计就是数理统计中均值差的区间估计 不要忘了我们得先进行假设检验再谈均值差区间估计的问题 这个置信区间如果含有0,就意味着均值差不显著
多重比较
我们前面证明的显著性差异只能够说明这个因素的各个水平对指标有影响,但是不能帮我们选出最合适的试验 多重比较和检验可以帮助我们
首先需要给出因素各个水平下的差数倒三角形
具体的排列顺序软件会给我们计算
计算
如果水平指标平均值的差大于 则证明两个水平之间存在显著性差异 然后将显著性差异填入表中就可以了
两因素方差分析与交互效应
模型介绍
控制变量是一件很难的事情 这就是为什么我们要研究两因素的方差分析 他是我们研究多因素方差分析的第一步 模仿上一节的操作 非常容易给出本节的核心模型
对于每种因素的每种水平进行的试验次数是待定的 如果想要把它包含进来 我们不可避免的引入交互效应的存在(在回归分析中往往很少考虑交互效应,复共线性的讲解已经处理了这个问题)
交互效应的影响
我们后面会先介绍不考虑交互效应的两因素不重复试验方差分析; 如果我们发现
- 无论是哪一个效应都不显著
- 这种不显著是过于巨大的离差平方和()也就是误差导致的
- 我们对试验的误差控制比较有信心 这非常可能意味着里面存在一种新的效应对试验产生了影响,它往往就是交互效应在作用
两因素不重复试验方差分析
还是和前面一节建立各种平方和的思路给出下面的定义 总平方和
组内平方和
因素A组间平方和
因素B组间平方和
新的统计量
考察两个因素的各个水平对指标有无显著影响的假设检验如下
假设检验
非常容易的给出检验统计量
其中的这些系数还是自由度的限制 如果想要计算另一种因素的影响只需要把分子的换成 同步修正自由度 还是使用单侧检验的方法 当过大的时候拒绝原假设
区间估计
思路是完全一样的 还是研究均值差的区间估计
导出区间也是非常容易的 这个置信区间如果含有0,就意味着均值差不显著
两因素等重复试验方差分析
模型的形式如下
请注意 在存在交互效应的模型中 研究某种因素某个水平的好坏是没有任何意义的,因为它的好坏和另一种因素的取值有关 因此我们需要做的只有检验交互效应的存在与否 如果无可以沿用前一部分的思路 如果有 那么前面那部分用于无交互效应的研究在此处就没有任何意义了 我们需要使用更高级的统计学手段进行研究了(方差分析ANOVA是一种相当基础的统计学手法,这也是为什么篇幅如此之小)
我们需要进行的假设检验为
给出新的统计量
给出检验统计量有
还是使用单侧检验 从直观的角度可以知道 检验方向和上一节一致 现在所有的关于方差分析的工作软件都可以代劳了,不需要人工的计算 在方差分析的最后:
方差分析是一种全面试验方法,随着因素与其水平的数量增加,组合的数目会急剧增加,进行全部试验是不可能的,我们必须引入部分试验的方法 ^35bacd
正交试验设计
参见本文“相关段落”一节。 其中正交试验就是比较高效率的一种试验设计方法
用正交表安排试验
一个标准的正交表表示为下面的形式
其中 表示试验的次数 表示因素的水平 表示因素的数量 当然可以使用类似的思路表示混合水平正交表 比如
正交表的特点是(体现了其均衡试验的思想)
- 写作一个大型的矩阵 每一行是每一次试验 每一列是某种因素的水平选择
- 每列中数字出现的次数相同
- 每(任何)两列的数字搭配均衡 也就是数字对出现的次数一样
当我们遇到多因素试验但是无法完成足够的试验的时候 往往就是按照正交表做试验 正交表通过软件生成
不考虑交互作用的正交试验设计
下面我们来介绍如何分析根据正交试验得到的试验数据分析计算表
一个普通的试验数据记录表如下
其中第四列之所以没有字母是因为我们只有三因素但是选取了四因素的表(这是允许的,并且很常见)所以空缺此列
空白的列反映了随机误差的影响,如果空白列极差过大,一定意味着我们漏掉了重要的影响因素
最右侧列是试验结果,其中的是总和 罗马数字编号 意味着因素所在列所有水平选择为1的指标值的和(体现了某组内的和或者组的均值) 是该因素等数字的极差
在简单的数据处理中 我们直接根据的取值来确定我们最后选择的水平就可以了 极差则体现了这个因素的影响大小
当然 如果发现某些因素影响并不大也可以进行适当的调整 用更小的成本实现尽可能好的效果
非常明显的 这样的分析太粗糙了 给出的结论必须拿去再次试验 绝不能直接采信
考虑交互作用的正交试验设计
如果我们希望分析正交试验中的交互作用,试验设计和处理的方案会稍微发生一点变化; 在习惯上,我们处理交互作用有下面的原则
- 忽略高级交互作用
- 有选择地考察一级交互作用。通常只考察那些作用效果较明显的,或试验要求必须考察的(考察什么交互作用依赖经验,不好处理)
- 在可以允许的情况下尽可能使用2因素实验
在常用的正交表的后面往往会配套一张两列的交互作用列表 用来专门分析交互作用是否存在 一般如下所示
表中所有数字都是正交表中的列号:
如果要查看第 1 2 列的交互作用列 则需要从 横着向右看 从 竖着向上看 也就是他们的交互作用列是第3列 同理可以看出其他列的交互作用列
能看出 如果我们要分析交互作用,原本正交表试验中的很多列不能排因素,而是把交互作用列单独作用一个因素考察、
此时想要分析交互作用的存在与大小只需要研究交互作用列对指标的影响是否明显就可以了
如果研究交互作用 必须选择更大的正交表 原则如下 因素的交互需要列交互作用列 需要扩大选取的正交表,保证不出现混杂的情况
对于含有交互作用的正交表结果的分析有下面的变化: 原本的分析只需要分析各个因素列的极差 判断因素的影响,现在交互作用列的极差就体现了交互作用的影响大小;其他因素列的分析并没有变化;
对于需要最后选取合适的试验水平的情况:
- 不涉及交互作用:还是和上面一样的选择方法
- 交互作用影响很小的因素:当作没有交互作用
- 有交互作用的因素:它的水平的选取无法单独考虑,需要画出二元表和二元图,进行比较后再选择对指标优先的水平
多指标试验
很多试验都有多个指标来一起衡量试验结果,下面有简单的处理思路
综合平衡法
思路是 我们当作只有一个指标 每种指标都单独的进行正交试验分析 最后排列出每种指标的因素主次 综合多种指标选取 最后这一步是需要进行主观的观察和权衡的
综合评分法
正如我们在统计决策 的“多目标决策”一节中的思路一样;使用某种赋权方法把多目标整理成一个 再进行相关的分析
正交试验设计的方差分析
这里我们来研究正交表试验的方差分析;这自然是因为前面的主观选取试验结果的手法缺少对不确定性的确定性度量 现在我们来研究如何进行假设检验 整体的计算思路是非常简单的 还是研究离差平方和的问题
还是老规矩 给出这次要用的统计量 和前面的重复比例很高的 总平方和
某种因素的平方和(列变动平方和)
其中的 表示因素的第个水平的所有试验值的和 用前面的表中数据可以表示为
误差平方和
关于自由度
其中是总试验次数 其中是因素的水平数 就是最平方和的自由度 减去 各个因素的自由度有交互作用的交互作用列也如上的思路分析
然后我们引入均方的概念 均方的值为平方和 处以自由度 也就是
那么正交试验的方差分析可以通过计算检验统计量来分析
研究因素 则
其他的因素同理 这就是对正交试验进行方差分析的方法
方差分析,所有空列的和是误差项的作用
影响过小的因素考虑纳入误差项
没有空列的正交表无法进行方差分析,需要进行重复时间估计误差, 误差自由度一般不应该低于2 否则假设检验的灵敏度很低
重复试验与重复取样
正交表中无空列,无法利用其计算分析试验误差。在决定不选用更大正交表的情况下(选用大正交表会导致试验次数急剧增加),可通过重复试验用重复试验的误差作为试验误差。当然如果有其他原因想进行重复实验也需要这样分析
在进行重复试验或重复取样的情况下 正交试验表的填充记录数据的地方会发生变化 如下
我们关于表的数据的计算基本没有变化 需要变化的是方差分析相关的计算
这些计算一般让软件完成 这里就不介绍了
灵活使用正交表的方法
混合正交表与并列法
用来构造水平不同的正交表的一种常用方法 也就是
目前这部分的工作已经不需要手工完成了 给出我们需要的因素个数 每个因素的水平个数 统计软件会为我们生成需要的正交表,我们不需要了解。
这里我们唯一需要注意的是:因素水平完全一样时,因素的主次关系完全由极差R的大小来决定。当水平数不完全一样时,直接比较时不行的,因为量因素对指标有同等影响时,水平多的因素极差应大一些。因此要用系数对极差进行折算
拟水平法
让一些水平较少的因素增加一些虚拟水平 让水平较少的因素可以排在我们需要的正交表中 思路非常简单 让该因素的某水平重复一次当作新的水平 填入正交表中
额外的说明:
- 因素D由于和其他因素的水平数不同,用极差R来比较因素的主次是不恰当的(折算系数)。但用方差分析法仍能得到可靠的结果。
- 虽然拟水平法扩大了正交表的使用范围,但值得注意的是,正交表经拟水平改造后不再是一张正交表了,它失去了各因素的各水平之间的均衡搭配的性质
拟因素法
把水平较多的因素排入水平较少的正交表中的方法 ,谁做实验谁考虑吧
直和法
我们在大规模工业试验会遇到试验因素太多水平数不相等的情况,在一张正交表上试验的时候试验次数过多 我们需要分阶段的进行试验 常见的思路有
- 减少因素:固定某些因素在第一张表中不试验 第二张再改变这个因素的水平
- 减少水平:某因素的部分水平在第一张中不试验 在第二张中让第一张中选择最好的水平和剩下的没试验的水平比较
- 复合因素:把多个因素联合起来变动,如果他们联合起来不显著,那么直接不用继续拆分试验了 最后综合分析就好了,这需要我们一边实验一边分析,同步进行才能得到最终的结果
直积法
专注研究一些因素和另一些因素的交互效应的方差分析方法 如:在化工试验中 有配方因素(原材料,配比等) 工艺因素(加工时间,温度等)两类一定存在交互作用的因素;但是他们内部的交互因素往往可以忽略 这就是直积法 在试验设计中 我们只考虑类之间的交互作用 而不考虑类内因素的交互作用 最后给出方差分析表
两大类方差分析的核心都是适当的使用统计学软件,我们只需要看最后的方法分析表并根据情况适当重新安排试验就可以了
均匀设计
均匀设计的提出
我们前面先介绍了全面试验的方差分析,然后因为水平和元素数目过多而介绍正交试验设计的问题,均匀设计的提出也是用来处理原本的实验设计方法的不足才产生的。
正交表的特征告诉我们,正交试验次数是水平数平方的整数倍,这意味着我们的水平数增长与试验次数呈现平方增长的关系,如果水平数过多,试验次数很快就会到一个我们无法承受的数量。
然而。多水平实验也经常出现,我们需要新的实验方法,因此引出了均匀设计问题 均匀设计是方开泰,王元教授在为导弹设计试验研究中,吸收数论思想后形成的。是伪蒙特卡罗方法(原本的蒙特卡洛是随机生成点,伪蒙特卡洛的思想是认为生成超均匀序列)的一个应用。
原本的实验设计思想要求
- 均匀分散:试验点均衡地分布在试验范围内,让每个试验点有充分的代表性
- 整齐可比:使得分析试验结果十分方便,可估计各因素对指标的影响,找出影响事物变化的主要矛盾 正交试验设计已经是满足这两个试验条件的最优解,但是如果我们忽视整齐可比的要求,就提出了均匀设计。
均匀设计表
均匀设计表表示为
其中第一个角标7意味着试验次数,括号数字7意味着允许的水平数,上标6意味着允许的因素数,U意味着均匀设计,表的符号表示只是把L换成了U就可以了。
采用均匀设计,每个因素的每个水平仅做一次试验,当水平数增加时,试验数随水平数增加而增加。我们的试验次数从平方增加转变到了线性增加,效果非常的显著
每个均匀设计表都附有一个使用表,此表是前人根据某种规则计算出来的,它指示我们如何从设计表中选用适当的列,以及由这些列所组成的试验方案的均匀度。给出 及对应的使用表有

左侧的试验表和正交试验设计表解读方法没有区别,右侧的使用表告诉我们,在两个因素的时候应该使用13列 三因素123列 最后的D是均匀度,越低越好。
将奇数的表划去最后一行就得到比它次数少一的偶数表,而使用表不变
特别的:在化学实验中,低水平和低水平相遇可能无法反应,高水平和高水平相遇可能反应过于剧烈,我们需要调整水平的编号;根据均匀设计表的制作原理,他不能向正交试验设计表一样随便改变水平顺序,只能按照一个圈的顺序进行平滑,这一点需要我们注意。
均匀设计试验结果的分析
由于均匀设计不再考虑正交试验的整齐可比性,因此其试验结果的处理要采用回归分析方法—线性回归或多项式回归分析。也就是采用回归分析里的解释模型的方法来实现结果分析,不可解释的回归分析模型不考虑
回归分析中可对模型中因素进行回归显著性检验,根据因素偏回归平方和的大小确定该因素对回归的重要性;
在各因素间无相关关系时,因素偏回归平方和的大小也体现了它对试验指标影响的重要性。这些一般都要借助计算机才能完成
回归分析的所有技巧都可以用于均匀设计试验的分析,但是要谨记不要使用方差分析技术分析均匀设计的结果,过多的特征与过少的观测会导致没有结果
- Title: Experimental Design Methods: ANOVA, one-factor experiments, and multi-factor experiments
- Author: Hyacehila
- Created at : 2024-02-29 13:54:06
- Link: https://hyacehila.github.io//blog/2024/02/29/experimental-design-methods-notes/
- License: This work is licensed under CC BY-NC-SA 4.0.