蒙特卡洛特征样本采样方法研究论文

【统计理论与方法 】

蒙特卡洛特征样本采样方法研究

刘雪晨,李宝瑜,张 晰

(山西财经大学 统计学院,山西 太原 030006)

摘要 :从蒙特卡洛计算机模拟目的出发,在特征样本定义的基础上讨论特征样本的蒙特卡洛采样方法。对特征样本进行分类,设计了分布型和曲线型两大类特征样本的10种采样方法,用4个例子展示了特征样本的具体采样方法和计算机程序,并用一个多元回归参数估计的实例说明了特征样本的应用。

关键词 :特征样本;机器采样;蒙特卡洛模拟

一、引言

一个随机变量样本,可以来自实际调查或观察,也可以来自计算机模拟;蒙特卡洛随机样本就是由计算机采样生成的样本。蒙特卡洛方法自二战时期美国物理学家Metropolis提出来以后,在全世界不同学科和专业领域都得到了广泛的应用。由于涉及到随机序列的反复采样,蒙特卡洛方法以高容量和高速度的计算机为前提条件,以统计量的概率分布为核心。在大数据时代机器学习和人工智能技术的发展中,很多知识需要通过对大量数据的模拟和训练来获得,如人工神经网络、支持向量机、随机森林等方法中,都要进行大量数据训练和模拟从而探索最优化结果,因而蒙特卡洛模拟方法也越来越受到重视。

蒙特卡洛方法应用的基础是对随机变量的采样,即样本生成。目前主要有四种对一维变量蒙特卡洛样本采样方法:直接采样法、逆分布函数法、接受拒绝采样法、重要性采样法。

(1)直接采样法,就是按照某种标准的概率分布p (x )直接抽取样本,这是最简单的一种方法。

(2)逆分布函数法(反函数法),适用于能够求解反函数的有限空间分布的采样。它是先产生均匀分布上的一组随机数,然后作为y 带入逆分布函数,得到一组x ,这组x 就是符合分布p (x )的随机变量样本。

(3)接受拒绝采样法(Acceptance-Rejection Sampling,ARS)。该方法适用于服从非常见概率分布p (x )采样,即首先设定一个方便采样的常用概率分布函数q (x ),如正态分布,以及一个常量k ,使得p (x )总在kq (x )的下方;然后采样得到q (x )的一个样本X 1,对于这个样本是否被接受为p (x )的样本,就要再从均匀分布(0,kq (x 1))中采样得到一个值u 。如果u ≤p (x 1)/kq (x 1),则接受这个样本x 1,否则拒绝这次采样。q (x )与p (x )越近似,接受率越高。重复以上过程得到n 个接受的样本x 1,x 2,…,x n

(4)重要性采样法(Importance Sampling,IS)。该方法由Geweke J于1989年提出[1],是“加权采样”,适用于服从不常见分布p (x )的变量采样。与接受拒绝采样法相同,重要性采样需要另外寻找一个容易采样且值域与p (x )相同的分布q (x ),形成重要性函数直接从q (x )中采样。为了这些样本能够对p (x )的代表性更强,就要根据p (x )与q (x )组成的概率分布来确定每个点的权重,ω (x i )的大小体现了从q (x )中抽取的样本点x i 对p (x )的重要性大小,因而可以把ω (x i )看作该点处的权重。权重大的区域抽取的样本多一些,权重小的区域抽取的样本少一些,从而使样本更能够代表p (x )。

当变量来自高维分布时,无法直接产生独立随机样本,这时需要借助马尔科夫链实现对复杂或高维分布的采样,这就是MCMC(Markov Chain Monte Carlo)采样。MCMC包括Metropolis-Hastings方法和Gibbs方法。MCMC方法最早由Metropolis(1954)给出,他是在研究物理学中粒子系统的平稳性质时想到的,后来Metropolis的算法由Hastings进行改进,合称为M-H算法。M-H算法是MCMC的基础方法,由M-H算法演化出了许多新的采样方法,包括目前在MCMC中最常用的Gibbs采样也可以看作是M-H算法的一个特例。

近些年来,很多学者对上述经典的采样方法进行了完善和补充,研究领域主要集中于高维数据采样。如Andrieu等在2010年提出了粒子滤波MCMC方法(PMCMC),将一种基于粒子滤波器输出的似然估计方法用于MCMC[2],Pitt等进一步发展了该方法[3-4]。为了解决多维变量MCMC采样的收敛速度慢的问题,Fu等提出了Fu-Wang法[5-6],Wang等提出了Wang-Lee算法[7],这两种算法都是基于多维样本空间随机离散化概念的蒙特卡洛模拟方法。此外,还有顺序蒙特卡洛方法(SMC),解决多维变量非线性状态空间分布问题,代表性的研究者有Doucet、Andrieu等[8-9]

目前有关蒙特卡洛采样方法文献的特点,一是理论研究多,数学推导多,可操作性较弱;二是研究多维分布的采样方法多,研究一维变量采样方法的少,对单变量采样方法重视不够;三是对样本的分类和方法的分类缺乏系统性和规范性,还没有形成较完整的方法体系;四是很多研究文献对于采样的目的、样本适用对象、采样需要具备的条件、样本的具体形式等问题模糊不清,例如很多文献对于重要性采样方法的介绍不是讨论其样本如何采集问题,而是讨论如何积分。

一维变量的随机采样方法是蒙特卡洛方法的基础,也是实践中最常用的方法。单变量的随机样本可以用于建模、参数估计、积分计算、机器学习中的模拟训练等很多研究中。本文拟对一维变量的随机采样方法进行系统性研究,在特征样本概念基础上,提出一套较为完整、程序简化、具有可操作性的采样方法,最后用一个回归实例来说明其应用。

二、概念和分类

(一)特征样本概念

特征样本的概念由李宝瑜等人于2016年提出[10]。特征样本是在变量特定的值域范围内按照变量的分布特征采用机器采样的方法生成的随机样本,这种样本在各种模拟计算中更能反映变量之间的关系。如果每个变量都能够采用其特征样本,对变量的代表性就会更好一点。每个特征样本都具有给定的特征和样本量。蒙特卡洛模拟条件下,面对复杂的样本要求,应该研究一套完整的特征样本采样方法。

光学波段包括可见光(380nm-760 nm)和近红外(760nm-1200nm),仿石器材的光谱曲线应与真山石相近。

变量的特征首先是分布特征,分布特征一般都可以用通用的数学解析式表达:

y =f (x )

(2)将y 的观察值换算为频率值。如果有负数,需要将序列等比例变为正数。频率换算公式为。

本文总结了沥青路面半刚性基层异步连续摊铺技术,将其应用在高速公路试验路段水泥稳定碎石基层铺筑施工中,对基层施工质量进行检测分析。结果表明:通过对半刚性基层异步连续摊铺施工工艺进行控制,所铺筑成型的水泥稳定碎石基层施工质量能符合规范要求,有效提高施工效率,加强基层整体性,提高道路承载能力,对异步连续摊铺技术的推广应用具有积极意义。

特征样本是根据随机变量的某些特征,用机器采样方法生成的伪随机样本。特征样本的一般形式可以表达为:

ζ (x ,y )=n ,y =f (x ),ζ [a ,b ]

特征样本采样中首先需要引入目标变量和标识变量两个概念。目标变量是将要对其抽取样本的变量,是期望生成的样本,可以是y ,也可以是x ;标识变量是用来辅助生成目标变量的随机变量,如果目标变量是y ,标识变量就是x ;如果目标变量是x ,标识变量就是y 。ζ 表示目标变量的特征样本。从表达式可以看出,一个特征样本包含三个特征,一是样本大小n ,二是用函数式表示的分布特征,三是目标变量的值域ζ [a ,b ] 。

特征样本是随机样本,可以重复采样,这就意味着每次采样获得的样本是不同的。由于按分布特征采样,所以样本的特征部分是稳定的。

(二)特征样本的分类

本文对特征样本做如下主要分类:

1.分布型样本和曲线型样本。分布型样本是服从某种概率或非概率分布的特征样本。它以y =f (x )中的x 作为目标变量,以x 的密度函数或非标准函数y 作为标识变量。曲线型样本与分布型样本相反,其目标变量是y ,标识变量是x 。

2.频率分布样本和值域分布样本。分布型样本可以分为两类,一类是样本中体现了x 出现的频率,一个x 值可以多次出现在样本中,出现的次数由标识变量y 决定,例如正态分布的x 样本可以在均值附近出现多次,这类样本可以称为频率分布型样本;另一类样本是x 值唯一对应于某一个y 值,同一个x 值在一个样本中只出现一次,这类样本可以称为值域分布样本。现有的蒙特卡洛采样方法多数都是讨论频率分布样本而忽略值域分布样本。现实中如果在函数运算中与y 的样本量一一对应,用的较多的是值域分布样本。频率分布样本自身看起来是完美的,但在构建另一个统计量时则难以与y 函数对应起来。

3.有序样本和无序样本。无论是以y 或是以x 作为目标变量,都涉及到一个样本的有序性问题。频率分布型的样本是无序的,值域分布型样本一般是有序的。如果以y 作为目标变量、x 作为标识变量,在函数式统计计算中一般要求x 是有序的,只有x 有序,才能与y 对应。截面数据一般是分布型,也是无序样本;时间序列样本,可以是分布型也可以是曲线型。在曲线型样本情况下,x 作为标识变量,可以是一个实质性变量,也可以是时间t ,如果是t ,则要求样本是有序的。

4.标准分布型样本和非标准分布型样本。标准分布型样本服从标准的概率分布。如均匀分布、正态分布、贝塔分布等,其分布特征体现在样本自身包含了其频率特征,在每一值点处都有不同的频数出现,既属于频率分布样本,也属于无序样本。

非标准分布型样本是以非标准密度函数y =f (x )中的y 为标识变量,以x 作为目标变量,此时的x 样本是值域分布型样本,也是有序样本。

非标准分布型可以进一步分为已知函数式和未知函数式样本。已知函数式的样本按照是否能求出反函数又可以分为两类样本;未知函数式的样本则需要特定的方法采样。

近日与友人相约安徽大通古镇。有人说,古镇这种地方,只有人少了才会有意境,才能听到时光流转的声音,才能读懂过往的故事,才能看透粉墙上斑驳的印痕。立冬时节、和暖天气里的大通古镇,便是这样一个游人依稀、宁静秀美的所在。

5.标准曲线型和非标准曲线型样本。标准曲线型样本是有标准(常见)密度函数支撑的曲线,目标变量为密度函数值y ,标识变量为x ,根据变量y 的形态特征,选取曲线形状相似的标准密度函数作为其函数表达式,目标样本值就是密度值。如果目标变量值大于或小于密度值,可以通过一定的方法换算为实际值。

非标准曲线型样本。很多曲线型变量与其标识变量的函数式无法用标准密度函数表示,这类变量划分为非标准曲线型。它的目标变量y 与标识变量x 之间具有一般数学函数关系,并可以根据是否具有明确的函数式分为两类:已知函数式和未知函数式(但已知一组函数值观察样本)。已知函数式也可以进一步分为容易求解反函数和不容易求解反函数两类样本,二者采用的采样方法也不同。

6.解析型样本和模拟样本。解析型样本是已知y =f (x )函数关系,给定x 或y 的一些特征,获得x 或y 的样本。有时我们无法知道这种函数关系,得不到x 或y 的解析式,而只能得到一组实际观察值,此时蒙特卡洛模拟需要在这一个观察样本基础上生成随机样本,即生成模拟样本。

(三)特征样本采样的思想

第一,特征样本是基于经验生成的随机变量样本,是对现实变量的模拟。每个特征样本一定要尽量符合变量的实际情况,而要能够给出符合实际的变量特征,就需要依靠人的先验经验。将人的经验纳入样本采样过程,如果经验判断是正确的,对样本的模拟就会更加符合实际或接近实际。一个变量在一个特定的取值区间,是属于分布型样本,还是曲线型样本?时间序列样本是递增还是递减?这需要有经验支持,也决定了目标变量的类型。当然,如果所依赖的经验是错误的,就可能使得样本偏离实际。将人的经验纳入特征样本的生成,符合贝叶斯统计思想。

3.玉米品种抗性。在国内还未发现有对玉米粗缩病高抗的品种,而国内大部分种植的品种均比较容易感染此病毒,比如:西玉3号、掖单2号均为易染病品种。只要在合适的环境下都有可能大面积发病,大面积的粮食产量降低,甚至绝收。但也有一些抗病的品种,尽管也会感染上病毒,但发病程度轻,产量上损失也性比较少,比如:中玉4号、鲁单50等,如果结合一些其他防治措施,有可能达到理想的防治效果。

第二,特征样本是在特定取值区间的样本。有些变量的取值区间可能需要表达为正无穷或负无穷,如正态分布,但在标准正态分布下实际起作用的区间一般不超过6个标准差,所以原则上每个特征样本都必须给出一个有限值域。

例如,要生成一个递减指数曲线,在R 语言中先用命令d exp(n ,λ )生成一个密度函数曲线,再用以上公式换算成实际值曲线。如果要得到一个递增指数曲线,则可以通过变换正负号实现。

第三,特征样本是可以重复抽取的样本,而且每次采样的结果都要在符合分布特征前提下具有随机性,这是因为在蒙特卡洛等应用中需要对统计量进行多次重复来模拟。每次模拟都需要不同的随机样本,当我们给定变量的分布特征和值域以后,就能够在重复采样条件下生成具有相同特征的多个特征样本。

第四,给定变量的分布特征可以有两种方法,一种方法是直接依靠经验确定,另一种方法是通过对实际数据的观察来确定。确定变量的值域范围也可以是同样的方法。

第五,如果我们要对某个变量进行研究,利用其构建统计量等,就需要了解其分布特征和值域。如果对变量一无所知,对变量的走势形态、最大最小值等基本信息都不了解,所做的工作就可能因不符合实际而成为无实际意义的数字游戏;如果采样者缺乏经验,可以通过观察实际数据确定分布特征和值域,做到这一点应该不会有很大困难;如果将一个实际数据的观察样本看作一个样本特例,在一个区间内按照变量特征重复采样产生多个随机特征样本,则包括了各种可能的样本,其代表性可能会更强。

使用SPSS 22.0进行数据统计和分析.采用重复测量方差分析评估团辅干预对所有测量指标的影响,检验分组和不同测量时间的交互作用;采用单因素重复测量方差分析对实验组和对照组在不同时间(前测、后测、追踪)所有测量指标得分进行两两组内比较;采用多变量方差分析进行组间差异比较.

三、特征样本采样方法

特征样本的生成方法从总体上来看,就是利用已有的某种计算机语言内部的随机数生成函数生成需要的伪随机数样本。在现有的一维变量4种采样方法基础上,本文又提出了一些新的方法,经过归纳提炼,分为10种具体方法。

(一)分布型样本采样方法

1.标准分布法。属于现有的4种采样法之一的直接采样法,用于生成标准分布型样本。给定标准分布要求的参数,利用计算机函数直接生成x 的频率分布样本。例如,用R 函数x =rnorm(n ,μ ,σ )可以直接生成均值为μ ,标准差为σ 的正态分布样本,x =runif(n ,a ,b )可以生成区间为[a ,b ] 的均匀分布样本、x =rbeta(n ,α ,β )可以生成参数为α 和β 的偏态分布(贝塔分布)样本等。

2.反函数分布法。属于目前常用的逆分布法,可用于已知函数式且能够求出反函数的非标准分布型样本。逆分布法是从y 采样,然后带入反函数式得到x 样本,但这样采样得到的是x 频率样本,同时也可以对其进行改进,从x 采样,得到x 的值域样本。方法是先给出y min(y ),max(y ),将y 的最小最大值带入反函数式,求出x 的值域,然后直接在x 值域中按均匀分布生成x 的随机样本。如果y =f (x )是单调减函数,就需要把x 的最小最大值互换。

3.比例分布法。这是本文设计的一种方法,适用于已知函数式但难以求解反函数的非标准分布型样本,是与现有的接受拒绝采样和重要性采样法相似但有所改进的一种方法。比例分布法要求有一个已知函数y =f (x ),且给出x 在定义域内的一个任意值域x min(x ),max(x ),升序排序之后,正方向带入函数式生成一组y ,在y 的每一值点处计算一个与x 对应的比例k ,然后在y 的每一值点处给定一个随机变动小区间(幅度大小自由设定,它决定了随机范围),利用均匀分布在该区间生成1个随机数,然后利用反函数和k 生成x 的值域分布型样本。其方法和步骤为:

(1)在x 值域范围按均匀分布采样得到x 初始值并排序。

(2)将x 初始值带入函数式得到一组y 初始值。

(3)利用y 初始值与x 初始值计算一组比例:

(4)确定一个随机性范围,在每个y 值点处的小区域按均匀分布随机生成一个随机数y 1i

(5)将y 1i 带入比例式生成x 样本:

(2)将x 0i 带入函数式求得一组y 0i 值,如果y 0i 的值超过其值域,则重新确定x 值域对x 0进行采样。

这样生成的样本服从y =kx 的分布等价于原y =f (x ),得到的x 样本是在y 的一定值域内的样本。该方法的思想是将复杂的分布简化为一个简单分布y =kx ,从而能够按照简单分布生成样本。对于x 值域的确定,需要尽量接近实际问题的意义。

(3)设定x 的样本容量N ,N =kn ,k 是y 的样本容量的倍数,需要足够大。

分区频率分布法的思想是:在y 为数值变量的情况下,y 值可以换算为密度值。根据以下方法和步骤,可以得到一个x 频率分布随机样本。

在外来业主的带动下,村民们积极投入乡村旅游住宿接待服务。专合社将村民们家里长期空余的、愿意对外搞接待的房间一间一间统筹起来,将团队客人依次给各接待户分配客源。为了提高接待质量,专合社帮助村民统一采购床上用品,指导村民按照70或80元/间·晚⑥的标准收费。目前,星光村共有40多户,50多个房间可供住宿接待。

(1)设定一个x 区间x min(x ),max(x ),将其离散化为与y 对应的n 个观察点。

在这个函数关系中,或者是把y 当作是x 的特征,或者是把x 当作y 的特征。把变量特征简单地看作概率特征是不全面的。特征样本的特征包含概率特征但不限于概率特征,f (x )既可以是概率密度函数也可以是一般数学解析式。已有的蒙特卡洛的采样方法通常只是产生概率分布的特征样本。

4.分区频率分布法。这是本文设计的另一种采样方法,适用于生成有函数关系y =f (x ),但未知具体解析式的x 频率样本,这种情况一般是已知y 的一组观察样本点,寻找到一组x 的样本点,使得x 的样本服从y =f (x )分布,因而一旦给出一组随机数x ,就能使其服从该特定分布。

(4)计算每个x 观察点需要分配的样本数,N i =y id N 。

(5)按均匀分布在每个x 观察点抽取N i 个x i ,合并得到的x 即是服从y =f (x )分布的样本。

5.分区值域分布法。这也是本文在比例法基础上设计的另一种简便采样方法,适用于在已有y 的观察样本的情况下,生成x 的值域样本,即要求生成与y 值一一对应的x 值点,且服从y =f (x )分布。这里不需要进行y 的频率转换,但需要对y 分区以后直接采用比例法。其步骤为:

(1)设定一个x 区间x min(x ),max(x ),将其离散化为与y 对应的n 个观察点。

(2)计算各个y 点对x 的比例:

(3)对每一个y i 给出一个随机波动区间,按均匀分布在此区间采样。

(二)曲线型样本采样方法

1.标准曲线法。用于生成服从标准分布的曲线型样本。其目标变量是y min(y ),max(y ),标识变量是x ,y 与x 的函数式是y =f (x )。这种方法的思路是先在标准分布的有限值域范围内生成密度函数值y d ,然后通过一个转换算子将其转换为y 的样本值。转换算子表达式为:

精品酒店通常将更多的资金投入在酒店设计装修,它们的设计基本出自名师之手,体现着最时尚的设计和美感,无论是酒店外 观设计,还是大堂里配饰的艺术品,以及客 房家具摆设,甚至一个小小的门铃都以设计 的文化、个性、风格为主。精品酒店不仅能融入现代都市的时尚色彩, 成为都市的特色地标,还能点缀在风景如画 的自然山水之中,成为一道亮丽的风景。

博世集团是世界领先的汽车技术、工业技术和建筑智能化技术供应商。自1909年在中国开设第一家贸易办事处起,博世集团的所有三大业务部门(即汽车技术、工业技术、消费品和建筑智能化技术业务部门)均已落户中国。博世(中国)投资有限公司成立于1999年,负责管理、发展及协调博世集团在中国的所有投资和生产业务。

由于现有的计算机程序语言都只有标准分布的采样函数,得到的结果都是密度函数值,而标准曲线要求的是实际数据值。上式就是一个非常有用的转换算子,可以通过转换算子将任何一个值域的序列转换为分布不变的特定最小最大值的序列,同时也适用于密度函数值转换为实际数据值。

采取混样方式进行,每个一级混样池均有六个标准,将其视为内对照。混合检验阴性判定为阴性,混合检验阳性时则实施拆分检验,拆分检验检测为阴性为可判定为核酸检测阴性,拆分检验阳性时则判定为核酸检测阳性。

2.非标准曲线法。适用于不具有标准概率分布但具有一般数学解析式且无法求出反函数的y 曲线样本。首先确定一个x 的初始值域,按均匀分布采样排序后直接带入y =f (x )得到y 的初始值y 0,然后再根据实际要求的y 的值域对x 值域进行调整,按调整后的x 值域重新对y 采样,其方法和步骤为:

(1)确定x 的一个值域,按均匀分布在计算机上采样并按升序排序,得到x 的样本。

(2)将生成的x 样本带入函数y =f (x )函数式,得到一组y 0样本。

(3)调整变换x 值域重新采样,得到y 的最终样本。

3.反函数曲线法。适用于已知函数式且能够求解反函数的非标准曲线型y 样本。能够求解反函数的解析式一般都是单调函数,所以反函数曲线法是在反函数分布法的基础上,进一步对x 按照升序方式来排序,变成有序样本,然后再次正向带入函数式得到y 样本,其方法和步骤为:

(1)按给定的y 值域利用反函数求得x 值域。

(2)按均匀分布在x 值域用计算机采样并排序得到x 样本。

(3)将x 值带入y 函数式得到y 样本。

(1)引导学生自主提问评估,理清问题思维.在对物理知识进行学习时,由于物理学科需要较强的逻辑思维,因此学生的发散思维在物理学习过程中起着重要的作用.因此在物理学习中作为教师应引导学生善于提出疑问、进行自我提问、进行自我评估.这样学生不仅能够理解题意、剖析题意,更能从深层次掌握该题的内涵,从而具有清晰的解题思路,提高解题效率.

4.比例曲线法。当f (x )函数形式复杂且难以求解反函数时,比例曲线法就是在给定y [min(y ),max(y )] 的条件下,生成一个服从y =f (x )的曲线样本。为了得到y 的随机样本,需要让标识变量x 具有随机性。所以,首先要在一个值域范围(尽量接近实际)任意给出一个x 0的均匀分布样本,排序之后正向带入f (x )得到一组y 0。此时,就可以算出y 与x 在各个值点上的比例k 。当再次在x 值域生成随机数后,带入y =kx 即可得到y 的随机样本,其方法和步骤步骤为:

(1)给出一个x 的值域按均匀分布采样并排序得到x 0样本。

(1)利用ANSYS二次开发成果对薄壁空心高墩结构的温度场和温差效应进行计算分析,快速方便,结果合理,可为空心墩结构设计提供参考。

角色中涉及的动画主要通过Unity 中内置的动画状态机Animator 实现对动画片段的逻辑管理和统一管理。Animator 方便的图形化界面可以让角色控制更为清晰,也直接利于代码的管理和编写。通过对Animation 和逻辑状态统一管理,利用脚本就可以管理整个Animator 实现角色的一系列动作,从而实现系统中角色执行相应的漫游和展示动作。Animator 利于把抽象的逻辑关系重新组合,能大幅度增加角色的真实性和沉浸感。

(3)计算一组比例:k i =y 0i /x 0i

(4)再次按均匀分布在x 值域随机采样并排序得到x 1i

(5)将x 1i 带入公式y 1i =k i x 1i ,得到y 的曲线样本。

这一种算法除了能得到y 的随机样本外,还能得到一个简化后的解析式y =kx 。

5.自助曲线法。在已有y 的观察样本的情况下,如果要使其具有随机性,相当于在样本中再采样。具体方法是在y 的每个值点附近随机采样,生成与原样本相比特征不变而具有随机性的样本。

Bootstrap方法是常用的生成再生样本的方法,但一般Bootstrap方法只能生成无序样本,而曲线样本要求是有序样本。

表1中列出了上述10种方法以及它们的特征和关系。

y =min(y )+(max(y )-min(y ))×

(3)强化水资源保护工作。加强水功能区监督管理,重点强化对水源地和入河排污口监管,继续开展入河排污口调查摸底和规范整治行动,组织编制入河排污口布局规划。加强地下水超采区综合治理,逐步完善地下水监测系统。做好重要水源地安全保障达标建设和评估工作。大力推进水生态文明城市试点创建工作,年内牡丹江市国家级水生态文明城市试点建设任务如期完成,并通过试点验收。推进河湖健康评估试点工作。加快实施江河湖库水系连通项目。

(三)频率分布样本与值域分布样本的变换

利用反函数分布法、比例分布法和分区值域分布法生成的特征样本,不能以样本观察值自身的频数来反映其分布特征,而是x 与y 点对点的值域样本。值域分布样本与频率分布样本是可以互相转换的。从值域样本转换为频率分布样本的方法是先将y 序列变换为频率序列,然后在x 的每一值点处按给定的样本容量及频率重复采样,合并以后的样本就是值域分布样本转换后的频率分布样本,其方法和步骤为:

(1)给定大于原样本容量n 的一个分布样本容量N 。

(2)计算y 在每个值点处的频率:如果原y 序列中有负数,需要先做正值化线性变换。

(3)按p i 将N 分配到对应的x i 值点处,计算每个x i 在样本中的频数。

(4)在每个x i 处重复生成p i N 次样本。

(5)将重新采样后的x i 合并,得到x 的频率分布样本。

对于频率分布样本向值域分布样本转化,只要将x 排序之后分区,取其每个区的均值即可。

表 1特征样本采样方法

注:表中带★号的4种方法是现有的方法,其余的方法是本文提出或改进的方法。

四、采样方法应用实例与比较

下面列举几个例子来说明上述采样方法的应用,程序用R 语言给出。

(一)采样实例

例1:比例分布法

用于生成已知函数式但难以求出反函数的x 值域分布样本。已知目标变量x 的函数为y =x -x 2+e x ,给出x 的值域为[0,5] ,要求的样本量为30。设定区域随机区间为5%,可以利用以下程序生成值域分布样本。

n=30

x0=matrix(,n,1)

y0=matrix(,n,1)

x0[,1] =sort(runif(n,0,5))

y0[,1] =x0-x0^2+exp(x0)

k=matrix(,n,1)

k[,1] =y0/x0

y=matrix(,n,1)

x=matrix(,n,1)

i=1

while (i<=n){

if(y0[i,1] >=0){

y[i,1] =runif(1,y0[i,1] *0.95,y0[i,1] *1.05)}else{

y[i,1] =runif(1,y0[i,1] *1.05,y0[i,1] *0.95)}

x[i,1] =y[i,1] /k[i,1]

i=i+1}

plot(x,y) #图1

本次采样生成的样本为:

x =(0.01,0.66,0.75,0.76,0.94,1.38,1.53,2.00,2.15,2.05,2.16,2.29,2.17,2.57,2.55,2.64,3.01,3.01,3.09,3.49,3.6,3.40,3.95,4.11,4.21,4.57,4.52,4.84,4.91,4.88)

y =(1.00,2.16,2.27,2.27,2.61,3.46,3.83,5.25,5.99,5.84,6.19,6.73,6.45,8.83,9.50,10.40,13.18,14.00,15.18,23.01,25.11,25.09,43.38,51.48,64.07,76.02,81.16,90.92,97.07,119.87)

例2:分区频率分布法

已知一组容量为10的观察值y =(55,131,44,12,22,33,100,-16,95,142),x 的值域为[100,150] ,要求的样本容量为200。x 的随机波动幅度在5%之内。希望在x 值域内生成x 的频率分布样本,可以利用以下程序实现:

n=10

N=200

y0=as.matrix(c(55,131,44,12,22,33,100,-16,95,142),n,1)

if(min(y0)<=0){

y=y0+abs(min(y0))+1}

by=as.matrix((y/sum(y)),n,1)

minx0=100

maxx0=150

xd=(maxx0-minx0)/(n-1)

x0=matrix(0,n,2)

i=1

while(i<=n){

x0[i,1] =minx0+(i-1)*xd

if(round(by[i,1] *N)>=1){

x0[i,2] =round(by[i,1] *N)}else{

x0[i,2] =1}

i=i+1}

nn=max(x0[,2] )

i=1

while(i<=n){

if(x0[i,1] >=0){

cc=runif(x0[i,2] ,x0[i,1] *0.95,x0[i,1] *1.05)}else{

cc=runif(x0[i,2] ,x0[i ,1] *1.05,x0[i,1] *0.95)}

if (i<=1){

x=as.matrix(cc)}else{

x=rbind(x,as.matrix(cc))}

i=i+1}

hist(x,breaks=50) #图2

例3:反函数曲线法(逆s曲线)

逆s曲线的函数式为希望生成一个y 的值域为[-20,80] 的曲线样本。可以利用反函数求得x 的值域。为了使反函数对数运算时不出现负数,要在不超过[0,1] 区间给出一个目标变量y 0的初始值上下限[0.001,0.999] 。确定样本容量n =200。

可以利用以下程序实现:

miny=-20

maxy=80

n=200

miny0=0.001

maxy0=0.999

minx=-log(1/miny0-1)

maxx=-log(1/maxy0-1)

x=sort(runif(n,minx,maxx))

y0=1/(1+exp(x))

y=miny+(maxy-miny)*((y0-min(y0))/(max(y0)-min(y0)))

plot(x,y) #图3

例4:非标准曲线法

有一个函数式y =20+15x +3x 2,目标变量y 的值域确定为[0,120] ,无法求出y 的反函数。给出一个x 的值域为[-100,100] ,要生成一个样本容量n =200的y 的曲线样本。程序为:

n=200

x=sort(runif(n,-100,100))

y0=20+15*x+3*x^2

y=0+(120-0)*(y0-min(y0))/(max(y0)-min(y0))

plot(x,y) #图4

图 1比例分布法样本


图 2分区频率分布法样本

图 3反函数曲线法样本

图 4非标准曲线法样本

(二)本文采样方法与现有方法的比较

本文讨论的标准分布法、标准曲线法都属于现有的直接采样法类型。反函数法与现有的逆分布函数法基本相同,但本文区分了分布样本与曲线样本,也给出了规范的算法。本文提出的比例法和分区法与现有的重要性采样法、接受拒绝采样法相比有较大的不同。

重要性采样法和接受拒绝采样法都是由已知表达式的f (x ),生成x 的分布样本,其共同点是都需要另外一个近似分布g (x ),都需要计算一个比例c =f (x )/g (x ),且都要有f (x )的具体数值才能进行实际计算。在能够计算c 的前提下,两种方法采用了不同的策略选取x 的样本点。重要性采样法是把c 当作权重,根据权重大小决定x 点的样本频数,接受拒绝采样法是把c 当作一个衡量是否接受x 样本点的标准,样本点如果落入f (x )区域内则接受。

本文提出的比例法,也需要计算一个比例向量k ,但不需要从另外的分布计算,而是利用f (x )自身的信息来计算,计算式是k =f (x )/x ,免去了这两种方法寻找近似分布的环节,计算也更加简单。

接受拒绝采样和重要性采样的近似分布g (x )的x 值域必须覆盖f (x )的x 值域,否则c 就会变成无穷大或无穷小,把本来属于f (x )的样本点拒绝在外,或接受了本来不属于f (x )的采样点。本文提出的比例法和分区法不受此限制,可以是f (x )定义域内的任何区域。

接受拒绝采样法和重要性采样法不仅要求已知f (x )的函数式,而且要求在每个x 点处都有具体函数值,因为如果仅仅是一个表达式而无具体函数值,c 是无法计算的,本文的比例法也如此。但是,在缺乏f (x )函数式的情况下只要有一组样本数据,本文提出的分区分布法就很容易地解决了服从f (x )分布的x 频率分布样本的生成问题。分区法并不要求必须有f (x )的函数式存在。

现有的各种经典采样方法没有区分频率分布样本和值域分布样本,实际上都只是讨论频率分布样本。本文对两类样本进行了区分,给出了不同的采样方法,并给出了两类样本的互相转换方法,这就为后续应用提供了便利。

现有的方法不重视区分分布样本和曲线样本,本文对两类样本做出了区分,设计了不同的采样方法,并给出了曲线样本通用的值域转换算子,这就为序列之间的值域变换提供了规范的方法。

重要性采样方法一般被认为是设计为计算积分或均值的方法,但这种方法过于繁琐。实际上,只要已知一个函数式,无论其如何不规则、如何复杂,在给定x 值域的情况下都可以用一个很简单的分区法得到结果,本文给出一个计算方法和公式:

给定一个函数式f (x )和x 值域[a ,b ] ,指定分区数为n -1,计算c 分区后的值点函数:

其中(b -a )/(n -1)是x 每个区间的长度。在x 值域分布样本中,a 与b 既是值域区间,也是x 的最小最大样本点值,在这种情形下任何积分都可以转化为:

n 越大,越收敛于积分值。用这个公式可以很简单地把复杂的积分转化为离散化的求和。

现有文献中对采样方法的讨论,多数都是数学理论推导,对于各种方法在应用中的前提条件、必要步骤、适用条件、采样目标等问题都不够重视。例如在接受拒绝采样中,是仅仅需要一个f (x )解析式还是需要其数值?采样过程是否需要遍历f (x )的所有值点?是否可以限定样本容量?在介绍重要性采样的文献中,很少有人关注x 的样本形式、样本容量,样本频率等问题,而重点讨论如何求积分面积或另一个函数的均值问题。本文讨论的各种方法,都具有采集样本的实际可操作性。

五、特征样本在蒙特卡洛多元回归中的应用

为了模拟2016—2017年两个年度24个月中国货币供应量与有关变量的关系,下面例子采用特征样本重复采样回归方法,建立多元回归模型来估计回归参数。

y 代表货币供应量,x 1代表固定资产投资增速,x 2代表工业品出厂价格指数,x 3代表出口总额增速。模型形式为:

现在可以采用三种方法估计回归系数:

第一种方法是常规的最小二乘估计法,这种方法完全依赖原始数据样本。

第二种方法是Bootstrap方法,在常规回归结果的基础上,采用残差法进行重复再采样(例如200次),对模型进行校正。

第三种方法是建立在特征样本基础上的蒙特卡洛回归。这种方法不依赖观察数据,但要根据经验确定各个变量的分布特征和值域。

根据观察和经验,得知各变量的特征,详见表2。

表 2变量特征表 (月度数据 :2016.1-2017.12)

据此按照各个变量的特征采用前述特征样本随机采样方法,每次对每个变量独立抽取各自的特征样本(n =24),货币供应量指数采用标准曲线法采样,先用均匀分布在y 的值域采样,然后排序,固定资产投资增速和工业品出厂价格指数采用标准曲线法采样后,用转换算子将其转换到实际值,出口增速采用反函数曲线法采样;各个变量采样后,按照有序排列的方法,将3个x 变量的样本合并为一个包含4个变量的矩阵(加一个单位列向量),采用最小二乘估计方法对y 进行回归;计算机模拟重复200次,得到200个回归方程及各变量系数,每个变量的200个系数各自形成一个模拟t 分布,这里用的原假设为估计参数等于参数均值的设定,与一般的检验方向相反;按照系数出现最大频率即每个系数最接近均值的标准,可以找到一个最优的回归方程及其回归结果。三种方法估计系数在表3中列出。

表 3三种方法回归参数估计结果表

三种方法都采用t 检验,经典回归的系数是假设性检验,是原假设为0的拒绝性检验,后两种方法由于重复采样估计,已经有了采样分布的均值和标准差,所以是接受性检验,不落入拒绝区域就接受。可以看出,三种方法的回归结果并无很大差别,区别在于经典回归仅是一次性估计,有可能以一次估计的偶然性代替了必然性,后两种方法则可以算出其接受概率(α 接近0.5,说明系数接近均值)。Bootstrap回归是在经典回归基础上进行的,增加了步骤但并没有增加样本信息。特征样本回归则是在没有利用样本具体数据,只是了解其分布特征条件下做出的估计,很明显具有其特定的优势,而且是在多样本条件下利用大概率标准做出的选择,符合统计学原理。在数据不完整甚至无观察样本数据的情况下,只要对变量特征有所把握,就能估计出来一个不错的结果。

六、研究结论

本文的整体性贡献主要有:对特征样本的概念进行了界定,提出了特征样本采样的思想,对特征样本进行了系统分类;对特征样本采样方法进行了系统性研究,整理和设计了特征样本采样的10种方法,给出了每种方法的适用类型和所要求的计算条件;在方法设计中,特别侧重于实践可操作性。每种方法都给出了比较规范的公式和步骤。

本文的具体创新有:

第一,区分了分布型样本和曲线型样本,进而将分布型样本划分为频率分布样本和值域分布样本。设计了比例分布法用于生成值域分布样本,给出了值域分布样本与频率分布样本的转换方法,并将该方法用于曲线样本。本文的比例分布法与重要性采样法和接受拒绝采样法都采用了某种比例,后两种方法可以看作是比例分布法的一种类型,但本文的比例分布法不需要另外的分布,而是将一个复杂的函数化简为一个简单的函数y =kx ,更加简便易行,这也是本文没有将这两种方法纳入特征样本采样方法体系的原因。

第二,设计了分区分布法,用于生成频率分布样本和值域分布样本。在缺乏函数解析式的条件下,为特征样本采样提供了另外一种新的思路。

第三,给出了值域分布样本向频率分布样本转换的公式,便于在不同条件下生成的样本都能在后续应用中按需要选择。

第四,给出了通用的曲线样本的转换算子,使得按标准和非标准曲线生成的初始样本能够很方便地转换为目标值样本。

第五,给出了a ,b 值既作为x 区间最小最大值,也同时作为x 样本点值条件下求积分面积的近似公式,它与通常教材中给出的a ,b 值仅仅作为区间值的公式略有不同。利用它不仅可以计算复杂函数式的积分,也可以在任何一点按区间计算x ≤x i 时的面积或概率。

本文的基础性意义在于,样本的生成是构建一切统计量、进行统计推断、统计模拟、统计检验的基础。大数据时代,一些传统的抽样调查将被计算机模拟采样所替代。在机器学习和人工智能中,很多过程中都需要蒙特卡洛模拟。目前蒙特卡洛采样方法的研究还缺乏系统性、规范性和可操作性。本文对特征样本采样方法的系统性研究,将有助于蒙特卡洛方法的应用更加完善。

参考文献 :

[1] Geweke J.Bayesian Inference in Econometrics Models Using Monte Carlo Integration[J] .Econometrica,1989,57(6).

[2] Andrieu C,Doucet A,Holenstein R.Particle Markov Chain Monte Carlo Methods[J] .Journal of the Royal Statistical Society,2010,72(3).

[3] Pitt M K,Silva R D S,Giordani P,et al.On Some Properties of Markov Chain Monte Carlo Simulation Methods Based on the Particle Filter[J] .Journal of Econometrics,2012,171(2).

[4] Lindsten F,Jordan M I,Schön T B.Particle Gibbs with Ancestor Sampling[J] .Journal of Machine Learning Research,2014,15(15).

[5] Fu J,Wang L.A Random-discretization Based Monte Carlo Sampling Method and Its Applications[J] .Methodology and Computing in Applied Probability,2002(4).

[6] Wang L,Fu J.A Practical Sampling Approach for a Bayesian Mixture Model with Unknown Number of Components[J] .Statistical Papers,2007,48(4).

[7] Wang L,Lee C H.Discretization-based Direct Random Sample Generation,Computational Statistics and Data Analysis,2014,71(3).

[8] Doucet A,Godsill S,Andrieu C.On Sequential Monte Carlo Sampling Methods for Bayesian Filtering[J] .Statistics and Computing,2000(10).

[9] Andrieu C,Doucet A,Holenstein R.Particle Markov Chain Monte Carlo Methods[J] .Journal of the Royal Statistical Society,2010,72(3).

[10] 李宝瑜,刘雪晨,刘洋.特征样本重复采样建模方法和应用研究[J] .统计研究,2016,33(10).

The Research on Monte Carlo Feature Sample Generation Method

LIU Xue-chen,LI Bao-yu,ZHANG Xi

(School of Statistics,Shanxi University of Finance and Economics,Taiyuan 030006,China)

Abstract :From the purpose of Monte Carlo simulation,this paper discuss the Monte Carlo sampling method for feature samples.We define and classify the feature sample into two types,distribution type and curve type,and design 10 sampling methods.Then 4 examples are given to demonstrate the specific sampling methods and computer programs of feature samples.Finally,we illustrate the application of feature samples with an example of multivariate regression parameter estimation.

Key words :feature samples; machine sampling; Monte Carlo simulation

中图分类号 :C811

文献标志码: A

文章编号: 1007-3116(2019)01-0003-10

收稿日期 :2018-08-17;

修复日期: 2018-10-09

基金项目 :国家社会科学基金项目《社会科学通用特征小样本建模方法与程序实现研究》(16BTJ016)

作者简介 :刘雪晨,女,山西临汾人,博士生,研究方向:经济统计分析;李宝瑜,男,山西文水人,博士生导师,教授,研究方向:国民经济核算,经济统计分析,统计方法应用;张 晰,女,山西太原人,博士生,研究方向:统计方法与抽样技术。

(责任编辑 :崔国平 )

标签:;  ;  ;  ;  

蒙特卡洛特征样本采样方法研究论文
下载Doc文档

猜你喜欢