Tikhonov正则化在Zernike多项式拟合中的应用

粒子群算法在神经网络非线性函数拟合中的应用【精品文档】(完整版)

粒子群算法在神经网络非线性函数 拟合中的应用 一、本文研究和解决的问题 在自动控制问题中，系统辨识的目的是为了建立被控对象的数学模型。多年来，控制领域对于复杂的非线性对象的辨识一直未能很好的解决，神经网络所具有的非线性特性和学习能力使其在系统辨识方面有很大的潜力。为解决具有复杂的非线性、不确定性和不确知对象的辨识问题开辟了一条有效的途径。基于神经网络的系统辨识是以神经网络作为被辨识对象的模型，利用其非线性特性，可建立非线性系统的静态或动态模型。理论上，多层前馈神经网络能够以任意精度逼近任意非线性映射。 但传统神经网络学习算法中存在的收敛速度慢、容易陷入局部最优等缺点，于是设计了基于标准粒子群算法的神经网络非线性函数拟合系统。 二、传统的BP神经网络 BP 神经网络即采用误差反向传播算法的网络，是一种至今仍然最为流行的前馈型神经网络模型。BP 神经网络有很强的非线性映射能力，它能学习和存贮大量输入-输出模式映射关系，而无需事先了解描述这种映射关系的数学方程。只要能提供足够多的样本模式对供给网络进行学习训练，它便能完成由n 维输入空间到m 维输出空间的非线性映射。BP 学习算法属于误差修正型学习，其关键在于根据误差修正输出层和隐含层的连接权值。其学习的基本实现方法是基于最小平方误差准则和梯度下降优化方法来确定权值调整法则。 BP网络建模特点： 非线性映照能力：神经网络能以任意精度逼近任何非线性连续函数。在建模过程中的许多问题正是具有高度的非线性。 并行分布处理方式：在神经网络中信息是分布储存和并行处理的，这使它具有很强的容错性和很快的处理速度。 自学习和自适应能力：神经网络在训练时，能从输入、输出的数据中提取出规律性的知识，记忆于网络的权值中，并具有泛化能力，即将这组权值应用于一般情形的能力。神经网络的学习也可以在线进行。 数据融合的能力：神经网络可以同时处理定量信息和定性信息，因此它可以利用传统的工程技术（数值运算）和人工智能技术（符号处理）。 多变量系统：神经网络的输入和输出变量的数目是任意的，对单变量系统与多变量系统提供了一种通用的描述方式，不必考虑各子系统间的解耦问题。

matlab多项式拟合

matlab_最小二乘法数据拟合 (2012-10-21 12:19:27) 转载▼ 标签： matlab 最小二乘 数据拟合 定义： 最小二乘法（又称最小平方法）是一种数学优化技术。它通过最 小化误差的平方和寻找数据的最佳函数匹配。利用最小二乘法可 以简便地求得未知的数据，并使得这些求得的数据与实际数据之 间误差的平方和为最小。最小二乘法还可用于曲线拟合。其他一 些优化问题也可通过最小化能量或最大化熵用最小二 乘法来表 达。 最小二乘法原理： 在我们研究两个变量（x,y）之间的相互关系时，通 常可以得到一系列成对的数据（x1,y1.x2,y2... xm,ym）；

将这些数据描绘在x -y直角坐标系中，若发现这些点在一条直线附近，可以令这条直线方程如（式1-1）。 Yj= a0 + a1 X （式1-1) 其中：a0、a1 是任意实数 1.多项式曲线拟合:polyfit 1.1常见拟合曲线： 直线：y=a0X+a1 多项式： 一般次数不易过高2 3 双曲线：y=a0/x+a1 指数曲线：y=a*e^b 1.2 matlab中函数 P=polyfit(x,y,n) [P S mu]=polyfit(x,y,n) polyval（P，t）：返回n次多项式在t处的值 注：其中x y已知数据点向量分别表示横纵坐标，n 为拟合多项 式的次数，结果返回：P-返回n次拟合多项式系数从高到低 依次存放于向量P中，S-包含三个值其中normr是残差平方

和，mu-包含两个值mean（x）均值，std（x）标准差。 1.3举例 1. 已知观测数据为： X：0 1 2 3 4 5 6 7 8 9 1 Y：-0.447 1.987 3.28 6.16 7.08 7.34 7.66 9.56 9.48 9.3 11.2 用三次多项式曲线拟合这些数据点： x=0:0.1:1 y=[- 0.447,1.978,3.28,6.16,7.08,7.34,7.66,9.56,9.48,9.3,1 1. 2] plot(x,y,'k.','markersize',25) hold on axis([0 1.3 -2 16]) p3=polyfit(x,y,3) t=0:0.1:1.2: S3=polyval(P3,t); plot(t,S3,'r');

等式约束对病态问题的影响及约束正则化方法_谢建

第４０卷第１０期２０１５年１０月武汉大学学报·信息科学版 Ｇｅｏｍａｔｉｃｓ　ａｎｄ　Ｉｎｆｏｒｍａｔｉｏｎ　Ｓｃｉｅｎｃｅ　ｏｆ　Ｗｕｈａｎ　Ｕｎｉｖｅｒｓｉｔｙ Ｖｏｌ．４０Ｎｏ．１０ Ｏｃｔ．２０１５ 收稿日期：２０１３－１２－ １０项目来源：国家自然科学基金资助项目（４１２７４０１０ ）。第一作者：谢建，博士生，主要从事测量平差与测量数据处理研究。Ｅ－ｍａｉｌ：ｘｉｅｊ ｉａｎ＠ｃｓｕ．ｅｄｕ．ｃｎＤＯＩ：１０．１３２０３／ｊ．ｗｈｕｇｉｓ２０１３０７６４文章编号：１６７１－８８６０（２０１５）１０－１３４４－ ０５等式约束对病态问题的影响及约束正则化方法 谢　建１　朱建军１ １　中南大学地球科学与信息物理学院，湖南长沙，４１００８３ 摘　要：有效利用参数间已知的等式约束信息能够提高最小二乘解的精度，消除秩亏，但是等式约束能否消除或减弱平差模型的病态性尚不明了， 由此提出了一种通过消除部分参数将等式约束病态问题转化为无约束问题的方法。然后分析了等式约束对病态问题的影响，用简单实例证明了加入约束后，系统可能呈现良态或病态，它的性态由原设计阵和等式约束共同决定，并提出了求解等式约束病态问题的诊断－正则化两步方法。最后用一个数值实例验证了该方法的可行性。关键词：等式约束；秩亏；病态；影响分析；正则化中图法分类号：Ｐ２０７．２ 文献标志码：Ａ 大地测量数据处理中， 常出现秩亏和病态等现象。解决秩亏问题的常用方法是增加参数间坐标基准的加权等式约束或参数的加权二次范数最小准则， 求出特定基准下的最小范数最小二乘解［ １］ 。解病态问题也是附加参数间的加权二次范数约束， 使观测残差和参数范数间达到平衡而获得稳定的正则化解［２］ 。可见，上述不适定问题都 是通过增加约束信息来得到适定的解。这种信息有参数的一次式， 即参数间的线性等式约束，也有参数的二次式，即参数的二次范数。 对于秩亏数为ｄ的无约束平差问题，是附加 ｄ个线性无关的等式约束消除秩亏［１］ 。若秩亏问 题本身有ｓ个线性无关的约束， 那么只要添加ｄ－ｓ 个等式约束［３］ 。病态问题的正则化准则是对所有的参数施加二次约束，通过压缩解的长度来 减弱最小二乘解的不稳定性。但已有文献对等式约束是否减弱病态性少有研究，侧重于研究含有线性等式约束的病态问题的算法。Ｓａｒｋａｒ在约束最小二乘解前面乘以一个压缩因子，以减小病 态约束问题的方差［４］ ；Ｊüｒｇ ｅｎ在约束最小二乘解的基础上，将最小二乘解用Ｓａｒｋａｒ解代替，解的形式和约束最小二乘解相同，但是计算非常复 杂［５］ ；钟震利用椭圆约束的方法得到了约束病态问题的有偏估计［６］ ；谢建等用正则化的思想得到 了附等式约束病态问题的正则化解，其形式与附 加椭圆约束的有偏估计相同［ ７］ 。但是，上述方法是对所有的参数施加二次范数约束，都没有讨论等式约束本身能否消除或者减弱系统的病态性， 以及附加等式约束后模型的病态程度与哪些因素有关。本文首先将等式约束的病态问题通过消除部分参数转化为无约束问题， 分析无约束问题设计阵的病态性，然后给出了等式约束病态问题求解的方法。 １　等式约束对秩亏问题的影响 经典的测量平差函数模型和随机模型为 ［８］ ： Ｌ＝ＡＸ＋Δ（１ ）Ｅ（Ｌ）＝ＡＸ，Ｄ（Ｌ）＝σ２０ Ｐ－ １（２）式中，Ｌ、Δ分别表示ｎ维观测向量和误差向量； Ｘ为ｕ维参数向量；Ａ为ｎ×ｕ设计矩阵；σ２ ０为单位权方差；Ｐ为观测权矩阵。根据设计矩阵Ａ的性质，可以分为设计阵良态、秩亏和病态三种情况。下面对前两种情况的求解进行分析。１．１　设计阵Ａ是良态矩阵的最小二乘解 观测方程（１ ）相应的误差方程式为［８］ ：Ｖ＝Ａ＾Ｘ－Ｌ （３ ） 当设计阵Ａ是良态矩阵时， 若观测误差服从正态分布，在最小二乘准则φｍｉｎ（Ｖ）＝ＶＴＰＶ下，不需增加额外的信息，可以直接得到唯一且稳定的 最小二乘解［ ８］ ：＾ＸＬＳ＝Ｎ－１　ｗ（４ ）式中，Ｎ＝ＡＴＰＡ，ｗ＝ＡＴＰＬ， 分别表示法方程矩阵

一种非线性函数的曲线拟合方法

一种非线性函数的曲线拟合方法（函数公式：k = A*(T^a)*exp(E/T) ） 上一篇文章说了，函数的曲线拟合我以前没做过，所以是摸着石头过河，不知道所采用的方法是否合理，虽然是完成了拟合，不过我觉得自己采用的拟合方法还是比较原始的，希望做曲线拟合的朋友多多指教。 原始数据如下： T(K) K 200.00 2.5069E-13 220.00 3.5043E-13 223.00 3.6741E-13 225.00 3.7904E-13 250.00 5.4617E-13 275.00 7.5744E-13 295.00 9.6192E-13 298.00 9.9551E-13 300.00 1.0183E-12 325.00 1.3346E-12 350.00 1.7119E-12 375.00 2.1564E-12 400.00 2.6739E-12 425.00 3.2706E-12 450.00 3.9527E-12 475.00 4.7261E-12 480.00 4.8922E-12 500.00 5.5968E-12 525.00 6.5710E-12 550.00 7.6544E-12 575.00 8.8529E-12 600.00 1.0172E-11

800.00 2.5705E-11 1000.00 5.1733E-11 1250.00 1.0165E-10 目标：拟合成k = A*(T^a)*exp(E/T) 模式的公式， 其中A、a和E为未知常数，是我们需要通过曲线拟合要求出的数据。 拟合目标中的公式是幂逼近和指数逼近的混合，用Matlab的cftool 工具箱的自定义函数来逼近，效果并不理想，所以我就参考了网上的一些博客和百度知道等资源，采取如下策略： 首先将非线性的拟合公式转化为线性公式，再用求解线性方程组的矩阵方法求出未知常数的值。 具体地说，拟合公式的线性化表达式为：log(k) = log(A) + a*log(T) + E/T 。这里有三个未知常数log(A)、a 和E，则依次取T，K各三个数据，组成N 个线性方程组：Cx=b，其中：x=[log(A), a, E], C=[1, log(T), 1/T], b=log(k) 。 解这些线性方程组，得到所有方程组的解组成的解矩阵xMat，其大小为N*3，对解矩阵的每一列求平均，即可得到所求的未知常数值。 根据以上策略，可求得未知常数A、a和E的值如下： A = 3.8858e-020，a = 3.0595，E = -117.2915 程序源码： function [A,a,E]= fun_NLFit(T,K) % 函数FUN_NLFIT() 根据输入T，K的数据集，求出拟合公式k = A*(T^a)*exp(E/T) % 的未知常数A,a,E 。 logT=log(T); logK=log(K);

最小二乘法的多项式拟合matlab实现

最小二乘法的多项式拟 合m a t l a b实现 Document serial number【NL89WT-NY98YT-NC8CB-NNUUT-NUT108】

用最小二乘法进行多项式拟合（matlab 实现） 西安交通大学 徐彬华 算法分析： 对给定数据 (i=0 ,1,2,3,..,m),一共m+1个数据点，取多项式P(x),使 函数P(x)称为拟合函数或最小二乘解，令似的 使得 其中，a0，a1,a2,…,an 为待求未知数，n 为多项式的最高次幂，由此，该问题化为求 的极值问题。由多元函数求极值的必要条件： j=0,1,…,n 得到： j=0,1,…,n 这是一个关于a0，a1,a2,…,an 的线性方程组，用矩阵表示如下：

因此，只要给出数据点 及其个数m ，再给出所要拟合的参数n ，则即可求出未知数矩阵（a0，a1,a2,…,an ） 试验题1 编制以函数 为基的多项式最小二乘拟合程序，并用于对下列数据作三次多项式最小二乘拟合(取权函数wi ≡1) x i y i 总共有7个数据点，令m=6 第一步：画出已知数据的的散点图，确定拟合参数n; x=::;y=[,,,,,,]; plot(x,y,'*') xlabel 'x 轴' ylabel 'y 轴' title '散点图' hold on {} n k k x 0=

因此将拟合参数n设为3. 第二步：计算矩阵 A= 注意到该矩阵为（n+1）*(n+1)矩阵， 多项式的幂跟行、列坐标（i,j）的关系为i+j-2,由此可建立循环来求矩阵的各个元素，程序如下： m=6;n=3; A=zeros(n+1); for j=1:n+1 for i=1:n+1 for k=1:m+1 A(j,i)=A(j,i)+x(k)^(j+i-2) end end

Matlab多项式拟合曲线

?MATLAB软件提供了基本的曲线拟合函数的命令． 1 多项式函数拟合：a=polyfit(xdata,ydata,n) 其中n表示多项式的最高阶数，xdata，ydata为将要拟合的数据，它是用数组的方式输入．输出参数a 为拟合多项式的系数 多项式在x处的值y可用下面程序计算． y=polyval(a,x) 2 一般的曲线拟合：p=curvefit(‘Fun’,p0,xdata,ydata) 其中Fun表示函数Fun(p,data)的M函数文件，p0表示函数的初值．curvefit()命令的求解问题形式是若要求解点x处的函数值可用程序f=Fun(p,x)计算． 例如已知函数形式，并且已知数据点要确定四个未知参数a，b，c，d． 使用curvefit命令，数据输入；初值输；并且建立函数的M文件（Fun．m）．若定义，则输出 又如引例的求解，MATLAB程序： t=[l：16]；％数据输人 y=[ 4 6．4 8 8．4 9．28 9．5 9．7 9．86 10．2 10．32 10．42 10．5 10．55 1 0．58 10．6] ； plot(t,y,’o’) ％画散点图 p=polyfit(t,y,2) (二次多项式拟合） 计算结果： p=-0.0445 1.0711 4.3252 %二次多项式的系数 由此得到某化合物的浓度y与时间t的拟合函数。 ?zjxdede | 2008-10-17 12:10:06 ?MATLAB软件提供了基本的曲线拟合函数的命令． 1 多项式函数拟合：a=polyfit(xdata,ydata,n) 其中n表示多项式的最高阶数，xdata，ydata为将要拟合的数据，它是用数组的方式输入．输出参数a为拟合多项式的系数 多项式在x处的值y可用下面程序计算． y=polyval(a,x) 2 一般的曲线拟合：p=curvefit(‘Fun’,p0,xdata,y data) 其中Fun表示函数Fun(p,data)的M函数文件，p0表示函数的初值．curvefit()命令的求解问题形式是 若要求解点x处的函数值可用程序f=Fun(p,x)计算． 例如已知函数形式，并且已知数据点要确定四个未知参数a，b，c，d． 使用curvefit命令，数据输入；初值输；并且建立函数的M文件（Fun．m）．若定义，则输出 又如引例的求解，MATLAB程序： t=[l：16]；％数据输人 y=[ 4 6．4 8 8．4 9．28 9．5 9．7 9．86 10．2 10．32 10．42 10．5 1 0．55 10．58 10．6] ；

层析反演中的正则化方法研究

李辉，王华忠，张兵．层析反演中的正则化方法研究［Ｊ］．石油物探，２０１５，５４（５）：５６９　－ ５８１Ｌｉ　Ｈｕｉ，Ｗａｎｇ　Ｈｕａｚｈｏｎｇ，Ｚｈａｎｇ　Ｂｉｎｇ．Ｔｈｅ　ｓｔｕｄｙ　ｏｆ　ｒｅｇｕｌａｒｉｚａｔｉｏｎ　ｉｎ　ｔｏｍｏｇｒａｐｈｙ［Ｊ］．Ｇｅｏｐｈｙｓｉｃａｌ　Ｐｒｏｓｐｅｃｔｉｎｇ　ｆｏｒ　Ｐｅｔｒｏｌｅｕｍ，２０１５，５４（５）：５６９　－ ５８１收稿日期：２０１４－１１－２４；改回日期：２０１５－０２－ ２６。作者简介：李辉（１９８５—） ，男，博士，现从事射线类偏移与反演的研究工作。基金项目：国家自然科学基金（４１３７４１１７）、国家重点基础研究发展计划（９７３计划）项目（２０１１ＣＢ２０１００２） 、国家科技重大专项项目（２０１１ＺＸ０５００３－００３，２０１１ＺＸ０５００５－００５－００８ＨＺ，２０１１ＺＸ０５００６－００２）和中国石化地球物理重点实验室开放基金项目（３３５５０００６－１４－ ＦＷ２０９９－ ００２６）共同资助。层析反演中的正则化方法研究 李　辉１，２，王华忠１，张　兵１， ３ （１．同济大学海洋与地球科学学院波现象与反演成像研究组，上海２０００９２；２．青凤致远应用地球物理研究所，上海２０００９３；３．中国石油化工股份有限公司石油物探技术研究院，江苏南京２１１１０３ ）摘要：正则化可显著降低层析反演解的非唯一性，提高层析反演结果的质量。主要研究了模型参数正则化和数据正则化。地下介质参数之间的关联性如何加入模型正则化是讨论的问题之一；观测数据之间的关联性加入数据正则化的方法则是另一个主要议题。此外，讨论了Ｔｉｋｈｏｎｏｖ正则化和预条件两种模型正则化实现策略，指出前者理论比较直观，后者计算效率更高，并证明了两者在理论上的等价性。模型正则化通过构造各向异性光滑算子加入地质构造特征，数据正则化则通过在层析矩阵中加入预先构造的数据预条件矩阵来实现。通过层析偏移速度分析给出了模型正则化和数据正则化的具体实现策略。理论分析和层析偏移速度分析的数值实验说明本文的模型正则化和数据正则化可显著提高层析反演的质量。 关键词：层析偏移速度分析；模型正则化；数据正则化；预条件；地质构造约束中图分类号：Ｐ６３１ 文献标识码：Ａ 文章编号：１０００－１４４１（２０１５）０５－０５６９－１３　 ＤＯＩ：１０．３９６９／ｊ ．ｉｓｓｎ．１０００－１４４１．２０１５．０５．０１０Ｔｈｅ　ｓｔｕｄｙ　 ｏｆ　ｒｅｇｕｌａｒｉｚａｔｉｏｎ　ｉｎ　ｔｏｍｏｇｒａｐｈｙＬｉ　Ｈｕｉ　１，Ｗａｎｇ　Ｈｕａｚｈｏｎｇ１，Ｚｈａｎｇ　 Ｂｉｎｇ１，２ （１．Ｗａｖｅ　Ｐｈｅｎｏｍｅｎａ　ａｎｄ　Ｉｎｖｅｒｓｉｏｎ　Ｉｍａｇｉｎｇ　Ｇｒｏｕｐ（ＷＰＩ），Ｔｏｎｇｊｉ　Ｕｎｉｖｅｒｓｉｔｙ，Ｓｈａｎｇｈａｉ　２０００９２，Ｃｈｉｎａ；２．Ｑｉｎｇｆｅｎｇ－ ｚｈｉｙｕａｎ　Ａｐｐｌｉｅｄ　Ｇｅｏｐｈｙｓｉｃｓ　Ｉｎｓｔｉｔｕｔｅ，Ｓｈａｎｇｈａｉ　２０００９３，Ｃｈｉｎａ；３．Ｓｉｎｏｐｅｃ　Ｇｅｏｐｈｙｓｉｃａｌ　Ｒｅｓｅａｒｃｈ　Ｉｎｓｔｉｔｕｔｅ，Ｎａｎｊｉｎｇ２１１１０３，Ｃｈｉｎａ） Ａｂｓｔｒａｃｔ：Ｒｅｇｕｌａｒｉｚａｔｉｏｎ　ｉｎ　ｔｏｍｏｇｒａｐｈｙ　ｉｓ　ａｂｌｅ　ｔｏ　ｗｅａｋｅｎ　ｔｈｅ　ｎｏｎ－ｕｎｉｑｕｅｎｅｓｓ　ｏｆ　ｔｏｍｏｇｒａｐｈｙ　ｔｏ　ｉｍｐｒｏｖｅ　ｔｈｅ　ｉｎｖｅｒｓｉｏｎ　ｒｅｓｕｌｔ－Ｔｈｅ　ｄｉｓｃｕｓｓｉｏｎ　ｏｆ　ｒｅｇｕｌａｒｉｚａｔｉｏｎ　ｉｎ　ｔｈｉｓ　ｐａｐｅｒ　ｉｎｃｌｕｄｅｓ　ｍｏｄｅｌ－ｒｅｇｕｌａｒｉｚａｔｉｏｎ　ａｎｄ　ｄａｔａ－ｒｅｇｕｌａｒｉｚａｔｉｏｎＭｏｄｅｌ　ｐａｒａｍｅｔｅｒｓ　ａｒｅ　ｎｏｔ　ｉ－ｓｏｌａｔｅｄ，ｈｏｗ　ｔｏ　ａｄｄ　ｔｈｅ　ｒｅｌａｔｉｏｎｓｈｉｐ　ｏｆ　ｔｈｅｓｅ　ｐａｒａｍｅｔｅｒｓ　ｉｎｔｏ　ｔｏｍｏｇｒａｐｈｙ　ｉｓ　ｏｎｅ　ｏｆ　ｔｈｅ　ｍｉｓｓｉｏｎｓ　ｈｅｒｅＳｉｍｉｌａｒｌｙ，ｃｏｎｓｉｄｅｒｉｎｇ　ｄａ－ｔｕｍ　ｒｅｌａｔｉｏｎｓｈｉｐ　ｉｎ　ｔｏｍｏｇｒａｐｈｙ　ｉｓ　ａｎｏｔｈｅｒ　ｐｒｏｂｌｅｍＴｈｅ　ｓｏ－ｃａｌｌｅｄ“ｓｔｒａｉｇｈｔｆｏｒｗａｒｄ　ｒｅｇｕｌａｒｉｚａｔｉｏｎ”ａｎｄ　ｔｈｅ“ｐｒｅｃｏｎｄｉｔｉｏｎ　ｒｅｇｕ－ｌａｒｉｚａｔｉｏｎ”ａｒｅ　ｆｏｃｕｓｅｄ，ａｎｄ　ｗｅ　ａｃｈｉｅｖｅ　ｔｈａｔ　ｔｈｅ　ｆｏｒｍｅｒ　ｉｓ　ｉｎｔｕｉｔｉｏｎｉｓｔｉｃ　ａｎｄ　ｔｈｅ　ｌａｔｔｅｒ　ｉｓ　ｍｏｒｅ　ｅｆｆｉｃｉｅｎｃｙＡｌｓｏ，ｗｅ　ｐｏｉｎｔ　ｏｕｔ　ｔｈａｔｔｈｅ　ａｂｏｖｅ　ｔｗｏ　ａｌｇｏｒｉｔｈｍｓ　ａｒｅ　ｅｑｕｉｖａｌｅｎｔ　ｔｏ　ｅａｃｈ　ｏｔｈｅｒ，ａｎｄ　ｔｈｉｓ　ｗｉｌｌ　ｂｅ　ｓｈｏｗｎ　ｉｎ　ｔｈｉｓ　ｐａｐｅｒＴｈｅ　ｇｅｏｌｏｇｉｃａｌ　ｓｔｒｕｃｔｕｒｅ　ｃｈａｒａｃｔｅｒ－ｉｓｔｉｃｓ　ｏｆ　ｔｈｅ　ｍｅｄｉｕｍ　ｃａｎ　ｂｅ　ｉｎｔｅｇｒａｔｅｄ　ｉｎｔｏ　ｔｈｅ　ｔｏｍｏｇｒａｐｈｙ　ｕｓｉｎｇ　ｔｈｅ　ｍｏｄｅｌ－ｒｅｇｕｌａｒｉｚａｔｉｏｎ　ｗｉｔｈ　ａｎｉｓｏｔｒｏｐｉｃ　ｓｍｏｏｔｈ　ｍａｔｒｉｘ．Ｔｈｅ　ｄａｔａ－ｒｅｇｕｌａｒｉｚａｔｉｏｎ　ｉｓ　ｒｅａｌｉｚｅｄ　ｗｉｔｈ　ａｎｏｔｈｅｒ　ｓｍｏｏｔｈ　ｏｐｅｒａｔｏｒ　ｗｈｉｃｈ　ｗｉｌｌ　ｂｅ　ｉｎｔｅｇｒａｔｅｄ　ｉｎｔｏ　ｔｈｅ　ｔｏｍｏｇｒａｐｈｉｃ　ｍａｔｒｉｘ．Ｔｈｅｍｏｄｅｌ－ｒｅｇｕｌａｒｉｚａｔｉｏｎ　ａｎｄ　ｄａｔａ－ｒｅｇｕｌａｒｉｚａｔｉｏｎ　ａｒｅ　ｔｅｓｔｅｄ　ｗｉｔｈ　ｔｏｍｏｇｒａｐｈｉｃ　ｍｉｇｒａｔｉｏｎ　ｖｅｌｏｃｉｔｙ　ａｎａｌｙｓｉｓ（ＭＶＡ）ａｌｇｏｒｉｔｈｍ．Ｔｈｅｒｅｓｕｌｔｓ　ｏｆ　ｔｈｅｏｒｙ　ａｎｄ　ｎｕｍｅｒｉｃａｌ　ｅｘｐｅｒｉｍｅｎｔｓ　ｗｉｔｈ　ｔｏｍｏｇｒａｐｈｉｃ　ＭＶＡ　ｓｈｏｗ　ｔｈａｔ　ｔｈｅ　ｐｒｏｐｏｓｅｄ　ｍｏｄｅｌ－ｒｅｇｕｌａｒｉｚａｔｉｏｎ　ａｎｄ　ｔｈｅ　ｄａ－ｔａ－ｒｅｇｕｌａｒｉｚａｔｉｏｎ　ａｒｅ　ｂｏｔｈ　ａｂｌｅ　ｔｏ　ｉｍｐｒｏｖｅ　ｔｈｅ　ｑｕａｌｉｔｙ　ｏｆ　ｔｏｍｏｇｒａｐｈｙ　 ｏｂｖｉｏｕｓｌｙ．Ｋｅｙ ｗｏｒｄｓ：ｔｏｍｏｇｒａｐｈｉｃ　ＭＶＡ，ｍｏｄｅｌ－ｒｅｇｕｌａｒｉｚａｔｉｏｎ，ｄａｔａ－ｒｅｇｕｌａｒｉｚａｔｉｏｎ，ｐｒｅｃｏｎｄｉｔｉｏｎ，ｇｅｏｌｏｇｉｃａｌ　ｓｔｒｕｃｔｕｒｅ　ｃｏｎｓｔｒａｉｎｔ 随着勘探地震技术的发展以及石油工业需求 的提高，叠前深度偏移逐渐成为工业应用中偏移技 ９ ６５第５４卷第５期２０１５年９月石　油　物　探 ＧＥＯＰＨＹＳＩＣＡＬ　ＰＲＯＳＰＥＣＴＩＮＧ　ＦＯＲ　 ＰＥＴＲＯＬＥＵＭＶｏｌ．５４， Ｎｏ．５Ｓｅｐ．，２０１５

最小二乘拟合平面和直线matlab

利用Matlab实现直线和平面的拟合 1、直线拟合的matlab代码 % Fitting a best-fit line to data, both noisy and non-noisy x = rand(1,10); n = rand(size(x)); % Noise y = 2*x + 3; % x and y satisfy y = 2*x + 3 yn = y + n; % x and yn roughly satisfy yn = 2*x + 3 due to the noise % Determine coefficients for non-noisy line y=m1*x+b1 Xcolv = x(:); % Make X a column vector Ycolv = y(:); % Make Y a column vector Const = ones(size(Xcolv)); % Vector of ones for constant term Coeffs = [Xcolv Const]\Ycolv; % Find the coefficients m1 = Coeffs(1); b1 = Coeffs(2); % To fit another function to this data, simply change the first % matrix on the line defining Coeffs % For example, this code would fit a quadratic % y = Coeffs(1)*x^2+Coeffs(2)*x+Coeffs(3) % Coeffs = [Xcolv.^2 Xcolv Const]\Ycolv; % Note the .^ before the exponent of the first term % Plot the original points and the fitted curve figure plot(x,y,'ro') hold on x2 = 0:0.01:1; y2 = m1*x2+b1; % Evaluate fitted curve at many points plot(x2, y2, 'g-') title(sprintf('Non-noisy data: y=%f*x+%f',m1,b1)) % Determine coefficients for noisy line yn=m2*x+b2 Xcolv = x(:); % Make X a column vector Yncolv = yn(:); % Make Yn a column vector Const = ones(size(Xcolv)); % Vector of ones for constant term NoisyCoeffs = [Xcolv Const]\Yncolv; % Find the coefficients m2 = NoisyCoeffs(1); b2 = NoisyCoeffs(2); % Plot the original points and the fitted curve figure plot(x,yn,'ro')

正则化方法

3.2正则化方法的概念 从数学角度来分析，CT 中的有限角度重建问题相当于求解一个欠定的代数方程组，属于不适定问题研究范畴，解决这类问题通常需要引入正则化方法]27,26[。 3.2.1不适定的概念 设算子A 映X x ∈为P p ∈，X 与P 分别为某类赋范空间，记 P Ax = (3.9) 在经典意义下求解(3.9)，就存在下述问题： (1)(3.9)式的解是否存在； (2)(3.9)式的解如果存在，是否唯一； (3)(3.9)式的解是否稳定或者说算子A 是否连续：对于右端的P 在某种意义下作微小的变动时，相应的解童是不是也只作微小的变动。 只要这些问题中有一个是否定的，就称(3.9)的解是不适定的。 3.2.2正则化方法概念的引入 设算子A 映X x ∈为P p ∈，X 与P 分别为某类赋范空间，二者满足(3.9)式。设A 的逆算子1-A 不连续，并假定当右端精确值为r p 时，得到经典意义下的解为r x ，即满足 r r P Ax = (3.10) 现在的问题是，如果右端受到扰动后变为δp ，且二者满足关系 δδ≤-r p p (3.11) 其中，?为某范数。则由于1-A 的不连续性，我们显然不能定义r p 对应的解为： δδp A x 1-= (3.12)

因此，必须修改该逆算子的定义。 定义：设算子),(αp R 映p 成x ，且依赖一个参数α，并具有如下性质： (1)存在正数01>δ，使得对于任意0>α，以及r p 的)(1δδδ≤邻域中的p ，即满足 10,δδδ≤<≤-p p r (3.13) 的p ，算子R 有定义。 (2)若对任意的0>ε，都存在),0(1δδ∈及依赖于δ的参数)(δαα=，使得算子),(αp R 映r p 的δ邻域到r x 的ε领域内，即 εδαδδ≤-=r x x x p R ,))(,( (3.14) 则称),(αp R 为方程(3.14)中A 的正则逆算子；δx 称为方程(3.14)的正则解，当0→δ时，正则解可以逼近我们所要求的精确解；α称为正则化参数。这样的求解方法就称为正则化方法。

正则化和反问题

正则化和反问题 正则化(regularization)在线性代数理论中，不适定问题通常是由一组线性代数方程定义的，而且这组方程组通常来源于有着很大的条件数的不适定反问题。大条件数意味着舍入误差或其它误差会严重地影响问题的结果。反问题有两种形式。最普遍的形式是已知系统和输出求输入，另一种系统未知的情况通常也被视为反问题。许多反问题很难被解决，但是其他反问题却很容易得到答案。显然，易于解决的问题不会比很难解决的问题更能引起人们的兴趣，我们直接解决它们就可以了。那些很难被解决的问题则被称为不适定的。一个不适定问题通常是病态的，并且不论是简单地还是复杂地改变问题本身的形式都不会显著地改善病态问题。另一方面，病态问题不一定是不适定的，因为通过改变问题的形式往往可以改善病态问题。在严格的数学意义上，我们通常不可能对不适定问题进行求解并得到准确解答。然而，通过使用我们的先验知识，我们通常有希望能够得到一个接近准确解答的答案。 求解不适定问题的普遍方法是：用一族与原不适定问题相"邻近"的适定问题的解去逼近原问题的解,这种方法称为正则化方法。如何建立有效的正则化方法是反问题领域中不适定问题研究的重要内容。通常的正则化方法有基于变分原理的Tikhonov正则化、各种迭代方法以及其它的一些改进方法,这些方法都是求解不适定问题的有效方法,在各类反问题的研究中被广泛采用,并得到深入研究。 正则化：Normalization，代数几何中的一个概念。 通俗来说，就是给平面不可约代数曲线以某种形式的全纯参数表示。 即对于PC^2中的不可约代数曲线C，寻找一个紧Riemann面C*和一个全纯映射σ：C*→PC^2,使得σ(C*)=C 严格的定义如下： 设C是不可约平面代数曲线，S是C的奇点的集合。如果存在紧Riemann 面C*及全纯映射σ：C*→PC^2,使得

Matlab的应用-多项式函数及多项式拟合

Matlab的应用-多项式函数及多项式拟合 本节将向大家简要介绍matlab 在多项式处理方面的应用。 多项式函数主要有： roots 求多项式的根 poly 特征多项式 polyval 多项式的计算 poly2str(p,'x')多项式代换 polyfit 多项式曲线拟合 conv 多项式乘法 deconv 多项式除法 polyder 微分多项式 下面我们将介绍这些函数的用法： 1，roots---求多项式的根 格式:roots(c) 说明:它表示计算一个多项式的根,此多项式系数是向量c的元素.如果c有n+1个元素,那么此多项式为: c(1)*x^n+c(2)*x^(n-1)+c(3)*x^(n-2)+--+c(n)*x+c(n+1) 2，poly---特征多项式 格式：poly(a) 说明:（1）如果a是一个n阶矩阵,poly(a)是一个有n+1个元素的行向量,这n+1个元素是特征多项式的系数(降幂排列). （2）如果a是一个n维向量,则poly(a)是多项式(x-a(1))*(x-a(2))*..(x-a(n))，即该多项式以向量a的元素为根。 3，polyval—多项式计算 格式：polyval(v,s) 说明: 如果v是一个向量,它的元素是一个多项式的系数,那麽polyval(v,s)是多项式在s处的值. 如果s是一个矩阵或是一个向量,则多项式在s中所有元素上求值 例如: v=*1 2 3 4+;vv=poly2str(v,’s’)

(即v=s^3+2*s^2+3*s+4) s=2; x=polyval(v,s) x = 26 例如: v=[1 2 3 4]; s=[2 4]; polyval(v,s) ans=26 112 4，conv-多项式乘法 例：as=[1 2 3] as = 1 2 3 >> az=[2 4 2 1] az = 2 4 2 1 >> conv(as,az) ans = 2 8 16 17 8 3 conv(az,as) ans = 2 8 16 17 8 3 5，deconv-多项式除法 例：deconv(az,as)%返回结果是商式的系数 ans = 2 0 [awwq,qw]=deconv(az,as)%awwq是商式的系数，qw是余式的系数 awwq = 2 0 qw = 0 0 -4 1 6，polyder 微分多项式 polyder(as) ans = 2 2 7，polyfit--多项式曲线拟合 格式::polyfit(x,y,n) 说明:polyfit(x,y,n)是找n次多项式p(x)的系数,这些系数满足在最小二乘法意义下p(x(i)) ~= y(i). “人口问题”是我国最大社会问题之一，估计人口数量和发展趋势是我们制定一系列相关政策的基础。有人口统计年鉴，可查到我国从1949年至1994年人口数据资料如下： 年份 1949

正则化简介

正则化(regularization) 正则化(regularization)在线性代数理论中，不适定问题通常是由一组线性代数方程定义的，而且这组方程组通常来源于有着很大的条件数的不适定反问题。大条件数意味着舍入误差或其它误差会严重地影响问题的结果。反问题有两种形式。最普遍的形式是已知系统和输出求输入，另一种系统未知的情况通常也被视为反问题。许多反问题很难被解决，但是其他反问题却很容易得到答案。显然，易于解决的问题不会比很难解决的问题更能引起人们的兴趣，我们直接解决它们就可以了。那些很难被解决的问题则被称为不适定的。一个不适定问题通常是病态的，并且不论是简单地还是复杂地改变问题本身的形式都不会显著地改善病 态问题。另一方面，病态问题不一定是不适定的，因为通过改变问题的形式往往可以改善病态问题。在严格的数学意义上，我们通常不可能对不适定问题进行求解并得到准确解答。然而，通过使用我们的先验知识，我们通常有希望能够得到一个接近准确解答的答案。 求解不适定问题的普遍方法是:用一族与原不适定问题相“邻近”的适定问题的解去逼近原问题的解,这种方法称为正则化方法。如何建立有效的正则化方法是反问题领域中不适定问题研究的重要内容。通常的正则化方法有基于变分原理的Tikhonov 正则化、各种迭代方法以及其它的一些改进方法,这些方法都是求解不适定问题的有效方法,在各 类反问题的研究中被广泛采用,并得到深入研究。 正则化:Normalization，代数几何中的一个概念。 通俗来说，就是给平面不可约代数曲线以某种形式的全纯参数表

示。 即对于PC^2中的不可约代数曲线C，寻找一个紧Riemann面C*和一个全纯映射σ:C*→PC^2,使得σ(C*)=C 严格的定义如下: 设C是不可约平面代数曲线，S是C的奇点的集合。如果存在紧Riemann面C*及全纯映射σ:C*→PC^2,使得 (1) σ(C*)=C (2) σ^(-1)(S)是有限点集 (3) σ:C*\σ^(-1)(S)→C\S是一对一的映射 则称(C*,σ)为C的正则化。不至于混淆的时候，也可以称C*为C 的正则化。 正则化的做法，实际上是在不可约平面代数曲线的奇点处，把具有不同切线的曲线分支分开，从而消除这种奇异性。[1] 正则化方法 Regularization Method 正则化算子 regularizing operator 物理学中，尤其是量子场论，正则化(regularization)是一项处理无限大、发散以及一些不合理表示式的方法，其方法透过引入一项辅助性的概念——正则化因子(regulator)。举例来说，若短距离物理效应出现发散，则设定一项空间中最小距离来解决这情形。正确的物理结果是让正则化因子消失(此例是) 的极限情形，不过正则化因子的用意就在于当它是有限值，理论结果也是有限值的。正则化是将数学中的发散级数的可和性方法(summability methods)用在物理学问题上。

正则化参数的确定方法

1. 拟最优准则 Tikhonov 指出当数据误差水平δ和η未知时，可根据下面的拟最优准则： 0min opt dx d ααααα>????=?????? （1-1） 来确定正则参数。其基本思想是：让正则参数α以及正则解对该参数的变化率同时稳定在尽可能小的水平上。 2. 广义交叉验证 令 22(())/()[(())]/I A y m V tr I A m δααα-=- （2-1） 其中，* 1*()A (A A I)A h h h h A αα-=+，1(I A())(1())m kk k tr ααα=-=-∑，()kk αα为()A α的 对角元素。这样可以取* α满足 *()min ()V V αα= （2-2） 此法源于统计估计理论中选择最佳模型的PRESS 准则，但比它更稳健。 3. L_曲线法 L 曲线准则是指以log-log 尺度来描述与的曲线对比，进而根据该对比结果来确定正则 参数的方法。其名称由来是基于上述尺度作图时将出现一个明显的L 曲线。 运用L 曲线准则的关键是给出L 曲线偶角的数学定义,进而应用该准则选取参数α。Hanke 等[64]建议定义L 曲线的偶角为L 曲线在log-log 尺度下的最大曲率。令log b Ax αρ=- ，log x αθ=，则该曲率作为参数α的函数定义为 '''''' 3 '2'22()(()())c ρθρθαρθ-=+ （3-1） 其中“'”表示关于α的微分。 H.W.Engl 在文献[40]中指出:在相当多的情况下,L 曲线准则可通过极小化泛函 ()x b Ax ααφα=-来实现。即,选取*α使得 {} *0arg inf ()ααφα>= （3-2） 这一准则更便于在数值计算上加以实施。 但到目前为止,还没有相关文献获得过关于L 曲线准则的收敛性结果。另一方面,有文献己举反例指出了L 曲线准则的不收敛性。虽然如此,数值计算的结果表明,L 曲线准则与GCV 一样,具有很强的适应性。 4. 偏差原理: 定理4-1:(Morozov 偏差原理)[135]如果()φα是单值函数,则当0(,)U z A u ρδ>时存在这 样的()ααδ=,使得:

基于BP神经网络的非线性函数拟合

基于BP神经网络的非线性函数拟合 摘要：本文建立BP神经网络对一个多输入多输出系统的二元非线性函数进行拟合，仿真实验表明：在样本数据充足且不含噪声的情况下，训练的精度越高，逼近的效果越好；数据不充足且不含噪声时，训练精度的高低在一定范围内对于网络性能没有决定性的影响，网络性能主要取决于初始化；不管训练数据是否充足，若含有噪声，训练精度过高会使网络泛化能力降低。 0引言 作为当前应用最为广泛的一种人工神经网络，BP网络在函数逼近、模式识别、数据压缩、智能控制等领域有着非常广泛的应用。BP网络由大量简单处理单元广泛互联而成，是一种对非线性函数进行权值训练的多层映射网络，结构简单，工作状态稳定，具有优良的非线性映射能力，理论上它能够以任意精度逼近任意非线性函数。BP神经网络通过学习能够存储大量输入输出样本中蕴含的映射关系，只需提供足够的样本模式对BP网络进行训练，而无需事先了解数学方程。本文采用BP神经网络解决下列函数拟合问题。 函数逼近：设计一个神经网络拟合下列多输入多输出函数： y1=2+x1RP1.5-1.5sin(3x2); y2=x2sin(x1)+x1cos(x2); 1< x1, x2<5 产生200个数据，其中100个用来训练网络，另外100个用于网络模型的测试。1BP神经网络结构和算法 一个典型的3层BP神经网络结构如图1所示，包括输入层、隐含层和输出层。各层

神经元之间无反馈连接，各层内神经元之间无任何连接。其中隐含层的状态影响输入输出之间的关系，及通过改变隐含层的权系数，就可以改变整个多层神经网络的性能。BP 神经网络的学习过程由正向传播和反向传播组成。在正向传播中，输入的样本从输入层经过隐含层之后，传向输出层，在逐层处理的过程中，每一层神经元的状态只对下一层神经元的状态产生影响。在输出层把现行输出和期望输出进行比较，如果现行输出不等于期望输出，则进入反向传播过程。反向传播过程中，误差信号从输出层向输入层传播，并对每个隐含层的各个神经元的权系数进行修改，使误差不断减少，直至达到精度要求。BP 算法的实质是求取误差函数最小值问题，通过多个样本的反复训练，一般采用非线性规划中的最速下降方法，按误差函数的负梯度方向修改权系数。 隐含节点 图1 典型3层BP神经网络结构图 2用于函数拟合的BP神经网络模型的建立 为建立函数拟合的BP神经网络模型，一般要考虑以下几步： (1) 样本数据的产生 为简单起见，在x1，x2均属于[1,5]区间内选择均匀分布的200个数据点分别作为训练和测试样本。如图2所示。

Tikhonov吉洪诺夫正则化

Tikhonov regularization From Wikipedia, the free encyclopedia Tikhonov regularization is the most commonly used method of regularization of ill-posed problems named for Andrey Tychonoff. In statistics, the method is also known as ridge regression . It is related to the Levenberg-Marquardt algorithm for non-linear least-squares problems. The standard approach to solve an underdetermined system of linear equations given as ,b Ax = is known as linear least squares and seeks to minimize the residual 2b Ax - where ?is the Euclidean norm. However, the matrix A may be ill-conditioned or singular yielding a non-unique solution. In order to give preference to a particular solution with desirable properties, the regularization term is included in this minimization: 2 2x b Ax Γ+- for some suitably chosen Tikhonov matrix , Γ. In many cases, this matrix is chosen as the identity matrix Γ= I , giving preference to solutions with smaller norms. In other cases, highpass operators (e.g., a difference operator or a weighted Fourier operator) may be used to enforce smoothness if the underlying vector is believed to be mostly continuous. This regularization improves the conditioning of the problem, thus enabling a numerical solution. An explicit solution, denoted by , is given by: ()b A A A x T T T 1?-ΓΓ+=