lm算法

❶ L-M 优化算法优化哪种函数最好

老哥你竟然知道lm下山怎么会问这么弱智的问题呢

拟合和寻优，非线性的函数都可以用lm

LM算法需要对每一个待估参数求偏导，所以，如果你的拟合函数 f 非常复杂，或者待估参数相当地多，那么可能不适合使用LM算法，而可以选择Powell算法。LM主要有信赖区间可以变邻域搜索，收敛速度块。

❷ MATLAB中训练LM算法的BP神经网络

1.初始权值不一样，如果一样，每次训练结果是相同的
2.是
3.在train之前修改权值，IW,LW,b，使之相同
4.取多次实验的均值
一点浅见，仅供参考

训练误差是否降到一定范围内，比如1e-3，
将训练样本回代结果如何，
训练样本进行了预处理，比如归一化，而测试样本未进行同样的处理

这样的归一化似有问题，我也认为“测试数据的归一化也用训练数据归一化时得出的min和max值”，
请参考这个帖子http://www.ilovematlab.cn/thread-27021-1-1.html
测试数据带入训练好的神经网络误差当然不会达到1e-5，这是预测啊。
但将训练数据带入误差必然是1e-5，算法终止就是因为达到这个误差才终止，这个误差是由训练数据的输入、输出以及神经网络的权值、激活函数共同决定的，神经网络训练完后，权值、激活函数定了，同样的数据再代入神经网络，误差会不等于1e-5？
第二个问题：不可能每个值都达到1e-5，1e-5是MSE（mean square error），它们的平方和除以总数再开方，mse（E）必为1e-5
另外，LM算法虽然训练最快，但是预测精度一般不好，不如gdm，gdx

❸ 基于MATLAB的神经网络BP算法改进LM算法的交通流量的源代码！

matlab2010程序。x,t为流量数据和分类结果。
net = feedforwardnet(20);
net.trainFcn = 'trainlm';
net = train(net,x,t);

view(net)
y = net(x);
perf = perform(net,y,t);

❹ 求用C语言编的LM拟合算法（Levenberg-Marquardt 算法）

http://wenku..com/link?url=__T_FJ94kfzm1wmvsr7MlDifKLT7ZWcG

❺ 什么是Levenberg-Marquart算法

中文译文：列文伯格-马夸尔特法，是最优化算法中的一种。

最优化算法是寻找使得函数值最小的参数向量。它的应用领域非常广泛，如：经济学、管理优化、网络分析、最优设计、机械或电子设计等等。

根据求导数的方法，可分为2大类。

第一类，若f具有解析函数形式，知道x后求导数速度快。

第二类，使用数值差分来求导数。

根据使用模型不同，分为非约束最优化、约束最优化、最小二乘最优化。

附LM算法例子：

在LM算法中，每次迭代是寻找一个合适的阻尼因子λ，当λ很小时，算法就变成了GAuss-Newton法的最优步长计算式，λ很大时，蜕化为梯度下降法的最优步长计算式。

❻ 为何微软系统中一LM和NTLM两种算法并存

为何微软系统装的Lim和until的两种算法，并从可能是，这也是一个存在的一种趋势。

❼ 关于神经网络LM训练算法的一些问题

1.初始权值不一样，如果一样，每次训练结果是相同的 2.是 3.在train之前修改权值，IW,LW,b，使之相同 4.取多次实验的均值 一点浅见，仅供参考

❽ LM算法的迭代公式如下：的翻译是：什么意思

你好!
LM算法的迭代公式如下
The iterative formula of LM algorithm is as follows

❾ IS-LM-BP模型中，LM比BP陡峭的经济含义是什么

BP曲线比LM曲线更陡峭，就说明资本流动对国内利率变化不敏感，资本流动程度较低。产品市场上所决定的国民收入又会影响货币需求，从而影响利率，这又是产品市场对货币市场的影响，可见，产品市场和货币市场是相互联系的，相互作用的，而收入和利率也只有在这种相互系，相互作用中才能决定。描述和分析这两个市场相互联系的理论结构，就称为IS—LM。该模型要求同时达到下面的两个条件：(1) I(i)=S(Y) IS，InvestmentSaving(2)M/P=L1(i)+L2(Y） 即LM，Liquidity preference - Money Supply其中，I为投资，S为储蓄，M为名义货币量，P为物价水平，M/P为实际货币量，Y为总产出，i为利率。两条曲线交点处表示产品市场和货币市场同时达到均衡。IS-LM模型是宏观经济分析的一个重要工具，是描述产品市场和货币市场之间相互联系的理论结构。反向传播算法(BP算法)是一种监督学习算法，常被用来训练多层感知机。BP算法由两个环节（激励传播、权重更新）反复循环迭代，直到网络对输入的响应大到预定的目标范围为止。
激励传播包含：（向前传播阶段）将训练输入送入网络以获得激励响应啊；（反向传播阶段）将激励响应同训练输入对应的目标输入求差（t-a），从而获得隐层和输出层的响应误差。
权重更新包括：首先将输入激励和响应误差相乘(sm*(a(m-1)))，从而获得权重的梯度；然后，将这个梯度乘上一个比例(_*sm*(a(m-1)))并去反后加到权重上。
核心思想：用雅可比矩阵（易计算）代替Hessian矩阵的计算，使得优化效率得到提升。
LMBP是加速收敛BP算法的其中一种标准的数值优化方法。
优点：由于需要求解矩阵的逆，所以在每次迭代中需要更多的计算。但是既便如此，在网络参数个数适中的情况下，LMBP算法依然是最快的神经网络训练算法。
缺点：存储需求大。所需存储近似Hessian矩阵JTJ（n*n的矩阵，其中n是神经网络中参数（权值与偏置值）的个数）。因此当参数的数量非常大时，LMBP算法是不实用的。