硬阈值算法
❶ 灏忔尝鍒嗘瀽涓杞纭阒埚兼硶镄勫尯鍒鍦ㄥ摢閲
甯哥敤镄勮蒋阒埚煎嚱鏁帮纴鏄涓轰简瑙ｅ喅纭阒埚煎嚱鏁扳滀竴鍒鍒団濆艰嚧镄勫奖鍝(妯″皬浜3*sigma镄勫皬娉㈢郴鏁板叏閮ㄥ垏闄わ纴澶т簬3*sigma鍏ㄩ儴淇濈暀锛屽娍蹇呬细鍦ㄥ皬娉㈠烟浜х敓绐佸彉锛屽艰嚧铡诲櫔钖庣粨鏋滀骇鐢熷眬閮ㄧ殑鎶栧姩锛岀被浼间簬鍌呯珛鍙跺彉鎹涓棰戝烟镄勯桩璺冧细鍦ㄦ椂锘熶骇鐢熸嫋灏)銆傝蒋阒埚煎嚱鏁板皢妯″皬浜3*sigma镄勫皬娉㈢郴鏁板叏閮ㄧ疆闆讹纴钥屽皢妯″ぇ浜3*sigma镄勫仛涓涓姣旇缉鐗规畩镄勫勭悊锛屽ぇ浜3*sigma镄勫皬娉㈢郴鏁扮粺涓鍑忓幓3*sigma锛屽皬浜-3*sigma镄勫皬娉㈢郴鏁扮粺涓锷3*sigma銆傜粡杩囱蒋阒埚煎嚱鏁扮殑浣灭敤锛屽皬娉㈢郴鏁板湪灏忔尝锘熷氨姣旇缉鍏夋粦浜嗭纴锲犳ょ敤杞阒埚煎幓鍣寰楀埌镄勫浘璞＄湅璧锋潵寰埚钩婊戯纴绫讳技浜庡啲澶╅氲繃绐楁埛鐪嫔栭溃涓镙凤纴镀忔湁灞傞浘缃╁湪锲惧儚涓娄技镄勚
❷ 压缩感知理论基本介绍
姓名：王鑫磊
学号：21011110262
学院：通信工程学院
【嵌牛导读】压缩感知是信号处理领域进入21世纪以来取得的最耀眼的成果之一，并在磁共振成像、图像处理等领域取得了有效应用。压缩感知理论在其复杂的数学表述背后蕴含着非常精妙的思想。基于一个有想象力的思路，辅以严格的数学证明，压缩感知实现了神奇的效果，突破了信号处理领域的金科玉律——奈奎斯特采样定律。即，在信号采样的过程中，用很少的采样点，实现了和全采样一样的效果。
【嵌牛鼻子】压缩感知，欠采样，稀疏恢复
【嵌牛提问】压缩感知相比奈奎斯特采样定律的主要突破是什么？
【嵌牛正文】
1.CS的初步理解
CS是一个针对信号采样的技术，是在采样过程中完成数据压缩的过程。我们知道在对模拟信号按一定采样频率进行采样并得到数字信号的过程中，要想完整保留原始信号中的信息，采样频率必须大于信号中最高频率的2倍（奈奎斯特采样定理）。但Candes等人又提出了，如果信号在频域是稀疏的，那么它可以由远低于采样定理要求的采样点重建恢复。Nyquist定理中的采样为等间距采样，若采样频率低必然会引起混叠，如果不等间距采样呢？如果是随机采样呢？随机采样必然会发生频谱泄露，但泄露会均匀分布在整个频域且泄露值都较小，而最大的几个峰值可以通过设置阈值检测出来，从而有了恢复出原始信号的可能。
图1展示了一原始的模拟信号在频域是稀疏的，仅由三个频率分量组成，为了得到数字信号，首先要在时域对其进行采样，根据压缩感知理论，可以在时域进行随机亚采样，之后得到的频谱会产生如图所示的泄露，但可以通过阈值检测求出原始信号的真实频率分量，从而恢复出原始信号。
2. CS的数学模型
CS有两个前提条件：
假设：x是长度为N的原信号，稀疏度为k，它是未知的；Φ为测量矩阵，对应采样过程，也就是压缩的过程，如随机采样，是已知的；采样后的结果为：y=Φx，也是已知的；因此压缩感知问题是：在已知测量值y和测量矩阵Φ的基础上，求解原信号x的过程。然而一般信号x本身并不稀疏，需要在某种稀疏基上进行稀疏表示，即x=Ψs, 其中s为稀疏向量，即为所求的稀疏信号；Ψ为稀疏基矩阵，也叫稀疏变换矩阵，如傅里叶变换。
于是最终问题表示为：
y = ΦΨs = Θs （1）
已知y，Φ，Ψ，求s， Θ称为感知矩阵。感知矩阵需要满足约束等距原则（RIP），因此需要测量矩阵Φ和稀疏基Ψ满足不相关，即采样过程与稀疏过程不相关。Candes等人又找到了独立同分布的高斯随机测量矩阵可以称为普适的压缩感知测量矩阵，于是满足高斯分布的随机测量矩阵就成了CS最常用的观测矩阵。
3. CS的常用方法
已知(1)方程有无数解，因此需要通过增加约束来得到唯一解。方程是稀疏的，因此我们需要找到这个方程里所有解中最稀疏的内个就行了。
求解上述方程一般有三种思路：凸优化算法，贪婪算法，贝叶斯理论。CS常用算法有：
基追踪重构算法 （Basis Pursuit, BP）：BP算法是一种凸优化方法。
正交匹配追踪算法 （OMP）：OMP属于贪婪算法。
阈值迭代算法 ： 包括软阈值迭代（ISTA）和迭代硬阈值（IHT）。ISTA的一种改进方法为快速阈值迭代（FISTA）。
【嵌牛参考】
[1]. Dandes, E. J. . “Near-optimal signal recovery from random projections.” Universal encoding strategies IEEE Transactions on Information Theory 52(2006).
[2]. Donoho, D. L. . “Compressed sensing.” IEEE Transactions on Information Theory 52.4(2006):1289-1306.