⽬录
矩阵的秩 = 最⼤的线性⽆关的⾏(或列)向量的个数。对于图像⽽⾔,秩可以表⽰图像中包含信息的丰富程度、冗余程度、噪声。秩越⼩:基的个数少数据冗余性⼤图像信息不丰富
图像噪声少
低秩矩阵
概念
当矩阵的秩较低时(r << n, m),就可以视其为低秩矩阵。低秩矩阵意味着,此矩阵中有较多的⾏(或列)是线性相关的,即:信息冗余较⼤。作⽤
利⽤低秩矩阵的冗余信息,可以对缺失数据进⾏恢复,此问题叫做 “低秩矩阵重构” ,即:“假设恢复出来的矩阵是低秩的,利⽤已有的矩阵元素,恢复出矩阵中的缺失元素”,可以应⽤在图像修复、协同过滤等领域。 在深度学习中,卷积核的参数过多,往往存在较⼤的冗余,即:卷积核参数是低秩的。此时,可以对卷积核进⾏低秩分解,将的卷积核分解为⼀个和⼀个的核,这样可以降低参数量、提⾼计算速度、防⽌过拟合。 稀疏矩阵
稀疏矩阵和低秩矩阵⼀样,也代表矩阵中存在较多的冗余信息。但⼆者不同的是,矩阵越稀疏,表⽰其包含更多的零元素、更少的⾮零元素;矩阵越“低秩”,表⽰其有更多的线性相关的⾏(或列)。
低秩矩阵不⼀定稀疏,如:全⼀矩阵(全⼀矩阵的秩为1)
稀疏矩阵不⼀定低秩,如:单位矩阵(n阶单位矩阵的秩为n)稀疏编码
为什么要稀疏编码?
⾸先,存在⼀个假设(也是事实,算是先验知识)——⾃然界的信号组成是稀疏的。进⾏稀疏编码后,可以达到降维,提⾼计算效率的作⽤。k ×k k ×11×k