从PCA、PLS-DA、OPLS-DA学习线性代数和矩阵

正交:

　　正交是线性代数的概念，是垂直这一直观概念的推广。作为一个形容词，只有在一个确定的内积空间中才有意义。若内积空间中两向量的内积为0，则称它们是正交的。如果能够定义向量间的夹角，则正交可以直观的理解为垂直。物理中：运动的独立性，也可以用正交来解释。

对于一般的希尔伯特空间， 也有内积的概念， 所以人们也可以按照上面的方式定义正交的概念。 特别的， 我们有n维欧氏空间中的正交概念， 这是最直接的推广。

和正交有关的数学概念非常多， 比如正交矩阵、正交补空间、施密特正交化法、最小二乘法等等。