二、回归

      

其中排列组合公式如图：

python实现代码如下：

import operator

# Cnk = [ n (n-1)(n-2)....(n-k+1) ] / k的阶乘
def c(n, k):
# reduce 用法 https://www.liaoxuefeng.com/wiki/897692888725344/989703124920288
# 参数mul表示multiply，表示连乘
    return reduce(operator.mul, range(n-k+1, n+1)) / reduce(operator.mul, range(1, k+1))

#有重复的重采样
def bagging(n, p):
    s = 0
#如果9个人投票，56789都是对的，所以从 n/2+1开始
    for i in range(n / 2 + 1, n + 1):
#二项分布啦
        s += c(n, i) * p ** i * (1 - p) ** (n - i)
    return s


if __name__ == "__main__":
    for t in range(10, 101, 10):
## 0.6表示一个分类器的准确率； t表示若干次采样
        print t, '次采样正确率：', bagging(t, 0.6)

在上述公式中用，如果 a = 0.6,则b = 0.4，那么当n越大，和的结果越趋近于1。

c++实现代码：

 由于阶乘有连续乘法，容易溢出，以下代码没有作过多溢出处理。也可以在公式上优化“排列组合”的计算方式来防止溢出

#include<iostream>
#include<math.h>
#include<vector>
using namespace std;
// 连乘
long long Multiplicative(int lower, int higher)
{
    if (higher < lower)
    {
        return -1;
    }
    long long ret = 1;
    for (; lower <= higher; lower++)
    {
        ret *= lower;
    }
    return ret;
}
// 排列组合Cnk
// Cnk = [n(n - 1)(n - 2)....(n - k + 1)] / k的阶乘
int PermutationAndCombination(int n, int k)
{
    //cout << Multiplicative(n - k + 1, n) << ";" << Multiplicative(1, k) << endl;
    return Multiplicative(n-k+1, n)/Multiplicative(1, k);
}

// 有重复的采样
float Bagging(int n, float p)
{
    float s = 0.0;
    for (int i = n / 2 + 1; i < n + 1; i++)
    {
        s += PermutationAndCombination(n, i)*pow(p, i)*pow(1 - p, n - i);
    }
    return s;
}

int main()
{
    // 累乘测试
    cout << Multiplicative(2, 4) << endl;
    // 排列组合测试
    cout << PermutationAndCombination(4, 2) << endl;
    cout << PermutationAndCombination(10, 3) << endl;
    cout << PermutationAndCombination(30, 2) << endl;
    vector<int> vec;
    for (int i = 10; i < 21; i++)
    {
        cout << "第" << i << "次采样 = " <<Bagging(i, 0.6) << endl;
    }
    return 1;
}

有关SVD分解，参考我之前一篇博客《特征/SVD分解（图像压缩）/PCA降维简介》，这里仅给出python代码。

链接：https://www.cnblogs.com/winslam/p/9971732.html

import numpy as np
import os
import cv2
import matplotlib.pyplot as plt
import matplotlib as mpl
from pprint import pprint

# SVD分解的逆运算
def restore1(sigma, u, v, K):  # 奇异值、左特征向量、右特征向量
    m = len(u)
    n = len(v[0])
    a = np.zeros((m,n))
    for k in range(K):
        uk = u[:,k].reshape(m, 1)
        vk = v[k].reshape(1,n)
        a += sigma[k] * np.dot(uk, vk)
    a[a < 0] = 0
    a[a > 255] = 255
    # a = a.clip(0, 255)
    #四舍五入取整数
    return np.rint(a).astype('uint8')
        
if __name__ == "__main__":
    A = cv2.imread("6.son.png", -1)
    a = np.array(A)
    K = 50
    u_r, sigma_r, v_r = np.linalg.svd(a[:,:,0])
    u_g, sigma_g, v_g = np.linalg.svd(a[:,:,1])
    u_b, sigma_b, v_b = np.linalg.svd(a[:,:,2])
    #R = restore1(sigma_r, u_r, v_r, 5)
    for k in range(1, K+1):
        R = restore1(sigma_r, u_r, v_r, k)
        G = restore1(sigma_g, u_g, v_g, k)
        B = restore1(sigma_b, u_b, v_b, k)
        # 参考 https://blog.csdn.net/wgx571859177/article/details/80987459
        I = np.stack((R,G,B), 2)
        cv2.imshow('image', I)
        cv2.waitKey(100)
#这一句还是要加上
cv2.destroyAllWindows()