20、PCA求解前n个主成分的方向向量

东方耀

20、PCA求解前n个主成分的方向向量

1. def direction(w):
   
2.     # 将w变成单位向量 方向向量
   
3.     # np.linalg.norm(w) 求向量的模
   
4.     return w / np.linalg.norm(w)
   
5. def gradient_ascent_first_pca(df, X, initial_w, learn_rate, n_iters, epsilon = 1e-8):
   
6.     w = direction(initial_w)
   
7.     for step in range(n_iters):
   
8.         last_w = w
   
9.         w = w + learn_rate * df(w, X)
   
10.         # 注意：pca求解时 需要变为单位向量
    
11.         w = direction(w)
    
12.         if(abs(f(last_w, X) - f(w, X)) < epsilon):
    
13.             break
    
14.     return step, w

复制代码

1. def gradient_ascent_first_pca_n(n, X, learn_rate, n_iters, epsilon = 1e-8):
   
2.     assert 0 < n <= X.shape[1], 'n>0且n不能大于样本特征数'
   
3.     X_pca = X
   
4.     X_pca = demean(X_pca)
   
5.     result = []
   
6.     for i in range(n):
   
7.         # 这里的w代表方向向量 不能为0向量的
   
8.         initial_w = np.random.random(size=X_pca.shape[1])
   
9.         step, w = gradient_ascent_first_pca(df_math, X_pca, initial_w, learn_rate=0.001, n_iters=10000)
   
10.         print(step, w)
    
11.         result.append(w)
    
12.         X_pca = X_pca - X_pca.dot(w).reshape(-1, 1) * w
    
13.         
    
14.     return result

复制代码

ipynb文件在附件，可提供下载！


视频教程请参考：http://www.ai111.vip/thread-349-1-1.html
东方老师微信：dfy_88888

fglbee

this is good idea

kiko

学习中，支持