最近在看机器学习的 LogisticRegressor,BayesianLogisticRegressor算法,里面得到一阶导数矩阵g和二阶导数Hessian矩阵H的时候,用到了这个模块进行求解运算,记录一下。
numpy.linalg模块包含线性代数的函数。使用这个模块,可以计算逆矩阵、求特征值、解线性方程组以及求解行列式等。
import numpy as np
# 1. 计算逆矩阵 # 创建矩阵 A = np.mat("0 1 2;1 0 3;4 -3 8") print (A) #[[ 0 1 2] # [ 1 0 3] # [ 4 -3 8]]
# 使用inv函数计算逆矩阵 inv = np.linalg.inv(A) print (inv) #[[-4.5 7. -1.5] # [-2. 4. -1. ] # [ 1.5 -2. 0.5]]
# 检查原矩阵和求得的逆矩阵相乘的结果为单位矩阵 print (A * inv) #[[ 1. 0. 0.] # [ 0. 1. 0.] # [ 0. 0. 1.]]
注:矩阵必须是方阵且可逆,否则会抛出LinAlgError异常。
# 2. 求解线性方程组 # numpy.linalg中的函数solve可以求解形如 Ax = b 的线性方程组,其中 A 为矩阵,b 为一维或二维的数组,x 是未知变量 #创建矩阵和数组 B = np.mat("1 -2 1;0 2 -8;-4 5 9") b = np.array([0,8,-9]) # 调用solve函数求解线性方程 x = np.linalg.solve(B,b) print (x) #[ 29. 16. 3.] # 使用dot函数检查求得的解是否正确 print (np.dot(B , x)) # [[ 0. 8. -9.]]
# 3. 特征值和特征向量 # 特征值(eigenvalue)即方程 Ax = ax 的根,是一个标量。 #其中,A 是一个二维矩阵,x 是一个一维向量。特征向量(eigenvector)是关于特征值的向量 # numpy.linalg模块中,eigvals函数可以计算矩阵的特征值,而eig函数可以返回一个包含特征值和对应的特征向量的元组 # 创建一个矩阵 C = np.mat("3 -2;1 0") # 调用eigvals函数求解特征值 c0 = np.linalg.eigvals(C) print (c0) # [ 2. 1.] # 使用eig函数求解特征值和特征向量 #(该函数将返回一个元组,按列排放着特征值和对应的特征向量,其中第一列为特征值,第二列为特征向量) c1,c2 = np.linalg.eig(C) print (c1) # [ 2. 1.] print (c2) #[[ 0.89442719 0.70710678] # [ 0.4472136 0.70710678]] # 使用dot函数验证求得的解是否正确 for i in range(len(c1)): print ("left:",np.dot(C,c2[:,i])) print ("right:",c1[i] * c2[:,i]) #left: [[ 1.78885438] # [ 0.89442719]] #right: [[ 1.78885438] # [ 0.89442719]] #left: [[ 0.70710678] # [ 0.70710678]] #right: [[ 0.70710678] # [ 0.70710678]]
# 4.奇异值分解 # SVD(Singular Value Decomposition,奇异值分解)是一种因子分解运算,将一个矩阵分解为3个矩阵的乘积 # numpy.linalg模块中的svd函数可以对矩阵进行奇异值分解。该函数返回3个矩阵——U、Sigma和V,其中U和V是正交矩阵,Sigma包含输入矩阵的奇异值。 import numpy as np # 分解矩阵 D = np.mat("4 11 14;8 7 -2") # 使用svd函数分解矩阵 U,Sigma,V = np.linalg.svd(D,full_matrices=False) print ("U:",U) #U: [[-0.9486833 -0.31622777] # [-0.31622777 0.9486833 ]] print ("Sigma:",Sigma) #Sigma: [ 18.97366596 9.48683298] print ("V",V) #V [[-0.33333333 -0.66666667 -0.66666667] # [ 0.66666667 0.33333333 -0.66666667]] # 结果包含等式中左右两端的两个正交矩阵U和V,以及中间的奇异值矩阵Sigma # 使用diag函数生成完整的奇异值矩阵。将分解出的3个矩阵相乘 print (U * np.diag(Sigma) * V) #[[ 4. 11. 14.] # [ 8. 7. -2.]]
# 5. 广义逆矩阵 # 使用numpy.linalg模块中的pinv函数进行求解, # 注:inv函数只接受方阵作为输入矩阵,而pinv函数则没有这个限制 import numpy as np # 创建一个矩阵 E = np.mat("4 11 14;8 7 -2") # 使用pinv函数计算广义逆矩阵 pseudoinv = np.linalg.pinv(E) print (pseudoinv) #[[-0.00555556 0.07222222] # [ 0.02222222 0.04444444] # [ 0.05555556 -0.05555556]] # 将原矩阵和得到的广义逆矩阵相乘 print (E * pseudoinv) #[[ 1.00000000e+00 -5.55111512e-16] # [ 0.00000000e+00 1.00000000e+00]]
# 6. 行列式 # numpy.linalg模块中的det函数可以计算矩阵的行列式 import numpy as np # 计算矩阵的行列式 F = np.mat("3 4;5 6") # 使用det函数计算行列式 print (np.linalg.det(F)) # -2.0
学完这些之后,再用其中的numpy.linalg.solve()函数对(H,g)线性方程组进行求解。
def _fit(self, X, t, max_iter=100): #输入样本 , 0,1标签 ,最大迭代步数 self._check_binary(t) w = np.zeros(np.size(X, 1)) #初始化权重矩阵 X行 for _ in range(max_iter): w_prev = np.copy(w) #保存原先的权重信息 用来更新权重 y = self._sigmoid(X @ w) #sigmoid 特征向量@权重矩阵 输出y grad = X.T @ (y - t) #一阶导数 hessian = (X.T * y * (1 - y)) @ X #二阶导数 Hessian矩阵 try: w -= np.linalg.solve(hessian, grad) print(w) except np.linalg.LinAlgError: break if np.allclose(w, w_prev): #收敛到一定的精度 break self.w = w # [-0.17924772 1.02982033 0.54459921] # [-0.25994586 1.76892341 0.90294418] # [-0.35180664 2.60346027 1.25122256] # [-0.468509 3.54309929 1.60131553] # [-0.58591528 4.43787542 1.93496706] # [-0.65896159 4.97839095 2.14764763] # [-0.67659725 5.10615457 2.20048333] # [-0.67736191 5.11159274 2.20281247] # [-0.67736325 5.11160214 2.20281657]
PS:更多示例
# 线性代数 # numpy.linalg模块包含线性代数的函数。使用这个模块,可以计算逆矩阵、求特征值、解线性方程组以及求解行列式等。 import numpy as np # 1. 计算逆矩阵 # 创建矩阵 A = np.mat("0 1 2;1 0 3;4 -3 8") print (A) #[[ 0 1 2] # [ 1 0 3] # [ 4 -3 8]] # 使用inv函数计算逆矩阵 inv = np.linalg.inv(A) print (inv) #[[-4.5 7. -1.5] # [-2. 4. -1. ] # [ 1.5 -2. 0.5]] # 检查原矩阵和求得的逆矩阵相乘的结果为单位矩阵 print (A * inv) #[[ 1. 0. 0.] # [ 0. 1. 0.] # [ 0. 0. 1.]] # 注:矩阵必须是方阵且可逆,否则会抛出LinAlgError异常。 # 2. 求解线性方程组 # numpy.linalg中的函数solve可以求解形如 Ax = b 的线性方程组,其中 A 为矩阵,b 为一维或二维的数组,x 是未知变量 import numpy as np #创建矩阵和数组 B = np.mat("1 -2 1;0 2 -8;-4 5 9") b = np.array([0,8,-9]) # 调用solve函数求解线性方程 x = np.linalg.solve(B,b) print (x) #[ 29. 16. 3.] # 使用dot函数检查求得的解是否正确 print (np.dot(B , x)) # [[ 0. 8. -9.]] # 3. 特征值和特征向量 # 特征值(eigenvalue)即方程 Ax = ax 的根,是一个标量。其中,A 是一个二维矩阵,x 是一个一维向量。特征向量(eigenvector)是关于特征值的向量 # numpy.linalg模块中,eigvals函数可以计算矩阵的特征值,而eig函数可以返回一个包含特征值和对应的特征向量的元组 import numpy as np # 创建一个矩阵 C = np.mat("3 -2;1 0") # 调用eigvals函数求解特征值 c0 = np.linalg.eigvals(C) print (c0) # [ 2. 1.] # 使用eig函数求解特征值和特征向量 (该函数将返回一个元组,按列排放着特征值和对应的特征向量,其中第一列为特征值,第二列为特征向量) c1,c2 = np.linalg.eig(C) print (c1) # [ 2. 1.] print (c2) #[[ 0.89442719 0.70710678] # [ 0.4472136 0.70710678]] # 使用dot函数验证求得的解是否正确 for i in range(len(c1)): print ("left:",np.dot(C,c2[:,i])) print ("right:",c1[i] * c2[:,i]) #left: [[ 1.78885438] # [ 0.89442719]] #right: [[ 1.78885438] # [ 0.89442719]] #left: [[ 0.70710678] # [ 0.70710678]] #right: [[ 0.70710678] # [ 0.70710678]] # 4.奇异值分解 # SVD(Singular Value Decomposition,奇异值分解)是一种因子分解运算,将一个矩阵分解为3个矩阵的乘积 # numpy.linalg模块中的svd函数可以对矩阵进行奇异值分解。该函数返回3个矩阵——U、Sigma和V,其中U和V是正交矩阵,Sigma包含输入矩阵的奇异值。 import numpy as np # 分解矩阵 D = np.mat("4 11 14;8 7 -2") # 使用svd函数分解矩阵 U,Sigma,V = np.linalg.svd(D,full_matrices=False) print ("U:",U) #U: [[-0.9486833 -0.31622777] # [-0.31622777 0.9486833 ]] print ("Sigma:",Sigma) #Sigma: [ 18.97366596 9.48683298] print ("V",V) #V [[-0.33333333 -0.66666667 -0.66666667] # [ 0.66666667 0.33333333 -0.66666667]] # 结果包含等式中左右两端的两个正交矩阵U和V,以及中间的奇异值矩阵Sigma # 使用diag函数生成完整的奇异值矩阵。将分解出的3个矩阵相乘 print (U * np.diag(Sigma) * V) #[[ 4. 11. 14.] # [ 8. 7. -2.]] # 5. 广义逆矩阵 # 使用numpy.linalg模块中的pinv函数进行求解, # 注:inv函数只接受方阵作为输入矩阵,而pinv函数则没有这个限制 import numpy as np # 创建一个矩阵 E = np.mat("4 11 14;8 7 -2") # 使用pinv函数计算广义逆矩阵 pseudoinv = np.linalg.pinv(E) print (pseudoinv) #[[-0.00555556 0.07222222] # [ 0.02222222 0.04444444] # [ 0.05555556 -0.05555556]] # 将原矩阵和得到的广义逆矩阵相乘 print (E * pseudoinv) #[[ 1.00000000e+00 -5.55111512e-16] # [ 0.00000000e+00 1.00000000e+00]] # 6. 行列式 # numpy.linalg模块中的det函数可以计算矩阵的行列式 import numpy as np # 计算矩阵的行列式 F = np.mat("3 4;5 6") # 使用det函数计算行列式 print (np.linalg.det(F)) # -2.0
以上就是本文的全部内容,希望对大家的学习有所帮助,也希望大家多多支持。
numpy,linalg模块
《魔兽世界》大逃杀!60人新游玩模式《强袭风暴》3月21日上线
暴雪近日发布了《魔兽世界》10.2.6 更新内容,新游玩模式《强袭风暴》即将于3月21 日在亚服上线,届时玩家将前往阿拉希高地展开一场 60 人大逃杀对战。
艾泽拉斯的冒险者已经征服了艾泽拉斯的大地及遥远的彼岸。他们在对抗世界上最致命的敌人时展现出过人的手腕,并且成功阻止终结宇宙等级的威胁。当他们在为即将于《魔兽世界》资料片《地心之战》中来袭的萨拉塔斯势力做战斗准备时,他们还需要在熟悉的阿拉希高地面对一个全新的敌人──那就是彼此。在《巨龙崛起》10.2.6 更新的《强袭风暴》中,玩家将会进入一个全新的海盗主题大逃杀式限时活动,其中包含极高的风险和史诗级的奖励。
《强袭风暴》不是普通的战场,作为一个独立于主游戏之外的活动,玩家可以用大逃杀的风格来体验《魔兽世界》,不分职业、不分装备(除了你在赛局中捡到的),光是技巧和战略的强弱之分就能决定出谁才是能坚持到最后的赢家。本次活动将会开放单人和双人模式,玩家在加入海盗主题的预赛大厅区域前,可以从强袭风暴角色画面新增好友。游玩游戏将可以累计名望轨迹,《巨龙崛起》和《魔兽世界:巫妖王之怒 经典版》的玩家都可以获得奖励。
更新日志
- 小骆驼-《草原狼2(蓝光CD)》[原抓WAV+CUE]
- 群星《欢迎来到我身边 电影原声专辑》[320K/MP3][105.02MB]
- 群星《欢迎来到我身边 电影原声专辑》[FLAC/分轨][480.9MB]
- 雷婷《梦里蓝天HQⅡ》 2023头版限量编号低速原抓[WAV+CUE][463M]
- 群星《2024好听新歌42》AI调整音效【WAV分轨】
- 王思雨-《思念陪着鸿雁飞》WAV
- 王思雨《喜马拉雅HQ》头版限量编号[WAV+CUE]
- 李健《无时无刻》[WAV+CUE][590M]
- 陈奕迅《酝酿》[WAV分轨][502M]
- 卓依婷《化蝶》2CD[WAV+CUE][1.1G]
- 群星《吉他王(黑胶CD)》[WAV+CUE]
- 齐秦《穿乐(穿越)》[WAV+CUE]
- 发烧珍品《数位CD音响测试-动向效果(九)》【WAV+CUE】
- 邝美云《邝美云精装歌集》[DSF][1.6G]
- 吕方《爱一回伤一回》[WAV+CUE][454M]