本文实例为大家分享了python机器学习实现决策树的具体代码,供大家参考,具体内容如下
# -*- coding: utf-8 -*- """ Created on Sat Nov 9 10:42:38 2019 @author: asus """ """ 决策树 目的: 1. 使用决策树模型 2. 了解决策树模型的参数 3. 初步了解调参数 要求: 基于乳腺癌数据集完成以下任务: 1.调整参数criterion,使用不同算法信息熵(entropy)和基尼不纯度算法(gini) 2.调整max_depth参数值,查看不同的精度 3.根据参数criterion和max_depth得出你初步的结论。 """ import matplotlib.pyplot as plt import numpy as np import pandas as pd import mglearn from sklearn.model_selection import train_test_split #导入乳腺癌数据集 from sklearn.datasets import load_breast_cancer from sklearn.tree import DecisionTreeClassifier #决策树并非深度越大越好,考虑过拟合的问题 #mglearn.plots.plot_animal_tree() #mglearn.plots.plot_tree_progressive() #获取数据集 cancer = load_breast_cancer() #对数据集进行切片 X_train,X_test,y_train,y_test = train_test_split(cancer.data,cancer.target, stratify = cancer.target,random_state = 42) #查看训练集和测试集数据 print('train dataset :{0} ;test dataset :{1}'.format(X_train.shape,X_test.shape)) #建立模型(基尼不纯度算法(gini)),使用不同最大深度和随机状态和不同的算法看模型评分 tree = DecisionTreeClassifier(random_state = 0,criterion = 'gini',max_depth = 5) #训练模型 tree.fit(X_train,y_train) #评估模型 print("Accuracy(准确性) on training set: {:.3f}".format(tree.score(X_train, y_train))) print("Accuracy(准确性) on test set: {:.3f}".format(tree.score(X_test, y_test))) print(tree) # 参数选择 max_depth,算法选择基尼不纯度算法(gini) or 信息熵(entropy) def Tree_score(depth = 3,criterion = 'entropy'): """ 参数为max_depth(默认为3)和criterion(默认为信息熵entropy), 函数返回模型的训练精度和测试精度 """ tree = DecisionTreeClassifier(criterion = criterion,max_depth = depth) tree.fit(X_train,y_train) train_score = tree.score(X_train, y_train) test_score = tree.score(X_test, y_test) return (train_score,test_score) #gini算法,深度对模型精度的影响 depths = range(2,25)#考虑到数据集有30个属性 scores = [Tree_score(d,'gini') for d in depths] train_scores = [s[0] for s in scores] test_scores = [s[1] for s in scores] plt.figure(figsize = (6,6),dpi = 144) plt.grid() plt.xlabel("max_depth of decision Tree") plt.ylabel("score") plt.title("'gini'") plt.plot(depths,train_scores,'.g-',label = 'training score') plt.plot(depths,test_scores,'.r--',label = 'testing score') plt.legend() #信息熵(entropy),深度对模型精度的影响 scores = [Tree_score(d) for d in depths] train_scores = [s[0] for s in scores] test_scores = [s[1] for s in scores] plt.figure(figsize = (6,6),dpi = 144) plt.grid() plt.xlabel("max_depth of decision Tree") plt.ylabel("score") plt.title("'entropy'") plt.plot(depths,train_scores,'.g-',label = 'training score') plt.plot(depths,test_scores,'.r--',label = 'testing score') plt.legend()
运行结果:
很明显看的出来,决策树深度越大,训练集拟合效果越好,但是往往面对测试集的预测效果会下降,这就是过拟合。
参考书籍: 《Python机器学习基础教程》
以上就是本文的全部内容,希望对大家的学习有所帮助,也希望大家多多支持。
标签:
python,决策树
免责声明:本站文章均来自网站采集或用户投稿,网站不提供任何软件下载或自行开发的软件!
如有用户或公司发现本站内容信息存在侵权行为,请邮件告知! 858582#qq.com
白云城资源网 Copyright www.dyhadc.com
暂无“python机器学习实现决策树”评论...
《魔兽世界》大逃杀!60人新游玩模式《强袭风暴》3月21日上线
暴雪近日发布了《魔兽世界》10.2.6 更新内容,新游玩模式《强袭风暴》即将于3月21 日在亚服上线,届时玩家将前往阿拉希高地展开一场 60 人大逃杀对战。
艾泽拉斯的冒险者已经征服了艾泽拉斯的大地及遥远的彼岸。他们在对抗世界上最致命的敌人时展现出过人的手腕,并且成功阻止终结宇宙等级的威胁。当他们在为即将于《魔兽世界》资料片《地心之战》中来袭的萨拉塔斯势力做战斗准备时,他们还需要在熟悉的阿拉希高地面对一个全新的敌人──那就是彼此。在《巨龙崛起》10.2.6 更新的《强袭风暴》中,玩家将会进入一个全新的海盗主题大逃杀式限时活动,其中包含极高的风险和史诗级的奖励。
《强袭风暴》不是普通的战场,作为一个独立于主游戏之外的活动,玩家可以用大逃杀的风格来体验《魔兽世界》,不分职业、不分装备(除了你在赛局中捡到的),光是技巧和战略的强弱之分就能决定出谁才是能坚持到最后的赢家。本次活动将会开放单人和双人模式,玩家在加入海盗主题的预赛大厅区域前,可以从强袭风暴角色画面新增好友。游玩游戏将可以累计名望轨迹,《巨龙崛起》和《魔兽世界:巫妖王之怒 经典版》的玩家都可以获得奖励。
更新日志
2024年10月06日
2024年10月06日
- 群星《前途海量 电影原声专辑》[FLAC/分轨][227.78MB]
- 张信哲.1992-知道新曲与精丫巨石】【WAV+CUE】
- 王翠玲.1995-ANGEL【新艺宝】【WAV+CUE】
- 景冈山.1996-我的眼里只有你【大地唱片】【WAV+CUE】
- 群星《八戒 电影原声带》[320K/MP3][188.97MB]
- 群星《我的阿勒泰 影视原声带》[320K/MP3][139.47MB]
- 纪钧瀚《胎教古典音乐 钢琴与大提琴的沉浸时光》[320K/MP3][148.91MB]
- 刘雅丽.2001-丽花皇后·EMI精选王【EMI百代】【FLAC分轨】
- 齐秦.1994-黄金十年1981-1990CHINA.TOUR.LIVE精丫上华】【WAV+CUE】
- 群星.2008-本色·百代音乐人创作专辑【EMI百代】【WAV+CUE】
- 群星.2001-同步过冬AVCD【环球】【WAV+CUE】
- 群星.2020-同步过冬2020冀待晴空【环球】【WAV+CUE】
- 沈雁.1986-四季(2012梦田复刻版)【白云唱片】【WAV+CUE】
- 纪钧瀚《胎教古典音乐 钢琴与大提琴的沉浸时光》[FLAC/分轨][257.88MB]
- 《国语老歌 怀旧篇 3CD》[WAV/分轨][1.6GB]