刘建平Pinard的博客配套代码

http://www.cnblogs.com/pinard 刘建平Pinard

之前不少朋友反应我博客中的代码都是连续的片段，不好学习，因此这里把文章和代码做一个整理。 代码有部分来源于网络，已加上相关方版权信息。部分为自己原创，已加上我的版权信息。

目录

• 机器学习基础与回归算法

• 机器学习分类算法

• 机器学习聚类算法

• 机器学习降维算法

• 机器学习集成学习算法

• 数学统计学

• 机器学习关联算法

• 机器学习推荐算法

• 深度学习算法

• 自然语言处理算法

• 强化学习算法

• 特征工程与算法落地

注意

2016-2017年写的博客使用的python版本是2.7， 2018年因为TensorFlow对Python3的一些要求，所以写博客使用的Python版本是3.6。少部分2016，2017年的博客代码无法找到，重新用Python3.6跑过上传，因此可能会出现和博客中代码稍有不一致的地方，主要涉及到print的语法和range的用法，若遇到问题，稍微修改即可跑通。

赞助我

强化学习文章与代码：:

|文章 | 代码| ---|--- 强化学习（一）模型基础| 代码 强化学习（二）马尔科夫决策过程(MDP) | 无 强化学习（三）用动态规划（DP）求解 | 无 强化学习（四）用蒙特卡罗法（MC）求解 | 无 强化学习（五）用时序差分法（TD）求解 | 无 强化学习（六）时序差分在线控制算法SARSA | 代码 强化学习（七）时序差分离线控制算法Q-Learning | 代码 强化学习（八）价值函数的近似表示与Deep Q-Learning | 代码 强化学习（九）Deep Q-Learning进阶之Nature DQN | 代码 强化学习（十）Double DQN (DDQN) | 代码 强化学习(十一) Prioritized Replay DQN | 代码 强化学习(十二) Dueling DQN | 代码 强化学习(十三) 策略梯度(Policy Gradient) | 代码 强化学习(十四) Actor-Critic | 代码 强化学习(十五) A3C | 代码 强化学习(十六) 深度确定性策略梯度(DDPG) | 代码 强化学习(十七) 基于模型的强化学习与Dyna算法框架 | 无 强化学习(十八) 基于模拟的搜索与蒙特卡罗树搜索(MCTS) | 无 强化学习(十九) AlphaGo Zero强化学习原理 | 无

机器学习基础与回归算法文章与代码：

|文章 | 代码| ---|--- 梯度下降（Gradient Descent）小结 | 无 最小二乘法小结 |无 交叉验证(Cross Validation)原理小结 | 无 精确率与召回率，RoC曲线与PR曲线 |无 线性回归原理小结 |无 机器学习研究与开发平台的选择 | 无 scikit-learn 和pandas 基于windows单机机器学习环境的搭建 |无 用scikit-learn和pandas学习线性回归 |代码 Lasso回归算法： 坐标轴下降法与最小角回归法小结 | 无 用scikit-learn和pandas学习Ridge回归 | 代码1 代码2 scikit-learn 线性回归算法库小结|无 异常点检测算法小结|无

机器学习分类算法文章与代码：

|文章 | 代码| ---|--- 逻辑回归原理小结 |无 scikit-learn 逻辑回归类库使用小结 |无 感知机原理小结 |无 决策树算法原理(上) |无 决策树算法原理(下)|无 scikit-learn决策树算法类库使用小结 |代码1 代码2 K近邻法(KNN)原理小结 |无 scikit-learn K近邻法类库使用小结 |代码 朴素贝叶斯算法原理小结 |无 scikit-learn 朴素贝叶斯类库使用小结| 代码 最大熵模型原理小结|无 支持向量机原理(一) 线性支持向量机|无 支持向量机原理(二) 线性支持向量机的软间隔最大化模型|无 支持向量机原理(三)线性不可分支持向量机与核函数|无 支持向量机原理(四)SMO算法原理|无 支持向量机原理(五)线性支持回归|无 scikit-learn 支持向量机算法库使用小结|无 支持向量机高斯核调参小结 | 代码

数学统计学文章与代码：

|文章 | 代码| ---|--- 机器学习算法的随机数据生成 | 代码 MCMC(一)蒙特卡罗方法|无 MCMC(二)马尔科夫链| 代码 MCMC(三)MCMC采样和M-H采样|代码 MCMC(四)Gibbs采样|代码 机器学习中的矩阵向量求导(一) 求导定义与求导布局|无 机器学习中的矩阵向量求导(二) 矩阵向量求导之定义法|无 机器学习中的矩阵向量求导(三) 矩阵向量求导之微分法|无 机器学习中的矩阵向量求导(四) 矩阵向量求导链式法则|无 机器学习中的矩阵向量求导(五) 矩阵对矩阵的求导|无

机器学习集成学习文章与代码：

|文章 | 代码| ---|--- 集成学习原理小结 | 无 集成学习之Adaboost算法原理小结 | 无 scikit-learn Adaboost类库使用小结 | 代码 梯度提升树(GBDT)原理小结 | 无 scikit-learn 梯度提升树(GBDT)调参小结| 代码 Bagging与随机森林算法原理小结 | 无 scikit-learn随机森林调参小结 | 代码 XGBoost算法原理小结 | 无 XGBoost类库使用小结 | 代码

机器学习聚类算法文章与代码：

|文章 | 代码| ---|--- K-Means聚类算法原理|无 用scikit-learn学习K-Means聚类 | 代码 BIRCH聚类算法原理|无 用scikit-learn学习BIRCH聚类 | 代码 DBSCAN密度聚类算法|无 用scikit-learn学习DBSCAN聚类|代码 谱聚类（spectral clustering）原理总结 |无 用scikit-learn学习谱聚类|代码

机器学习降维算法文章与代码：

|文章 | 代码| ---|--- 主成分分析（PCA）原理总结|无 用scikit-learn学习主成分分析(PCA)|代码 线性判别分析LDA原理总结|无 用scikit-learn进行LDA降维|代码 奇异值分解(SVD)原理与在降维中的应用|无 局部线性嵌入(LLE)原理总结|无 用scikit-learn研究局部线性嵌入(LLE) |代码

机器学习关联算法文章与代码：

|文章 | 代码| ---|--- 典型关联分析(CCA)原理总结|无 Apriori算法原理总结|无 FP Tree算法原理总结|无 PrefixSpan算法原理总结|无 用Spark学习FP Tree算法和PrefixSpan算法| 代码 日志和告警数据挖掘经验谈 | 无

机器学习推荐算法文章与代码：

|文章 | 代码| ---|--- 协同过滤推荐算法总结|无 矩阵分解在协同过滤推荐算法中的应用|无 SimRank协同过滤推荐算法|无 用Spark学习矩阵分解推荐算法|代码 分解机(Factorization Machines)推荐算法原理|无 贝叶斯个性化排序(BPR)算法小结|无 用tensorflow学习贝叶斯个性化排序(BPR)| 代码

深度学习算法文章与代码：

|文章 | 代码| ---|--- 深度神经网络（DNN）模型与前向传播算法|无 深度神经网络（DNN）反向传播算法(BP)|无 深度神经网络（DNN）损失函数和激活函数的选择|无 深度神经网络（DNN）的正则化|无 卷积神经网络(CNN)模型结构|无 卷积神经网络(CNN)前向传播算法|无 卷积神经网络(CNN)反向传播算法|无 循环神经网络(RNN)模型与前向反向传播算法|无 LSTM模型与前向反向传播算法|无 受限玻尔兹曼机（RBM）原理总结|无

自然语言处理文章与代码：

|文章 | 代码| ---|--- 文本挖掘的分词原理|无 文本挖掘预处理之向量化与Hash Trick|代码 文本挖掘预处理之TF-IDF|代码 中文文本挖掘预处理流程总结|代码 英文文本挖掘预处理流程总结|代码 文本主题模型之潜在语义索引(LSI)|无 文本主题模型之非负矩阵分解(NMF)|代码 文本主题模型之LDA(一) LDA基础|无 文本主题模型之LDA(二) LDA求解之Gibbs采样算法|无 文本主题模型之LDA(三) LDA求解之变分推断EM算法|无 用scikit-learn学习LDA主题模型|代码 EM算法原理总结|无 隐马尔科夫模型HMM（一）HMM模型|无 隐马尔科夫模型HMM（二）前向后向算法评估观察序列概率|无 隐马尔科夫模型HMM（三）鲍姆-韦尔奇算法求解HMM参数|无 隐马尔科夫模型HMM（四）维特比算法解码隐藏状态序列|无 用hmmlearn学习隐马尔科夫模型HMM|代码 条件随机场CRF(一)从随机场到线性链条件随机场|无 条件随机场CRF(二) 前向后向算法评估标记序列概率|无 条件随机场CRF(三) 模型学习与维特比算法解码|无 word2vec原理(一) CBOW与Skip-Gram模型基础|无 word2vec原理(二) 基于Hierarchical Softmax的模型|无 word2vec原理(三) 基于Negative Sampling的模型|无 用gensim学习word2vec|代码

特征工程与算法落地文章与代码：

|文章 | 代码| ---|--- 特征工程之特征选择|无 特征工程之特征表达|无 特征工程之特征预处理|无 用PMML实现机器学习模型的跨平台上线|代码 tensorflow机器学习模型的跨平台上线|代码

赞助我

你的支持是我写作的动力(1.微信/2.支付宝)：

License MIT.