决策树决策树模型：内部节点表示特征和属性，叶节点表示类特征选择：信息增益(互信息)选择极小化决策树整体的损失函数或代价函数来实现分类与回归树最小二乘回归树与分类树 boost方法前向分布算法adaBoost提升树 gdbtxgboost参考资料

卷积神经网络基础结构 CNN(convolutional neural network, 或者ConvNet)是一种深度、前馈人工神经网络，适用于类似网格结构的数据，例如时间序列数据处理、图像识别、视频识别以及自然语言处理。卷积神经网络是从生物神经网络的结构和激励机制中得到灵感和启发的。Deeple ...

第一阶段 攒机 显卡 其他 第二阶段 双系统安装 进入Ubuntu U盘安装时出现黑屏解决办法“e”进入编辑模式，删除”—“， 加上”nomodeset” 安装Ubuntu时屏幕分辨率问题 /etc/default/grub 修改#GRUB_GFXMODE=640x480 彻底解决黑屏 ...

几何间隔的定义优化目标的确定核函数技巧SMO算法

从最小二乘说起 wiki里的定义：最小二乘法（又称最小平方法）是一种数学优化技术。它通过最小化误差的平方和寻找数据的最佳函数匹配 线性回归模型，常使用最小误差函数（平方误差）的方法求解系数，为了抑制过拟合还加入正则项 在高斯噪声的假设下，残差和函数是最大化似然函数的自然结果。知乎有对这个问题的讨论， ...

深度学习入门路线 基础理论 Bishop 的 Pattern Recognition and Machine Learning Goodfellow 等人的 Deep Learning 课程学习 Stanford CS224n 课程: Natural Language Processing ...

数据预处理图像数据的读取 image data is 3xMxN 但是imshow的要求是”MxNx3 — RGB (float or uint8 array)”，深度学习tensor的结构也是 MxNxchannel用 np.rollaxis() 或者 numpy.moveaxis(a, sour ...

Hadoop基础 用户的概念(1) 用户（User）：Hadoop使用Linux用户管理，Hadoop中的用户就是Linux中的用户(2) 分组（group）：Hadoop使用Linux分组管理，Hadoop中的分组就是Linux中的分组(3) 池（pool）：Hadoop Fair Schedul ...

机器学习的基本框架 概率论提供了一个框架用来精确的数学形式描述这种不确定性，对不确定性的量化和计算 先验概率和后验概率 概率密度 期望和方差 贝叶斯概率 prior 先验概率：预先知道事件发生的概率 posterior 后验概率: 给定实验，事件，观测后的随机事件发生的概率 likehoo ...

1. 概率论对于深度学习的意义 两方面的意义:构建算法和推理算法; 评估ai模型和结果. 这两句话总结的很好:概率论使得我们能对”不确定性”进行陈述和表达,并在这种”不确定性”的基础上做出推理;信息论使得我们能够量化概率分布不确定性.而机器学习必须处理不确定性量甚至是随机性量. 一个重要 ...