技术人生
-
K-Means K均值聚类算法
k均值聚类将样本集合划分为k个类，每个样本到其所属类的中心的距离最小。 其大致算法流程如下： 随机选择k个样本点作为k个类的初始聚类中心； 将每个样本分配到距离最近的中心的类中； 按照每个类内样本点的均值计算新的中心； …
-
层次聚类算法之聚合聚类
层次聚类是一种无监督学习中的聚类方法，它将样本聚合到层次化的类中。层次聚类又可以分为聚合聚类（自下而上）和分裂聚类（自上而下）两种，本文主要讨论聚合聚类。 聚合聚类开始时将每个样本分到一个类，之后将相距最近的两类合并，重…
-
决策树的CART算法
CART名为分类与回归树，顾名思义生成的决策树既可以用于分类，也可以用于回归，这里主要讨论分类树。 决策树的CART算法大体上的框架与ID3/C4.5相似，最大的区别在于CART生成的是一棵二叉树，而ID3/C4.5的子…
-
决策树的ID3/C4.5算法
决策树是一种树形结构，在分类问题中，表示基于特征对实例进行分类的过程。 经典的决策树生成方法有ID3和C4.5算法，二者的生成过程大致相同，区别仅在于使用的对特征分类能力的评价标准不同。 ID3算法使用信息增益评估特征。…
-
基于web平台的手写体数字识别
本文使用numpy搭建基础的神经网络，用于手写体数字识别。用户可以在网页上进行书写，前端将图像信息发送给后端识别并接收识别结果。 大致流程如下： 针对MNIST数据集的神经网络模型的训练，完成后保存训练模型 后端：编写识…
-
使用Tornado WebSocket实现多人网页版聊天程序
Tornado Websocket可以实现http服务器主动向客户端发送消息，进而实现多人聊天程序。 引入所需的包和库。包含Tornado http服务器和websocket服务器相关包。time库用于用户发送消息时间的…
-
使用Tornado编写活动抽奖网页版程序
引入所需的库，包含Tornado相关和random随机库用于抽奖。 定义一些全局变量，用于存储前端返回的一些信息并能在后端各函数之内调用。期中prize_number为一个字典，存储了每个奖项对应的人数，particip…
-
朴素贝叶斯法的极大似然估计/贝叶斯估计
朴素贝叶斯法是一种生成模型，通过学习训练数据集的联合概率分布利用条件概率公式和贝叶斯定理，计算数据属于每一类的概率即后验概率并取最大值所在类作为分类结果，这一过程同样等价于期望风险最小化。特别的，朴素贝叶斯对条件概率分布…
-
使用kd树实现knn算法
KNN算法是将待测样本与训练样本的特征进行比较，取k个与待测样本最接近的训练样本（如计算欧氏距离），其中k个样本中大多数属于哪一类别便也将待测样本分类为哪一类别（最大分类决策）。 Kd树是高效的实现KNN算法的一种实现方…
-
使用NumPy搭建基础人工神经网络
本文使用Python科学计算库Nmpy完成基础的人工神经网络搭建，并将其应用于对MNIST手写体数字数据集的训练和分类。