决策树的ID3/C4.5算法
决策树是一种树形结构，在分类问题中，表示基于特征对实例进行分类的过程。 经典的决策树生成方法有ID3和C4.5算法，二者的生成过程大致相同，区别仅在于使用的对特征分类能力的评价标准不同。 ID3算法使用信息增益评估特征。…
基于web平台的手写体数字识别
本文使用numpy搭建基础的神经网络，用于手写体数字识别。用户可以在网页上进行书写，前端将图像信息发送给后端识别并接收识别结果。 大致流程如下： 针对MNIST数据集的神经网络模型的训练，完成后保存训练模型 后端：编写识…
使用Tornado WebSocket实现多人网页版聊天程序
Tornado Websocket可以实现http服务器主动向客户端发送消息，进而实现多人聊天程序。 引入所需的包和库。包含Tornado http服务器和websocket服务器相关包。time库用于用户发送消息时间的…
使用Tornado编写活动抽奖网页版程序
引入所需的库，包含Tornado相关和random随机库用于抽奖。 定义一些全局变量，用于存储前端返回的一些信息并能在后端各函数之内调用。期中prize_number为一个字典，存储了每个奖项对应的人数，particip…
朴素贝叶斯法的极大似然估计/贝叶斯估计
朴素贝叶斯法是一种生成模型，通过学习训练数据集的联合概率分布利用条件概率公式和贝叶斯定理，计算数据属于每一类的概率即后验概率并取最大值所在类作为分类结果，这一过程同样等价于期望风险最小化。特别的，朴素贝叶斯对条件概率分布…
使用kd树实现knn算法
KNN算法是将待测样本与训练样本的特征进行比较，取k个与待测样本最接近的训练样本（如计算欧氏距离），其中k个样本中大多数属于哪一类别便也将待测样本分类为哪一类别（最大分类决策）。 Kd树是高效的实现KNN算法的一种实现方…
使用numpy搭建基础的神经网络
摘要：本文使用纯numpy完成基础的神经网络搭建，并使用搭建的神经网络实现MNIST手写体数字数据集的分类。 人工神经网络可以有数层，每一层有数个神经元节点，通过训练节点间的参数来训练模型，最终可以用于解决复杂的分类问题…
感知机的对偶形式
感知机的对偶形式是对原始形式的一种优化计算的方法，它将原始形式的参数 \(w\) 表示为训练过程中每个点被选作误类点的次数 \(\alpha_i\) ，即 \(\alpha_i = n_i * \eta\)，则对应的 \…
从零开始编写感知机
本文使用python numpy完成简单感知机的搭建，并对sklearn iris鸢尾花数据集进行线性二分类。
C语言编程基础——xyzGame小游戏合集
这是一个由纯C语言标准库写的控制台小游戏合集。包含井字棋、贪吃蛇、俄罗斯方块三款简单的小游戏。