svm
支持向量机，英文全名为Support Vector Machine(SVM)，和感知机算法一样它通常用于二分类样本数据的分类，不同之处在于感知机算法要求样本数据线性可分否则算法不收敛，而支持向量机算法通过引入核函数巧妙的解决了这个问题。支持向量机的基本思想是在样本数据中训练出一个间隔最大化的线性…
继续阅读 →STRINGS / NOTES
Strings
hello，各位好，这里记录机器学习、风控算法与阅读思考。
LATEST WRITING
最新文章
FM
1 $\ FM\ $算法介绍在传统的线性模型中，各个特征之间都是独立考虑的，并没有涉及到特征与特征之间的交互关系，但实际上大量的特征之间是相互关联的。如何寻找相互关联的特征，基于上述思想$\ FM\ $算法应运而生。传统的线性模型为$$y=w_0+\sum\limits_{i=1…
继续阅读 →Kmeans算法及其衍生算法综述
本文主要介绍Kmeans相关算法。 1 Kmeans聚类K-Means的思想十分简单，首先随机指定类中心，根据样本与类中心的远近划分类簇，接着重新计算类中心，迭代直至收敛： 假设输入空间 $\cal X \in \R^n \ $ 为$\ n\ $维向量的集合，$\ \cal{X}={x^{…
继续阅读 →MySQL和Oracle 表注释和字段注释相关总结
1. Oracle 添加/查看表注释和字段注释1.1 Oracle添加表注释和字段注释TODO 1.2 Oracle查看全部表注释和字段注释1234--获取表注释。获得 table_name,table_type,comments。select * from user_tab_commen…
继续阅读 →adaboost算法
1. 算法简介Boosting, 也称为增强学习或提升法，是一种重要的集成学习技术， 能够将预测精度仅比随机猜度略高的弱学习器增强为预测精度高的强学习器，这在直接构造强学习器非常困难的情况下，为学习算法的设计提供了一种有效的新思路和新方法。其中最为成功应用的是，Yoav Freund和Robert …
继续阅读 →RNN相关
Recurrent Neural Networks (RNN) A recurrent neural network (RNN) is a type of neural network that has been succesful in modelling sequential data, e.g…
继续阅读 →classification metrics
1. 简介评价分类问题的性能的指标一般是分类准确率，其定义是对于给定的数据，分类正确的样本数占总样本数的比例。但是这一指标在Unbalanced的数据上表现很差。比如说我的样本有990个正样本，10个负样本，我直接把所有样本都预测为正，我的准确率为99%，居然有这么高得准确率，但我的分类方法实际是非…
继续阅读 →神经网络
神经网络的numpy实现和公式推导 过去10多年是神经网络发展的黄金时期，神经网络(深度学习)成为了新时代的一种浪潮，所以今天借用国外一个小哥实现纯numpy的神经网络，来记录神经网络的实现过程。 概览 在开始编程之前，先让我们准备一份基本的路线图。我们的目标是创建一个特定架构（层数、层大小、激…
继续阅读 →