STRINGS / NOTES

Strings

hello,各位好,这里记录机器学习、风控算法与阅读思考。

LATEST WRITING

最新文章

风控算法工程师面试指南

风控模型师面试指南一. 算法1.逻辑回归1.1 逻辑回归的优缺点,在金融领域相比其他算法有什么优势,局限性在哪? 1)优点: 实现简单,速度快,占用内存小,可在短时间内迭代多个版本的模型。 模型的可解释性非常好,可以直接看到各个特征对模型结果的影响,可解释性在金融领域非常重要,所以在目前业界大部分使…

继续阅读

面试

[TOC] 机器学习1. 逻辑回归(LR)1.1 基本原理逻辑回归(Logistic Regression,LR)也称为”对数几率回归”,又称为”逻辑斯谛”回归。 1.1.1 知识点提炼 分类,经典的二分类算法! 逻辑回归就是这样的一个过程:面对一个回归或者分类问题,建立代价函数,然后通过优化方法迭…

继续阅读

降维方法-总结

1. 降维概述样本的特征数称为维数(dimensionality),当维数非常大时,也就是现在所说的“维数灾难”,具体表现在:在高维情形下,数据样本将变得十分稀疏,因为此时要满足训练样本为“密采样”的总体样本数目是一个触不可及的天文数字,谓可远观而不可亵玩焉…训练样本的稀疏使得其代表总体分布的能力大…

继续阅读

降维_线性判别分析

1. 算法概述LDA的思想可以用一句话概括,就是“投影后类内方差最小,类间方差最大”,如下图所示。我们要将数据在低维度上进行投影,投影后希望每一种类别数据的投影点尽可能的接近,而不同类别的数据的类别中心之间的距离尽可能的大。 2. 算法推导LDA多分类:假定存在$N$个类,且第$i$类示例树为$m_…

继续阅读

逻辑回归分类和softmax分类

逻辑回归分类和softmax分类1.逻辑回归1.1 算法原理一些回归算法也可以用于分类,反之亦然。逻辑回归就是被广泛用于估算一个实例属于某个特定类别的概率。如果估算概率超过50%就是属于该类,反之则不是。 1.2 假设函数​ 回顾线性回归中的假设函数$h_\theta(x)=\theta_…

继续阅读

线性回归

线性回归的代码实现1. 线性回归推导​ 对于给定了$m$个样本点($x^{(1)}$,$y^{(1)}$),($x^{(2)}$,$y^{(2)}$),$\dots$,($x^{(m)}$,$y^{(m)}$),其中$x^{(i)}\in\R^{n}$。定义假设函数为$h_\theta(x)$,即$…

继续阅读

聚类算法总结

聚类算法总结聚类是一种经典的无监督学习方法,无监督学习的目标是通过对无标记训练样本的学习,发掘和揭示数据集本身潜在的结构与规律,即不依赖于训练数据集的类标记信息。聚类则是试图将数据集的样本划分为若干个互不相交的类簇,从而每个簇对应一个潜在的类别。 聚类直观上来说是将相似的样本聚在一起,从而形成一个类…

继续阅读

神经网络公式推导

神经网络的反向传播公式1. 逻辑回归反向传播公式的推导逻辑回归是最简单的神经网络,先入手逻辑回归,有助于后面的理解。 上图是一个逻辑回归正向传播的示意图。具体细节不再描述。 损失函数为:$$L(a,y) = -yloga -(1-y)log(1-a)$$反向传播的目的为了求$dw和db$,…

继续阅读
123