02 特征工程 – Fancy Coding

2.1 数据集

目标
- 知道数据集的分为训练集和测试集
- 会使用sklearn的数据集

2.1.1 可用数据集

Kaggle网址：https://www.kaggle.com/datasets

UCI数据集网址： http://archive.ics.uci.edu/ml/

scikit-learn网址：http://scikit-learn.org/stable/datasets/index.html#datasets

1 Scikit-learn工具介绍

Python语言的机器学习工具
Scikit-learn包括许多知名的机器学习算法的实现
Scikit-learn文档完善，容易上手，丰富的API
目前稳定版本0.19.1

2 安装

1	pip3 install Scikit-learn==0.19.1

安装好之后可以通过以下命令查看是否安装成功

1	import sklearn

注：安装scikit-learn需要Numpy, Scipy等库

3 Scikit-learn包含的内容

分类、聚类、回归
特征工程
模型选择、调优

2.1.2 sklearn数据集

1 scikit-learn数据集API介绍

sklearn.datasets
- 加载获取流行数据集
- datasets.load_*()
  - 获取小规模数据集，数据包含在datasets里
- datasets.fetch_*(data_home=None)
  - 获取大规模数据集，需要从网络上下载，函数的第一个参数是data_home，表示数据集下载的目录,默认是 ~/scikit_learn_data/

2 sklearn小数据集

sklearn.datasets.load_iris() 加载并返回鸢尾花数据集

sklearn.datasets.load_boston() 加载并返回波士顿房价数据集

3 sklearn大数据集

sklearn.datasets.fetch_20newsgroups(data_home=None,subset=‘train’)
- subset：’train’或者’test’，’all’，可选，选择要加载的数据集。
- 训练集用“train”，测试集用“test”，即作为训练集也作为测试机则用“all”

4 sklearn数据集的使用

以鸢尾花数据集为例：

sklearn数据集返回值介绍

load和fetch返回的数据类型datasets.base.Bunch(继承字典格式,类似JSON)
- data：特征数组，是 [n_samples * n_features] 的二维 numpy.ndarray 数组
- target：标签数组，是 n_samples 的一维 numpy.ndarray 数组
- DESCR：数据集描述
- feature_names：特征名称. 新闻数据，手写数字、回归数据集没有
- target_names：标签名称

from sklearn.datasets import load_iris

# 获取鸢尾花数据集

iris = load_iris()

# 返回值是一个继承自字典的Bunch

print("鸢尾花数据集的返回值：\n", iris)

# 打印数据集的所有属性

print("鸢尾花的特征值:\n", iris.data) # 也可以 iris["data"] 方式进行索引

print("鸢尾花的目标值：\n", iris.target)

print("鸢尾花特征的名字：\n", iris.feature_names)

print("鸢尾花目标值的名字：\n", iris.target_names)

print("鸢尾花数据集的描述：\n", iris.DESCR)

思考：拿到的数据是否全部都用来训练一个模型？

2.1.3 数据集的划分

机器学习一般的数据集会划分为两个部分：

训练数据：用于训练，构建模型
测试数据：在模型检验时使用，用于评估模型是否有效

划分比例：

训练集：70% 80% 75%
测试集：30% 20% 30%

数据集划分api

sklearn.model_selection.train_test_split(arrays, *options)
- x 数据集的特征值
- y 数据集的标签值
- test_size 测试集的大小，一般为float
- random_state 随机数种子,不同的种子会造成不同的随机采样结果。相同的种子采样结果相同。
- return 测试集特征训练集特征值值，训练标签，测试标签(默认随机取)

from sklearn.datasets import load_iris

from sklearn.model_selection import train_test_split

def datasets_demo():

"""

对鸢尾花数据集的演示

:return: None

"""

# 1、获取鸢尾花数据集

iris = load_iris()

print("鸢尾花数据集的返回值：\n", iris)

# 返回值是一个继承自字典的Bench

print("鸢尾花的特征值:\n", iris["data"])

print("鸢尾花的目标值：\n", iris.target)

print("鸢尾花特征的名字：\n", iris.feature_names)

print("鸢尾花目标值的名字：\n", iris.target_names)

print("鸢尾花的描述：\n", iris.DESCR)

# 2、对鸢尾花数据集进行分割

# 训练集的特征值x_train 测试集的特征值x_test 训练集的目标值y_train 测试集的目标值y_test

x_train, x_test, y_train, y_test = train_test_split(iris.data, iris.target, random_state=22)

print("x_train:\n", x_train.shape)

# 随机数种子

x_train1, x_test1, y_train1, y_test1 = train_test_split(iris.data, iris.target, random_state=6)

x_train2, x_test2, y_train2, y_test2 = train_test_split(iris.data, iris.target, random_state=6)

print("如果随机数种子不一致：\n", x_train == x_train1)

print("如果随机数种子一致：\n", x_train1 == x_train2)

return None

2.2 特征工程介绍

学习目标

目标
- 了解特征工程在机器学习当中的重要性
- 知道特征工程的分类

2.2.1 为什么需要特征工程(Feature Engineering)

机器学习领域的大神Andrew Ng(吴恩达)老师说“Coming up with features is difficult, time-consuming, requires expert knowledge. “Applied machine learning” is basically feature engineering. ” 注：业界广泛流传：数据和特征决定了机器学习的上限，而模型和算法只是逼近这个上限而已。

2.2.2 什么是特征工程

特征工程是使用专业背景知识和技巧处理数据，使得特征能在机器学习算法上发挥更好的作用的过程。

意义：会直接影响机器学习的效果

2.2.3 特征工程的位置与数据处理的比较

pandas:一个数据读取非常方便以及基本的处理格式的工具
sklearn:对于特征的处理提供了强大的接口

特征工程包含内容

特征抽取
特征预处理
特征降维

2.3 特征提取

学习目标

目标
- 应用DictVectorizer实现对类别特征进行数值化、离散化
- 应用CountVectorizer实现对文本特征进行数值化
- 应用TfidfVectorizer实现对文本特征进行数值化
- 说出两种文本特征提取的方式区别

什么是特征提取呢？

2.3.1 特征提取

1 将任意数据（如文本或图像）转换为可用于机器学习的数字特征

字典特征提取(特征离散化,矢量化)
文本特征提取
图像特征提取（深度学习将介绍）

注：特征值化是为了计算机更好的去理解数据

2 特征提取API

1	sklearn.feature_extraction

2.3.2 字典特征提取

作用：对字典数据进行特征值化

sklearn.feature_extraction.DictVectorizer(sparse=True,…)
- DictVectorizer.fit_transform(X) X:字典或者包含字典的迭代器返回值：返回sparse矩阵
- DictVectorizer.inverse_transform(X) X:array数组或者sparse矩阵返回值:转换之前数据格式
- DictVectorizer.get_feature_names() 返回类别名称

1 应用

我们对以下数据进行特征提取

[{'city': '北京','temperature':100}

{'city': '上海','temperature':60}

{'city': '深圳','temperature':30}]

2 流程分析

实例化类DictVectorizer
调用fit_transform方法输入数据并转换（注意返回格式）

from sklearn.feature_extraction import DictVectorizer

def dict_demo():

"""

对字典类型的列表数据进行特征抽取

:return: None

"""

data = [{'city': '北京','temperature':100}, {'city': '上海','temperature':60}, {'city': '深圳','temperature':30}]

# 1、实例化一个转换器类

transfer = DictVectorizer()

# 2、调用fit_transform

data = transfer.fit_transform(data)

print("返回的结果:\n", data)

# 打印特征名字

print("特征名字：\n", transfer.get_feature_names())

return None

dict_demo()

注意观察结果:

返回的结果:

(0, 1) 1.0

(0, 3) 100.0

(1, 0) 1.0

(1, 3) 60.0

(2, 2) 1.0

(2, 3) 30.0

特征名字：

['city=上海', 'city=北京', 'city=深圳', 'temperature']

默认是返回稀疏矩阵,结果格式为: (行坐标,列坐标) 非零值 这个结果并不是我们想要看到的，所以加上sparse=False参数

1	transfer = DictVectorizer(sparse=False)

得到想要的结果(完整的矩阵)：

返回的结果:

[[ 0. 1. 0. 100.]

[ 1. 0. 0. 60.]

[ 0. 0. 1. 30.]]

特征名字：

['city=上海', 'city=北京', 'city=深圳', 'temperature']

之前在学习pandas中的离散化的时候，也实现了类似的效果。我们把这个处理数据的技巧叫做”one-hot“编码：

转化为：

one hot编码是将类别变量转换为机器学习算法易于利用的一种形式的过程. 假设“花”的特征可能的取值为daffodil（水仙）、lily（百合）、rose（玫瑰）。one hot编码将其转换为三个特征：is_daffodil、is_lily、is_rose，这些特征都是二进制的(只有0和1两个取值)。

2.3 总结

对于特征当中存在类别信息的我们都会做one-hot编码处理

2.3.3 文本特征提取

作用：对文本数据进行特征值化

sklearn.feature_extraction.text.CountVectorizer(stop_words=[])
- 返回词频矩阵

CountVectorizer.fit_transform(X) X:文本或者包含文本字符串的可迭代对象返回值：返回sparse矩阵(默认)
CountVectorizer.inverse_transform(X) X:array数组或者sparse矩阵返回值:转换之前的数据
CountVectorizer.get_feature_names() 返回值:单词列表
sklearn.feature_extraction.text.TfidfVectorizer

1 应用

我们对以下数据进行特征提取

1 2	["life is short,i like python", "life is too long,i dislike python"]

2 流程分析

实例化类CountVectorizer
调用fit_transform方法输入数据并转换（注意返回格式，利用toarray()进行sparse矩阵转换array数组）

from sklearn.feature_extraction.text import CountVectorizer

def text_count_demo():

"""

对文本进行特征抽取，countvetorizer

:return: None

"""

data = ["life is short,i like like python", "life is too long,i dislike python"]

# 1、实例化一个转换器类

# transfer = CountVectorizer(sparse=False)

transfer = CountVectorizer()

# 2、调用fit_transform

data = transfer.fit_transform(data)

print("文本特征抽取的结果：\n", data.toarray())

print("返回特征名字：\n", transfer.get_feature_names())

return None

返回结果：

文本特征抽取的结果：

[[0 1 1 2 0 1 1 0]

[1 1 1 0 1 1 0 1]]

返回特征名字：

['dislike', 'is', 'life', 'like', 'long', 'python', 'short', 'too']

问题:如果我们将数据替换成中文？

"人生苦短，我喜欢Python"

"生活太长久，我不喜欢Python"

那么最终得到的结果是

文本特征抽取的结果：

[[1 0 1 0]

[0 1 0 1]]

返回特征名字：

['人生苦短', '我不喜欢python', '我喜欢python', '生活太长久']

为什么会得到这样的结果呢，仔细分析之后会发现英文默认是以空格分开的。其实就达到了一个分词的效果，所以我们要对中文进行中文分词处理

3 jieba分词处理

jieba.cut()
- 返回词语组成的生成器

需要安装下jieba库

1	pip3 install jieba

4 案例分析

对以下三句话进行特征值化

今天很残酷，明天更残酷，后天很美好，

但绝对大部分是死在明天晚上，所以每个人不要放弃今天。

我们看到的从很远星系来的光是在几百万年之前发出的，

这样当我们看到宇宙时，我们是在看它的过去。

如果只用一种方式了解某样事物，你就不会真正了解它。

了解事物真正含义的秘密取决于如何将其与我们所了解的事物相联系。

分析
- 准备句子，利用jieba.cut进行分词
- 实例化CountVectorizer
- 将分词结果变成字符串当作fit_transform的输入值

from sklearn.feature_extraction.text import CountVectorizer

import jieba

def cut_word(text):

"""

对中文进行分词

"我爱北京天安门"————>"我爱北京天安门"

:param text:

:return: text

"""

# 用jieba对中文字符串进行分词

text = " ".join(list(jieba.cut(text)))

return text

def text_chinese_count_demo2():

"""

对中文进行特征抽取

:return: None

"""

data = ["一种还是一种今天很残酷，明天更残酷，后天很美好，但绝对大部分是死在明天晚上，所以每个人不要放弃今天。",

"我们看到的从很远星系来的光是在几百万年之前发出的，这样当我们看到宇宙时，我们是在看它的过去。",

"如果只用一种方式了解某样事物，你就不会真正了解它。了解事物真正含义的秘密取决于如何将其与我们所了解的事物相联系。"]

# 将原始数据转换成分好词的形式

text_list = []

for sent in data:

text_list.append(cut_word(sent))

print(text_list)

# 1、实例化一个转换器类

# transfer = CountVectorizer(sparse=False)

transfer = CountVectorizer()

# 2、调用fit_transform

data = transfer.fit_transform(text_list)

print("文本特征抽取的结果：\n", data.toarray())

print("返回特征名字：\n", transfer.get_feature_names())

return None

返回结果：

Building prefix dict from the default dictionary ...

Dumping model to file cache /var/folders/mz/tzf2l3sx4rgg6qpglfb035_r0000gn/T/jieba.cache

Loading model cost 1.032 seconds.

['一种还是一种今天很残酷，明天更残酷，后天很美好，但绝对大部分是死在明天晚上，所以每个人不要放弃今天。', '我们看到的从很远星系来的光是在几百万年之前发出的，这样当我们看到宇宙时，我们是在看它的过去。', '如果只用一种方式了解某样事物，你就不会真正了解它。了解事物真正含义的秘密取决于如何将其与我们所了解的事物相联系。']

Prefix dict has been built succesfully.

文本特征抽取的结果：

[[2 0 1 0 0 0 2 0 0 0 0 0 1 0 1 0 0 0 0 1 1 0 2 0 1 0 2 1 0 0 0 1 1 0 0 1 0]

[0 0 0 1 0 0 0 1 1 1 0 0 0 0 0 0 0 1 3 0 0 0 0 1 0 0 0 0 2 0 0 0 0 0 1 0 1]

[1 1 0 0 4 3 0 0 0 0 1 1 0 1 0 1 1 0 1 0 0 1 0 0 0 1 0 0 0 2 1 0 0 1 0 0 0]]

返回特征名字：

['一种', '不会', '不要', '之前', '了解', '事物', '今天', '光是在', '几百万年', '发出', '取决于', '只用', '后天', '含义', '大部分', '如何', '如果', '宇宙', '我们', '所以', '放弃', '方式', '明天', '星系', '晚上', '某样', '残酷', '每个', '看到', '真正', '秘密', '绝对', '美好', '联系', '过去', '还是', '这样']

但如果把这样的词语特征用于分类，会出现什么问题？ 请看问题：

该如何处理某个词或短语在多篇文章中出现的次数高这种情况

5 Tf-idf文本特征提取

TF-IDF的主要思想是：如果某个词或短语在一篇文章中出现的概率高，并且在其他文章中很少出现，则认为此词或者短语具有很好的类别区分能力，适合用来分类。
TF-IDF作用：用以评估一字词对于一个文件集或一个语料库中的其中一份文件的重要程度。

5.1 公式

词频（term frequency，tf）指的是某一个给定的词语在该文件中出现的频率
逆向文档频率（inverse document frequency，idf）是一个词语普遍重要性的度量。某一特定词语的idf，可以由总文件数目除以包含该词语之文件的数目，再将得到的商取以10为底的对数得到

最终得出结果可以理解为重要程度。

1 2	注：假如一篇文件的总词语数是100个，而词语"非常"出现了5次，那么"非常"一词在该文件中的词频就是5/100=0.05。而计算文件频率（IDF）的方法是以文件集的文件总数，除以出现"非常"一词的文件数。所以，如果文件总数是10,000,000份的话，"非常"一词在1,000份文件出现过，其逆向文件频率就是lg（10,000,000 / 1,000）=3。最后"非常"对于这篇文档的tf-idf的分数为0.05 * 3=0.15

5.2 案例

from sklearn.feature_extraction.text import TfidfVectorizer

import jieba

def cut_word(text):

"""

对中文进行分词

"我爱北京天安门"————>"我爱北京天安门"

:param text:

:return: text

"""

# 用jieba对中文字符串进行分词

text = " ".join(list(jieba.cut(text)))

return text

def text_chinese_tfidf_demo():

"""

对中文进行特征抽取

:return: None

"""

data = ["一种还是一种今天很残酷，明天更残酷，后天很美好，但绝对大部分是死在明天晚上，所以每个人不要放弃今天。",

"我们看到的从很远星系来的光是在几百万年之前发出的，这样当我们看到宇宙时，我们是在看它的过去。",

"如果只用一种方式了解某样事物，你就不会真正了解它。了解事物真正含义的秘密取决于如何将其与我们所了解的事物相联系。"]

# 将原始数据转换成分好词的形式

text_list = []

for sent in data:

text_list.append(cut_word(sent))

print(text_list)

# 1、实例化一个转换器类

# transfer = CountVectorizer(sparse=False)

transfer = TfidfVectorizer(stop_words=['一种', '不会', '不要'])

# 2、调用fit_transform

data = transfer.fit_transform(text_list)

print("文本特征抽取的结果：\n", data.toarray())

print("返回特征名字：\n", transfer.get_feature_names())

return None

返回结果：

Building prefix dict from the default dictionary ...

Loading model from cache /var/folders/mz/tzf2l3sx4rgg6qpglfb035_r0000gn/T/jieba.cache

Loading model cost 0.856 seconds.

Prefix dict has been built succesfully.

文本特征抽取的结果：

[[ 0. 0. 0. 0.43643578 0. 0. 0.

0. 0. 0.21821789 0. 0.21821789 0. 0.

0. 0. 0.21821789 0.21821789 0. 0.43643578

0. 0.21821789 0. 0.43643578 0.21821789 0. 0.

0. 0.21821789 0.21821789 0. 0. 0.21821789

0. ]

[ 0.2410822 0. 0. 0. 0.2410822 0.2410822

0.2410822 0. 0. 0. 0. 0. 0.

0. 0.2410822 0.55004769 0. 0. 0. 0.

0.2410822 0. 0. 0. 0. 0.48216441

0. 0. 0. 0. 0. 0.2410822

0. 0.2410822 ]

[ 0. 0.644003 0.48300225 0. 0. 0. 0.

0.16100075 0.16100075 0. 0.16100075 0. 0.16100075

0.16100075 0. 0.12244522 0. 0. 0.16100075

0. 0. 0. 0.16100075 0. 0. 0.

0.3220015 0.16100075 0. 0. 0.16100075 0. 0.

0. ]]

返回特征名字：

['之前', '了解', '事物', '今天', '光是在', '几百万年', '发出', '取决于', '只用', '后天', '含义', '大部分', '如何', '如果', '宇宙', '我们', '所以', '放弃', '方式', '明天', '星系', '晚上', '某样', '残酷', '每个', '看到', '真正', '秘密', '绝对', '美好', '联系', '过去', '还是', '这样']

6 Tf-idf的重要性

tf-idf 是分类机器学习算法进行文章分类中前期数据主要处理方式

TF-IDF是一种统计方法，用以评估一字词对于一个文件集或一个语料库中的其中一份文件的重要程度。字词的重要性随着它在文件中出现的次数成正比增加，但同时会随着它在语料库中出现的频率成反比下降。TF-IDF加权的各种形式常被搜索引擎应用，作为文件与用户查询之间相关程度的度量或评级。除了TF-IDF以外，因特网上的搜索引擎还会使用基于链接分析的评级方法，以确定文件在搜寻结果中出现的顺序。
TF-IDF

2.4 特征预处理

学习目标

目标
- 了解数值型数据、类别型数据特点
- 应用MinMaxScaler实现对特征数据进行归一化
- 应用StandardScaler实现对特征数据进行标准化

什么是特征预处理？

2.4.1 什么是特征预处理

# scikit-learn的解释

provides several common utility functions and transformer classes to change raw feature vectors into a representation that is more suitable for the downstream estimators.

翻译过来：通过一些转换函数将特征数据转换成更加适合算法模型的特征数据过程可以通过上面那张图来理解

1 包含内容

数值型数据的无量纲化：
- 归一化
- 标准化

2 特征预处理API

1	sklearn.preprocessing

为什么我们要进行归一化/标准化？

特征的单位或者大小相差较大，或者某特征的方差相比其他的特征要大出几个数量级，容易影响（支配）目标结果，使得一些算法无法学习到其它的特征

以男性约会对象样本数据为例

特征(Features):

里程数(milage): 越高说明工作性质需要频繁出差
冰淇淋消耗公升数(Liters): 越高说明体态约丰满, 饮食无节制或者缺少运动
玩游戏消耗时间占比(ConsumTime): 越高说明越爱玩游戏, 越宅, 缺少正常社交活动

标签(Target):

非常喜欢(largeDoses)
有些喜欢(smallDoses)
不喜欢 ( didntLike)

具体数据如下:

我们需要用到一些方法进行归一化或者标准化，使不同规格的数据转换易于处理和分析的规模.

2.4.2 归一化

1 定义

通过对原始数据进行变换把数据映射到(默认为[0,1])之间

2 公式

作用于每一列，max为一列的最大值，min为一列的最小值,那么X’’为最终结果，mx，mi分别为指定区间值默认mx为1,mi为0

那么怎么理解这个过程呢？我们通过一个例子

3 API

sklearn.preprocessing.MinMaxScaler (feature_range=(0,1)… )
- MinMaxScalar.fit_transform(X)
  - X:numpy array格式的数据[n_samples,n_features]
- 返回值：转换后的形状相同的array

4 数据计算

我们对以下数据进行运算，在dating.txt中。保存的就是之前的约会对象数据

milage,Liters,Consumtime,target

40920,8.326976,0.953952,3

14488,7.153469,1.673904,2

26052,1.441871,0.805124,1

75136,13.147394,0.428964,1

38344,1.669788,0.134296,1

分析

1、实例化MinMaxScalar 2、通过fit_transform转换

import pandas as pd

from sklearn.preprocessing import MinMaxScaler

def minmax_demo():

"""

归一化演示

:return: None

"""

data = pd.read_csv("dating.txt")

print(data)

# 1、实例化一个转换器类

transfer = MinMaxScaler(feature_range=(2, 3))

# 2、调用fit_transform

data = transfer.fit_transform(data[['milage','Liters','Consumtime']])

print("最小值最大值归一化处理的结果：\n", data)

return None

返回结果：

milage Liters Consumtime target

0 40920 8.326976 0.953952 3

1 14488 7.153469 1.673904 2

2 26052 1.441871 0.805124 1

3 75136 13.147394 0.428964 1

.. ... ... ... ...

998 48111 9.134528 0.728045 3

999 43757 7.882601 1.332446 3

[1000 rows x 4 columns]

最小值最大值归一化处理的结果：

[[ 2.44832535 2.39805139 2.56233353]

[ 2.15873259 2.34195467 2.98724416]

[ 2.28542943 2.06892523 2.47449629]

...,

[ 2.29115949 2.50910294 2.51079493]

[ 2.52711097 2.43665451 2.4290048 ]

[ 2.47940793 2.3768091 2.78571804]]

问题：如果数据中异常点较多，会有什么影响？

5 归一化总结

注意最大值最小值是变化的，另外，最大值与最小值非常容易受异常点影响，所以这种方法鲁棒性较差，只适合传统精确小数据场景。 怎么办？

2.4.3 标准化

1 定义

通过对原始数据进行变换把数据变换到均值为0,标准差为1范围内

2 公式

作用于每一列，mean为平均值，σ为标准差标准差定义是总体各单位标准值与其平均数离差平方的算术平均数的平方根。它反映组内个体间的离散程度

所以回到刚才异常点的地方，我们再来看看标准化

对于归一化来说：如果出现异常点，影响了最大值和最小值，那么结果显然会发生改变
对于标准化来说：如果出现异常点，由于具有一定数据量，少量的异常点对于平均值的影响并不大，从而方差改变较小。

3 API

sklearn.preprocessing.StandardScaler( )
- 处理之后每列来说所有数据都聚集在均值0附近标准差差为1
- StandardScaler.fit_transform(X)
  - X:numpy array格式的数据[n_samples,n_features]
- 返回值：转换后的形状相同的array

4 数据计算

同样对相亲男士样本数据进行分析, 这里把样本数据集增加到1000条, 适当根据比例添加一些异常数据作为干扰.

分析

1、实例化StandardScaler 2、通过fit_transform转换

import pandas as pd

from sklearn.preprocessing import StandardScaler

def stand_demo():

"""

标准化演示

:return: None

"""

data = pd.read_csv("dating.txt")

print(data)

# 1、实例化一个转换器类

transfer = StandardScaler()

# 2、调用fit_transform

data = transfer.fit_transform(data[['milage','Liters','Consumtime']])

print("标准化的结果:\n", data)

print("每一列特征的平均值：\n", transfer.mean_)

print("每一列特征的方差：\n", transfer.var_)

return None

返回结果：

milage Liters Consumtime target

0 40920 8.326976 0.953952 3

1 14488 7.153469 1.673904 2

2 26052 1.441871 0.805124 1

.. ... ... ... ...

997 26575 10.650102 0.866627 3

998 48111 9.134528 0.728045 3

999 43757 7.882601 1.332446 3

[1000 rows x 4 columns]

标准化的结果:

[[ 0.33193158 0.41660188 0.24523407]

[-0.87247784 0.13992897 1.69385734]

[-0.34554872 -1.20667094 -0.05422437]

...,

[-0.32171752 0.96431572 0.06952649]

[ 0.65959911 0.60699509 -0.20931587]

[ 0.46120328 0.31183342 1.00680598]]

每一列特征的平均值：

[ 3.36354210e+04 6.55996083e+00 8.32072997e-01]

每一列特征的方差：

[ 4.81628039e+08 1.79902874e+01 2.46999554e-01]

5 标准化总结

可见在已有样本足够多的情况下比较稳定，适合现代嘈杂大数据场景。

2.5 特征降维

学习目标

目标
- 知道特征选择的嵌入式、过滤式以及包裹氏三种方式
- 应用VarianceThreshold实现删除低方差特征
- 了解相关系数的特点和计算
- 应用相关性系数实现特征选择

2.5.1 降维

降维是指在某些限定条件下，降低随机变量(特征)个数，得到一组“不相关”主变量的过程

降低随机变量的个数

相关特征(correlated feature)
- 相对湿度与降雨量之间的相关
- 等等

正是因为在进行训练的时候，我们都是使用特征进行学习。如果特征本身存在问题或者特征之间相关性较强，对于算法学习预测会影响较大

2.5.2 降维的两种方式

特征选择
主成分分析（可以理解一种特征提取的方式）

2.5.3 什么是特征选择

1 定义

数据中包含冗余或无关变量（或称特征、属性、指标等），旨在从原有特征中找出主要特征。

2 方法

Filter(过滤式)：主要探究特征本身特点、特征与特征和目标值之间关联
- 方差选择法：低方差特征过滤
- 相关系数
Embedded (嵌入式)：算法自动选择特征（特征与目标值之间的关联）
- 决策树:信息熵、信息增益
- 正则化：L1、L2
- 深度学习：卷积等

对于Embedded方式，只能在讲解算法的时候在进行介绍，更好的去理解

3 模块

1	sklearn.feature_selection

4 过滤式

4.1 低方差特征过滤

删除低方差的一些特征，前面讲过方差的意义。再结合方差的大小来考虑这个方式的角度。特征方差小：某个特征大多样本的值比较相近(特征不明显) 特征方差大：某个特征很多样本的值都有差别(很可能是主要特征)

4.1.1 API

1	sklearn.feature_selection.VarianceThreshold(threshold = 0.0)

删除所有低方差特征(将过于偏离正常数据的干扰样本删除)

1 2	Variance.fit_transform(X) X:numpy array格式的数据[n_samples,n_features]

返回值：训练集差异低于threshold的特征将被删除。默认值是保留所有非零方差特征，即删除所有样本中具有相同值的特征。

4.1.2 数据计算

我们对某些股票的指标特征之间进行一个筛选，数据在”factor_regression_data/factor_returns.csv”文件当中,除去’index,’date’,’return’列不考虑（这些类型不匹配，也不是所需要指标） 一共这些特征:

1 2	pe_ratio,pb_ratio,market_cap,return_on_asset_net_profit,du_return_on_equity,ev,earnings_per_share,revenue,total_expense

factor_regression_data/factor_returns.csv 的前面5行数据:

index,pe_ratio,pb_ratio,market_cap,return_on_asset_net_profit,du_return_on_equity,ev,earnings_per_share,revenue,total_expense,date,return

000001.XSHE,5.9572,1.1818,85252550922,0.8008,14.9403,1.21144E+12,2.01,20701401000,10882540000,2012/1/31,0.027657228

000002.XSHE,7.0289,1.588,84113358168,1.6463,7.8656,3.00252E+11,0.326,29308369223,23783476901,2012/1/31,0.082351824

000008.XSHE,-262.7461,7.0003,517045520,-0.5678,-0.5943,770517752.6,-0.006,11679829.03,12030080.04,2012/1/31,0.099789003

000060.XSHE,16.476,3.7146,19680455995,5.6036,14.617,28009159185,0.35,9189386878,7935542726,2012/1/31,0.121594828

000069.XSHE,12.5878,2.5616,41727214853,2.8729,10.9097,81247380359,0.271,8951453490,7091397989,2012/1/31,-0.002680815

分析 1、初始化VarianceThreshold,指定阀值方差(为1) 2、调用fit_transform

from sklearn.feature_selection.variance_threshold import VarianceThreshold

import pandas as pd

def variance_demo():

"""

删除低方差特征——特征选择

:return: None

"""

# 读取csv数据中的特征信息, 共12列(C1-C12)

data = pd.read_csv("./factor_regression_data/factor_returns.csv")

print(data)

# 1、实例化一个转换器类

# 阈值越大, 可能过滤掉的特征就越多

transfer = VarianceThreshold(threshold=1)

# 去掉前面的index,以及后面的date和return这几个无法处理或者无用的特征

data = data.iloc[:, 1:10]

# 2、调用fit_transform

# 根据1的阈值去除低方差样本

data = transfer.fit_transform(data)

print("删除低方差特征的结果：\n", data)

print("形状：\n", data.shape)

return None

返回结果：

index pe_ratio pb_ratio market_cap \

0 000001.XSHE 5.9572 1.1818 8.525255e+10

1 000002.XSHE 7.0289 1.5880 8.411336e+10

... ... ... ... ...

2316 601958.XSHG 52.5408 2.4646 3.287910e+10

2317 601989.XSHG 14.2203 1.4103 5.911086e+10

return_on_asset_net_profit du_return_on_equity ev \

0 0.8008 14.9403 1.211445e+12

1 1.6463 7.8656 3.002521e+11

... ... ... ...

2316 2.7444 2.9202 3.883803e+10

2317 2.0383 8.6179 2.020661e+11

earnings_per_share revenue total_expense date return

0 2.0100 2.070140e+10 1.088254e+10 2012-01-31 0.027657

1 0.3260 2.930837e+10 2.378348e+10 2012-01-31 0.082352

2 -0.0060 1.167983e+07 1.203008e+07 2012-01-31 0.099789

... ... ... ... ... ...

2315 0.2200 1.789082e+10 1.749295e+10 2012-11-30 0.137134

2316 0.1210 6.465392e+09 6.009007e+09 2012-11-30 0.149167

2317 0.2470 4.509872e+10 4.132842e+10 2012-11-30 0.183629

[2318 rows x 12 columns]

删除低方差特征的结果：

[[ 5.95720000e+00 1.18180000e+00 8.52525509e+10 ..., 1.21144486e+12

2.07014010e+10 1.08825400e+10]

[ 7.02890000e+00 1.58800000e+00 8.41133582e+10 ..., 3.00252062e+11

2.93083692e+10 2.37834769e+10]

[ -2.62746100e+02 7.00030000e+00 5.17045520e+08 ..., 7.70517753e+08

1.16798290e+07 1.20300800e+07]

...,

[ 3.95523000e+01 4.00520000e+00 1.70243430e+10 ..., 2.42081699e+10

1.78908166e+10 1.74929478e+10]

[ 5.25408000e+01 2.46460000e+00 3.28790988e+10 ..., 3.88380258e+10

6.46539204e+09 6.00900728e+09]

[ 1.42203000e+01 1.41030000e+00 5.91108572e+10 ..., 2.02066110e+11

4.50987171e+10 4.13284212e+10]]

形状：

(2318, 8)

可以看出, earnings_per_share 这个特征被过滤掉了.

4.2 相关系数

皮尔逊相关系数(Pearson Correlation Coefficient) 反映变量之间相关关系密切程度的统计指标

4.2.2 公式计算案例(了解，不用记忆)

公式

比如说我们计算年广告费投入与月均销售额

那么之间的相关系数怎么计算

最终计算：

= 0.9942 所以我们最终得出结论是广告投入费与月平均销售额之间有高度的正相关关系。

4.2.3 特点

相关系数的值介于–1与+1之间，即–1≤ r ≤+1。其性质如下：

当r>0时，表示两变量正相关，r<0时，两变量为负相关
当|r|=1时，表示两变量为完全相关，当r=0时，表示两变量间无相关关系
当0<|r|<1时，表示两变量存在一定程度的相关。且|r|越接近1，两变量间线性关系越密切；|r|越接近于0，表示两变量的线性相关越弱
一般可按三级划分：|r|<0.4为低度相关；0.4≤|r|<0.7为显著性相关；0.7≤|r|<1为高度线性相关

这个符号：|r|为r的绝对值， |-5| = 5

4.2.4 API

from scipy.stats import pearsonr

x : (N,) array_like

y : (N,) array_like Returns: (Pearson’s correlation coefficient, p-value)

4.2.5 案例：股票的财务指标相关性计算

我们刚才的股票的这些指标进行相关性计算，假设我们以

1 2	factor = ['pe_ratio','pb_ratio','market_cap','return_on_asset_net_profit','du_return_on_equity','ev','earnings_per_share','revenue','total_expense']

这些特征当中的两两进行计算，得出相关性高的一些特征

分析
- 两两特征之间进行相关性计算

import pandas as pd

from scipy.stats import pearsonr

def pearsonr_demo():

"""

2.6 主成分分析

学习目标:

应用PCA实现特征的降维

实际应用:

用户与物品类别之间主成分分析

2.6.1 什么是主成分分析(PCA)

主成分分析（principal component analysis）也称主分量分析，旨在利用降维的思想，把多指标转化为少数几个综合指标（即主成分），其中每个主成分都能够反映原始变量的大部分信息，且所含信息互不重复。

定义：高维数据转化为低维数据的过程，在此过程中可能会舍弃原有数据、创造新的变量
作用：是数据维数压缩，尽可能降低原数据的维数（复杂度），损失少量信息。
应用：回归分析或者聚类分析当中

对于信息一词，在决策树中会进行介绍

PCA主要思想

PCA的基本原理就是将一个矩阵中的样本数据投影到一个新的空间中去。当把所有的数据都投射到该新空间时，我们希望平均方误差能尽可地小。

PCA主要步骤

将原始数据按行排列组成矩阵X
对X进行数据均值化得到X’
求X’的协方差矩阵C

求协方差矩阵C的特征值和特征向量，并将特征向量按特征值由大到小排列，取前k个按行组成矩阵P（原因：对于一个矩阵来说，将其对角化即产生特征根及特征向量的过程，也是将其在标准正交基上投影的过程，而特征值对应的即为该特征向量方向上的投影长度，因此该方向上携带的原有数据的信息越多。）

通过计算Y = PX’，得到降维后数据Y

那么更好的理解这个过程呢？我们来看一张图

1 计算案例理解(了解，无需记忆)

假设对于给定5个点，数据如下

(-1,-2)

(-1, 0)

( 0, 0)

( 2, 1)

( 0, 1)

要求：将这个二维的数据简化成一维？并且损失少量的信息

这个过程如何计算的呢？找到一个合适的直线，通过一个矩阵运算得出主成分分析的结果（不需要理解）

2 API

# 将数据分解为较低维数空间

sklearn.decomposition.PCA(n_components=None)

n_components:

小数：表示保留百分之多少的信息

整数：减少到多少特征

PCA.fit_transform(X)

X:numpy array格式的数据[n_samples,n_features]

返回值：转换后指定维度的array

3 数据计算

先拿个简单的数据计算一下

[[2,8,4,5],

[6,3,0,8],

[5,4,9,1]]

from sklearn.decomposition import PCA

def pca_demo():

"""

对数据进行PCA降维

:return: None

"""

data = [[2,8,4,5], [6,3,0,8], [5,4,9,1]]

# 1、实例化PCA, 小数——保留多少信息

transfer = PCA(n_components=0.9)

# 2、调用fit_transform

data1 = transfer.fit_transform(data)

print("保留90%的信息，降维结果为：\n", data1)

# 1、实例化PCA, 整数——指定降维到的维数

transfer2 = PCA(n_components=3)

# 2、调用fit_transform

data2 = transfer2.fit_transform(data)

print("降维到3维的结果：\n", data2)

return None

返回结果：

保留90%的信息，降维结果为：

[[ -3.13587302e-16 3.82970843e+00]

[ -5.74456265e+00 -1.91485422e+00]

[ 5.74456265e+00 -1.91485422e+00]]

降维到3维的结果：

[[ -3.13587302e-16 3.82970843e+00 4.59544715e-16]

[ -5.74456265e+00 -1.91485422e+00 4.59544715e-16]

[ 5.74456265e+00 -1.91485422e+00 4.59544715e-16]]

2.6.2 案例：探究用户对物品类别的喜好细分降维

数据集下载, 一共是4个csv文件, 描述如下：

order_products__prior.csv：订单与商品信息
- 字段：order_id, product_id, add_to_cart_order, reordered
products.csv：商品信息
- 字段：product_id, product_name, aisle_id, department_id
orders.csv：用户的订单信息
- 字段：order_id,user_id,eval_set,order_number,….
aisles.csv：商品所属具体物品类别
- 字段： aisle_id, aisle

1 需求

2 分析

合并表，使得user_id与aisle在一张表当中
进行交叉表变换
进行降维

3 完整代码

import pandas as pd

from sklearn.decomposition import PCA

# 1、获取数据集

# ·商品信息- products.csv：

# Fields：product_id, product_name, aisle_id, department_id

# ·订单与商品信息- order_products__prior.csv：

# Fields：order_id, product_id, add_to_cart_order, reordered

# ·用户的订单信息- orders.csv：

# Fields：order_id, user_id,eval_set, order_number,order_dow, order_hour_of_day, days_since_prior_order

# ·商品所属具体物品类别- aisles.csv：

# Fields：aisle_id, aisle

products = pd.read_csv("./instacart/products.csv")

order_products = pd.read_csv("./instacart/order_products__prior.csv")

orders = pd.read_csv("./instacart/orders.csv")

aisles = pd.read_csv("./instacart/aisles.csv")

# 2、合并表，将user_id和aisle放在一张表上

# 1）合并orders和order_products on=order_id tab1:order_id, product_id, user_id

tab1 = pd.merge(orders, order_products, on=["order_id", "order_id"])

# 2）合并tab1和products on=product_id tab2:aisle_id

tab2 = pd.merge(tab1, products, on=["product_id", "product_id"])

# 3）合并tab2和aisles on=aisle_id tab3:user_id, aisle

tab3 = pd.merge(tab2, aisles, on=["aisle_id", "aisle_id"])

# 3、交叉表处理，把user_id和aisle进行分组

table = pd.crosstab(tab3["user_id"], tab3["aisle"])

# 4、主成分分析的方法进行降维

# 1）实例化一个转换器类PCA

transfer = PCA(n_components=0.95)

# 2）fit_transform

data = transfer.fit_transform(table)

print(data.shape)

返回结果：

1	(206209, 44)

降维后特征的含义变得模糊, 因此一般用于无监督学习, 尤其适用于当特征数量特别多且相互之间存在相关性的时候减少特征数量的方法. 举一个直观的例子，比如去食堂吃饭，有蒸羊羔、蒸熊掌、蒸鹿尾儿、烧花鸭、烧雏鸡、烧子鹅、卤猪、卤鸭、酱鸡、腊肉、松花、小肚儿、晾肉、香肠儿……是不可能的，但是我们有米饭、馒头、面条、干锅花菜、番茄炒蛋、黄瓜炒蛋、红烧鸡腿、糖醋排骨等。那我想吃顿饭，我选择米饭、馒头、面条，看起来好像选了三种食物蛮丰富的，但是实际上这三个都是碳水化合物，营养不均衡。假设我们可以将所有食物中的营养元素比如碳水化合物、蛋白质、维生素等“主成分”提取出来，作为新的“食物”。这样如果我们选择三样“食物”，营养就均衡了，而具体吃的是米饭还是馒头并无所谓。 PCA算法一个主要的缺点是难以解读。比如我们在实际操作的过程中可能有非常非常多的特征，而使用主成分分析后就合成了几个特征，那谁也不知道合成之后的特征是什么意思，主成分分析的过程往往是个黑盒（Black Box）。

总结

回顾练习

1、数据集的结构是什么?

答案: 特征值+ 目标值

2、机器学习算法分成哪些类别? 如何分类

答案: 根据是否有目标值分为监督学习和非监督学习监督学习根据目标值的数据类型:目标值为离散值就是分类问题目标值为连续值就是回归问题

3、什么是标准化? 和归一化相比有什么优点?

答案: 标准化是通过对原始数据进行变换把数据变换到均值为0,方差为1范围内优点: 少量异常点, 不影响平均值和方差, 对转换影响小