在很多机器学习中,特征并总是连续值,而是分类值。
["male", "female"]
["from Europe", "from US", "from Asia"]
["uses Firefox", "uses Chrome", "uses Safari", "uses Internet Explorer"]
将上面的数据用数字表示
["male", "from US", "uses Internet Explorer"] ===> [0, 1, 3]
["female", "from Asia", "uses Chrome"] ===> [1, 2, 1]
现在数据转化为数字表示,但是还不能直接用在分类器中。
因为,分类器往往默认数据是连续的,并且是有序的。但是上面表示的数据,数字是随机分配的。
one-hot编码
one-hot编码(独热编码),又称为一位有效编码。
方法是:N位状态寄存器对应N个状态进行编码,这样每个状态都由独立的寄存器表示。
比如,自然状态码为
000
001
010
011
100
101
one-hot编码
000001
000010
000100
001000
010000
100000
假设,对于一个特征,可能有m个值,则one-hot编码后,则变成m个二元特征
这样做的好处是,解决了分类器不好处理属性数据的问题,在一定程度上扩充特征。
from sklearn import preprocessing
enc = preprocessing.OneHotEncoder()
enc.fit([[0, 0, 3], [1, 1, 0], [0, 2, 1], [1, 0, 2]])
enc.transform([[0, 1, 3]]).toarray()