fourteenBDr
commited on
Commit
·
5c0d3e2
1
Parent(s):
f078187
Delete readme.md
Browse files
readme.md
DELETED
@@ -1,121 +0,0 @@
|
|
1 |
-
# 中文文本分类数据集
|
2 |
-
|
3 |
-
数据来源:
|
4 |
-
|
5 |
-
今日头条客户端
|
6 |
-
|
7 |
-
|
8 |
-
|
9 |
-
数据格式:
|
10 |
-
|
11 |
-
```
|
12 |
-
6552431613437805063_!_102_!_news_entertainment_!_谢娜为李浩菲澄清网络谣言,之后她的两个行为给自己加分_!_佟丽娅,网络谣言,快乐大本营,李浩菲,谢娜,观众们
|
13 |
-
```
|
14 |
-
|
15 |
-
每行为一条数据,以`_!_`分割的个字段,从前往后分别是 新闻ID,分类code(见下文),分类名称(见下文),新闻字符串(仅含标题),新闻关键词
|
16 |
-
|
17 |
-
|
18 |
-
|
19 |
-
分类code与名称:
|
20 |
-
|
21 |
-
```
|
22 |
-
100 民生 故事 news_story
|
23 |
-
101 文化 文化 news_culture
|
24 |
-
102 娱乐 娱乐 news_entertainment
|
25 |
-
103 体育 体育 news_sports
|
26 |
-
104 财经 财经 news_finance
|
27 |
-
106 房产 房产 news_house
|
28 |
-
107 汽车 汽车 news_car
|
29 |
-
108 教育 教育 news_edu
|
30 |
-
109 科技 科技 news_tech
|
31 |
-
110 军事 军事 news_military
|
32 |
-
112 旅游 旅游 news_travel
|
33 |
-
113 国际 国际 news_world
|
34 |
-
114 证券 股票 stock
|
35 |
-
115 农业 三农 news_agriculture
|
36 |
-
116 电竞 游戏 news_game
|
37 |
-
```
|
38 |
-
|
39 |
-
|
40 |
-
|
41 |
-
数据规模:
|
42 |
-
|
43 |
-
共382688条,分布于15个分类中。
|
44 |
-
|
45 |
-
|
46 |
-
|
47 |
-
采集时间:
|
48 |
-
|
49 |
-
2018年05月
|
50 |
-
|
51 |
-
|
52 |
-
|
53 |
-
实验结果:
|
54 |
-
|
55 |
-
以0.7 0.15 0.15做分割。欢迎提交你使用本数据集的实验结果~
|
56 |
-
|
57 |
-
```
|
58 |
-
Test Loss: 0.57, Test Acc: 83.81%
|
59 |
-
|
60 |
-
precision recall f1-score support
|
61 |
-
|
62 |
-
news_story 0.66 0.75 0.70 848
|
63 |
-
|
64 |
-
news_culture 0.57 0.83 0.68 1531
|
65 |
-
|
66 |
-
news_entertainment 0.86 0.86 0.86 8078
|
67 |
-
|
68 |
-
news_sports 0.94 0.91 0.92 7338
|
69 |
-
|
70 |
-
news_finance 0.59 0.67 0.63 1594
|
71 |
-
|
72 |
-
news_house 0.84 0.89 0.87 1478
|
73 |
-
|
74 |
-
news_car 0.92 0.90 0.91 6481
|
75 |
-
|
76 |
-
news_edu 0.71 0.86 0.77 1425
|
77 |
-
|
78 |
-
news_tech 0.85 0.84 0.85 6944
|
79 |
-
|
80 |
-
news_military 0.90 0.78 0.84 6174
|
81 |
-
|
82 |
-
news_travel 0.58 0.76 0.66 1287
|
83 |
-
|
84 |
-
news_world 0.72 0.69 0.70 3823
|
85 |
-
|
86 |
-
stock 0.00 0.00 0.00 53
|
87 |
-
|
88 |
-
news_agriculture 0.80 0.88 0.84 1701
|
89 |
-
|
90 |
-
news_game 0.92 0.87 0.89 6244
|
91 |
-
|
92 |
-
avg / total 0.85 0.84 0.84 54999
|
93 |
-
|
94 |
-
|
95 |
-
|
96 |
-
以上Acc较低的原因:
|
97 |
-
|
98 |
-
1,数据不均衡,部分类目数据太少
|
99 |
-
|
100 |
-
2,部分分类之间本身模棱两可,例如故事、文化、旅行
|
101 |
-
|
102 |
-
详见text-class xxxx内代码
|
103 |
-
|
104 |
-
后续可以优化的地方:
|
105 |
-
|
106 |
-
1,更多的数据
|
107 |
-
|
108 |
-
2,更全的分类
|
109 |
-
|
110 |
-
因为分类不全,例如缺少美食等,导致实际使用时,分哪里都不对的情况出现。
|
111 |
-
|
112 |
-
3,更均衡的分类数据
|
113 |
-
|
114 |
-
4,引入正文
|
115 |
-
|
116 |
-
```
|
117 |
-
|
118 |
-
|
119 |
-
### NLP chat group
|
120 |
-
|
121 |
-
Welcome
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|