llmjp-warp-html / README.md
hpprc's picture
Update README.md
c7b81df verified
|
raw
history blame contribute delete
No virus
890 Bytes
---
dataset_info:
features:
- name: title
dtype: string
- name: text
dtype: string
- name: id
dtype: string
- name: date
dtype: timestamp[us]
- name: url
dtype: string
splits:
- name: train
num_bytes: 1059198207
num_examples: 235298
download_size: 594355237
dataset_size: 1059198207
configs:
- config_name: default
data_files:
- split: train
path: data/train-*
license: cc-by-4.0
language:
- ja
---
[llm-jp-corpus-v3のwarp_htmlのうちlevel2フィルタリングされたデータ](https://gitlab.llm-jp.nii.ac.jp/datasets/llm-jp-corpus-v3/-/tree/main/ja/ja_warp_html/level2)をHFフォーマットに変換し、各データに付与されたURLから元記事のタイトルを取得可能なものについては取得して付与したデータセットです。
ライセンスは元ページに従いCC-BY 4.0とします。