dataset_info: | |
features: | |
- name: title | |
dtype: string | |
- name: text | |
dtype: string | |
- name: id | |
dtype: string | |
- name: date | |
dtype: timestamp[us] | |
- name: url | |
dtype: string | |
splits: | |
- name: train | |
num_bytes: 1059198207 | |
num_examples: 235298 | |
download_size: 594355237 | |
dataset_size: 1059198207 | |
configs: | |
- config_name: default | |
data_files: | |
- split: train | |
path: data/train-* | |
license: cc-by-4.0 | |
language: | |
- ja | |
[llm-jp-corpus-v3のwarp_htmlのうちlevel2フィルタリングされたデータ](https://gitlab.llm-jp.nii.ac.jp/datasets/llm-jp-corpus-v3/-/tree/main/ja/ja_warp_html/level2)をHFフォーマットに変換し、各データに付与されたURLから元記事のタイトルを取得可能なものについては取得して付与したデータセットです。 | |
ライセンスは元ページに従いCC-BY 4.0とします。 |