Datasets:

BAAI
/

IndustryCorpus2

Modalities:

Formats:

Languages:

Size:

DOI:

Libraries:

License:

数据大小不一致

by yangyx9 - opened 28 days ago

28 days ago

•

你好，简介说整个IndustryCorpus2数据大小有3T，但是实际download下来，只有1.7T，请问这是正常的吗？
简介：

下载：

Beijing Academy of Artificial Intelligence org 27 days ago

•

我们在数据构建的时候使用的是jsonline明文字符的形式存储的，统计的大小是readme里面给出来的3.2T左右，在上传的时候为了减小上传的开销，离线进行了压缩，大概压缩了50%左右，也就是这里看到的1.7T的大小

Upload images, audio, and videos by dragging in the text input, pasting, or clicking here.

Tap or paste here to upload images

· Sign up or log in to comment