地产
(相关资料图)
据人民日报海外版报导，近日，上海人工智能实验室宣布联合语料数据联盟成员单位，共同开源发布“书生·万卷”1.0多模态预训练语料。
“书生·万卷”1.0集合了语料数据联盟成员丰富的内容积累与上海人工智能实验室的数据处理能力等优势，将为学术界及产业界提供高质量大模型多模态预训练语料。本次开源的数据总量超过2TB，具备多元融合、精细处理、价值对齐、易用高效等四大特征。
本次开源的“书生·万卷”1.0包含文本、图文、视频三部分数据集。其中文本数据来自网页、百科、书籍、专利、教材、考题等，数据总量超过5亿个文档，数据大小超过1TB，覆盖科技、文学、媒体、教育、法律等多个领域；图文数据主要来自公开网页，经处理后形成图文交错文档，总量超过2200万个，数据大小超过140GB（不含图片），覆盖新闻事件、人物、自然景观、社会生活等多个领域；视频数据主要来自中央广播电视总台和上海文广集团，包含新闻、影视等多种类型的节目影像，总计视频文件数超过1000个，数据大小超过900GB，内容覆盖军事、文艺、体育、自然、知识、影像艺术等方面。
关键词：
版权与免责声明：
1 本网注明“来源：×××”（非商业周刊网）的作品，均转载自其它媒体，转载目的在于传递更多信息，并不代表本网赞同其观点和对其真实性负责，本网不承担此类稿件侵权行为的连带责任。
2 在本网的新闻页面或BBS上进行跟帖或发表言论者，文责自负。
3 相关信息并未经过本网站证实，不对您构成任何投资建议，据此操作，风险自担。
4 如涉及作品内容、版权等其它问题，请在30日内同本网联系。
