沐曦论文分类打榜赛
输入“/”快速插入内容
沐曦论文分类打榜赛
沐曦论文分类打榜赛
用户5418用户5418
用户2268用户2268用户1672用户1672
用户3983用户39832025年11月5日修改
6626
书生大模型实战营（沐曦魔乐专场）—— 论文分类打榜赛
在参赛前请先查看：闯关手册——书生大模型实战营（沐曦+魔乐）专场
温馨提示：一定要记得关开发机，一定要记得关开发机，一定要记得关开发机，不然钱会用完！！！
温馨提示：
本赛事必须使用 InternLM 1.8B 模型
本赛事飞书提交的权重必须由沐曦算力训练而来（d.run 和 OpenI 等平台都可）
1.
背景
在人工智能大语言模型蓬勃发展的时代背景下，书生·浦语（InternLM）凭借其卓越的知识理解、文本分析、数学推理和多语言处理能力，在各类评测任务中表现优异。该模型在综合性考试中成绩突出，在多项中文基准测试中超越了同期主流模型的表现。随着版本的持续迭代，InternLM在数理计算、代码生成、对话交互、内容创作等领域均实现了显著提升，整体性能位居同参数量级开源模型的前列。
本次书生·浦语端侧小模型（1.8B）论文分类微调竞赛旨在深入探索InternLM在垂直领域应用的巨大潜力。竞赛依托魔乐社区（Modelers）平台举办，魔乐社区是天翼云与华为联合推出的AI开发者社区，提供TDMA（工具链、数据集、模型、应用）的托管展示服务和支撑系统。魔乐社区汇聚AI产业链资源，依托理事会成员单位，吸引开发者共同推动AI发展，解决行业难题，促进生态繁荣。社区提供免费算力，方便用户体验AI模型和应用效果。魔乐社区的核心功能涵盖模型托管与管理、数据集托管、体验空间、Git仓库服务，以及openMind Library和openMind Hub Client等工具套件集成，为模型开发和管理提供了完善的技术支撑。
在算力支持方面，本次竞赛得到了沐曦的强力支撑。沐曦致力于为异构计算提供全栈GPU芯片及解决方案，可广泛应用于智算、智慧城市、云计算、自动驾驶、数字孪生、元宇宙等前沿领域，为数字经济发展提供强大的算力支撑。沐曦先进的GPU计算架构为参赛者提供了高效稳定的训练环境，确保模型微调过程的顺利进行。
竞赛采用学术资源丰富的arXiv数据集作为训练基础，该数据集汇聚了物理学、数学、计算机科学、定量生物学、定量金融等多个前沿学科的海量论文资源。arXiv作为全球领先的预印本论文发布平台，以其快速的论文更新频率和前沿的研究内容，为模型训练提供了高质量的学术数据支撑。同时，竞赛还整合了额外采集的学术论文数据，这些数据来源多样化，与原始arXiv数据集形成有效互补，进一步增强了训练数据的丰富性和覆盖面，有助于提升模型对不同研究风格和主题论文的精准分类能力。
竞赛设置了26个细分学科类别，具体映射关系如下：
量子物理（quant-ph）→ A，化学物理（physics.chem-ph）→ B，原子物理（physics.atom-ph）→ C，软凝聚态物理（cond-mat.soft）→ D，机器人学（cs.RO）→ E，计算语言学（cs.CL）→ F，软件工程（cs.SE）→ G，信息检索（cs.IR）→ H，高能理论物理（hep-th）→ I，高能现象学（hep-ph）→ J，光学（physics.optics）→ K，人工智能（cs.AI）→ L，计算机视觉（cs.CV）→ M，核理论（nucl-th）→ N，天体物理（astro-ph）→ O，概率论（math.PR）→ P，操作系统（cs.OS）→ Q，信号处理（eess.SP）→ R，最优化与控制（math.OC）→ S，动力系统（math.DS）→ T，微分几何（math.DG）→ U，数学物理（math.MP）→ V，多媒体（cs.MM）→ W，统计方法（stat.ME）→ X，组合数学（math.CO）→ Y，神经与进化计算（cs.NE）→ Z。
为确保竞赛的科学性和模型泛化能力的真实性，避免参赛者过度拟合训练数据而影响模型的实际应用价值，本次竞赛的测试集采用了20种不同的问题模板进行评估。现公开其中一种标准模板格式：
代码块
"Based on the title '{title}', authors '{authors}', and abstract '{summary}', please determine the scientific category of this paper."
在技术实施层面，所有参赛者必须基于InternLM 1.8B模型进行微调训练。参赛者需要根据竞赛提供的数据集特征，结合自身的技术储备和对模型架构的深度理解，并严格遵循相关的技术标准和学术伦理规范，确保最终模型在论文分类任务中具备良好的稳定性、准确性和可靠性。
2.
数据集介绍
本比赛选取arXiv数据集作为核心数据来源，通过系统性数据分析确定了26个重要学术类别，包括量子物理（quant-ph）、化学物理（physics.chem-ph）、原子物理（physics.atom-ph）、软凝聚态物理（cond-mat.soft）、机器人学（cs.RO）、计算语言学（cs.CL）、软件工程（cs.SE）、信息检索（cs.IR）、高能理论物理（hep-th）、高能现象学（hep-ph）、光学（physics.optics）、人工智能（cs.AI）、计算机视觉（cs.CV）、核理论（nucl-th）、天体物理（astro-ph）、概率论（math.PR）、操作系统（cs.OS）、信号处理（eess.SP）、最优化与控制（math.OC）、动力系统（math.DS）、微分几何（math.DG）、数学物理（math.MP）、多媒体（cs.MM）、统计方法（stat.ME）、组合数学（math.CO）、神经与进化计算（cs.NE）。在此分类框架基础上，进一步追踪采集各对应类别的最新学术论文，通过科学的数据整合方法构建高质量的混合训练数据集。
所构建的数据集涵盖预训练数据和监督微调（SFT）数据两个层次，为InternLM模型的论文分类能力训练提供多维度的数据支撑。同时，为确保评估的科学性和可信度，验证集和测试集均采用20种不同问题模板进行构建，既保持了与训练数据的同源性，又通过模板多样化有效防止了过拟合现象，从而为参赛者的模型优化和竞赛评估奠定了坚实可靠的数据基础。
2.1
Arxiv dataset样例
代码块
{"id": "0711.3691",
"submitter": "Eric Laporte",
"authors": "Olivier Blanc (IGM-LabInfo), Matthieu Constant (IGM-LabInfo), Eric Laporte (IGM-LabInfo)",
"title": "Outilex, plate-forme logicielle de traitement de textes \'ecrits",
"comments": null,
"journal-ref": "Dans Verbum ex machina. Proceedings of TALN - Outilex, plate-forme logicielle de traitement de textes \'ecrits, Louvain : Belgique (2006)",
"doi": null,
"report-no": null,
"categories": "cs.CL",
"license": null,
"abstract": "The Outilex software platform, which will be made available to research, development and industry, comprises software components implementing all the fundamental operations of written text processing: processing without lexicons, exploitation of lexicons and grammars, language resource management. All data are structured in XML formats, and also in more compact formats, either readable or binary, whenever necessary; the required format converters are included in the platform; the grammar formats allow for combining statistical approaches with resource-based approaches. Manually constructed lexicons for French and English, originating from the LADL, and of substantial coverage, will be distributed with the platform under LGPL-LR license.",
"versions": [
{"version": "v1", "created": "Fri, 23 Nov 2007 09:45:13 GMT"},
{"version": "v2", "created": "Tue, 27 Nov 2007 10:22:14 GMT"}
],
"update_date": "2007-11-27",
"authors_parsed": [
["Blanc", "Olivier", "", "IGM-LabInfo"],
["Constant", "Matthieu", "", "IGM-LabInfo"],
["Laporte", "Eric", "", "IGM-LabInfo"]
]}