Skip to content

Latest commit

 

History

History

README.md

CS336 2025年春季学期作业2:系统

有关作业的完整描述,请参见作业文档 cs336_spring2025_assignment2_systems.pdf

翻译后的中文文档: 【翻译】cs336_spring2025_assignment2_systems.pdf

如果您发现作业文档或代码中存在任何问题,请随时提出GitHub issue或提交修复的pull request。

环境设置

本目录组织结构如下:

  • ./Assignment2_System/相关文档 里面是作业二的一些文档。
  • ./src/cs336_basics:包含模块cs336_basics及其相关pyproject.toml的目录。该模块包含了作业1中语言模型的官方实现。如果您想使用自己的实现,可以将此目录替换为您自己的实现。
  • ./cs336_systems:此文件夹基本上是空的!这是您将实现优化后的Transformer语言模型的模块。您可以随意从作业1(位于cs336-basics)中获取所需的代码并复制过来作为起点。此外,您还将在本模块中实现分布式训练和优化。

直观来看,目录结构应类似于:

.
├── cs336_basics  # 名为cs336_basics的Python模块
│   ├── __init__.py
│   └── ... cs336_basics模块中的其他文件,来自作业1 ...
├── cs336_systems  # TODO(你):你为作业2编写的代码 
│   ├── __init__.py
│   └── ... TODO(你):作业2所需的任何其他文件或文件夹 ...
├── README.md
├── pyproject.toml
└── ... TODO(你):作业2所需的其他文件或文件夹 ...

其中作业的全部流程都在assignment2-systems/cs336_systems/作业1.ipynbassignment2-systems/cs336_systems/作业1.ipynb,里面有讲解和代码,其中我们供读者跑通基础作业:

只需运行cs336_systems/作业1.ipynbcs336_systems/作业2.ipynb就可以跑通流程,其他文件都是这两个文件生成的,不需要理会。