有关作业的完整描述,请参见作业文档 cs336_spring2025_assignment2_systems.pdf
翻译后的中文文档: 【翻译】cs336_spring2025_assignment2_systems.pdf
如果您发现作业文档或代码中存在任何问题,请随时提出GitHub issue或提交修复的pull request。
本目录组织结构如下:
./Assignment2_System/相关文档里面是作业二的一些文档。./src/cs336_basics:包含模块cs336_basics及其相关pyproject.toml的目录。该模块包含了作业1中语言模型的官方实现。如果您想使用自己的实现,可以将此目录替换为您自己的实现。./cs336_systems:此文件夹基本上是空的!这是您将实现优化后的Transformer语言模型的模块。您可以随意从作业1(位于cs336-basics)中获取所需的代码并复制过来作为起点。此外,您还将在本模块中实现分布式训练和优化。
直观来看,目录结构应类似于:
.
├── cs336_basics # 名为cs336_basics的Python模块
│ ├── __init__.py
│ └── ... cs336_basics模块中的其他文件,来自作业1 ...
├── cs336_systems # TODO(你):你为作业2编写的代码
│ ├── __init__.py
│ └── ... TODO(你):作业2所需的任何其他文件或文件夹 ...
├── README.md
├── pyproject.toml
└── ... TODO(你):作业2所需的其他文件或文件夹 ...其中作业的全部流程都在assignment2-systems/cs336_systems/作业1.ipynb和 assignment2-systems/cs336_systems/作业1.ipynb,里面有讲解和代码,其中我们供读者跑通基础作业:
只需运行cs336_systems/作业1.ipynb和cs336_systems/作业2.ipynb就可以跑通流程,其他文件都是这两个文件生成的,不需要理会。