CodeGen

⚠ 该项目 README 未提供完整安装说明，以下步骤为通用流程，请以官方文档为准。

环境要求

• Python 环境（需能 import torch）
• 已安装 PyTorch 与 transformers 库
• 可访问 Hugging Face Hub 下载模型权重
• 按所选模型规模准备足够的内存/显存与磁盘空间

安装与启动步骤

1. 1确认 Python 环境

   CodeGen 是 Python 项目，先用 python -V 确认本机已装 Python 且命令可用。

   python -V

   复制

2. 2安装依赖库

   README 示例代码导入了 torch 与 transformers，需先安装这两个库；README 未给出固定版本，按需安装即可。

   pip install torch transformers

   复制

3. 3选择模型版本

   README 提供 CodeGen1.0、CodeGen2.0、CodeGen2.5 三个系列，参数规模 350M 到 16B，按自己的算力挑选模型名。

4. 4运行 CodeGen1 示例

   加载 Salesforce/codegen-2B-mono，把注释当作提示让模型补全代码，首次运行会自动下载权重。

   import torch
   from transformers import AutoTokenizer, AutoModelForCausalLM
   
   tokenizer = AutoTokenizer.from_pretrained("Salesforce/codegen-2B-mono")
   model = AutoModelForCausalLM.from_pretrained("Salesforce/codegen-2B-mono")
   inputs = tokenizer("# this function prints hello world", return_tensors="pt")
   sample = model.generate(**inputs, max_length=128)
   print(tokenizer.decode(sample[0], truncate_before_pattern=[r"
   
   ^#", "^'''", "
   
   
   "]))

   复制

5. 5运行 CodeGen2 示例

   CodeGen2 需要额外传 trust_remote_code=True 和 revision="main"，示例使用 Salesforce/codegen2-7B。

   import torch
   from transformers import AutoTokenizer, AutoModelForCausalLM
   
   tokenizer = AutoTokenizer.from_pretrained("Salesforce/codegen2-7B")
   model = AutoModelForCausalLM.from_pretrained("Salesforce/codegen2-7B", trust_remote_code=True, revision="main")
   inputs = tokenizer("# this function prints hello world", return_tensors="pt")
   sample = model.generate(**inputs, max_length=128)
   print(tokenizer.decode(sample[0], truncate_before_pattern=[r"
   
   ^#", "^'''", "
   
   
   "]))

   复制

6. 6运行 CodeGen2.5 示例

   7B 的 CodeGen2.5 即可超过 16B 模型，示例模型名 Salesforce/codegen25-7b-mono，仅解码时不做截断。

   import torch
   from transformers import AutoTokenizer, AutoModelForCausalLM
   
   tokenizer = AutoTokenizer.from_pretrained("Salesforce/codegen25-7b-mono", trust_remote_code=True)
   model = AutoModelForCausalLM.from_pretrained("Salesforce/codegen25-7b-mono")
   inputs = tokenizer("# this function prints hello world", return_tensors="pt")
   sample = model.generate(**inputs, max_length=128)
   print(tokenizer.decode(sample[0]))

   复制

关键配置

如何确认成功

终端成功打印出根据“# this function prints hello world”注释生成的代码片段，且无报错，即表示模型加载并推理成功。

常见问题

注意事项

• README 只提供 Python + transformers 的调用示例，没有给出 pip 安装清单、版本号或部署脚本，依赖安装为按导入推断。
• 所有示例首次运行都会从 Hugging Face 下载权重，需保证网络通畅和充足磁盘空间。
• CodeGen2/2.5 必须开启 trust_remote_code，存在执行远端模型代码的风险，请确认来源可信。
• 参数规模越大的模型（7B/16B）对显存要求越高，建议先从小模型验证流程。