contrastors
用 PyTorch 快速训练对比学习模型，省心省力。
项目预览
项目数据
项目介绍
Star 增长趋势
本站每日记录该项目 GitHub 星标变化，观测越久曲线越完整
数据来源：GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 806
使用教程
ℹ 本教程由 AI 依据该项目 README 整理，个别步骤可能需要按你的环境微调。
环境要求
- NVIDIA GPU（Ampere 及以上）
- CUDA Toolkit
- Python 3.9+
安装与启动步骤
-
1建环境
对比学习训练工具包，依赖 flash-attn。
python3 -m venv env && source env/bin/activate -
2装 torch
先装匹配 CUDA 的 torch，再装其他。
pip3 install torch torchvision torchaudio -
3编译 flash-attn 组件
这一串安装最容易失败，缺 nvcc 会直接报错。
pip install wheel packaging ninja setuptools pip install --no-cache-dir flash-attn --no-build-isolation -
4装项目本体
然后 pip install -e 安装。
pip install -e .
如何确认成功
python -c "import contrastors" 无报错，示例训练能起 step。
注意事项
- flash-attn 编译慢且吃内存，机器小就先下预编译 wheel。
- 它同时支持训练与评测，评测部分对显存要求低很多。
核心亮点
- 提供统一的对比学习训练接口，降低上手门槛。
- 内置多种常用对比损失函数，方便切换实验。
- 支持分布式训练，可扩展至大规模数据。
不足之处
- 文档/社区待观察
- 项目早期，功能可能不够全面。
适用场景
- 自监督视觉表征学习
- 文本/图像嵌入的度量学习
- 大规模检索系统的模型训练
替代项目
PyTorch Metric Learning、Lightning Contrastive Learning、OpenCLIP
同类项目推荐
ts-icl
开源
零样本搞定时间序列预测与插补，无需重新训练。
TS-ICL: a Time-Indexed Foundation Model for Time Series Forecasting & Imputation via···
lorax
开源
一个服务跑上千个微调模型，省 GPU 又省心
Multi-LoRA inference server that scales to 1000s of fine-tuned LLMs
benderopt
开源
无梯度也能调参，黑盒优化一键搞定
Black-box optimization library
plexe
开源
一句话描述，自动生成机器学习模型，快速验证想法
✨ Build a machine learning model from a prompt
sagemaker-training-toolkit
开源
把训练脚本塞进容器，SageMaker 自动跑训练并上传模型
Train machine learning models within a Docker container using Amazon SageMaker.
gpt-neox
开源
在GPU集群上训练GPT级大模型的开源并行框架
An implementation of model parallel autoregressive transformers on GPUs, based on th···
Confucius-tool-learning
开源
让大模型通过自我反思学会用工具，从易到难逐步精通
Official Repo for AAAI 2024 paper "Confucius: Iterative Tool Learning from Introspec···
DAEDAL
开源
免训练，让扩散语言模型按需生成任意长度文本
[ICLR 2026] Official repository of "Beyond Fixed: Training-Free Variable-Length Deno···
POInfra
开源
让扩散/流模型像策略一样在线微调与规划
Policy Optimization for Generative Models: diffusion and flow policies, online fine-···