本地部署 Flux OpenAI 兼容 API
- 0. 引言
- 1. 创建虚拟环境
- 2. 克隆代码
- 3. 安装依赖模块
- 4. 配置环境
- 5. 运行
- 6. 访问
0. 引言
openedai-images-flux 项目是一个将 Flux 公开为 OpenAI 兼容 api 的项目。
1. 创建虚拟环境
conda create -n openedai-images-flux python=3.11 -y
conda activate openedai-images-flux
2. 克隆代码
git clone https://github.com/engchina/openedai-images-flux.git
cd openedai-images-flux
3. 安装依赖模块
pip install -r requirements.txt
安装 gcc，
conda install -c conda-forge gcc=12.1.0
参考：运行Flux 报错 libstdc++.so.6: version `GLIBCXX_3.4.32‘ not found
4. 配置环境
cp sample.env images.env
编辑 images.env 中的环境信息，示例如下，
OPENAI_BASE_URL=http://192.168.31.15:8000/v1
OPENAI_API_KEY=sk-******
CUDA_VISIBLE_DEVICES=0
HF_TOKEN=hf_******
HF_HUB_ENABLE_HF_TRANSFER=1
CLI_COMMAND="python images.py --log-level DEBUG --seed 0"
根据你的硬件环境，拷贝合适的配置文件，
# for 24GB GPU
cp config.default-24GB.json config/config.json
5. 运行
python images.py
6. 访问
打开浏览器访问，http://localhost:5005/docs。
完结！
