多模态能力实战用Leanstral-1.5-119B-A6B处理文本与图像输入案例【免费下载链接】Leanstral-1.5-119B-A6B项目地址: https://ai.gitcode.com/hf_mirrors/mistralai/Leanstral-1.5-119B-A6BLeanstral-1.5-119B-A6B是一款开源代码代理模型专为Lean 4证明助手设计具备强大的多模态输入处理能力能够同时接收文本和图像输入并生成文本输出。作为Mistral Small 4系列的一部分它融合了高效的架构与多模态功能在保持高性能的同时比现有闭源替代方案更具成本效益。核心功能与技术规格Leanstral-1.5-119B-A6B的架构设计使其在处理复杂任务时表现出色MoE架构包含128个专家每个token激活4个专家模型规模119B参数每个token激活6.5B参数超长上下文支持256k tokens的上下文长度多模态输入同时接受文本和图像输入输出文本结果其视觉编码器参数显示了对图像处理的优化图像token ID10图像结束token ID13图像尺寸1540x1540补丁大小14x14隐藏层数量24层快速安装与配置步骤要开始使用Leanstral-1.5-119B-A6B的多模态能力需按照以下步骤进行安装1. 准备工作首先确保您的系统满足要求并已安装必要的依赖uv pip install -U vllm --torch-backendauto验证mistral_common版本python -c import mistral_common; print(mistral_common.__version__)2. 克隆仓库git clone https://gitcode.com/hf_mirrors/mistralai/Leanstral-1.5-119B-A6B3. 启动vLLM服务器vllm serve mistralai/Leanstral-1.5-119B-A6B \ --max-model-len 200000 \ --tensor-parallel-size 4 \ --attention-backend FLASH_ATTN_MLA \ --tool-call-parser mistral \ --enable-auto-tool-choice \ --reasoning-parser mistral文本输入处理案例以下是使用Leanstral-1.5-119B-A6B处理文本输入的基本示例展示如何定义归纳命题来建模状态机转换规则from openai import OpenAI # 配置客户端 openai_api_key EMPTY openai_api_base your-host-url client OpenAI( api_keyopenai_api_key, base_urlopenai_api_base, ) # 设置参数 TEMP 1.0 MAX_TOK 32000 REASONING high # 对于复杂提示推荐使用high # 获取模型 models client.models.list() model models.data[0].id # 准备提示 prompt Define the transition rules as an inductive proposition. This choice provides better support for proving properties about valid transitions and is generally more natural for modeling state machines in Lean, where you want to express logical rules rather than just computing a yes/no value for each possible transition. messages [ { role: user, content: [ { type: text, text: prompt, }, ], }, ] # 获取响应 response client.chat.completions.create( modelmodel, messagesmessages, temperatureTEMP, max_tokensMAX_TOK, reasoning_effortREASONING, ) # 输出结果 print(Content:, response.choices[0].message.content) print(Reasoning:, response.choices[0].message.reasoning)该示例会生成一个Lean 4归纳命题定义用于建模状态机的转换规则如-- 简单的计数器转换模型 inductive CounterTrans : Nat → Nat → Prop | valid : ∀ n, CounterTrans n (n 1) lemma reach_positive : ∀ n 0, CounterTrans 0 n -- 通过归纳法可以轻松证明多模态输入处理方法虽然项目中没有提供示例图片文件但Leanstral-1.5-119B-A6B支持图像输入可通过以下方式构造包含图像的请求# 多模态输入示例概念代码 messages [ { role: user, content: [ { type: text, text: 请分析这张流程图并将其转换为Lean 4归纳定义, }, { type: image, image: base64-encoded-image-data } ], }, ]模型会处理图像内容识别其中的结构和关系然后生成相应的Lean 4代码。这在处理需要从视觉表示转换为形式化定义的任务时特别有用。推荐使用场景Leanstral-1.5-119B-A6B的多模态能力使其非常适合以下场景形式化数学证明处理数学公式图像并生成证明代码流程图转换将系统流程图转换为形式化状态机定义软件规范从设计文档和图表生成软件规范代码理解分析包含图表的代码库文档并提供解释最佳实践与注意事项为了获得最佳的多模态处理效果请遵循以下建议图像质量确保输入图像清晰文本可辨提示设计明确说明希望模型如何处理图像内容推理设置对于复杂的图像理解任务使用reasoning_efforthigh上下文管理对于长文档和大型图像注意控制上下文长度在200k tokens以内总结Leanstral-1.5-119B-A6B通过其多模态输入能力为处理包含文本和图像的复杂任务提供了强大支持。无论是数学证明、软件规范还是状态机建模它都能将视觉信息与文本指令结合生成高质量的Lean 4代码。通过简单的API调用开发者可以轻松集成这一能力到自己的工作流中提高形式化开发的效率。该模型的开源特性和高效架构使其成为学术研究和工业应用的理想选择为形式化方法的普及和应用开辟了新的可能性。【免费下载链接】Leanstral-1.5-119B-A6B项目地址: https://ai.gitcode.com/hf_mirrors/mistralai/Leanstral-1.5-119B-A6B创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考