杜克大学大语言模型实践笔记(十一)

📅 2026/8/12 14:21:39
杜克大学大语言模型实践笔记(十一)
部署详情页面提供了丰富的信息和操作入口查看信息可以查看模型的速率限制、令牌使用情况等。管理部署你可以编辑部署配置、创建新部署或删除当前部署。快速测试一个非常实用的功能是你可以直接点击“在Playground中打开”或“前往聊天”立即开始测试和使用这个刚部署好的模型。点击“在Playground中打开”便会进入一个交互式界面你可以直接与模型对话。虽然我们现在不进行测试但这是你后续使用模型的主要方式之一。探索Azure AI Studio让我们快速回到Azure AI Studio的主界面。这个仍处于预览模式的新界面整合了所有必要功能。关键区域包括浏览模型目录在这里可以查找所有可用模型。试用Azure OpenAI点击此入口你会再次看到模型目录方便你尝试不同的模型。回到我们的GPT-35-Demo至此模型部署的所有必要步骤已完成。我们将在后续学习API调用时与这些已部署的模型进行交互。https://github.com/OpenDocCN/dsai-notes-pt3-zh/raw/master/docs/duke-llm-prac/img/64782596eb5da48912f7365dbdec878e_5.png本节课中我们一起学习了在Azure AI Studio中部署OpenAI模型的完整流程。我们从配额设置入手逐步完成了GPT-3.5 Turbo模型的选择、配置和部署并熟悉了部署后的管理界面。核心在于理解动态配额的优势并掌握通过Playground快速验证模型部署成功的方法。这些操作为后续通过API集成和使用大语言模型打下了基础。大型语言模型实践第2章使用Playground与API调用模型 https://github.com/OpenDocCN/dsai-notes-pt3-zh/raw/master/docs/duke-llm-prac/img/09d62f86c4c50c1d2e7bccd77357f43a_0.png在本节课中我们将学习如何与已部署的Azure OpenAI模型进行交互。我们将通过两种主要方式来实现使用Azure AI Studio中的Playground界面以及通过命令行使用cURL直接调用API。这两种方法都能让你快速测试和验证模型的功能。https://github.com/OpenDocCN/dsai-notes-pt3-zh/raw/master/docs/duke-llm-prac/img/09d62f86c4c50c1d2e7bccd77357f43a_2.png部署模型与Playground交互https://github.com/OpenDocCN/dsai-notes-pt3-zh/raw/master/docs/duke-llm-prac/img/09d62f86c4c50c1d2e7bccd77357f43a_4.png上一节我们介绍了如何部署模型本节中我们来看看如何实际使用它。首先我们需要在Azure OpenAI服务中找到已部署的模型。在Azure AI Studio中导航到“部署”部分。找到名为“G35 demo”的部署。点击“在Playground中打开”选项。进入Playground后你将看到一个交互界面。以下是配置步骤选择模板界面提供了一些预设模板。我们将选择“空示例”来从头开始。设置系统消息在系统消息框中输入你是一位旅行助手准备为世界各地的旅行者提供帮助。输入用户查询在用户消息框中输入我想在夏天去西班牙旅行。生成回复点击“生成”按钮模型将返回回复例如“这听起来是个很棒的主意西班牙是一个拥有丰富历史和文化的美丽国家……”通过Playground你可以轻松地与模型对话并实时调整参数如“温度”和“最大响应长度”以观察它们对输出结果的影响。查看代码与API调用https://github.com/OpenDocCN/dsai-notes-pt3-zh/raw/master/docs/duke-llm-prac/img/09d62f86c4c50c1d2e7bccd77357f43a_6.png除了使用图形界面我们还可以直接通过代码调用API。Playground提供了“查看代码”功能可以生成对应的调用示例。在生成的Python代码中核心部分是构建请求消息。一个基本的请求结构如下messages[{role:system,content:你是一个AI助手帮助人们查找信息。},{role:user,content:讲个笑话}]这段代码定义了一个系统角色设定助手行为和一个用户角色提出请求。使用cURL进行命令行调用如果你想在命令行中快速测试API可以使用cURL工具。以下是调用步骤和关键参数说明准备信息你需要从Azure OpenAI服务获取API密钥和终结点URL。构建cURL命令以下是一个完整的命令示例。curl$ENDPOINT\-H“Content-Type: application/json”\-H“api-key:$API_KEY”\-d‘{“messages”:[{“role”: “system”, “content”: “你是一个AI助手帮助人们查找信息。”},{“role”: “user”, “content”: “讲个笑话”}], “max_tokens”:100, “temperature”:0.7}’|jq以下是命令中关键部分的解释-H设置HTTP请求头。Content-Type指定数据格式为JSONapi-key用于身份验证。-d传递请求数据正文。其中包含消息列表和生成参数。max_tokens限制模型生成回复的最大长度以令牌计。temperature控制输出的随机性。值越高如0.8回复越多样、有创意值越低如0.2回复越确定、保守。jq一个可选工具用于将返回的JSON数据格式化输出便于阅读。执行命令后你会收到一个JSON格式的响应。响应中通常包含choices[0].message.content模型生成的回复内容例如一个笑话。usage本次调用消耗的令牌数量统计。内容安全过滤结果。总结https://github.com/OpenDocCN/dsai-notes-pt3-zh/raw/master/docs/duke-llm-prac/img/09d62f86c4c50c1d2e7bccd77357f43a_8.pnghttps://github.com/OpenDocCN/dsai-notes-pt3-zh/raw/master/docs/duke-llm-prac/img/09d62f86c4c50c1d2e7bccd77357f43a_10.png本节课中我们一起学习了与已部署的Azure OpenAI模型交互的两种核心方法。首先我们使用Playground界面进行直观的对话测试和参数调整。接着我们探讨了如何通过查看代码功能获取编程示例并详细演示了如何使用cURL命令在终端中直接调用API包括如何设置请求头、构建消息体以及理解关键参数如max_tokens和temperature的作用。这两种方式为你提供了从快速原型验证到集成到应用程序中的灵活选择。