我们提供了一个函数,接受传入运算的字符串,返回运算的结果。
现在的需求是,我们问 gpt 模型,由于模型计算能力并不好,他要调用计算函数,根据计算结果,回答我们的问题。
使用 openai 实现:
定义函数:
def calculator(expression):
return eval(expression)
from openai import OpenAI
client = OpenAI()
把函数作为工具,声明给 openai
tools = [{
"type": "function",
"function": {
"name": "calculator",
"description": "运行加减乘除运算的表达式。",
"parameters": {
"type": "object",
"properties": {
"expression": {
"type": "string",
"description": "需要运行的算术表达式"
}
}
}
}
}]
调用大模型,传入我们的问题并告知 openai 可使用的工具:
messages = [{"role": "user", "content": "计算 100*100/400*56 的值?"}]
response = client.chat.completions.create(
model="gpt-3.5-turbo",
messages=messages,
tools=tools
)
response_message = response.choices[0].message
messages.append(response_message)
import json
根据 openai 的指示,包含调用什么工具和工具的传参是什么,我们按照这个调用工具(函数)
tool_calls = response_message.tool_calls
if tool_calls:
available_functions = {
"calculator": calculator,
}
for tool_call in tool_calls:
function_name = tool_call.function.name
if function_name == 'calculator':
function_args = json.loads(tool_call.function.arguments)
function_response = calculator(function_args.get('expression'))
messages.append({
"tool_call_id": tool_call.id,
"role": "tool",
"name": function_name,
"content": str(function_response),
})
我们把消息的上下文,工具的返回结果等信息封装成一条消息,发给大模型,让大模型返回和我们的提问相匹配的回答的文案。
second_response = client.chat.completions.create(
model="gpt-3.5-turbo",
messages=messages
)
print(second_response.choices[0].message.content)
好了,代码到此结束,以下截图是 openai 的返回:
使用 langchain 实现:
引包
from langchain.agents import AgentType, initialize_agent
from langchain.chat_models import ChatOpenAI
from langchain.tools.base import BaseTool
把我们的功能函数声明为一个工具:
class Calculator(BaseTool):
name = "Calculator"
description = "运行加减乘除运算的表达式"
def _run(self, query: str):
"""Use the tool."""
# 在这里实现您的自定义函数逻辑
result = self.custom_function(query)
return result
async def _arun(self, query: str):
"""Use the tool asynchronously."""
raise NotImplementedError("This tool does not support async")
def custom_function(self, expression: str):
"""Your custom function logic goes here."""
# 示例:将输入文本转换为大写
return eval(expression)
把工具实例化后放进工具包中
# 创建工具实例
calculator = Calculator()
tools = [calculator]
实例化模型创建智能体(agent)
chat_model = ChatOpenAI()
# 初始化代理
agent = initialize_agent(tools, chat_model, agent=AgentType.ZERO_SHOT_REACT_DESCRIPTION, verbose=True)
调用智能体拿结果
response = agent.run("计算 10*10/2")
print(response)
好了,代码到此结束,以下截图是 openai 的返回:
整个过程用了 reACt 的思想。
MyPostMan: MyPostMan 是一款类似 PostMan 的接口请求软件,按照 项目(微服务)、目录来管理我们的接口,基于迭代来管理我们的接口文档,文档可以导出和通过 url 实时分享,按照迭代编写自动化测试用例,在不同环境中均可运行这些用例。