Langchain 是一个开源框架,它允许开发人员将像 GPT-4 这样的大型语言模型与外部的计算和数据源结合起来。
LangChain 是一个用于开发由语言模型驱动的应用程序的框架 

pip install langchain
pip install langchain-openai
pip install langserve[all]

import os

from fastapi import FastAPI
# /*
# 定义提示模板
# */
from langchain_core.output_parsers import StrOutputParser
from langchain_core.prompts import ChatPromptTemplate
from langchain_openai import ChatOpenAI
from langserve import add_routes

os.environ['http_proxy'] = '127.0.0.1:7890'
os.environ['https_proxy'] = '127.0.0.1:7890'

os.environ['LANGCHAIN_TRACING_V2'] = "true"
os.environ['LANGCHAIN_API_KEY'] = '' //langchain key
os.environ['OPENAI_API_KEY'] = '' //openai key

# 1、调用大语言模型
model = ChatOpenAI(model='gpt-4o-mini')

# 2、解析响应数据
parser = StrOutputParser()
# print((parser.invoke(result))

# 3、定义提示模板
prompt_template = ChatPromptTemplate.from_messages([
    ('system', "请将下面内容翻译为{language}"),
    ('user', "{text}")
])

# 4、得到链
chain = prompt_template | model | parser

# 5、调用链
# print(chain.invoke({'language': 'English', 'text': '你的名字'}))

# 6、程序部署
# 创建fastAPI应用
app = FastAPI(title='我的langchain服务',version='1.0.0',description='翻译服务')

add_routes(
    app,
    chain,
    path='/chain'
)

if __name__ == '__main__':
    import uvicorn

    uvicorn.run(app, host='localhost', port=8000)

Logo

北京人形旗下天工造物具身智能开源社区,聚焦具身天工与慧思开物两大平台

更多推荐