从零开始掌握Python大模型开发,你还在等什么?

作者:佚名 时间:2025-11-17 08:59

字号

教程旨在带大家从 0 起步,掌握用 Python 开发大模型应用的技能。若当前内容让你感到晦涩,可回溯本合集的前期文章,降低学习难度。

1. 先看演示效果

图片

实现功能:可自定义秘钥;有多轮记忆;可清除历史对话。

2. 具体实现

2.1. 先写工具类 get_chat_response

# utils.py
import os
from langchain.chains import ConversationChain
from langchain.memory import ConversationBufferMemory
from langchain_deepseek import ChatDeepSeek
def get_chat_response(prompt, memory, api_key):
    model = ChatDeepSeek(model="deepseek-chat", api_key=api_key, temperature=0)
    chain = ConversationChain(llm=model, memory=memory)
    response = chain.invoke({"input": prompt})
    return response["response"]

2.2. 本地测试代码

# test.py
from utils import get_chat_response
from langchain.memory import ConversationBufferMemory
memory = ConversationBufferMemory(return_messages=True)
print(get_chat_response("牛顿提出哪些知名定律?", memory, os.getenv("DEEPSEEK_API_KEY")))
print(get_chat_response("我上一个问题是什么?", memory, os.getenv("DEEPSEEK_API_KEY")))

2.3. 创建 Streamlit 页面框架

# app.py
import streamlit as st
from langchain.memory import ConversationBufferMemory
from utils import get_chat_response
st.title("克隆GPT")

2.4. 让用户输入密钥

with st.sidebar:
    deepseek_api_key = st.text_input("请输入DeepSeek API密钥:"type="password")
    st.markdown("[获取DeepSeek API密钥](https://platform.deepseek.com/api_keys)")

2.5. 把 memory & message 放入 session

if "memory" not in st.session_state:
    st.session_state["memory"] = ConversationBufferMemory(return_messages=True)
if "message" not in st.session_state:
    st.session_state["message"] = [{"role""ai""content""你好,我是你的AI助手,有什么可以帮你的吗?"}]

2.6. 显示历史消息(AI 初始欢迎已在内)

for message in st.session_state["message"]:
    st.chat_message(message["role"]).write(message["content"])

2.7. 获取用户输入

prompt = st.chat_input()
if prompt:
    if not deepseek_api_key:
        st.info("请输入你的API key")
        st.stop()
    # 8. 立即展示用户消息
    st.session_state["message"].append({"role""human""content": prompt})
    st.chat_message("human").write(prompt)

2.8. 调用 AI 并回显

    with st.spinner("AI正在思考中,请稍等..."):
        response = get_chat_response(prompt, st.session_state["memory"], deepseek_api_key)
    # 9. 把 AI 回答加入会话
    msg = {"role""ai""content": response}
    st.session_state["message"].append(msg)
    st.chat_message("ai").write(response)

2.9. 添加清除会话按钮

    if st.button("清除历史对话"):
        st.session_state["memory"] = ConversationBufferMemory(return_messages=True)
        st.session_state["message"] = [{"role""ai""content""你好,我是你的AI助手,有什么可以帮你的吗?"}]
        st.success("历史对话已清除")

3. 完整代码

3.1. 文件结构

3.2. 代码

import os
from langchain.chains.conversation.base import ConversationChain
from langchain.memory import ConversationBufferMemory
from langchain_deepseek import ChatDeepSeek
def get_chat_response(prompt, memory, api_key):
    model = ChatDeepSeek(model="deepseek-chat", api_key=api_key, temperature=0)
    chain = ConversationChain(llm=model, memory=memory)
    response = chain.invoke({"input": prompt})
    print(response)
    return response["response"]
# memory = ConversationBufferMemory(return_messages=True)
# print(get_chat_response("牛顿提出哪些知名定律?", memory, os.getenv("DEEPSEEK_API_KEY")))
# print(get_chat_response("我上一个问题是什么?", memory, os.getenv("DEEPSEEK_API_KEY")))

import streamlit as st
from langchain.memory import ConversationBufferMemory
from utils import get_chat_response
st.title("克隆GPT")
with st.sidebar:
    deepseek_api_key = st.text_input("请输入DeepSeek API密钥:"type="password")
    st.markdown("[获取DeepSeek API密钥](https://platform.deepseek.com/api_keys)")
    # 添加清除对话按钮
    if st.button("清除历史对话"):
        # 重置记忆对象
        st.session_state["memory"] = ConversationBufferMemory(return_messages=True)
        # 重置消息列表(保留初始欢迎消息)
        st.session_state["message"] = [{"role""ai""content""你好,我是你的AI助手,有什么可以帮你的吗?"}]
        # 显示清除成功提示
        st.success("历史对话已清除")
# 初始化会话状态(如果不存在)
if "memory" not in st.session_state:
    st.session_state["memory"] = ConversationBufferMemory(return_messages=True)
if "message" not in st.session_state:
    st.session_state["message"] = [{"role""ai""content""你好,我是你的AI助手,有什么可以帮你的吗?"}]
# 显示历史消息
for message in st.session_state["message"]:
    st.chat_message(message["role"]).write(message["content"])
# 处理用户输入
prompt = st.chat_input()
if prompt:
    if not deepseek_api_key:
        st.info("请输入你的API key")
        st.stop()
    # 添加用户消息到会话状态并显示
    st.session_state["message"].append({"role""human""content": prompt})
    st.chat_message("human").write(prompt)
    # 获取AI响应
    with st.spinner("AI正在思考中,请稍等..."):
        response = get_chat_response(prompt, st.session_state["memory"], deepseek_api_key)
    # 添加AI响应到会话状态并显示
    msg = {"role""ai""content": response}
    st.session_state["message"].append(msg)
    st.chat_message("ai").write(response)

4. 运行命令

streamlit run main.py

责任编辑:CQITer新闻报料:400-888-8888   本站原创,未经授权不得转载
继续阅读
热新闻
推荐
关于我们联系我们免责声明隐私政策 友情链接