Chainlit集成Langchain并使用通义千问实现和数据库交互的网页对话应用（text2sql）

LangChain 简介

LangChain 是一个开源框架，设计用于开发和部署与语言模型（如大型语言模型LLM）交互的应用程序。它提供了一种简便的方法来构建基于自然语言处理（NLP）的系统，这些系统可以执行各种任务，例如问答、文本生成、文档检索等。LangChain 的主要目标是简化开发过程，使开发者能够快速地将强大的语言模型功能集成到他们的应用程序中。

LangChain 包含三个关键组件：

链（Chains）：这是执行特定任务的模块化工作流。链条可以简单也可以复杂，取决于任务需求。它们可以是简单的问答机制，也可以是涉及多个步骤的复杂流程。
语言模型（Language Models）：这些是预训练的模型，可以生成或修改文本。LangChain 支持多种语言模型，包括那些可以从外部服务调用的模型。
代理（Agents）：代理是更高级的概念，它们使用链条来自主地执行任务。代理可以根据环境或输入数据的变化来决定使用哪些链条，从而实现一定程度的自动化决策。

LangChain 还支持与文档数据库的交互，这使得从结构化数据中提取信息变得容易，并且可以通过 API 调用来集成其他服务。开发者可以利用 LangChain 来创建聊天机器人、虚拟助手、自动化的写作工具以及其他依赖于语言理解和生成的应用程序。

LangChain 官方地址 https://python.langchain.com/v0.2/docs/introduction/

准备数据库、表

使用LangChain中的SQLDatabase工具来与SQL数据库进行交互，首先准备一些测试数据。
基于SQLite数据库
基于SQLite数据库进行基本操作：创建表、插入测试数据以及查询插入数据

在项目根目录下，创建一个sqlite_data.py文件，代码如下：

# 导入sqlite3库，一个Python内置的轻量级数据库
import sqlite3

print("------------------------连接数据库------------------------")
# 连接数据库
conn = sqlite3.connect('demo.db')
cursor = conn.cursor()

print("------------------------数据表创建------------------------")

# 执行SQL命令 创建User表
cursor.execute('''
        CREATE TABLE User (
            ID INTEGER PRIMARY KEY, 
            Name TEXT NOT NULL, 
            Age INT,
            Money REAL,
            CreateDate DATE DEFAULT CURRENT_DATE 
        );
    ''')

print("------------------------数据插入------------------------")
# 插入数据
users = [
    ('Java', 10, 20.5),
    ('Python', 20, 0),
    ('Vue', 33, 55.0),
    ('Go', 5, 100.55),
]

for user in users:
    cursor.execute('''
        INSERT INTO User (Name, Age, Money) 
        VALUES (?, ?, ?);
    ''', user)

print("------------------------查询数据------------------------")
users = cursor.execute("SELECT *  from User")
for row in users:
    print(row)

# 提交更改
conn.commit()

# 关闭数据库连接
conn.close()

idea编辑器里运行该文件，会创建一个sqllite的数据库和一个User表，并插入了4条用户数据。后面测试使用。

创建一个文件，例如“chainlit_chat”

mkdir chainlit_chat

进入 chainlit_chat文件夹下，执行命令创建python 虚拟环境空间(需要提前安装好python sdk。 Chainlit 需要python>=3.8。,具体操作，由于文章长度问题就不在叙述，自行百度)，命令如下：

python -m venv .venv

这一步是避免python第三方库冲突，省事版可以跳过
.venv是创建的虚拟空间文件夹可以自定义

接下来激活你创建虚拟空间，命令如下：

#linux or mac
source .venv/bin/activate
#windows
.venv\Scripts\activate

在项目根目录下创建`requirements.txt`，内容如下：

langchain
chainlit
chromadb
tiktoken
pymupdf
langchain_community
dashscope~=1.20.3

执行以下命令安装依赖：

pip install -r .\requirements.txt

安装后，项目根目录下会多出.chainlit 和.files文件夹和chainlit.md文件

在项目根目录下创建`.env`环境变量，配置如下：

DASHSCOPE_API_KEY="sk-api_key"

DASHSCOPE_API_KEY 是阿里dashscope的服务的APIkey，代码中使用DashScope的sdk实现，所以不需要配置base_url。默认就是阿里的base_url。
阿里模型接口地址 https://dashscope.console.aliyun.com/model

在项目根目录下创建app.py文件，代码如下：

import chainlit as cl
from langchain_community.agent_toolkits import SQLDatabaseToolkit, create_sql_agent
from langchain_community.llms import Tongyi
from langchain_community.utilities import SQLDatabase


@cl.step(type="tool", name="数据库查询")
async def db_query(message: cl.Message):
    agent = cl.user_session.get("agent")
    response = {}
    async for chunk in agent.astream(
            message.content
    ):
        response = chunk
    return response['output']


@cl.on_chat_start
async def on_chat_start():
    db = SQLDatabase.from_uri("sqlite:///demo.db")

    llm = Tongyi(model='qwen-plus', verbose=True)

    toolkit = SQLDatabaseToolkit(llm=llm, db=db)
    db_agent = create_sql_agent(
        llm=llm,
        toolkit=toolkit
    )
    cl.user_session.set("agent", db_agent)


@cl.on_message
async def on_message(message: cl.Message):
    output = await db_query(message)
    await cl.Message(content=output).send()

db = SQLDatabase.from_uri("sqlite:///demo.db") 中的demo.db文件是上面sqlite_data.py文件执行后生成的
llm = Tongyi(model='qwen-plus', verbose=True) 中verbose 意思是是否打印详细输出
在底层，LangChain 使用 SQLAlchemy 连接到 SQL 数据库。因此，SQLDatabaseChain 可以与 SQLAlchemy 支持的任何 SQL 方言一起使用，例如 MS SQL、MySQL、MariaDB、PostgreSQL、Oracle SQL、Databricks 和 SQLite。有关连接到数据库的要求的更多信息，请参阅 SQLAlchemy 文档。

连接mysql代码示例：

# 连接 MySQL 数据库
db_user = "root"
db_password = "12345678"
db_host = "IP"
db_port = "3306"
db_name = "demo"
db = SQLDatabase.from_uri(f"mysql+pymysql://{db_user}:{db_password}@{db_host}:{db_port}/{db_name}")