生产环境下如何复用数据库连接，是否需要使用线程池

[PeterLu798]

根据Milvus文档，一个正确的查询应该如下：

from pymilvus import MilvusClient

client = None
res = None

try:
    client = MilvusClient(
        uri="http://localhost:19530",
        token="root:Milvus"
    )

    query_vector = [0.3580376395471989, -0.6023495712049978, 0.18414012509913835, -0.26286205330961354,
                    0.9029438446296592]

    res = client.search(
        collection_name="my_collection",
        data=[query_vector],
    )
finally:
    # 释放内存
    client.release_collection(
        collection_name="my_collection"
    )
    # 关闭连接
    client.close()

那么生产环境下如果每来一个请求则重新创建连接，是否会影响性能？有没有什么办法能复用连接呢？

[yhmo]

不需要每次都重新连接，重新连接肯定影响性能。
复用很简单，就一个对象调用多次api
//声明一次
client = MilvusClient()
// 调用多个api
try:
client.search()
catch

try:
client.insert()
catch:

try:
client.query()
catch:

try:
client.xxxx()
catch:
......
退出进程前再client.close()

一个进程中用同一个client对象都是可以的，可跨多线程使用同一个client对象，但不要跨子进程使用同一个client对象。也可以每个线程里创建一个MilvusClient对象。
一般也不用线程池，并发的瓶颈一般不在客户端。

[PeterLu798]

我的意思是如果将这段查询作为一个Server提供给C端用户，那么每个C端用户的请求都是一个独立的进程，随着用户数量的增加，这样的代码势必会对Milvus服务端造成压力，因为1、每次的建立连接和断开连接都是开销，2、也会对Server端造成压力。这种情况下有没有优化手段。谢谢。

[yhmo]

每个C端的用户在一个独立的进程里如果使用的是milvus sdk，那就只使用一个MilvusClient对象即可，相当于长连接。如果使用的是restful api，那每个请求就是一个短连接，设计上本就如此。
milvus的集群模式本身就是为了应对大并发大压力，server端可以通过增加proxy/datanode/querynode/indexnode这些节点来提高服务能力。我觉得这并不是milvus特有的问题。