摘要

分别使用java和python实现mcp server并注册到nacos中，并通过roo code使用。

使用docker-compose安装nacos

配置

3.0+版本以上的nacos需要配置NACOS_AUTH_IDENTITY_KEY等，参考官方手册配置即可

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17

services:
  nacos:
    image: nacos/nacos-server:latest
    container_name: nacos-standalone
    environment:
      - PREFER_HOST_MODE=hostname
      - MODE=standalone
      - NACOS_AUTH_IDENTITY_KEY=serverIdentity
      - NACOS_AUTH_IDENTITY_VALUE=security
      - NACOS_AUTH_TOKEN=VGhpc0lzTXlDdXN0b21TZWNyZXRLZXkwMTIzNDU2Nzg=
    volumes:
      - ./standalone-logs/:/home/nacos/logs
      - ./init.d/custom.properties:/home/nacos/init.d/custom.properties
    ports:
      - "8080:8080"
      - "8848:8848"
      - "9848:9848"

启动

1

docker-compose up -d

使用 Spring AI Alibaba Nacos MCP 框架开发 MCP Server

依赖引入

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25

<dependency>
    <groupId>com.alibaba.cloud.ai</groupId>
    <artifactId>spring-ai-alibaba-starter-nacos-mcp-server</artifactId>
    <version>1.0.0.1</version>
    <exclusions>
        <exclusion>
            <artifactId>commons-logging</artifactId>
            <groupId>commons-logging</groupId>
        </exclusion>
    </exclusions>
</dependency>

<!-- MCP Server (WebMVC) -->
<dependency>
    <groupId>org.springframework.ai</groupId>
    <artifactId>spring-ai-starter-mcp-server-webmvc</artifactId>
    <version>1.0.0-RC1</version>
</dependency>

<dependency>
    <groupId>ch.qos.logback</groupId>
    <artifactId>logback-classic</artifactId>
    <version>1.5.18</version>
</dependency>

服务定义

实现一个获取天气信息的tool

1
2
3
4
5
6
7
8
9
10
11
12

import org.springframework.ai.tool.annotation.Tool;
import org.springframework.ai.tool.annotation.ToolParam;
import org.springframework.stereotype.Service;

@Service
public class WeatherService {

  @Tool(description = "Get weather information by city name")
  public String getWeather(@ToolParam(description = "City name") String cityName) {
    return "Sunny in " + cityName;
  }
}

自动注册参数配置

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20

server:
  port: 8081
spring:
  application:
    name: springboot-nacos-mcp
  ai:
    mcp:
      server:
        name: webmvc-mcp-server   # MCP服务名称
        version: 1.0.0            # 服务版本
        type: SYNC                # 调用类型：SYNC（同步）或ASYNC（异步）
    alibaba:
      mcp:
        nacos:
          server-addr: localhost:8848         # 替换为你的 Nacos 地址
          namespace: public    # Nacos 命名空间 ID（默认为public）
          username: nacos          # 开源控制台用户名
          password: nacos          # 开源控制台密码
          registry:
            enabled: true   # 是否开启服务注册

服务启动

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34

  import com.example.demo.service.WeatherService;
import org.springframework.ai.tool.ToolCallbackProvider;
import org.springframework.ai.tool.method.MethodToolCallbackProvider;
import org.springframework.boot.SpringApplication;
import org.springframework.boot.autoconfigure.SpringBootApplication;
import org.springframework.context.annotation.Bean;

/**
 * @Title: Application
 * @Package com/example/demo/Application.java
 * @Description: 
 *     "webmvc-mcp-server": {
 *       "url": "http://localhost:8081/sse",
 *       "type": "sse",
 *       "alwaysAllow": [],
 *       "disabled": false
 *     },
 * @author zhaozhiwei
 * @date 2025/7/19 13:58
 * @version V1.0
 */
@SpringBootApplication
public class Application {

    public static void main(String[] args) {
        SpringApplication.run(Application.class, args);
    }

    @Bean
    public ToolCallbackProvider weatherTools(WeatherService weatherService) {
        return MethodToolCallbackProvider.builder().toolObjects(weatherService).build();
    }

}

在nacos中查看注册情况

查看mcp列表

mcp server详情

动态变更工具开关

MCP Server 自动注册到 Nacos 之后，可以在控制台上动态变更 MCP Server
Tools 的描述和开关，相关修改将会在运行时中动态应用到 MCP Server
中，无需重启服务

使用 Nacos MCP Wrapper Python 开发 MCP Server

环境准备

1
2

# 这里python环境一定要在3.12+
pip install nacos-mcp-wrapper-python

代码编写

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41

"""
使用nacos注册的mcp server

    "nacos-mcp-python": {
      "url": "http://localhost:18001/sse",
      "type": "sse",
      "alwaysAllow": [],
      "disabled": false
    },
"""
from nacos_mcp_wrapper.server.nacos_mcp import NacosMCP
from nacos_mcp_wrapper.server.nacos_settings import NacosSettings

# Create an MCP server instance
nacos_settings = NacosSettings()
nacos_settings.SERVER_ADDR = "127.0.0.1:8848" # <nacos_server_addr> e.g. 127.0.0.1:8848
nacos_settings.USERNAME="nacos"
nacos_settings.PASSWORD="nacos"
mcp = NacosMCP("nacos-mcp-python", nacos_settings=nacos_settings, port=18001)

# Register an addition tool
@mcp.tool()
def add(a: int, b: int) -> int:
    """Add two integers together"""
    return a + b

# Register a subtraction tool
@mcp.tool()
def minus(a: int, b: int) -> int:
    """Subtract two numbers"""
    return a - b


if __name__ == "__main__":
    try:
        # 服务保持运行
        mcp.run(transport="sse")
        # mcp.run(transport="stdio")
        # mcp.run(transport="streamable-http")
    except Exception as e:
        print(f"Runtime error: {e}")

在nacos中查看注册情况

查看mcp列表

mcp server详情

动态变更工具开关

MCP Server 自动注册到 Nacos 之后，可以在控制台上动态变更 MCP Server
Tools 的描述和开关，相关修改将会在运行时中动态应用到 MCP Server
中，无需重启服务

在RooCode插件中配置MCP

配置

在mcp_setting.json文件中配置自己的server

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16

{
  "mcpServers": {
    "nacos-mcp-python": {
      "url": "http://localhost:18001/sse",
      "type": "sse",
      "alwaysAllow": [],
      "disabled": false
    },
    "webmvc-mcp-server": {
      "url": "http://localhost:8081/sse",
      "type": "sse",
      "alwaysAllow": [],
      "disabled": false
    }
  }
}

检查是否成功

配置完成后，mcpServer会显示绿色图标,如下

测试

求和

使用demo工具, 计算100和201的和, 效果如下

查看天气

代码地址

https://github.com/zhaozhiwei1992/python/tree/master/demo/llm/mcp

https://github.com/zhaozhiwei1992/demo/tree/master/springboot/springboot-nacos-mcp

参考

https://nacos.io/docs/latest/manual/user/ai/mcp-auto-register/?spm=5238cd80.2ef5001f.0.0.3f613b7cth6gs3

安装1.4.3

https://codeload.github.com/langgenius/dify/tar.gz/refs/tags/1.4.3

下载后在原dify-0.15.1同级目录解压

启动

cd dify-1.4.3/docker

cp .env.example .env # 公司环境需要调整nginx expose端口

docker-compose up -d # 等待启动完成，正常访问页面即可

压缩原挂载目录

cd dify-0.15.1/docker

tar -zcvf volumes.tar.gz volumes

用0.15.1的挂载目录覆盖1.4.3的挂载

1
2
3
4
5
6
7
8
9
10
11
12
13
14

1. 备份1.4.3挂载目录
tar -zcvf volumes143.tar.gz volumes

2. 删除挂载目录
rm -rf volumes

3. 用0.15.1的挂载覆盖当前挂载目录，如果是开发本地使用，可以用官方提供的方式测试。
cp dify-0.15.1/docker/volumes.tar.gz .

tar -zxvf volumes.tar.gz

4. 启动服务访问测试
docker-compose up -d

启动后操作

1. 原项目中一些llm，embedding等都没有配置，需要自己在界面增加供应商再次配置即可，配置后重新刷新页面。

备注

1. 如果是内网环境，docker需要在公网环境下载好后，通过load方式加载到内网，对于插件同理。

参考

https://docs.dify.ai/zh-hans/development/migration/migrate-to-v1

引言

目前MCP也炒了一段时间，是骡子是马得拉出来溜溜。这篇文章偏向点技术，如果没有一点开发经验听个响就好。

实现两个简单功能

计算求和

显示本地目录列表

操作步骤

通过python实现一个server

文件创建

1
2
3

cd ~/workspace/python/demo
mkdir mcp && cd mcp
touch SumMCP.py

代码

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24

"""
一个MCP Server, SumMCP.py
"""
from fastmcp import FastMCP
import os

mcp = FastMCP("Demo", log_level="ERROR")

@mcp.tool()
def add(a: int, b: int) -> int:
    """Add two numbers"""
    print("add", a, b)
    return a + b

@mcp.tool()
def listdir(path: str) -> list[str]:
    """show user dir list 显示用户文件列表"""
    return os.listdir(path)

if __name__ == "__main__":
    # mcp.run()
    # mcp.run(transport="sse", port=9123)
    # 基于标准输入输出实现，本地小工具推荐这种方式
    mcp.run(transport='stdio')

依赖安装

我这里使用的是anaconda，其它依赖管理都行

1
2
3

conda create -n py_3.12 python=3.12
source /opt/anaconda/bin/activate py_3.12
pip install fastmcp

参考

https://github.com/jlowin/fastmcp

vscode安装RooCode插件

在RooCode插件中配置MCP

配置

在mcp_setting.json文件中配置自己的server

1
2
3
4
5
6
7
8
9
10

{
  "mcpServers": {
    "demo": {
      "command": "~/.conda/envs/py_3.12/bin/fastmcp",
      "args": ["run", "~/workspace/python/demo/mcp/SumMCP.py"],
      "disabled": false,
      "alwaysAllow": []
    }
  }
}

检查是否成功

配置完成后，mcpServer会显示绿色图标,如下

如果在之前SumMCP.py中增加了工具，一定要在这里刷新下，显示出新的工具，然后在插件中使用才会读取到。

测试

求和

使用demo工具, 计算99和98的和, 效果如下

显示文件列表

使用listdir工具显示 /home/xx/Documents下的文件列表，效果如下

总结

使用mcp的方式可以按照自己要求实现一些插件本身做不了或者不好实现的功能。目的是为了让外部交互的返回更好的跟模型上下文结合，从而产生更好的效果。如果对话过程中，模型能够自动识别是需要使用哪个mcp那么效果应该会更好。目前是需要明确告诉插件使用mcp，有时候甚至得告诉它具体是哪个tool。

这里只是一个最简单的使用，企业项目中能否使用该方式扩展业务，如何扩展，且听下回分解。

前言

之前主要使用lastpass，目前是浏览器端免费，其它都要收费，而且密码存在别人服务器总是不放心。

所以我们要本地部署vaultwarden并且可以在各种Bitwarden正常使用。这里使用vaultwarden是因为相比原生更加轻量，占用资源极少。

部署

环境准备​​

​​服务器要求​​：腾讯云服务器（1核2GB内存，Ubuntu/Debian系统）。

​​开放端口​​：80（HTTP）、443（HTTPS），通过腾讯云控制台配置安全组

注:
如果家里本身就有公网ip，或者只是本地玩玩，是不需要公网服务器的。我这里公网服务器资源紧张，用来做转发，实际服务部署到内网机，所以公网和内网交互需要内网穿透，我这里使用的是zerotier。

内网机部署

为了方便从云服务器转发到内网，所以通过nginx包一层，给vaultwarden套一个前缀，比如:/bitwarden。否则云服务nginx转发会很乱

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29

services:
  nginx-proxy:
    image: nginx:alpine
    container_name: nginx-proxy
    ports:
      - "8000:80"    # 对外暴露 HTTPS 端口
    volumes:
      - ./nginx.conf:/etc/nginx/nginx.conf
      - ./ssl:/etc/nginx/ssl   # 证书存储目录
    networks:
      - vaultwarden-net
    depends_on:
      - vaultwarden
  vaultwarden:
    image: vaultwarden/server:latest
    container_name: vaultwarden
    restart: unless-stopped
    networks:
      - vaultwarden-net
    volumes:
      - ./vw-data/:/data/
    expose:          # 仅内部暴露端口，nginx能访问即可
      - "80"
      - "3012"

# 自定义网络（实现容器间通信）
networks:
  vaultwarden-net:
    driver: bridge

挂载目录结构如下

1
2
3
4
5
6
7
8
9
10
11

vaultwarden/
├── docker-compose.yaml
└── volumes
    ├── nginx
    │   ├── conf.d
    │   │   └── default.conf
    │   ├── ssl
    │   │   ├── certificate.crt
    │   │   └── private.key
    │   └── uwsgi_params
    └── vw-data

conf.d/default.conf配置

这里nginx.conf会默认引入所有conf.d/*.conf

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
62
63

server {
    listen       80;
    listen  [::]:80;
    server_name  localhost;

    return 301 https://$host$request_uri;  # 301 永久重定向

}

# HTTPS 主配置
server {
    listen 443 ssl http2;
    listen [::]:443 ssl http2;
    server_name localhost;

    # SSL 证书配置（自签名示例，生产环境替换为 Let's Encrypt）
    #ssl_certificate /etc/nginx/ssl/cert.pem;
    #ssl_certificate_key /etc/nginx/ssl/privkey.pem;
    ssl_certificate /etc/nginx/ssl/certificate.crt;
    ssl_certificate_key /etc/nginx/ssl/private.key;
    ssl_session_cache shared:SSL:1m;
    ssl_session_timeout 10m;
    ssl_ciphers HIGH:!aNULL:!MD5;
    ssl_prefer_server_ciphers on;

    # 静态文件服务（可选）
    location / {
        root /usr/share/nginx/html;
        index index.html index.htm;
    }

    # Vaultwarden 代理配置（核心修正）
    location /bitwarden/ {
        proxy_pass http://vaultwarden/;  # 末尾斜杠确保移除路径前缀
        proxy_set_header Host $host;
        proxy_set_header X-Real-IP $remote_addr;
        proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for;
        proxy_set_header X-Forwarded-Proto $scheme;

        # 解决路径前缀导致的资源加载问题
        proxy_redirect off;
        sub_filter_once off;
        sub_filter_types *;
        sub_filter 'href="/' 'href="/bitwarden/';
        sub_filter 'src="/' 'src="/bitwarden/';
    }

    # WebSocket 支持（实时同步）, 自 v1.31.0 起，已移除对 3012 端口 WebSocket 流量的支持，因为它已集成至主 HTTP 端口。
    location /bitwarden/notifications/hub {
        proxy_pass http://vaultwarden:3012;
        proxy_set_header Upgrade $http_upgrade;
        proxy_set_header Connection "upgrade";
        proxy_set_header Host $host;
        proxy_set_header X-Real-IP $remote_addr;
        proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for;
    }

    # 错误页面配置（保持原样）
    error_page 500 502 503 504 /50x.html;
    location = /50x.html {
        root /usr/share/nginx/html;
    }
}

配置自签名证书

1
2
3
4

# 在docker-compose同级目录执行
sudo openssl req -x509 -nodes -days 365 -newkey rsa:2048 \
  -keyout ./volumes/nginx/ssl/private.key \
  -out ./volumes/nginx/ssl/certificate.crt

服务启动

1

docker-compose up -d

测试访问

1

https://10.241.189.234:8443/bitwarden

公网ECS配置nginx(无域名)

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31

cd /etc/nginx/conf.d

# 增加 234-proxy-443.conf, 这里一定要注意，把nginx.conf中server啥的都干掉，避免影响。

[root@VM-8-12-centos conf.d]# cat 234-proxy-443.conf
server {
    listen 443 ssl;
    server_name 替换为你的公网域名或IP;  # 替换为你的公网域名或IP

    # SSL 证书配置（必须使用有效证书，如 Let's Encrypt）
    # ssl_certificate /etc/letsencrypt/live/your-public-domain.com/fullchain.pem;
    # ssl_certificate_key /etc/letsencrypt/live/your-public-domain.com/privkey.pem;
    ssl_certificate /etc/nginx/ssl/certificate.crt;
    ssl_certificate_key /etc/nginx/ssl/private.key;


    # 反向代理到内网服务
    location /bitwarden {
    proxy_pass https://10.241.189.234:8443;
        proxy_set_header Host $host;
        proxy_set_header X-Real-IP $remote_addr;
        proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for;
        proxy_set_header X-Forwarded-Proto $scheme;

        # 信任内网服务的自签名证书（可选）
        proxy_ssl_verify off;
    }

    # 其他安全头配置
    add_header Strict-Transport-Security "max-age=63072000; includeSubDomains; preload";
}

nginx -s reload

测试

1
2
3

https://ECS公网IP/bitwarden

# 这种方式配置后，在浏览器可以直接使用，包括插件。但是会提示证书不安全，手机端除非手动能安装自建证书，否则无法直接使用。

公网ECS配置nginx(有域名)

以腾讯ECS为例

域名配置

根据官方提示，将域名绑定到ECS机器

进行域名备案

调整nginx配置

使用免费或者付费的ssl证书，下载后替换nginx中配置的证书信息

1
2
3

# SSL 证书配置（必须使用有效证书）
ssl_certificate /etc/nginx/ssl/自己的域名.crt;
ssl_certificate_key /etc/nginx/ssl/自己的域名.xyz.key;

客户端配置

1. 下载安装bitwarden相关客户端，包括app端，浏览器插件等
2. 配置为自托管，然后按照自己设置的用户密码登录即可

备份

找一个自己觉得安全的地方备份自己的挂载(volumes目录)，比如NAS或者网盘，U盘等

问题处理

console-log.service.ts:53 Unhandled error in angular Error: Could not instantiate WebCryptoFunctionService. Could not locate Subtle crypto.

分析处理

必须使用https访问，否则报错

安卓客户端无法访问，提示无法验证服务器证书

分析处理

这个真得有域名了。

前言：为什么企业需要警惕”AI军备竞赛”？

当前AI技术发展呈现”技术狂欢”态势，今天Deepseek火了跟一把，明天出来个其它看着高级的东西又跟一把。但企业实践中最常出现的问题在于：投入大量资源训练模型后，业务价值却难以量化。本文从业务出发，探讨如何让AI真正成为业务增长的助推器。

为什么AI是业务的必选项?

现在网上AI技术层出不穷，很多人通过ai来做一些日常工作，比如写写文章，查查资料，做做总结。高级一点的自己通过coze之类的平台做一些自己的AI工作流，智能体，通过各种组合提高自己的工作效率。

对于企业来说，如果自己在业务上能跟AI结合，能够从各方面提高自己产品的竞争力。

就以客服系统来说，有时候机器人客服回复的内容比较死板，很多都是通过内容匹配给出结果。但是使用AI以后能够充分利用AI的分析总结能力，将一些散落的知识分析总结，更加合理的提供给用户，甚至不仔细观察都以为是真人。相对于之前冷冰冰的知识，通过AI可以更好的提高客户体验，增强客户满意度和忠诚度。

为什么AI很难在企业中落地?

这里不是说落不了地，而是这么久了还没有爆炸性落地的产品。之前Deepseek火了，出来一拨”落地”热，基本上就是自己自己部署个模型或者搭建个简单知识库就敢说是落地。

其实AI无法落地主要的问题在于找不到切入点，还有行动力不足。首先是切入点问题，有些领导认为AI无所不能，上来就是高难度操作，认为只要部署个模型，挂个知识库，就可以让自己的产品智能了，用户问啥能干啥，也不需要那么多开发，测试，运营了。这种是完全被洗脑的，觉得AI就是神仙，无所不能，并不是所有场景适合硬往AI上套。还有一种是行动力不足，觉得AI现在发展还看不懂，不够成熟，准备再观察观察。

那么怎么让业务能跟AI更好的结合呢，下面我会给出一些自己在实践中的理解。

AI如何重塑核心场景?

正确认识AI

首先我们要对AI有个正确的认识，AI不是无所不能，并不是所有的场景都适合AI。AI本生是科技的产物，可以把它理解为一个拥有海量通用知识的业务小白。业务太庞杂了，对于一个行业内摸爬滚打多年的人都不敢说样样精通，并且很多业务不公开或者还需要随机应变，一些网上能下载到的通用大模型根本没有经过业务训练，不可能一上来就解决业务问题。

识别关键业务场景

之前说道网上有很多把AI玩出花的场景，也有很多解决实际问题的场景。为什么能出现这些东西，是因为大家会思考，能动手，知道自己要什么。比如我在没有AI之前也会通过程序脚本之类的各种玩意儿来解决自己实际问题，提高效率。对个人来说会思考，知道自己要什么，加一点点动手能力才能用好AI。

对于企业来说本身在行业深耕多年，业务就是企业最大的优势，应深入分析业务，在业务中找到与AI的结合点。AI的能力应该是解决实际问题，而不是为了应用AI而强行整合。再炫酷的操作如何用户不买账没有任何意义。最好是找三五个业务专家，再配合三五个对AI了解的工程师大家坐在一起，互相分享下业务场景，AI相关知识，多次分享讨论研究最终找出中间的结合点。

一定不要刚开始就给自己上强度，可以先找点场景试试demo，在做的过程中发现真正需要的场景再去挖掘。中小公司千万不要一上来就微调训练模型。刚开始的目标应该是业务+AI，业务为主，AI为辅，用业务驱动AI更快落地，最终让AI成为系统中一项不可分割的能力。

AI技术的应用案例

下边我给出一些业务中使用的案例，供大家参考，不同的企业有不同的业务，这里只抛砖引玉。

AI助理

首先是问答类的AI助理，这种是对知识库的应用。企业在多年发展过程中本身积累了不少行业知识，那么就可以整理调整为知识库供AI使用。如何做知识库之前文章也说过，最重要的是知识库的准确性，一般来说，整理成QA方式最方便知识库使用，可以先将一些系统操作手册，问题解决方案之类的东西做知识库，后边再扩展。

智能风控

在很多领域都有风控的处理，好一点的会使用一些规则库进行处理，如果差的直接就是硬编码了，这些规则一般都是来源于一些业务或者政策文件，需要翻译成程序能识别的规则才能使用。如果用AI，我们只需要把这些政策做到人能理解的程度，那么AI就可以结合规则在数据流转中进行控制，并按照预设的要求进行反馈，比如生成一个风控报告之类的。这种方式比通过程序处理更方便，不用单独再通过程序实现报告功能，还得需要程序去主动调用。

其它

每个企业的业务都不一样，主要是从业务入手，去发现。一定是奔着简化用户操作，优化用户体验去的场景，而不是为了AI而造出来的业务。

技术选型

业务再整合模型时一定不会只使用一种模型走天下，不同的模型有不同的优势。所以前期可以选择市面好用的编排工具，比如DIFY之类的，配置比较灵活，可以整合市面上绝大部分模型。

前言

这篇文章主要是基于目前AI发展现状做出的一些思考，如何才能让模型更智能?

我们基于一个旅游场景来设想模型应该如何实现: 我要去山西旅游

任务分解

模型首先要基于”我要去山西旅游”这个要求进行分解，整理成一个类似操作列表的东西。下边是基于实际情况给出的一个设想。

1. TODO 要问用户是什么时间去，要去的具体地方。
2. TODO 确定时间和地方后帮用户查看当地的天气情况，给出穿衣建议。
3. TODO 帮用户自动查询交通工具，给出合理的建议，供用户选择。
4. TODO 用户选择后自动去请求接口订票。
5. TODO 给用户提供一些当地的特色，游玩，美食等。

应该如何实现

1. 需要模型能够理解用户的意图，并能分解成计划。(现在一些通用的大模型，可以通过多轮的方式实现类似效果。)
2. 跟用户逐步确定计划中需要的点，比如具体要去的地方等，完成一条计划就标记为DONE。
3. 根据计划选择合适的外部工具，比如调用实时查询天气的工具，订票的工具等，完成后同样标记完成。
4. 按照模型自己给出的计划，依次完成知道任务结束。

实现难点

1. 如何让模型能够识别系统中注册的工具或者agent(如果是企业级，可能会有很多)
2. 如何定义合理的接口，能让模型理解接口的输入输出，从而自动产生相应的参数，将整个计划自动串联起来。

一个技术人的设想

1. 定义一个统一的工具交互规范，模型能够理解，并能根据需要方便识别到。
2. 提供一个注册中心，个人或者企业能够按照业务创建很多智能体，然后注册。
3. 参考面向对象的思想，智能体应该是独立的个体，没有中间调度也可以独立使用。
4. 模型可以根据用户要求分解任务，并在注册中心中找到合理的智能体进行调度。

结语

现在很多落地的东西是一条条的工作流，只能体现一部分模型的能力，虽然可以对外交互，也只是人为干预的结果。当然也可能有很多优秀的方案没有发现。虽然网上有很多基于cursor实现的一些类似场景的效果，但是对于普通人使用还是不方便，很多敏感数据也不能交出去，自己玩玩可以，生产实践不行。

如何一句话让模型把事儿干好，才是未来发展的方向。

如果大家有合适的方案可以沟通交流，共勉。

前言

这篇文章偏技术，如果跟着文章操作有难度，建议找网上找相关视频操作。

什么是OpenManus，为什么要使用

说到OpenManus就不得不先提下Manus，Manus是全球首款真正意义上的通用型AI Agent，由中国的创业公司Monica开发，看官方的演示感觉很6，但是10w的邀请吗告诉我，我不配。

幸好有大佬连夜整出来一个OpenManus，引用官方一句描述: Manus 非常棒，但 OpenManus 无需邀请码即可实现任何创意 ！

那么OpenManus能做什么呢

复杂任务规划与执行：它可以把复杂的任务拆解成多个小步骤，自动规划并执行，最后给出完整的成果。

工具调用与自动化：很多工作离不开外部工具。 OpenManus 能灵活调动 各种工具，比如浏览器、数据分析软件等，完全不用你担心技术细节。

智能信息收集与处理：OpenManus 不仅能浏览网页、提取信息，还能进行精准的内容整理。

安装使用

环境

os: archlinux

安装OpenManus

1
2
3
4
5
6
7
8
9
10
11
12
13
14

1. 源码下载
git clone https://github.com/mannaandpoem/OpenManus.git

2. 进入项目根目录
cd OpenManus

3. 创建新的 conda 环境
conda create -n open_manus python=3.12

4. 等待完成后，设置当前python环境
source /opt/anaconda/bin/activate open_manus

5. 安装依赖
pip install -r requirements.txt

购买DeepSeekApi

1
2
3
4
5

1. 访问DeepSeek官网 https://www.deepseek.com./ 。

2. 点击右上角API开放平台，左边充值即可，测试充个10元就勾了。

3. 充值完毕后，点击API Keys，创建自己的key，我这里起名字就是OpenManus(可以看看这玩意儿消耗tokens的量)

配置OpenManus

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32

OpenManus 需要配置使用的 LLM API，请按以下步骤设置：

1. 保证当前还在项目跟目录下

2. 创建config.toml文件：
cp config/config.example.toml config/config.toml

3. 编辑 config/config.toml 添加 API 密钥和自定义设置：(注: model和base_url在deepseek充值界面接口文档就可以看到)

# Global LLM configuration
[llm]
model = "deepseek-chat"
base_url = "https://api.deepseek.com"
api_key = "sk-8.....9ff89"
max_tokens = 4096
temperature = 0.0

# [llm] #AZURE OPENAI:
# api_type= 'azure'
# model = "YOUR_MODEL_NAME" #"gpt-4o-mini"
# base_url = "{YOUR_AZURE_ENDPOINT.rstrip('/')}/openai/deployments/{AZURE_DEPOLYMENT_ID}"
# api_key = "AZURE API KEY"
# max_tokens = 8096
# temperature = 0.0
# api_version="AZURE API VERSION" #"2024-08-01-preview"

# Optional configuration for specific LLM models
[llm.vision]
model = "claude-3-5-sonnet"
base_url = "https://api.openai.com/v1"
api_key = "sk-..."

启动

1

python main.py

输出如下:

1
2
3
4

INFO     [browser_use] BrowserUse logging setup complete with level info
INFO     [root] Anonymized telemetry enabled. See https://docs.browser-use.com/development/telemetry for more information.
Enter your prompt (or 'exit'/'quit' to quit): (这里就是发挥创意的地方了)

一些小问题处理

目前内部默认采用的是google搜索，国内不好用，调整为bing搜索

1. 在app/tool/目录，加bing_search.py

   1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 51 52 53 54 55 56 57 58 59 60 61 62 63 64 65 66 67 68

   import asyncio from typing import List from urllib.parse import quote import requests from bs4 import BeautifulSoup from app.tool.base import BaseTool class BingSearch(BaseTool): name: str = "bing_search" description: str = """执行必应搜索并返回相关链接列表。 当需要获取国际信息或英文内容时建议使用此工具。 工具返回与搜索查询匹配的URL列表。""" parameters: dict = { "type": "object", "properties": { "query": { "type": "string", "description": "(必填) 提交给必应的搜索关键词" }, "num_results": { "type": "integer", "description": "(可选) 返回的搜索结果数量，默认10", "default": 10 } }, "required": ["query"] } async def execute(self, query: str, num_results: int = 10) -> List[str]: """ 执行必应搜索并返回URL列表 Args: query: 搜索关键词 num_results: 返回结果数量 Returns: 匹配搜索结果的URL列表 """ def sync_search(): headers = { 'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36', 'Accept-Language': 'en-US,en;q=0.9' } url = f'https://www.bing.com/search?q={quote(query)}' links = [] for page in range(0, num_results // 10 + 1): resp = requests.get( f'{url}&first={page * 10}', headers=headers, timeout=10 ) soup = BeautifulSoup(resp.text, 'html.parser') for result in soup.select('.b_algo'): link = result.find('a', href=True) if link and 'href' in link.attrs: links.append(link['href']) if len(links) >= num_results: return links rst = links[:num_results] return rst loop = asyncio.get_event_loop() return await loop.run_in_executor(None, sync_search)

2. agent/manus.py 中添加 BingSearch

   1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37

   from pydantic import Field from app.agent.toolcall import ToolCallAgent from app.prompt.manus import NEXT_STEP_PROMPT, SYSTEM_PROMPT from app.tool import Terminate, ToolCollection from app.tool.browser_use_tool import BrowserUseTool from app.tool.file_saver import FileSaver from app.tool.google_search import GoogleSearch # 一定要先引入 from app.tool.bing_search import BingSearch from app.tool.python_execute import PythonExecute class Manus(ToolCallAgent): """ A versatile general-purpose agent that uses planning to solve various tasks. This agent extends PlanningAgent with a comprehensive set of tools and capabilities, including Python execution, web browsing, file operations, and information retrieval to handle a wide range of user requests. """ name: str = "Manus" description: str = ( "A versatile agent that can solve various tasks using multiple tools" ) system_prompt: str = SYSTEM_PROMPT next_step_prompt: str = NEXT_STEP_PROMPT # Add general-purpose tools to the tool collection # 注意这里添加BingSearch available_tools: ToolCollection = Field( default_factory=lambda: ToolCollection( PythonExecute(), GoogleSearch(), BingSearch(), BrowserUseTool(), FileSaver(), Terminate() ) )

3. prompt/manus.py 修改GoogleSearch为BingSearch

   1	sed -i 's/GoogleSearch/BingSearch/g'

参考: https://github.com/mannaandpoem/OpenManus/issues/277

测试

1. 查找中国 前十高校，通过csv格式返回到跟目录，只需要有学校名称 、排名、官网即可

实际测试，这玩意儿还是bug不少，跑了十几分钟结果没出结果，白瞎了我的token :D。

总结

速度真的是挺慢，但是能够自己主动去搜索解决问题也算是挺牛了，对于技术人员来说又多了一个玩具。

这种主动去思考解决问题的思想比较有意思，在其它平台定义工作流时候可以借鉴这种方案，创建自己的manus，加油!!

为什么企业要搭建本地知识库

在当今信息爆炸的时代，企业面临着海量数据和知识的管理挑战。搭建本地知识库已成为企业提升效率和竞争力的重要手段。以下是企业搭建本地知识库的几个核心原因：

解决碎片化问题

企业多年积累的知识比较碎片化，很多也慢慢流于形式。使用知识库可以将这些碎片化知识重新整合，并且通过大模型学习进行分类整合，充分发挥知识的价值。

提升效率和创新能力

通过知识库的整合，员工不需要在茫茫的文档中查找，可以基于统一的入口去查找需要的东西。而且随着知识越发丰富，模型也会越来越强大，可以将海量知识组合，创造出新的想法。

提高安全性

相对于将知识全部放在公网知识库中，本地知识库可以有效保护企业的核心知识和技术，防止人员流动以及公网安全性导致的知识缺失。

企业知识库的目标

不同于通用大模型，企业知识库最重要的就是，专业性和准确性。知识库应该是垂直领域的，基于企业的核心业务，结合各种内部的文档进行知识的整合，使得行业知识逻辑更加清晰完整，并且数据来源是内部文档，所以对比通用大模型会更加准确。

搭建知识库的痛点

技术难度

个人原型搭建相对简单，但企业级部署需考虑权限管理、版本控制、审计追踪等复杂需求。

回答不够准确

回答准确性问题可能是知识库构建最麻烦的地方，不同的人，不同的团队写出的文档格式千奇百怪。而且有些知识是从网上下载，没有专门做整理就作为知识文档保留下来。知识库采用RAG（检索增强生成）技术，通过语义检索获取相关文档片段，再结合生成模型输出答案，不同分块的方式，大小都会导致知识库的回答不一定准确。下面以用户使用手册为例，来解决这些问题。

合理文档格式的重要性及模板参考

一般网上搜到知识库的搭建都是给你搞个embedding模型，或者根据什么换行之类的东西直接分块，但是这种方式对于企业知识库没什么用，因为文档真的太乱了。可能你换行的、用模型处理后的内容语义本身就不连续，有的段落内容多，有的少，有的可能多个分段是一个语义环境。目前只是专业的人才能够去理解真正哪些内容是一个语义环境。所以目前我的想法是可以通过人工干预，将文档按照格式整理，在通过程序增加分割符，然后在文档分块时，通过分割符号来处理，保证语义的完整性。下边给出一个简单的操作手册片段:

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48

** 功能1：[功能名称]

*** 功能描述
简要描述功能1的主要用途和实现目标。

*** 菜单路径
- 主菜单：[具体菜单路径]
- 快捷方式：[快捷键或图标]

*** 操作步骤
1. 打开软件，进入主界面。
   [[file:功能1_步骤1.png]]
2. 点击“[菜单名称]”，选择“[子菜单名称]”。
   [[file:功能1_步骤2.png]]
3. 在弹出的窗口中，输入相关信息（如用户名、密码等）。
   [[file:功能1_步骤3.png]]
4. 点击“确定”按钮，完成操作。
   [[file:功能1_步骤4.png]]

*** 注意事项
- 确保输入的信息准确无误。
- 如果遇到错误提示，请参考“常见问题”部分。

---

** 功能2：[功能名称]

*** 功能描述
简要描述功能2的主要用途和实现目标。

*** 菜单路径
- 主菜单：[具体菜单路径]
- 快捷方式：[快捷键或图标]

*** 操作步骤
1. 打开软件，进入主界面。
   [[file:功能2_步骤1.png]]
2. 点击“[菜单名称]”，选择“[子菜单名称]”。
   [[file:功能2_步骤2.png]]
3. 在弹出的窗口中，选择所需选项（如文件类型、格式等）。
   [[file:功能2_步骤3.png]]
4. 点击“保存”按钮，完成操作。
   [[file:功能2_步骤4.png]]

*** 注意事项
- 在保存文件时，建议选择合适的文件格式。
- 如果文件过大，可能会导致保存时间较长。

对于上述文档，我们可以按照层次结构添加分隔符，比如按照的个数，两个作为二级标题，然后在功能2前增加======split=====作为分隔符，效果如下。

1
2
3
4
5
6
7
8
9
10

** 功能1：[功能名称]
内容同上
---
=====split=====
** 功能2：[功能名称]
内容同上
=====split=====
** 功能3：[功能名称]
内容同上

此时将上述内容按照=====split=====分隔传入知识库，会将相同语义的内容放到单独的块中。在中知识搜索时，通过向量匹配的内容就会相对完整准确。

如何让知识库模型不乱说

其实光是知识库内容完整还不够，将知识库搜索结果作为提问的上下文仍然无法阻止模型自己的”发明创造”，这种结果是企业知识库无法接受的。这时候就需要对模型增加一些约束，此时就是prompt大显身手了。

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17

你是xx企业业务专家。你的回答应基于以下规则：
1. 使用提供的上下文（<context></context>）作为你的知识来源。
2. 如果上下文中有相关信息，请直接根据上下文回答。
3. 如果上下文中没有相关信息，请直接说“我不知道”或请求用户提供更多信息。
4. 当且仅当上下文包含相关信息时，用自然对话方式输出答案；否则明确告知'该问题不在知识库覆盖范围内。
5. 根据用户提问的语言（如中文或英文）来回答。
必需行为:
- 知识库存在的内容必须全部包含，并且不能改变上下文语义
禁止行为：
- 禁止任何形式的内容编造
- 禁止使用"根据我的知识"等模糊表述
- 禁止扩展知识库外的信息
- 禁止引入聊天上下文中无关内容，优先使用context中内容

Context: <context>
{{#context#}}
</context>

仔细看下上述prompt就知道它是怎么工作了，其它限制可以按照企业需要继续扩展，按照知识库返回结果逐步优化。

实施计划

分阶段实施建议

1. 知识盘点阶段（1-2周）：成立跨部门小组，梳理核心知识资产
2. 规范制定阶段（2-4周）：建立文档编写标准和审核流程
3. 试点运行阶段（4-8周）：选择3-5个关键业务模块进行验证
4. 全面推广阶段（8-12周）：基于试点经验完善系统后全面部署

   质量评估

5. 准确率（Accuracy）：人工抽检回答正确性
6. 召回率（Recall）：测试集问题解决率

   结语

   希望本文的分享能帮助大家在搭建和使用本地知识库时更加得心应手，祝大家实践成功！