关于省时省token的问题

[liuxiaobo007]

您好，本工具可以聚合所有MCP服务的工具列表并进行集中管理。
是否意味着它能够解决大模型调用MCP服务时全量加载所有MCP服务工具列表的痛点呢
mcp-proxy-server可以直接提供工具给大模型调用，避免了全量加载多个MCP服务工具列表的问题，对吗

[ptbsare]

@liuxiaobo007 啊，您好，您可以了解一下mcp的工作方式。

简单来讲，目前把mcp工具列表传参给大模型有两种方式，一种是原生的 所谓tools传参这样的方式，模型列表从tools参数在请求中传参给模型，模型可以在response里面指定原生要调用的模型（AKA function calling，并非所有模型支持）。第二种是在上下文prompt注入完整工具列表并指导让大模型在需要时输出一些特定的格式来对应 调用工具（基本所有模型都支持）。

呃，这两种都可能存在您所谓的 大模型调用MCP服务时全量加载所有MCP服务工具列表。 mcp-proxy-server并不是解决这类问题，因为这个就是mcp的工作方式。目前的mcp协议都是这样工作的，你可以理解为它是大力出奇迹，不然模型是没有办法知道哪些模型工具可以怎么调用的，那只有一股脑发过去。

mcp-proxy-server解决的痛点是目前桌面端，移动端客户端比较多。如果mcp服务器比较多的话，每个客户端都要重新配置一遍，那我们在一个地方管理所有的客户端。那在比如移动客户端里面只能添加一个sse端点就可以一键使用所有的mcp服务器。这个痛点。

当然你可以在mcp-proxy-server里面指定暴露哪些工具可以减少上下文的大小。你也可以在一些支持的客户端里面启用或禁用一些工具，而只发启用的工具过去。

我可能没有明白您指的这个痛点是什么？因为mcp服务器工具列表你不发给他，正如前所述，模型是不知道有哪些工具是可以调用的。你的意思是根据对话上下文客户端智能选择要发送的工具列表吗？

[liuxiaobo007]

对，根据上下文智能选择调用对应的工具，不用全量加载所有mcp server的工具列表。但是这个就会面临选择的工具是否为期望工具的问题即智能路由是否准确，智能选择调用对应工具又能省时间又能省token。

其实我一开始是想寻找一个mcp注册、管理中心：它可以有一个“mcp工具列表”的页面显示出来所有添加的mcp server封装的工具列表，然后对这些工具进行集中的管理：比如启停、自定义勾选一些工具进行重组生成一个新的mcp server等。只需要一次注册终身受益，这个工具可以为企业省去多mcp环境下复杂的管理成本，解决“大模型调用mcp时全量加载所有mcp封装的工具列表，又费时又费token”的痛点只是一个分支而已。

[ptbsare]

hi @liuxiaobo007 我刚开始写这个mcp管理工具的时候，其实这类工具还是比较少。现在回过头来看，随着时间推移mcp工具的百花齐放，这种轮子应该是有不少人在写。

至于你说的这个这个智能选择工具分支功能我还没有看到就是哪个能训练模型智能选择工具的；也暂时没有看到类似能实现这个分支功能的项目。

可能这个更倾向于是一个在聊天客户端的功能，而不是一个在服务端实现的功能。嗯，如果有想法，欢迎继续探讨。

[liuxiaobo007]

您的这个mcp-proxy-server工具我试用起来感觉很简洁好用，还有单独的工具列表汇总了所有可用的工具，自定的启停很不错
#######
能否再支持一下自定义分组呢，就是在"Tools"这页的基础上，自定义的勾选工具进行组合。