MTCode Server
桌面控制程序负责保存凭据、下载所选模型、配置本地服务、启动和停止进程,并将 TCP 入口发布给获得 DirectLink 授权的用户。
MTCode AI Servers(MTCode-LLM 和 MTCode-Diffusion)面向希望先运行一个实用本地模型、而不必先熟悉更广泛 AI 工具生态的用户。MTCode Server 提供引导清晰、易于操作的界面,用于选择和下载模型、运行这两个服务器,并通过 DirectLink 安全发布服务。
引导式本地 AI 设置
无需从模型格式、推理参数和冗长目录开始,用户可以先选应用类别。MTCode Server 提供一组预先筛选、托管在 Hugging Face 上的开放权重模型,并提供量化和运行参数,让能力、速度与 GPU 显存之间的取舍更容易理解。
三个组件,一套流程
桌面控制程序负责保存凭据、下载所选模型、配置本地服务、启动和停止进程,并将 TCP 入口发布给获得 DirectLink 授权的用户。
使用 llama.cpp 推理引擎的本地语言与多模态模型服务器,支持 MTCode Server 中提供的文本、编程、视觉和音频类模型选项。
使用 stable-diffusion.cpp 引擎的本地图像生成与编辑服务器。MTCode Server 将支持的工作流整理为图像生成、生成与编辑以及局部重绘等类别。
面向新用户的快速开始
如果您有一台配备 8 GB 或更大显存 GPU 的游戏电脑,就可以运行一个相当不错的本地 AI 服务,用于对话或图像生成。显存越大,能承载的模型就越大,生成质量也越高。点击这里查看一张由配备 8 GB 显存的 NVIDIA GeForce GTX 1080 加载 3.8 GB 的 SDXL 1.0 模型生成的图片。
MTCode-LLM:引导清晰、易于操作的语言模型选择与运行界面。单击图片可放大查看。
MTCode-Diffusion:引导清晰、易于操作的图像模型选择与运行界面。单击图片可放大查看。
适用场景
Ollama、LM Studio 以及成熟的图像生成工具拥有更广泛的生态、集成、模型目录和社区工作流。MTCode-LLM 与 MTCode-Diffusion 并不试图取代这些工具;它们的优势是提供一条更小、更有引导性的路径,让用户从选择实用开放权重模型,直接走到在 MTCode Server 图形界面中运行并共享模型。
当应用类别和精选列表比独立评估所有运行时与模型更有帮助时,可使用内置服务器。它们提供一个实用的起始配置,之后仍可逐步调整。
无需更换。MTCode Server 可以发布任意 TCP 服务,包括已有的 Ollama、LM Studio 或其他兼容入口。DirectLink 不要求服务必须使用 MTCode 推理引擎。
模型由第三方发布并授权使用。下载模型或共享访问前,请查看相应的 Hugging Face 模型卡和许可证。MTCode-LLM 和 MTCode-Diffusion 均可独立运行,供本地使用,无需 MTCode 账户;仅在通过 DirectLink 发布时才需要账户。
MTCode Server 提供一条从本地 GPU 到可运行语言或图像模型的直接路径,也为授权用户提供同样直接的访问方式。