本篇教程由作者设定使用 CC BY-NC 协议。
本地部署一个思考很快的妹抖
先上效果图

笔者测试过程中,平均响应时间约为二到三秒,且语言模型全程在本地运行,光影无明显卡顿。
诶,那么怎么提一个同款女仆呢
大体的流程:
1.安装CUDA
⬇️
2.安装ollama
⬇️
3.部署JOSIEFIED_Qwen3模型
⬇️
4.修改模型api提供方配置文件
⬇️
5.导入女仆自定义设定
⬇️
6.引导女仆进入角色没落调酒师酒狐の女仆教育
⬇️
78.ENJOY!
一、软件准备
首先搜索CUDA进入如下界面安装环境。步骤过于简单,不再赘述。

完成之后进入Ollama.com
点击“下载”完成后安装
二、模型部署
建议在网络良好时进行本步骤不然会很爽
在Ollama网页中搜索JOSIEFIED_Qwen3,进入如下页面

建议根据电脑配置在4b、8b、32b模型中选择。
笔者的Laptop 5070用的是4b,占用15%显存。
点击对应模型后复制上方灰框内的命令在cmd中运行,等待部署完成后关闭cmd。
三、模型提供方配置
导航到\.minecraft\versions\游戏版本名\config\touhou_little_maid\sites打开llm.json(建议用VScode因为我用的这个)
文档末尾添加如图字段,models只需保留自己使用的模型(语法问题编辑的时候一定要注意,不然重载文件还原了自己受着)

启动游戏右键女仆进入AI标签,把模型改为你选的Qwen3发条消息测试
四、女仆自定义设定
首先恭喜你走到这一步
然而还没完
现在你需要清空设定,换回自带的player2模型,发条消息生成设定。
不满意效果可以重复本步骤
⬇️⬇️⬇️⬇️⬇️⬇️
都搞这么多了不整点大家爱看的怎么行?没错,还有艹狐环节!可以用穿甲了的grok生成女仆ghs设定参考文末评论
把模型换成你下的qwen3模型,然后可以和女仆唠嗑啦!!!
(看评论)
熬了一个通宵,好不容易女仆能聊天了,结果发现只会重复一句话(有点绝望)。。。。。
melodytik/TLM_LLM_proxy_compatibility_script: 车万女仆(Touhou Little Maid)用Ollama本地部署大语言模型对话生成失败的终极解决方案!| Ultimate solution for the failure of local deployment of dialogue generation in Touhou Little Maid LLM using Ollama!
为了解决这个我可愁了好几天啊
这是我遇见的问题,在本地部署完,在ollama界面可以正常调用。但在游戏里对话时显示为没有可用的大语言模型(LLM)站点,请检查是否配置了相关站点。还有一个问题,在改完本地json文件之后,游戏里ai模型ollama选项会默认开启,无法关闭无法配置。(附图)
大佬,AI酒狐帖子评论区的那个酒狐设定不见了,你能私发给我或者在评论区补一下吗?😭
这我还是推荐使用 LM Studio 有个 GUI 方便点,显卡支持Vulkan就能用,MoE卸载到CPU也非常方便,显存不是很够可以看看这个,省显存的设置挺多的
还有就是 Qwen3 情商太低了,推荐换 Qwen3.5、Qwen3.6、Mistral-Small-3.2-24B 算力够的就用这个24B的(差不多IQ3_S量化要12G显存 我这差不多每秒34Tokens)不够的话看看Qwen3.5-3.6的35B-A3B(35B大小 激活3B 这个我跑的每秒38Tokens 显卡换TCC模式能到90TPS以上)情商来看整体来看还是 Mistral AI 好很多
我用的 byteshape/Qwen3.5-35B-A3B-GGUF GPU-2 长上下文的话我还是推荐 GPU-1或者4 10G显存够用了 不够用MoE卸载CPU 也可以把KV缓存量化到Q8上
这是我对比了 Kimi48BA3B Qwen3 Qwen3.5 Qwen3.6 Mistral-Small DeepSeekQwen2.5蒸馏 Gemma4 LFM2 还有我一年的经验的结果,希望对你有所帮助
不懂就问,api能用吗
强烈建议大家买个deepseek之类的api,本地模型往往占用大量显存,又是mc又是llm电脑很快就会受不了的
求助,模型是qwen3:4b,配置用的是教程的同款(包括ip地址),无其他添加
但当我换成本地ip时她只会显示超时(time out
对显存要求极高
問問酒狐原本的設定有哪些,在哪裡可以查到?
可惜这个去除限制的千问模型跟gsv不大兼容,不能听女仆涩言涩语
具体表现为女仆llm和tts语言不同(比如跟女仆说中文但女仆tts设置成日文)时会把两句全扔给gpt-sovits,查网上发现似乎有些本地模型都会出现“不能完成额外给语音合成返回日语的需求”的问题(原文见此)
又学到了,还有意外惊喜。