摘要
这篇文章要分享的是一个大语言模型（LLM）的前端——SillyTavern。LLM 流行以来，有人视之为救世主，有人视之为天启骑士，也有人视之为资本骗局。但无论如何，所有人都在谈论它。我通常对新事物都相当迟钝，对 LLM 的态度也大致在「居然这也能干」和「居然这也干不好」之间摇摆。我不像我的朋友 LOSSES 一样，对 LLM 从本体论到方法论都有相当深刻的研究。要说至今有什么心得，我觉得对像我这样并非 AI 专家的人来说，倘若真想让 AI 帮到自己什么，那首先尝试更好地理解 LLM 适合做什么，可能是最能节省自己时间和金钱的途径。而就是在这件事上，SillyTavern（ST）给了我很多启发。ST 本质上是一个用于 AI roleplay（角色扮演）游戏的 LLM 前端程序，但我意外发现它其实可以用来做几乎任何工作。角色扮演的设计理念让它反而成了最适合很多工作模式的 AI 前端。ST 以及它背后的这套工作流起初只是我的无心的收获，但网上关于这方面的讨论并不多，实在可惜，故有此文。本文描述的用法并非 ST 的主流使用场景，只是我结合了个人工作场景的探索，希望能让你对这种 LLM 交互方式产生兴趣。SillyTavern 是什么我们要先讲清楚 ST 和它的「主流」使用场景是什么。首先，它本质上是一个 LLM 的前端，不提供模型，只提供交互的框架和介面。你需要提供自己的 LLM API 并在前端的介面中与 AI 进行交互。类似的产品还有 Chatbox 和 LibreChat 等，只不过这两者提供的是类似原版 ChatGPT 的单纯对话式交互介面，而 ST 的设计目标则是 AI 角色扮演。SillyTavern 的典型介面，核心依然是 AI 对话，但多了一套角色系统ST 的前身是 TavernAI，是一个用 AI 来玩 RPG 冒险游戏的程序，你可以设计好角色、环境、世界观，让 AI 扮演角色和旁白推进故事。ST 也继承了这个框架，但在这基础上添加了更复杂的功能和插件系统，也因此使得一些非主流的用法得益。角色扮演听起来不难，但要保证输出的稳定和合理，背后其实有相当多要考虑的事情。ST 也因此围绕这个使用场景提供了大量的设定选项，如果是刚上手，很容易被五花八门的按钮和选项搞得一头雾水。不过，尽管复杂，我认为 ST 背后的设计逻辑还是相当清晰的。本文的下一节将逐一介绍 ST
摘要可能不完整，可查看原文