NobodyWho是什么
NobodyWho是为 Godot 游戏引擎设计的插件,通过本地运行的大型语言模型(LLM)实现互动小说创作。支持 Windows、Linux 和 macOS 平台,用户无需联网即可使用高性能的 LLM 功能,如对话交互和文本生成。插件通过简单的节点系统(如 NobodyWhoModel 和 NobodyWhoChat)实现与模型的无缝对接,让创作者可以快速构建动态叙事内容。
NobodyWho的主要功能
- 本地运行:支持在本地运行 LLM,无需联网,避免了隐私问题。
- 高性能推理:通过 GPU 加速(Linux/Windows 使用 Vulkan,MacOS 使用 Metal),确保快速的推理性能。
- 多上下文支持:可以同时维护多个独立的“对话”或叙事线程,适用于不同角色或游戏状态。
- 流式输出:生成文本时逐字输出,使游戏对话更具动态性和实时性。
- 采样器功能:根据上下文动态调整生成参数(如温度、种子等),以控制对话风格。
- 嵌入功能:通过 LLM 比较自然文本的语义内容,不仅是关键词或字面内容。
- 工具调用:支持 LLM 与游戏内的功能或系统交互,例如访问库存、触发事件等。
- 记忆功能:为 LLM 提供长期记忆,以便在叙事中引用过去的事件,确保故事连贯性。
NobodyWho的技术原理
- 本地运行与 GPU 加速:NobodyWho 支持用户在本地运行 LLM,无需联网即可实现快速推理。通过 Vulkan(Linux/Windows)或 Metal(macOS)技术实现 GPU 加速,确保高性能。
- 节点系统集成:插件通过 Godot 的节点系统实现功能集成。用户需要在场景中添加
NobodyWhoModel
节点来加载 LLM 模型文件(如 GGUF 格式),通过NobodyWhoChat
节点实现与模型的交互。
NobodyWho的项目地址
NobodyWho的应用场景
- 互动故事创作:NobodyWho 可以让玩家与游戏中的角色进行实时对话,推动故事发展。例如,在一个科幻游戏中,玩家可以通过与空间站船员的对话来解开事故的真相。
- 动态对话系统:通过本地运行的 LLM,开发者可以为游戏中的非玩家角色(NPC)创建自然、动态的对话系统。NPC 可以根据玩家的输入生成实时回应,游戏对话更加流畅和真实。
- 多角色和多线叙事:NobodyWho 支持多上下文功能,支持开发者在同一游戏中维护多个独立的对话或叙事线程。
© 版权声明
本站文章版权归 AI工具集 所有,未经允许禁止任何形式的转载。
© 版权声明
文章版权归作者所有,未经允许请勿转载。
相关文章
暂无评论...