NobodyWho – AI游戏引擎插件,本地运行 LLM 实现互动小说创作


NobodyWho是什么

NobodyWho是为 Godot 游戏引擎设计的插件,通过本地运行的大型语言模型(LLM)实现互动小说创作。支持 Windows、Linux 和 macOS 平台,用户无需联网即可使用高性能的 LLM 功能,如对话交互和文本生成。插件通过简单的节点系统(如 NobodyWhoModel 和 NobodyWhoChat)实现与模型的无缝对接,让创作者可以快速构建动态叙事内容。
NobodyWho - AI游戏引擎插件,本地运行 LLM 实现互动小说创作

NobodyWho的主要功能

  • 本地运行:支持在本地运行 LLM,无需联网,避免了隐私问题。
  • 高性能推理:通过 GPU 加速(Linux/Windows 使用 Vulkan,MacOS 使用 Metal),确保快速的推理性能。
  • 多上下文支持:可以同时维护多个独立的“对话”或叙事线程,适用于不同角色或游戏状态。
  • 流式输出:生成文本时逐字输出,使游戏对话更具动态性和实时性。
  • 采样器功能:根据上下文动态调整生成参数(如温度、种子等),以控制对话风格。
  • 嵌入功能:通过 LLM 比较自然文本的语义内容,不仅是关键词或字面内容。
  • 工具调用:支持 LLM 与游戏内的功能或系统交互,例如访问库存、触发事件等。
  • 记忆功能:为 LLM 提供长期记忆,以便在叙事中引用过去的事件,确保故事连贯性。

NobodyWho的技术原理

  • 本地运行与 GPU 加速:NobodyWho 支持用户在本地运行 LLM,无需联网即可实现快速推理。通过 Vulkan(Linux/Windows)或 Metal(macOS)技术实现 GPU 加速,确保高性能。
  • 节点系统集成:插件通过 Godot 的节点系统实现功能集成。用户需要在场景中添加 NobodyWhoModel 节点来加载 LLM 模型文件(如 GGUF 格式),通过 NobodyWhoChat 节点实现与模型的交互。

NobodyWho的项目地址

NobodyWho的应用场景

  • 互动故事创作:NobodyWho 可以让玩家与游戏中的角色进行实时对话,推动故事发展。例如,在一个科幻游戏中,玩家可以通过与空间站船员的对话来解开事故的真相。
  • 动态对话系统:通过本地运行的 LLM,开发者可以为游戏中的非玩家角色(NPC)创建自然、动态的对话系统。NPC 可以根据玩家的输入生成实时回应,游戏对话更加流畅和真实。
  • 多角色和多线叙事:NobodyWho 支持多上下文功能,支持开发者在同一游戏中维护多个独立的对话或叙事线程。
© 版权声明

© 版权声明

相关文章

暂无评论

暂无评论...