研究人员 Alexander 和 Jacob Roman 发布了 Orchestral AI,这是一个新的 Python 框架,旨在解决当前 AI 工具如 LangChain 的复杂性。该框架提供同步、类型安全的替代方案,专注于可重复性和成本意识强的科学研究。
Orchestral AI 采用严格同步执行模型,拒绝异步事件循环,以确保代理行为具有确定性,这对于科学实验至关重要。框架是提供商无关的,支持 OpenAI、Anthropic、Google Gemini、Mistral 和通过 Ollama 的本地模型,允许研究人员用一行代码切换底层模型。
框架引入了“LLM-UX”概念,从模型角度设计用户体验,通过 Python 类型提示自动生成 JSON 模式简化工具创建。内置工具包括持久终端工具,维护状态以减少模型认知负荷。
Orchestral AI 源自高能物理和系外行星研究,支持 LaTeX 导出,允许将代理推理日志直接插入学术论文。框架还包括自动成本跟踪模块,聚合不同提供商的令牌使用,帮助实验室实时监控成本。此外,它实施“编辑前读取”护栏,增强安全性。