觅用 AI
自动模式按当地时间06:30至18:00使用浅色,其余时间使用深色
工具指南 / 从用途到使用

llamafile

把模型与运行环境组合为单文件可执行程序,用于分发和本地运行语言模型。

打开官方项目

llamafile 能帮你完成什么工作

选一项工作查看准备材料、执行建议和交付检查。

01

打包并运行本地模型

准备材料
  • 兼容模型
  • 目标运行平台
怎样开始
  1. 选择需要运行的模型与对应 llamafile,检查其对本机系统的运行要求。
  2. 启动该可执行文件,按提供的本地交互方式输入测试问题。
  3. 用自己的任务样例检查回答质量和设备占用,再决定是否用于后续工作。
交付目标
  • 可运行的模型文件
  • 本地推理结果
人工检查
核对文件来源、模型许可与平台兼容性。

llamafile 是什么

把模型与运行环境组合为单文件可执行程序,用于分发和本地运行语言模型。

费用与使用条件

正式使用前,查看官方当前账号、功能、导出和输入资料要求,核对结果是否适合你的任务。

同类工具,换一个选择

按条件筛选 ↗