ollama日志解读

ollama日志解读 公开 已发布

如何安装动作?

适用于
分类(旧)
AI
关键词



更多信息
分享时间 7天4小时前
最后更新 7天4小时前
修订版本 1
用户许可 可自己使用或修改,不可再分享
Quicker版本 1.45.5
动作大小 102.9 KB

分享到

「对刚运行完的本地 AI 模型的 server 日志进行解读,能提取出一些模型加载运行的信息,比如:模型规模、量化、软件栈路线、加载到GPU与CPU的情况、生成速度等」

简介

对刚运行完的本地 AI 模型的 server 日志进行解读,能提取出一些模型加载运行的信息,比如:模型规模、量化、软件栈路线、加载到GPU与CPU的情况、生成速度等

它可以方便 ollama 用户进行调试,比如:根据运行时,模型权重层数在GPU和CPU的分布,更好地计算合适的上下长度以保障运行速度

本动作可搭配动作 ollama命令:ollama 命令 进行使用

声明:
①本动作借用了 FanXiang 所编写的 Markdown 动作(一款“Markdown编辑器”动作)代码进行“解读报告”的呈现。这个 Markdown 编辑器很不错,推荐大家尝试。
②本动作不一定对所有模型都准确,若发现没有适配的模型,导出动作自定义( JSON 文件 )然后丢给 网页版 Deepseek ,让它调整就行!

作者所声明的动作特征:
  • 依赖第三方软件(如ffmpeg): ollama

最近更新

修订版本 更新时间 制品 审核状态 更新说明
1 7天4小时前 V1 当前 V1 版本

最近讨论

暂无讨论