操作系统
Windows 7
最近更新
2024年10月12日
使用许可
开源
语言
不支持中文
文件大小
20.21 MB

Ollama是一个开源的大型语言模型(LLM)服务工具,专为在本地机器上便捷部署和运行大型语言模型而设计。它极大地简化了在Docker容器内部署和管理LLM的过程,使得非专业用户也能方便地管理和运行这些复杂的模型。


简化部署

一键安装与运行:用户只需通过简单的安装指令和一条命令,即可在本地快速运行开源大型语言模型,如Llama 2等。

跨平台支持:提供针对macOS、Windows(预览版)、Linux以及Docker的安装指南,确保用户能在多种操作系统环境下顺利部署和使用Ollama。


轻量级与可扩展

资源占用少:Ollama的代码简洁明了,运行时占用资源少,能够在本地高效地运行,不需要大量的计算资源。

灵活多变:支持热加载模型文件,无需重新启动即可切换不同的模型,这使得它非常灵活多变。

可扩展性:支持多种模型架构,并可以扩展以支持新的模型,满足用户的不同需求。


易于使用

简单API:提供了一个简洁的API,使得开发者能够轻松创建、运行和管理大型语言模型实例,降低了与模型交互的技术门槛。

聊天界面:提供了类似ChatGPT的聊天界面,用户无需开发即可直接与模型进行聊天交互。

安装简便:用户只需按照安装指南进行操作即可完成安装,无需具备专业的技术背景。


预构建模型库

丰富的模型选择:包含一系列预先训练好的大型语言模型,用户可以直接选用这些模型应用于自己的应用程序,无需从头训练或自行寻找模型源。

多领域覆盖:预构建模型库中的模型覆盖多个领域,如文本生成、翻译、问答等,满足用户的不同需求。


兼容性与导入功能

兼容深度学习框架:兼容PyTorch和Safetensors等深度学习框架,允许用户将基于这些框架训练的模型集成到Ollama中。

支持从特定平台导入:支持从特定平台(如GGUF)导入已有的大型语言模型,增加了模型的来源和多样性。


自定义与配置

自定义提示:允许用户为模型添加或修改提示(prompt engineering),以引导模型生成特定类型或风格的文本输出。

环境变量配置:如OLLAMA_HOST,用于指定服务绑定的主机地址和端口,用户可以根据需要进行修改。

0.3.13 版本更新说明:

新安全模型

  • Llama Guard 3:Meta推出的一系列模型,针对LLM输入和响应的内容安全分类进行了微调。
  • ShieldGemma:ShieldGemma是来自Google DeepMind的一套指令调优模型,用于根据一组定义的安全策略评估文本提示输入和文本输出响应的安全性。


变更内容

  • 快速入门中的默认模型现已变更为llama3.2
  • 修复了遇到错误时会遗留连接的问题
  • ollama rm命令在删除模型前,如果模型正在运行,现在会先停止它


新的Go运行器(面向贡献者):

  • Ollama正转向一种基于Go的新子进程模型运行器,该运行器具有更高的可靠性和缓存性能。这个新的运行器位于某个目录下,取代了之前的代码。在此过渡期间,新的Go运行器在构建时是可选的,并且需要采用不同的方法来构建。

其他版本
最近更新软件 - Windows 软件更新列表
Pixso [设计] Pixso 1.34.1 64位
刚刚
飞鸽传书 [网络] 飞鸽传书 8.1.241001 32位/64位
刚刚
鲁大师AiNAS [网络] 鲁大师AiNAS 2024.10.11.2029 64位
刚刚
抖音 [网络] 抖音 4.7.0 32位/64位
刚刚
暴喵加速器 [游戏工具] 暴喵加速器 1.4.4 32位/64位
刚刚
PCSX2 [游戏工具] PCSX2 2.1.199 64位
刚刚
Diablo4 Companion [游戏工具] Diablo4 Companion 4.0.6.1 32位/64位
刚刚
Sunshine [游戏工具] Sunshine 2024.1012.170838 64位
刚刚
Tauri [开发] Tauri 2.0.3 ARM64
刚刚
Tauri [开发] Tauri 2.0.3 64位
刚刚
新软件 - Windows 新软件列表
Pixso [设计] Pixso 1.34.1 64位
刚刚
飞鸽传书 [网络] 飞鸽传书 8.1.241001 32位/64位
刚刚
乐播投屏 [媒体] 乐播投屏 5.5.30.0 32位/64位
昨天 17:47
红竞联盟 [网络] 红竞联盟 1.0.9 64位
昨天 17:33
Blender [设计] Blender 4.3.0 ARM64
昨天 15:45
好视通云会议 [网络] 好视通云会议 3.44.2.4 32位/64位
昨天 07:38
美团配送烽火台 [行业] 美团配送烽火台 1.7.4 32位/64位
昨天 07:32
中国移动云盘 [网络] 中国移动云盘 8.1.2 32位/64位
昨天 00:28
11对战平台 [游戏工具] 11对战平台 2.6.1.72 32位/64位
10-11
启源恢复大师 [安全] 启源恢复大师 13.36.88.24 32位/64位
10-11