3-15 在Obsidian中使用AI（上）

# 1. 前文提要

* 进阶Obsidian部分
	* 搭建基础服务
	* 拓展应用场景
* 今天开始：有难度的基础服务！
	* 进阶部分最后几个课时
		* AI
		* Dataview
	* 难度开始提升
* 接下来的两个课时：AI
	* 本地AI
	* 在线AI

# 2. Obsidian中的AI

* 笔记软件的标配：AI
* Ob怎能没有AI加持？
* 在Obsidian中使用AI的三大场景
	* 进行问答
	* 进行写作
	* 知识库问答和写作
* 考虑到大部分同学不具备外网条件
* 我们先——

# 3. Obsidain的本地化AI

* 方案：Ollama + LocalGPT
	* Ollama软件：提供LLM支持
	* LocalGPT插件：在Obsidian中进行写作
* 步骤
	* 安装Ollama
	* 在Ollama中拉取LLM
	* 安装LocalGPT插件
	* 进行使用

## 3.1. 安装Ollama

* [[|什么是Ollama]]？
	* ![image.png](https://sand-1307453643.cos.ap-guangzhou.myqcloud.com/sandox/pic/202407191042730.png)
	* 开源免费
	* 本地化
	* [官网](https://ollama.com/)
	* 支持平台：Windows / macOS / Linux
* 安装Ollama
	* ![image.png](https://sand-1307453643.cos.ap-guangzhou.myqcloud.com/sandox/pic/202407191043351.png)
	* 设置环境变量
* 使用
	* 后台运行 ![image.png](https://sand-1307453643.cos.ap-guangzhou.myqcloud.com/sandox/pic/202407101150474.png)
	* 💡 无图形界面
	* 通过命令行(cmd / terminal)
		* ![image.png](https://sand-1307453643.cos.ap-guangzhou.myqcloud.com/sandox/pic/202407101021577.png)
	* 测试：`ollama`
	* 没反应？环境变量的问题
* 一切就绪？

## 3.2. 拉取大语言模型

* [支持的大语言模型](https://ollama.com/library)
	* 2000+
	* 阿里通义千问
	* Meta llama3
	* Google Gemma
	* ……
* 选择模型
	* ![image.png](https://sand-1307453643.cos.ap-guangzhou.myqcloud.com/sandox/pic/202407101037054.png)
		* ①：1B(billion)=十亿参数
		* ②：选择模型版本
		* ③：复制命令
	* 没有强力独显，推荐 ≤ 7b的模型
		* 27b：32g不够看！
* 拉取模型
	* `ollama pull xxx`
* ollama命令
	* 运行指定模型：`ollama run`
	* 查看模型列表：`ollama list`
	* 删除指定模型：`ollama rm`
* 开始问答
	* ![image.png](https://sand-1307453643.cos.ap-guangzhou.myqcloud.com/sandox/pic/202408251131183.png)

## 3.3. 安装LocalGPT插件

* 最简单易用的ollama支持插件！
* ![image.png](https://sand-1307453643.cos.ap-guangzhou.myqcloud.com/sandox/pic/202408251133159.png)
* 指定快捷键：`Ctrl+Shift+G`

## 3.4. 在Obsidian中使用

* ![image.png](https://sand-1307453643.cos.ap-guangzhou.myqcloud.com/sandox/pic/202408251135644.png)
* 演示：[[obsidian_ollama_test]]

# 4. 课后作业

> 课后作业
> * 为Obsidian搭建基于Ollama的本地AI服务。

* 题外话：为什么作为多是选做？
	* 需求不同，所以不强制提交
	* 但**强烈推荐练习**！

# 5. 课时预告

* [[3-16 在Obsidian中使用AI（下）]]