AI 基本原理 | 学习笔记

📊 AI 概念关系图

点击每个概念查看详情，理解它们之间的关系

📚 深入了解每个概念

🤖

大语言模型 (LLM)

基础

一句话解释：读过海量文本的超级大脑，能理解、生成人类语言。

💡 详细说明

大语言模型（Large Language Model）是一种基于深度学习的AI系统，通过训练海量文本数据（书籍、网页、代码等），学会了语言的规律和知识。著名的例子包括 GPT-4、Claude、文心一言等。

参数规模：通常有数十亿到万亿级参数
训练数据：来自互联网的 TB 级文本
能力：文本生成、翻译、总结、问答、编程

🎯 生活类比

想象一个读了整个图书馆的超级学霸，你问它任何问题，它都能根据读过的内容给出回答。但它不是在"背诵"，而是真正理解了语言的模式和逻辑。

🔤

Token (词元)

基础

一句话解释：AI 阅读文字的最小单位，类似我们的"字"或"词"。

💡 详细说明

Token 是 AI 处理文本的基本单位。一个 Token 可以是一个字符、一个词或一部分词。不同的模型使用不同的分词方式：

英文："hello" 可能是 1 个 Token
中文："你好" 可能是 2-4 个 Token
计费单位：API 调用按 Token 数量计费
上下文限制：模型的"记忆容量"用 Token 衡量

"我爱人工智能" → ["我", "爱", "人工", "智能"] (4个Token)

🎯 生活类比

就像我们说话时的"字"或"词"。一句话有多少个字，AI 就要处理多少个 Token。Token 越多，AI 需要处理的"工作量"越大。

📝

上下文 (Context)

基础

一句话解释：AI 的"短期记忆"，决定它能记住多少对话内容。

💡 详细说明

上下文窗口（Context Window）是 AI 在一次对话中能"看到"的所有内容，包括：

系统提示词：设定 AI 角色和行为
历史对话：之前的聊天记录
当前输入：用户最新的问题
模型输出：AI 的回复

模型	上下文长度
GPT-3.5	4K-16K Tokens
GPT-4 Turbo	128K Tokens
Claude 3	200K Tokens

🎯 生活类比

就像人的短期记忆——你能记住最近聊了什么，但太久之前的事就模糊了。上下文窗口越大，AI 能记住的内容越多，处理长文档的能力越强。

🌈

幻觉 (Hallucination)

注意

一句话解释：AI "自信地胡说八道"，生成看似合理但实际错误的信息。

💡 详细说明

幻觉是指 AI 生成的不正确、虚构或无根据的内容，但表达得非常自信和合理。这是目前大模型的主要缺陷之一：

事实错误：编造不存在的论文、事件、人物
逻辑矛盾：前后说法不一致
数学错误：计算过程出错但看起来很专业
原因：模型是在"预测下一个词"，而非检索事实

⚠️ 如何应对

✅ 重要信息务必人工验证
✅ 使用 RAG 技术（下面会讲）
✅ 要求 AI 提供来源引用
✅ 设置 Temperature 参数较低（减少随机性）

📚

RAG (检索增强生成)

进阶

一句话解释：给 AI 配个"参考资料库"，让它基于真实信息回答问题。

💡 详细说明

RAG（Retrieval-Augmented Generation）是解决幻觉问题的核心技术方案：

索引阶段：将你的文档切分、向量化存入数据库
检索阶段：用户提问时，从数据库搜索相关内容
生成阶段：将检索到的内容 + 问题一起发给 AI
输出阶段：AI 基于真实资料生成答案

🎯 应用场景

🏢 企业知识库问答
📖 基于特定文档的客服系统
🔬 学术文献辅助阅读
📊 个人笔记/文档智能搜索

🎯

Agent (智能体)

进阶

一句话解释：不仅能聊天，还能**自主思考和行动**的 AI 助手。

💡 详细说明

Agent 是比普通聊天机器人更高级的存在，它具备：

感知能力：理解复杂任务和多轮对话
规划能力：拆解任务、制定执行步骤
工具使用：调用 API、搜索网页、执行代码
记忆能力：记住长期信息和用户偏好
反思能力：从错误中学习并自我纠正

简单 Agent
单步任务执行

复杂 Agent
多步骤自主规划

多 Agent 系统
多个 Agent 协作完成项目

🎯 实际案例

比如你让 Agent "帮我做一个市场调研报告"，它会：自动拆解任务 → 搜索行业数据 → 分析竞品 → 整理成报告 → 自我检查格式 → 最终交付。整个过程无需你一步步指挥。

💬

提示工程 (Prompt Engineering)

技能

一句话解释：学会"正确地提问"，让 AI 给出更好的回答。

💡 核心技巧

1️⃣ 角色设定

"你是一位资深产品经理..."

2️⃣ 明确指令

"请用300字总结以下文章的核心观点"

3️⃣ 提供示例

Few-shot: 先给1-2个期望输出的示例

4️⃣ 分步骤思考

"请先分析...再给出...最后建议..."

5️⃣ 输出格式

"请以表格形式输出，包含列：xxx"

❌ vs ✅ 示例

❌ 差提示：
"写个文案"

✅ 好提示：
"你是一位专业的社交媒体运营专家。请为我们的新产品[智能耳机X1]写一条小红书文案。目标受众是18-25岁的音乐爱好者。要求：突出降噪功能，语气活泼年轻化，包含emoji，200字左右，结尾加相关话题标签。"

🎨

微调 (Fine-tuning)

进阶

一句话解释：对预训练模型进行"再培训"，让它更懂特定领域的知识。

💡 详细说明

微调是在通用大模型的基础上，用特定领域的数据继续训练，使其在该领域表现更好：

全量微调：更新所有参数（效果最好，成本高）
高效微调 (LoRA)：只训练少量参数（性价比高）
数据需求：通常需要数百到数千条高质量样本
适用场景：专业领域（医疗、法律、金融）、特定风格、私有知识

🎯 RAG vs 微调如何选择？

场景	推荐方案
需要实时更新的知识	RAG ✅
特定领域专业知识	微调 ✅
需要特定输出风格	微调 ✅
数据量小、快速部署	RAG ✅
追求极致性能	两者结合 🚀

🔢

Embedding (嵌入向量)

技术

一句话解释：把文字转换成数字坐标，让计算机理解语义相似度。

💡 核心概念

Embedding 将文本转换为高维向量（一组数字），使得：

语义相近的文字 → 数字距离也近
"苹果手机" 和 "iPhone" 的向量距离很近
"苹果手机" 和 "香蕉水果" 的向量距离较远

示例（简化为2维）：

🍎 苹果(水果) → [0.9, 0.1]
🍌 香蕉 → [0.85, 0.15]
📱 苹果(公司) → [0.2, 0.95]
💻 手机 → [0.25, 0.92]

🔗 关键作用

Embedding 是 RAG 技术的核心基础！正是因为有了 Embedding，我们才能：

在大量文档中快速找到语义相关的内容
实现智能搜索（而不只是关键词匹配）
做推荐系统、聚类分析等应用

🌡️

Temperature (温度参数)

技术

一句话解释：控制 AI 回答的"创造性程度"——越低越保守，越高越发散。

💡 参数详解

Temperature 取值范围通常是 0-2，影响模型选择词语的概率分布：

🧊 低温度 (0-0.3)

输出确定、一致性强
适合：代码生成、数学计算、 factual QA
缺点：可能略显呆板

⛅ 中等温度 (0.7-1.0) ← 默认值

平衡创造性和准确性
适合：日常对话、写作辅助

🔥 高温度 (1.0-2.0)

高度创意、不可预测
适合：诗歌创作、头脑风暴、创意写作
⚠️ 缺点：更容易产生幻觉！

🎯 实战建议

写代码、做数学题 → temperature = 0.1-0.3
正式商务文档 → temperature = 0.5-0.7
日常聊天、一般写作 → temperature = 0.7-1.0
创意写作、诗歌 → temperature = 1.0-1.5

🔗 概念关系总览

🧠 大语言模型
(LLM)

🔤 Token 📝 上下文 🌡️ Temperature

🌈 幻觉 💬 提示工程

🔢 Embedding 📚 RAG 🎯 Agent 🎨 微调

📈 推荐学习路径

Step 1

打基础

先搞懂 LLM、Token、上下文 —— 这是所有其他概念的前提

Step 2

学会用

掌握提示工程 + Temperature 参数，让你立刻成为高手

Step 3

理解局限

认识幻觉问题，学会验证 AI 的输出

Step 4

进阶技术

学习 Embedding → RAG → Agent，解锁企业级应用

Step 5

定制优化

通过微调打造专属 AI 助手

📊 AI 概念关系图

📚 深入了解每个概念

大语言模型 (LLM)

💡 详细说明

🎯 生活类比

Token (词元)

💡 详细说明

🎯 生活类比

上下文 (Context)

💡 详细说明

🎯 生活类比

幻觉 (Hallucination)

💡 详细说明

⚠️ 如何应对

RAG (检索增强生成)

💡 详细说明

🎯 应用场景

Agent (智能体)

💡 详细说明

🎯 实际案例

提示工程 (Prompt Engineering)

💡 核心技巧

❌ vs ✅ 示例

微调 (Fine-tuning)

💡 详细说明

🎯 RAG vs 微调 如何选择？

Embedding (嵌入向量)

💡 核心概念

🔗 关键作用

Temperature (温度参数)

💡 参数详解

🎯 实战建议

🔗 概念关系总览

📈 推荐学习路径

🎯 RAG vs 微调如何选择？