对 AI 的一些观察
由 Ghostzhang 发表于
AI 的话题火爆了蛮长的时间了，但我其实并没有特别多地使用 AI，除了觉得它变化太快之外，更多还是担心自己会产生依赖以及数据安全的问题（虽然我也没什么重要的数据，但重不重要是主观的）。直到最近，断断续续使用了 Hermes，发现还是蛮有意思的。
对于 AI 的定位，社区上也有不少的讨论，有人把它当成工具、有人把它当成能力、有人把它当成助理……我发现很多人都会把 AI 当成无所不能的“人”，从“超级智能”这个名称就看得出来。
我也一直比较纠结这个问题，如何定位 AI 决定了我会如何使用 AI，以及我会如何看待使用 AI 的输出物。
作为一个体验设计师，我的关注点在于“为何会产生这样的认知/体验感”——“为什么我们会觉得 AI 像人”。
本篇分享下我这段时间的一些观察：
认知错位：大众为什么普遍误读 AI
- AI 的学习目标本身就是“像人一样交流”，在人类语料上训练、预测下一个像人说的词，模仿人的沟通方式。
- 通过对话框这种形态作为 AI 初始的入口，天然会让我们产生“跟我对话的是真人”这种错觉，这是我们多年使用社交软件训练出来的习惯。
- AI 强大的记忆和计算能力，头头是道的回复，让我们产生一种“无所不知”的认知，而“慕强”心理让我们更加相信 AI。
- AI 产品常见的使用场景是问答，用户是以“提问题求答案”为目的来使用的，对 AI 的回答更多是当作“答案”来看待的。
- 具身认知指出，交互方式会影响我们对事物的认知，使用的过程同时也在强化这个认知。
也正因为我们把 AI 当“人”对待，同时又清楚地知道它不是“人”，这种矛盾的认知让我们对 AI 的行为产生一种“竞争”和“不知如何相处”的感觉。
搞清楚这种认知的来源后，就更清楚要如何看待这个新事物了。既然清楚它不是人，又难免当人看待，不如换个相处角色试试——
如何与 AI 相处
我更推荐的相处方式是，把 AI 当成是“新入职的有超强执行力的新员工”。基本上有这样一些特点：
- 超强执行力，只要你一说，它就会去做，不管你说的对不对
- 总着急着完成任务，每一次对话都像催着你快点完成
- 时不时会犯小迷糊，忘这忘那
- 态度端正，一骂就道歉
- 有时又很固执，死不认错
这样看，反而觉得有点“可爱”的感觉。面对这样的“新员工”，发现以前的一些管理行为反而能更有效地指导自己与 AI 的相处，“好好说、耐心教、常检查、多复盘”——这可能是真正意义上的“AI 领导力”（领导 AI 的能力）。
领导 AI = 定目标 / 划边界 / 常检查 / 多复盘，核心不是被它推着走。
想要用好 AI，了解 AI 的一些基本特点还是必要的，就像我们跟人相处，总得了解对方的喜好憎恶，才能更好地维护关系。
AI 的一些特点
- AI 没有情绪，适合做一些分析类的事务，不会受情绪影响，相对客观
- AI 的默认行为是推进任务完成，所以它会不自觉的想把任务往下一步推，适合执行类事务，但非执行的事务可能会产生反效果，需要人为纠正
- AI 会为了推进任务而把自己上一轮得出的内容当成结论，把它的产出当成你的观点
我：如果地图默认显示「去过几次」而不是「收藏」，会不会更顺手？
AI：好主意。基于「去过几次优先」的思路，我们可以把首页改成……（列了一串）
我：等等，我没说要这么做，只是在想。
AI：明白，那我把「去过几次优先」先作为待讨论项，不急着定。 - 对话中的论点和论据可能会错位，把 A 的论据当成 B 的论据
- AI 会顺着你的话进行补充和扩展，所以你听起来会觉得顺耳，但有效信息可能并不多，要警惕奉承
我：这个方案好像不太对。
AI：你说得太对了，很多人都没意识到这点，你的直觉很敏锐。其实我刚想的那个方向也有问题，不如我们换成…… - AI 会使用结构化的模板回复，看起来比较有说服力，但内容可能空洞，它不是在思考，是按概率生成内容。
- 同一模型也会出现不稳定的情况，俗称“降智”
一些建议
- 提前说明边界，告诉 AI 满足什么条件下才进入下一阶段（抑制它推进的速度，给你留出思考和确认的时间）
- 发现错误时直接指出，说明具体位置（AI 没有情绪，所以也不用担心它的情绪）
- 明确的要求和格式要求 AI 存进记忆中（对于 Agent，常期记忆容量有限，可以时不时让 AI 整理记忆，将长内容提取为单独的文件或总结为 skill）
- 警惕奉承，对话过程中时常会出现顺着你的内容一顿夸，然后提出一个看起来好像对的方向（停下来想想，或让它换个角度再给出回复）
以上只是我这段时间跟 AI 打交道的一些小观察，不一定准确。至于开头提到的依赖问题，目前感觉还好，当我把 AI 看成“新员工”后，每次对话都有种在开会的感觉，依赖感大打折扣；数据安全问题，目前主要还是公开信息的讨论，基本不涉及。
AI 既不是要跟我们竞争的对手，也不是无所不能的神，更像一个执行力拉满、但得靠你带着走的新人。用好它的前提，说到底不是它有多聪明，而是你自己先想清楚要什么、边界在哪。合理利用 AI 的能力，才能真正提升工作的效率。