AI基础

AI 为什么聊久了会忘记前文？上下文窗口限制的是本次可用的信息范围，聊天记录仍在不代表模型完整读到了。本文区分历史未带入、摘要遗漏和信息未被正确利用，解释长期记忆与当前上下文的关系，并用活动通知示例说...

AI 说的 Token 是什么，为什么不能直接换算成字数？用一个英文单词和同一段算式在不同编码下的官方结果，解释分词器、词表和 Token 编号的关系，说明中文、空格、标点如何影响计数。再区分输入与输...

AI 为什么常用 GPU，CPU 在训练和回答时又做什么？从四行乘加运算和一次聊天请求出发，解释 GPU 的并行优势、CPU 的数据准备与服务处理，分清训练和推理的计算差别。再说明显存容量、数据带宽为...

和 AI 聊天是在训练它吗？为什么补一句要求，回答就能马上改变？本文用同一段对话说明模型训练与推理的分工：训练调整参数，推理用现有模型处理当前输入。再分清对话上下文、产品保存的记忆，以及聊天资料可能被...