AI基础

AI为什么聊久了会忘记前文，上下文窗口与长期记忆差在哪？记录仍在不代表每次完整带入，保存了偏好也不保证本轮取回。本文区分信息未带上、摘要漏细节和带上后没用对三种情况，用社区活动通知说明怎样补齐日期、地...

AI说的Token是什么，为什么不能按一个字或一个词计数？用官方英文单词与算式在不同编码下的结果，说明分词器、词表和编号的关系，解释中文、空格、标点怎样改变数量。再区分输入、输出、上下文窗口和完整请求...

AI为什么常用GPU，CPU在训练和回答时做什么？通过四行乘加算例和一次聊天请求，解释并行计算、数据准备、任务调度与模型执行的分工，以及逐步生成文字为何仍能利用并行能力。区分峰值算力、显存容量和数据带...

和AI聊天会当场训练模型吗？回答随着新要求改变，通常是推理使用了当前输入，不代表模型参数已更新。用三句话回答的例子，区分训练、推理、上下文与产品记忆，再说明聊天资料是否进入后续训练为何要另看数据政策...