LLM 调研(2)- 涌现能力

@Lenciel at 
...实际上,LLM 从构建到使用是三个步骤: 1. 我们给 LLM 灌的海量语料,就类似于程序的源代码; 2. 我们构建 LLM ,类似于对语料进行了「gcc -Ofast」[^6]的编译,生成了一个根据输入产生输出的程序; 3. 然后我们看到 LLM 输出的句子,其实又是在自己的经验、认知、上下文里面做了扩展,赋予了自己的解释和含义; LLM 的活,主要是第二阶段,我们在第三步那些感受和情绪,不是它的能力,而是我们自己的能力......……