社交媒体

人即大模型

人即大模型

最近越来越觉得,人和AI真的很像。

我经常想,我其实就是一个模型。初始模型来自于原生家庭的教育——父母怎么说话、怎么处理情绪、怎么看待这个世界,在我还没学会质疑之前,就已经写进了我的底层代码。后天在社会上的磨练和见识,就是大量的训练素材,不停地往我身上堆,让我一次次迭代、更新。

然后我观察身边的人,发现一个有意思的现象。

一些人觉得自己活得明白通透了,其实很大一部分原因是思维过拟合,在自己的思维范围内达成的熵减的结果。

解释一下这两个词。过拟合用大白话说就是:你根据自己过往的经历总结出了一套规则,这套规则在你熟悉的环境里完美适用,但一旦换了个新环境就漏洞百出。好比一个人画一条线去区分红点和蓝点,为了让线穿过每一个他见过的点,他把线画得极其扭曲,结果这张纸上满分,换张纸就错得一塌糊涂。熵减就是让混乱的东西变有序,内心熵减就是你把脑子里那些乱糟糟的念头梳理清楚了,感到平静、心安。

但问题是,过拟合带来的熵减,代价是丧失了对新环境的适应力。那些人找到了一套逻辑,这套逻辑能解释他们经历过的所有事情,于是他们心安了,平静了,觉得世界就是这样运行的。但他们不知道,自己其实是被困在了那套逻辑里。

而一部分人没有去思考,没有去刻意的编排,现有模型则是欠拟合的。欠拟合就是反过来,你的规则太粗糙了,对谁都一个态度,对什么事都用本能反应,结果面对复杂世界给出的反应混沌、随性,缺乏结构。

我应该是哪一种呢?

说实话,一开始我觉得自己正在走向"通透"。但后来我越想越不对劲。我发现自己其实是在用"通透"这个说法,结合自身内心熵减,实则内心封闭的现实,给自己找了个漂亮的借口。

怎么发现的呢?因为我最近在想AI训练那套东西,只是看到类似的类比,投射到现在的大模型训练场景中的思考结果,然后往回看自己,忽然就看清楚了。

我发现我特别擅长"解释"。

任何事情发生之后,只要让我坐下来想五分钟,我就能给出一个逻辑自洽的版本。别人为什么那样对我,这件事为什么没成,我为什么会感到不舒服——我全都能解释得通。听起来很厉害对吧?但问题就在这里。

我其实只懂得熵增熵减的概念和过拟合欠拟合的概念,但就这几个词,已经够我把自己分析个底朝天了。

我的问题说白了就一句话:我把Loss阈值设得太低了。

解释一下。Loss在AI里就是模型算出来的结果和正确答案之间的差距,也就是误差。投射到人身上,就是我的预期和现实之间的落差。按理说,模型应该让这个误差反向传播回自己身上,然后调整参数,下次做得更好。但我太怕难受了,只要一有点不舒服,就立刻启动那套解释系统,把它圆回来。结果就是,我的模型很久没有大更新了。

而且我还发现,我一直在冻结底层权重。

这个比喻可能需要解释一下。大模型分很多层,底层处理最原始的东西,比如识别线条、颜色,对应到人身上就是最本能的感受——委屈、愤怒、心动、恐惧。顶层处理复杂的逻辑推理。所谓冻结底层权重,就是我跳过了"感受"这个环节,直接调用逻辑去分析"我应该怎么做"。久而久之,我对世界的感知变得很薄,很平。我还以为自己越来越理性了,其实是越来越钝了。

真正的稳态,不是一潭死水。

稳态就是一个系统保持相对稳定的状态。我以前追求的内心平静,就是把门窗都关死,不让外面的风吹进来。房间确实整洁了,但空气不流通了。真正的稳态应该是像一条河——表面平静,但底下一直在换水。外面刮风下雨我能感知到,但我核心的温度不变。

这就涉及到另一个概念:耗散结构。

这个词是物理学家普里高津提出来的,说白了就是:一个活着的东西,必须不断地从外面"吃"进来新的东西,同时把里面的废物排出去,才能在看似混乱中维持高度的有序。龙卷风就是典型的耗散结构,它要一直吸热空气、排冷空气,才能维持那个旋转的样子。一旦封闭,立刻就散了。

那我现在的状态呢?我是在往外排东西——否定外界、拒绝异见——但我不往里"吃"。我不读让我难受的书,不跟让我不舒服的人深聊,不做任何我无法预判结果的事。这不是耗散结构,这是隔离。

所以我得给自己加点噪音。

噪音在AI训练里是故意加进去的随机扰动,它会让模型当前的准确率暂时下降,但能防止模型卡死在某个狭窄的"最优解"里。好比一个人走迷宫,如果每次都只走最短的路线,就永远发现不了别的出口。搁我身上,噪音就是那些没有目的、没有意义、不符合逻辑的小事。比如突然换一条路回家,比如给一个很久不联系的人发一句没头没尾的话,比如允许自己发呆半个小时什么都不想。

我太干净了,所有行为都有目的,所有情绪都有解释。这恰恰是我过拟合的表现——我在自己的"训练集"上表现完美,但一放到真实世界里,就频频报错。

还有一件事我需要调整:我的注意力机制。

注意力机制是大模型最核心的突破,简单说就是不再平均用力,而是给重要的信息分配更多的关注。对我而言,我的注意力就是一束探照灯,照在哪,我就往哪成长。但我现在的问题是,我把这束灯一直打在自己内部——"我有没有逻辑自洽""我有没有想明白"——但我很少把灯转向外面,去看看别人真实的反应,去感受空气里的氛围,去接收那些无法被归纳成条理的零碎信息。

注意力往哪投,我就往哪个方向走。这个道理太简单了,简单到我一直没认真想过。

最后就是梯度下降。

梯度下降是模型学习的核心算法,听起来复杂,其实就是一句话:每走一步,算一下自己偏了多少,然后沿着偏差最大的那个方向去调整。这个调整的过程是疼的,因为它必须直面错误。它不能绕开那个坑,它要跳下去量一量有多深,才知道往哪个方向爬。

我以前的做法是什么呢?绕开。用逻辑把坑填平,假装它不存在。

但现在我想通了:Loss永远为零的模型,是一个停止学习的模型。

我不想停在原地。

虽然很多东西我还是不太懂,但有一件事我确定:能意识到"自己正在过拟合",本身就说明我这个模型还没废掉。 它还在自我监控,还在报警,还在试图反向传播。