云相、气象与蝴蝶效应
今天把算法考完了,还剩两堂考试。一个是和系统结构很像的操作系统,所以不需要咋复习;另一个是数据库,这个由于经常小测,学的比较扎实。接下来五天可以适当休息一下了。。。对了还有马克思主义原理。。嗯……这个东西我学了之后的成绩和直接掷骰子的成绩差不多,就不复习了。。。
所以我打算花点时间记录一下最近的气象学工作。
云相与气候
大概一个月前,收到了老师那边会接一个云相预测的横向任务的通知,于是我就开始留意云相、记录云相了。不过最近上海都在下雨,一直是一幅“黑云压城城欲摧”的状态。
昨天我汇总了今年上半年我拍下来的云相,突然发现今年上海还没有过雷雨天气。有点怀念前年的连续两场台风了。快快刮台风吧,我等不及看紫色的、猩红色的天空了。
最近训练模型的闲暇时间里,被交付了研究“如何让气象预报模型在超长期预测中保持基本的稳态特征”的任务。我想到了用傅里叶变换,原因是气候的时序数值本身就很近似于一个波,所以对其进行傅里叶变换,得到低频波和高频波,那么低频波就反映了基础的物理规律,而高频波就反应了局部细节。因此,假如先只把低频波放进去让模型学,再不断加入高频波,进行微调,或许就能让模型更加侧重于维持低频波,即基本特征。
不过,这又引出了一个新的问题:什么样的分解(不只是傅里叶)才能更好地反映、区分出基本特征与局部细节呢?这个似乎就是一个表征学习领域的问题了,我得花时间好好想想这个问题。不过现在能得出的直觉性的结论是,不管是我们人为定义的哪一种分解,都肯定不是这个问题的最优通解。还有一个直觉性结论是,在气象预测这种有一定周期性的任务情景下,傅里叶变换可能比别的变换更加接近于这个问题的最优解。
蝴蝶效应
由于工作一直跟蝴蝶效应相关,最近一直在思考蝴蝶效应。
大模型本质是预测性质的,预测的本质是给事物建立起关联、映射。既然要用到大模型,显然,这样的关联和映射不是显著可见的,并且很难人工数学推导。所以我们使用深度学习手段,使用预测模型,本质而言是建立起微小的、不易察觉的、复杂的联系。至于多微小、多不易察觉,取决于模型的表示能力,或者说模型的深度。
显然,由于梯度(或者准确来说,其实是二阶导数)的存在,在不同情况下,当输入发生一定幅度的变化,输出的变化幅度是不一定相同的,并且在一部分特殊情况中,输入发生的变化可能非常非常小,却引发了输出的爆发式改变。不难联想到,这恰好就是蝴蝶效应。
为什么要单独拎出来讨论蝴蝶效应呢?因为它对于输入的影响很小——这意味着我们可能人为地促成这种改变,即便是在很宏大的任务下;同时它对于输出的影响很大——这意味着我们促成的改变很可能对未来产生很大的影响。比如,我们在上海市进行一场人工降雨,或许可以使得原定经过美国的一场台风绕行,从而规避风险。
所以,蝴蝶效应的存在,让我们得以用人力扭转未来。同时,预测模型的存在让我们能够预知未来。既然预测模型对于任何的X总之可以推演出对应的Y,那么,我们可以朝着某个特定的Y,去调整X,让我们想要的Y取代原本的Y。这个过程就是对于X的优化,具象化而言,它使得未来朝着我们想要的方向,而不是自然的方向,演进了。
这是一个非常伟大,同时也非常庞大的想法。我正在气象学领域实践这个想法。同时,我很希望将这个想法运用到别的场景下,但目前还没有头绪。
额外的话
想休息了。最近精神状态不太好,有种随时都能哭出来的感觉,似乎是被孤独和焦虑同时折磨了。我原本以为对于学术的纯粹的追求能帮助我抵御这些东西,看来这个想法还是太幼稚了。这几天早点睡吧。