KAN出来之后，我最关注的还是其在时间序列领域的应用，果不其然，立马看到两篇占坑（中性词）文章。这篇文章不是对论文的深度解读，只是提供一个信息渠道。吐槽一下，大家的占坑速度实在太快，这两篇文章算是先把KAN与时序结合的好标题拿住了～～
KAN
Kolmogorov-Arnold Networks（简称 KAN）是一种新型的神经网络架构，它提出了与传统多层感知器（MLP）不同的设计思路。在 KAN 中，激活函数不是固定在网络节点上，而是作为可学习的单变量函数位于网络的边（即权重）上。这种设计允许网络在处理和学习输入数据时更加灵活，并且更接近于 Kolmogorov-Arnold 表示定理（KART），该定理表明每个多元连续函数都可以表示为单变量连续函数的两层嵌套叠加。
KAN 的核心特点和优势包括：
- 性能优势：KAN 在数据拟合和偏微分方程求解任务上展现了比同等规模或更大规模的 MLP 更高的准确率。
- 神经缩放律：KAN 表现出比 MLP 更优的神经缩放律，即随着模型参数数量的增加，KAN 的性能提升更加显著。
- 参数量与效率：尽管 KAN 的参数量级看似比 MLP 高，但 KAN 往往能在较小的参数量下达到更好的泛化能力。
- 数学理论基础：KAN 的设计灵感来自于 Kolmogorov-Arnold 表示定理，该定理为 KAN 提供了数学上的理论基础。
- 基础架构：KAN 的架构允许将网络泛化到任意宽度和深度，并且激活函数是可训练的。
在时序的应用
1、TKANs
论文标题：TKAN: Temporal Kolmogorov-Arnold Networks
作者在本文中提出TKANs。长短期记忆网络（LSTM）已经证明了其捕捉序列数据中长期依赖关系的能力。受到Kolmogorov-Arnold网络（KANs）的启发，作者受KAN和LSTM启发，提出了一个新型神经网络架构，即时间Kolmogorov-Arnold网络（TKANs）。TKANs结合了两种网络的优势，由嵌入记忆管理的循环Kolmogorov-Arnold网络（RKANs）层组成。据作者所说，TKANs融合了两种网络的优势，由循环Kolmogorov-Arnold网络（RKANs）层构成，这些层内嵌了记忆管理功能。这一创新不仅提升了多步时间序列预测的准确性和效率，而且突破了传统模型在处理复杂序列模式时的局限，为需要进行多步前瞻性预测的领域提供了巨大的发展潜力。
2、KAN for TS
论文标题：Kolmogorov-Arnold Networks (KANs) for Time Series Analysis
在本篇论文中，作者对Kolmogorov-Arnold网络（KANs）和多层感知器（MLPs）在卫星交通流量预测方面的应用进行了深入分析。分析结果凸显了KANs的多项优势，包括更出色的预测性能和更高的参数利用效率。研究显示，在误差度量方面，KANs持续超越了MLPs，并且能够在更低的计算资源消耗下实现更佳的预测效果。此外，作者还深入探讨了KANs中特定参数对模型性能的作用。本研究强调了调整节点数量和网格尺寸以优化模型性能的重要性。鉴于KANs在效能和效率方面的显著表现，它们在交通流量管理领域中，成为了传统MLPs的一个合理的替代方案。
