▲图源Arxiv
目前Transformer在自然语言处理等领域非常流行，但由于其序列数据的处理方式是逐步进行的，无法并行化处理，因此训练速度较慢；难以处理长序列，因为其在反向传播过程中，梯度很容易消失或爆炸；此外，由于需要在每一步保留历史信息，内存消耗较大。
而Megabyte模型将输入和输出序列划分为patch，而不是单个的token。这种架构使得对大多数任务而言字节级别的预测相对容易，例如根据前几个字符预测完成的单词等。这意味着在大型网络中可以精简字符以提升效率，并且内部预测可以使用更小的模型进行。Megabyte模型的这种方法解决了当今AI模型所面临的训练速度、可靠性及硬件占用比挑战。
此外，在计算效率方面，相比于等大的Transformer和Linear Transformer，Megabyte模型在固定模型大小和序列长度范围内使用更少的token。因此相对于Transformer，Megabyte模型可以在相同的计算成本下训练内容更丰富、体积更大、性能更好的模型。
目前me
ta团队放出了Megabyte模型的论文，IT之家小伙伴可以前往查阅。
