Infini批次 Infinibatch是一个可检查点的迭代器库，用于在深度神经网络训练中对海量数据集进行随机数据加载。 特征 对语料库的支持远大于RAM 整个语料库上的分层块+句子级随机化，每个时期不同的随机化 仅加载所需的数据 启动时间非常快（不需要阅读完整的语料库） 只需要最基本的数据准备（例如，无索引） 对于多GPU，仅加载相应GPU的需求 100％准确的检查点，从检查点还原不应读取所有数据直至检查点 支持具有动态批次大小的自动桶装批次 预取线程 可组合的，以支持复杂的批处理，例如