REALM: Retrieval-Augmented Language Model Pre-Training
从ELMO、BERT和GPT到如今多种多样的预训练模型的横空出世,pre-training + fine-tune逐渐成为了NLP中建模的新范式,众多研究人员也不断的针对于Transformer和预训练做出改进,其中包括对Transformer本身结构的改进、预训练策略的调整、预训练结合多任务学习……甚至已有文章将其和视觉等其他的领域任务进行融合,同样取得了不错的效果。
本文提出了一
An Overview Of 3D Object Detection
PCT Point Cloud Transformer
Self-Attention Based Context-Aware 3D Object Detection
ICAML_Deep Learning With Point Clouds