一、BEVFormer
BEVFormer: Learning Bird’s-Eye-View Representation from Multi-Camera Images via Spatiotemporal Transformers
https://arxiv.org/pdf/2203.17270
主要研究:如何仅使用多路摄像头图像,生成车辆周围环境的鸟瞰图,并用于三维目标监测和地图分割。
BEVFormer的核心:
使用多摄像头图像作为输入,通过BEV Query,空间交叉注意力和时间自注意力,把不同摄像头、不同时间的信息融合到统一的鸟瞰图坐标系中,再用于三维目标监测和语义地图分割
二、BEVFusion
BEVFusion: Multi-Task Multi-Sensor Fusion with Unified Bird’s-Eye View Representation
基于统一鸟瞰图标识的多任务多传感器融合
https://arxiv.org/abs/2205.13542
主要研究:如何将摄像头和Lidar的信息统一转换到鸟瞰图中(BEV)空间中,再用于三维目标检测和语义地图分割
BEVFusion:
BEVFusion是一种将摄像头和LIDAR都转换到统一的鸟瞰图空间中进行融合的多传感器感知框架,主要用于三维目标检测和语义地图分割,而不是用于SLAM建图或机器人定位
三、Sparse4D
Sparse4D:Multi-view 3D Object Detection with Sparse Spatial-Temporal Fusion
Sparse 4D:基于稀疏时空融合的多视角三维目标检测
https://arxiv.org/abs/2211.10581
主要研究:
如何避免构建密集BEV特征图,只在可能存在目标的位置采样图像特征,从而降低多视角三维检测的计算量
Sparse4D:Sparse4D是一种不构建密集BEV地图,而是围绕三维候选框稀疏采样多摄像头,多尺度和历史帧特征,并通过多次迭代细化三维框的视觉3D检测方法
主要优点:计算量较低、时空信息利用充分、适合边缘设备、为目标检测方法
四、Sparse4D V2
Sparse4D V2: Recurrent Temporal Fusion with Sparse with Sparse Model
Sparse4D:基于稀疏模型的循环式时间融合
https://arxiv.org/abs/2211.10581
主要研究:
论文是上一代Sparse4D的改进版本,主要研究多摄像头视频中的三维目标检测,核心改进是:把原来的“同时读取多帧历史图像”改成 “逐帧传递目标特征”,从而降低计算量并利用更长时间范围的信息
Spase4D v2是在Sparse 4D基础上提出的循环式时序融合方法,它不生成密集BEV地图,而是把上一帧的稀疏三维目标特征帧传递到当前帧,使时间融合的计算复杂度从随历史帧数增长的O(T)降为近似固定的O(1),从而提高多摄像头三维检测的速度、显存效率和长时间信息利用能力。
五、四篇论文的区别
方法 | 主要思想 | 是否建立密集 BEV | 时间融合方式 |
|---|---|---|---|
BEVFormer | 多摄像头特征生成 BEV | 是 | 融合历史 BEV |
BEVFusion | 摄像头和 LiDAR在 BEV中融合 | 是 | 重点不是循环传播 |
Sparse4D | 围绕三维候选框稀疏采样 | 否 | 多帧采样 |
Sparse4D v2 | 稀疏目标特征逐帧传递 | 否 | 循环式融合 |
六、BEVDet
BEVDet:High-Performance Multi-Camera 3D Object Dection in Bird-Eye-View
BEVDet:基于鸟瞰图的高性能多摄像头三维目标检测
[https://arxiv.org/pdf/2112.11790](https://arxiv.org/pdf/2112.11790)
核心思想:先把摄像头图像转换到统一的鸟瞰图(BEV)坐标系,再在BEV空间中检测车辆、行人和其他目标
主要特点:
特点 | 含义 |
|---|---|
Camera-only | 主要使用多摄像头图像 |
BEV表示 | 在统一车辆坐标系中进行检测 |
模块化 | 图像编码、视角转换、BEV编码和检测头互相独立 |
LSS转换 | 通过深度分布把图像特征投影到BEV |
计算效率较高 | 可以通过缩小图像和模型规模实现较快推理 |
适合多任务扩展 | BEV特征可以用于检测、道路分割等任务 |
BEVDet是一种将多摄像头图像转换到鸟瞰图空间,并在BEV中完成三维目标检测的方法。它的主要贡献是采用模块化LSS结构、BEV空间数据增强和Scale-NMS,在较低计算量下获得较好的多摄像头三维检测性能
七、与前面几篇论文的关系
方法 | 输入 | 核心思想 |
|---|---|---|
BEVDet | 多摄像头 | 通过LSS将图像特征转换到BEV |
BEVformer | 多摄像头 | 使用Transformer和BEV Query 生成BEV |
BEVFusion | 摄像头+Lidar | 将多传感器特征统一到BEV后融合 |
Sparse4D | 多摄像头 | 围绕稀疏三维候选框采样特征 |
Sparse4D V2 | 多摄像头视频 | 逐帧传递稀疏目标特征 |
区分记忆:
BEVDet:采用比较直接的LSS方式,把整张图像特征转换到BEV
BEVFormer:使用Transformer和BEV Query生成BEV 特征
BEVFusion: 在BEV空间融合摄像头和LIDAR
Sparse4D:减少密集,BEV计算,只围绕候选目标采样