康謀方案 | BEV感知技術(shù)：多相機(jī)數(shù)據(jù)采集與高精度時(shí)間同步方案

隨著自動(dòng)駕駛技術(shù)的快速發(fā)展，車輛準(zhǔn)確感知周圍環(huán)境的能力變得至關(guān)重要。BEV（Bird's-Eye-View，鳥(niǎo)瞰圖）感知技術(shù)，以其不一樣的視角和強(qiáng)大的數(shù)據(jù)處理能力，正成為自動(dòng)駕駛領(lǐng)域的一大研究熱點(diǎn)。

一、BEV感知技術(shù)概述

BEV感知技術(shù)，是一種從鳥(niǎo)瞰圖視角（俯視圖）出發(fā)的環(huán)境感知方法。與傳統(tǒng)的正視圖相比，BEV視角具有尺度變化小、視角遮擋少的顯著優(yōu)勢(shì)，有助于網(wǎng)絡(luò)對(duì)目標(biāo)特征的一致性表達(dá)?；谶@樣的優(yōu)勢(shì)，可以更有效的對(duì)車輛周圍環(huán)境進(jìn)行感知。

圖1：BEV 感知圖

因此，在自動(dòng)駕駛感知任務(wù)中，BEV感知算法通常包括分類、檢測(cè)、分割、跟蹤、預(yù)測(cè)、計(jì)劃和控制等多個(gè)子任務(wù)，共同構(gòu)建起一個(gè)完整的感知框架。

BEV感知算法的數(shù)據(jù)輸入主要有圖像和點(diǎn)云兩種形式。根據(jù)數(shù)據(jù)源不同，BEV算法主要分為BEV Camera（純視覺(jué)）、BEV LiDAR（基于激光雷達(dá)）和BEV Fusion（多模態(tài)融合）三類。其中，圖像數(shù)據(jù)具有紋理豐富、成本低的優(yōu)勢(shì)，此外，基于圖像的任務(wù)、基礎(chǔ)模型相對(duì)成熟和完善，比較容易擴(kuò)展到 BEV 感知算法中。

為了更好的訓(xùn)練BEV Camera感知算法，往往需要先搭建一個(gè)高質(zhì)量的數(shù)據(jù)集。而搭建一套BEV感知數(shù)據(jù)采集系統(tǒng)，通常包括以下幾個(gè)關(guān)鍵環(huán)節(jié)：

1. 硬件選型與集成：選合適的攝像頭和計(jì)算采集平臺(tái)，集成穩(wěn)定系統(tǒng)。

2. 數(shù)據(jù)采集：在實(shí)際環(huán)境中采集圖像數(shù)據(jù)，覆蓋不同場(chǎng)景、光照和天氣。

3. 時(shí)間同步：確保不同傳感器數(shù)據(jù)時(shí)間精確同步，是后續(xù)算法訓(xùn)練的必要前提。

4. 系統(tǒng)調(diào)試和部署：調(diào)試系統(tǒng)確保組件協(xié)同工作，部署到實(shí)際應(yīng)用環(huán)境。

因此，在實(shí)際搭建過(guò)程中，常會(huì)遇到技術(shù)復(fù)雜性高、成本投入大、數(shù)據(jù)質(zhì)量與時(shí)間同步實(shí)現(xiàn)難、系統(tǒng)穩(wěn)定性與可靠性要求高等挑戰(zhàn)。針對(duì)這些問(wèn)題，康謀推出一套BEV Camera數(shù)據(jù)采集方案，能高效搭建高質(zhì)量的BEV感知數(shù)據(jù)集，加速算法研發(fā)和訓(xùn)練。

二、BEV Camera數(shù)據(jù)采集系統(tǒng)方案

BEV Camera數(shù)據(jù)系統(tǒng)采集方案以BRICKplus為核心系統(tǒng)平臺(tái)，通過(guò)擴(kuò)展PCIe Slot ETH6000模塊連接6個(gè)iDS相機(jī)，利用GPS接收模塊獲取衛(wèi)星時(shí)鐘信號(hào)，提供XTSS時(shí)間同步服務(wù)，并支持13路（g）PTP以太網(wǎng)接口，確保高精度時(shí)間同步。

BRICKplus搭載BRICK STORAGEplus硬盤，提供大容量高速存儲(chǔ)，滿足高帶寬數(shù)據(jù)采集需求，確保數(shù)據(jù)的完整性和可靠性。

圖2：系統(tǒng)集成

三、數(shù)據(jù)采集

在BEV Camera數(shù)據(jù)采集方案中，難點(diǎn)在于如何同步多相機(jī)的采集動(dòng)作、確保數(shù)據(jù)的高精度時(shí)間同步以及高效傳輸。因此，在整個(gè)軟件方面，我們采用ROS+PEAK SDK方案進(jìn)行深度集成，實(shí)現(xiàn)了多相機(jī)的參數(shù)配置、數(shù)據(jù)采集與傳輸。

為了更靈活應(yīng)對(duì)實(shí)際采集環(huán)境需求，對(duì)相機(jī)（如曝光時(shí)間、幀率和分辨率等）參數(shù)進(jìn)行了統(tǒng)一管理和存儲(chǔ)，這些參數(shù)可在節(jié)點(diǎn)啟動(dòng)時(shí)通過(guò)配置文件動(dòng)態(tài)加載，為相機(jī)的初始化提供了靈活性。

圖3：相機(jī)參數(shù)配置

為實(shí)現(xiàn)多相機(jī)的同步采集和高效傳輸，我們利用了ROS的多線程和節(jié)點(diǎn)管理功能。通過(guò)為每個(gè)相機(jī)創(chuàng)建獨(dú)立的采集線程，并啟動(dòng)采集循環(huán)，確保了每個(gè)相機(jī)的采集過(guò)程獨(dú)立且高效。引入全局控制信號(hào)與信號(hào)處理機(jī)制，確保了統(tǒng)一管理所有相機(jī)的采集和同步結(jié)束狀態(tài)。

圖4：相機(jī)實(shí)時(shí)可視化

四、時(shí)間同步

為了實(shí)現(xiàn)多相機(jī)的時(shí)間同步，一般有兩種方式：軟時(shí)間同步和硬件時(shí)間同步。軟時(shí)間同步主要依賴于軟件層面的算法和協(xié)議來(lái)實(shí)現(xiàn)時(shí)間同步。其精度通常在微秒級(jí)別，適用于對(duì)時(shí)間同步精度要求不是較高的場(chǎng)景。

圖5：多相機(jī)軟件時(shí)間同步

為了應(yīng)對(duì)時(shí)間同步精度要求較高的采集場(chǎng)景，如自動(dòng)駕駛和高精度測(cè)量等。在BEV Camera數(shù)據(jù)采集方案中，進(jìn)一步支持相機(jī)進(jìn)行硬件時(shí)間同步。通過(guò)XTSS軟件可以有效管理數(shù)采平臺(tái)的時(shí)間同步功能，能夠快速輕便配備各個(gè)傳感器的時(shí)間同步配置。

圖6：XTSS 時(shí)間同步管理

通過(guò)GPS模塊提供高精度的時(shí)間基準(zhǔn)，并利用支持硬件時(shí)間戳的以太網(wǎng)接口直接捕獲數(shù)據(jù)包的時(shí)間戳。其時(shí)間同步精度可以達(dá)到納秒級(jí)別，具備高穩(wěn)定性，不受軟件和網(wǎng)絡(luò)延遲影響。

圖7：多相機(jī)硬件時(shí)間同步

五、總結(jié)

在自動(dòng)駕駛技術(shù)的快速發(fā)展中，BEV Camera數(shù)據(jù)采集系統(tǒng)的構(gòu)建至關(guān)重要。通過(guò)采用BRICKplus平臺(tái)，結(jié)合PCIe Slot ETH6000模塊和iDS相機(jī)，我們實(shí)現(xiàn)了多相機(jī)的高效數(shù)據(jù)采集和存儲(chǔ)。通過(guò)ROS+PEAK SDK的深度集成，實(shí)現(xiàn)了多相機(jī)的參數(shù)配置、數(shù)據(jù)采集與傳輸。利用GPS接收模塊和XTSS時(shí)間同步服務(wù)，確保了多相機(jī)的高精度時(shí)間同步。

康謀的BEV Camera數(shù)據(jù)采集方案有效解決了多相機(jī)同步采集和高精度時(shí)間同步的難題，還提供了靈活的相機(jī)參數(shù)配置和高效的數(shù)據(jù)傳輸，能夠滿足自動(dòng)駕駛和高精度測(cè)量等場(chǎng)景的需求。