发布时间 : 2022-10-27 阅读量 : 309
在此前的 tesla ai day 盛会上,特斯拉除了发布 optimus “擎天柱”机器人,同时公布了自动驾驶 full self-driving computer (fsd) 的技术细节。其中包含纯电动汽车 (bev) 的感知神经网络 occupancy network (栅格网络)、interactive planning (交互规划)、lanes network (车道网格)、auto labeling (自动标注) 等方面的视觉自动驾驶技术。今天让我们来硬核拆解fsd创新的底层技术。
occupancy network是纯视觉自动驾驶技术的里程碑,它是一种基于学习函数空间的三维重建表示方法。
和传统多视图立体几何算法相比,学习模型的方法能够编码3d形状空间中的丰富先验信息,这有助于解决输入的模糊性,其3d表征离散化的不同输出的对比如下图所示,可以看出栅格网络数据最为清晰。
生成模型的方法在高分辨率的图像上已经取得了很好的效果,但是还没有复制到3d领域。与2d领域相比,暂时还没有就3d输出表示达成一致,这种表示既能提高内存效率,又能从数据中有效推断。
出自论文:occupancy networks: learning 3d reconstruction in function space
该技术被特斯拉应用于自动驾驶领域,occupancy network在hydranet基础上通过添加高度这个维度对2d bev空间进行扩展,其首先对图像的特征图进行mlp学习生成value和key,在bev空间通过栅格坐标的位置编码来生成query,新栅格的区别是采用原有的2d栅格和高度一起构成3d栅格,对应生成的特征也从bev特征变成了occupancy特征。
自动驾驶中交互规划非常重要,本次特斯拉主要采用交互搜索来解决复杂路口的交互建模,其中交互搜索分为三个步骤:树搜索、神经网络轨迹规划和轨迹打分。
规划是自动驾驶的另一个重要模块,特斯拉这次主要强调了在复杂路口对交互 (interaction) 进行建模。
为什么交互建模如此重要?因为其他车辆、行人的未来行为都有一定的不确定性。一个智能化的规划模块要在线进行多种自车和他车交互的预测,并且对每一种交互带来的风险进行评估,并最终决定采取何种策略。
其交互规划分为三步:
(1)树搜索进行轨迹规划,有效发现各种交互情形,找到最优解。但用搜索的方法来解决轨迹规划问题遇到的最大困难是搜索空间过大。
(2)确定目标后,确定一条到达目标的轨迹。传统的规划方法往往使用优化来解决该问题,解优化并不难,每次优化大约花费1到5毫秒,但是当前面步骤树搜索给出的候选目标较多时,无法负担时间成本。因此特斯拉提出使用另一个神经网络来进行轨迹规划,从而对多个候选目标实现高度并行规划。
(3)得到一系列可行轨迹后,选择一个最优方案。这里采取的方案是对得到的轨迹打分,打分方案集合了人为制定的风险指标、舒适指标,还包括了一个神经网络的打分器。
通过以上三个步骤的解耦,特斯拉实现了一个高效且考虑交互的轨迹规划模块。
特斯拉的车道网格网络借鉴了慎独学习语言模型中vector lane模块。
整个模块的思路是把车道线相关信息包括车道线节点位置,车道线节点属性(起点、中间点、终点等)、分叉点、汇合点,以及车道线样条曲线几何参数进行编码,做成类似语言模型中单词token的编码,然后利用时序处理办法进行处理。
lanes network在模型结构上,是感知网络架构基础上的一个decoder。相比解码出每个像素的occupancy和语义,解码出一系列稀疏的、带连接关系的车道线更为困难,因为输出的数量不固定,此外输出量之间还有逻辑关系。
数据是ai算法训练和正确决策的基石。特斯拉在此次盛典上介绍的auto labeling是在vector space上的标注,需要对数据进行分析处理、搭建数据标注工具。
通过一个离线大模型对数据进行标注,车载模型相当于对大模型进行蒸馏;并且拥有强大的数据采集能力。其核心技术方面使用了三维重建与视觉slam等算法。
特斯拉对无人驾驶数据的重视可以表明数据是一切深度学习模型的基石,模型只有通过充分、大量、高质量的标注数据进行训练,才能提升鲁棒性和精准性,但自动标注依然无法达到人工标注的精准、可靠。
magic data通过专业的数据团队能够提供数据凯发体育网的解决方案支撑自动驾驶相关研究。作为全球领先ai数据凯发体育网的解决方案提供商,magic data具有完善的采集流程和高效采集工具,采集数据符合全球数据安全规定。自研标注平台annotator能够提供一站式标注,并支持3d点云、多模态等数据标注。最终通过专业的数据测试模型校验数据,保证数据质量。
-
欢迎访问凯发体育网址官网,了解更多智慧出行ai数据凯发体育网的解决方案