自我-外向数据集

结合第一人称可穿戴摄像头视角和外部摄像头视角,实现全面的空间感知。多摄像头同步功能可同时捕捉用户的视角和周围环境。

主要功能

自我 + Exo观点

单个同步数据集中的第一人称视角和外部视角

相机同步

用于毫秒级多设备对齐的时间戳二维码

互动焦点

物体操作和人际互动场景

实际任务

在真实环境中开展日常活动,以进行实用的人工智能训练

数据收集设置

多机位同步采集

一个可穿戴摄像头和两个外部摄像头,通过时间戳二维码技术同步,实现三个视角的精确对齐。

相机设置1 个可穿戴设备 + 2 个外置摄像头
观看数自我视角 + 外部视角
Sync时间戳二维码
数据类型多视角视频数据集
环境真实场景

多视图数据结构

三摄像头透视系统

自我视角

  • 从用户的角度来看
  • 手部动作细节
  • 对象交互过程
  • 第一人称行动信息

外骨骼视图

  • 来自外部摄像头
  • 全身运动
  • 空间关系
  • 环境背景

数据集示例

例1:衣物折叠

一名真人在真实环境中折叠衣服,画面从三个同步视角拍摄。

第一人称可穿戴设备前置外置摄像头侧外摄像头

捕捉内容:手与物体的交互 · 折叠过程 · 操作行为

侧面摄像头
自我视角
前置摄像头
Exo View1
可穿戴视图
Exo View2

示例 2:人类照护活动

涵盖人体9个部位的多视角人体护理活动录像。

返回肩Chest.腕ARM支柱颈部校长脚部

捕捉内容:人体运动模式 · 身体互动过程 · 多视角空间信息

Exo View2
自我视角
自我视角
Exo View1
Exo View1
Exo View2

例3:烘焙——蛋糕制作

一个人在厨房环境中制作蛋糕,从三个同步的视角拍摄下来。

第一人称可穿戴设备前置外置摄像头侧外摄像头

拍摄内容:食材处理 · 面糊搅拌与倾倒 · 糖霜/装饰 · 工具/物体操作过程 · 多视角空间信息

Exo View2
自我视角
自我视角
Exo View1
Exo View1
Exo View2

例 4:理发

一位发型师在美发沙龙里为顾客理发,从三个同步的视角拍摄了这一过程。

第一人称可穿戴设备前置外置摄像头侧外摄像头

拍摄内容:工具与头发的互动 · 剪发/造型技巧 · 双人空间协调

侧面摄像头
自我视角
前置摄像头
Exo View1
可穿戴视图
Exo View2

示例 5:美容/护肤

美容师正在为顾客进行面部护肤,从三个同步视角拍摄。

第一人称可穿戴设备前置外置摄像头侧外摄像头

拍摄内容:精细的手部面部互动 · 产品应用技巧 · 多角度面部细节

Exo View2
自我视角
自我视角
Exo View1
Exo View1
Exo View2

数据集规范

数据类型多视角视频数据集
相机配置1个Ego摄像头 + 2个外骨骼摄像头
Sync时间戳二维码
观点第一人称 + 第三人称
环境真实场景
任务操纵与互动
注解可根据要求提供

应用

支持高级人工智能研究

人形机器人学习 机器人操作 VLA模型 人机交互 多模式人工智能 具身智慧

如果您有兴趣将此数据集用于您的研究或产品开发,请联系我们的团队。

滚动到顶部