自我-外向数据集
结合第一人称可穿戴摄像头视角和外部摄像头视角,实现全面的空间感知。多摄像头同步功能可同时捕捉用户的视角和周围环境。
主要功能
自我 + Exo观点
单个同步数据集中的第一人称视角和外部视角
相机同步
用于毫秒级多设备对齐的时间戳二维码
互动焦点
物体操作和人际互动场景
实际任务
在真实环境中开展日常活动,以进行实用的人工智能训练
数据收集设置
多机位同步采集
一个可穿戴摄像头和两个外部摄像头,通过时间戳二维码技术同步,实现三个视角的精确对齐。
| 相机设置 | 1 个可穿戴设备 + 2 个外置摄像头 |
| 观看数 | 自我视角 + 外部视角 |
| Sync | 时间戳二维码 |
| 数据类型 | 多视角视频数据集 |
| 环境 | 真实场景 |
多视图数据结构
三摄像头透视系统
自我视角
- 从用户的角度来看
- 手部动作细节
- 对象交互过程
- 第一人称行动信息
外骨骼视图
- 来自外部摄像头
- 全身运动
- 空间关系
- 环境背景
数据集示例
例1:衣物折叠
一名真人在真实环境中折叠衣服,画面从三个同步视角拍摄。
第一人称可穿戴设备前置外置摄像头侧外摄像头
捕捉内容:手与物体的交互 · 折叠过程 · 操作行为

自我视角

Exo View1

Exo View2
示例 2:人类照护活动
涵盖人体9个部位的多视角人体护理活动录像。
返回肩Chest.腕ARM支柱颈部校长脚部
捕捉内容:人体运动模式 · 身体互动过程 · 多视角空间信息

自我视角

Exo View1

Exo View2
例3:烘焙——蛋糕制作
一个人在厨房环境中制作蛋糕,从三个同步的视角拍摄下来。
第一人称可穿戴设备前置外置摄像头侧外摄像头
拍摄内容:食材处理 · 面糊搅拌与倾倒 · 糖霜/装饰 · 工具/物体操作过程 · 多视角空间信息

自我视角

Exo View1

Exo View2
例 4:理发
一位发型师在美发沙龙里为顾客理发,从三个同步的视角拍摄了这一过程。
第一人称可穿戴设备前置外置摄像头侧外摄像头
拍摄内容:工具与头发的互动 · 剪发/造型技巧 · 双人空间协调

自我视角

Exo View1

Exo View2
示例 5:美容/护肤
美容师正在为顾客进行面部护肤,从三个同步视角拍摄。
第一人称可穿戴设备前置外置摄像头侧外摄像头
拍摄内容:精细的手部面部互动 · 产品应用技巧 · 多角度面部细节

自我视角

Exo View1

Exo View2
数据集规范
| 数据类型 | 多视角视频数据集 |
| 相机配置 | 1个Ego摄像头 + 2个外骨骼摄像头 |
| Sync | 时间戳二维码 |
| 观点 | 第一人称 + 第三人称 |
| 环境 | 真实场景 |
| 任务 | 操纵与互动 |
| 注解 | 可根据要求提供 |
应用
支持高级人工智能研究
人形机器人学习 机器人操作 VLA模型 人机交互 多模式人工智能 具身智慧