숭실대학교 Reality Lab에서 구축한 2026 CS-Store Challenge 공식 데이터셋입니다. NVIDIA Isaac Sim 환경의 편의점 씬(Scene)에서 ROBOTIS FFW-SG2 휴머노이드 로봇을 활용해 수집된 시연(Demonstration) 기록을 담고 있습니다.

본 저장소는 하나의 레포지토리 안에 각 Task별로 독립된 폴더를 구성하고 있습니다. taskA/, taskB/, taskC/ 폴더 각각이 완결성을 갖춘 LeRobot v2.1 규격의 데이터셋입니다.

2026CS-Store-Challenge/
├── README.md      ← 본 문서 (전체 Task 공통 가이드)
├── taskA/         [Task A] 진열대로 이동      — 890 Episodes ✅
├── taskB/         [Task B] 상품 진열          — 2,019 Episodes ✅
└── taskC/         [Task C] 인식 및 계산        — 960 Episodes ✅

용어 일러두기: 본 문서에서는 열(Column) 이름과의 혼동을 방지하기 위해 episode, frame, state, action, chunk 등의 핵심 데이터셋 용어는 영문 표기를 유지합니다.

1. Task 개요

세 가지 Task는 동일한 편의점 씬을 공유하지만, 평가는 독립적으로 진행됩니다.

구분	과제명	수행 목표	Base 구동 범위	폴더명	구축된 Episode
A	진열대로 이동	임의의 위치에서 출발하여 장애물을 회피, 목표 진열대까지 이동	매장 전체 횡단 주행	`taskA/`	890
B	상품 진열	책상 위 Crate(상자)에서 상품을 꺼내 진열대의 빈 Slot에 배치	제자리 회전 및 근거리 이동	`taskB/`	2,019
C	인식과 계산	계산대에 놓인 상품을 순차적으로 파지하여 인식 및 가격 합산	정지 상태 (Stand)	`taskC/`	960

데이터셋 공통 규격:

LeRobot v2.1 포맷 / 로봇 모델: ffw_sg2
주사율: 10 fps (Task C는 30 fps — Section 5 참조)
카메라: 3종 (Head, Left Wrist, Right Wrist) / 해상도: 224×224 RGB
채널: state 및 action 각각 22 Channels

2. 데이터셋 구조 및 주요 개념

Episode와 Frame

Episode: 로봇이 특정 지시(Task)를 시작부터 끝까지 완료한 1회의 시연 기록입니다.
Frame: 0.1초(10 fps) 단위로 샘플링된 단일 시점의 스냅샷 데이터입니다.

Frame 데이터 구성 요소

단일 Frame은 다음 5가지 핵심 요소를 포함합니다.

Feature Name	Data Shape	설명
`observation.images.cam_head`	224×224×3 (uint8)	머리 카메라 시각(RGB) 데이터
`observation.images.cam_left_wrist`	224×224×3 (uint8)	좌측 손목 카메라 시각(RGB) 데이터
`observation.images.cam_right_wrist`	224×224×3 (uint8)	우측 손목 카메라 시각(RGB) 데이터
`observation.state`	22 float32	관절의 실제 측정 위치(Measured) 및 Base의 실제 속도
`action`	22 float32	제어기가 로봇에게 명령한 목표(Commanded) 위치 및 속도

🚨 `state` vs `action` 의 차이 (중요)

이 두 값의 구분은 모방 학습(Imitation Learning)에서 매우 중요합니다.

state (관측값): 해당 시점에 센서 등을 통해 측정된 로봇 관절의 실제 물리적 상태입니다.
action (제어 명령값): 해당 시점 t에 제어기가 목표로 삼고 하달한 명령(Target) 상태입니다. (변화량이나 t+1 시점의 state가 아닙니다.)

데이터셋을 분석해보면, 고속 이동 구간에서 |action - state| 간의 평균 오차는 약 0.0072 rad로 확인됩니다. 모델 학습 시에는 Vision 데이터와 state, 지시문(Task)을 입력받아 action을 추론하도록 설계해야 합니다.

22 Channel 세부 명세 (Action / State 공통)

 [0..6]   arm_l_joint1 ~ 7    : 좌팔 관절 (rad)
 [7]      gripper_l_joint1    : 좌측 그리퍼 (rad, 값이 클수록 닫힘)
 [8..14]  arm_r_joint1 ~ 7    : 우팔 관절 (rad)
 [15]     gripper_r_joint1    : 우측 그리퍼 (rad)
 [16]     head_joint1         : 머리 좌우 회전 (rad)
 [17]     head_joint2         : 머리 상하 틸트 (rad)
 [18]     lift_joint          : 몸통 리프트 고도 (단위: m)
 [19]     base_vx             : Base 전후 속도 (m/s)
 [20]     base_vy             : Base 좌우 속도 (m/s)
 [21]     base_wz             : Base 회전 속도 (rad/s)

채널 목록은 meta/info.json의 features.action.names에서도 확인할 수 있습니다.

Base 주행 채널(19~21)에 대한 유의사항: 해당 로봇은 작업 중 약 90도의 회전과 0.5m가량의 이동을 수반합니다. 원본 기록에 주행 명령 로그가 부재하여, 인접한 두 frame의 자세 변화량을 기반으로 로봇 운동학을 역산하여 속도를 산출했습니다.

action의 Base: 지금부터 수행할 다음 스텝의 목표 속도
state의 Base: 방금 완료된 현재 스텝의 측정 속도 (첫 frame은 0)

시간축(Time) 및 인덱스 체계

fps는 10으로 고정되어 있으며, timestamp는 매 episode마다 0.0에서 시작합니다. 따라서 i번째 frame의 시각은 i/10초입니다. (Task C는 fps가 30이므로 i/30초입니다.)

Column	세는 범위	설명
`timestamp`	Episode 내	해당 episode 시작 시점부터의 경과 시간(초)
`frame_index`	Episode 내	해당 episode 안에서의 인덱스 (0부터 시작)
`index`	Task 폴더 전체	해당 Task 폴더의 모든 frame을 관통하는 전역 인덱스(폴더 전체에서 세게 되는 프레임의 인덱스) (Task B 2,482,250개 / Task A 1,646,041개 / Task C 2,203,253개)
`episode_index`	Task 폴더 전체	Episode 번호 (Task B 0 ~ 2,018 / Task A 0 ~ 889 / Task C 0 ~ 959)

3. Task A 상세 명세 (`taskA/` - 진열대로 이동)

개요

로봇이 식사 공간의 책상 위 Crate(파란 상자)를 양손으로 집어 들고, 매장을 횡단하여 목표 진열대 앞까지 주행한 뒤, 옆 책상에 내려놓기까지의 전체 과정이 한 Episode 안에 연속으로 기록되어 있습니다.

항목	상세 내용
총 Episode 수	890
총 Frame 수	1,646,041
Episode 길이	1,157 ~ 3,398 frames (중앙값 1,823) / 10 fps 기준 116 ~ 340초
지시문(Task) 가짓수	1 (전 Episode 공통)
지시문 템플릿	`Pick up the blue crate from the table, carry it to the target shelf, and put it down on the desk.`
출발 지점 통계	총 12곳 / 각 좌석별로 64~79 episodes 분포
경로 통계	최적(최단 혹은 탐색하지 않는 경로를 의미) 경로 735 (central 275 / south 245 / north 215) / 목적지 탐색 경로 155
데이터셋 규격	LeRobot v2.1 / 로봇 `ffw_sg2` / 10 fps
시각(Vision) 데이터	`cam_head`, `cam_left_wrist`, `cam_right_wrist` (각 224×224×3)
Vector 데이터	float32 22 Channels (관절 19 + Base 3)

Task A에는 세 개의 sub-task(집기 - 주행 - 놓기)가 있습니다.

한 Episode에서 sub-task 경계 정의는 taskA/meta/episode_phases.jsonl에 있습니다.

4. Task B 상세 명세 (`taskB/` - 상품 진열)

개요

로봇이 책상 위 Crate에서 상품을 꺼내어 진열대 빈 Slot에 거치하기까지의 전체 과정이 연속으로 기록되어 있습니다.

항목	상세 내용
총 Episode 수	2,019
총 Frame 수	2,482,250
Episode 길이	902 ~ 2,924 frames (중앙값 1,140) / 10 fps 기준 90 ~ 292초
지시문(Task) 가짓수	36 (상품 종류당 1개 매칭)
지시문 템플릿	`Take the {상품 이름} out of the crate on the table and put them into the empty slots on the shelf`
상품 통계	총 36종 / 각 상품별로 39~79 episodes 분포
데이터셋 규격	LeRobot v2.1 / 로봇 `ffw_sg2` / 10 fps
시각(Vision) 데이터	`cam_head`, `cam_left_wrist`, `cam_right_wrist` (각 224×224×3)
Vector 데이터	float32 22 Channels (관절 19 + Base 3)

5. Task C 상세 명세 (`taskC/` - 인식 및 계산)

개요

로봇이 계산대 위에 놓인 상품 3개 가운데 지시된 상품 1개를 왼손으로 집어, 오른손에 든 바코드 스캐너로 바코드 면을 비춘 뒤, 원래 자리에 다시 내려놓는 전 과정이 한 Episode 안에 연속으로 기록되어 있습니다. 로봇은 계산대 앞에 선 채로 작업하며 Base는 움직이지 않습니다.

항목	상세 내용
총 Episode 수	960
총 Frame 수	2,203,253
Episode 길이	1,485 ~ 5,000 frames (중앙값 2,222.5) / 30 fps 기준 50 ~ 167초 (중앙값 74초)
지시문(Task) 가짓수	8 (상품 종류당 1개 매칭)
지시문 템플릿	`Pick up the {상품 이름} on the checkout counter, show its barcode to the scanner, and put it back where it was`
상품 통계	총 8종 / 각 상품별로 120 episodes (균등) — `pringles_original_small`, `pringles_sourcream_small`, `ottogi_cupnoodle_buldak`, `yegam_original`, `samyang_buldak_cup`, `chilsung_cider`, `cocacola_zero`, `lotte_sand` (`episode_index % 8`이 이 순서의 상품 번호)
데이터셋 규격	LeRobot v2.1 / 로봇 `ffw_sg2` / 30 fps
시각(Vision) 데이터	`cam_head`, `cam_left_wrist`, `cam_right_wrist` (각 224×224×3, PNG)
Vector 데이터	float32 22 Channels (관절 19 + Base 3, Base 3채널은 항상 0)

6. 데이터셋 디렉토리 구조 및 파싱 가이드

LeRobot 데이터셋 표준 규격에 따라 메타데이터와 실제 Parquet 파일이 분리되어 저장됩니다.

taskB/
├── data/
│   ├── chunk-000/
│   │   ├── episode_000000.parquet     (단일 Episode = 단일 Parquet 파일)
│   │   ├── episode_000001.parquet
│   │   └── …                          (단일 Chunk 내 최대 1,000개 저장)
│   └── chunk-001/ …
└── meta/
    ├── info.json                  (초당 프레임, Feature 명세, Shape, 경로 포맷)
    ├── tasks.jsonl                (36종 지시문 목록, `task_index` 포함)
    ├── episodes.jsonl             (Episode별 인덱스, 지시문, 프레임 길이 정보)
    └── episodes_stats.jsonl       (Episode별 각 Column의 min/max/mean/std 통계)

taskC/도 같은 구조이며, meta/에 taskC_episodes.jsonl과 taskC_products.json이 추가로 있습니다 (Section 5 참조).

특정 Episode의 Parquet 파일 경로는 meta/info.json의 포맷팅 룰을 따릅니다. 예시: data/chunk-{episode_chunk:03d}/episode_{episode_index:06d}.parquet (chunk = index // 1000)

메타데이터(meta) 파일 상세

각 파일은 JSON Lines 형식이며, 실제 내용은 다음과 같습니다.

// meta/tasks.jsonl — 서로 다른 지시문 1개가 1개 행
{"task_index": 0, "task": "Take the Yegam original potato chip tube out of the crate on the table and put them into the empty slots on the shelf"}

// meta/episodes.jsonl — Episode 1개가 1개 행
{"episode_index": 0, "tasks": ["Take the Yegam original potato chip tube out of …"], "length": 1100}

// meta/episodes_stats.jsonl — Episode 1개가 1개 행
{"episode_index": 0, "stats": {"action": {"min": [...22개...], "max": [...], "mean": [...], "std": [...], "count": [1100]}, …}}

🚨 지시문의 기준 파일: 학습 파이프라인은 Parquet의 task_index를 키로 tasks.jsonl 을 참조하여 지시문을 가져옵니다. episodes.jsonl의 tasks 필드는 참조용 메타정보이며 대부분의 학습 코드는 열지 않습니다. 두 파일의 내용이 상충할 경우 tasks.jsonl이 우선합니다.

Parquet 파일 내부 구조 (열 명세)

Parquet 파일 내 1개의 Row는 1개의 Frame을 의미합니다.

Column명	Arrow Data Type
`action`	`fixed_size_list<float>[22]`
`observation.state`	`fixed_size_list<float>[22]`
`observation.images.cam_head`	`struct<bytes: binary, path: string>`
`observation.images.cam_left_wrist`	`struct<bytes: binary, path: string>`
`observation.images.cam_right_wrist`	`struct<bytes: binary, path: string>`
`timestamp`	`float`
`frame_index`, `episode_index`, `index`, `task_index`	`int64`
`phase_index`, `subtask_index` (Task C에만 있음)	`int64`

🚨 이미지(Image) 데이터 추출 주의사항: 이미지 데이터는 외부 폴더에 존재하는 것이 아니라, Parquet 파일 내부(struct 내 bytes 필드)에 PNG 바이너리 형태로 직접 임베딩되어 있습니다. path 필드는 논리적 라벨에 불과합니다.

[Python] Parquet에서 이미지 직접 추출 예시:

import io, pyarrow.parquet as pq
from PIL import Image

t = pq.read_table("data/chunk-000/episode_000000.parquet",
                  columns=["observation.images.cam_head"])
png_binary = t.column(0)[0].as_py()["bytes"]  # 첫 번째 frame의 바이너리 추출
img = Image.open(io.BytesIO(png_binary))      # 224x224 RGB 이미지 로드

데이터 로드 방법 (LeRobot API 활용)

본 레포지토리는 다중 Task 폴더를 포함하므로, 특정 과제만 선택하여 다운로드(Subfolder pattern)해야 합니다.

from huggingface_hub import snapshot_download
from lerobot.common.datasets.lerobot_dataset import LeRobotDataset

REPO = "SSU-RealityLab/2026CS-Store-Challenge"
TASK = "taskB"  # 다운로드할 Task명 지정 (예: "taskC")

# 1. 특정 Task 폴더만 로컬로 다운로드
local_dir = snapshot_download(REPO, repo_type="dataset", allow_patterns=f"{TASK}/*")

# 2. LeRobot API로 데이터셋 로드
ds = LeRobotDataset(REPO, root=f"{local_dir}/{TASK}")

print(f"Total Episodes: {ds.meta.total_episodes}, Frames: {ds.meta.total_frames}")
sample = ds[0]
print("Task Instruction:", sample["task"])
print("Head Camera Shape:", sample["observation.images.cam_head"].shape)

데이터 로드 방법 (LeRobot 미사용 / PyArrow 직접 파싱)

Parquet은 표준 포맷이므로 LeRobot 설치 없이도 데이터 확인이 가능합니다. 데이터 구조를 빠르게 검증할 때 유용합니다.

import io, json, glob
import pyarrow.parquet as pq
from PIL import Image

root = f"{local_dir}/taskB"
info  = json.load(open(f"{root}/meta/info.json"))
tasks = [json.loads(l) for l in open(f"{root}/meta/tasks.jsonl")]

t = pq.read_table(sorted(glob.glob(f"{root}/data/chunk-*/episode_*.parquet"))[0])
row = t.slice(0, 1).to_pydict()

print("Instruction:", tasks[row["task_index"][0]]["task"])
print("State (22ch):", row["observation.state"][0])
img = Image.open(io.BytesIO(row["observation.images.cam_head"][0]["bytes"]))
print("Image:", img.size, img.mode)          # (224, 224) RGB

7. 데이터셋 한계 및 유의사항 (필독)

연구 및 모델 학습 전 다음 사항을 반드시 인지하시기 바랍니다.

taskA/ 유의사항

Pure Simulation Data: Isaac Sim 물리 엔진 기반의 합성 데이터이며, 실제 로봇 데이터는 포함되어 있지 않습니다.
단일 목적지: 목표 진열대는 1곳으로 고정되어 있습니다. 출발 좌석(12곳)과 경로(통로 3종 + 탐색 경로)가 변인이며, 목적지 자체의 다양성은 없습니다.
성공(Success) 시연만 포함: 모든 Episode는 집기·주행·놓기 세 단계를 모두 완수한 케이스입니다. 실패 복구(Failure Recovery)를 학습할 수 있는 Negative Data가 없습니다.
해상도 미축소: taskB/와 달리 원본 해상도를 유지하므로 Episode당 용량이 큽니다(평균 약 160 MB). 두 Task를 함께 사용할 경우 전처리 단계에서 해상도를 통일해야 합니다.

taskB/ 유의사항

Pure Simulation Data: Isaac Sim 물리 엔진 기반의 합성 데이터(Synthetic Data)이며, 실제 물리적 로봇(Real-world) 데이터는 포함되어 있지 않습니다.
단일 아이템 수행: 한 Episode당 오직 한 개의 상품만 진열합니다. 여러 상품을 연속으로 진열하는 Long-horizon 데이터는 포함되지 않습니다.
성공(Success) 시연만 포함: 모든 시연은 성공적으로 완수된 케이스입니다. 실패 복구(Failure Recovery)를 학습할 수 있는 Negative Data가 없습니다.
Downsized Vision: 모델 경량화를 위해 원본(672×376) 해상도에 패딩(Padding)을 적용한 뒤 224×224 크기로 축소되었습니다.

taskC/ 유의사항

Pure Simulation Data: Isaac Sim 물리 엔진 기반의 합성 데이터이며, 실제 로봇 데이터는 포함되어 있지 않습니다.
정지 과제: Base 채널(action/state [19~21])이 모든 frame에서 0이므로 주행 학습에는 쓸 수 없습니다.
단일 상품 스캔: 한 Episode당 상품 1개만 스캔합니다. 여러 상품을 연속으로 처리하는 Long-horizon 데이터는 포함되지 않습니다.
성공(Success) 시연만 포함: 모든 Episode는 파지·스캐너 인식·제자리 배치까지 완수한 케이스입니다. 실패 복구(Failure Recovery)를 학습할 수 있는 Negative Data가 없습니다.
30 fps: taskA/·taskB/(10 fps)와 함께 사용할 경우 전처리 단계에서 주사율을 통일해야 합니다(30 fps에서 3 frame마다 1 frame을 취하면 10 fps). Episode당 용량은 평균 약 178 MB입니다.
Downsized Vision: taskB/와 같은 방식으로 224×224로 축소되었으며, 손목 카메라(원본 424×240)에는 위·아래 검정 띠가 있습니다.

8. 인용 (Citation)

본 데이터셋을 연구 및 논문에 활용하실 경우 아래 형식을 참조하여 인용해 주시기 바랍니다.

@misc{ssu_realitylab_2026csstore,
  title  = {2026 CS-Store Challenge: pick-and-place demonstrations for a convenience-store robot},
  author = {SSU Reality Lab},
  year   = {2026},
  url    = {https://huggingface.co/datasets/SSU-RealityLab/2026CS-Store-Challenge}
}

Downloads last month: 282

Total file size:

458 GB

데이터셋 접근 신청

2026 CS-Store Challenge — 데이터셋