강화학습(RL) 기반 LimX Dynamics 이족 로봇 P1의 야외 트레킹

제품March 15, 2024

강화학습(RL)을 기반으로 한 'LimX Dynamics 이족 로봇 P1'이 처음으로 선전의 탕랑산 교외공원을 찾아 제로샷 방식으로 보호 장치 없이 완전 개방형 테스트를 진행했습니다. 개봉 직후 곧바로 주행에 나선 P1은 완전히 낯선 야외 환경에서 다양한 복합 지형에서 역동적인 이동을 수행하며, 강화학습(RL) 훈련을 통해 확보한 뛰어난 제어력과 안정성을 선보였습니다.

LimX Dynamics 이족 로봇 P1, 강화학습(RL) 기반 야외 산림 트레킹 테스트 완료


LimX Dynamics는 강화학습(RL) 분야에서 오랜 기간 축적해 온 노하우를 바탕으로, 현재 강화학습(RL)의 최첨단 기술을 체계적인 R&D 역량으로 전환해 제품 기능 개발을 지원하는 데 집중하고 있습니다. 또한 Real2Sim2Real 폐루프, 신경망 아키텍처 설계, 데이터 생성 메커니즘 및 학습 알고리즘 설계라는 3대 핵심 영역을 중심으로 한 자체 강화학습(RL) R&D 체계를 제시했으며, 지속적으로 고도화되는 프로세스 관리 및 알고리즘 검증을 결합하여 휴머노이드 로봇의 주요 기능 개발을 추진하고 있습니다.

image.png

좁은 도랑에서 안정적이고 역동적인 보행을 수행하는 이족 로봇 P1


P1은 LimX Dynamics가 중국에서 앞서 선보인 혁신적인 이족 로봇이자, LimX Dynamics의 체계적인 강화학습(RL) R&D와 모듈화 테스트를 위한 주요 플랫폼으로서 이족 로봇의 기본 운동 능력 개발과 고도화를 추진하는 데 사용됩니다. P1이 야외 산림을 성공적으로 정복한 것은 LimX Dynamics의 체계적인 강화학습(RL) R&D가 거둔 성과이자 3대 핵심 영역의 역량을 보여주는 사례입니다.

1768308220196_640 (12).gif

강한 타격에도 뛰어난 외란 대응 능력을 보여주는 이족 로봇 P1

Real2Sim2Real 폐루프

Real2Sim에서 Sim2Real에 이르기까지 데이터가 순환하는 자동 폐루프를 구축하고, 물리 세계 데이터를 수집해 시뮬레이션 모델을 생성하는 것부터 시뮬레이션에서 학습한 정책을 하드웨어에 배포하는 것까지, 데이터 생성·전이·배포 전 과정의 자동화를 구현하는 것이 LimX Dynamics의 목표입니다. 이를 통해 인적 개입을 최소화하고 시뮬레이션과 현실 간의 격차를 줄이며 훈련의 효율성과 품질을 높이고자 합니다.

신경망 아키텍처 설계

신경망은 블랙박스가 아니라 강화학습(RL) 성능의 상한을 결정하는 과학적이고 체계적으로 설계된 복합 구조이며, 그 아키텍처 설계는 각 팀의 특성과 기술력을 보여줍니다. LimX Dynamics의 신경망은 여러 모듈로 구성됩니다. 모듈을 어떻게 구분하고 각 모듈을 어떻게 정의하며, 각 모듈의 입출력 인터페이스를 어떻게 설정할지는 매우 중요합니다. LimX Dynamics가 구축한 신경망 아키텍처는 환경과의 상호작용 및 하드웨어 차이로 인해 발생하는 큰 외란에 효과적으로 대응하여 적응형 제어 정책을 생성함으로써, 동일한 신경망을 서로 다른 로봇과 환경에 적용할 수 있도록 합니다.

데이터 생성 및 학습 알고리즘 설계

강화학습(RL)에서 데이터는 학습의 핵심이지만, 데이터 규모가 크다고 해서 반드시 학습 효과가 더 뛰어난 것은 아닙니다. LimX Dynamics는 유효 데이터 부족 문제 해결에 집중하여 '반복적 사전학습(Iterative Pre-training)' 방식을 제안했습니다. 범용 로봇의 기본 운동 능력을 단계별로 나누어 점진적으로 사전학습을 진행함으로써 훈련 결과의 제어 가능성을 높이고, 이를 통해 유효 데이터를 효율적으로 생성·수집하여 고성능 정책(Policy)을 학습합니다.

1768308271670_640 (13).gif

험준한 산길에서도 자유롭게 보행하는 이족 로봇 P1


이번 테스트에서 확인한 야외 환경과 연구실·도시 환경의 가장 큰 차이는 똑같은 계단이나 경사로가 단 하나도 없다는 점이었습니다. 산기슭에서 정상에 이르기까지 지형 또한 천차만별이었으며, 토양 침식으로 드러난 지하 암석, 뒤엉킨 덩굴로 뒤덮인 비탈길, 풍화된 토층이 토사로 변해 지면을 뒤덮은 구간, 현지 재료로 만든 불규칙한 형태의 도랑 등은 P1이 한 번도 경험하지 못한 환경이었고, 일반인조차 쉽게 극복하기 힘든 조건이었습니다.

훈련 과정에서 P1에는 산림이나 트레킹과 관련된 데이터가 전혀 입력되지 않아 학습 당시의 환경과 실제 적용 환경 사이에 큰 차이가 있었지만, P1은 새로운 환경에 적응하여 변화무쌍한 산림 속에서도 자유롭게 보행할 수 있었습니다. 이는 R&D 성과가 실제 적용 환경에서 구현 가능하고 활용 가능하며 신뢰할 수 있도록 보장하는 LimX Dynamics의 체계적인 강화학습(RL) 훈련 덕분입니다.

image.png

야외 산림에서 제로샷·무보호·완전 개방형 테스트를 진행하는 이족 로봇 P1

임바디드 인텔리젠스 R&D의 4대 요소는 하드웨어, 알고리즘, 데이터, 연산 능력이며, 강화학습(RL)은 알고리즘 분야의 핵심 기술 스택입니다. LimX Dynamics는 체계적인 R&D 프로세스와 역량을 강조하며, P1은 중국 최초로 야외 트레킹에 성공한 이족 로봇으로, 이 기술 접근법의 선도성을 입증했습니다. 이동 제어(Locomotion) 외에도 LimX Dynamics는 휴머노이드 로봇의 조작(Manipulation) 및 이동 조작(Loco-manipulation) 기술 개발을 지속적으로 추진하고 있으며, 향후 더 많은 기술 진전을 공유할 예정입니다.

image.png

R&D 성과의 실제 적용 가능성·활용성·신뢰성을 보장하는 LimX Dynamics의 체계적인 강화학습(RL) 훈련