#실패 로그가 다음 학습으로 이어지는 구조
자동운전에서 사람이 대신 조작한 순간은 단순한 실패 횟수이면서, 시스템이 무엇을 놓쳤는지 알려 주는 학습 자료가 될 수 있다. HugCL은 사람의 가이드를 지속학습(continual learning)에 연결하며 시뮬레이션과 실제 차량 실험을 보고한다. 이 원고는 공개된 연구 설명을 근거로 하며, 확인되지 않은 주행 거리나 사고 감소율을 만들어 넣지 않는다. 원문
#학습이 끝난 모델은 세상이 바뀌어도 그대로다
로봇이 익숙한 복도에서 잘 움직여도 새 공사 구간이나 특이한 보행 행동을 만나면 실패할 수 있다. 학습 데이터가 다루지 않은 상황이기 때문이다. 모든 새 상황마다 전체 데이터를 다시 모아 처음부터 학습하는 방식은 부담이 크다.
반대로 최근 상황만 학습하면 예전에 잘하던 일을 잊는 파국적 망각(catastrophic forgetting)이 생길 수 있다. 새 경험을 빨리 반영하는 능력과 기존 능력을 유지하는 성질을 동시에 요구하는 것이 지속학습의 문제다.
#정책과 사람의 개입을 수학적으로 분리하기
정책(policy)은 관측 또는 상태 s에서 행동 a를 선택하는 규칙이다. 확률 정책이라면 다음과 같이 쓴다.
θ는 모델 매개변수, c는 개입 이유나 상황 정보를 표현한 보조 기록이다. 이 데이터 형식은 이해를 위한 제안이며 실제 HugCL 저장 구조를 복제한 것이 아니다. 같은 브레이크 행동도 충돌 회피, 승차감, 규정 준수 중 어떤 이유인지에 따라 배울 목표가 달라질 수 있다.
사람이 개입한 곳만 학습하면 자료의 선택 편향도 생긴다. 개입이 없던 구간이 전부 안전했다고 볼 수 없고, 운전자의 개입 기준도 사람마다 다를 수 있다. 따라서 개입 자료와 전체 노출 조건을 함께 남겨야 한다.
#새 상황과 옛 상황 사이의 균형
기존 능력을 유지하는 문제를 설명하는 일반적인 학습 목적은 다음과 같다.
이 식은 HugCL의 정확한 원문 목적함수가 아니다. 새 자료에 대한 손실과 이전 행동·성능 보존 항 사이의 절충을 설명한다. λ가 크면 기존 능력을 강하게 보존하지만 새로운 행동을 배우기 어려울 수 있다. 손실의 수치 규모가 다르면 같은 λ도 다른 영향을 낸다.
재생(replay) 자료를 쓰는지, 이전 정책과의 거리를 제한하는지, 어떤 상황에 가중치를 주는지에 따라 구현은 달라진다. 실제 재현에서는 논문의 목적함수·알고리즘·설정 파일을 함께 확인해야 한다.
#개입 횟수만 비교하면 왜 위험한가?
분모가 주행 거리라면 단위는 건/km이고, 주행 시간이면 건/h다. 10km에서 두 번과 100km에서 다섯 번은 횟수 순위와 거리당 순위가 다르다. 도로 난도, 속도, 날씨, 운전자 기준도 맞춰야 한다.
포아송 사건이라는 강한 단순화를 할 경우 사건이 0건이어도 상한이 0은 아니다. 95% 수준의 예시 상한은 대략 3/노출량으로 읽을 수 있다. 실제 차량 위험은 사건 독립성과 일정 발생률 가정이 맞지 않을 수 있으므로 이 근사 하나로 안전 인증을 내릴 수 없다.
#어떤 실험이 있어야 지속학습이라고 믿을 수 있나?
새로운 상황에서 개선된 결과와 이전 상황의 성능을 나란히 봐야 한다. 같은 상황을 반복 주행해서 익숙해진 효과인지, 다른 보행자·도로에서도 변화가 유지되는지 구분한다. 사람 가이드의 양, 이전 자료 보관량, 재학습 시간도 비용이다.
원문 그래프를 넣을 때에는 업데이트 단계별 새·기존 과제 성능을 함께 확인해야 한다. 성공 영상만 있으면 희귀 실패와 후퇴를 알 수 없다. 제거 실험(ablation)에서는 사람 가이드와 지속학습 구성요소가 각각 얼마나 기여했는지 봐야 한다.
#로봇 연구에서의 의미
카메라 인식 모델이나 AMR 회피에서도 실패 장면에 “실패했다”만 붙이기보다, 데이터·정책·상태 추정 중 어느 단계의 문제인지 기록할 수 있다. 하지만 실제 제어기에 새 정책을 바로 넣는 것과 학습 자료로 보관하는 것은 다른 승인 단계다.
사람의 개입을 줄인다는 목표만으로는 충분하지 않다. 개입이 필요 없는 안전한 행동이 늘었는지, 아니면 사람이 개입할 기회를 잃었는지 구분해야 한다. HugCL은 이 문제를 다루는 연구 후보이며 대규모 상용 차량의 안전 성능이 확정됐다는 발표는 아니다.
#출처
원문 공개일: 2026-09-05.