중국 지능주행의 진짜 화두: 속도가 아닌 ‘경계’

Automechanika Shanghai에서 열린 International Summit on Connected Vehicles Development 2025에 참석했다. 보통 중국 자동차 업계의 토론이라고 하면 “더 빠르게, 더 크게”를 외치는 확장형 서사를 상상할 지 모른다. 하지만 이 패널은 달랐다. 발언 전체를 따라가다 보면, 압도적인 속도 뒤에 숨은 성숙함, 전략, 그리고 위험을 직시하는 냉정함이 있다. 패널들은 AI·자율주행의 핵심을 ‘기술의 가능성’이 아니라 기술의 경계(boundary)에서 찾는다. 레벨 2와 레벨 3 시대의 안전 책임, 확률적 모델의 위험성, 사용자 오용 문제 같은 본질적인 질문들이 토론을 이끌었다. 또한 시뮬레이션과 실도로 테스트의 최적 비율, 감정 기반 멀티모달 인터랙션, 페일세이프와 리던던시 등 실제 구현의 난점이 솔직하게 공유됐다. 

정리 | 한 상 민 기자_han@autoelectronics.co.kr

   

---

Wang Yafei        여러분의 회사는 어떤 기술 경로를 선택하고 있으며, 앞으로 차량용 AI의 트렌드는 어떻게 변화할 것이라고 보십니까?

Li Honglin        AI의 ‘경계’를 명확히 하는 것이 가장 중요하다고 생각합니다. ‘AI’란 단어가 굉장히 넓고, 그 안에는 기존의 머신러닝, 현재 주류인 딥러닝, 강화학습, 그리고 최근의 대규모 모델까지 여러 층위가 존재합니다. 자동차 분야의 AI는 최근의 LLM 붐보다 훨씬 이전부터 존재해 왔습니다. 예를 들어 센싱과 센서퓨전, 머신러닝 기반 판단 알고리즘, 규칙 기반 지능화 기능 등은 오래전부터 차량 내부에 존재해 왔습니다. 저는 자동차에서의 AI 활용을 두 가지 축으로 봅니다. 기업 내부에서의 AI 활용은 ‘효율성’ 향상에 대한 것으로, 연구개발 - 제조 - 운영 - 애프터서비스까지 전 주기에 걸쳐 효율을 높이는 것입니다. 다음은 고객에게 제공하는 AI 활용입니다. ‘사용자 경험’ 향상, 운전자가 차 안에서 느끼는 안전, 편의성, 쾌적성 등을 실질적으로 개선하는 것입니다. 
레벨 2, 레벨 3 상황에서의 안전성 향상, 인지/판단 영역의 AI 강화, 프로액티브(능동형) 지원 기능 등 많은 안전 영역에서 AI가 분명히 큰 역할을 할 수 있습니다. 하지만 동시에 새로운 리스크도 따릅니다. 기존 콕핏은 명령 → 응답의 수동적 구조였지만 이제 완전히 다릅니다. 콕핏이 먼저 ‘예측하고 제안하는’ 능동형 시스템으로 변하고 있습니다. 이 변화는 단순한 기능 변화가 아니라, E/E 아키텍처, 소프트웨어 스택, 멀티모달 인터페이스 전체가 바뀌고 있다는 것을 의미합니다. 예를 들면 차가 운전자의 습관, 상태, 감정 등을 감지해 먼저 조치를 취할 수 있게 됩니다. 인터랙션도 ‘단일 모달 → 멀티모달 → 감정 인식’으로 진화합니다. 현재 차는 시각, 음성, 제스처·터치 등 여러 인터랙션이 결합된 멀티모달 시대로 넘어가고 있고, 앞으로 운전자의 감정·스트레스·피로도까지 읽는 ‘정서적 인터랙션’ 시대로 진입할 것입니다. 이 모든 변화는 자동차가 ‘수동적 기계’에서 ‘상황을 읽고 먼저 행동하는 동반자’로 변한다는 뜻입니다.


 
Wang Yafei        지능주행 + 지능형 콕핏 전체의 큰 흐름을 잘 정리해주신 것 같습니다. 특히 AI가 만드는 능동형 서비스, 멀티모달 인터페이스, 감정 기반 상호작용 등 매우 중요한 포인트가 나왔습니다. 이제 SAIC의 관점도 들어보겠습니다. 

Zhang Dongjin        저는 원래 자동차공학을 전공했습니다. 가솔린, 전통적인 섀시 개발부터 시작해 지금의 지능주행까지 왔습니다. 그래서 저는 지금도 ‘차량 그 자체’가 매우 중요한 기술적 ‘그릇’이라고 생각합니다. 차는 우리의 세 번째 공간입니다. ‘제3의 공간’에서 우리는 정보를 얻고 업무를 보고 휴식을 취하고 이동 중 시간을 소비합니다. 따라서 차량은 단순 이동수단이 아니라 지능 서비스가 집약되는 물리적 플랫폼입니다. 
자율주행에서 핵심은 안전과 경험(UX)이고 이 둘은 절대 분리할 수 없습니다. 과거에는 규칙 기반 로직에 의존했기 때문에, 새로운 상황이 생길 때마다 코드를 고쳤습니다. 이 방식에는 분명 한계가 있었습니다. 하지만 지금은 데이터와 알고리즘이 발전하면서 차량을 ‘진짜 지능형 단말’로 만들 수 있는 시간이 왔다고 봅니다. 차는 스마트폰처럼 ‘지능형 어시스턴트’가 될 것입니다. 스마트폰이 ‘손안의 개인비서’가 된 것처럼, 차도 ‘이동 중 나와 함께하는 지능형 보조자’가 돼야 합니다. 운전자에게 반복적인 업무를 대신 수행하고 더 많은 정보와 시야를 제공하며 더 안전한 결정을 돕고 편의성과 컨텐츠를 제공하는 것. 이것이 지능주행이 가야 할 방향이라고 생각합니다.


Wang Yafei        전략 측면에서, SAIC는 AI 시대에 어떤 대응을 하고 계신지 조금 더 구체적으로 말씀해주실 수 있을까요?      

Zhang Dongjin        이 주제는 사실 굉장히 큰 범위의 이야기입니다. AI는 연구부서 한켠에 존재하는 기술이 아니라 전사적인 플랫폼으로 확장되고 있습니다. 저희도 지난 10년 동안 여러 기술적 전환을 겪었습니다. 파트너십과 생태계를 적극적으로 구축하고 있습니다. 예를 들면, 스마트 콕핏·인터페이스 기술을 위한 합작법인, 특정 차량 플랫폼에서는 화웨이 기술 도입, 국내외 칩·소프트웨어 개발사들과 협력, Horizon Robotics 등 AI 플랫폼 기업과의 협업, 필요시 자체 알고리즘 개발을 병행하고 있습니다. 다양한 고객층, 다양한 시장(중국 내수·해외)별로 차별화된 기술 전략을 적용하는 것이 매우 중요하기 때문입니다.
차량의 지능은 센서(See, Hear), 컴퓨팅 및 제어(Act), 이 세 가지 층위가 유기적으로 연결돼야 합니다. 차는 인간의 신경망처럼 주변을 감지하고 상황을 이해하며 행동을 결정해야 합니다. 이 구조를 더 정교하게 만들수록 자율주행은 더 많은 시나리오를 다룰 수 있게 됩니다. 예를 들어, 미국에서 잘 알려진 테슬라 드라이브 스루 예가 있습니다. 차가 첫 번째 창구로 이동해 주문 확인, 두 번째 창구로 이동해 결제, 다시 도로로 자연스럽게 합류하기까지 일련의 행동을 하나의 워크플로로 수행합니다. 이 과정에는 내비게이션, 경로 결정, 저속 주행, 대기·정차, 결제 인터랙션이 모두 연결됩니다. 이런 end-to-end 서비스 시나리오는 우리에게 사용자 경험 + 자율주행 기술의 통합이 어떤 의미인지 보여주는 좋은 예시입니다.


Wang Yafei        테크기업의 관점도 듣고 싶습니다.

Lin Jiansheng        바이두는 AI, 클라우드, 칩, 자율주행 플랫폼을 통합하는 기술 중심 기업입니다. 우리는 비교적 일찍부터 클라우드 컴퓨팅, AI, 자율주행을 함께 밀어붙여 왔습니다. 그리고 이런 기술이 양산차에서 어떻게 쓰이는지 보고 있습니다. 지난 12년간 OEM과 협력해 여러 유형의 자율주행차를 개발했고, 12개 도시에서 로보택시 서비스를 운용해 왔습니다. 현재까지 700만 회 이상 승객 서비스, 2,000만 km 이상 주행, 그중 140만 km는 완전 무인으로 결과를 만들었습니다. 2024년에는 자율주행용으로 특화된 대규모 모델을 공개했고, 현재 일부 차량(예: RT6)에서 실증하고 있습니다. 이 모델은 특히 복잡한 도시 환경, 혼잡 교통, 인구밀도 높은 지역에서 큰 효과를 보였습니다. 우한에서는 약 3,000km에 달하는 로보택시 노선을 운영하고 있고, 차량은 365일 24시간 운영되며, 하루 1만 km 이상을 완전 자율주행 차량이 스스로 주행합니다. 이 엄청난 운영 데이터를 기반으로 안전성 향상, 경험 개선, 모델 최적화를 이어가고 있습니다.


 
Wang Yafei        지능·자율주행 기술에서의 ‘안전’에는 어떤 리스크가 있고, 어떻게 대응하고 있나요? 어떤 ‘안전 기준선’을 세우고 있습니까?

Li Honglin        안전은 자동차 산업에 있어 영원한 주제입니다. 자동차 업체들은 이미 오랫동안 품질 시스템, 품질 관리 체계, 2000년대 초반부터 기능안전성(Functional Safety) 개념을 도입했고, 이후에는 정보 보안, 데이터 보안 관점까지 확장했습니다. 지금은 이런 요소들이 모두 일상적인 개발·운영 프로세스 안에 녹아들어 있는 상태입니다. 기본적인 ‘안전의 바닥선’은 이미 잘 깔려 있다고 볼 수 있습니다. 하지만, 지능화·자율주행이 등장하면서 새로운 차원의 도전이 생겼습니다. 강조하고 싶은 건 두 가지입니다. 우선, 기술 성숙도와 적용 속도 사이의 균형 문제입니다. 최근 몇 년 동안, 자율주행, ICV(지능형 커넥티드카) 사고에 대한 보도가 꽤 있었습니다. “기술 성숙도가 아직 충분하지 않은 상태에서 산업 전반이 너무 빨리 상용화를 서두르는 건 아닌가?”란 우려가 있고, 다른 한편에선 “AI·자율주행 기술 발전 속도가 너무 빠르기 때문에 실제 도로·도시에 적용하는 것도 속도를 맞춰야 한다”는 요구도 있습니다. 지금 도입하려는 기술의 성숙도가 어느 수준인지 냉정하게 판단해야 하고, 그 다음 어느 수준까지 실제 도로에 풀 것인지 그 경계를 제대로 정해야 합니다. 
기술 홍보와 실제 능력 사이의 간극도 문제입니다. 어떤 기업은 앞서가고 있다는 인상을 주고 기술력을 과시해 소비자의 관심과 신뢰를 빨리 얻고 싶어 합니다. 그래서 광고·마케팅 메시지가 실제 기술 능력을 넘어서는 경우가 생깁니다. 그러면 소비자는 “이 차는 스스로 다 할 수 있겠구나”라고 과도하게 신뢰하고 의존하게 됩니다. 지금까지 발생한 여러 안전사고 가운데 일부는, 기술 자체 결함이라기보다는 시스템이 할 수 있는 일과 할 수 없는 일을 사용자에게 제대로 설명하지 못한, 기술 능력에 대한 오해와 과신에서 비롯된 경우가 많습니다. 그래서 안전은 단지 기술의 문제가 아니라, 기술의 준비도를 정확히 평가하고 그 능력을 있는 그대로 투명하게 전달하는 문제이기도 합니다. 


Wang Yafei        이번에는 또 다른 OEM의 관점에서, ‘안전의 바닥선’을 어떻게 지키고 있는지 들어보겠습니다. 

Zhang Dongjin        저는 원래 전공이 교통운송(Transportation)입니다. 그래서 차를 볼 때 차량 자체, 도로·교통 시스템, 사회 전체의 상호작용, 이 세 가지를 함께 생각합니다. 우리가 아무리 안전하게 만들려고 해도 도로 위에 나오는 순간 리스크는 항상 존재합니다. 중요한 것은, “그 리스크를 어느 수준까지 줄일 수 있는가, 그리고 문제가 생겼을 때 얼마나 잘 통제할 수 있는가”입니다. 그래서 저희는 연구개발 단계, 검증 단계, 양산·운영 단계 전체에서 매우 촘촘한 R&D 프로세스와 내부 표준을 두고 있습니다. 예전에는 ‘문제가 생긴 후에 거슬러 올라가 원인을 찾는 방식’이 많았습니다. 사고가 나면 센서 설정, 알고리즘, 코드 어느 부분에서 잘못됐는지를 역으로 추적하는 식이었죠. 하지만 지금은 설계 - 개발 - 검증 - 운영 전 과정에서 안전을 한 번에 보는 방식으로 바뀌고 있습니다. 최근 그룹 차원의 이노베이션 세미나에서도 “제조사로서 우리는 제품과 사회에 대해 어떤 책임을 져야 하는가?”란 주제를 갖고 많은 토론을 했습니다. 자동차를 만드는 순간, 우리는 이미 위험을 함께 생산하는 존재입니다. 그 위험을 최소화하는 것이 제조사의 기본 책임입니다. 그러려면 개발 단계부터 안전 마인드셋을 심어 놓아야 합니다. 즉, “이 기능은 정말로 이 조건에서만 쓸 수 있다” “이 범위를 넘으면 반드시 사람이 다시 개입해야 한다”와 같은 원칙을 설계 - 테스트 - 출시 전 과정에서 일관되게 지켜야 합니다. 지능주행·자율주행의 발전 속도는 정말 빠릅니다. “기술 발전의 속도”와 “안전 검증과 시스템 구축의 속도”를 같이 끌어올리는 수밖에 없습니다. 
제품만 잘 만든다고 끝이 아니고, 에코시스템 전체도 동시에 개선해야 합니다. 인프라, 규제, 사용자 인식, 보험, 서비스, 데이터 공유, 이 모든 것이 함께 움직여야 실제 안전이 보장됩니다. 또 하나 중요한 건, 운전자와 시스템 사이 책임의 배분입니다. 레벨 2 수준에서는 기본적으로 운전자가 주체이고, 레벨 3 이상부터 조건에 따라 시스템 책임 비중이 커지게 됩니다. 문제는, 이 경계가 사용자 입장에서 매우 모호하게 느껴진다는 점입니다. 그래서 우리는 차량 설명서, HMI 안내, 판매·인도 과정, OTA 공지 등을 통해 끊임없이 사용자에게 “이 기능은 어디까지 할 수 있고, 어디서부터는 당신이 책임져야 합니다”란 것을 반복해서 알려야 합니다.

Li Pu        시스템과 기술의 준비도(레디니스), 기업이 세상에 내보내는 메시지와 가이드 방향, 사용자의 오용·남용 문제 세 가지 축으로 나눠 이야기하겠습니다. 먼저, 시스템·플랫폼을 설계할 때 “이 플랫폼은 어떤 시나리오를 위해 존재하는가?”를 아주 구체적으로 정의해야 합니다. 예를 들어, 도심 주행용인지, 고속도로 중심인지, 주차·저속 시나리오 중심인지에 따라 필요한 컴퓨팅 파워, 알고리즘 구조, 데이터 요구량이 모두 달라집니다. 컴퓨팅 - 알고리즘 - 데이터는 함께 묶여 있는 삼각형 같은 것이기 때문에 이 밸런스를 어떻게 잡을지 처음부터 정해야 합니다. 또, AI 기반 접근법은 기본적으로 확률론적인 성격을 갖고 있습니다. 그래서 설명 가능성(Explainability), 환각(hallucination), 예외 상황에서의 동작 같은 문제들을 반드시 정면으로 다뤄야 합니다. 특히, 정보 제공의 안전성, 경고·알림의 신뢰성, 예외 상황에서의 fallback 전략 같은 부분에서 “우리가 어느 수준까지 책임질 것인가”를 명확히 해야 합니다.
두 번째는 데이터입니다. 현실에서 진짜 위험한 상황, 아주 희귀하지만 치명적인 시나리오는 자주 발생하지 않습니다.  이 때문에 우리는 시뮬레이션, 3D 환경에서 생성된 가상 시나리오, 리플레이·리샘플링 데이터 등을 통해 “현실 도로에서는 거의 만나기 힘들지만, 반드시 대비해야 하는 상황”을 대량으로 만들어서 모델과 시스템을 학습·검증해야 합니다. 하지만 또 한편으로는 현실 도로 주행도 계속해야 합니다. 결국 “실도로 테스트와 시뮬레이션 테스트의 최적 비율을 어떻게 찾을 것인가”가 중요한 과제가 됩니다. 이 비율이 맞아야만, 비용도 적절하고, 안전 수준도 확보할 수 있습니다.
세 번째는 기업이 세상에 내보내는 메시지입니다. 우리는 사용자에게 시스템의 경계(boundary)를 명확히 보여줘야 합니다. 이 기능은 어떤 속도 범위에서, 어떤 도로 형태에서, 어떤 날씨·조도 조건에서, 정상적으로 작동하며, 어디서부터는 “이제 운전자가 다시 주도권을 가져와야 한다”고 시스템이 분명하게 알려줘야 합니다. 우리가 보는 여러 사고 사례에서는 운전자가 운전 중에 잠을 자거나, 아예 운전대를 잡지 않는 명백한 오용이 자주 등장합니다. 레벨 2 수준의 시스템에서 이런 일이 생기면 이것은 “경계에 대한 메시지를 충분히 전달하지 못한 문제”라고 생각합니다.


Wang Yafei        이제 테크기업 입장의 안전에 대해 들어보고 싶습니다.

Lin Jiansheng        지능주행·자율주행 기술의 발전은 안전이 담보되지 않으면 아무 의미가 없습니다. 특히 2024년 이후로 산업 전체가 안전에 대한 감수성이 크게 높아진 것을 체감합니다. 바이두는 알고리즘 개발, 시뮬레이션, 실제 도로 테스트, 로보택시 상용 서비스 모든 단계에서 ‘안전 우선’ 원칙을 가장 앞에 두고 있습니다. 우리는 제품 개발 각 단계에서 AI를 매우 광범위하게 활용하고 있습니다. 여기에는 두 가지 축이 있습니다. 차량 관점에서는 센싱 성능, 판단 정확도, HMI 응답, 전체 주행 안정성을 고품질 데이터로 계속 개선합니다. 운전자·사용자 관점에서는 승차 경험, 신뢰감, 예측 가능성, 피로 감소 등을 실제 서비스 운영 데이터를 기반으로 지속적으로 다듬고 있습니다. 특히 대규모·고품질 데이터는 모델 성능 개선, 에지 케이스 대응력 향상, 안전 여유도 확보에 매우 큰 도움을 줍니다.
강조하고 싶은 것은, 이 문제는 기술만의 문제가 아니라 ‘사회적 문제’라는 점입니다. 보통 사용자들은 레벨 2와 레벨 3의 경계를 정확히 이해하지 못합니다. ‘ADAS든 자율주행이든, 어차피 차가 알아서 가는 거 아닌가?’런 정도의 인식에 머무는 경우가 많습니다. 그러다 보니 사고가 발생했을 때, 기술적 사실과 상관없이 사회적 충격이 훨씬 커지는 구조입니다. 그래서 우리는 정부, 업계, 학계, 미디어와 함께 “어디까지가 운전자 책임이고, 어디부터가 시스템 책임인가”를 사회 전체 차원에서 분명히 정리하고, 같이 인식을 만들어가야 한다고 봅니다.
바이두는 레벨 4 로보택시, 특정 구역에서의 무인주행까지 포함해 다양한 프로젝트를 하고 있기 때문에 복수의 안전 레이어를 설계합니다. 설계 단계는 아키텍처 차원에서 리던던시와 페일세이프를 설계하고, 개발 단계선 시나리오 커버리지와 FMEA적 관점을 결합해 검증하고, 테스트 단계에서 시뮬레이션+실도로를 병행해 위험 시나리오를 집중적으로 반복하며, 운영 단계에선 실시간 모니터링, OTA, 로그 분석을 통해 새로운 리스크를 계속 피드백합니다. 특히 레벨 4 수준에 가까운 시스템에서는 “기술적 리던던시”를 반드시 포함하고 있습니다. 센서·컴퓨팅·통신·제어 등에서 한 라인이 문제가 생기더라도 즉시 다른 라인이 시스템을 이어받을 수 있도록 하는 구조입니다.


 
Wang Yafei        지금까지 개별 기업의 경험을 들었습니다. 이제 혁신과 규제를 어떻게 조화시킬 것인지에 대해 이야기해보면 좋겠습니다. 

Li Honglin        혁신 없는 안전은 정체이고, 안전 없는 혁신은 위험합니다. 정책·규제는 ‘안전하게 혁신을 감싸주는 울타리’가 돼야 한다고 생각합니다. 정책과 규제는 단순히 금지 목록을 늘리는 것이 아니라, “어떤 범위에서는 마음껏 해도 된다”는 실험의 장을 열어주는 역할도 해야 합니다. 예를 들어, 안전 관련 혁신, 사용자 경험 관련 혁신, 운영·비즈니스 모델 혁신 등은 서로 다른 리스크 프로파일을 갖고 있기 때문에 각각에 대해 “어느 정도까지는 시도해도 좋다”는 공간을 만들어줄 필요가 있습니다. 기업 내부도 ‘실패를 허용하는 메커니즘’이 필요합니다. 지금 우리는 저고도 경제(드론·UAM 등), 자율주행, 지능형 교통 같은 새로운 기술 영역을 동시에 맞이하고 있습니다. 이런 영역에서 “단 한 번도 실패하지 않는 혁신”은 존재할 수 없습니다. 그래서 회사 내부에는 실험을 허용하고, 일정 수준의 실패를 감내하고, 그 과정에서 배운 것을 축적하는 내부 메커니즘이 반드시 필요합니다. 예를 들어, 둥펑 내부에서는 “한 세대의 기술을 개선하면서 동시에 다음 세대의 기술을 준비한다”는 철학을 갖고 있습니다. 이렇게 해야 “현재 세대는 안정적으로 운영하면서, 미래 세대를 위한 기술적 저축을 하는 구조”가 만들어집니다.

Wang Yafei        중국은 비교적 일찍부터 ‘혁신과 규범 사이의 균형’을 중요한 원칙으로 삼아 왔습니다. 2021년을 기점으로 중앙정부와 관련 부처들은 지능차 관리·운영에 관한 종합적인 정책 문서, 시범운행·도로 테스트 관련 가이드라인, 안전 요구사항, 데이터 요구사항 등을 잇달아 발표했습니다. CATARC도 여러 국가 표준·단체 표준 제정, 시험·인증 체계 설계, 사고 사례 분석 등에 적극적으로 참여하고 있습니다. 많은 분이 “표준이 기술 발전 속도를 따라가지 못한다”고 하시지만, 실제로는 정부와 업계가 상당히 치열하게 따라가고 있습니다. 예를 들면, 차선유지·차간거리 제어 같은 단일 기능에서 시작해 복합 ADAS, 고도 자율주행까지 단계별 표준화 작업이 계속되고 있습니다. 다만, 컴퓨팅 파워, AI 모델, 소프트웨어·하드웨어 아키텍처의 변화 속도가 너무 빠르다 보니 표준이 항상 한발 늦게 보이는 착시가 있는 것뿐이라고 생각합니다. 
OEM, 테크기업 여러분께 한 가지 부탁을 드리고 싶습니다. 안전을 위해 필요한 데이터는 가능한 한 많이, 가능한 한 구조화된 형태로 표준·정책 수립기관과 공유해야 한다. 그래야만 시험·인증 방법이 현실을 제대로 반영할 수 있고, 규제가 실제 산업을 뒷받침하는 방향으로 설계될 수 있다는 것입니다. 특히 C-V2X, ICV 도로 테스트, 시범 운영 데이터 같은 것들이 공유돼야 현장에서 벌어지는 일을 바탕으로 살아있는 규범 체계가 만들어질 수 있습니다. 지금 중국에선 도로교통법 개정, 자동차 인증 제도 개편, 결함·리콜 체계의 지능차 대응, 데이터 보안·개인정보 보호 규정 등이 동시에 움직이고 있습니다. 이건 하나의 부처가 해결할 수 있는 일이 아니기에 ‘크로스오버 거버넌스’를 지향하고 있습니다. 물론, 여기에는 기업의 자발적인 참여와 데이터 제공, 현장의 솔직한 피드백이 반드시 필요합니다.

AEM(오토모티브일렉트로닉스매거진)

---