키사이트테크놀로지스(Keysight Technologies)가 안전 필수(safety-critical) 환경에서 인공지능(AI) 기반 시스템의 검증과 유지 관리를 혁신해 신뢰성을 확보할 수 있는 소프트웨어 솔루션 ‘Keysight AI Software Integrity Builder’를 공개했다.
Keysight AI Software Integrity Builder는 안전 필수 환경에서 AI 기반 시스템의 검증과 유지 관리 방식을 혁신해 신뢰성을 확보하도록 돕는다.
규제 감독이 강화되고 AI 개발이 복잡해지는 상황에서, 이 솔루션은 자동차를 비롯한 안전 필수 산업을 대상으로 AI 개발부터 실제 환경에서의 추론, 데이터 드리프트 및 성능 모니터링까지 AI 전 수명주기를 포괄적으로 지원하는 것이 특징이다.
키사이트는 AI 시스템이 복잡하고 동적 엔티티(dynamic entities)로 작동하는 반면, 내부 의사결정 과정은 불투명한 경우가 많아 안전성과 신뢰성, 규제 준수를 입증해야 하는 자동차 산업에서 큰 과제가 되고 있다고 지적했다. 특히 ISO/PAS 8800과 EU AI 법(EU AI Act) 등은 설명 가능성과 검증을 요구하지만, 구체적인 방법론을 제시하지 않아 개발자들의 개발 부담을 키워왔다. 여기에 파편화된 툴체인이 개발 워크플로를 복잡하게 만들고 규제 적합성 위험을 높이고 있다.
AI Software Integrity Builder는 이러한 문제를 해결하기 위해 AI 시스템 내부에서 어떤 일이 일어나고 있는지, 배포 시 안전하게 동작하도록 보장할 방법은 무엇인지를 규명할 수 있는 통합적 수명주기 기반 프레임워크를 제시한다. 또한, 엔지니어링 팀이 규제 준수를 입증할 증거를 확보하고 AI 모델을 지속적으로 개선할 수 있도록 지원한다.
기존 파편화된 툴체인이 AI 테스트의 일부 단계만 다루는 것과 달리, 키사이트의 통합 접근법은 데이터셋 분석, 모델 검증, 실제 환경 추론 테스트, 지속적 모니터링을 모두 포함한다.
Keysight AI Software Integrity Builder의 핵심 기능
- 데이터셋 분석(Dataset Analysis): 통계적 방법을 활용해 모델 성능에 영향을 줄 수 있는 편향, 공백, 불일치 등을 식별한다.
- 모델 기반 검증(Model-Based Validation): 모델의 의사결정을 설명하고 숨겨진 상관관계를 파악해 개발자가 AI 시스템의 패턴과 한계를 이해할 수 있도록 지원한다.
- 실제 환경 기반 추론 테스트(Inference-Based Testing): 모델이 실제 조건에서 어떻게 작동하는지 평가하고, 학습 단계와의 편차를 감지하며 향후 개선점을 제시한다.
키사이트는 기존 오픈소스 도구나 개별 공급업체 솔루션의 경우 AI 테스트의 일부 단계만 다루는 반면, 자사 솔루션의 경우 학습 단계와 실제 배포 사이의 간극을 해소한다고 강조했다. 이 솔루션이 모델이 학습한 내용을 검증할 뿐만 아니라 실제 운용 환경에서의 성능까지 평가할 수 있어, 자율주행과 같은 고위험 애플리케이션에서 필수적인 요구사항을 충족한다는 것이다.
토마스 괴츨(Thomas Goetzl) 키사이트 자동차·에너지 솔루션 부문 부사장 겸 총괄 매니저는 “차량 내 AI의 신뢰성 확보와 기능 안전성은 점점 더 중요한 과제가 되고 있다”며 “키사이트는 테스트·계측 분야의 전문성과 AI 검증 기술을 결합해, 규제 요구사항을 충족하는 신뢰할 수 있는 AI 시스템을 구축할 수 있는 툴을 제공한다”고 말했다.
키사이트는 AI Software Integrity Builder를 통해 엔지니어링 팀이 AI 기반 시스템 개발 과정에서 파편화된 테스트 방식에서 벗어나, 투명하고 감사 가능하며 설계 단계부터 규정을 준수하는 통합 AI 보증 전략을 구현할 수 있도록 지원한다.
AEM(오토모티브일렉트로닉스매거진)
<저작권자 © AEM. 무단전재 및 재배포 금지>
