안전은 아키텍처다: 모델은 제안하고, 시스템이 결정한다

산업용 로봇에서 AI 모델은 최종 의사결정자가 아니다. 모델은 제안하고, 아키텍처가 검증하고, 시스템이 실행을 허가한다.

모델을 믿지 않는다

대형 언어 모델이나 비전-언어-행동 정책은 강력하지만, 본질적으로 확률적이다. 잘못된 출력, 환각, 한계 상황 실패는 피할 수 없다. 공장에서 로봇 팔이 작업자 쪽으로 움직이면, 확률은 답이 아니다.

접근은 간단하다. 모델은 액추에이터를 직접 제어하지 않는다.

CoreOS는 모델 출력과 하드웨어 사이에 있는 러스트 기반 레이어다. 모든 행동 명령이 여기를 지나가며, 네 가지를 검증한다.

물리적 제약: 관절 각도, 속도, 가속도가 허용 범위 내인가.

공간 제약: 이 동작이 정의된 작업 공간을 벗어나는가.

충돌 검사: 센서 데이터 기반 실시간 장애물 회피.

상태 일관성: 현재 시스템 상태에서 이 명령이 유효한가.

검증 실패는 실행 거부다. 모델이 재시도하거나, CoreLM이 대안을 제시하거나, 안전 정지로 전환된다.

안전은 모델 품질이 아니라 시스템 아키텍처의 책임이다.

산업용 AI의 진짜 자산은 일회성 모델이 아니라, 지속적으로 개선되는 데이터 플라이휠이다.

고객이 명시적으로 동의한 경우에만 익명화된 작업 데이터가 중앙으로 간다. 플릿 전체 데이터는 CoreVLA와 CoreLM의 공통 베이스를 강화한다.

특정 고객의 작업 데이터와 파인튜닝 어댑터는 절대 다른 고객과 공유되지 않는다. 각 고객의 도메인 지식은 격리된다.

데이터 공유는 선택이다. 동의하지 않은 고객의 데이터는 디바이스를 떠나지 않는다. 동의한 고객은 플릿의 집단 학습을 받고, 생태계 개선에 기여한다.

모델은 복제 가능하다. 실전에서 축적된 작업 데이터는 그렇지 않다. 데이터가 자산이다.

CoreVLA, CoreLM, CoreEdge, CoreOS를 계속 개선한다. 안전은 협상 불가다. 데이터는 고객이 통제한다.

산업용 AI는 시스템을 설계하는 일이다.

Core On Dynamics, 샌호세, 캘리포니아.