[테크월드=김혜진 기자] 최근 엔지니어링 설계에서 AI의 활용 영역이 확대되며 AI 설계 도구의 예측 오류, 데이터 편향, 안전성 문제 등이 리스크 요인으로 떠오르고 있다. 하지만 AI의 사용 확산과 비교해 리스크 대응은 여전히 기존 검증 체계에서 벗어나지 못한 것으로 보인다.
매스웍스가 7일 ‘매트랩 엑스포 2026 코리아’ 기자간담회를 개최하고 AI를 적용한 엔지니어링 설계 변화 현황에 대해 밝혔다. 이날 간담회에서는 AI 적용에 따른 리스크에 대한 질문이 제기됐으나 기존 검증 체계를 중심으로 한 대응 외에 별도의 대책은 제시되지 않았다.
AI, 데이터 따라 다른 결과 도출…검증 복잡성·예측 불확실성 가져와
기존 엔지니어링 설계는 결정론적 시스템으로 동일한 입력에 대해 항상 동일한 결과를 도출했다. 비교적 테스트 및 검증이 단순하기 때문에 예측 및 검증 가능성이 높았다.
반면 AI 기반 엔지니어링 설계는 데이터에 따라 결과가 달라질 수 있는 확률적 시스템으로 동일 조건에서 다른 결과를 도출할 수 있다. 즉 기존 방식 대비 검증의 복잡성 및 예측 불확실성의 리스크를 갖는다는 것이다.
김영우 매스웍스 전무는 AI 도입에 따른 리스크에 대해 “여러 개발 과정에서 기본적으로 발생할 수 있는 잠재적 위험 요소에 대해 미리 테스트하고, 세이프티 크리티컬한 부분에서는 폴트 인젝션(Fault Injectin)을 통해 시스템 반응과 대응 방안을 소프트웨어를 막아볼 수 있는 것까지 모두 감안해서 확인할 수 있도록 툴을 제공하고 있다”며 “AI 자체가 정확성에서 조금 문제가 될 수는 있다. 센서 퓨전과 트래킹 등 다중 정보를 결합해 판단하는 방식으로 리스크를 보완할 수 있다”고 설명했다.
폴트 인젝션은 시스템의 안전성 검증을 위해 오류를 발생시켜 테스트하는 방법이며, 센서 퓨전은 여러 센서 데이터를 통합해 더 정확한 판단을 할 수 있도록 돕는 기술이다.
AI 기반 설계, 리스크 통제 어려워…‘공격 표면’ 우려
문제는 이러한 방식만으로 AI 적용 설계 환경에서 발생하는 리스크를 충분히 통제하기 어렵다는 점이다. 설계 구조 내 AI의 자율성이 높아질수록 데이터 접근 범위는 확대될 수밖에 없다. 이 경우 설계 툴은 단순한 생산 도구를 넘어 기업의 핵심 설계 데이터에 직접 접근할 수 있는 하나의 공격 표면으로 전환된다. 즉 설계 툴을 활용하는 기업 또는 연구기관의 핵심 데이터가 노출될 가능성이 있다.
한 보안 업계 관계자는 “실제 AI가 개발 과정에 깊이 관여함에 따라 리스크가 나타나고 있다. 공격자가 모델을 유도해 특정 코드를 생성하거나 실행하도록 함으로써 암호화 지갑 키, 인증 정보 둥 실제 자산 손실로 이어진 사례도 있었다”며 “바이브 코딩(vibe coding) 과정에서 엄격한 권한 통제와 환경 격리가 부족할 경우 민감 정보 노출 위험이 발생할 수 있으며, 이 문제의 본질은 단순 ‘코드 생성 오류’가 아닌 AI도구의 권한 경계, 컨텍스트 격리, 입출력 통제 체계의 미성숙에 있다”고 강조했다.
이어 “AI 기반 개발 도구 도입 시 발생할 수 있는 보안 리스크의 경우, 기존 보안 메커니즘을 우회하거나 은닉된 취약점을 생성하며 이는 기존 테스트로 발견하기 어렵다”며 “기업은 데이터 접근 경로와 권한 모델을 재검토하고 AI가 새로운 ‘고권한 진입점’이 되지 않도록 관리해야만 한다”고 덧붙였다.
실제로 매스웍스는 작년에 보안 사고를 한 차례 겪었다. 랜섬웨어 공격으로 회사 IT 시스템이 마비되며 일부 내부 및 고객 서비스에 영향을 미친 것으로 알려졌다. 이는 설계 및 개발 도구가 공격 표면이 될 수 있다는 우려를 그대로 보여준다.
생산성 향상 효과 ‘확실’…“AI 위력 점차 높아질 것”
매스웍스만의 문제는 아니다. 대다수의 AI 기반 설계 솔루션이 해당 리스크에 대한 명확한 대응 방안을 제시하지 못하고 있다.
그럼에도 불구하고 AI의 도입은 멈춰지지 않을 것으로 전망된다. AI 적용 시 설계 효율성과 복잡한 데이터 분석 능력, 시뮬레이션 속도 향상 등 기존 방식 대비 압도적인 이점을 제공하기 때문이다.
매스웍스의 솔루션을 적용한 사례들을 살펴보면 AI가 가져오는 생산성 향상의 이점은 더욱 뚜렷하게 확인된다.
이날 매스웍스 측에서 발표한 사례에 따르면 엔지니어링 솔루션 내 배포되는 알고리즘 컴포넌트에 AI를 적용한 설계를 코카콜라에서 사용한 결과, 물리적 센서를 추가로 설치하지 않고도 필요 데이터를 추정하며 값비싼 하드웨어 비용을 절감했다. 기존 장비를 유지한 채 소프트웨어 업데이트만으로 목표를 달성한 것이다.
또 AI가 차수 축소 모델에 적용된 사례에서도 설계 효율성 개선 효과가 나타났다. 매스웍스는 실제 자동차 서스펜션 설계 파라미터를 튜닝하는 TWT 기업의 사례를 통해 차량 모델 기반으로 최적화 루프를 설정에 수천 번의 반복 작업으로 하나의 파라미터를 최적화하는 데 16일이 걸렸던 기존과 달리 AI 적용 후 같은 최적화를 단 5분만에 완료하는 결과를 보였다고 밝혔다.
사미르 M. 프라부(Sameer M. Prabhu) 매스웍스 인더스트리 부문 이사는 “생성형 AI의 등장으로 이러한 경향은 점점 더 빨라지고 많아지는 추세”라며 “생성형 AI 도구를 사용하면 반복 작업 자동화, 설계 루프 속도 향상 등의 이점을 얻을 수 있다. 이제 엔지니어는 AI에 목표와 제약을 제시하고 AI는 해당 조건 내에서 반복작업을 통해 설계 대안을 탐색하고 최적화하는 등의 업무를 수행한다”고 전했다.
이어 “이러한 AI 모델의 성능은 기하급수적으로 향상되고 있다”며 “기존 오랜 시간이 요구되던 엔지니어의 작업을 단시간에 수행할 수 있는 AI의 위력은 점점 커지는 중”이라고 강조했다.
회원가입 후 이용바랍니다.
댓글
0