옥스퍼드 출신 PO가 말하는 AI 안전성 평가 핵심 전략
AI 서비스 리스크 진단부터 평가·개선 사이클까지 가이드
[이뉴스투데이 백연식 기자] AI 데이터·신뢰성 평가 기업 셀렉트스타가 오는 29일 오후 2시 생성형 AI 서비스의 안전성 확보와 리스크 관리를 주제로 무료 웨비나를 개최한다.
이번 웨비나는 ‘당신의 AI, 정말 안전한가요? - AI Safety의 격차를 만드는 데이터’를 주제로 기업들이 AI 서비스를 운영하며 직면하는 다양한 리스크와 이를 점검·관리하는 평가 전략을 다룬다.
연사로는 옥스퍼드 대학교 수리통계학 학·석사 출신인 김정훈 셀렉트스타 PO(Product Owner)가 나선다. 김 PO는 실제 AI 서비스 현장에서 데이터와 모델을 직접 다뤄온 경험을 바탕으로, 단순 이론이 아닌 현업 관점의 실무적 인사이트를 전할 예정이다.
발표는 총 3개 세션으로, 첫 번째 세션에서는 다양한 AI 안전성 리스크의 부상과 평가 데이터의 중요성을 다룬다. 두 번째 세션에서는 시나리오 기반 안전성 평가 및 레드티밍 등 구체적인 방법론을 소개하고, 마지막으로 평가 결과의 분석과 취약점 발견·개선·재검증으로 이어지는 사이클 관리 전략을 제시한다.
셀렉트스타의 AI 신뢰성 평가 자동화 플랫폼 ‘다투모 플랫폼(Datumo Platform)’을 활용해 AI 서비스 품질을 고도화한 실제 사례를 소개할 예정이다.
김정훈 셀렉트스타 PO는 “AI 안전성은 지금 업계에서 가장 중요하고도 복잡한 과제 중 하나”라며 “실제 운영 단계에서 어떤 위험이 발생할 수 있는지, 또 이를 어떤 기준으로 평가해야 하는지 막히는 경우가 많은 만큼 이번 웨비나가 AI 서비스를 운영하거나 도입을 고민하는 분들께 실질적인 도움이 되길 바란다”고 말했다.
한편, 셀렉트스타는 AI·AX 커뮤니티 ‘AI Ignite’를 통해 실무자를 대상으로 인사이트를 공유하는 다양한 온·오프라인 이벤트를 이어가고 있다. 오는 5월 말에는 외부 AI 전문가를 초청해 실제 산업 현장의 AI·AX 활용 사례를 공유하고, 참가자 간 네트워킹을 진행하는 오프라인 행사도 개최할 예정이다.
댓글
0