에임인텔리전스 박하언 최고기술책임자(CTO), 과기정통부–구글 딥마인드 MOU 체결식 참석(사진 제공-에임인텔리전스)
인공지능 보안 전문 기업 에임인텔리전스의 박하언 최고기술책임자(CTO)가 과학기술정보통신부와 구글 딥마인드의 업무협약(MOU) 체결식 및 전문가 간담회에 인공지능 안전 분야 전문가로 참석했다.
지난 27일 서울에서 열린 이번 행사는 대한민국 정부와 구글 딥마인드가 인공지능 공동연구와 인재 양성, 책임 있는 인공지능 활용을 위해 협력하기로 약속한 자리다.
박하언 최고기술책임자는 간담회에서 인공지능 안전성에 대한 논의가 단순한 텍스트 출력을 넘어 인공지능 에이전트의 행동과 실제 물리 세계에서 작동하는 인공지능으로 빠르게 확장되고 있다고 강조했다. 특히 로봇이나 자율 주행 등 물리적인 환경에서 작동하는 인공지능의 경우 위협이 발생하면 복구가 어렵다는 점을 지적하며, 새로운 평가 체계와 안전장치 기준 정립의 필요성을 제안했다.
에임인텔리전스는 인공지능 안전과 보안을 전문으로 하는 기업으로, 인공지능의 입출력을 실시간으로 감시해 위험을 차단하는 가드레일 플랫폼인 ‘에임 스타포트’를 제공하고 있다. 또한 취약점을 진단하는 자동화 레드티밍 솔루션인 ‘스팅어’를 통해 인공지능의 개발부터 운영 단계까지 전 과정을 아우르는 보안 플랫폼을 구축하고 있다.
또한 인공지능 안전 분야에서 활발한 학술 활동과 대외 협력을 이어오고 있다. 최근에는 텍스트를 영상으로 변환하는 모델의 취약점을 다룬 연구가 세계적인 인공지능 학회인 아이씨엘알(ICLR) 2026에 채택되기도 했다. 국내에서는 한국 인공지능안전연구소(AISI)와 협력해 고위험 시나리오에서의 안전성 평가를 진행하고 있으며, 엘지(LG)전자와 함께 물리 환경 인공지능의 안전 레이어를 개발하는 등 실무적인 성과를 내고 있다.
이번 업무협약은 인공지능 기술의 책임 있는 개발을 위해 안전 프레임워크와 모델 안전장치에 관한 공동연구를 포함하고 있다. 인공지능안전연구소와 연계해 테스트 방법론을 논의하고 글로벌 인공지능 허브를 조성하는 방안도 지속적으로 다룰 예정이다.
데미스 하사비스 구글 딥마인드 최고경영자(CEO)는 "한국은 인공지능 시대의 시작점에서 의미 있는 곳"이라며 "인공지능이 책임 있게 발전할 수 있도록 돕는 보호 체계 구축에 파트너로서 힘을 보태겠다"고 밝혔다.
배경훈 과학기술정보통신부 장관은 "이번 협력이 안전하고 책임 있는 인공지능 연구의 모범 사례를 확산하는 계기가 될 것"이라고 전했다.
에임인텔리전스 박하언 최고기술책임자는 "이번 협력을 통해 한국이 인공지능 에이전트와 물리 인공지능 안전성 평가의 글로벌 표준을 만들어가는 거점이 되기를 기대한다"며 "에임인텔리전스는 앞으로도 글로벌 빅테크 및 국내 주요 기업들과의 협력을 바탕으로 인공지능 보안 생태계를 확장해 나갈 계획"이라고 말했다.
댓글
0