과기정통부–구글 딥마인드 MOU 현장 참여…AI 안전 전문가로 협력 방향 제시
“텍스트→에이전트→피지컬 AI”…안전성 평가 기준 전면 재정립 필요
에임인텔리전스, 과기정통부–구글 딥마인드 MOU 현장 참여 (사진 제공: 에임인텔리전스)
AI 안전 논의가 새로운 단계로 접어들고 있다. AI 보안 전문기업 에임인텔리전스(대표 유상윤)는 과학기술정보통신부와 구글 딥마인드 간 MOU 체결식 및 전문가 간담회에 박하언 CTO가 참석해 협력 방향을 제시했다고 밝혔다.
이번 MOU는 과학기술 AI 공동연구, AI 인재 양성, 책임 있는 AI 활용을 핵심 축으로 추진되며, 글로벌 AI 협력의 중요한 전환점으로 평가된다.
“AI 안전, 물리 세계까지 확장”…평가 기준 재정립 필요
체결식 이후 열린 전문가 간담회에서 박하언 CTO는 AI 안전성 논의의 범위가 빠르게 확장되고 있다고 강조했다. 기존 텍스트 기반 출력 안전성에서, AI 에이전트의 ‘행동’, 나아가 실제 물리 환경에서 작동하는 ‘피지컬 AI’ 안전성으로 중심이 이동하고 있다는 설명이다.
특히 물리 세계에서 작동하는 AI의 경우, 오류 발생 시 되돌리기 어려운 특성이 있어 기존과는 다른 수준의 평가 체계와 안전 장치가 필요하다는 점을 지적했다.
이번 간담회에는 바이오·신약, AI 연구 분야 전문가들도 함께 참여해 AI 기반 과학기술 혁신과 글로벌 협력 방향에 대해 논의를 이어갔다. 참석자들은 한국이 데이터·모델·인재를 유기적으로 연결하는 AI 중심 연구 생태계로 전환해야 한다는 데 공감대를 형성했다.
에임인텔리전스는 AI 안전성 평가 및 가드레일 기술을 기반으로, 에이전트와 피지컬 AI 영역까지 확장된 통합 보안 체계를 구축하고 있다. 한국 AI안전연구소(AISI) 등과의 협력을 통해 안전성 평가 표준화에도 참여 중이다.
박하언 CTO는 “AI 안전성은 이제 선택이 아닌 필수 요소”라며 “이번 협력을 계기로 한국이 에이전트 및 피지컬 AI 안전성 평가의 글로벌 표준을 선도할 수 있을 것”이라고 밝혔다.
AISafety
AI안전
AI정책
AI표준
과기정통부
구글딥마인드
글로벌AI
에이전트AI
에임인텔리전스
피지컬AI
Aim Intelligence Participates in MOU Signing between MSIT and Google DeepMind… “Global Standards for AI Safety Needed”
Ministry of Science and ICT Participates in MOU Signing Ceremony with Google DeepMind… Suggests Direction for Cooperation as AI Safety Experts
“Text → Agent → Physical AI”… Need to Completely Re-establish Safety Evaluation Standards
Aim Intelligence participates in the MOU signing ceremony between the Ministry of Science and ICT and Google DeepMind (Photo courtesy of Aim Intelligence)
Discussions on AI safety are entering a new phase. AI security specialist Aim Intelligence (CEO Yoo Sang-yoon) announced that its CTO, Park Ha-eon, attended the MOU signing ceremony and expert meeting between the Ministry of Science and ICT and Google DeepMind to present directions for cooperation.
This MOU is being pursued with joint research on AI in science and technology, fostering AI talent, and responsible use of AI as its core pillars, and is considered a significant turning point in global AI cooperation.
“AI Safety Extends to the Physical World”… Need to Re-establish Evaluation Criteria
At an expert consultation held following the signing ceremony, CTO Park Ha-eon emphasized that the scope of discussions on AI safety is rapidly expanding. He explained that the focus is shifting from the safety of existing text-based output to the 'behavior' of AI agents, and further to the safety of 'physical AI' operating in actual physical environments.
It was pointed out that, particularly for AI operating in the physical world, errors are difficult to reverse, requiring an evaluation system and safeguards at a different level from existing ones.
Experts in the fields of bio, new drug, and AI research also participated in this meeting to discuss AI-based scientific and technological innovation and directions for global cooperation. The participants reached a consensus that Korea must transition into an AI-centric research ecosystem that organically connects data, models, and talent.
Aim Intelligence is building an integrated security system based on AI safety assessment and guardrail technology, extending to the realms of agent and physical AI. It is also participating in the standardization of safety assessment through cooperation with the Korea AI Safety Institute (AISI) and others.
CTO Park Ha-eon stated, “AI safety is no longer an option but a necessity,” adding, “Through this collaboration, Korea will be able to lead the global standards for agent and physical AI safety assessment.”
エイムインテリジェンス、課期正統部 – GoogleディープマインドMOU現場参加… 「AI安全グローバル標準が必要」
課期正統部 – GoogleディープマインドMOU現場参加… AI安全専門家による協力方向の提示
「テキスト→エージェント→フィジカルAI」…安全性評価基準全面再確立が必要
エイムインテリジェンス、過期正統部 – GoogleディープマインドMOU現場参加（写真提供：エイムインテリジェンス）
AI安全議論が新たな段階に入っている。 AIセキュリティ専門企業エイムインテリジェンス(代表ユ・サンユン)は科学技術情報通信部とグーグルディープマインド間MOU締結式および専門家懇談会にパク・ハオンCTOが参加して協力方向を提示したと明らかにした。
今回のMOUは科学技術AI共同研究、AI人材養成、責任あるAI活用を核心軸として推進され、グローバルAI協力の重要な転換点と評価される。
「AI安全、物理世界まで拡張」…評価基準の再確立が必要
締結式後に開かれた専門家懇談会で、パク・ハアンCTOはAI安全性議論の範囲が急速に拡大していると強調した。既存のテキストベースの出力安全性から、AIエージェントの「行動」、さらには実際の物理環境で動作する「フィジカルAI」安全性に中心が移動しているという説明だ。
特に物理世界で動作するAIの場合、エラー発生時に元に戻りにくい特性があり、従来とは異なるレベルの評価体系と安全装置が必要であることを指摘した。
今回の懇談会にはバイオ・新薬、AI研究分野の専門家も共に参加し、AIベースの科学技術革新とグローバル協力方向について議論を続けた。参加者たちは、韓国がデータ・モデル・人材を有機的に連結するAI中心の研究生態系に転換しなければならないということに共感を形成した。
エイムインテリジェンスは、AI安全性評価およびガードレール技術に基づいて、エージェントとフィジカルAI領域まで拡張された統合セキュリティ方式を構築している。韓国ＡＩ安全研究所（ＡＩＳＩ）などとの協力を通じて安全性評価標準化にも参加中だ。
パク・ハアンCTOは「AIの安全性はもう選択ではない必須要素」とし「今回の協力をきっかけに韓国がエージェントおよびフィジカルAI安全性評価のグローバル標準を先導できるだろう」と明らかにした。
Aim Intelligence参与了韩国科学技术信息技术部（MSIT）与谷歌DeepMind签署合作备忘录……“亟需制定人工智能安全全球标准”
科学技术信息通信部参与与谷歌DeepMind的合作备忘录签署仪式……作为人工智能安全专家，提出合作方向建议
“文本→代理→物理人工智能”……需要彻底重建安全评估标准
Aim Intelligence 参与了韩国科学技术信息通信部与谷歌 DeepMind 之间的合作备忘录签署仪式（图片由 Aim Intelligence 提供）。
关于人工智能安全的讨论正进入一个新阶段。人工智能安全专家Aim Intelligence（首席执行官柳相允）宣布，其首席技术官朴河延出席了韩国科学技术信息通信部与谷歌DeepMind的合作备忘录签署仪式暨专家会议，并就合作方向提出了建议。
该谅解备忘录以在科学技术领域开展人工智能联合研究、培养人工智能人才以及负责任地使用人工智能为核心支柱，被认为是全球人工智能合作的一个重要转折点。
“人工智能安全延伸至物理世界”……需要重新建立评估标准
在签约仪式后举行的专家咨询会上，首席技术官朴夏渊强调，关于人工智能安全性的讨论范围正在迅速扩大。他解释说，讨论的重点正从现有基于文本的输出的安全性转向人工智能代理的“行为”，并进一步转向在实际物理环境中运行的“物理人工智能”的安全性。
有人指出，特别是对于在物理世界中运行的人工智能而言，错误很难逆转，因此需要与现有系统和保障措施不同级别的评估系统和保障措施。
来自生物技术、新药研发和人工智能研究领域的专家也参加了此次会议，共同探讨基于人工智能的科技创新以及全球合作方向。与会者一致认为，韩国必须转型为以人工智能为中心的科研生态系统，将数据、模型和人才有机地连接起来。
Aim Intelligence正在构建一个基于人工智能安全评估和防护栏技术的集成安全系统，并将应用范围扩展到智能体人工智能和物理人工智能领域。该公司还与韩国人工智能安全研究院（AISI）等机构合作，参与安全评估的标准化工作。
首席技术官朴夏渊表示：“人工智能安全不再是可选项，而是必需品。”他补充道：“通过此次合作，韩国将能够引领全球智能体和物理人工智能安全评估标准。”
Aim Intelligence participe à la signature d'un protocole d'entente entre MSIT et Google DeepMind… « Des normes mondiales pour la sécurité de l'IA sont nécessaires »
Le ministère des Sciences et des TIC participe à la cérémonie de signature d'un protocole d'entente avec Google DeepMind… et propose des pistes de coopération en tant qu'experts en sécurité de l'IA.
« Texte → Agent → IA physique »… Nécessité de rétablir complètement les normes d’évaluation de la sécurité
Aim Intelligence participe à la cérémonie de signature du protocole d'accord entre le ministère des Sciences et des TIC et Google DeepMind (Photo fournie par Aim Intelligence)
Les discussions sur la sécurité de l'IA entrent dans une nouvelle phase. Aim Intelligence, spécialiste de la sécurité de l'IA (PDG : Yoo Sang-yoon), a annoncé que son directeur technique, Park Ha-eon, a participé à la cérémonie de signature du protocole d'accord et à la réunion d'experts entre le ministère des Sciences et des TIC et Google DeepMind afin de présenter les orientations de la coopération.
Ce protocole d'entente, qui repose sur la recherche conjointe en IA dans les sciences et les technologies, la formation des talents en IA et l'utilisation responsable de l'IA, constitue un tournant majeur dans la coopération mondiale en matière d'IA.
« La sécurité de l’IA s’étend au monde physique »… Nécessité de redéfinir les critères d’évaluation
Lors d'une consultation d'experts organisée à la suite de la cérémonie de signature, le directeur technique Park Ha-eon a souligné que le champ des discussions sur la sécurité de l'IA s'élargit rapidement. Il a expliqué que l'attention se déplace de la sécurité des données textuelles existantes vers le « comportement » des agents d'IA, puis vers la sécurité de l'« IA physique » opérant dans des environnements physiques réels.
Il a été souligné que, notamment pour les IA opérant dans le monde physique, les erreurs sont difficiles à corriger, ce qui nécessite un système d'évaluation et des garanties d'un niveau différent de ceux existants.
Des experts en biotechnologie, en recherche sur les nouveaux médicaments et en intelligence artificielle ont également participé à cette réunion afin d'échanger sur l'innovation scientifique et technologique fondée sur l'IA et sur les orientations de la coopération internationale. Les participants se sont accordés sur la nécessité pour la Corée de se doter d'un écosystème de recherche centré sur l'IA, qui intègre harmonieusement données, modèles et talents.
Aim Intelligence développe un système de sécurité intégré basé sur l'évaluation de la sécurité par l'IA et des mécanismes de protection, s'étendant aux domaines de l'IA physique et des agents. L'entreprise participe également à la normalisation de l'évaluation de la sécurité en collaboration avec l'Institut coréen de sécurité de l'IA (AISI) et d'autres organismes.
Le directeur technique Park Ha-eon a déclaré : « La sécurité de l'IA n'est plus une option, mais une nécessité », ajoutant : « Grâce à cette collaboration, la Corée sera en mesure de devenir un chef de file mondial en matière de normes d'évaluation de la sécurité des agents et des systèmes d'IA physiques. »
댓글
0