생성형 AI 표시의무, 취지 공감 속 기준·책임 불명확으로 현장 혼선
위험도 기반 차등 적용·책임 구조 명확화 등 제도 보완 필요
스타트업얼라이언스, AI기본법 ‘표시의무’ 이슈페이퍼 발간 (자료 제공: 스타트업얼라이언스)
AI 규제의 핵심 쟁점으로 떠오른 ‘표시의무’를 둘러싼 산업 현장의 고민이 구체화되고 있다. 스타트업얼라이언스(공동대표 임정욱·이기대)는 생성형 AI 결과물 표시의무의 시행 현황과 주요 이슈를 분석한 이슈페이퍼 「AI기본법 ‘표시의무’, 현장은 무엇을 고민하는가」를 발간했다고 밝혔다.
이번 보고서는 2026년 1월 시행된 AI기본법 적용 이후 약 3개월간의 현장 상황을 점검하고, 제도의 실효성과 개선 방향을 도출하기 위해 마련됐다. 현재 표시의무는 약 1년간의 계도기간이 적용된 상태다.
보고서에 따르면 산업계는 딥페이크와 허위정보 확산 대응, 이용자 알 권리 보장이라는 정책 취지에는 대체로 공감하고 있다. 그러나 실제 서비스 환경에서는 적용 범위와 기준이 명확하지 않아 혼선이 발생하고 있는 것으로 나타났다.
적용 기준·책임 구조 모호…현실 반영한 제도 설계 요구
특히 AI 생성물의 범위를 어디까지로 볼 것인지가 주요 쟁점으로 지적됐다. 단순 생성형 콘텐츠뿐 아니라, AI가 일부 보완하거나 추천·번역·음성 변환 등 기능에 관여한 경우까지 포함되는지에 대한 기준이 불명확하다는 것이다.
기술적 한계도 문제로 제기됐다. 텍스트 표시의 경우 복사·붙여넣기 과정에서 쉽게 사라질 수 있고, 이미지·영상 워터마크 역시 편집 과정에서 제거될 가능성이 있어 실질적 효과와 제도 간 괴리가 존재한다는 지적이다. 반복적인 표시로 인한 ‘경고 피로’ 현상 가능성도 언급됐다.
또한 AI 모델 개발사부터 서비스 사업자까지 연결된 복합 구조에서 표시의무의 책임 주체가 불명확한 점도 핵심 이슈로 꼽혔다. B2B2C, B2B2G 환경이 확산되는 가운데, 책임 범위 설정에 대한 명확한 기준이 필요하다는 의견이다.
보고서는 계도기간 동안 제도의 취지를 유지하면서 산업 현실과의 정합성을 높이기 위한 보완이 필요하다고 제언했다. 구체적으로 ▲위험도 기반 차등 표시 ▲기술중립적 접근 ▲책임 구조 명확화 ▲중복 규제 정비 ▲글로벌 기준과의 정합성 확보 등을 주요 과제로 제시했다.
스타트업얼라이언스 임정욱 대표는 “계도기간은 제도를 유예하는 시간이 아니라 현장의 목소리를 반영해 정교하게 설계할 수 있는 기회”라며 “표시의무가 산업 부담이 아닌 신뢰 기반으로 작동할 수 있도록 지속적인 논의가 필요하다”고 강조했다.
AI거버넌스
AI규제
AI기본법
AI윤리
디지털정책
딥페이크
생성형AI
스타트업얼라이언스
스타트업정책
표시의무
Startup Alliance Conducts On-Site Assessment of 'AI Disclosure Obligations'… "System Refinement Needed During Grace Period"
Mandatory Disclosure for Generative AI: Confusion in the Field Due to Unclear Standards and Responsibilities, Despite Agreement on Purpose
Improvements to the system are needed, such as differentiated application based on risk and clarification of the liability structure.
Startup Alliance Publishes Issue Paper on AI Framework Act 'Disclosure Obligations' (Source: Startup Alliance)
Concerns within the industry regarding the 'disclosure obligation,' which has emerged as a key issue in AI regulation, are becoming more concrete. The Startup Alliance (co-representatives Lim Jung-wook and Lee Ki-dae) announced the publication of an issue paper titled "AI Framework Act 'Disclosure Obligation': What Is the Industry Concerned About," which analyzes the implementation status and major issues of the disclosure obligation for generative AI results.
This report was prepared to review the situation on the ground for approximately three months following the implementation of the AI Framework Act in January 2026, and to identify the effectiveness of the system and directions for improvement. Currently, a grace period of about one year is in effect for the labeling obligation.
According to the report, the industry generally agrees with the policy objectives of responding to the spread of deepfakes and misinformation and guaranteeing users' right to know. However, it was found that confusion is occurring in actual service environments due to unclear scope and standards of application.
Ambiguous application criteria and responsibility structure… Call for system design that reflects reality
In particular, the extent to which the scope of AI-generated content should be defined has been pointed out as a major point of contention. It is unclear whether the criteria include not only simple generated content but also cases where AI partially complements or is involved in functions such as recommendations, translation, and speech conversion.
Technical limitations were also raised as an issue. It was pointed out that there is a discrepancy between the actual effectiveness and the system, as text displays can easily disappear during the copy-and-paste process, and image and video watermarks are also likely to be removed during editing. The possibility of "warning fatigue" caused by repetitive displays was also mentioned.
In addition, the ambiguity regarding the responsible party for disclosure obligations within the complex structure connecting AI model developers to service providers was cited as a key issue. With the expansion of B2B2C and B2B2G environments, there is a consensus that clear standards for defining the scope of liability are necessary.
The report suggested that improvements are necessary during the grace period to enhance alignment with industrial realities while maintaining the intent of the system. Specifically, it identified key tasks such as risk-based differential labeling, a technology-neutral approach, clarification of liability structures, streamlining of overlapping regulations, and ensuring alignment with global standards.
Lim Jung-wook, CEO of Startup Alliance, emphasized, “The grace period is not a time to postpone the system, but an opportunity to design it meticulously by reflecting voices from the field,” adding that “continuous discussion is necessary to ensure that labeling obligations operate based on trust rather than becoming a burden on the industry.”
スタートアップアライアンス、「AI表示義務」現場診断… 「系図期間内の制度精巧化が必要」
生成型AI表示義務、趣旨共感の中基準・責任不明確で現場混線
危険度ベースの差分適用・責任構造の明確化など制度補完が必要
スタートアップアライアンス、AI基本法「表示義務」イシューペーパー発行（資料提供：スタートアップアライアンス）
AI規制の核心問題として浮上した「表示義務」をめぐる産業現場の悩みが具体化されている。スタートアップアライアンス（共同代表イム・ジョンウク・イ・ギデ）は、生成型ＡＩ結果物表示義務の施行現況と主要イシューを分析したイシューペーパー「ＡＩ基本法「表示義務」、現場は何を悩むか」を発刊したと明らかにした。
今回の報告書は、2026年1月に施行されたAI基本法適用後約3ヶ月間の現場状況を点検し、制度の実効性と改善方向を導出するために設けられた。現在の表示義務は約1年間の系統期間が適用された状態だ。
報告書によると、産業界はディープフェイクと虚偽情報拡散対応、利用者の知る権利保障という政策趣旨には概ね共感している。しかし、実際のサービス環境では、適用範囲と基準が明確ではなく、混線が発生していることが分かった。
適用基準・責任構造曖昧…現実に反映した制度設計要求
特にAI製品の範囲をどこまでと見るかが主な問題として指摘された。単純生成型コンテンツだけでなく、AIが一部補完するか、推奨・翻訳・音声変換など機能に関与した場合まで含まれるかに対する基準が不明確だということだ。
技術的限界も問題として提起された。テキスト表示の場合、コピー・貼り付け過程で簡単に消えることができ、画像・映像の透かしも編集過程で除去される可能性があり、実質的な効果と制度間の乖離が存在するという指摘だ。繰り返し表示による「警告疲労」現象の可能性も言及された。
また、AIモデル開発会社からサービス事業者までつながった複合構造で、表示義務の責任主体が不明確な点も核心課題に挙げられた。 B2B2C、B2B2G環境が広がる中で、責任範囲の設定に対する明確な基準が必要だという意見だ。
報告書は、系図期間中に制度の趣旨を維持しながら、産業現実との整合性を高めるための補完が必要だと提言した。具体的に▲リスクも基盤の差分表示▲技術中立的アプローチ▲責任構造の明確化▲重複規制整備▲グローバル基準との整合性確保などを主要課題として提示した。
スタートアップアライアンスのイム・ジョンウク代表は「系図期間は制度を猶予する時間ではなく、現場の声を反映して精巧に設計できる機会」とし、「表示義務が産業負担ではなく信頼基盤で動作できるように継続的な議論が必要だ」と強調した。
创业联盟对“人工智能信息披露义务”进行现场评估……“宽限期内需要完善系统”
生成式人工智能强制披露：尽管目标一致，但由于标准和责任不明确，该领域仍存在混乱。
该系统需要改进，例如根据风险进行差异化应用，以及明确责任结构。
创业联盟发布关于人工智能框架法案“信息披露义务”的议题文件（来源：创业联盟）
人工智能监管中的关键问题之一——“信息披露义务”——在业界引发的担忧日益具体化。创业联盟（联合代表林正旭和李基大）宣布发布一份题为《人工智能框架法案“信息披露义务”：业界担忧之处》的议题文件，该文件分析了生成式人工智能结果信息披露义务的实施现状及主要问题。
本报告旨在回顾人工智能框架法案于2026年1月实施后约三个月的实际情况，并评估该系统的有效性，提出改进方向。目前，标签义务的宽限期约为一年。
报告指出，业界普遍认同应对深度伪造和虚假信息传播、保障用户知情权的政策目标。然而，由于适用范围和标准不明确，实际服务环境中存在一些混乱。
应用标准和责任结构模糊不清……呼吁设计能够反映现实的系统。
尤其值得注意的是，人工智能生成内容的范围界定一直是一个主要的争议点。目前尚不清楚，这些标准是否不仅包括简单的生成内容，还包括人工智能部分补充或参与推荐、翻译和语音转换等功能的情况。
技术限制也是一个被提出的问题。有人指出，实际效果与系统预期存在差距，因为文本显示很容易在复制粘贴过程中消失，图像和视频水印也容易在编辑过程中被移除。此外，重复显示警告信息可能导致“警告疲劳”。
此外，人工智能模型开发者与服务提供商之间复杂的架构中，信息披露责任主体的模糊性也被认为是一个关键问题。随着B2B2C和B2B2G环境的扩展，人们普遍认为，制定明确的责任范围标准至关重要。
该报告指出，在过渡期内需要进行改进，以增强与行业实际情况的契合度，同时保持体系的初衷。具体而言，报告确定了关键任务，例如基于风险的差异化标签、技术中立的方法、明确责任结构、简化重叠的法规以及确保与全球标准保持一致。
创业联盟首席执行官林正旭强调：“宽限期不是推迟实施该制度的时间，而是通过反映业界的声音来精心设计该制度的机会。”他还补充说，“必须持续讨论，以确保标签义务在信任的基础上运作，而不是成为行业的负担。”
Startup Alliance réalise une évaluation sur site des « obligations de divulgation en matière d'IA »… « Amélioration du système nécessaire pendant la période de grâce »
Divulgation obligatoire pour l'IA générative : confusion dans le domaine due à des normes et des responsabilités floues, malgré un consensus sur l'objectif.
Des améliorations du système sont nécessaires, telles qu'une application différenciée en fonction du risque et une clarification de la structure de responsabilité.
Startup Alliance publie un document de travail sur les « obligations de divulgation » de la loi-cadre relative à l'IA (Source : Startup Alliance)
Les préoccupations du secteur concernant l’« obligation de divulgation », devenue un enjeu majeur de la réglementation de l’IA, se précisent. La Startup Alliance (co-représentée par Lim Jung-wook et Lee Ki-dae) a annoncé la publication d’un document de synthèse intitulé « Loi-cadre sur l’IA : Obligation de divulgation – Quelles sont les préoccupations du secteur ? », qui analyse l’état d’avancement et les principaux enjeux de l’obligation de divulgation des résultats de l’IA générative.
Ce rapport a été établi afin d'analyser la situation sur le terrain pendant les trois mois suivant la mise en œuvre de la loi-cadre sur l'IA en janvier 2026, et d'évaluer l'efficacité du système ainsi que les pistes d'amélioration. Actuellement, un délai de grâce d'environ un an est accordé pour l'obligation d'étiquetage.
D'après le rapport, le secteur adhère globalement aux objectifs politiques visant à lutter contre la propagation des deepfakes et de la désinformation et à garantir le droit à l'information des utilisateurs. Toutefois, il a été constaté que la mise en œuvre concrète des services engendre une certaine confusion en raison du manque de clarté quant au périmètre et aux normes d'application.
Critères d’application et structure de responsabilité ambigus… Appel à une conception du système qui reflète la réalité
En particulier, la définition précise du champ d'application des contenus générés par l'IA fait l'objet de vifs débats. Il n'est pas clair si les critères englobent non seulement les contenus générés de manière simple, mais aussi les cas où l'IA complète partiellement ou participe à des fonctions telles que les recommandations, la traduction et la synthèse vocale.
Des limitations techniques ont également été soulevées. Il a été constaté un décalage entre l'efficacité réelle et le fonctionnement du système : les textes peuvent facilement disparaître lors des opérations de copier-coller, et les filigranes des images et des vidéos risquent d'être supprimés lors de l'édition. Le risque de lassitude face à ces affichages répétitifs a également été évoqué.
Par ailleurs, l'ambiguïté concernant la partie responsable des obligations de divulgation au sein de la structure complexe reliant les développeurs de modèles d'IA aux prestataires de services a été citée comme un problème majeur. Avec l'essor des environnements B2B2C et B2B2G, il existe un consensus sur la nécessité de normes claires pour définir l'étendue de la responsabilité.
Le rapport suggère que des améliorations sont nécessaires durant la période de transition afin de mieux s'adapter aux réalités industrielles tout en préservant l'esprit du système. Il identifie notamment des tâches clés telles que l'étiquetage différencié fondé sur les risques, une approche technologiquement neutre, la clarification des structures de responsabilité, la simplification des réglementations redondantes et la garantie de l'alignement sur les normes internationales.
Lim Jung-wook, PDG de Startup Alliance, a souligné : « La période de grâce n'est pas un moment pour reporter le système, mais une opportunité de le concevoir méticuleusement en tenant compte des avis du secteur », ajoutant que « des discussions continues sont nécessaires pour garantir que les obligations d'étiquetage fonctionnent sur la base de la confiance plutôt que de devenir un fardeau pour l'industrie ».
댓글
0