AI 에이전트 답변·실행 검증하는 ‘AI 트러스트 레이어’ 개발
금융권 중심 기술 검증 진행… 창업 8개월 만에 누적 투자 49억 원 유치
AI 에이전트 신뢰성 검증 스타트업 티냅스(대표 강민승)가 중소벤처기업부 기술창업 지원 프로그램 팁스(TIPS)에 최종 선정됐다.
티냅스는 매쉬업벤처스 추천으로 이번 팁스에 선정됐으며, 최대 8억 원 규모의 연구개발(R&D) 지원금을 확보하게 됐다. 앞서 매쉬업벤처스의 프리시드 투자 이후 약 45억 원 규모의 시드 투자도 유치하며 창업 8개월 만에 누적 투자금 49억 원을 기록했다. 티냅스는 금융·공공 분야처럼 높은 신뢰성과 규제가 요구되는 환경을 중심으로 AI 에이전트의 답변과 시스템 실행을 실시간 검증하는 ‘AI 트러스트 레이어(AI Trust Layer)’를 개발하고 있다.
AI 에이전트 신뢰성 확보… 위험 실시간 차단하는 ‘티냅스’ 팁스 선정 (자료 제공: 매쉬업벤처스)
AI 오류·환각·탈옥 시도 실시간 차단
티냅스 기술의 핵심은 AI 결과물이 외부로 전달되기 전 실행 단계에서 문제를 선제적으로 차단하는 데 있다. 검증 대상은 잘못된 근거 기반 오답과 수치·논리 오류, 내부 정보 유출, 탈옥(Jailbreak) 시도 등이다. AI 에이전트가 생성한 답변과 실행 결과를 실시간으로 검토해 위험 요소를 차단하는 구조다.
또한 모든 판단 과정은 변조 방지 형태의 감사 기록으로 자동 저장된다. 이를 통해 사고 발생 시 책임 소재를 명확히 입증할 수 있도록 했다.
이번 팁스 선정 과정에서도 실시간 검증 기술과 책임 추적 체계의 기술적 완성도가 높게 평가된 것으로 알려졌다.
티냅스는 강민승 대표가 금융권 스타트업 CTO로 재직하며 경험한 AI 운영 리스크 문제의식에서 출발했다.
여기에 구글 리서치 출신 AI 연구자와 대규모 트래픽 처리 경험을 보유한 엔지니어들이 합류해 기술력과 산업 이해도를 동시에 갖춘 팀을 구축했다.
회사는 현재 국내 주요 시중은행과 기술 검증(PoC)을 진행 중이며, 엔비디아(NVIDIA), 스노우플레이크(Snowflake) 등 글로벌 빅테크 기업이 주최한 스타트업 경진대회에서도 아시아 지역 유일 상위권에 오르며 기술력을 인정받았다.
강민승 티냅스 대표는 “금융권 기술 검증 과정에서 실제로 발생하는 업무 오류 유형을 데이터로 축적해 금융 특화 AI 검증 모델을 고도화할 계획”이라며 “향후 의료·공공 등 높은 신뢰성과 규제가 요구되는 산업으로 단계적으로 확장해 나가겠다”고 말했다.
티냅스에 팁스 추천을 진행한 매쉬업벤처스 이승국 파트너는 “AI 도입 과정의 병목이 모델 성능보다 실제 운영 환경에서의 신뢰성 문제로 이동하고 있다”며 “티냅스는 현장에 즉시 적용 가능한 안정적인 AI 인프라를 구축해 나가는 팀”이라고 평가했다.
AI보안
AI신뢰성
AI에이전트
AI환각
금융AI
매쉬업벤처스
생성형AI
스타트업
티냅스
팁스
“Real-time Blocking of AI Hallucinations and Data Leaks”… TINAPS Selected for TIPS for AI Reliability Technology
TINAPS (CEO Kang Min-seung), a startup specializing in AI agent reliability verification, has been finally selected for the Ministry of SMEs and Startups' Technology Innovation Program for Startups (TIPS).
TINAPS was selected for the TIPS program through a recommendation from Mashup Ventures, securing up to 800 million won in research and development (R&D) funding. Following a pre-seed investment from Mashup Ventures, the company also attracted a seed investment of approximately 4.5 billion won, bringing its total accumulated investment to 4.9 billion won just eight months after its founding. TINAPS is developing an 'AI Trust Layer' that verifies AI agent responses and system execution in real time, focusing on environments requiring high reliability and regulation, such as the financial and public sectors.
Ensuring AI Agent Reliability… 'T-NAPS' Selected for TIPS to Block Risks in Real-Time (Source: Mashup Ventures)
Real-time blocking of AI errors, hallucinations, and prison break attempts
The core of TINAPS technology lies in preemptively blocking problems during the execution phase before AI results are transmitted externally. Verification targets include incorrect answers based on flawed reasoning, numerical and logical errors, internal information leakage, and jailbreak attempts. The structure blocks risk factors by reviewing the responses generated by AI agents and execution results in real-time.
In addition, all decision-making processes are automatically saved as tamper-proof audit records. This ensures that liability can be clearly established in the event of an accident.
It is reported that the technical completeness of the real-time verification technology and liability tracking system was highly evaluated during the recent TIPS selection process.
Tinaps originated from CEO Kang Min-seung's awareness of the AI operational risks he experienced while serving as a CTO at a financial startup.
AI researchers from Google Research and engineers with experience in handling large-scale traffic have joined forces to build a team equipped with both technical prowess and industry understanding.
The company is currently conducting a proof-of-concept (PoC) with major domestic commercial banks and has received recognition for its technological capabilities by being the only Asian participant to rank in the top tier at a startup competition hosted by global big tech firms such as NVIDIA and Snowflake.
Kang Min-seung, CEO of TINAPS, stated, “We plan to enhance our finance-specific AI verification model by accumulating data on the types of business errors that actually occur during the technology verification process in the financial sector,” adding, “We will gradually expand into industries requiring high reliability and regulation, such as healthcare and the public sector, in the future.”
Lee Seung-guk, a partner at Mashup Ventures who recommended TINAPS for the TIPS program, stated, “The bottleneck in the AI adoption process is shifting from model performance to reliability issues in actual operating environments,” and assessed that “TINAPS is a team building a stable AI infrastructure that can be immediately applied in the field.”
「AI幻覚・情報流出リアルタイム遮断」…ティナプス、AI信頼性技術でチップスを選定
AIエージェントの信頼性検証スタートアップTinaps（代表カン・ミンスン）が中小ベンチャー企業部技術創業支援プログラムティップス（TIPS）に最終選定された。
ティナプスはマッシュアップベンチャーズの推薦で今回のチップスに選定され、最大8億ウォン規模の研究開発(R&D)支援金を確保することになった。これに先立ち、マッシュアップベンチャーズのプレシード投資以来、約45億ウォン規模のシード投資も誘致し、創業8ヶ月ぶりに累積投資金49億ウォンを記録した。ティナプスは金融・公共分野のように高い信頼性と規制が要求される環境を中心に、AIエージェントの回答とシステム実行をリアルタイムで検証する「AI Trust Layer」を開発している。
AIエージェントの信頼性を確保…リスクリアルタイムブロックする「ティナプス」チップス選定（資料提供：マッシュアップベンチャーズ）
AIエラー・幻覚・脱獄試みリアルタイム遮断
ティナプス技術の核心は、AIの結果が外部に配信される前の実行段階で問題を先制的にブロックすることです。検証対象は、誤った根拠ベースの誤解と数値・論理エラー、内部情報の流出、脱獄（Jailbreak）の試みなどだ。 AIエージェントが生成した回答と実行結果をリアルタイムで検討し、危険要素を遮断する仕組みだ。
また、全ての判定処理は、改ざん防止形態の監査記録として自動的に保存される。これにより事故発生時に責任素材を明確に立証できるようにした。
今回のチップス選定過程でもリアルタイム検証技術と責任追跡体系の技術的完成度が高く評価されたことが分かった。
ティナプスはカン・ミンスン代表が金融圏スタートアップCTOとして在職し、経験したAI運営リスク問題意識から出発した。
これにグーグルリサーチ出身のAI研究者と大規模なトラフィック処理経験を保有したエンジニアたちが合流し、技術力と産業理解度を同時に備えたチームを構築した。
同社は現在国内主要市中銀行と技術検証(PoC)を進行中であり、NVIDIA(NVIDIA)、スノーフレーク(Snowflake)などグローバルビッグテック企業が主催したスタートアップ競進大会でもアジア地域唯一上位圏に上がって技術力を認められた。
カン・ミンスン・ティナプス代表は「金融圏技術検証過程で実際に発生する業務エラーの種類をデータとして蓄積し、金融特化AI検証モデルを高度化する計画」とし「今後、医療・公共など高い信頼性と規制が要求される産業に段階的に拡張していく」と話した。
ティナプスにティップス推薦を進めたマッシュアップベンチャーズのイ・スングクパートナーは「AI導入過程のボトルネックがモデル性能よりも実際の運用環境での信頼性問題に移行している」とし、「ティナプスは現場にすぐに適用可能な安定したAIインフラを構築していくチーム」と評価した。
“实时阻止人工智能幻觉和数据泄露”……TINAPS入选人工智能可靠性技术TIPS项目
专注于人工智能代理可靠性验证的初创公司 TINAPS（CEO 姜敏胜）最终入选中小企业和创业部创业技术创新计划（TIPS）。
TINAPS凭借Mashup Ventures的推荐入选TIPS项目，获得了高达8亿韩元的研发资金。继Mashup Ventures的种子轮前投资之后，该公司又吸引了约45亿韩元的种子轮投资，使其在成立仅八个月后累计融资总额达到49亿韩元。TINAPS正在开发一种“AI信任层”，用于实时验证AI代理的响应和系统执行情况，主要应用于金融和公共部门等对可靠性和监管要求较高的领域。
确保人工智能代理的可靠性……“T-NAPS”入选TIPS计划，可实时拦截风险（来源：Mashup Ventures）
实时阻止人工智能错误、幻觉和越狱企图
TINAPS技术的核心在于预先阻止AI执行阶段的问题，防止其向外部传输结果。验证目标包括基于错误推理的错误答案、数值和逻辑错误、内部信息泄露以及越狱尝试。该架构通过实时审查AI代理生成的响应和执行结果来阻断风险因素。
此外，所有决策过程都会自动保存为防篡改的审计记录。这确保在发生事故时能够明确责任归属。
据报道，在最近的TIPS遴选过程中，实时验证技术和责任跟踪系统的技术完整性得到了高度评价。
Tinaps 的创立源于 CEO Kang Min-seung 在一家金融创业公司担任 CTO 时，对人工智能运营风险的认识。
来自谷歌研究院的人工智能研究人员和拥有处理大规模流量经验的工程师携手组建了一支兼具技术实力和行业洞察力的团队。
该公司目前正在与国内主要商业银行进行概念验证 (PoC)，并因其技术能力而获得认可，成为唯一一家在由 NVIDIA 和 Snowflake 等全球大型科技公司主办的创业大赛中跻身顶尖行列的亚洲参赛者。
TINAPS 首席执行官康敏胜表示：“我们计划通过积累金融领域技术验证过程中实际发生的业务错误类型的数据，来增强我们专门针对金融领域的 AI 验证模型。”他补充道：“未来，我们将逐步扩展到医疗保健和公共部门等需要高可靠性和监管的行业。”
Mashup Ventures 的合伙人 Lee Seung-guk 向 TIPS 计划推荐了 TINAPS，他表示：“人工智能应用过程中的瓶颈正在从模型性能转向实际运行环境中的可靠性问题”，并评估认为“TINAPS 团队正在构建一个稳定的人工智能基础设施，可以立即应用于实际领域”。
« Blocage en temps réel des hallucinations de l'IA et des fuites de données »… TINAPS sélectionné pour le programme TIPS en matière de technologie de fiabilité de l'IA
TINAPS (PDG Kang Min-seung), une startup spécialisée dans la vérification de la fiabilité des agents d'IA, a finalement été sélectionnée pour le programme d'innovation technologique pour les startups (TIPS) du ministère des PME et des Startups.
TINAPS a été sélectionnée pour le programme TIPS grâce à une recommandation de Mashup Ventures, obtenant ainsi un financement de recherche et développement (R&D) pouvant atteindre 800 millions de wons. Après un premier investissement d'amorçage de Mashup Ventures, la société a également levé environ 4,5 milliards de wons lors d'un second tour de table, portant son investissement total cumulé à 4,9 milliards de wons seulement huit mois après sa création. TINAPS développe une « couche de confiance IA » qui vérifie en temps réel les réponses des agents d'IA et l'exécution du système, en ciblant les environnements exigeant une fiabilité et une réglementation élevées, tels que les secteurs financier et public.
Garantir la fiabilité des agents d'IA… « T-NAPS » sélectionné pour TIPS afin de bloquer les risques en temps réel (Source : Mashup Ventures)
Blocage en temps réel des erreurs d'IA, des hallucinations et des tentatives d'évasion.
La technologie TINAPS repose sur le blocage préventif des problèmes lors de la phase d'exécution, avant même la transmission des résultats de l'IA. Les cibles de vérification incluent les réponses incorrectes dues à des raisonnements erronés, les erreurs numériques et logiques, les fuites d'informations internes et les tentatives de jailbreak. L'architecture bloque les facteurs de risque en analysant en temps réel les réponses générées par les agents d'IA et les résultats d'exécution.
De plus, tous les processus décisionnels sont automatiquement enregistrés sous forme de documents d'audit infalsifiables. Cela permet d'établir clairement les responsabilités en cas d'accident.
Il est rapporté que l'exhaustivité technique de la technologie de vérification en temps réel et du système de suivi des responsabilités a été très bien évaluée lors du récent processus de sélection de TIPS.
Tinaps est né de la prise de conscience par le PDG Kang Min-seung des risques opérationnels liés à l'IA qu'il a rencontrés lorsqu'il était directeur technique dans une start-up financière.
Des chercheurs en intelligence artificielle de Google Research et des ingénieurs expérimentés dans la gestion du trafic à grande échelle ont uni leurs forces pour constituer une équipe dotée à la fois de compétences techniques pointues et d'une connaissance approfondie du secteur.
L'entreprise mène actuellement une preuve de concept (PoC) avec les principales banques commerciales nationales et a été reconnue pour ses capacités technologiques en étant le seul participant asiatique à se classer dans le premier rang d'un concours de startups organisé par de grandes entreprises technologiques mondiales telles que NVIDIA et Snowflake.
Kang Min-seung, PDG de TINAPS, a déclaré : « Nous prévoyons d'améliorer notre modèle de vérification par IA spécifique au secteur financier en accumulant des données sur les types d'erreurs commerciales qui se produisent réellement lors du processus de vérification technologique dans le secteur financier », ajoutant : « Nous nous étendrons progressivement à l'avenir à des secteurs exigeant une fiabilité et une réglementation élevées, tels que la santé et le secteur public. »
Lee Seung-guk, associé chez Mashup Ventures et qui a recommandé TINAPS pour le programme TIPS, a déclaré : « Le principal obstacle au processus d'adoption de l'IA passe des performances des modèles aux problèmes de fiabilité dans les environnements d'exploitation réels », et a estimé que « TINAPS est une équipe qui construit une infrastructure d'IA stable pouvant être immédiatement appliquée sur le terrain ».
댓글
0