AI Trust Stack — 콘텐츠·신원·에이전트, 세 층으로 나뉘는 신뢰 인프라

왜 지금 이 질문인가

AI가 만드는 콘텐츠가 점점 늘어난다. 이미지, 영상, 목소리, 글까지 사람이 만든 것과 구분이 어려워지는 시기다. 여기서 두 가지 질문이 따라온다. “이걸 사람이 만든 건가, AI가 만든 건가.” 그리고 한 발 더 들어가면 — “이걸 한 사람이 누군가, 아니면 AI 에이전트가 사람 대신 한 건가.”

답을 자동으로 알려주는 인프라가 별도 시장으로 빠져나오기 시작했다. 워터마크, 콘텐츠 출처 표준, 홍채 인증, 분산 신원, 딥페이크 탐지 SaaS — 다 같은 질문에 다른 각도로 답하는 도구들이다. 이 시장의 윤곽이 2026년 상반기 몇 주 사이에 한꺼번에 드러났다.

한 주 사이에 벌어진 일

2026년 5월 19일, Google I/O 2026 키노트. Google DeepMind는 SynthID Detector 포털을 공개했다. SynthID는 Google이 만든 AI 콘텐츠 워터마크 기술이다. 만들 때 사람이 인지할 수 없는 신호를 콘텐츠 안에 박아두고, 나중에 그 신호를 읽어 AI 생성 여부를 확인한다. 새로 공개된 Detector는 사용자가 이미지·오디오·비디오·텍스트를 업로드하면 어느 구간이 AI 생성물인지 하이라이트해주는 독립 웹 포털이다. 같은 발표에서 SynthID 누적 워터마크 처리량이 이미지·비디오 1,000억 건, 오디오 60,000년치를 넘었다는 숫자가 함께 공개됐다. OpenAI, Kakao, ElevenLabs가 SynthID 채택사로 합류했다.

같은 시기, EU AI Act(유럽연합 AI 규제법) Article 50의 발효일이 2026년 8월 2일로 확정됐다. AI 생성 콘텐츠에 표시 의무를 강제하는 조항이다. 위반 시 최대 €15M 또는 글로벌 매출 3% 벌금. Sam Altman은 OpenAI의 신규 SNS에 World ID(홍채 스캔 기반 인간 증명)와 Apple Face ID를 통합 인증 후보로 검토 중이라는 보도가 나왔다. Defakto라는 회사는 Series B로 $30.75M을 유치했다 — 사람이 아닌 행위자(AI 에이전트, 봇, 머신)의 신원을 관리하는 카테고리, 흔히 비인간 신원(NHI, Non-Human Identity)이라고 부르는 영역이다.

흩어져 보이는 이 발표들은 같은 그림에 속해 있다. AI 생성물이 디폴트가 되는 시기, 신뢰는 별도 인프라 시장으로 빠져나오고 있다. 이 글은 그 시장이 어떻게 갈라지고 있는지를 데이터로 정리한다.

다섯 시장의 규모 → 다섯 레이어 → 일곱 갈래의 움직임 → 빅테크 다섯 진영 → VC가 베팅한 카테고리 → 규제가 만든 인접 시장 → 반대편 비판. 시리즈 첫 글이라 지도를 먼저 펼친다.

---

시장이 먼저 — 다섯 시장의 규모와 성장률

AI 신뢰 인프라는 시장조사사 기준으로 이미 다섯 개 카테고리로 쪼개져 트래킹된다.

시장 카테고리	2026 규모	2031–35 전망	CAGR
Fake Image Detection	$1.87B	$7.43B (2031)	31.7%
Deepfake Detection	$0.6B (2025)	$15.1B (2035)	37.2%
AI Detector	$0.98B	$7.84B (2035)	26.0%
Deepfake Technology (전체)	$11.18B	$51.4B (2034)	21%
Decentralized Identity	$7.4B (2026 추정)	—	—

CAGR(Compound Annual Growth Rate, 연평균 성장률) 기준으로 21에서 37%대다. 같은 기간 글로벌 SaaS 평균 CAGR이 13에서 15% 수준임을 고려하면 두 배 이상의 속도다.

성장의 출처는 두 가지로 드러난다. 첫째, 산업 사용. Mordor Intelligence는 BFSI(Banking·Financial Services·Insurance, 은행·증권·보험) 부문에서 KYC(Know Your Customer, 고객 신원 확인) 워크플로 업그레이드 수요가 가장 큰 동인이라고 본다. 둘째, 사기 위협의 절대량. 같은 보고서는 face-swap 사기 시도가 3년간 +2,137% 증가했다고 보고했다.

지역 편차도 크다. Asia Pacific의 fake image detection CAGR은 32.5%로 전 세계에서 가장 높다. Asia Pacific 안에서 한국은 토스·카카오뱅크·NICE·PASS 같은 본인인증·간편결제 인프라가 이미 자리잡은 시장이라, 이 흐름이 KYC 2.0 의제로 직접 옮겨붙는 구도다.

한 가지 짚을 점

다섯 시장 모두 AI 자체의 매출 성장과는 다른 곡선을 그린다. AI가 잘 풀리든 풀리지 않든 생성물 총량은 증가하고, 그 위에서 검증·인증 수요가 따라붙는다. VC들이 자주 쓰는 picks-and-shovels(곡괭이·삽) 비유가 들어맞는 카테고리에 가깝다. AI 자체 베팅이 부담스러운 자본도 여기로 모일 수 있는 이유다.

---

다섯 레이어 — 누가 어디에서 풀고 있나

신뢰를 어떻게 확보하느냐는 질문에는 한 가지 답이 없다. “만드는 순간에 표시한다”, “만든 다음에 찾는다”, “아예 진짜를 진짜로 미리 인증한다”, “파일에 도장처럼 메타데이터를 붙인다”, “콘텐츠가 아니라 만든 사람부터 검증한다” — 다섯 가지 접근이 동시에 진행되고 있다.

기술 접근은 다섯 레이어로 갈라져 있다. CB Insights, Help Net Security, Truepic 자체 분류를 종합하면 다음과 같다.

레이어	시점	대표 기업	한 줄
Capture-time	촬영·녹음 시점	Truepic, Sony Alpha, Canon EOS R, Nikon Z	진짜를 진짜로 증명
Generation-time	AI 생성 시점	SynthID(Google), OpenAI(채택), ElevenLabs	만들 때 표시
Post-hoc Detection	사후 탐지	Reality Defender, Sensity, Hive	와일드에서 찾기
Metadata / Cryptographic	외부 부착	C2PA, Adobe Content Credentials	메타데이터 + 암호 서명
Identity	행위자 인증	World ID, Privado, Indicio	누가 했는가

각 레이어의 작동 방식이 다르다.

Capture-time은 카메라 펌웨어가 촬영 순간에 해당 이미지를 암호서명한다. “이 사진은 X 카메라가 Y 시간에 찍은 진본”이라는 도장을 자동으로 박는 방식이다. Sony Alpha, Canon EOS R, Nikon Z가 2024년 펌웨어 업데이트로 C2PA(Coalition for Content Provenance and Authenticity, 콘텐츠 출처·진본성 연합) 호환 서명을 추가했다. Truepic은 이미지 진위 인증을 모바일 SDK 형태로 제공하는 회사로, 같은 방식을 보험 손해사정·재판 증거·저널리즘 시장에 판다. AI 탐지가 아니라 거꾸로 가는 접근이다 — 진본을 진본으로 묶어두는 쪽이다.

Generation-time은 AI 모델이 콘텐츠를 만드는 순간 픽셀, 오디오 샘플, 텍스트 토큰 확률에 사람이 인지할 수 없는 신호를 삽입한다. SynthID가 대표격. Google I/O 2026 발표 기준 누적 1,000억 건 이상 적용됐다. OpenAI는 ChatGPT·Codex·OpenAI API의 이미지 생성에 SynthID를 채택했고, ElevenLabs는 음성 합성에 적용 중이다.

Post-hoc Detection은 이미 인터넷에 풀린 콘텐츠를 사후에 분석한다. Reality Defender는 화상회의 스트림을 실시간 모니터링해 임원 사칭 딥페이크를 차단하는 데 특화돼 있다. Sensity는 멀티레이어 분석을 정부·기업 포렌식에 제공한다. Hive는 SaaS API로 미디어·SMB가 직접 통합한다.

Metadata / Cryptographic은 파일 메타 영역에 출처·생성 시점·사용 도구·서명을 외부 부착한다. 사진 EXIF 정보를 떠올리면 비슷하지만, 위조 방지를 위해 암호서명이 같이 붙는다. C2PA가 대표 표준이고, Adobe Creative Cloud, Firefly, Microsoft Edge, BBC News, New York Times가 채택사다.

Identity는 콘텐츠가 아니라 그 콘텐츠를 만든 행위자를 검증한다. World ID는 홍채 스캔으로 “이 사람은 고유한 인간임”을 한 번 증명한 다음, PoP(Proof of Personhood, 인간 증명) 토큰을 발급한다. 이 토큰을 ZKP(Zero-Knowledge Proof, 영지식증명 — 정보 자체는 노출하지 않으면서 사실만 증명하는 암호 기법)로 보호해 프라이버시를 지킨다. Privado, Indicio는 분산 신원(DID) 방식으로 사람·기관·기기·AI 에이전트가 모두 검증 가능한 신원을 갖도록 한다.

다섯 레이어가 따로 노는 것은 아니다. 시장 컨센서스는 단일 기법으로 충분치 않다는 쪽으로 모이고 있다. EU GPAI Code of Practice 초안도 multi-layered approach를 명시 요구한다.

---

일곱 갈래 — 같은 그림에서 갈라지는 움직임들

5-Layer가 기술이 갈라지는 방식이었다면, 다음은 시장에서 실제로 돈이 움직이는 방향이다. 같은 인프라 위에서 일곱 갈래의 움직임이 동시에 진행된다.

갈래 ① Provenance 표준 전쟁. C2PA(메타데이터 기반)와 SynthID(신호 임베드 기반)가 다른 레이어에서 비슷한 문제를 푼다. IPTC는 보도 사진 메타 표준으로 양쪽과 호환 작업 중이다. C2PA 회원사는 2021년 2월 founders 6개에서 2026년 1월 6,000개를 넘었다. SynthID는 채택사 모델로 100B 건을 찍었다. 어느 한쪽이 “이긴다”기보다 다른 레이어에서 공존하는 방향으로 보인다.

갈래 ② Identity-for-AI Agents. AI 에이전트가 사람 대신 결제하거나 행위할 때 “누가 시킨 인간인가”를 증명해야 한다는 카테고리다. Aembit 보고서 기준 비인간 신원(NHI)은 YoY(전년 대비) +44% 증가, 일부 환경에서는 머신:인간 비율이 144:1까지 올라갔다. World ID Full-Stack Proof of Human, t54 Labs(AI 에이전트 결제·컴플라이언스 스타트업), Defakto가 이 카테고리에 모여 있다.

갈래 ③ BFSI KYC 2.0. face-swap 사기 시도 +2,137%가 가장 직접 영향을 미치는 시장이다. 은행, 증권, 보험이 1차 구매자. Reality Defender, Sensity가 이 시장에 집중한다. 한국에서는 토스·카카오뱅크·NICE·PASS 같은 본인인증·금융 채널이 다음 KYC 업그레이드 의제로 자연스럽게 연결된다.

갈래 ④ Capture-Time Authentication. AI 탐지의 반대 방향. Truepic + Sony·Canon·Nikon 카메라 펌웨어. 저널리즘, 보험 손해사정, 재판 증거 시장이 1차 고객. “가짜를 가리는” 시장보다 작지만, B2B 수익성은 더 안정적이라는 평가가 많다.

갈래 ⑤ Detection-as-a-Service API. Hive, Reality Defender 등이 SaaS API화로 SMB·미디어가 직접 통합할 수 있게 했다. 가격은 호출당 과금 + 월간 구독 혼합. 콘텐츠 모더레이션 SaaS와 인접 시장이다.

갈래 ⑥ 규제·거버넌스 Co-Regulation. EU AI Act Article 50과 GPAI Code of Practice가 가장 강한 신호다. 한국 AI 기본법은 2026년 1월 시행됐고, 콘텐츠 표시 의무 조항이 포함됐다. 미국은 연방 단일 법안 대신 캘리포니아 AB 730, 텍사스 SB 751, 뉴욕 등 주별 deepfake 법안이 채택 중이다.

갈래 ⑦ 반작용(Counter-trends). 같은 그림의 그림자 부분이다. 대학과 해커 커뮤니티에서 watermark removal/spoofing 연구가 활발하다. arXiv 2505.23814 “Watermarking Without Standards Is Not AI Governance”는 표준 부재 상황에서 워터마킹이 거버넌스로 작동하지 못한다고 비판한다. World Privacy Forum은 C2PA가 메타데이터에 식별 가능한 작가 정보를 노출시킬 위험을 지적한다. Llama, Mistral 같은 open-source 모델에는 워터마크가 적용되지 않아 우회 경로가 열려 있다.

---

빅테크 다섯 진영 — 누가 무엇을 표준으로 미는가

표준 자체는 협력처럼 보이지만, 실제로 누가 어디에 채택하느냐가 시장 권력의 차이를 만든다. 빅테크 다섯 진영이 각자의 방식으로 트러스트 인프라를 자기 생태계 안에 묶고 있다.

진영	콘텐츠 트랙	신원 트랙	유통 채널
Google	SynthID	Google Account	Search · Chrome · Android
Sam Altman · OpenAI	ChatGPT 이미지에 SynthID 채택	World ID	신규 SNS 개발 중
Adobe · Microsoft	C2PA 오픈 표준	Entra ID	Creative Cloud · Office
Apple	미공개	Face ID + Passkey	iOS 생태계
Meta	C2PA 채택 + 자체 “Made with AI” 라벨	(Account 기반)	FB · IG · WhatsApp

진영 사이의 경쟁선은 표준 표면에서는 잘 드러나지 않는다. Google·OpenAI는 모두 SynthID를 쓰고, Adobe·Microsoft·Meta는 모두 C2PA에 합의돼 있다. 그러나 유통 채널을 보면 그림이 달라진다. Google은 Search·Chrome·Android에서 검증 UX를 갖고 있다. OpenAI는 신규 SNS로 자체 분배 채널을 만드는 중이다. Adobe·Microsoft는 생산 도구 안에서 자동 임베드한다. Apple은 OS 레벨 인증을 쥐고 있다.

표준화는 표면적으로 협력처럼 보이지만, 채택 채널과 검증 UX 권한은 각자 생태계 안에 가둬두는 구조다.

한 가지 짚을 점

이 진영도에서 자주 놓치는 부분은 Apple의 침묵이다. Apple은 콘텐츠 트랙에서 공식 입장을 거의 내지 않았다. 그러나 Face ID + Passkey + iCloud Photos + 카메라 펌웨어를 모두 통제하므로, 마음만 먹으면 capture-time + identity 두 레이어를 한 번에 묶을 수 있는 위치에 있다. 시장은 이 카드가 언제 풀리는지를 같이 보고 있다.

---

투자가 향한 곳 — VC가 베팅한 카테고리

2024–26년 펀딩 흐름을 보면 자본은 콘텐츠 트랙보다 신원·에이전트 트랙에 더 몰려 있다.

라운드	기업	금액	카테고리
Series B (2026)	Defakto	$30.75M (누적 $50M)	NHI 라이프사이클 관리
Seed (2025)	t54 Labs	$5M (Ripple · Franklin Templeton 참여)	AI 에이전트 결제·컴플라이언스
Strategic (2025)	Indicio	NEC X 투자	분산 신원(사람·기관·기기·AI 에이전트)

여기에 Okta Ventures가 2026년 1월 발표한 “2026 Identity 25”가 합쳐진다. Identity-for-AI라는 카테고리를 공식 신설하고 25개 기업을 선정해 트래킹한다. Help Net Security가 정리한 사이버 펀딩 리포트는 같은 시기 AI 보안 영역에 자본이 집중되고 있다고 보고했다.

Ripple과 Franklin Templeton이 t54 Labs 시드 라운드에 들어왔다는 점도 시그널이다. 결제·자산 운용 인프라 진영이 AI 에이전트 신원 시장을 자기들 인접 시장으로 본다는 의미다. AI 에이전트가 사람 대신 결제할 때 책임 추적 가능한 신원이 없으면 결제 인프라 자체가 흔들리기 때문이다.

콘텐츠 트랙은 빅테크 자체 R&D가 자본을 흡수하는 구조다. SynthID는 Google 내부, C2PA는 회원사 분담. 외부 VC가 들어갈 자리가 신원 트랙보다 좁다. Reality Defender, Truepic, Sensity 같은 검증·캡처 스타트업이 외부 자본의 주된 출구다.

---

규제가 만든 인접 시장 — EU · 한국 · 미국

규제는 시장 자체를 만든다. 2026–27년은 글로벌 표시 의무화의 transitional period(과도기)로 보인다.

EU AI Act Article 50. 발효일 2026년 8월 2일. AI 생성 이미지·비디오·오디오에 machine-readable 표시를 의무화한다. 워터마킹과 deepfake 공시를 동시에 요구한다. 벌금은 최대 €15M 또는 글로벌 매출 3%. GPAI Code of Practice는 2026년 5월에서 6월 사이에 최종안이 나오고, 워터마크 + 메타데이터 + 라벨을 동시에 쓰는 multi-layered 접근을 명시 요구한다. EU Council은 2026년 5월 7일 잠정 합의에서 transparency 솔루션 구현 grace period를 3개월로 단축했다.

한국 AI 기본법. 2026년 1월 시행. 고위험 AI 분류, 콘텐츠 표시 의무, 사업자 책임 조항을 포함한다. 표시 의무 조항은 EU와 호환 가능한 방향으로 설계됐다. 한국콘텐츠진흥원, 방송통신위원회가 가이드라인 추가 작업 중이다.

미국 주별 deepfake 법안. 연방 단일 법안 대신 주별 입법으로 진행 중이다. 캘리포니아 AB 730은 선거 관련 deepfake를, 텍사스 SB 751은 동의 없는 합성 콘텐츠를, 뉴욕 주법은 사칭형 deepfake를 다룬다. 적용 범위는 다르지만 공통적으로 공개(disclosure) 요건을 둔다.

세 권역의 입법 형태는 다르지만 방향은 같다. 디폴트 표시(default labeling)다. 컴플라이언스 컨설팅·솔루션이 인접 시장으로 부풀어 오르는 중이다. PwC, Deloitte 보고서가 AI Governance Advisory 라인을 별도 카테고리로 신설했다.

---

반대편 — 워터마크는 왜 깨지는가

같은 흐름의 그림자 부분이 따로 있다. 비판도 한 방향이 아니다.

표준 부재 비판. arXiv 2505.23814 “Watermarking Without Standards Is Not AI Governance”(2026년 5월)는 공통 robustness 벤치마크가 없는 상태에서 워터마킹은 거버넌스로 작동하지 않는다고 본다. 약한 워터마크를 구현하고 정책 언어와의 정합성을 주장하는 컴플라이언스 게이밍이 가능해진다는 지적이다.

구조적 결함 비판. arXiv 2603.26983 “Transparency as Architecture: Structural Compliance Gaps in EU AI Act Article 50 II”는 Article 50이 요구하는 “효과적·상호운용 가능·견고·신뢰 가능” 네 기준이 운용적으로 정의되지 않았다고 분석한다. 기술 표준이 아직 미정이라 검증 가능성 자체가 흔들린다.

프라이버시 비판. World Privacy Forum 보고서는 C2PA 메타데이터가 작가 식별, 워크플로 추적, 기기 정보를 누출할 위험을 짚는다. 출처 검증이라는 공익과 작가·기기 프라이버시 사이의 trade-off다.

우회 가능성. open-source 모델(Llama, Mistral, Stable Diffusion 등)에는 워터마크가 적용되지 않는다. 폐쇄형 모델만 워터마킹하면 우회 경로가 항상 열려 있다. watermark removal 학술 연구는 일부 워터마킹 기법에 대해 90% 이상 제거율을 보고했다.

비판들은 모두 같은 가정 위에 서 있다. 워터마크 단독으로는 거버넌스가 아니다. 신원·메타·캡처·탐지 다섯 레이어 조합 + 표준화된 검증 + 독립 감사가 같이 가야 한다는 쪽이다.

---

마무리 — 세 방향을 한 평면에

Google은 콘텐츠 트랙, Sam Altman은 신원 트랙, Adobe·Microsoft는 메타데이터 트랙으로 갈라져 있다. VC 자본은 신원·에이전트 쪽으로 더 몰린다. 규제는 디폴트 표시 쪽으로 모인다. 비판은 단일 기법의 한계를 가리킨다.

묶어서 보면 — 진영도 비판도 모두 같은 가정 위에 서 있다. AI 생성물이 디폴트가 될 때 신뢰는 별도 인프라가 떠받친다는 가정이다. 콘텐츠 출처, 인간 증명, 에이전트 신원 — 세 트랙은 다른 기술로 같은 문제를 푸는 중이다.

시리즈 다음 4편이 이 지도를 각 트랙별로 들여다본다. 표준 전쟁(SynthID vs C2PA), 신원 트랙(PoP + Agent Identity), Deepfake $15B 시장, 그리고 마지막 편 — 보통의 regulation과 다른 길로 가고 있는 AI 거버넌스 갈래 정리.

---

참고 자료 (1차 자료 우선)

• Google Blog — “SynthID Detector — a new portal to help identify AI-generated content” (2026-05-19)
• Google Blog — “100 things we announced at Google I/O 2026”
• Mordor Intelligence — Fake Image Detection Market Report
• Fortune Business Insights — Deepfake Technology Market Size
• Market.us — Deepfake Detection Market, CAGR 47.6%
• CB Insights — Reality Defender, Truepic 기업 프로필
• World.org — “Proof of personhood: What it is and why it’s needed” / “World ID Full-Stack Proof of Human”
• Yahoo Finance — “Worldcoin Jumps 16% After Report OpenAI Is Exploring Proof of Personhood”
• Aembit — “IAM for Agentic AI: The New Perimeter of Trust in 2026”
• Help Net Security — “Cyber valuations climb as capital concentrates, AI security expands” (2026-02-25)
• The Block — “Ripple, Franklin Templeton join $5 million seed round for t54 Labs”
• NEC Press — “Indicio secures investment from NEC X”
• artificialintelligenceact.eu — “Article 50 Transparency Guide”
• arXiv 2505.23814 — “Watermarking Without Standards Is Not AI Governance”
• arXiv 2603.26983 — “Transparency as Architecture: Structural Compliance Gaps in EU AI Act Article 50 II”
• World Privacy Forum — “Privacy, Identity and Trust in C2PA: A Technical Review”
• TechPolicy.Press — “What the EU’s New AI Code of Practice Means for Labeling Deepfakes”