투자자부터 로스쿨 교수까지: 여러 AI 페르소나 패널의 검토와 그 이후의 결정

5화는 이름 이야기로 끝났다. 모럴 미러라는 이름은 방향만 잡을 뿐 설계를 대신하지 못한다고 적었고, 그다음 장부터는 그 구조를 검증하려고 왜 라운드테이블을 빌렸는지로 넘어간다고 예고했다. 이 장은 그 약속을 지키는 장이다.

그런데 이 장을 쓰려고 오래된 폴더를 다시 열었을 때, 내가 예상한 것과 다른 그림이 나왔다. 나는 이 라운드테이블에서 특히 Anthropic 쪽 의견에 많이 설득당했고 그래서 초기 구상을 꽤 틀었다고 기억하고 있었다. 실제로 폴더를 열어보니 그 기억은 반은 맞고 반은 아니었다.

왜 패널을 열었나

이 프로젝트의 핵심 메커니즘은 사용자의 추론을 의도적으로 흔드는 것이다. 좋은 반례를 던져서 스스로 확신이 무너지는 순간을 만든다. 문제는 이 메커니즘이 교육과 조작 사이에서 겹치는 칼날을 쓴다는 점이다. 좋은 질문으로 사람을 흔드는 것과 나쁜 질문으로 사람을 흔드는 것은 겉에서 보면 구분이 잘 안 된다.

혼자 만드는 도구에서 이 경계선을 혼자 판단하는 건 위험하다고 느꼈다. 내가 좋다고 느끼는 반례가 실제로 좋은 반례인지, 아니면 그냥 내 취향에 맞는 반례인지 나 스스로는 구분하기 어렵다. 그래서 다른 시선이 필요했다. 패널을 연 이유는 답을 얻으려는 게 아니라 내 판단의 사각지대를 비추려는 것에 가까웠다.

방식은 두 번 겹쳐 돌리는 것이었다. 1차 라운드(R1)에서는 각 페르소나가 서로의 의견을 모르는 상태로 독립적으로 평가했다. 신호의 순도를 지키기 위해서다. 2차 라운드(R2)에서는 나머지 의견을 모두 받아본 뒤 입장을 다시 정리했다. 처음에는 7개 관점으로 시작했고, 다음 날 10개로 늘렸다. YC, a16z, Anthropic, OpenAI, AWS, Google, McKinsey·BCG, Khan·Coursera, Harvard 교육대학원·MIT 미디어랩, 스탠퍼드 로스쿨·생명윤리까지, 나중에 두 세트를 합쳐 총 17개 관점이 됐다.

각자 어떤 주장을 했나

지금 생각해도 이 설정 자체가 좀 이상하다. YC 파트너, a16z 파트너, AWS 엔터프라이즈 담당자, 스탠퍼드 로스쿨 교수 역할을 하나씩 맡겨서 내 취미에 가까운 프로젝트를 각자의 렌즈로 심사하게 만든 것이다. 실존하는 조직의 이름을 빌려 왔을 뿐 그 조직이 실제로 이 프로젝트를 본 적은 없다. 그런데도 열 개 역할에 각자 다른 자료를 읽히고 다른 질문을 던지자, 신기하게 겹치는 결론과 크게 갈라지는 결론이 동시에 나왔다.

각자 낸 핵심 주장만 추리면 이렇게 정리된다.

역할	핵심 주장
YC	· 90일 안에 트롤리 하나로 “사람이 다시 돌아오고 싶어 하는가”를 증명 못 하면 나머지는 무의미 · 디자인 공동창업자 영입 또는 인터랙션 설계를 외주로 축소
a16z	· Character.AI·Calm·Replit·Substack과 달리 재미·쓸모 둘 다 아직 미증명 · 외부 자극 없이 8주 안에 50명 이상 자발 재방문이 조건
AWS	· Bedrock 위 기술적 fit은 자연스러우나 기업 조달은 pre-compliance 단계라 아직 못 닿음 · 임상윤리는 법적 면책 구조 없이 즉시 진입 불가
Google	· 직접 인수는 “윤리 상품” 호스팅의 평판 리스크가 부담 · 학습자 추론 데이터가 LearnLM 학습 자료의 빈틈을 메움, 지금은 인수보다 파트너십 단계
McKinsey·BCG	· “샌델은 창업자가 아니다”, 컨설팅 펌 브랜드가 시장 진입을 대신 보증해야 함 · 컨설팅 펌이 앵커 고객이자 유통 채널
Khan·Coursera	· MOOC 완주율 7~15%, 유료 전환 5% 언저리 경제로는 작동 안 함 · 코호트 기반·성인 학습자·기관 라이선스로 좁혀야 생존
Harvard GSE·MIT 미디어랩	· Festinger 인지 부조화, Kapur 생산적 실패 이론 위에는 안착 · 도덕 발달 단계(콜버그·길리건) 무시 + 안전장치 부재 시 “가짜 소크라테스 극장”
스탠퍼드 로스쿨·생명윤리	· 성인 대상 엔터테인먼트는 방어 가능, B2B 훈련은 계약상 관리 가능 · 평가·채용에 쓰이거나 임상윤리에 들어가면 지금 형태로는 유지 불가
회의론자(Devil’s Advocate)	· Replika·Character.ai·AI Dungeon·Inflection Pi의 사망 패턴을 나열 · “성과를 측정하길 거부하는 제품은 수익화도 거부한 것”

가장 오래 남은 두 마디는 따로 적어둘 만하다.

샌델은 창업자가 아니다. 창업자 개인이 시장에 들어가는 걸 컨설팅 펌의 브랜드가 대신 보증해주는 구조가 가장 빠른 상업 경로다.

성과를 측정하길 거부하는 제품은 수익화도 거부한 것이다.

두 번째 공격에는 엔터프라이즈 쪽 역할이 정면으로 반박했다. 기업이 사는 건 더 나은 사람이 아니라 감독 기관에 낼 수 있는 추론 기록이라는 것. 규제가 이미 결과 평가에서 과정 증거로 측정 기준을 옮겼으니, 성과를 사람이 아니라 감사 가능한 산출물 단위로 재정의하면 회의론자가 말한 진공은 사라진다는 논리였다. 이 반박이 2차 라운드에서 더 강한 논거로 채택됐다.

교차 독해가 만든 것

R2에서 흥미로운 일이 하나 일어났다. 서로 다른 페르소나 다섯 개가 서로의 답을 모른 채로 같은 결론에 따로 도착했다. 컨설팅 펌을 첫 고객으로 삼아야 한다는 결론에 YC, a16z, McKinsey, AWS, Khan이 각자의 언어로 수렴했고, 안전·법률·교육 세 개 관점(Anthropic, 스탠퍼드 로스쿨, Harvard 교육대학원)은 서로를 언급하며 하나의 통합 안전장치 스택을 함께 소유해야 한다고 말했다.

더 흥미로운 건 스탠퍼드 로스쿨 쪽이 R2에서 찾아낸 것이다. 다른 아홉 개 분석을 읽고 나서, R1에서는 아무도 짚지 않았던 법적 위험을 다섯 개 새로 찾아냈다. a16z가 제안한 투자 구조에서 나오는 계약 조항 문제, OpenAI 통합 제안에서 나오는 공동 관리자 책임 문제 같은 것들이다. 혼자였다면 못 봤을 조합이었다.

여기까지는 패널이 제 몫을 했다. 문제는 이다음이다.

다시 열어보니 다른 그림이었다

STATUS.md를 다시 읽으면서 내가 실제로 무엇을 채택했는지 확인했다. 운영 모드는 솔로로 확정됐고, 시드 펀딩은 하지 않기로 했고, 컨설팅 펌 앵커도, 디자이너·박사 자문·법률 자문 같은 외부 자원도 전부 보류로 남았다. 임상윤리 진입은 아예 제외했는데, 그 옆에는 내가 직접 적어둔 메모가 있었다. 이건 외부 분석가의 권고였을 뿐 내 직관이 아니었다고.

그러니까 열일곱 명이 낸 사업 관련 권고는 거의 다 버린 셈이다. 그런데 나는 이 프로젝트를 Anthropic 쪽 시선에 많이 설득당해서 방향을 틀었다고 기억하고 있었다. 둘 다 사실이라면 뭔가 어긋난다.

DESIGN_PRINCIPLES.md를 다시 열어보고서야 어긋남이 풀렸다. 안전·설계 트랙은 실제로 거의 그대로 남아 있었다. Sandel 강의실이 조작이 아닌 이유를 네 가지 안전장치로 정리한 표, 그리고 그 각각이 AI 1:1 환경에서 어떻게 결핍되는지와 그 결핍을 무엇으로 메울지가 지금 스펙에 문장 단위로 박혀 있었다. 사용자가 답을 제출한 직후에만 다른 사람들의 반응을 보여주고, 비율이 아니라 이유를 보여주고, 다수 의견이 아니라 다양한 방향을 보여주는 다섯 가지 원칙도 그대로였다. 진입 화면에 “이 도구는 당신의 사고를 흔들려 설계됐습니다”라는 문구를 넣기로 한 것도 그때 정해진 것이었다.

정리하면 이렇게 된다.

트랙	낸 관점	지금 상태
사업·확장	YC, a16z, McKinsey, AWS, Google, Khan·Coursera	거의 전량 폐기. 솔로 운영, 펀딩 없음, 외부자원 보류
안전·설계	Anthropic, 스탠퍼드 로스쿨, Harvard 교육대학원	문장 단위로 흡수. 지금 스펙 §5·§9의 근간

기억이 두 트랙을 하나로 뭉쳐놓았던 것이다. 열일곱 명 중 압도적 다수의 권고를 버렸다는 사실과, 그중 한 트랙에는 깊이 설득됐다는 사실이 동시에 참인데, 나는 그걸 “많이 틀었다”는 하나의 인상으로만 저장해뒀다.

---
config:
  look: handDrawn
  theme: neutral
---
flowchart TD
  A["17개 페르소나 라운드테이블<br/>2026-05-23 ~ 05-24"] --> B["사업·확장 트랙<br/>YC · a16z · McKinsey · Google · Khan"]
  A --> C["안전·설계 트랙<br/>Anthropic · 스탠퍼드 로스쿨 · Harvard 교육대학원"]
  B --> D["폐기<br/>솔로 운영 · 펀딩 없음 · 외부자원 보류"]
  C --> E["흡수<br/>DESIGN_PRINCIPLES.md §5, §9"]

사업이 아니라 의지였다

왜 이렇게 갈렸는지는 다시 생각해보면 어렵지 않다. 나는 애초에 이 프로젝트로 사업을 하려던 게 아니었다. 오래 품고 있던 질문 하나를 실제로 만들어보고 싶다는, 말하자면 의지에 가까운 동기로 시작한 것이었다.

사업 트랙의 권고는 전부 방향은 다르지만 결국 같은 요구를 하고 있었다. 유저를 모으고, 돈을 벌고, 그 규모에 맞춰 제품을 조정하라는 것. 이 요구를 따르는 순간 내가 원래 붙잡고 있던 질문이 흐려지거나, 최악의 경우 포기해야 하는 상황이 온다. 컨설팅 펌 고객을 맞추려면 그들이 원하는 형태로 도구가 변형될 것이고, 펀딩을 받으면 회수 일정에 맞춰 스코프가 늘어날 것이다. 둘 다 내가 하려던 것과는 다른 종류의 일이 된다.

반대로 안전 트랙의 권고는 이 프로젝트가 다른 무언가가 되라고 요구하지 않았다. 오히려 내가 하려던 것, 사람의 확신을 살짝 흔들되 다치게 하지 않는 것을 더 잘 해내는 방법을 알려줬다. 사용자를 지키는 조언은 정체성을 지키는 조언이기도 했다.

그래서 열일곱 개 의견을 흡수와 폐기로 가른 기준은 조언이 얼마나 정교한가가 아니었다. 그 조언을 따르면 내가 원래 하려던 것을 계속할 수 있는가, 아니면 다른 무언가가 되어야 하는가. 사업 트랙은 아무리 훌륭해도 후자였고 안전 트랙은 전자였다.

패널을 다시 연다면

이 장을 쓰면서 스스로에게 물어본 게 하나 있다. 그럼 이 패널은 무의미했나. 사업 트랙을 다 버릴 거였으면 애초에 열일곱 명씩 물을 필요가 있었나.

지금 드는 답은, 버릴 수 있다는 확신은 물어보지 않고는 얻기 어려웠으리라는 쪽이다. 컨설팅 펌 앵커를 다섯 명이 독립적으로 권했다는 걸 몰랐다면, 이걸 안 하는 게 내 취향 때문인지 아니면 실제로 검토가 부족해서인지 스스로 확신하지 못했을 것이다. 물어보고 나서 버리는 것과 물어보지도 않고 넘어가는 것은 다르다. 전자는 선택이고 후자는 회피다.

동시에 이 과정이 편했다고는 못하겠다. 열일곱 개 의견을 다 듣고 그중 절반 이상을 버리는 건, 다수결이 이긴다고 믿는 사람에게는 이상하게 보일 수 있다. 그런데 이 프로젝트가 애초에 사람을 다수결로부터 지키려는 도구라는 걸 생각하면, 만든 사람이 패널의 다수 의견 앞에서 스스로 판단을 접지 않는 것도 어느 정도는 같은 원칙을 지키는 일이라고 본다.

이 글이 답하지 못한 것

이 장은 패널을 왜 열었고 무엇을 남기고 버렸는지를 적었다. 남은 건 안전 설계였고 버린 건 사업 확장이었으며, 그 갈림의 기준은 조언의 품질이 아니라 그 조언을 따랐을 때 이 프로젝트가 여전히 내가 하려던 것으로 남아 있는가였다.

그래도 답하지 못한 게 있다. 하나, 스펙에 문장으로 박아넣은 안전장치가 실제 사용자 앞에서도 그렇게 작동할지는 아직 모른다. 지금까지는 문서 위의 약속이다. 둘, 이 갈림의 기준 - 정체성을 지키는가, 흐리는가 - 이 항상 옳은 기준인지도 확신할 수 없다. 사업이 되는 것이 때로는 프로젝트를 더 멀리 데려가는 유일한 길일 수도 있다. 다음 장은 문서 위의 약속이 실제로 무엇으로 구현됐는지, 그 안전장치가 코드와 프롬프트로 내려오는 자리를 본다.