빌드 로그 & SaaS
가장 위험한 노드는 자동 승인이었다 - 조용한 과신을 뺄셈으로 잡는 법
도메인이 다른 두 워크플로를 같은 채점표로 돌렸더니 최고점 노드의 성격이 같았다. 사람 손을 떼는 노드다. 확신도 뺄셈 하나로 조용한 과신을 잡는 방법, 3.6점 노드가 4.9로 올라가는 계산, 그리고 색이 빨간 것과 사람에게 가는 것이 왜 다른지 정리한다.
#AI-거버넌스
3 posts
빌드 로그 & SaaS
공개 데이터셋에 없는 축에 가장 큰 가중치를 줬다 - 36셀 리스크 온톨로지
AI 워크플로를 노드 단위로 채점하려면 채점표가 먼저 필요하다. 일반 실패와 보안 축은 OWASP·MITRE ATLAS·MIT 자료로 채웠지만 노드 사이를 보는 세 번째 축은 어느 공개 체계에도 없었다. 그 축에 0.4를 준 이유와, 점수가 실행 중에 올라가는 구조를 정리한다.
빌드 로그 & SaaS
출시하고 나서야 어디서 깨지는지 안다 - 배포 전 점검을 프로세스로 옮긴 이유
AI 워크플로의 배포 전 위험 점검은 지금 컨설팅 계약서 안에만 있다. 워크플로 하나에 시니어 1~2주, 재실행 불가. 이 점검이 왜 비어 있는 사분면인지, 규제 시한이 실제로 언제인지, 그리고 그것을 한 번의 실행으로 옮기면 무엇이 남는지 정리한다.
All Posts
빌드 로그 & SaaS
가장 위험한 노드는 자동 승인이었다 - 조용한 과신을 뺄셈으로 잡는 법
도메인이 다른 두 워크플로를 같은 채점표로 돌렸더니 최고점 노드의 성격이 같았다. 사람 손을 떼는 노드다. 확신도 뺄셈 하나로 조용한 과신을 잡는 방법, 3.6점 노드가 4.9로 올라가는 계산, 그리고 색이 빨간 것과 사람에게 가는 것이 왜 다른지 정리한다.
빌드 로그 & SaaS
공개 데이터셋에 없는 축에 가장 큰 가중치를 줬다 - 36셀 리스크 온톨로지
AI 워크플로를 노드 단위로 채점하려면 채점표가 먼저 필요하다. 일반 실패와 보안 축은 OWASP·MITRE ATLAS·MIT 자료로 채웠지만 노드 사이를 보는 세 번째 축은 어느 공개 체계에도 없었다. 그 축에 0.4를 준 이유와, 점수가 실행 중에 올라가는 구조를 정리한다.
빌드 로그 & SaaS
출시하고 나서야 어디서 깨지는지 안다 - 배포 전 점검을 프로세스로 옮긴 이유
AI 워크플로의 배포 전 위험 점검은 지금 컨설팅 계약서 안에만 있다. 워크플로 하나에 시니어 1~2주, 재실행 불가. 이 점검이 왜 비어 있는 사분면인지, 규제 시한이 실제로 언제인지, 그리고 그것을 한 번의 실행으로 옮기면 무엇이 남는지 정리한다.