연필로 그리는 장애 극장: 저기술 테이블탑 드라마로 인시던트를 연기하며 연습하기

인시던트 대응이라고 하면 보통 대시보드, 워 룸(war room), 수십 페이지짜리 런북(runbook)을 떠올립니다. 하지만 실제 장애나 공격에 대비하는 가장 강력한 연습은 화이트보드, 메모지, 펜 정도만 있어도 충분히 할 수 있습니다.

여기에 소개하는 것이 바로 **‘연필로 그리는 장애 극장(pencil-drawn outage theater)’**입니다. 팀이 인시던트를 그냥 말로만 논의하는 것이 아니라, 직접 역할을 맡아 ‘연기’하는 저기술 테이블탑 드라마 방식입니다.

잘 설계된 장애 극장은 회의라기보다 즉흥극에 가깝게 느껴집니다. 사람들이 각자 역할을 맡고, 시나리오는 라운드별로 전개되며, 예기치 못한 전개가 조직이 압박 상황에서 어떻게 반응하는지를 시험합니다. 이런 연극형 테이블탑 연습은 특히 다음과 같은 세상에서 더 가치가 큽니다.

공격자가 AI를 무기로 삼아 더 빠르고, 더 조용하게, 대규모로 움직이고,
우리 조직의 AI 시스템이 고위험 인시던트에서 도구이자 동시에 공격 표적이 되는 상황.

이 글에서는 장애 극장이 왜 효과적인지, AI가 주도하는 위협 환경에 맞게 어떻게 설계해야 하는지, 그리고 직접 이런 저기술 테이블탑 드라마를 운영하는 실질적인 방법을 소개합니다.

왜 그냥 “이야기만” 하지 말고, 실제로 “연기”해야 할까?

롤플레이(Role-play)는 가볍게 느껴질 수 있지만, 사실 아주 진지한 문제를 해결합니다.

실제 인시던트 한가운데서야 비로소 “계획”이 우리가 갖고 있지 않은 도구, 제때 받지 못하는 승인, 서로 우선순위를 다르게 보는 사람들에 의존하고 있다는 걸 깨닫게 되는 경우가 많습니다. 그런데 그때는 이미 너무 늦습니다.

인시던트를 연기로 재현하면 이런 문제들을 미리 드러낼 수 있습니다.

숨은 갈등 – 보안을 책임지는 팀은 모든 걸 잠그고 싶어 하는데, 의료/현장 팀은 무조건 서비스를 계속 돌려야 할 수도 있습니다. 장애 극장은 이런 트레이드오프를 안전한 공간에서 드러나게 합니다.
오해와 해석 차이 – “비필수 서비스 축소(degrade non-essential services)”라는 말이 IT, 운영, 문화/지원 조직에 모두 같은 의미일까요? 대개는 아닙니다. 드라마 형식은 이런 부분을 명확히 하도록 강제합니다.
보이지 않는 제약 – 실제 사람들은 정책 문서에 적힌 대로 움직이기보다는, 말로만 전해진 규칙, 조직 문화, 자원 한도에 따라 행동합니다. 이런 보이지 않는 제약이 무엇인지 드러나게 할 수 있습니다.

현실적인 드라마를 함께 연기해 보면, 각 이해관계자의 요구를 서로에 대한 반감 없이 어떻게 충족할 것인지 탐색해 볼 수 있습니다. 슬라이드 발표로는 거의 경험할 수 없는, “내 결정이 다른 사람에게 어떻게 다가오는지”를 몸으로 느끼게 해줍니다.

AI 시대에 맞는 시나리오 설계하기

이제 테이블탑 연습이 단순히 “DB가 죽었다” 수준에 머물러서는 안 됩니다. 기술과 위협이 어떻게 진화했는지, 특히 AI를 중심으로 반영해야 합니다.

1. AI를 활용하는 공격자를 반드시 포함하라

공격자는 점점 더 AI를 이용해 다음과 같은 일을 합니다.

대규모 피싱(phishing)을 자동화하고, 개별 수신자에게 맞춰 메시지를 퍼스널라이즈
네트워크를 더 빠르게 탐색하고 취약 지점을 식별
이메일, 음성, 영상 등 고품질의 가짜 콘텐츠를 손쉽게 생성

테이블탑 시나리오에 이런 능력을 명시적으로 반영해야 합니다. 예를 들어:

AI 모델이 생성한 피싱 파도가 임원과 현장 직원 모두를, 각각의 언어와 문화적 맥락에 맞춰 정교하게 노립니다.
AI를 도와 공격자가 침투 테스트를 진행하면서, 일단 내부에 들어온 뒤 얼마나 빠르게 다른 시스템으로 옮겨 붙는지 드러납니다.
사회공학 전화에 실제 임원 목소리를 본뜬 AI 음성 클론이 더해집니다.

드라마 속에서 공격자를 하나의 캐릭터로 연기하게 할 수 있습니다.

퍼실리테이터가 “AI 기반 공격자의 행동”을 사전에 준비하거나 즉흥적으로 추가합니다.
이 행동들은 속도와 규모 면에서 압도적인 이점을 가지게 설계해, 탐지·커뮤니케이션·의사결정 체계를 극한으로 압박합니다.

2. 우리 조직의 AI 시스템을 공격 대상으로 삼아라

공격자가 AI를 쓰는 것만이 문제가 아닙니다. 우리가 운영하는 AI 자체가 매력적인 공격 대상이 됩니다.

임상 의사결정을 돕는 모델이 미묘하게 조작돼, 유해한 치료를 추천하기 시작합니다.
고객 상담용 챗봇이 우회되어 민감 정보를 유출합니다.
이상 거래를 잡아내는 사기 탐지 모델이 데이터 포이즈닝(data poisoning)을 당해, 특정 유형의 사기를 “학습상 무시”하게 됩니다.

테이블탑 드라마에서는 다음과 같은 질문을 던져야 합니다.

위기 상황에서 이 AI 시스템의 ‘오너’는 누구인가요? 보안팀, 데이터 사이언스, 프로덕트, 컴플라이언스 중 누가 최종 책임을 지나요?
누가 이 시스템을 중단·롤백하거나, 수동 절차로 전환할 권한이 있나요?
사용자나 환자에게 어떻게 설명할 것인가요? 그들이 의존하던 AI가 갑자기 신뢰할 수 없는 상태가 되었을 때 말입니다.

이 질문들을 시나리오 속 대사와 사건으로 녹여 넣으십시오. 사람들이 실제로 결정을 내려야 하게 만드세요.

저기술 테이블탑 드라마의 기본 구조

화려한 사이버 레인지나 시뮬레이터는 필요 없습니다. 필요한 것은:

한 공간(오프라인 회의실이든, 온라인 화상회의든)
시스템, 팀, 핵심 서비스를 간단히 표현한 맵(화이트보드나 공유 문서)
역할(Role) (CISO, 온콜 엔지니어, 임상의, 현장 슈퍼바이저, 커뮤니케이션, 문화/지원 담당 등)
시간이 흐르며 점점 고조되는 시나리오와 인젝트(inject: 상황 추가 요소)

단순하게 시작하고, 점점 고조시켜라

실제 장애는 대부분 한 번에 폭발하지 않습니다. 작게 시작해 점점 커집니다. 시나리오도 같은 흐름을 따라야 합니다.

라운드 1: 기본 인시던트

로그에 작은 이상 징후가 포착됩니다.
임상 팀에서 의사결정 지원 시스템이 간헐적으로 느려진다고 신고합니다.

라운드 2: 공격 징후 포착

보안팀이 자동화된 것으로 보이는 수상한 접근 패턴을 발견합니다.
헬프데스크에 AI 기반 도구들의 이상 행동에 대한 문의가 급증합니다.

라운드 3: AI 기반 공격의 확전

공격자는 AI를 활용해 여러 시스템을 빠르게 스캔하고 취약점을 연쇄적으로 악용합니다.
AI가 생성한 피싱 메시지가 직원과 파트너사에 대량 발송됩니다.

라운드 4: 핵심 시스템 위협

핵심 AI 모델에서 데이터 포이즈닝 징후가 관측됩니다.
외부 이해관계자가 AI 관련으로 보이는 이상 결과를 경험했다며 문제를 제기합니다.

각 라운드마다 새로운 정보를 주입하고, 트레이드오프를 강제해야 합니다.

핵심 시스템을 분리(디스커넥트)해 서비스 중단을 감수할 것인가?
조사 중인 상황에서 모델 출력 결과를 계속 신뢰할 것인가?
불완전하고 불확실한 정보를 가지고 리더십·규제기관·대중에게 무엇을, 어떻게 설명할 것인가?

돌발 인젝트로 현실 세계의 혼란을 흉내 내라

드라마를 현실감 있게 만들고, 적응력을 시험하기 위해 깜짝 변수를 추가합니다.

커뮤니케이션 장애 – 채팅 플랫폼이 먹통이 되거나, 컨퍼런스 브리지가 끊기고, 페이저 알림이 지연됩니다.
핵심 인력 부재 – 레거시 시스템을 잘 아는 단 한 명의 엔지니어가 출장 중이거나 연락이 두절됩니다.
예상 밖의 의존성 실패 – 서드파티 서비스가 갑자기 중단돼, 인시던트가 더 복잡해집니다.
상충하는 지시 – 경영진은 대외적으로 안심시키는 메시지를 요구하는데, 보안팀은 정보를 더 모을 때까지 발언을 미루고 싶어 합니다.

이런 인젝트는 단순히 게임을 재미있게 만들기 위한 것이 아닙니다. 조직의 조정·협업 구조가 얼마나 탄탄한지를 적나라하게 드러냅니다.

출연진 구성: 역할과 관점

효과적인 장애 극장은 처음부터 **크로스 펑셔널(cross-functional)**하게 설계되어야 합니다. 가능한 한 다음 역할들이 모두 참여하도록 하십시오.

운영 / IT – 현실적인 복구 경로, 우회 방안, 기술적 제약을 설명
보안(Security) – 탐지, 차단, 리스크 커뮤니케이션의 방향을 주도
현장 / 임상 또는 서비스 스태프 – 환자·고객·사용자가 실제로 어떻게 영향을 받는지 묘사
문화 지원 / DEI(다양성·형평성·포용) 역할 – 대응 방식이 다양한 커뮤니티·언어·신뢰 수준에 어떤 영향을 미치는지 자문
커뮤니케이션 / PR – 불확실한 상황에서 대내·대외 메시지 초안 마련
법무 / 컴플라이언스 – 규제 기한, 신고 의무, 법적 리스크를 명확히

연습 중에는, 참여자들이 가능한 한 자기 역할에 몰입하도록 장려하되, 실제 갈등으로 번질 정도는 아니어야 합니다. 목표는 다음과 같습니다.

서로 다른 위치에서 의사결정이 어떻게 느껴지는지 체험
그룹으로서 결정을 내리고 수정하는 연습
시간이 촉박한 상황에서도 생산적으로 이견을 조정하는 방법 익히기

막이 내린 뒤: 사후 리뷰(Post-Incident Review)

시나리오가 끝났다고 드라마가 끝난 것은 아닙니다. 진짜 가치는 사후 인시던트 리뷰에서 나옵니다.

이 리뷰에서는 다음을 반드시 포함해야 합니다.

관련 인력이 모두 참여하도록 하라
- 관리자나 보안팀만이 아니라, 운영·현장/임상·문화 지원 역할까지 목소리를 낼 수 있어야 합니다.
- 무엇이 현실적으로 느껴졌는지, 무엇은 도저히 불가능해 보였는지, 무엇이 가장 놀라웠는지 물어보십시오.
기술적 인사이트와 인간적인 인사이트를 모두 수집하라
- 기술적 공백은 어디였습니까? 모니터링? 접근 통제? AI 모델 거버넌스?
- 인간적인 공백은 어디였습니까? 권한 구조, 신뢰, 커뮤니케이션, 심리적 안전성?
관찰을 구체적인 변화로 전환하라
- 런북, 에스컬레이션 경로, 연락처 리스트를 업데이트
- AI 거버넌스 정책과 모델 롤백 플랜을 다듬기
- 교육·온보딩 자료를 조정해 실제 필요한 내용을 반영
배운 내용을 다음 드라마에 반영하라
- 다음 연습은 새로 갖춘 역량과 여전히 남은 취약점을 모두 반영해 설계합니다.
- 특히 AI 공격과 AI 시스템 장애와 관련된 복잡성을, 조직 성숙도에 맞춰 조금씩 높여 갑니다.

이 리뷰 과정 덕분에 장애 극장은 일회성 이벤트가 아니라, 지속적인 개선 엔진이 됩니다.

시작을 위한 간단한 설계도(BluePrint)

한 번도 이런 연습을 해보지 않았다면, 작고 리스크가 낮은 것부터 시작하세요.

AI와 직접 관련된 시나리오 하나를 고르라
- 예: “추천 모델에 데이터 포이즈닝이 의심되고, 고객 불만이 점점 늘어나는 상황.”
3~4개의 라운드를 정의하고, 라운드마다 인젝트를 점점 고조시켜라
- 처음에는 미묘한 이상 징후부터 시작해, 공격자 행동을 추가하고, 점차 시스템 장애를 더합니다.
역할을 배분하고, 라운드마다 의사결정 시간을 제한하라
- 각 라운드에 10–15분을 부여합니다.
- 라운드 말마다 이렇게 묻습니다: “다음 15분 동안 무엇을 합니까? 누구에게, 무엇을 커뮤니케이션합니까?”
한 가지 깜짝 변수를 추가하라
- 핵심 커뮤니케이션 도구가 실패한다.
- 규제 기관에서 즉각 브리핑을 요구하는 전화가 온다.
충분한 디브리핑(Debrief)을 하라
- 연기했던 시간만큼, 아니면 그 이상을 리뷰에 사용하십시오.

이 과정을 분기마다 반복하면서, 조직의 성숙도에 맞춰 현실성과 복잡성을 조금씩 늘려 가면 됩니다.

결론: 개막 전에 위기를 ‘리허설’하라

AI가 방어와 공격 양쪽 모두를 바꾸고 있는 지금, 인시던트 대응은 이론으로만 끝날 수 없습니다. 읽기만 하는 계획이 아니라, 실제로 ‘리허설’하는 계획이 필요합니다.

연필로 그리는 장애 극장은 다음을 가능하게 합니다.

AI 기반 공격자에 대응하는 연습
위기 상황에서 우리 자체 AI 모델을 보호하고 복구하는 연습
실제 피해로 이어지기 전에 갈등, 오해, 제약 조건을 미리 드러내기
진짜 위기 상황에서 터질 수 있는 감정적 소모 없이, 다양한 이해관계자를 존중하는 해법을 함께 탐색하기

비용은 적게 들고, 기술 수준 요구도 낮지만, 효과는 놀라울 수 있습니다. 화이트보드와 몇 명의 자원자를 모으는 것부터 시작해 보십시오. 지금, 아직 모든 것이 상상의 무대 위에 있을 때, 드라마를 펼쳐 보세요.