필터버블의 함정: 조직이 보지 못하면 AI도 보지 못한다

필터버블의 함정: 조직이 보지 못하면 AI도 보지 못한다

스타벅스 탱크데이 논란이 드러낸 조직문화와 AI 검수의 사각지대

탱크데이 사건에 남은 질문

탱크데이 사건에서 가장 많이 던져진 질문은 고의였는가다. 그것은 수사가 가릴 문제다. 고의가 아니었다고 밝혀진다 해도 질문이 남는다. 팀장부터 대표까지 여러 단계의 결재를 거치는 동안 어째서 잘못이 수정되지 못했을까? 왜 누구도 5·18 민주화운동을 떠올리지 못했을까? 회사는 이번 일이 내부의 사회적·역사적 민감성 부재와 리스크 관리 체계의 결함을 드러냈다고 밝혔다. 마케팅팀 실무진의 역사의식이 사회의 일반적 인식과 동떨어져 있었다는 것이다. 악의적 고의성보다 불편한 답이 여기 있다. 그것이 걸러지지 못한 데에는 이유가 있었다. 그 이유가 무엇이었는지, 당신도 알아차리지 못했을 것이다. 그것이 필터버블이다.

필터버블의 다른 얼굴

필터버블은 2011년 엘리 파리저(Eli Pariser)가 제시한 개념으로, 추천 알고리즘이 개인의 기존 선호를 강화해 닫힌 정보환경을 만드는 현상을 가리킨다. 필터버블의 위험은 잘못된 정보를 주입하는 데 그치지 않는다. 더 근본적인 위험은 무엇이 빠졌는지 알아채지 못하게 만든다는 점이다. 
조직도 버블을 만든다. 캐스 선스타인(Cass Sunstein)은 같은 성향의 사람들이 모이면 의견이 한쪽으로 쏠리는 집단 극화를 지적했고, 어빙 재니스(Irving Janis)는 응집력 높은 집단이 이견을 억누르고 합의를 서두르는 집단사고(groupthink)를 분석했다. 구성원의 세대와 가치관, 정치색이 비슷할수록 특정 관점이 기본값이 되고, 그 바깥의 시각은 떠오르지 않는다. 동질한 집단 안에서는 위험한 선택이 위험하게 느껴지지 않는다.

조직 문화는 개인의 판단을 어떻게 좁히는가

조직의 동질성은 개인의 행동양식을 길들인다. 무엇을 농담으로 받아들이고 무엇을 진지하게 검토할지, 어떤 표현이 무난하고 어떤 표현이 위험한지에 대한 감각이 집단 안에서 공유된다. 이견은 마찰을 일으키므로 점차 줄어들고, '설마, 문제 되겠어?'라는 안일함이 집단의 기본 정서로 자리 잡는다. 
탱크데이에서 드러난 정황은 이 구조에 부합한다. 내부 관계자는 문제의 문구가 사회적 파장을 진지하게 고려한 결과라기보다 가벼운 재미 요소로 넘겨졌을 가능성을 언급했다. 특정 날짜와 역사적 기억이 결합할 때의 무게를 감지하는 렌즈가 집단 안에 없었다는 뜻이다. 렌즈가 없으면 위험은 위험으로 보이지 않는다.
이러한 사각지대는 한국 조직문화에서 특히 깊어질 가능성이 크다. 비슷한 세대와 배경으로 채워진 팀, 위계와 빠른 합의를 미덕으로 여기는 문화, 이견 제기를 조직 부적응으로 읽는 분위기가 동질성을 구조적으로 강화한다. 연차와 기수가 질서를 만드는 조직에서 아래 단계의 의문은 위로 올라가기 전에 스스로 접힌다.
'책상에 탁'은 한 개인의 부주의가 아니라, 다른 감각을 가진 사람을 애초에 적게 두고 그 적은 이견마저 흘려보내도록 길든 조직의 산물일 수 있다. 여러 단계의 결재가 그 구조를 보여준다. AI가 운율에 맞춰 문구를 내놓고, 담당자가 무난하다고 판단한다. 팀장이 본 것을 임원이 보았고 여러 사람이 검토했지만 그들은 같은 사각지대를 공유하고 있기에 검토의 횟수가 안전을 더하지는 못한다. 비슷한 눈이 여러 번 본 것이 한 번 본 것과 다르지 않았다.

AI는 사각지대를 메우지 않는다

문제는 이 사각지대가 AI 사용과 만날 때 커진다. AI는 거울이면서 동시에 증폭기다.
거울인 이유는 AI가 입력하는 사람의 전제를 반영하기 때문이다. 질문에 담긴 관점과 맥락을 그대로 받아 답을 내놓는다. 사용자가 보지 못하는 것을 대신 봐주지 않는다. 탱크데이에서 '책상에 탁'은 기존 문구와 운율을 맞추려는 요청에 AI가 내놓은 결과였다. AI는 운율을 맞췄을 뿐, 그 표현이 한국 현대사에서 무엇을 건드리는지 묻지 않았다. 묻지 않은 이유는 묻도록 요청받지 않았기 때문이다.
탱크데이라는 이름은 5·18 민주화운동 기념일과 맞물리며 계엄군의 탱크를 떠올리게 했고, ‘책상에 탁’이라는 문구는 1987년 박종철 고문치사 사건 당시의 국가폭력 해명을 연상시켰다.
증폭기인 이유는 인간과 AI가 같은 사각지대를 공유할 수 있기 때문이다. 글로벌 학습 데이터에 기반한 범용 AI는 한국 현대사의 특정 맥락에 약할 수 있다. 역사의식이 옅은 동질 집단이 그런 AI를 쓰게 되면, 두 개의 맹점이 포개진다. 인간이 놓친 것을 AI가 잡지 못하고, AI가 놓친 것을 인간이 잡지 못한다. 검수의 외형은 갖춰져 있었다. 여러 단계 결재와 AI 검사 도구가 있었다. 그러나 'AI가 한 번 걸렀을 것'이라는 안도감이 인간 검토의 긴장을 낮췄다는 것이 내부의 전언이다. 도구에 대한 과신이 판단을 대체한 것이다.
여기에 필터버블의 위험성이 있다. 버블 안에서는 위험한 질문 자체가 떠오르지 않으므로, AI에게 그 질문을 던지게 될 일도 없다.

'AI가 균형 잡힌 시각을 갖는다'는 착각

AI를 신뢰하는 또 다른 이유는 그것이 균형자처럼 보이기 때문이다. 방대한 데이터를 다루고 수많은 관점을 학습했다는 사실이, AI를 어느 한쪽에 치우치지 않는 중립적 심판처럼 보이게 한다. 사람이 내리면 편향될 판단도 AI를 거치면 객관적으로 걸러졌다고 느낀다.
하지만 이 외양은 오해다. AI의 출력은 학습 데이터에 많이 담긴 관점과 입력자가 깔아 둔 전제, 그리고 비어 있는 맥락을 함께 반영한다. 균형이라기보다 평균에 가깝고, 실은 평균보다 질문한 사람의 생각을 되비추는 반사에 더 가깝다. 다수가 말한 것을 매끄럽게 정리해 줄 뿐, 빠진 관점을 스스로 불러오지는 않는다.
균형감은 서로 다른 관점을 의식적으로 견주고 무게를 달아 보는 수고를 거치면서 생겨난다. 그 일을 AI에 넘기는 순간, 사람의 검증 감각은 무뎌진다. 
역설은 신뢰가 클수록 위험도 커진다는 데 있다. AI를 중립의 보증으로 여길수록 그 출력을 다시 의심하고 검증할 이유가 사라진다. 탱크데이에서 AI가 내놓은 무난한 운율을 인간이 무난하다고 받아들인 장면이 그 축소판이다. AI를 안전 필터로 신뢰했으나, 그 필터는 맥락을 모른 채 평균적인, 사용자가 원할 만한 답을 냈을 뿐이다. 이렇게 균형자라는 오해는 균형을 지키기는커녕 균형 감각 자체를 잃게 만든다.
동질한 조직에서는 이 착각이 더 빠르게 퍼진다. 견제할 이견이 적은 집단일수록 중립적 도구에 대한 의존이 의심 없이 받아들여지기 때문이다. 동질한 조직이 AI로 생산성을 높일수록 사각지대도 함께 넓어지는 구조가 만들어진다. 비슷한 사람들이 비슷한 전제로 AI에 질문하고, AI는 그 전제에 맞는 답을 빠르게 돌려주며, 집단은 그 답을 다시 무난한 것으로 승인한다. 마찰이 없다는 것은 검증이 작동하지 않는다는 신호이기도 하다.

사각지대를 메우는 것은 이질성이다

더 정교한 AI가 해법이 될까? 사각지대는 같은 종류의 도구를 더한다고, 그 도구가 더 날카로워진다고 해서 메워지지 않는다. 필요한 것은 이질성이다. 관점의 다양성, 조직 바깥의 시선, 의도적으로 반대 의견을 맡는 역할이 검수의 실질적 역할로 작동해야 한다.
AI 시대일수록 인간 검수의 다양성은 더 중요해진다. AI가 빠르게 답을 채워 줄수록, 그 답에 무엇이 빠졌는지 알아볼 사람이 필요하기 때문이다. 국제적으로도 같은 경계가 제기된다. 유네스코는 2024년 보고서에서 생성형 AI가 홀로코스트 기록을 왜곡하고 반유대주의를 부추길 수 있다고 경고했다. 기술이 아니라 그 기술을 쓰는 인간 환경의 다양성이 마지막 안전장치라는 뜻이다.
역사와 사회의 맥락은 동질 집단 내부에서 저절로 자라지 않는다. 절차 안으로 끌어들여야 한다. 마케팅 승인 단계에 기념일과 추모일 점검을 표준으로 넣고, 세대와 배경이 다른 검토자를 참여시키며, 의도적으로 반대 의견을 맡는 역할을 두는 일부터 시작할 수 있다.

남는 질문

탱크데이가 고의가 아니었다 해도 처음 우리의 질문은 사라지지 않는다. 어떻게 아무도 보지 못했을까? 그리고 어떻게 해야 보게 될까? 이번 사건을 한 기업의 실수로만 치부해서는 그 답을 얻기 어렵다.
조직이 보지 못하는 것을 AI가 대신 보여 주리라 믿지만, AI는 조직이 이미 가진 시야를 되비출 뿐이다. 같은 눈이 거울 앞에 서면 보지 못하던 것은 그대로 남고, 보지 못한다는 사실만 가려진다. 필터버블의 허점이 여기 있다. 무엇을 놓쳤는지 끝내 모르게 만든다는 것이다.
틀린 답보다 알아채지 못한 공백이 더 깊고, 그 맹점은 AI가 균형을 잡아 줄 것이라는 믿음 위에서 가장 빠르게 넓어진다. 여기에 역설이 있다. AI가 똑똑해질수록, 조직에는 더 다양한 사람이 필요해진다. 도구가 매끄럽게 답을 채울수록, 그 답에서 무엇이 빠졌는지 알아볼 다른 눈이 더 절실해지기 때문이다.

* 참고: 이 글의 사건 관련 서술은 파이낸셜뉴스(2026.5.26)와 비즈한국(2026.5.19) 보도, 신세계그룹 내부 조사 발표를 토대로 한다. 필터버블은 엘리 파리저의 『The Filter Bubble』(2011), 집단사고는 어빙 재니스의 연구(1972), 집단 극화는 캐스 선스타인의 논의를 참조했다. 유네스코의 생성형 AI 경고는 2024년 보고서에 근거한다.

2026.6.3. 윤성원 + 클로드