(영상) AI 환각 시대, 진실을 위한 디자인: 당신의 '디지털 인턴'을 훈련시키는 법 - Service Design Show / Inside Service Design / Episode #08

Service Design Show - Inside Service Design #08 이번 에피소드에서는 서비스디자인 전문가 제시카 듀간(Jessica Dugan)과 주디스 부만(Judith Buhmann)이 출연해 과장된 AI 담론을 넘어 현업에서 AI를 어떻게 활용하고 검증해야 하는지에 대한 솔직한 이야기를 나눈다. 마크 폰테인은 AI를 빠르고 열정적이지만 거짓말을 일삼는 '인턴'에 비유하며, 이 새로운 디지털 동료를 어떻게 고용하고, 훈련하고, 신뢰할 것인지에 대한 질문을 던진다.

Designing for Truth in an Era of AI Hallucinations / Inside Service Design / Episode #08
Service Design Show
2025. 12. 25.
원본 영상 : https://youtu.be/A4OPrllAFi8?si=1nn3asP_1XDGVW1H
번역 : 제미나이 (요약, 생략된 부분이 있을 수 있습니다. 원본을 봐 주세요.)

주디스 부만 (Judith Buhmann) 

비영리 부문에서 포용적 서비스디자인을 전문으로 하는 리더이다. 영국 왕립 예술 학교(RCA)에서 서비스디자인 석사와 디자인 리서치 박사 학위를 취득했다. 남아프리카공화국 출신으로 사회적 배제와 포용에 대한 개인적 경험을 바탕으로 소외된 계층의 목소리를 디자인 과정에 반영하는 데 주력한다. 다양한 에이전시와 프리랜서 경력을 거쳐 현재는 인하우스 디자이너로서 휠체어 접근성 차량(WAV) 서비스 개선 등 복잡하고 민감한 프로젝트를 수행하고 있다. AI 기술을 신뢰할 수 없는 화자로 규정하며, 기술에 대한 맹목적 신뢰보다는 진실을 위한 디자인과 윤리적 검증을 강조한다.
https://www.linkedin.com/in/judithbuhmann/

제시카 듀간 (Jessica Dugan)

대기업 환경 내의 내부 시스템 및 직원 경험 개선에 집중하는 서비스디자인 전문가이다. IIT 디자인 연구소(Institute of Design)에서 디자인 석사(MDes)와 경영학 석사(MBA)를 취득했으며, 해링턴 대학에서 학사를 마쳤다. 본래 박물관 전시 디자인에 관심을 두었으나 서비스디자인으로 전향하였고, 헬스케어, 에너지, 금융 서비스 산업을 거치며 약 15년 이상 인하우스 경력을 쌓았다. 컨설팅 경험을 바탕으로 기업 내부의 복잡한 프로세스를 시각화하고 합의를 이끌어내는 데 탁월하다. 최근에는 업무 효율성을 높이기 위해 사용자가 직접 맞춤형 AI 에이전트를 구축하고 훈련시키는 실무적 프레임워크를 전파하고 있다.
https://www.linkedin.com/in/jess-dugan/

---

(유튜브 소개글 발췌)

Marc: 여러분의 데스크톱에 앉아 있는 '인턴'에 대해 이야기해 봐야 합니다. 무슨 말인지 아실 겁니다.

물론 그들은 빠르고, 매우 열심히 일하며, 데이터를 빛의 속도로 처리할 수 있습니다. 하지만 그들은 여러분을 기쁘게 하기 위해 사실을 환각(hallucination)하거나 없는 이야기를 지어내는 나쁜 습관도 가지고 있습니다. 물론 저는 AI에 대해 이야기하고 있습니다. 생성형 AI의 초기 '와우' 단계는 지났다고 말하는 것이 공정할 것입니다.

이제 우리 서비스디자인 전문가들에게 진짜 질문은 이것입니다. 이 새로운 디지털 동료를 실제로 어떻게 고용하고, 훈련하고, 신뢰할 것인가입니다. 이것이 '인사이드 서비스디자인(Inside Service Design)' 시리즈 이번 에피소드의 초점입니다. 우리는 두 명의 뛰어난 전문가인 제시카 듀간(Jessica Dugan)과 주디스 부만(Judith Buhmann)과 함께 이야기를 나눕니다.

그들은 AI를 자신의 기존 업무 흐름에 어떻게 통합하고 있는지에 대해 과장 없는 현실적인 시각을 공유합니다. 우리의 일을 대체하는 존재가 아니라, 관리(때로는 많은 관리)가 필요한 '주니어 어소시에이트(Junior Associate)'로서 말입니다. 이를 구체화하기 위해 제스는 자신만의 맞춤형 AI 에이전트를 구축하는 데 사용하는 프레임워크를 설명합니다. 그녀는 에이전트가 실제로 유용하고 안전할 수 있도록 '페르소나'를 정의하고, 작업 범위를 설정하고, 지식 베이스를 큐레이팅하는 방법을 설명합니다.

그리고 주디스는 우리가 왜 아직 AI를 완전히 신뢰할 수 없는지에 대한 비판적인 관점을 공유합니다. 우리는 특히 취약 계층과 작업할 때 왜 AI를 '신뢰할 수 없는 화자'로 취급해야 하는지 탐구합니다. 따라서 만약 여러분이 'AI를 사용해야 한다'는 압박감에 다소 부담을 느끼지만 책임감 있게 사용하는 방법을 확신하지 못한다면, 이 대화에는 놓치고 싶지 않을 핵심적인 통찰력이 담겨 있습니다.

질문 하나 드리겠습니다. 현재 사용 중인 AI 도구에 '인사 고과'를 매겨야 한다면 어떤 등급을 주시겠습니까? A) 이달의 우수 사원 B) 유망한 인턴(감독 필요) C) 혼란 유발자(무작위 정보를 쏟아냄). 알려주세요, 우리가 어느 단계에 있는지 정말 궁금합니다! 건강하세요. 마크 올림.

---

 

Marc: 새로운 인턴을 채용한다고 상상해 보십시오. 그들은 일 처리가 빠르고, 여러분을 기쁘게 하고 싶어 하며, 연중무휴로 일할 의향이 있지만, 여러분을 행복하게 하기 위해 없는 말을 지어내는 습관도 있습니다. 여러분은 가장 중요한 업무를 그들에게 맡기시겠습니까, 아니면 모든 결과물을 일일이 간섭하시겠습니까?

특별 시리즈인 '인사이드 서비스디자인'에 오신 것을 환영합니다. 이 시리즈는 컨퍼런스의 화려함은 건너뛰고 진짜 이야기를 나누는 대화의 장입니다. 이것은 현장에서 서비스를 내부로부터 형성하며 고군분투하는 전문가들의 생생한 경험과 현장의 경험을 밝혀내는 것에 관한 것입니다. 물론 우리는 업계의 유명한 이름들이 전하는 생각과 아이디어도 자주 듣고, 그것 역시 물론 훌륭합니다. 하지만 저는 스포트라이트를 받지는 않지만 매일 중요한 업무를 수행하는 인하우스 전문가들의 이야기, 즉 그 '혼란스러운 중간 지대(messy middle)'에 똑같이 관심이 있습니다.

그들은 깔끔한 이론적 모델과 조직의 복잡성 사이의 갭(gap) 속에서 살아가는 사람들입니다. 그들의 이야기를 여러분과 공유하는 것이 이 시리즈의 핵심입니다. 이번 대화는 심층 탐구의 다음 순서이며, 오늘은 주디스 부만과 제시카 듀간이 함께합니다.

두 분 모두 내부에서 일하는 경험 많은 전문가입니다. 주디스는 비영리 부문 내 포용적 디자인을 전문으로 하며, 제스는 대기업 환경에서 내부 시스템과 직원 경험에 중점을 두고 있습니다. 주디스와 제스는 또한 '서클(Circle)' 커뮤니티의 멤버이며, 최근 그곳에서 인간성과 기술의 교차점에 대한 그룹 토론을 주최했습니다. 이번 에피소드에서 우리가 서클을 몇 번 언급하는 것을 듣게 되실 겁니다.

익숙하지 않은 분들을 위해 말씀드리자면, 서클은 인하우스 서비스디자인 리더들과 그 길을 걷고 있는 분들을 위한 우리의 커뮤니티입니다. 제가 이 커뮤니티를 시작한 이유는 조직 내부에서 변화를 주도하는 것은 지구력이 필요한 레이스이며, 많은 전문가가 이 레이스를 혼자서 달리고 있기 때문입니다. 그래서 서클을 통해 우리는 이러한 전문가들에게 지지를 보내고, 상황을 점검해 주며, 실질적인 조언을 공유하는 신뢰할 수 있는 동료 팀, 즉 그들만의 '피트 크루(pit crew)'를 제공하고자 합니다. 궁금하시다면 servicedesignshow.com/circle에서 커뮤니티에 대해 더 자세히 알아볼 수 있습니다. 언제나 그렇듯 링크는 쇼 노트에도 있습니다.

이번 에피소드에서 우리는 AI의 딜레마를 두 가지 다른 각도에서 풀어봅니다. 제스는 자신만의 에이전트를 가져오는 실용적인 프레임워크를 공유합니다. 이는 AI를 허드렛일을 처리하는 주니어 어소시에이트처럼 대하는 것을 의미합니다. 반면 주디스는 신뢰 대 진실, 그리고 지나치게 열정적인 AI 치어리더의 위험성에 대해 생각해보도록 도전합니다. 그리고 물론 모든 에피소드에서처럼 인하우스 서비스디자인에 대한 몇 가지 통념을 깨뜨립니다. 교과서에서는 찾을 수 없는 솔직한 이야기와 실용적인 지혜를 얻을 준비가 되셨기를 바랍니다. 저는 호스트 마크 폰테인이며, 여러분은 서비스디자인 쇼를 듣고 계십니다. 쇼에 오신 것을 환영합니다.

제스, 주디스. 감사합니다, 마크. 안녕하세요. 안녕하세요. 어, 나와주셔서 반갑습니다. 인하우스 서비스디자인과 AI의 세계를 탐구하게 되어 정말 기쁩니다. 잠시 후에 다룰 디너 테이블 대화의 핵심 주제가 될 것이기 때문입니다. 하지만 우리가 항상 이 시리즈에서 하듯이, 우리의 사랑스러운 업무로 들어오게 된 여러분의 여정을 풀어나가는 것이 전통이 되었습니다. 제스, 오늘은 당신부터 시작하고 싶습니다. 우리 모두 경청하고 있고 매우 궁금해합니다. 현재 맡고 있는 역할에 어떻게 도달하게 되었는지 조금 공유해 주시겠습니까? 배경이 어떻게 되시나요? 어떻게 여기까지 오게 되셨나요?

Jess: 네, 물론이죠. 음, 제가 대학원에 돌아가기로 결심했을 때, 저는 사실 박물관 전시 디자인에 정말 관심이 많았습니다. 길 찾기(wayfinding)나 사람들이 물리적 공간을 어떻게 흐르듯 이동하는지, 정보가 그들과 함께 어떻게 이동하는지, 그리고 어떻게 이야기를 전달하는지에 대해 생각하는 것에 흥미가 있었죠. 음, 그런데 제가 다니던 학교에는 그에 대한 실습 과정이 없다는 것을 알게 되었지만, 서비스디자인이 여러 면에서 비슷하다는 것을 발견했습니다.

데이터와 정보의 흐름을 보고 사람들을 프로세스로 이끈다는 점에서는 더 추상적인 형태일 수 있지만, 어떤 의미에서는 물리적 공간이 존재하고, 음, 이제 우리가 스스로 관리해야 하는 수많은 디지털 및 생태계가 있으니까요. 그래서 저는 서비스디자인에 정말 관심을 갖게 되었고, 특히 헬스케어 분야에 그 실무가 어떻게 적용될 수 있는지 배우기 시작했습니다.

그래서 저는 워싱턴 DC에 있는 작은 서비스디자인 컨설팅 회사에서 컨설팅 업무를 시작했습니다. 헬스케어와 CPG(소비재) 유형의 업무를 하면서 많은 경험을 쌓았습니다. 많은 서비스 프로토타이핑과 비즈니스 모델 프로토타이핑을 수행하며 제품 중심의 기업들이 서비스 수익으로 전환하도록 돕는 일을 했습니다. 그러다 결국 인하우스로 이직하여 대형 헬스케어 회사의 내부로 들어갔고, 그 이후로 지난 15년 중 대부분을 인하우스에서 보냈습니다.

저는 기업 디자인 분야에 있는 것을 정말 즐겼습니다. 특히 제가 몸담았던 헬스케어, 에너지, 그리고 지금의 금융 서비스와 같은 산업들에는 복잡성이 많기 때문입니다. 그리고 몇 년 전 새로운 모험을 찾다가 금융 서비스 인하우스 서비스디자인으로 완전히 이직했습니다. 여러 면에서 비슷하지만 그 나름의 미묘한 차이가 있는 모험이자 배움의 과정이었습니다.

Marc: 흥미롭네요. 이전 에피소드를 보셨는지 모르겠지만, 제가 기억하기로 제프(Jeff)도 박물관은 아니었던 것 같지만 전시 디자인을 했었습니다. 그게 서비스디자인으로 가는 하나의 경로인 것 같네요. 주디스, 당신도 박물관/전시 디자인 배경을 가지고 있나요, 아니면 서비스디자인으로 가는 다른 길을 택했나요?

Judith: 제 경로는 꽤 다릅니다. 제 경험은 다른 많은 사람들의 경험과 비슷하다고 볼 수 있는데, 아주 오랫동안 이 일을 해왔지만 비교적 최근까지 그게 공식적인 직무라는 걸 깨닫지 못했다는 점입니다. 네, 저는 과거에 수많은 서비스 지향적인 직업을 거쳐왔습니다. 어떤 경우에는 부유한 이해관계자들을 더 부유하게 만드는, 아주 형편없이 디자인된 서비스를 제공하기도 했습니다. 청구서를 지불하기 위해 일자리가 필요한 우리 같은 사람들의 희생을 대가로 말이죠.

하지만 반면에 사람들을 돕거나 사람들의 삶을 개선하는 데 결정적인 서비스를 제공하는 직업을 가질 수 있는 행운도 누렸습니다. 네, 저는 여러 산업 분야에서 일했습니다. 프리랜서 일도 해봤고요. 에이전시 업무도 해봤고 지금은 인하우스 업무를 하고 있습니다. 음, 그리고 저는 포용적 서비스디자인(inclusive service design)을 전문으로 합니다.

네, 포용성은 제 서비스디자인 실무의 핵심입니다. 저의 살아온 경험이 분명 디자인에 대한 저의 접근 방식을 형성했다고 생각합니다. 저는 남아프리카 공화국에서 자랐기 때문에 급진적인 포용과 급진적인 배제가 미치는 영향을 직접 목격했습니다. 음, 네. 그래서 80년대와 90년대에는 당시 시행되던 규칙들을 잘 이해하지 못했고, 왜 이런 것들이 존재하는지 의문을 품었습니다. 말이 안 되니까요. 그러다 그것들이 폐지되었을 때는 애초에 왜 거기에 있었는지에 대해 생각했죠.

영국으로 온 것은 흥미로웠습니다. 고국에서는 가능한 줄 몰랐던 디자인을 영국에서는 직업으로 삼을 수 있었으니까요. 하지만 포용성과 왜 어떤 것들과 사람들은 포함되고 다른 이들은 그렇지 않은지에 대한 호기심은 제가 하는 일의 핵심입니다. 그리고 네, 제가 전문으로 하는 것은 소외된 목소리를 제가 하는 작업으로 가져오는 것입니다. 지금 제가 있는 회사에서는 이 점이 정말 중요합니다. 제가 그 일을 할 수 있다는 것이 정말 중요하죠. 네. 확실히 다른 경로였습니다.

Marc: 음, 인하우스 서비스디자인을 수행하는 것은 종종 약간 미스터리합니다. 왜냐하면 실제로 서비스를 디자인하라는 요청을 받는 사람은 거의 없기 때문입니다. 우리는 이 팟캐스트 시리즈에서 인하우스에서 실제로 무엇을 하는지에 대해 매우 관심이 많습니다. 그래서 주디스, 당신의 이야기를 계속하자면, 포용성도 중요하지만 인하우스 서비스디자이너로서 구체적으로 무엇을 하시나요? 해고당하지 않을 선에서 작업 중인 프로젝트 몇 가지를 공유해 주실 수 있나요?

Judith: 네. 제가 현재 맡고 있는 프로젝트는 가장 보람차면서도 가장 도전적인 프로젝트 중 하나입니다. 저는 스킴(scheme) 내의 WAV 고객들을 위한 전반적인 경험을 개선하는 방법을 살펴보고 있습니다. WAV는 휠체어 사용자가 휠체어에 앉은 채로 혹은 좌석으로 옮겨 타서 안전하고 편안하게 이동할 수 있도록 특별히 디자인되거나 개조된 휠체어 탑승 가능 차량(Wheelchair Accessible Vehicle)입니다. 일반적으로 경사로, 리프트, 고정 장치, 낮아진 바닥, 개조된 좌석 배치 등을 갖추고 있습니다. 네, 꽤 복잡한 기계들이죠.

그래서 우리는 고객이 사용하는 차량과 우리가 하는 모든 일을 뒷받침하는 서비스를 가지고 있습니다. 음, 저는 지난 몇 달 동안 스킴을 운영하고 작동하게 만드는 모든 사람들과 이야기할 수 있는 특권을 누렸습니다. 또한 우리 고객들과도 이야기했는데, 네, 그들의 이야기를 듣고 그들의 목소리를 회의실로 가져오는 것만으로도 정말 매력적이었습니다. 때로는 말 그대로 목소리를 가져오기도 하고, 때로는 그들이 저에게 공유해 준 통찰력이나 관찰 내용의 형태로 가져오기도 합니다.

하지만 이 프로젝트의 가장 어려운 점 중 하나는 현재 정말 적대적인 정치적 환경 속에서 운영되고 있다는 점입니다. 전 세계적으로 여러 이슈가 있지만, 영국에서는 지난주에 가을 예산안 발표가 있었습니다. 그래서 우리는 예산 발표가 나면 무엇을 할지 파악하기 위해 일하고 있었습니다. 스킴에 대한 많은 허위 정보와 우리 고객들에 대한 많은 허위 정보가 있었습니다. 그래서 그렇게 많은 사람들에 의해 비판적으로 주시받는 일을 하는 것은 꽤 도전적이지만, 우리는 그것을 이겨냈고 계속 진행하고 있습니다. 그리고 저는 우리가 하려는 일에 대해 정말 정말 기대가 큽니다.

Marc: 좋습니다. 당신의 눈이 빛나는 게 보이네요. 이 이야기를 하실 때 그렇군요. 네, 소위 말하는 전형적인 서비스디자인 과제처럼 들립니다. 좋습니다. 제스, 당신도 고전적인 서비스디자인 과제를 수행하고 있나요, 아니면 다른 규모의 과제들이 책상 위로 올라오나요?

Jess: 네, 저는 직원을 위한 내부 서비스디자인을 많이 합니다. 그래서 지금은 몇 가지 다른 프로젝트를 진행 중이며, 그중 대부분은 직원들이 고객 서비스를 제공하기 위해 사용하는 프로세스와 시스템을 개선하는 것을 살펴보고 있습니다. 제가 하는 일의 대부분은 현재 프로세스가 무엇인지, 잘 작동하는 것은 무엇인지, 프로세스에 갭이 있는 곳은 어디인지 이해한 다음, 우선 동의를 얻고 그런 것들을 해결하기 위해 구현할 수 있는 솔루션이나 다양한 유형의 솔루션이 무엇인지 파악하는 방법을 모색하는 것입니다.

그래서 매우 고전적인 디자인 유형의 과제들을 보고 있다고 생각하지만, 우리가 '두 단계 아래의 고객'을 위해 디자인하고 있다는 사실 때문에 약간의 반전이 있습니다. 네. 음, 네, 두 단계 아래군요. 하지만 저는 직원 또한 이 전체 서비스디자인 과정에서 매우 중요한 이해관계자라고 느낍니다. 종종 간과되지만, 다행히도 요즘에는 점점 더 많이 참여하고 있습니다.

Marc:  네. 멋지네요. 좋습니다. 음, 두 분 모두 인하우스와 컨설팅 측면에서 일한 경험이 있으신 것 같습니다. 제스, 내부(인하우스)에 있는 것의 장점 하나를 꼽자면 뭐라고 하시겠습니까?

Jess: 네, 저는, 이건 전형적인 답변일 것 같지만 그래도 말하겠습니다. 업무에 들어갈 수 있는 깊이와 프로젝트 간에 가져올 수 있는 일관성이라고 생각합니다. 컨설턴트로 일할 때는 최소 12주, 길어야 1년 정도 머물게 됩니다. 하지만 인하우스에 있으면 매일 사람들과 함께 현장에 있다는 이점이 있습니다.

맥락을 배우게 되고, 관계를 구축하게 되며, 우리가 추진하려는 다양한 서비스를 제공하거나 제공하지 못하게 만드는 다양한 힘이 실제로 무엇인지 이해하기 시작합니다. 그래서 직접적인 접근 권한을 갖고, 깊이 파고들 수 있는 능력과 프로젝트마다 그 맥락을 가져올 수 있는 능력이 큰 이점 중 하나라고 생각합니다.

Marc: 자주 듣는 이야기네요. 주디스, 덧붙일 말씀 있으신가요? 왜냐하면 이런 유형의 일을 하기 위한 전제 조건은 많은 인내가 필요하다고 생각하기 때문입니다. 그래서 그건 단점인지는 모르겠지만 조건이긴 하죠. 인하우스 근무의 장점에 대해 덧붙일 것이 있나요?

Judith: 네, 제스의 의견에 전적으로 동의합니다. 무언가에 대해 작업하면서 무엇을 작업하고 있는지, 누구와 함께 작업하고 있는지, 그리고 왜 그 일을 하고 있는지 깊이 있게 이해할 수 있다는 점입니다. 제 경우에는 그 지식의 깊이 덕분에 제 일을 제대로 할 수 있다고 생각합니다. 누군가가 아주 표면적인 수준으로 들어와서 제 동료들과 제가 다루고 있는 문제들에 도전할 수 있을지 모르겠습니다.

또한 프로젝트에서 배운 것을 동일한 조직 내의 다른 프로젝트에 적용할 수 있는 배움이 있습니다. 비록 두 업무가 서로 다르더라도 말이죠. 음, 하지만 저에게는, 다시 말하지만 어디서 일하느냐에 따라 다르겠지만, 제가 하는 일이 우리가 섬기는 고객들에게 미치는 영향을 직접 볼 수 있습니다. 그리고 그것은 긍정적이기도 하고, 우리 동료들에게는 긍정적일 수도 부정적일 수도 있습니다. 제가 하는 일 중 일부는 미래가 어떻게 보일지에 대해 사람들이 매우 흥분하게 만듭니다. 꽤 유토피아적으로 보일 수 있으니까요.

하지만 워크숍에서 어떤 사람들은 저에게 와서 "정말 놀라워요. 너무 기대돼요"라고 말하는 반면, 다른 누군가는 "당신이 방금 우리를 위해 그려준 이 미래에 내 자리가 있는지 모르겠어요. 난 뭘 해야 하죠?"라고 말하기도 합니다. 그래서 네, 인하우스에 있는 것이 와서 일 좀 하고, 무언가를 넘겨주고 떠날 수 있는 컨설턴트보다 더 강렬합니다.

Marc: 알겠습니다. 네. 공유해 주셔서 감사합니다. 우리가 자주 경험하는 이야기인 것 같네요. 확인해 주셔서 감사합니다. 음, 이제 두 분 모두 우리 서클 커뮤니티의 멤버이십니다. 매달 우리는 디너 테이블 세션을 주최하고, 저는 '대가족' 규모 정도의 그룹과 함께 모여 툴킷을 구축하고, 회복 탄력성을 높이며, 미래를 준비하는 데 도움이 되는 주제를 탐구합니다. 지난 3개월 동안 우리는 '인간성과 기술'을 시즌 주제로 탐구했고, 그 시즌 내에서 두 분 모두 AI와 관련된 세션을 주최했습니다.

거기서부터 시작해서 세션이 무엇에 관한 것이었는지, 그리고 핵심 하이라이트가 무엇이었는지 함께 살펴보고 싶습니다. 주디스, 당신부터 시작하죠. 세션의 제목은 무엇이었으며, 동료 서클 멤버들의 접시에 그 주제를 올리기로 결정한 계기는 무엇입니까?

Judith: 네, 제가 선택한 주제는 '우리가 사용하는 AI 도구, 우리는 그것들을 신뢰하는가?'였습니다. 도구 자체에 대한 대화가 아니었습니다. 우리는 모두 어떤 AI 도구가 존재하는지 알고 있습니다. 우리는 모두 매우 유사한 도구를 사용하지만, 그 도구들을 얼마나 신뢰하는가에 대한 것이었죠. 그리고 신뢰가 없다면, 특정 상황에서 그 도구들을 기꺼이 사용하게 만드는 타협점은 무엇인가 하는 것입니다. 네, 제가 진행한 세션은 신뢰와 우리가 사용하는 도구에 대한 내용이 주를 이뤘습니다.

Marc: 잠시 후에 더 깊이 다뤄보겠습니다. 제스, 당신은 약간 다른 관점에서 접근했지만 매우 인접한 주제였다고 생각합니다. 당신의 세션에 대해 조금 공유해 주시겠습니까?

Jess: 물론입니다. 제 세션의 제목은 '나만의 에이전트 가져오기(Bring Your Own Agent)'였습니다. 우리 서비스디자이너들이 서비스디자이너로서의 업무를 돕거나 조직 내 고객 및 이해관계자를 돕기 위해 자체 에이전트와 지식 베이스를 만들 수 있다는 아이디어에서 출발했습니다. 참가자들이 어떤 유형의 에이전트를 만들고 싶은지 생각해 볼 수 있는 실습형 워크숍이었습니다. 어떻게 만들 것인가? 에이전트가 어떤 정보와 작업을 수행하기를 원하며, 궁극적으로 이것을 어떻게 배포할 것인가? 어떻게 테스트할 것인가? 에이전트를 어떻게 실험하고 최신 상태로 유지할 것인가?

Marc: 당신의 세션 초반에 우리가 정의에 대한 기준선을 확립했던 것으로 알고 있습니다. 에이전트에 대해 혼란스러워하는 청취자들을 위해, 에이전트란 무엇이라고 생각하시나요?

Jess: 네. 에이전트는 자율적인 소프트웨어 프로그램으로, 여러분이나 여러분이 디자인하는 사용자의 요청에 따라 프로그래밍된 매우 구체적인 작업을 수행하는 것입니다. 에이전트는 본질적으로 많은 프롬프트나 피드백 없이도 매우 구체적인 작업이나 때로는 더 광범위한 행동을 실행합니다. 그리고 지식 베이스(Knowledge base)는 그 에이전트의 뇌라고 말할 수 있습니다. 여러분이 요청하는 특정 작업이나 활동을 수행할 수 있도록 에이전트가 수집하는 정보입니다. 그래서 우리는 에이전트가 이용할 수 있고 기능을 수행하기 위해 활용할 수 있는 정보 저장소를 구축하는 것입니다.

Marc: 제 말로 표현하자면, 이것을 의인화했을 때 지식 베이스는 예를 들어 이해관계자와 인터뷰한 대본 세트가 될 것이고, 에이전트는 그 대본을 분석하고 패턴을 찾아내도록 매우 구체적인 업무 지시서를 받은 인턴이 될 것입니다. 제가 이해하기 쉽게 비유하자면 그렇습니다. 말이 되나요?

Jess: 네, 맞습니다. 그리고 저는 인턴이나 때로는 '주니어 어소시에이트'라는 비유를 좋아합니다. 왜냐하면 그건 해야만 하는 일이기 때문입니다. 하지만 제가 그런 일들을 할 시간이나 의욕이 항상 있는 것은 아니죠. 그래서 우리가 허드렛일이나 어려운 일로 분류할 수 있는 일부 작업을 인턴에게 주듯이 에이전트가 대신 처리하도록 하는 것입니다. 여전히 매우 중요하고 의미 있는 일이지만, 그렇게 함으로써 우리가 일상 업무에서 하고 싶은 더 의미 있는 작업들을 할 수 있도록 우리를 자유롭게 해줍니다.

Marc: 그리고 당신 세션의 흥미로운 점은 우리가 실제로 디자인 프로세스를 사용하여 이 에이전트의 페르소나와 워크플로를 파악했다는 것입니다. 잠시 후에 다시 이야기하겠습니다. 하지만 지금은 주디스에게 돌아가고 싶습니다. 당신의 주제는 신뢰였습니다. 우리는 이 인턴을 어떻게 신뢰합니까? 우리는 이 주니어 어소시에이트를 어떻게 신뢰합니까? 우리가 직접 만든 이 도구에 대해 당신의 세션에서 무엇을 배울 수 있나요?

Judith: 저는 우리가 어떤 AI도 완전히 신뢰할 수 없다고 생각합니다. 세션에 참여한 그 누구도 시도할 의향이 없거나 AI를 완전히 불신해서 전혀 사용하지 않겠다는 사람은 없었습니다. 우리 모두 이 도구들이 우리에게 무엇을 의미하는지, 그리고 도구들이 우리가 앞으로 일하는 방식을 지시하도록 내버려 두기보다는 어떻게 우리를 위해 일하게 만들 수 있는지에 대해 매우 조심스럽게 호기심을 가졌습니다. 그래서 네, 자신의 에이전트를 만드는 것은 흥미로운 일입니다. 저도 동의합니다.

작업을 완료하기 위해 모든 다른 도구들 사이를 전환하는 것보다는, 특정 시점에 요구 사항에 맞춘 자신만의 개인적인 AI 도구 저장소를 만드는 것이 아마도 미래에 우리가 일하는 방식이 될 것이라고 생각합니다. 제 세션에서 우리가 이야기한 또 다른 것은 신뢰는 AI에게 즉시 주는 것이 아니라는 점입니다. 그 반대입니다. 다른 모든 것과 마찬가지로 시간이 지남에 따라 신뢰를 쌓아가는 것이며, 현재는 약간의 시행착오가 있습니다. 왜냐하면 우리 모두 백그라운드에서 무슨 일이 일어나고 있는지 잘 알고 있기 때문입니다.

그리고 디자이너로서 우리는 이것이 특히 디자인을 통해 이익을 얻는 꽤 착취적인 신기술이라는 것을 절실히 인식하고 있습니다. 우리 중 많은 사람들이 일자리를 뺏길까 봐 두려워하는 이 놀라운 기계를 훈련하는 데 사용되고 있음에도 불구하고, 우리 중 많은 사람들이 한 작업에 대한 크레딧(인정)은 없습니다. 하지만 네, 우리가 수행하는 작업을 위해 특별히 어시스턴트가 되도록 AI를 만들 수 있다는 아이디어는 정말 흥미롭습니다. 하지만 우리 중 누구도 AI에게 일을 맡기고 그냥 가서 알아서 하라고 할 만큼 완전히 신뢰하지는 않았습니다. 우리 모두는 결과물을 감독하고, 조정하고, 정확한지 확인했습니다. 네.

정확성에 대한 신뢰가 아마도 우리 대부분에게 가장 큰 우려 사항이었을 것입니다. 우리는 반대편에서 뱉어낸 것을 그냥 우리 것이라고 내놓을 수 있다고 믿지 않았습니다.

Marc: 인턴이나 주니어 어소시에이트 비유를 계속하자면, 어떤 차이점을 발견했나요? 왜냐하면 주니어 어소시에이트의 결과물도 무조건 신뢰하지는 않을 테니까요. 그렇죠? 그래서 그 점에 대해 무엇을 발견했나요, 주디스?

Judith: 음, 다시 말하지만 제스가 말했듯이 우리가 이 새로운 어시스턴트에게 넘겨주는 것은 가치 있는 일이지만, 네, 그것은 매우 제한적입니다. 세션에서 우리는 인턴이라는 단어를 사용했던 것 같습니다. 우리는 AI를 어떻게 보는지 묘사하는 것으로 시작했습니다. 만약 그들이 동료라면 어떤 모습일지, 인턴이나 자신의 한계를 잘 이해하지 못하는 지나치게 열정적인 어시스턴트, 또는 무언가를 꾸며냄으로써 그것이 만들어내는 것의 신뢰성이나 믿음을 훼손한다는 함의를 이해하지 못한 채 이야기를 과장하는 창의적인 스토리텔러와 비교하기도 했습니다. 그래서 네, 정말 어려운 문제입니다. 그들은 매우 매우 도움이 되지만 관리하기가 매우 어렵습니다.

Marc: 글쎄요, 아마도 기대치에 관한 것일 수도 있습니다. 어떠한 도움 없이 이 도구들이 현재 생산할 수 있는 것에 대해 우리가 가지고 있거나 설정된 기대치, 그리고 그 기대치가 조정될 필요가 있을 수 있다는 것이죠. 맞습니다. 확실히요. 네. 네.

제스. 자, 좋습니다. 우리에게는 여전히 완전히 신뢰하거나 혼자 내버려 둘 수 없는 주니어 어소시에이트가 있습니다. 하지만 당신은 이 어시스턴트, 이 동료가 누구여야 하는지 파악하는 데 적어도 도움이 되는 흥미로운 단계별 프로세스를 가지고 있었습니다. 프로세스의 주요 단계를 설명해 주시겠습니까?

Jess: 네, 제 앞에 커닝 페이퍼가 없어서 기억을 더듬어 최선을 다해 보겠습니다. 네, 물론이죠. 음, 저는 그것이 우리가 익숙한 디자인 프로세스와 유사하다고 생각합니다. 사용자 중심의 관점에서 시작한다는 점이 그렇습니다. 우리는 누구를 위해 이것을 디자인하는가? 이것이 수행해야 할 일의 유형은 무엇인가?

그래서 첫 번째 단계는 정말로 에이전트가 해결할 문제를 정의하는 것입니다. 우리가 일상 업무에서 하는 문제 프레이밍을 생각해보면, 이 에이전트가 뛰어들어 이 문제를 해결하기 시작할 적절한 수준은 무엇인가 하는 것입니다. 너무 광범위하게 잡아서 "서비스디자인과 관련된 모든 것을 다 해"라고 말하면, 거기에 있는 온갖 다양한 소스들을 사용하기 때문에 신뢰할 수 있는 유형의 작업을 얻지 못할 수도 있습니다. 너무 좁게 잡으면 아주 구체적인 봇이 되는데, 이것도 좋습니다. 때로는 함께 작동하는 에이전트 시스템을 볼 때 매우 좁은 범위가 필요하지만, 우리는 이 에이전트가 해결할 적절한 범위나 적절한 문제가 무엇인지 살펴보았습니다.

음, 그리고 다음은 사용자가 누구인지, 그리고 우리가 에이전트에게 도움을 받고자 하는 것이 무엇인지 생각해보는 것입니다. 즉, 이 문제를 해결하기 위해 에이전트가 수행하기를 원하는 행동은 무엇인가, 활동의 유형은 무엇인가 하는 것입니다. 자, 여기에 문제가 있고 여기 우리가 보고 있는 접근 방식이 있습니다. 그래서 거기서 일어나는 일의 범위를 정하는 것입니다.

음, 그리고 이 에이전트가 어떤지 생각해보는 것입니다. 성격은 어떤가? 우리가 요구하는 톤(tone)은 무엇인가? 특정 톤이 있는가? 만약 어린이를 위해 디자인한다면 성인을 위한 것과는 다른 톤을 가져야 합니다. 음, 그래서 그것이 어떤 느낌인지, 그리고 그런 유형의 것들에 어떻게 반응하는지 정의하는 것입니다.

그런 다음 우리는 어떻게 지식을 줄 수 있는지 살펴봅니다. 이 지식 베이스에서 끌어올 수 있는 정보의 유형은 무엇인가? 대본이든, 책이든, 웹사이트든 정보의 유형이 있는가? 음, 그리고 우리가 제공하고 싶은 정보 유형 내의 실제 콘텐츠는 무엇인가. 따라서 이 시점에서는 반드시 에이전트 자체를 구축하는 것이 아니라 에이전트가 작동할 프레임워크를 구축하는 것입니다.

음, 그런 다음 지식 베이스를 구축한 후 이것을 테스트할 방법은 무엇인지 생각해야 합니다. 일이 제대로 되고 있다는 것을 어떻게 보여줄 것인가? 우리가 원하는 유형의 응답을 받고 있다는 것을 어떻게 보여줄 것인가? 그리고 그런 것들을 어떻게 변경하거나 완화할 것인가? 들어가서 더 훈련시키는 방법은 무엇인가? 더 많은 정보를 어떻게 줄 것인가? 음, 그리고 저는 이것들이 우리가 자체적으로 겪는 디자인 프로세스와 매우 유사한 주요 단계들이라고 생각합니다.

Marc: 흥미롭네요. 음, 그리고 지금 듣고 계신 분들 중 아직 에이전트를 다뤄보지 않은 분들은 당신이 설명하는 것을 듣고 "물론 정체성, 톤 앤 매너, 설명, 지식 베이스가 필요하다는 건 알겠는데, 그럼 이걸 실제로 어떻게 액세스하지? 이게 어떻게 나타나는 거지?"라고 생각할 수 있습니다. 예를 들어 주실 수 있나요? 

Jess: 네, 저는 운이 좋게도 제 조직 내에 자체 LLM(거대언어모델) 내에 많은 AI 및 내부 도구가 있습니다. 그래서 우리는 어시스턴트를 디자인하고 외부에 있는 지식 베이스를 디자인할 기회를 얻었습니다. 음, 그리고 저는 이것이 기존 지식 베이스를 가지고 있고, 방금 개발한 정보, 톤 앤 매너, 수행하기를 원하는 작업을 가지고 있는 모든 LLM에 프롬프트로 집어넣는 것만큼 간단하게 시작된다고 생각합니다. 그리고 대화의 다른 인스턴스가 있을 때, 그것은 당신이 준 정보를 사용하기 시작할 것입니다.

여전히 거기에 무언가를 입력할 수 있습니다. 그래서 채팅창 내에 당신만의 에이전트라는 아주 작은 소우주(microcosm)를 갖게 되는 것입니다. 음, 아니면 더 넓게 나아가서 제미나이(Gemini)나 챗GPT(ChatGPT) 같은 것을 사용하여 자체 지식 베이스를 개발할 수 있습니다. 여기서 따로 관리할 수 있고 백그라운드에서 작동할 수 있는 페르소나 자체를 만들 수도 있습니다. 외부에 있는 몇 가지 지침을 제공할 수 있습니다. 그래서 저는 만약 여러분이 이것에 정말로 빠져들고 싶고, 이것을 유지하고 훈련하고 계속 진행하고 다른 사람들과 공유하고 싶다면, 저쪽 끝에 있는 복잡한 방법들로 들어갈 수 있다고 생각합니다. 하지만 맥락과 프롬프트를 팝업창에 띄우는 것만으로도 시작할 수 있는 정말 쉬운 방법들도 있습니다.

Marc: 네. 음, 다시 제 맥락으로 번역해 보겠습니다. 물론 제가 이것을 구축하는 가장 간단한 방법은 구글 제미나이에 액세스할 수 있다면, 일종의 시스템 프롬프트 또는 기본적으로 에이전트 지침을 만든 다음, 제가 관심 있는 도메인과 관련된 유튜브 동영상 5개를 추가하는 것일 겁니다. 배관이라든가 뭐 그런 거죠. '배관공 되는 법 101' 같은 거요. 그리고 나서 제가 실제로 이 에이전트와 상호 작용하는 방식은 채팅 인터페이스가 됩니다. 다른 LLM과 마찬가지로 그들에게 말을 걸면 되는데, 이제 그것은 5개의 유튜브 동영상을 알고 있고 어떤 톤으로 반응해야 하는지, 그리고 제가 찾는 것들을 어떻게 정리해야 하는지 알고 있는 거죠. 이것이 제가 알고 있는 가장 간단한 구축 방법일 것이고, 당신이 말했듯이 여기서부터 점점 더 복잡하게 만들 수 있겠죠. 맞나요?

Jess: 네, 좋은 접근 방식인 것 같습니다. 네, 저라면 거기서부터 시작하겠습니다.

Marc: 좋습니다. 어, 그러니까 자신만의 에이전트를 구축하거나 적어도 시작하는 것은 어렵지 않군요. 듣고 계신 분이라면 누구나 할 수 있습니다. 음, 고마워요 제스. 어, 주디스, 이제 다시 당신에게로 넘어갑니다. 어, 신뢰. 민감한 주제죠. 어, 어렵고 중요합니다. 다른 멤버들로부터 들은 핵심적인 내용에는 어떤 것들이 있었나요?

Judith: 우리 모두가 동의한 한 가지는 우리가 일종의 디자인 전반에 걸쳐 있었다는 것입니다. 우리는 AI의 타격을 받은 첫 번째 파도였습니다. 그래서 우리는 흠집이 났죠. 우리는 그 영향을 즉시 느꼈습니다. 우리는 일종의, 일어나서 먼지를 털어내고 무슨 일이 일어났는지 파악해야 했습니다. 제 말은, 우리는 여전히, 우리는 여전히 그 공간에 아주 많이 있지만, 이제는 무슨 일이 일어났는지 알 수 있을 만큼 충분히 멀리 왔습니다. 우리는 한 걸음 물러서서 이 기술을 더 비판적인 방식으로 바라볼 수 있습니다.

그리고 저는, 네, 우리는 그것을 받아들이기를 꺼립니다. 그리고 우리 중 얼마나 많은 사람이 조직 내에서 AI를 가지고 놀 수 있는 자유와 접근 권한을 가지고 있는지, 제스가 설명한 방식으로 업무를 도울 수 있는 에이전트를 만들 수 있는 수준인지 모르겠습니다. 하지만 제한된 방식 내에서 우리는 실험하고 싶어 하지만, 우리가 접근할 수 있거나 사용하도록 허용된 AI에 입력하는 데이터에 대해 매우 유의하고 있습니다. 음, 그것은 프라이버시, 영국과 유럽 내의 GDPR을 존중해야 합니다. 음, 우리가 AI를 사용하는 방법에 대한 많은 규제가 있습니다.

음, 하지만 네, 우리는 열의가 있지만 신중하며, 매우 인간적인 방식으로 접근하고 있습니다. 우리는 참가자들의 인간성을 원치 않기 때문입니다. 예를 들어, 우리가 대본을 AI에 입력한다면, 반대편에서 나오는 것이 정확하다는 것을 어떻게 확신할 수 있을까요? 그리고 이것은 제 역할과 제가 하는 종류의 일에 정말 정말 중요합니다.

음, 우리가 동의를 얻는 많은 방법은 고객과 동료 및 파트너의 인용문을 제공하는 것입니다. 그리고 네, AI는 주장을 뒷받침하기 위해 없는 말을 지어내는 것으로 악명이 높습니다. 그것은 분명히 당신의 치어리더이고 당신이 성공하기를 원하지만, 당신을 실패하게 만들 것입니다. 완전히 날조된 녹취록을 제공한다면 당신은 실패할 것입니다. 음, 혹은 고객이 어떤 말을 했다고 인용되는 경우죠. 다시 말하지만, 저는 운이 좋게도 거의 24시간 내내 고객에게 직접 접근할 수 있습니다. 가서 그들과 이야기할 수 있죠. 음, 하지만 네, 취약한 사람들과 함께 일할 때는 당신이 인용하는 것, 당신이 입력하는 것이 정확하다는 것이 훨씬 더 중요합니다. 그리고 저는 아직 그 수준에 도달하지 않았다고 생각합니다. 음, 하지만 네, 언젠가는, 언젠가는 그 지점에 도달하기를 바랍니다. 하지만 지금으로서는 우리 모두 매우 신중합니다.

Marc: 음, 게을러져서는 안 된다는 것을 상기시켜 주는 좋은 지적이네요. 그렇죠? 그리고 그건, 그건 구석에 도사리고 있는 무언가입니다. "오, 좋아, 여기 힘든 일, 지루한 일을 없애줄 게 있네. 그러면 난 가서 칵테일이나 마실 수 있겠어." 하지만 아직 게을러져서는 안 됩니다. 저는 이렇게 말하고 싶네요. 오, 죄송해요. 말씀하세요, 제스. 아니에요, 아니에요.

Jess: 저는 그저 주디스 당신이 저에게 오베타 샘슨(Ovetta Sampson)의 정말 훌륭한 강연을 상기시켜 줬다고 말하려던 참이었습니다. 음, 그리고 그녀가 했던 이야기 중 기억에 남는 것 중 하나는 "우리는 더 이상 신뢰를 위해 디자인할 필요가 없다. 우리는 진실을 위해 디자인해야 한다(We need to design for truth)"라고 말한 것입니다.

그래서 투명성에 대해 생각할 때, 어떻게 경험에 투명성을 구축하여 사람들이 이 정보가 어디서 왔는지, 환각이 아니라는 것을, 음, 누구든지 이것이 어떻게 생성되었는지, 그리고 이것들을 함께 모은 시스템과 정보 및 프로세스가 무엇인지 이해할 수 있게 할 것인가? 그리고 저는 에이전트를 디자인할 때 이것이 어디서 왔는지 끊임없이 확인하고 생각하는 것이 정말 중요할 것이라고 생각합니다. 이 결과물은 어떻게 제시되고 있는가? 이것이 지어낸 것이 아니라 진실된 진술임을 사람들이 알 수 있게 하는 정보의 유형은 무엇인가?

음, 그리고 또한 소비자로서 우리가 생각해야 할 것, 우리가 물어봐야 할 질문의 유형은 무엇인가? 그래서 그것은 결과가 나온 후 "이걸 어디서 가져왔는지 말해줘" 또는 "이 인용문이 있는 대본의 타임스탬프를 줘"라고 묻는 것만큼 간단할 수 있습니다. 왜냐하면 이 지식 베이스에 있고 끌어오는 모든 정보가 있기 때문에, 이 에이전트는 당신에게 이것들이 어디서 왔는지에 대한 진실을 보여줄 수 있어야 합니다. 그래서 저는 오베타가 AI 시대의 투명성에 대해 생각하게 하는 훌륭한 지적을 했다고 생각했습니다. 우리는 모두 신뢰에 관한 것이지만 진실에 대해서도 생각해야 합니다.

Marc: 좋은 지적입니다. 우리는 바르셀로나에서 열린 '비욘드 더 맵(Beyond the Map)' 컨퍼런스에서 오베타를 볼 기회가 있었는데, 누가 알겠습니까, 아마 언젠가 그녀도 서비스디자인 쇼에 나올지도 모르죠. 힌트입니다. 판단은 하지 마세요. 음, 네, 이 주제를 당신과 함께 마무리하고 싶습니다. 당신은 10명, 15명의 사람들이 압력솥 같은 환경에서 자신의 에이전트를 디자인하는 과정을 거치게 했습니다. 당신에게 떠오른 주요 질문, 통찰력, 하이라이트는 무엇이었나요?

Jess: 저에게는 개인들이 만드는 다양한 에이전트에 정말 매료되었습니다. 예를 들어 한 참가자는 환자와 환자 가족이 필요한 치료를 받기 위해 자금원을 찾는 것을 어떻게 도울지 살펴보고 있었습니다. 그래서 모든 문서와 서비스를 제공할 수 있는 가능한 모든 보조금을 샅샅이 뒤지는 것이었죠. 누군가는 제품 팀을 위한 에이전트를 디자인하는 것을 돕고 있었는데, 제품 팀이 디자인 프로젝트의 범위를 더 잘 설정하여 프로세스 초기에 저를 참여시킬 수 있는 시스템이 필요하다는 것이었습니다. 그래서 저는 그렇게 다양한 유형의 에이전트와 활동들이 나오는 것이 정말 좋았습니다. 사람들이 그것에 대해 이야기하는 것을 듣는 것이 정말 멋지다고 생각했습니다.

음, 그리고 또 다른 것은 우리가 종종 되돌아가야 했다는 것입니다. 사람들이 들어가서 무언가를 디자인하다가도, 3단계에 도달해서는 "이걸 어떻게 해야 할지 모르겠어요. 이걸 어떻게 훈련시켜야 할지 모르겠어요. 아니면 대화형 에이전트가 이 문제를 해결하는 가장 좋은 방법이 아닐 수도 있어요. 이론적으로는 좋아 보이지만 실제로는 인간의 더 많은 뉘앙스가 필요해요."라고 말하곤 했습니다. 그래서 '인간 개입(human in the loop)'이 어디에 필요한지 생각하는 것이 사람들이 자신의 구축 과정을 거치면서 저에게 드러난 또 다른 점이라고 생각합니다.

Marc: 저도 세션에서 그 점을 인식했습니다. 그리고 방금 말씀하신 것 외에 저에게 돋보였던 점 중 하나는, 이것이 조직 내에서 제자리에 있어야 하지만 아직 갖춰지지 않은 것들을 작업하기 위한 거의 완벽한 '트로이 목마' 같았다는 것입니다. 예를 들어, 당신은 지식 베이스를 몇 번 언급했는데, "에이전트가 XYZ를 수행하면 좋지 않을까?"라고 시작하면 모두가 "그래, 그거 정말 좋겠다. 시간을 엄청 아낄 수 있을 거야"라고 합니다. 그런 다음 "좋아요, 그러려면 이 정보가 제자리에 있어야 하고 정제되고 검증되어야 합니다"라고 하면 모두가 "잠깐만, 그래, 그건 우리가 실제로 작업해야 할 부분이네"라고 하게 되죠. 그래서 저는 그 자체로 기반을 마련하는 데 매우 가치 있는 운동이라는 것을 알았습니다. 네. 음. 좋습니다.

음, '인간성과 기술' 시즌이 한 달 더 남았고, 그러면 2026년이 되어 4개의 다른 시즌을 탐구하겠지만, AI는 확실히 핵심 주제입니다. '인사이드 서비스디자인' 에피소드 포맷의 마지막 섹션으로 넘어가서, 인하우스 서비스디자인 수행에 관한 통념, 모범 사례, 주요 교훈에 대해 조금 이야기해 보겠습니다. 주디스, 이번에는 당신부터 시작하죠. 음, 내부에서 밖을 내다볼 때 인하우스 서비스디자인 수행에 대한 오해는 무엇이라고 생각하시나요?

Judith: 아마도 인하우스에 들어가면, 음, 이건 신화는 아니지만, 정말 운이 좋아서 수백 명의 디자이너가 있는 팀에 들어가지 않는 한, 아마도 1인 또는 2인 팀이 될 것이라는 점입니다. 하지만 네, 신화는 당신이 어떤 곳에 들어가면 거기서 디자이너로서의 발전이 멈춘다는 것입니다. 저는 에이전시 세계의 전성기 시절 에이전시에서 일했는데, 거기서 우리는 방에서 가장 중요한 사람들이었고 가장 똑똑하고 재능 있는 디자이너들이었습니다. 인하우스는 전혀 그렇지 않습니다. 하지만 저는 이 두 환경 모두 나름의 방식으로 숨 막힐 수 있다고 생각합니다.

그리고 만약 디자이너들에 둘러싸여 항상 디자인에 대해 이야기하고 디자인 이벤트를 하는 환경에 있다면, 매우 특정한 방식으로 발전하게 됩니다. 음, 비즈니스가 어떻게 돌아가는지, 디자이너가 아닌 사람들에 대해서는 잘 이해하지 못합니다. 그런 환경에서는 당신이 무엇을 하고 있는지, 왜 하고 있는지, 해결하려는 문제가 무엇인지를 효과적으로 소통하기가 매우 어렵습니다. 그것은 아마도 에이전시 사람이나 컨설턴트로 들어갈 때 그런 것들이 명확하지 않다는 사실의 징후일 수도 있습니다. 하지만 인하우스로 들어가면 그런 기술들이 완벽하게 연마됩니다.

당신의 디자인 기술은 시험대에 오릅니다. 왜냐하면 정말 정말 빨리 적응해야 하기 때문입니다. '디자인스러운' 방식을 버려야 합니다. 왜냐하면 함께 일하는 사람들과 같은 언어를 말할 수 없다면 당신이 무엇을 하는지, 왜 당신이 하는 일이 중요한지 누구에게도 설명할 수 없기 때문입니다. 그래서 인하우스 디자이너로서 기업 환경에 들어가면 완전히 새로운 언어를 배워야 하며, 그것은 기업 용어와 일을 완수하기 위한 많은 군사적 메타포, 그리고 '현장 투입(boots on the ground)' 같은 것들인데, 이는 에이전시와는 상당히 다릅니다. 하지만 네, 신화는 아마도 당신의 디자인 감각이 무뎌진다는 것이겠지만, 전혀 그렇지 않습니다. 당신은 왜 무언가를 하는지 반복해서 방어해야 하기 때문에 오히려 그 기술들을 날카롭게 만듭니다.

Marc: 흥미롭네요. 어, 흥미로운 견해입니다. 제스, 공감하시나요? 네. 그리고 방금 주디스가 언급한 것 외에 혹독하게 배운 것이 있다면 무엇인지 궁금합니다.

Jess: 네, 물론이죠. 음, 주디스, 저는 그 말이 정말 맞다고 생각합니다. 그리고 종종 인하우스 디자이너들이 쉬운 길을 택한다는 비판이 있을 수 있습니다. 프로젝트를 할 시간이 훨씬 많고, 그런 환경에서 좀 더 여유로울 수 있다는 거죠. 저는 전혀 그렇지 않다고 생각합니다. 말씀하신 모든 이유들 때문에, 어떤 조직에서든 디자인은 항상 그 가치와 영향력을 보여주기 위해 싸우고 있습니다. 그래서 모든 상호 작용과 모든 프로젝트가 적절하고 공감을 일으키며 다른 사람들이 받아들일 수 있도록 해야 합니다. 아시다시피, 인하우스 서비스디자인에서 변화 관리는 정말 중요합니다. 조직 내의 모든 다양한 수준에서 동의를 얻고 수용되도록 계획하지 않으면 작동하지 않을 것이기 때문입니다.

음, 그래서 그 점이 저에게 매우 와닿습니다. 음, 마크가 처음에 그 질문을 했을 때 떠오른 것은, 음, 어쩌면 단점, 음, 거기에 있는 부정적인 점일 수 있는데, 어쩌면 이것은 모든 서비스디자인 환경에서 사실일지 모르지만, 인하우스에서 더 많이 느낍니다. 들어와서 웅장한 엔드 투 엔드(end-to-end) 비전을 디자인하고 구현할 수 있을 것이며, 아주 처음부터 시작해서 끝까지 가는 서비스를 갖게 될 것이고, 이 과정을 통해 그것을 이끌 수 있을 것이며, 아주 멋질 것이라는 생각입니다.

그리고 제가 생각하기에 실제로는 업무가 훨씬 더 단편적인 경향이 있습니다. 그리고 고객이나 직원에게 제공할 새로운 서비스를 디자인하는 것보다는 기존 서비스와 프로세스를 들어가서 다듬는 것에 더 가깝다는 것을 알게 되었습니다. 그래서 학문적 환경에서 배우거나 서비스디자인의 이론과 실제에 대해 들을 때와는 다른 방식으로 공동 창작(co-creation)과 아이디에이션(ideation)을 사용하게 됩니다. 실행할 수 있는 엔드 투 엔드의 거창한 비전이라기보다는 이러한 환경과 프로젝트에 서비스디자인 사고를 통합할 방법을 찾는 것에 더 가깝습니다.

Marc: 네, 최근 쇼에서 론 브론슨(Ron Bronson)과 함께했던 이야기와도 일맥상통하네요. 그는 "서비스디자인은 수선(repair)이다"라고 했는데, 우리가 자주 듣지 못하는 흥미로운 견해지만 저는 그것이 현실이라고 생각합니다. 네. 음, 좋습니다. 이것을 긍정적인 렌즈로도 바라보려고 노력해 봅시다. 주디스, 자랑스러워하는 성취나 업적은 무엇입니까? 제가 이것을 묻는 이유는 우리가 여기서 하는 거의 모든 에피소드에서 인하우스에서 일할 때 성공을 인지하는 것이 정말 어려울 수 있다는 것입니다. 일이 오래 걸릴 수 있고, 소위 '당신의 승리'라고 주장하기가 정말 어렵기 때문입니다. 그래서 모르겠습니다. 무엇을 자랑스러워하시나요? 성공을 어떻게 인지하시나요? 그에 대한 생각이 있으신가요?

Judith: 저는 비영리 단체에서 일합니다. 그래서 비즈니스의 성공은 영리 조직과는 약간 다르게 측정됩니다. 그래서 높은 수준에서 성공을 본다면 어디에 있느냐에 따라 약간 다릅니다.

Marc: 하지만 당신에게는 무엇입니까? 네. 네.

Judith: 개인적인 차원에서, 최근에 제가 해낸 일 중 지금까지 할 수 없었던 것은, 고객 경험을 개선하고 싶어서 저에게 이 일을 요청한 사람들과 같은 방에 고객들을 데려온 것입니다. 그리고 "고객 경험을 개선하고 싶다"고 말할 때 그게 무슨 뜻인지 사람들에게 도전할 수 있습니다. 많은 연구를 하고 매핑을 할 수 있지만, 누군가가 실제로 귀를 기울이게 만드는 유일한 방법은 이 두 사람을 한 방에 넣는 것입니다.

그리고 그것은 놀라웠습니다. 네, 고객을 진심으로 아끼지만 그들 중 누구와도 직접 이야기할 기회가 없었던 우리 조직 내의 매우 고위 리더들이었습니다. 그래서 저는 그들을 한 방에 넣었고, 고위 인사는 들어야만 했습니다. 그들이 할 수 있는 유일한 질문은 고객이 말하는 것을 완전히 이해하지 못했을 때 명확히 해달라는 것뿐이었습니다. 그리고 몇 달이 지난 지금도 그들은 여전히 그 대화를 언급합니다. 그리고 저는 작게나마 협업과 공동 창작의 풍토를 가져왔습니다. 이는 실제로 인간을 회의실로 데려오는 것을 의미합니다. 비디오도 아니고, 녹음된 전화 통화도 아닙니다. 우리가 가진 아이디어에 진심으로 반대 의견을 내는 또 다른 사람이 방에 있는 것입니다. 그래서 저에게는 그것이 성공입니다. 그것은 큰 승리입니다. 네. 네. 포용이 제가 해야 할 일이라면, 이것은 좋은 것입니다.

Marc: 그리고 당신은, 음, 모르겠습니다. '작다'는 단어를 쓰지 않으셨지만, 이런 변화, 풍토의 변화, 문화의 변화, 그건 놀라운 일입니다. 대단하죠? 음, 축하드립니다. 어, 제스, 당신에게 성공은 어떤 모습인가요? 네.

Jess: 음, 저에게 성공은 많은 경우 함께 일하는 팀에게 명확성을 제공하는 능력이라고 생각합니다. 그리고 저는 종종 어떤 공간에 들어가면, 많은 대규모 조직에서 그렇듯이, 같은 일을 하는 여러 팀이 있을 것입니다. 중복되는 업무가 있을 수 있습니다. 그들은 소통하고 있다고 생각하지만 실제로는 그렇지 않은 방식들이 있을 수 있습니다. 그리고 제가 들어가서 그 엉킨 실타래를 풀기 시작하고, 무엇이 효과가 있고 무엇이 효과가 없는지에 대해 팀에게 명확성을 제공하기 시작하고, 그들이 특정 접근 방식에 대한 합의를 형성하도록 하는 것은 매우 중요하며 서비스디자인이 하는 일이라고 생각합니다.

음, 제가 약 1년 전 지금의 직장에 처음 합류했을 때, 고객 타게팅을 더 잘하기 위한 내부 프로세스를 중심으로 우리가 하려던 큰 이니셔티브에 들어갔습니다. 그리고 이 서비스에서 그들이 만든 이 중간 비전에는 너무나 많은 단계와 프로세스가 있었습니다. 제 생각에 저는 거기에 있는 168개의 단계를 매핑했습니다. 그리고 제가 모든 것을 펼쳐 놓고 그들에게 보여주기 시작했습니다. 여기 관련된 모든 다양한 사람들이 있습니다. 여기가 바로 이 특정 서비스와 프로세스에서 우리가 빙빙 돌고 있는 곳입니다. 음, 그리고 여기 이것을 줄이고 직원들이 일할 수 있는 더 나은 시스템을 제공하는 것에 대해 생각할 수 있는 몇 가지 방법이 있습니다. 음, 그것은 정말 큰 반응이었습니다.

아시다시피, 저는 서비스 블루프린트를 출력했는데 벽에 12피트(약 3.6미터) 길이로 붙었고, 주디스가 사람들을 데려와 공감을 형성하고 스스로 보게 하는 것에 대해 많이 이야기했듯이 말이죠. 저는 그렇게 큰 결과물이 있을 때마다 사람들이 거기에 몰입하고 복잡성을 정말로 이해하기 시작할 수 있다고 생각합니다. 그래서 저에게 명확성과 합의, 그리고 동의는 서비스디자인에서 성공을 보여주는 것이라고 생각합니다. 왜냐하면 그것은 우리가 앞으로 나아가게 하고 장기적으로 더 나은 경험을 개발할 수 있게 하는 정렬(alignment)을 얻게 해주기 때문입니다.

Marc: 두 분의 예시를 들으며 궁금한 점이 있습니다. 주디스의 예시처럼 몇 달 후에도 여전히 언급하거나 사람들을 초대하는 등 매우 확실히 가리킬 수 있는 무언가가 있는 반면, 제스의 예시에서는 합의가 이루어졌다는 사실이나 의미 파악(sense making)이 효과가 있었다는 것을 어떻게 측정하나요? 이것이 효과가 있다는 것을 파악하기 위해 무엇을 붙잡나요?

Jess: 네, 좋은 질문입니다. 그래서 저는 징후 중 하나가 우리가 거대한 서비스 블루프린트를 가지고 오프사이트(외부 미팅)를 한 직후에 사람들이 그것을 손에 넣고 싶어 했다는 점이라고 생각합니다. 저는 이것들이 무엇인지 설명하고, 거기에 있는 몇 가지 다른 고충 사항(pain points)을 검토하는 반복 세션을 정말 많이 했습니다. 그리고 나서 그것은 계속 활용되었습니다. 우리는 또한 이것을 어떻게 업데이트할지 생각하기 위한 노력도 했습니다. 우리가 비행기를 조종하면서 비행기를 만들고 있는 것처럼, 무엇이 바뀌어야 하고, 이러한 유형의 것들을 어떻게 단순화하기 시작할 것인가?

그래서 저는 지속적인 대화와 이러한 활동에 제가 포함되는 것이 우리가 공통의 기반을 만들기 시작했고 이것들이 저와 팀이 참여하기에 유용한 것들이라는 정말 긍정적인 신호라고 생각합니다.

Marc: 네, 그것은 우리가 이 에피소드들에서 더 자주 듣는 정말 강력한 징후입니다. 재구매가 이루어진다면, 사람들이 계속 당신을 찾아온다면, 분명 당신이 무언가 올바르게 하고 있는 것입니다. 그러니까 만약 서비스디자인 부서의 전화가 울리지 않는다면, 음, 상황을 바꿔야 할 필요가 있습니다. 좋습니다.
음, 이제 두 분과 함께 마지막으로 한 가지를 하고 싶습니다. 저는 여기서 질문을 하고 있지만 그건 별로 사용자 중심적이지 않습니다. 여러분이 인하우스 서비스디자인 전문가입니다. 그러니 여러분이 실제로 질문을 하는 것이 훨씬 더 말이 됩니다. 그래서 기회를 드리겠습니다. 오늘 우리의 대화를 듣고 있는 수천 명의 사람들이 있습니다. 자, 주디스, 만약 당신이 다른 인하우스 서비스디자인 전문가들에게 질문을 하나 할 수 있다면, 무엇이 궁금하시겠습니까? 그들로부터 무엇을 알고 싶나요? 그리고 제스, 당신에게도 이 질문을 드리겠습니다.

Judith: 오, 어려운 질문이네요. 음, 구체적으로 무엇을 묻고 계신가요?

Marc: 만약 당신이 제 자리에 있고, 인하우스 서비스디자이너들을 인터뷰하는 팟캐스트 호스트라면 그들에게 무엇을 묻겠느냐는 것입니다. 무엇이 궁금하실까요?

Judith: 우리가 AI라는 주제를 다루고 있으니, 지금 제가 꽤 알고 싶은 것은 AI가 어떤 역할을 하는가입니다. 제스가 설명한 에이전트처럼, 사람들은 시스템의 참가자로서, 그리고 우리의 의사 결정에 영향을 미칠 행위자(actor)로서 AI에 어떻게 접근하고 있는가 하는 점입니다. 사람들은 이 문제에 어떻게 접근하고 있으며, 우리가 지금 디자인하고 있는 시스템에서 신뢰할 수 있는 화자(reliable narrator)가 되기에 충분하다고 믿는 도구, 에이전트, 혹은 무엇이든 간에 그것들을 어떻게 선택하고 있는가 하는 것입니다.

저는 우리가 AI를 거의 동등한 존재로 고려해야 하는 독특한 위치에 있다고 생각합니다. 반면 다른 사람들은 아마도 이것들을 작업을 완료하기 위한 어시스턴트나 도구로 사용하고 있을 것입니다. 하지만 사람들이 AI가 디자인을 할 수 있다고 생각한다면, 우리는 현실적이고 신중한 방식으로 이것에 어떻게 접근하고 있는지 진지하게 고려해야 합니다.

Marc: 좋은 질문입니다. 어떤 의견이 올라오는지 봅시다. 어, 당신은 어떤가요, 제스? 당신의 질문은 무엇입니까?

Jess: 네, 저는 다른 서비스디자이너들과 이야기할 때 항상 궁금해하는 것이 서비스의 수명을 지속 가능하게 하기 위한 그들의 모범 사례를 이해하는 것입니다. 그래서 저는 많은 디자이너들이 조직 내에서 자신을 디자이너라고 부르지 않으려고 노력한다는 말을 들었습니다. 그들은 용어와 실무로부터 거리를 둡니다. 앞서 주디스가 말한 것과 다르지 않죠.

하지만 우리를 없어서는 안 될 존재로 만들기 위한 지속 가능한 전략은 무엇일까요? 아시다시피, 우리가 가진 사고방식과 생각, 도구 외에 우리는 어떻게 살아남고 끈질기게 버티고(scrappy) 있을까요? 음, 그리고 어쩌면 AI가 이제 그 방정식의 일부일까요? 음, 새로운 제품과 서비스, 조직을 디자인할 때 우리가 항상 대화의 필수적인 부분임을 보장할 방법을 어떻게 찾기 시작할까요?

Marc: 정말 매혹적인 질문이네요. 그리고 얼마 전 우리는 실제로 '우리는 어떻게 없어서는 안 될 존재가 되는가'에 대해 구체적으로 다룬 서클 디너 테이블 세션을 가졌습니다. 어, 그래서 멋지네요. 네, 좋습니다. 음, 네, 주디스, 나와서 이야기를 공유해주고, 컨퍼런스의 잘 다듬어진 케이스 스터디나 책을 읽는 것만이 아닌 실제 인하우스 서비스디자인을 하는 것이 어떤 것인지에 대한 통찰력을 주셔서 감사합니다. 그래서 어, 현장에 있는 사람들의 실제 이야기를 듣는 것이 매우 도움이 되었습니다. 감사합니다. 다시 한번 감사드립니다.

Jess & Judith: 감사합니다. 정말 재밌었어요.

Marc: 음, 디지털 동료와 상호 작용하는 방식에 대한 신선한 관점을 가지고 돌아가시길 바랍니다. 저는 확실히 에이전트를 주니어 어소시에이트로 구축하는 제스의 접근 방식에 대해 생각하게 될 것입니다. 그리고 물론, 신뢰를 위해 디자인하는 것뿐만 아니라 진실을 위해 디자인해야 한다는 주디스의 비판적인 상기도요. 또한 인하우스에서의 성공이 항상 빛나는 제품이나 서비스 출시처럼 보이지는 않는다는 점을 상기시켜 준 것도 좋았습니다. 때로는 제스가 보여주었듯이, 168개의 프로세스 단계라는 엉킨 실타래를 푸는 것일 수도 있습니다. 그리고 때로는 주디스가 공유했듯이, 가장 큰 승리는 단순히 고위 리더를 방에 앉혀 실제 고객의 목소리를 듣게 하는 것입니다.

대화 중에 주디스는 제가 여러분에게 전달하고 싶은 중요한 질문을 했습니다.
여러분은 시스템의 참가자로서 AI에 어떻게 접근하고 있습니까? 단지 도구로 보십니까, 아니면 의사 결정에 영향을 미치는 행위자로 보십니까? 그에 대한 여러분의 의견을 듣고 싶습니다. 스포티파이나 유튜브의 이 에피소드에 댓글을 남겨주세요.

그리고 우리가 이야기했듯이, 인하우스에서 이런 종류의 변화를 주도하는 것이 지구력 레이스라는 점은 부인할 수 없습니다. 만약 여러분이 이 레이스를 혼자 달리고 있다고 느끼고 여러분만의 피트 크루가 필요하다면, 바로 그것이 우리가 서클 커뮤니티를 시작한 이유입니다. 서클에서 여러분은 주디스와 제스처럼 똑똑하고 관대하며 경험 많은 전문가 그룹을 찾을 수 있습니다. 서클은 솔직한 상황 점검을 받고, 실질적인 조언을 공유하며, 계속 나아가는 데 필요한 지지를 찾을 수 있는 곳입니다. 서클과 가입 방법에 대해 더 자세히 알고 싶으시면 circle https://www.servicedesignshow.com/circle/ 로 가보세요. 그리고 물론 링크는 쇼 노트에서 찾을 수 있습니다.
서비스디자인 쇼를 청취해 주셔서 정말 감사합니다. 제 이름은 마크 폰테인입니다.