(영상) 과학이 권력을 만났을 때 - 제프 멀건

현재 민주주의는 제도적 낙후, 낮은 성과, 시민의 주체성 상실 등 구조적 위기에 직면해 있으며, 18~19세기 제도를 유지한 채 디지털 시대에 대응하지 못하고 있다. 그는 민주주의를 대통령, 의회, 미디어, 시민참여 등 다층적 요소로 구성된 ‘조립체(assembly)’로 보며, 각 요소를 재설계하고 조율할 필요가 있다고 주장한다.
이 재설계 과정에서 디자인은 복잡한 문제를 발산-수렴 구조로 실험하고, 다양한 민주주의 요소를 창의적으로 연결하는 핵심 도구로 작동한다. 인공지능은 민주주의 전 과정—이슈 탐지, 정책 생성, 실행, 감시—에 기여할 수 있으며, 이를 위해서는 기술에 대한 맹신이 아닌 인간 중심의 설계와 집단지성 기반의 통제가 필요하다.
그는 민주주의를 단일한 해법으로 고칠 수 없다고 보며, 다양한 기술과 사회적 상상력을 기반으로 다층적 실험과 설계를 수행해야 한다고 강조한다.

과학이 권력을 만났을 때
민주주의를 재부팅하라: 인간 지능과 기계 지능의 결합으로 민주주의를 강화하기
제프멀건. 2024. 4. 26. 발표 내용 전문 번역
When science meets power
Sir Geoff Mulgan in conversation with Ravi Gurumurthy”
주최: The GovLab
영상 출처 : https://www.youtube.com/watch?v=ADJaV5gBqao  
번역 : 챗GPT (요약, 생략된 부분이 있을 수 있습니다. 원본을 확인해주세요.)

 

제프 멀건 경. Sir Geoff Mulgan  
사회 혁신 분야의 세계적인 지성. 유니버시티컬리지런던(UCL) 집단 지성, 공공 정책, 사회 혁신 교수다. 런던정경대학교(LSE), 멜버른대학교에서 객원 교수를 지냈으며 하버드대학교 케네디스쿨 애시센터의 수석 방문 학자로 머물렀다.
영국에서 가장 영향력 있는 싱크탱크 데모스(Demos)를 창립했으며 혁신을 지원하는 재단 네스타(Nesta)와 구조적 불평등을 개선하는 영파운데이션(Young Foundation)의 CEO를 역임했다. 창조경제 전략, 연합정부, 예측적 규제, 실험주의, 개방형 혁신, 문제해결 방법 등에서 정부 및 기타 기관에서 사용하는 많은 아이디어를 선보였으며 창조경제에 기여한 공로로 2020년 여왕 탄생일 기사작위를 받았다. 현재 4차 산업혁명의 혁신과 기업가 정신을 연구하는 세계경제포럼(World Economic Forum) 그룹의 공동 의장을 맡고 있으며, 과학과 기술의 관점을 유럽의회에 조언하는 STOA(Science and Technology Options Assessment)의 자문 패널이며, 2023년에는 ‘정부 혁신의 모든 것(whole of government innovation)’에 관한 유럽위원회 프로그램의 의장을 맡았다. 토니 블레어 총리 시절, 영국 총리실 산하 미래전략위원회의 전략기획관을 지냈고, 세계 각국의 산업 정책 수립에 자문 역할을 했으며 여러 재단의 이사회에 참여하고 있다. 프랑스 정부의 프랑스 디지털 에이전시 이사회, 스코틀랜드 정부의 ‘캔 두(can do)’ 패널, 서울시 사회혁신국제자문단, 아랍에미리트 총리실의 자문위원회 등에도 참여했다.
지은 책으로는 《메뚜기와 꿀벌: 약탈과 창조, 자본주의의 두 얼굴》,《사회혁신이란 무엇이며, 왜 필요하며, 어떻게 추진하는가》, 《좋은 권력과 나쁜 권력(Good and Bad Power)》, 《공공 전략의 기술(The Art of Public Strategy)》, 《다른 세상은 가능하다(Another World is Possible)》 등이 있다. (교보문고 저자 소개에서 발췌)

---

데이비드 매디건 :  

여러분, 안녕하세요. 오늘 이 자리에 와주신 분들과 온라인으로 함께해 주신 분들 모두 반갑습니다. 저는 노이스턴대학교의 수석 부총장 데이비드 매디건입니다. 오늘 이 자리를 빌어 제프 멀건 경(Sir Geoff Mulgan)을 소개하게 되어 매우 기쁩니다.

제프 멀건 교수는 현재 유니버시티 칼리지 런던(UCL)에서 집단지성, 공공정책, 사회혁신을 주제로 연구하는 교수로 재직 중입니다. 그가 맡고 있는 직함은 제가 언젠가 되고 싶었던 모습이기도 합니다. 그는 2011년부터 2019년 말까지 영국의 혁신재단 네스타(Nesta)의 CEO를 역임했으며, 그 이전에는 영국 정부에서 다양한 고위직을 맡아 일했습니다. 총리 전략실장, 성과혁신단장, 정책실장 등으로 활동했고, 유럽연합 집행위원회와 의회에서도 주요 역할을 수행했습니다.

그는 또 씽크탱크 데모스(Demos)의 초대 디렉터였으며, BBC 방송에서 TV와 라디오 기자로도 활동한 바 있습니다. 현재는 곧 출간될 신간 『과학이 권력과 만날 때(When Science Meets Power)』의 저자이기도 합니다. 이 책은 과학의 권위가 확대됨에 따라 발생하는 정치와의 마찰, 그리고 때로는 정치에 기여하고, 때로는 그것을 도전하는 과정을 다루고 있습니다.

오늘 그는 우리가 던져야 할 중요한 질문에 대해 이야기할 것입니다. 과연 민주주의는 한 사회의 지능을 증폭시킬 수 있는가, 아니면 오히려 그것을 퇴화시키고 있는가. 민주주의는 시민들에게 사랑받고, 신뢰받고, 복지의 필수 조건으로 여겨질 수 있을까. 오늘 그가 던질 질문들에 함께 고민해보면 좋겠습니다.
그럼 제프 멀건 교수를 환영해주시기 바랍니다.

[청중 박수]

제프 멀건: 

감사합니다, 데이비드.
네, 여기 제 마이크가 있고요. 멋진 환대에도 감사드립니다. 저는 지난 이틀 동안 노이스턴에서 아주 좋은 대화를 나눴습니다. 그리고 누군가가 말하길, 좋은 대화를 나눈 대가로 저는 뭔가 말을 해야 한다고 하더군요. 그래서 오늘 이렇게 이야기하게 되었습니다.

이번 강연이 조금은 대화형 형식이 되기를 바랍니다. 그리고 아마도 많은 내용을 빠르게 지나갈 텐데요, 그만큼 나중에 격렬한 이견, 도전, 창의적 논의가 오갈 수 있었으면 합니다. 제게 대학이란 바로 그런 공간이어야 하니까요.

방금 제 배경에 대해 어느 정도 말씀해주셨지만, 저는 중앙정부, 도시정부, 유럽연합, 의회 등에서 톱다운 방식으로 일한 경험이 있고, 지금은 민간기업 이사회 의장직도 맡고 있습니다. 또 재단에서, 그리고 현재는 UCL에서 활동 중이고요. 저는 책을 주로 자기치유를 위해 씁니다. 제가 무슨 생각을 하고 있는지를 스스로 이해하려는 시도로 말이죠.

그리고 저는 이 저널의 공동편집자로 활동 중입니다. 이 저널은 노이스턴에서 내년에 큰 행사를 주최할 예정입니다. 잘 되기를 기대하고 있습니다.

작년에는 상상력에 관한 책을 썼는데요, 오늘은 그 이야기는 하지 않을 겁니다. 다만 그 책의 기본 주장은 다음과 같습니다. 우리는 사회적, 정치적 상상력의 결핍 속에 살고 있으며, 그것이 온갖 문제의 원인이 되고 있다는 것입니다.

곧 출간될 새 책은 데이비드가 언급했듯, 오늘날의 매우 이상한 시대를 다룹니다. 정부들이 다루는 주요 이슈들—예컨대 팬데믹, 기후변화, 인공지능—은 과학에 깊이 의존하고 있지만, 정치는 그것을 따라가지 못하고 있고, 해야 할 과업과 정치의 역량 사이의 간극은 점점 벌어지고 있습니다. 저는 이 책에서 그 역사와 현재를 살펴보는 동시에, 우리가 미래에 조금이나마 더 나은 대응을 할 수 있는 방법에 대해 제안합니다. 하지만 오늘은 이 책에 대해서도 깊이 다루지는 않을 것입니다.

오늘 제게 주어진 주제는 '민주주의'였습니다. 저는 이 주제를 기쁘게 받아들였고, 여러분과 몇 가지 질문을 공유하고자 합니다. 이 자리에 계신 많은 분들이 저보다 더 나은 답을 갖고 계실지도 모르겠습니다.

오늘 이야기에서 저는 자동차 운전(car driving)에 대한 다양한 비유를 사용할 예정입니다. 왜 그런지는 곧 아시게 될 겁니다.

민주주의의 본질은, 결국 한 사회 전체를 어떻게 조정하고(steer) 이끌 것인가에 관한 것입니다. ‘정부(government)’라는 단어 자체가 그리스어로 '조종하다(steer)'에서 유래했죠. 우리가 바라는 정부란, 흔들리는 환경 속에서 우리를 잘 인도해주는 존재입니다. 그런데 그들이 그 역할을 잘 수행하고 있을까요? 아니면 그렇지 못할까요?

약 1년 전, 저는 전 세계 국가들이 팬데믹 상황에서 ‘지능’을 어떻게 활용했는가에 대한 연구를 마쳤습니다. 이때도 저는 자동차를 하나의 비유로 삼았습니다. 자동차를 운전할 때 필요한 것들—데이터, 모델, 증거, 암묵지, 창의성, 통찰력—이 바로 우리가 정부 운영에서도 요구하는 것들이기 때문입니다.

그 프레임을 바탕으로, 우리는 타이완, 에스토니아, 캐나다 등 여러 나라가 2020년부터 2022년 사이 팬데믹이라는 특이한 시기를 어떻게 다뤘는지를 살펴보았습니다. 감염병 대응뿐만 아니라, 학교, 정신건강, 지역공동체 같은 복합적인 문제들을 어떻게 풀어냈는지도 함께 말이죠.

이제 저는 이 자동차 비유를 민주주의를 이해하는 데에도 다시 사용해보려 합니다. 우리가 사회를 어떻게 조종하고 있는지를 다시 생각해보기 위해서요.

바로 이 지점에서, 대학의 다양한 학문적 관점이 함께 동원될 수 있습니다.

우리가 정부의 인지 능력, 즉 국가적 인식의 프레임워크(state cognition framework)라고 부르는 모델은 이렇습니다. 팬데믹에서 기후변화, 실업에 이르기까지 어떤 이슈든, 국가는 항상 데이터를 결합하고, 증거를 해석하고, 모델을 활용하며, 다양한 정보원을 종합해 결정을 내려야 합니다. 어떤 국가는 이걸 잘하고, 어떤 국가는 형편없이 하죠.

데이비드가 말했듯, 오늘 제가 다룰 핵심 질문은 이것입니다. 앞으로 10년, 20년 동안 민주주의가 과연 우리를 올바르게 이끌 수 있는가?
민주주의가 한 사회의 지능, 지혜, 덕성을 증폭시키는 장치가 될 수 있을까요? 아니면 우매함과 옹졸함을 드러내는 구조로 남게 될까요?

전 세계적으로 볼 때, 어떤 민주주의는 그 사회의 가장 좋은 모습을 표현해주는 반면, 또 어떤 곳의 민주주의는 가장 나쁜 모습을 드러냅니다. 불행히도, 현재로선 ‘나쁜 쪽’이 더 많아 보입니다.

민주주의에 대한 신뢰 하락, 제도적 노후화

이 데이터는 여러분 중 많은 분들이 익숙하실지도 모릅니다. 각 세대별로 민주주의에 대한 신뢰가 어떻게 변화해왔는지를 보여주는 자료입니다. 그래프를 보면, 세대가 아래로 내려갈수록 민주주의에 대한 확신이 점점 줄어드는 것을 알 수 있습니다. 가장 아래에 위치한 밀레니얼 세대는, 민주주의를 정부 형태로 신뢰한다고 응답한 비율이 가장 낮습니다. 지금 우리는, 민주주의에 대한 신뢰가 지속적으로 감소하는 세속적 하강(secular decline) 흐름 속에 있습니다.

이 표는 약 30개국을 대상으로 한 설문조사 결과로, 사람들의 신뢰 수준(trustworthiness)이 각 집단별로 어떻게 나타나는지를 보여줍니다. 가장 상단에는 과학자와 교사가 위치해 있습니다. 아마 이 방 안의 여러분 중 많은 분들이 포함될 테죠. 반면, 공무원, 정부 장관, 일반 정치인들은 하단에 위치해 있습니다.

즉, 우리는 정부가 여러 일을 수행해야 하는 상황에 살고 있지만, 그 일을 제대로 해낼 수 있다는 믿음—특히 선출된 정치인에 대한 신뢰—는 현저히 낮은 상태입니다.

저는 여러분이라면 이 여론조사에 어떻게 답했을지 무척 궁금합니다.

하지만 어쨌든, 민주주의는 여러 측면에서 심각한 도전에 직면해 있습니다.

오늘 낮에도 논의했듯, 중국의 교육기관에서는 시진핑 사상(Xi Jinping Thought)이 점점 더 강하게 주입되고 있습니다. 그 이념은 일정 부분, 권위주의적 자본주의 공산주의 체제가 느리고 혼란스러운 민주주의보다 훨씬 효과적이다는 주장을 전제하고 있습니다.

한편, 여전히 다수 존재하는 다에시(IS)나 하마스 같은 집단들도 자신들만의 통치 모델을 내세우고 있습니다. 또한 모디(인도), 에르도안(튀르키예), 오르반(헝가리) 등 민주주의 내의 권위주의적 리더들 역시 또 다른 ‘미래상’을 제시하고 있습니다.

제가 가장 흥미롭게 보는 예는, 피터 틸(Peter Thiel)이 상상한 이상향입니다. 그는 우리 모두가 물 위에 떠 있는 작은 자급자족 포드(pods)에서 살아가며, 서로 간섭하지 않고, 정부와도 관계를 맺지 않는 세계를 제안합니다. 이른바 시스테딩(seasteading)이라는 개념이죠. 개인적으로는 전혀 이상향이라고 느끼지 않지만요.

이처럼 다양한 체제들이 등장하고 있는 한편, 권위주의 국가들이 자신들의 모델이 더 유능하다고 주장하는 상황이 벌어지고 있습니다. 그러나 실제 데이터를 보면 흥미로운 결과가 나옵니다. 전 세계 정부의 정책 집행 능력(government effectiveness)을 측정한 순위에서, 민주주의 국가는 여전히 비민주주의 국가보다 훨씬 높은 성과를 보이고 있습니다. 이는 단순한 주장이나 이상이 아니라, 객관적 실행 능력 측면에서도 그렇습니다.

물론, 이런 상위권 국가는 대부분 인구가 작고, 눈이 많이 오는 나라들입니다. 싱가포르처럼 예외적인 사례도 있지만, 전반적으로 보면 소국이고 추운 나라들이 주를 이룹니다.

요컨대, 우리는 권위주의가 민주주의를 이기고 있다고 과장해서 말할 필요는 없습니다. 하지만 분명한 것은, 민주주의가 심각한 구조적 위기 속에 있다는 사실입니다.

민주주의 제도들은 낡았다.
민주주의는 ‘조립체(assembly)’, 각 요소의 혁신이 필요하다

그렇다면 왜 이런 일이 벌어지고 있을까요? 그리고 우리는 무엇을 할 수 있을까요?

저는 꽤 오랫동안, 그리고 아마도 제가 영국 출신이기 때문이기도 하겠지만, 문제의 핵심 중 하나는 오늘날 우리가 사용하는 민주주의의 기본 형태가 19세기, 심지어는 18세기에서 온 것들이라는 사실이라고 생각해왔습니다.

우리는 여전히 수도에 있는 의회, 정당, 선거라는 구조를 기본 틀로 갖고 있습니다. 이 모든 제도는 수 세대 전의 환경과 기술 조건 속에서 형성된 것들입니다. 우리는 여전히 영국 상원의회(House of Lords)를 유지하고 있고, 여러분은 18세기식 선거인단(Electoral College)을 가지고 있습니다.

하지만 이런 제도들은 점점 일상적인 현실, 특히 디지털 플랫폼과 데이터의 세계와는 점점 더 동떨어지고 있습니다.

이러한 낙후된 구조들이 민주주의 제도의 신뢰를 갉아먹어온 측면이 있습니다.

또한 많은 경우, 민주주의는 결과를 제대로 내지 못했기 때문에도 신뢰를 잃었습니다. 물론 어디에나 예외는 존재합니다. 하지만 많은 사람들이 느끼는 바는 이렇습니다.
“민주주의가 있으면 뭐해? 먹고살 수도 없는데.”
아프리카에서 흔히 들을 수 있는 말이기도 합니다.

지난 3년간 7개국에서 쿠데타가 발생했습니다. 이 역시 민주주의가 성과를 제공하지 못했기 때문에 생긴 일입니다. 우리는 이처럼 전 세계적으로 진행 중인 민주주의 후퇴(democratic recession)의 데이터를 모두 알고 있습니다.

제가 본격적인 ‘민주주의 혁신(democratic innovation)’ 이야기로 넘어가기 전에 강조하고 싶은 핵심 주장이 있습니다.

우리는 민주주의를 단지 1인 1표(one person, one vote)의 원칙이나, 무능한 정부를 교체할 수 있는 장치로만 생각해서는 안 됩니다. 물론 그것들도 중요합니다. 하지만 그것만으로는 부족합니다.

저는 민주주의를 조립체(assembly)로 보아야 한다고 주장하고 싶습니다.

우리가 매일 사용하는 거의 모든 기술 제품은 여러 요소가 결합된 조립체입니다. 지금 이 테이블 위에 있는 노트북도 마찬가지죠. 노트북을 분해하면 여러 부품이 나옵니다.

자동차도 그렇습니다. 자동차는 엔진만으로 구성되어 있지 않습니다. 바퀴, 조향장치, 브레이크, 각종 센서 등 다양한 부품이 조합된 복합 시스템입니다.

민주주의도 마찬가지입니다. 대통령, 의회, 정당, 선거, 사법부, 미디어, 공공기관, 참여제도 등 다양한 장치가 맞물려 돌아가는 정치 기술 시스템입니다.

그런데 민주주의에 대해 단순한 해법을 제시하는 사람들은 이 다층적 구조를 무시하는 경향이 있습니다. 마치 민주주의가 콜라병처럼 하나의 단일한 객체인 것처럼 취급하죠. 하지만 현실의 민주주의는 정교하게 조립된 복합체에 가깝습니다.

그리고 그 구성요소 하나하나가 지금 재설계와 혁신을 필요로 하고 있습니다.

제가 오늘 이야기하고자 하는 것은, 바로 그 각각의 요소들을 어떻게 혁신하고, 다시 통합적으로 재조립할 것인가 하는 문제입니다.

우리가 목표로 해야 할 것은 단순히 결과를 잘 내는 민주주의가 아닙니다.
동시에, 시민들에게 자신이 존중받고 있으며, 참여하고 있으며, 결정 과정의 일부가 되고 있다는 감각—즉 주체성(agency)의 감정을 줄 수 있는 민주주의여야 합니다.

오늘날 민주주의가 실패하는 것은, 이 두 가지—성과의 실패와 주체성의 실패가 동시에 나타나고 있기 때문입니다.

시민들은 자신이 원하는 결과를 얻지 못한다고 느끼고, 동시에 그 과정에 자신이 포함되지 않았다고 느낍니다.

기술 분야 R&D와는 달리 민주주의에는 거의 R&D 투자가 이뤄지지 않고 있다.

전 세계적으로, 엄청난 예산이 다양한 분야에 투입되고 있습니다. 특히 이 나라, 미국에서 말입니다. 작년 기준으로 미국의 연방 연구개발(R&D) 예산은 약 6,800억 달러였습니다. 한국과 핀란드 역시 GDP의 약 4%를 R&D에 사용하고 있고, 이스라엘은 약 5% 수준입니다. 이 모든 자금이 나노기술, 항공우주, 인공지능 등의 영역에 쏟아지고 있습니다.

그런데 민주주의를 위한 R&D에는 거의 아무런 예산이 투입되지 않고 있습니다. 제가 알기로는, 이런 예산은 존재 자체가 통계 상에서 잡히지도 않을 정도입니다. 이 거대한 차트에 표시하기조차 어려울 정도로 미미합니다.

즉, 민주주의라는 우리에게 가장 중요한 시스템, 우리 사회를 움직이는 기본 토대를 우리는 혁신하려 하지 않습니다.
나노기술에는 막대한 돈을 쓰면서, 민주주의의 설계와 기능 향상에는 거의 관심을 두지 않습니다.

여기서 누군가가 반론을 제기했습니다. “우리는 이미 SNS 기술을 민주주의에 활용하고 있지 않느냐”고 말이죠.

맞습니다. 10년 전만 해도 우리는 기술이 민주주의를 강화할 것이라는 훨씬 더 낙관적인 관점을 갖고 있었습니다.

하지만 저는 그 당시에, 그리고 저 같은 사람들, 또 베스 노벡(Beth Noveck) 같은 이들은 구글이나 다른 기술 기업들과 직접 대화하며, “왜 이런 기술들을 민주주의를 위해 사용하지 않느냐, 왜 허위정보(misinformation)에 맞설 수 있는 기술을 개발하지 않느냐”고 질문했습니다.

그 결과는 명확했습니다. 그들은 그렇게 하지 않기로 선택했습니다.
그건 단지 기술적으로 불가능해서가 아니라, 의식적인 선택의 문제였습니다. 막대한 자금과 인재가 들어가는 이 거대한 산업은, 어디에 투자할 것인가에 대해 선택해야 했고, 그 선택의 방향은 민주주의가 아니었습니다.

이 논점은 나중에 소셜미디어 이야기로 다시 돌아올 겁니다.

이제 다시 자동차 비유로 돌아가 보겠습니다.
우리는 현재 팬데믹, 장기적인 경제 위기, 불신, 그리고 정보 생태계의 붕괴 같은 거대한 폭풍 속에서 운전하고 있습니다. 그리고 질문은 이겁니다.

이런 폭풍 속에서 민주주의라는 시스템을 어떻게 더 유연하고 적응력 있게 만들 수 있을까?

이 매우 조잡해 보이는 그림은, 민주주의를 자동차처럼 분해해서 각 부품을 이해하고자 하는 제 시도입니다.
이 자동차에는 네 개의 바퀴가 있습니다. 그 중 한 바퀴는, 누가 결정을 내릴 권한을 갖는가에 관한 것입니다. 즉, 후보자 선출, 정당 구조, 선거제도 등입니다. 이 부분은 오늘 제가 다루지 않겠지만, 매우 중요한 주제입니다. 투표 시스템 등에 대한 논의는 여전히 열려 있습니다.

오늘 저는 오른쪽 바퀴에만 집중할 것입니다. 바로 우리가 ‘결정을 어떻게 내리는가’의 문제입니다.

이 부분에 집중하는 이유는, 인공지능(AI)의 역할이 바로 여기에 관련되어 있다고 보기 때문입니다.
AI는 민주주의의 여러 단계에서, 다양한 방식으로 개입할 수 있는 가능성을 지니고 있습니다.

예를 들어 다음과 같은 단계들입니다:

– 이슈가 어떻게 설정되고
– 정책 대안이 어떻게 생성되며
– 그것들이 어떻게 검토되고
– 의사결정은 어떤 방식으로 이루어지고
– 결정이 어떻게 실행되고
– 그리고 사후 감시가 어떻게 작동하는가

이 모든 과정에서, 우리는 AI를 어떤 식으로 활용할 수 있을지 분해해서 생각해 보아야 합니다.
민주주의 혁신의 질문을 세분화(disaggregate)해야, 어디에 기술이 가장 효과적으로 작동할 수 있을지를 알 수 있습니다.

세계 곳곳에서 시도되고 있는 혁신 사례

우리는 이미 어느 정도 기반을 갖추고 있습니다. 이 방에 있는 몇몇 분들은 지난 10년 동안 전 세계에서 확산된 여러 흥미로운 민주주의 혁신 사례에 직접 참여해 오신 분들이기도 합니다.
이들 실험은 대부분 소규모이긴 하지만, 매우 의미 있는 사례들이 많습니다.

예를 들면, 우리는 지금 전 세계 수많은 도시와 국가에서 실행되고 있는 참여예산제(participatory budgeting)를 목격하고 있습니다.

아이슬란드에서 시작한 사례도 있고, 파리 시장은 대규모 예산을 시민 참여를 통해 집행한 바 있습니다.
포르투갈의 카스카이스(Cascais) 역시 매우 흥미로운 실험을 진행하고 있는 도시입니다. 그곳에서는 비교적 큰 비율의 예산이 시민에 의해 결정됩니다.

그리고 저는 특히 다음 사례를 강조하고 싶습니다. 파리시는 각 학교마다 일정 비율의 예산을 아이들에게 배정했습니다.
학생들은 그 돈으로 무엇을 할지를 결정해야 했습니다.
이 방식은 단순한 참여가 아니라, 어린이들이 스스로 '민주주의적 시민'이 되는 경험을 제공했습니다.
단순한 관찰자가 아니라, 스스로 예산을 배분하는 사람이 되는 것이죠.

그 밖에도, 우리는 수없이 많은 시민의회(citizens’ assemblies)를 보아왔습니다.

마크롱 대통령은 프랑스에서 매우 큰 규모의 시민의회를 조직했습니다.
하지만 그것은 실패에 가깝다고 볼 수 있습니다. 왜냐하면, 시민의회가 정부 구조 속에 제대로 통합되지 못했고, 마크롱은 그들의 권고안을 대부분 거부했기 때문입니다.

보다 성공적인 사례는 브뤼셀입니다. 이 도시는 현재 기후 이슈에 대해 상설 시민의회(permanent citizens’ assembly)를 운영하고 있습니다.

지금 이 순간에도 세계에는 수백 개의 시민의회가 존재하고 있습니다.

또한 정부들이 크라우드소싱(crowdsourcing)을 활용해 정책을 설계하기 시작했습니다.

예를 들어, 독일 정부는 팬데믹 시기에 ‘Versus Virus’라는 프로그램을 운영했습니다.
이것은 전 국민을 대상으로 하는 크라우드소싱 캠페인이었습니다. 시민들에게 코로나19에 대응하기 위한 아이디어를 제출하라고 요청한 것이죠.
이것은 독일 역사상 첫 번째 전국 해커톤(hackathon)이었습니다. 정부 주도로 열린 첫 해커톤이라는 점에서 상징성이 있었습니다.

영국에서도 여러 실험이 있었습니다. 이 사례는 그중 하나입니다.
의회가 전문가 네트워크를 조직한 것입니다. 수천 명의 전문가들이 다양한 주제에 대해 조언하는 구조였고, 이를 통해 정부는 정책결정에 필요한 전문지식을 체계적으로 동원했습니다.
IPCC가 기후 문제에 대해 과학적 합의를 모으는 방식과 비슷한 구조였습니다.

영국 의회의 과학기술 담당 사무국(POST, Parliamentary Office of Science and Technology)은 최근 이런 구조를 점점 더 일상적인 의정활동에도 적용하고 있습니다.

그리고 우리 내각 사무국(Cabinet Office)에는 현재 집단지성(lab for collective intelligence)을 활용해 정책예측, 설계, 시뮬레이션을 수행하는 실험실이 존재합니다.

이러한 실험들은 이제 주류는 아니지만, 주류에 가까워지고 있는 중입니다.
10년 전만 해도 이런 구조는 전혀 존재하지 않았습니다.

민주주의에 영향을 미치는 비공식 영역 - 거리, 언론, 사회운동, 교육… - 어떻게 작동해야 하는가

그리고 저는 이 혁신들에서 흥미로운 지점이 있다고 생각합니다.
그것은, 우리가 시스템 안에서만 일어나는 일에만 주목해서는 안 된다는 것입니다.
조금 전 질문에서도 나왔던 것처럼, 민주주의는 공식 제도(formal systems)만큼이나 비공식적인 환경(informal systems)에 의존합니다.

모든 역사학자들은 이렇게 말합니다.
의회 안에서 일어나는 일 못지않게, 거리에서 일어나는 일도 중요하다.

예를 들어, 한국에서는 시민들이 거리로 나와 대통령을 쫓아냈고, 그 대통령은 감옥에 수감되었습니다.
물론 모든 나라가 이런 방식으로 전직 대통령을 감옥에 보내고 싶어 하지는 않겠지만 말이죠.
(청중 웃음)

이 사진은 아르헨티나의 사례입니다.
낙태 합법화를 위한 여성 주도 운동이 결국 의회를 움직여 새로운 법안을 통과시키게 만들었습니다. 아마 작년이었던 걸로 기억합니다.
이는 정치 제도 외부의 에너지가 제도 내부와 건강하게 상호작용한 대표적인 사례입니다.

민주주의가 건강하다는 것은, 바로 이런 외부 에너지—즉 거리, 시민사회, 운동, 문화—가 제도권과 긴장 속에서도 생산적인 연결을 맺는 상태를 의미합니다.

언론도 마찬가지입니다. 건강한 민주주의는 정보 생태계가 건강한 곳이기도 합니다.
사실이 존재할 수 있는 공간, 논쟁이 의미를 갖는 공간이 필요합니다.
그리고 이 역시 공식 시스템과 상호작용해야만 합니다.

지난 20~30년간 전 세계의 민주주의가 보여준 가장 큰 교훈 중 하나는 이것입니다.
우리는 민주주의를 단지 선거와 투표, 의회로만 이해해서는 안 된다는 점입니다.

이러한 제도적 구조 외에도, 그것을 지지하는 사회적 기반이 반드시 건강해야만 민주주의도 건강할 수 있습니다.
그리고 이 영역은 전장(battleground)입니다.

핀란드는 아마도 세계 최초로, 초등학교 교육과정에 ‘가짜뉴스와 허위정보 판별법’을 포함시킨 나라일 것입니다.
이제는 아이들이 학교에서 ‘진실과 허위’를 구분하는 법을 배우는 시대가 되었습니다.

영국에서는 아직도 이런 교육이 없습니다.
그것은 정말 말도 안 되는 일입니다. 지금의 세계에서, 어떤 나라가 이런 교육을 하지 않는다는 건 사실상 자기 민주주의를 방치하는 것과 다름없습니다.

최근 유럽에서는 매우 흥미로운 사건도 있었습니다.
유럽연합 집행위원회(European Commission)가 SNS 플랫폼 X(구 트위터)를 상대로 가짜뉴스 유포에 대한 과징금 부과를 경고했습니다.
이 사례는 유럽연합이 정보 생태계의 진실성(truth ecosystem)에 대해 책임을 지기 시작했다는 신호입니다.

실제로는 제재가 실행되지는 않았지만, 이 행위는 매우 중요한 전환점이었습니다.

즉, 국가가 ‘진실’이라는 문제에 대해 일정한 책임을 질 수밖에 없는 시대에 접어들었다는 뜻입니다.
그리고 우리는 모두 알고 있듯이, 민주주의는 진실이 존재할 수 있는 공간 없이는 성립할 수 없습니다.

AI는 민주주의의에 어떻게 기여할 수 있는가

그렇다면 인공지능(AI)은 민주주의에 어떤 도움을 줄 수 있을까요?

이 방에 계신 분들에겐 너무 자명한 이야기일 수도 있지만, 놀랍게도 많은 사람들은 AI가 하나의 단일한 개념이 아니라는 사실조차 인식하지 못하고 있습니다.
AI라는 용어에는 로보틱스, 머신러닝, 대규모 언어모델(LLM), 그 밖의 여러 기술이 포함됩니다.
각각은 민주주의에 대해 전혀 다른 함의와 영향을 지니고 있죠.

그런데 우리는 아직, 이 각각의 기술들이 민주주의의 어떤 문제 유형에 기여할 수 있는지를 충분히 분리해서 토론하지 못하고 있습니다.

조금 전 제가 보여드린 자동차의 구조로 다시 돌아가 보겠습니다.

저는 민주주의의 각 단계에서, AI가 무엇을 할 수 있는지를 정리한 슬라이드도 만들었지만, 오늘은 그걸 일일이 보여드리진 않겠습니다.
그 대신 간단한 예시 몇 가지만 설명드리겠습니다.

예를 들어, AI는 소셜미디어 상의 담론 흐름을 분석하여, 사회 속에서 새롭게 떠오르는 이슈, 희망, 공포, 불안 등을 포착할 수 있습니다.
이것은 건강한 민주주의가 갖춰야 할 기능 중 하나입니다. 사회가 집단적 감정의 변화를 실시간으로 감지하고 반응할 수 있어야 하기 때문입니다.

또 AI는 정책 대안 생성에도 기여할 수 있습니다.
예를 들어, 어떤 정책 아이디어의 초기 ‘씨앗’을 자동으로 생성해주고, 그것을 기반으로 더 구체적인 논의를 쌓아갈 수 있게 해줍니다.

오늘 낮에 방문한 번(Burn) 센터에서는, GPT의 변형 모델을 활용해 정책 아이디어를 생성하고 확장하는 실험 도구들을 소개해 주셨습니다.

또 AI는 근거와 증거를 체계화하고 분석하는 데에도 강력한 도구가 될 수 있습니다.
예를 들어, 하나의 정책 질문에 대해 수백 건의 논문과 데이터를 요약하고, 그 신뢰도를 자동으로 평가할 수 있는 도구들이 개발되고 있습니다.

회의 설계나 의사결정 구조 설계에도 AI는 기여할 수 있습니다.
그 외에도 정책 이행, 감시, 사후 평가 단계에 이르기까지, 각 과정마다 AI가 수행할 수 있는 역할은 최소 다섯 가지, 많게는 열 가지 이상씩 존재합니다.

또한 이들 기술 중 일부는, 단지 정책 과정을 돕는 데 그치지 않고, 그 사회가 민주주의를 유지하는 데 필요한 사회적 기반(capability) 자체를 강화할 수 있습니다.
예를 들어, 참여의 질, 미디어 생태계, 시민의 디지털 리터러시 같은 요소들 말이죠.

AI 도구 —POIS, Pol.is, V-Taiwan, EpiReviewer 등—가 실제로 어떤 방식으로 민주주의 설계에 응용되고 있는가

제가 과거에 설립했던 조직인 데모스(Demos)는 최근 꽤 괜찮은 조사를 하나 진행했습니다.
주제는 민주주의를 위한 회의 설계에 사용되는 AI 도구인 POIS의 활용 실태에 대한 것이었습니다.

지금 세계 곳곳에서는 이 POIS 같은 도구를 꽤 다양하게 활용하고 있습니다.
목적은 명확합니다.
집단이 더 나은 해답에 도달할 수 있도록 유도하고, 합의에 이르도록 설계하는 것.

가장 유명한 사례는 아마도 대만의 vTaiwan 프로젝트일 겁니다.
물론 지정학적으로 보면 이 프로젝트는 현재 꽤 불안정한 상태에 놓여 있습니다.
하지만 이 프로그램은 여전히 매우 대담한 시도입니다.
디지털 도구를 활용해 21세기형 민주주의를 재구성하고자 한 실험이기 때문입니다.

vTaiwan은 대규모 시민 참여를 조직화하여 정책 대안을 형성하고, 논의를 촉진하며, 정책 이행까지 연결할 수 있도록 설계되었습니다.

Pol.is는 POIS와는 또 다른 방식으로 사용됩니다.
이는 여론의 다양한 층위를 시각화하고, 공통 기반을 탐색하는 데 유용한 도구입니다.

세계 곳곳에서는 이처럼 다양한 방식으로 POIS를 사용한 소규모 실험들이 이어지고 있습니다.
예를 들어 오스트리아의 카린티아(Kärnten) 지방에서는 약 천여 명이 참여한 실험이 있었습니다.
참여자들은 기후 관련 정책들을 POIS를 활용해 함께 설계했습니다.

또 하나의 기술적 흐름은, 시민이 실시간으로 정책 결정 과정에 연결될 수 있도록 돕는 플랫폼입니다.

대표적인 사례로는 핀란드의 'Heal' 프로젝트가 있습니다.
시민은 자신이 관심 있는 정책 분야를 등록해두면, 관련된 결정이 이루어질 때마다 알림을 받고, 의견을 제출하거나, 논의에 참여할 수 있게 됩니다.

이 플랫폼은 게임화된 참여 예산, 그리고 참여 경험 자체를 개인화하는 다양한 알고리즘 실험도 함께 포함하고 있습니다.
궁극적으로는, 한 도시가 시민에게 이렇게 느껴지게 됩니다.

“이 도시는 나를 위한 도시다. 이 도시는 나에게 말을 걸고 있다.”

이러한 시스템은 지금 소셜미디어 플랫폼에서 이미 상용화된 기술들을 바탕으로 구축되고 있습니다.
차이점은, 이 기술이 민주주의에 ‘주체성의 감각(sense of agency)’을 회복시키기 위해 사용되고 있다는 점입니다.
오늘날 수많은 시민이 그 감각을 잃어버렸고, 그 상실은 민주주의 위기의 핵심입니다.

정책 증거를 어떻게 종합하고 요약하는 데 AI가 어떻게 기여할 수 있을까
대규모 언어모델(LLM)을 기반으로 한 ‘증거 합성(evidence synthesis)’ 기술

대규모 언어모델(LLM)은 특히 증거 기반 정책(evidence-based policy)의 맥락에서 많은 가능성을 가지고 있습니다.

저는 약 한 달 전, 이런 도구들을 모아서 어떻게 잘 작동하는지를 비교해보는 행사를 하나 진행했습니다.
목표는 다음과 같았습니다.
정책 질문 하나를 던졌을 때, 어떤 도구들이 신뢰할 만한 증거를 요약해서 제시해 줄 수 있는가?

그 과정에서 우리가 확인한 것은 다음과 같습니다.

예를 들어 챗GPT는 이 역할을 잘 하지 못합니다. 허위 정보를 만들어내기도 하고(hallucinate), 심지어 좋은 프롬프트를 사용해도 사실과 허구를 구분하지 못하는 경우가 많습니다.

하지만 우리가 실험한 도구 중에는 꽤 신뢰할 만한 것들도 있었습니다.
대표적으로 ‘Elicit.org’와 ‘Deepl.com’ 같은 비교적 널리 쓰이는 도구들이 있습니다.

저는 지금 한 연구팀과 함께, ‘EpiReviewer’라는 새로운 툴을 개발하고 있습니다.
저희는 이 도구가 엘리싯 elicit보다 더 나을 수 있다고 보고 있습니다.

이 툴은 이런 식으로 작동합니다.
예를 들어, 한 국회의원이 다음과 같은 질문을 받았다고 가정해봅시다.
“이 주제에 대해 현재 과학계에서 어떤 합의가 존재하는가?”

그러면 이 도구는 인터넷 전체를 대상으로 하지 않고, 오직 신뢰 가능한 동료 평가(peer-reviewed) 기반의 연구 논문만을 학습하여, 요약과 해석을 제공합니다.

이것은 정말로 게임 체인저(game-changer)가 될 수 있습니다.
단지 국회의원뿐만 아니라, 시민들 모두에게 “지금 이 순간, 우리가 무엇을 알고 있는가”를 제공할 수 있는 도구이기 때문입니다.

인도, AI 기반 공공정책 메타플랫폼인 ONDC(Open Network for Digital Commerce)와, 시민과학(citizen science)·집단지성·환경정책이 결합된 새로운 형태의 정책 실험 중

인도는 지금 여러 방면에서 매우 흥미로운 실험들을 진행하고 있습니다.
기술을 공공정책에 적용하는 방식에 있어서, 최근 1년간 등장한 사례 중 가장 주목할 만한 것은 ONDC(Open Network for Digital Commerce)입니다.

혹시 이 방 안에 이 이름을 들어보신 분이 계신가요?

이 플랫폼의 구조는 이렇습니다.
정부가 하나의 메타플랫폼(meta-platform)을 구축합니다.
이 플랫폼은 메타(구 페이스북), 구글 같은 거대 민간기업이 아니라, 공공의 손에 의해 운영됩니다.
여기서 ‘메타’란, 메타버스의 의미가 아니라 다양한 플랫폼을 중개하고 연결하는 상위 시스템이라는 뜻입니다.

이 플랫폼이 도입된 이후, 인도에서는 여러 공공 서비스의 소비자 비용이 눈에 띄게 줄어들었습니다.
즉, 더 싸게 음식을 사고, 더 싸게 교통수단을 이용할 수 있게 된 것입니다.

그리고 중요한 점은, 이런 플랫폼이 구축되고 나면 정부가 데이터를 수집할 수 있게 된다는 것입니다.
이를 통해 특정 시민군을 대상으로 한 정책 제안, 서비스 제공, 정보 제공이 가능해집니다.

이 모델은 미국처럼 시장주의와 자유주의가 강하게 뿌리내린 사회에서는 받아들이기 어려울 수도 있습니다.
하지만 기술적으로 보자면, 이것은 알고리즘 기반의 정책 배분 시스템이 실제로 작동하고 있는 사례입니다.
그리고 공공의 이익을 위한 방향으로, 매우 효율적으로 구현되고 있습니다.

저는 또 다른 영역에서도 강한 관심을 가지고 있습니다.
그것은 바로 시민과학(citizen science), 집단지성(collective intelligence), 그리고 AI가 결합되는 교차지점입니다.

현재 이 교차지점에서 가장 활발하게 실험이 이루어지고 있는 분야는 대기질(air quality)입니다.

제가 보여드릴 몇 장의 사진은, 작년 이 주제를 다룬 한 연구에서 나온 것입니다.

이 실험에서는 시민들이 스스로 대기 데이터를 수집했습니다.
그 데이터는 정부 데이터, 때로는 기업 보유 데이터와 결합되어 분석되었습니다.

그 결과, 정책결정자들은 더 다양한 대안을 검토할 수 있게 되었고, 도시의 공기 질을 개선하는 데 실질적인 변화를 이끌어낼 수 있었습니다.

이것이 제가 말하고 싶은 새로운 유형의 하이브리드—시민과학 + AI + 환경정책 + 공공정책 설계—입니다.

이러한 실험은 시민들에게 두 가지를 동시에 제공합니다.

첫째, 구체적인 결과(result)입니다. 예컨대 “우리 동네 공기가 눈에 띄게 좋아졌다”는 실질적 경험.
둘째, 주체성의 감정(sense of agency)입니다.
“이건 우리가 만든 변화야. 우리가 움직였고, 실제로 변화를 일으켰어.”

이 두 요소가 동시에 작동할 때, 민주주의는 가장 강력한 힘을 갖습니다.

민주주의를 위한 실험의 다중성, 창의성과 실험의 의미, R&D의 필요성, 예술과 디자인의 메타포, 그리고 창의적 발산과 수렴의 과정

그래서 여기서 정말 명확하게 나오는 핵심은 이렇습니다.
민주주의에 필요한 것은 하나의 만능 해법이 아니라는 점입니다.

예를 들어, 누군가는 ‘쿼드러틱 보팅(quadratic voting)’ 같은 메커니즘 하나가 모든 문제를 해결할 수 있을 것처럼 말할지도 모릅니다.
하지만 현실은 그렇지 않습니다.

진정으로 효과적인 민주주의는, 다양한 과업에 맞게 적용할 수 있는 도구들의 레퍼토리(repertoire)를 갖춘 체계입니다.
가장 성공적인 민주주의 국가들은 실제로 그런 다양한 도구를 가지고 있고, 그것을 과감하게 실험하고 적용하는 데 주저하지 않습니다.

여기에서 바로 R&D, 즉 연구개발이라는 접근 방식이 필요해집니다.

제가 앞서 언급했던 상상력에 관한 책에서도 이 점을 강조한 바 있습니다.
그 책은 예술과 디자인에서 얻을 수 있는 교훈을 깊이 다루고 있습니다.

제가 매우 좋아하는 말이 하나 있습니다. 노벨 화학상 수상자 라이너스 폴링(Linus Pauling)의 말인데요:

“좋은 아이디어를 얻는 가장 좋은 방법은,
많은 아이디어를 내고 그중 나쁜 것들을 버리는 것이다.”

제가 가장 좋아하는 영화는 『피카소의 미스터리(The Mystery of Picasso)』입니다.
혹시 이 영화를 본 분이 계신가요?
네, 계시군요.

이 영화에서 피카소는 유리판에 그림을 그리며, 그것을 계속 바꿔갑니다.
한 번 그리고, 다시 덧칠하고, 지우고, 수정하고, 아예 완전히 새로운 그림으로 바꾸어 그립니다.
그 과정을 지켜보면, 창의적 사고란 어떤 것이고, 예술적 사고가란 어떤 것인지 생생하게 체감하게 됩니다.

우리는 거기서 중요한 사실을 깨닫게 됩니다.
창의적인 과정이란 무수히 많은 시도를 하고, 그중에서 의미 있는 몇 개만 남기는 과정이라는 점입니다.

에디슨이 전구를 만들기 위해 10,000가지 재료를 실험했다는 것도 같은 맥락입니다.

그런데 놀라운 사실은, 정부 조직에서는 이런 방식이 거의 일어나지 않는다는 점입니다.

정부는 대부분 세 가지 옵션을 제시한 뒤, 각 장단점을 평가하고 그중 하나를 선택하는 식의 접근만 반복합니다.

그리고 대다수의 대학에서도 마찬가지입니다.
물론 이 대학이 예외일 수도 있겠지만요.

대학에서도 하나의 문제를 두고 수백 가지 아이디어를 내고, 그중 대부분을 폐기하는 방식의 ‘발산적 실험과 수렴적 선별’을 거의 하지 않습니다.

하지만 그것이야말로 좋은 아이디어에 이르는 유일한 방법입니다.

그래서 저는 최근 몇 년 동안 이런 과정을 가속화할 수 있는 창의성 도구들(creativity tools)에 많은 관심을 가져왔습니다.
그 도구들을 민주주의의 영역, 특히 정책 아이디어의 생성과 검증에 어떻게 적용할 수 있을지를 고민하고 있습니다.

바로 여기에 우리가 지금 민주주의 설계에 적용해야 할 접근이 있습니다.
수많은 아이디어를 생성하고, 실험하고, 검증하고, 그리고 나쁜 것들을 버리는 과정.

‘이슈의 지형’을 시각화하기, 민주주의의 문제들을 유형화하기

이러한 아이디어 생성과 실험의 흐름은, 우리가 민주주의 혁신 공간을 어떻게 구성하고 이해할 수 있는지를 보여줍니다.

지금부터 소개할 건 여러 방식 중 하나이지만, 저는 이것이 꽤 유용한 프레임이라고 생각합니다.
예컨대 시민의회(citizens’ assemblies) 같은 수단이 어떤 종류의 주제에 적합한지를 평가할 때 말이죠.

우리는 주어진 주제를 두 가지 축을 기준으로 분류할 수 있습니다.

첫 번째 축은 다음과 같습니다.
"이 주제에 대해 의미 있는 의견을 제시하기 위해 필요한 전문성의 정도는 얼마나 되는가?"

두 번째 축은 이렇습니다.
"이 주제에 대해 사람들이 갖고 있는 도덕적 확신(도덕적 강도)은 얼마나 강한가?"

이 두 축을 기준으로 하면, 민주적 실험이 어떤 주제에서 작동하기 쉬운지를 시각적으로 파악할 수 있는 지도가 만들어집니다.

예를 들어, 지역 기반 시설에 대한 논의—예컨대 가로등 설치나 자전거 도로 설계—는 전문성도 많이 필요 없고, 도덕적 갈등도 거의 없는 주제입니다.
따라서 이런 주제는 매우 급진적인 참여 설계가 가능합니다.

실제로 많은 참여예산제들이 바로 이러한 ‘물리적 기반시설(rect stuff)’에 대한 결정을 시민에게 넘기고 있고, 그것이 잘 작동하고 있습니다.

다음으로는, 전문성은 많이 필요 없지만 도덕적 신념이 매우 강한 주제들이 있습니다.
대표적으로 동성혼, 낙태, 종교, 인종 문제 등이 여기에 속합니다.
이런 주제들은 시민참여가 가능하긴 하지만, 설계 방식과 숙의 구조가 섬세해야 합니다.

또 다른 범주는, 매우 높은 전문성이 필요한 주제입니다.
예를 들어 양자컴퓨팅 같은 경우입니다.

현재까지 어떤 나라도 양자컴퓨팅을 주제로 시민의회를 연 적은 없습니다.
하지만 언젠가는 이 주제가 민주주의적으로 논의되어야 할 날이 올 것입니다.
왜냐하면 이 기술은 장기적으로 모든 사이버 보안을 무력화하거나, 개인정보 보호를 위협할 수 있는 잠재력을 갖고 있기 때문입니다.

그리고 마지막으로는, 전문성과 도덕성이 모두 높은 주제가 있습니다.
가령 인간 복제(human cloning)가 그런 경우입니다.

이런 주제들은 기존의 시민참여 메커니즘으로는 다룰 수 없으며, 전혀 다른 제도적 장치와 숙의 메커니즘이 요구됩니다.

결국 핵심은 이렇습니다.
민주주의에 ‘하나의 방식(one size fits all)’이란 존재하지 않습니다.
이슈의 속성에 따라, 참여 구조와 제도 설계를 달리해야 한다는 것입니다.

‘회의의 과학(meeting science)’은 민주주의 품질에 어떤 영향을 미치는가

이 논의는 제가 요즘 몰두하고 있는 또 하나의 주제로 이어집니다.
바로 ‘회의의 과학(meeting science)’입니다.

저는 이 주제에 꽤 집착하고 있습니다.
왜냐하면 우리가 민주주의를 구성하는 실질적 행위 단위들을 들여다보면, 결국 그 핵심은 대부분 ‘회의’이기 때문입니다.

내각회의(cabinet), 대법원(supreme court), 국회(Congress), 각종 정책 콘퍼런스(conference) 등 모든 것은 회의의 형태를 띠고 있습니다.
그리고 회의는 그 자체로, 민주주의의 작동 방식에 중대한 영향을 줍니다.

그렇다면 우리는 반드시 이런 질문을 던져야 합니다.

"어떤 종류의 문제에는 어떤 형태의 회의가 가장 적합한가?"
"특정 회의 형식은 어떤 종류의 결과를 산출하도록 구조화되어 있는가?"

이것은 매우 중요합니다.

예를 들어, 현재의 많은 회의는 몇몇 목소리 큰 사람들에 의해 장악됩니다.
참석자들의 발언이 균형 있게 반영되지 못하고, 논의의 방향이 왜곡되기도 합니다.
그리고 그런 회의는 종종 합리적 결과보다 ‘권력의 연장’으로 귀결되기도 합니다.

저는 이런 문제에 대해, 특히 노이스턴대학교가 세계적으로 실질적 기여를 할 수 있다고 생각합니다.
이 대학은 다양한 학제 간 연구가 가능하고, 기술과 인간 행동에 대한 통찰을 갖춘 전문가들이 모여 있는 곳이기 때문입니다.

민주주의는 회의의 연속입니다.
그리고 많은 민주주의적 회의는 지금 제대로 작동하지 않고 있습니다.

우리가 회의를 설계할 수 없다면, 우리는 민주주의도 설계할 수 없습니다.

미래 세대를 위한 제도 설계 등 고차원적 과제에 AI가 어떻게 기여할 수 있을까

이제 저는 다소 빠르게 지나가야 할 일련의 주제들을 던져보려 합니다.
이들은 모두 앞으로 더 많은 연구와 실험이 필요한 영역입니다.

첫 번째는, 지금 민주주의가 직면한 결정적인 도전 과제 중 하나입니다.
바로 장기적인 시야(long-termism)를 어떻게 확보할 수 있을까 하는 문제입니다.

우리는 미래 세대의 이해관계를 어떻게 반영할 수 있을까요?

웨일스(Wales)에서는 이미 이와 관련된 제도를 도입했습니다.
그들은 ‘미래 세대 위원(Commissioner for Future Generations)’이라는 공직을 두고 있습니다.
정부 내에서, 미래 세대를 대표해 의견을 제시하고 정책에 반영하게 하는 역할입니다.

또 여러 정부 부처나 조직들은 예측(forecasting) 관련 기능들을 점점 도입하고 있습니다.
미국에서는 인공지능과 집단지성(collective intelligence)을 결합한 예측 경쟁(forecasting competitions)을 운영한 사례도 있습니다.

이러한 흐름은 특정 국가들에서는 더 급진적인 형태로 나타나기도 합니다.

뉴질랜드는 강(river)과 국립공원(national park)에 법적 인격(legal personhood)을 부여했습니다.
이제는 몇몇 국가에서, 자연에게 헌법적 권리를 부여하려는 논의도 등장하고 있습니다.

이런 사례를 보면 다음과 같은 아이디어도 현실 가능성이 생깁니다.
“자연을 대표하는 AI 아바타를 헌법 기관 안에 두는 일은 가능한가?”

물론, 헌법적으로도 매우 새로운 문제입니다.
하지만 장기적 미래를 제도에 반영하는 방법에 대한 실험은 지금 시작되어야만 합니다.

두 번째로 제가 강조하고 싶은 영역은 조금 다른 차원의 문제입니다.
바로 AI는 신뢰를 회복하는 데 도움이 될 수 있는가? 라는 질문입니다.

우리는 상호신뢰(mutual trust), 즉 사람과 사람 사이의 신뢰가 민주주의 신뢰 및 제도 신뢰와 강하게 연결되어 있다는 사실을 알고 있습니다.

세계행복보고서(World Happiness Report)를 보면, 항상 핀란드, 덴마크 같은 나라들이 상위를 차지합니다.
그 나라들에서는 사람들이 이런 질문에 ‘예’라고 대답합니다.

“당신이 위기에 처했을 때, 의지할 수 있는 사람이 주변에 있습니까?”

이 질문에 대한 긍정 응답 비율이 행복도를 예측하는 데 가장 결정적인 변수입니다.
그리고 동시에, 민주주의의 회복력도 함께 설명해줍니다.

그런데 놀랍게도, 이런 영역에 대한 R&D는 전혀 존재하지 않습니다.

우리는 외로움과 고립을 경험하는 사람들이 권위주의 정치에 더 많이 끌린다는 사실도 알고 있습니다.
이는 통계적으로도 검증된 사실입니다.

사회적으로 가장 고립된 이들이 바로 극단주의 정당에 투표할 가능성이 높다는 것이죠.

그렇다면 왜, 우리는 이런 문제를 해결하기 위해 AI를 활용한 정책적 개입을 시도하지 않을까요?

예를 들어, 고립된 사람을 식별해 사회적 관계망을 제안해주는 사회적 추천 시스템 같은 것 말입니다.
플랫폼 기반의 디지털 돌봄이 될 수도 있고, 지역 커뮤니티의 연결을 증진하는 알고리즘이 될 수도 있습니다.

이 분야는 아직 완전히 개척되지 않은 연구·실험의 영역입니다.
하지만 민주주의의 회복과 지속 가능성을 위해 반드시 필요한 영역입니다.

회의 공간을 시스템 사고에 맞게 설계하는 실험,
민주주의는 AI 거버넌스라는 새로운 문제를 어떻게 다룰까

다음은 또 다른 사례입니다.
제가 최근 한 동료와 함께 진행하고 있는 실험인데, 팀이 총체적인 관점(holistic view)에서 사고할 수 있도록 돕는 물리적 회의 공간을 어떻게 구성할 수 있을지를 탐구하고 있습니다.

이 회의실에는 네 개의 벽이 있습니다.
하나는 사실(facts)을 위한 벽,
또 하나는 증거(evidence)를 위한 벽,
세 번째는 혁신(innovation) 아이디어들을 모아두는 벽,
그리고 마지막은 시스템 변화(systems change)에 대한 시야를 위한 벽입니다.

회의 참가자들은 이 네 개의 관점 사이를 이동하며, 복잡한 결정을 총체적으로 사고하도록 유도됩니다.

이 방식이 완전한 해결책은 아니지만, 저는 이처럼 정보 구조와 공간 설계를 통해 민주주의적 판단 능력을 확장하는 실험이 필요하다고 생각합니다.
혹시 이 아이디어에 관심이 있으시다면, 저희 프로토타입을 직접 보실 수도 있습니다.

그리고 이제 마지막 두 개의 주제를 다루며 마무리를 향해 가겠습니다.
이 두 주제는 현재 진행형이며, 아직 정답이 없는 살아있는 질문들입니다.

첫 번째는 바로 AI 거버넌스(governance of AI)에 관한 것입니다.
이것은 올해와 내년, 그리고 그 이후로도 지속될 정치적 핵심 쟁점입니다.

우리는 지금 이렇게 자문하고 있습니다.
“AI를 어떻게 다뤄야 할 것인가?”
“무엇이 필요하고, 어떤 제도가 바람직한가?”

일부 사람들은 이렇게 말합니다.
“AI는 존재론적 위험이다. 우리는 이로 인해 멸망할 수도 있다.”

몇 주 전 런던에서는 실제로 이런 발언이 있었습니다.
그리고 불과 이틀 전, 우리는 매우 당혹스러운 장면을 목격했습니다.

영국 총리 리시 수낙이 일론 머스크를 인터뷰하는 장면이었는데,
총리는 그를 거의 숭배하는 듯한 태도를 보였습니다.

그 장면은 정치가 얼마나 AI에 대해 두려움을 갖고 있고,
얼마나 이 기술을 이해하지 못하며,
어떻게 규율하거나 제도화해야 할지 전혀 감을 잡지 못하고 있는가를 상징적으로 보여주는 사례였습니다.

물론, 유럽연합은 어느 정도 다른 접근을 시도했습니다.
저도 약간 참여했던 EU AI법(AI Act)에서는 ‘위험 기반 프레임워크(risk-based framework)’를 채택했습니다.

이 법은 2025년 시행될 예정입니다. 그런데, 아이러니하게도 챗GPT가 등장하자마자 그 법안은 사실상 무력화되었습니다.  기술의 변화 속도가 너무 빨랐기 때문입니다.

중국도 자국의 사이버공간관리국(Cyberspace Administration)을 통해 다른 방식으로 같은 문제에 직면하고 있습니다.

제가 앞서 ‘민주주의는 조립체’라고 말했던 것처럼, 저는 AI를 다루는 방식도 조립체적 접근이 필요하다고 봅니다.

이 점에서, 우리는 자동차의 역사를 되돌아볼 수 있습니다.

자동차는 140여 년 전 등장했지만, 지금은 수많은 규제와 제도를 둘러싸고 있는 복합 시스템이 되었습니다.
도로 표시, 속도 제한, 음주운전 규제, 배출가스 기준, 안전벨트 법규 등, 자동차 자체만으로는 통제할 수 없었던 위험들을 우리는 수십 년에 걸쳐 제도적으로 보완해왔습니다.

저는 AI 역시 그렇게 되어야 한다고 봅니다.
AI는 결국 ‘천 개의 셀로 구성된 매트릭스(matrix of a thousand cells)’가 되어야 합니다.

각 셀은 서로 다른 위험 유형, 서로 다른 도메인, 서로 다른 대응 방식으로 구성될 것입니다.

이 각각의 셀은 고유한 해법을 요구합니다.

하지만 현재 AI에 대한 대부분의 논의는, 단일한 AI 안전 원칙이나 하나의 규제 모델로 모든 것을 해결하려는 잘못된 접근을 취하고 있습니다.
저는 그것이 범주 오류(category error)라고 봅니다.

우리가 시급히 해야 할 일은, 이 거대한 매트릭스를 하나하나 채워나가는 것입니다.

최근 미국 바이든 행정부가 발표한 행정명령은 이 점에서 꽤 긍정적인 방향으로 나아갔다고 생각합니다.
그 명령은 문제를 세분화(disaggregate)하려는 접근을 취했기 때문입니다.

그리고 저는 다른 이들과 함께, 이 과제를 위해 AI 분야의 IPCC—국제 패널 조직을 만들자고 주장해왔습니다.
기후변화에 대해 전 세계 과학자들이 집단지성을 모았던 것처럼, AI에도 그러한 구조가 필요하다고 봅니다.

'공공부문 조직/제도 아키텍처의 재설계'와 '집단지성의 주권화'

그리고 마지막으로, 제가 요즘 특히 집중하고 있는 주제가 하나 있습니다.
바로 새로운 공공부문 조직(public institutions)을 어떻게 설계할 것인가에 대한 질문입니다.

살아 있는 민주주의란 단지 선거나 국회의원, 대통령만으로 이루어지지 않습니다.
그것은 우리가 무엇을 규율하고, 무엇을 조정하고, 무엇을 공동으로 관리하느냐를 위한 제도의 생태계를 말합니다.

여기 보이는 이미지는 로이빅(Rövik)이라는 예술가의 작품입니다.
제목은 “알 수 없는 관료(The Unknown Bureaucrat)”입니다.
이 조각상은 아이슬란드에 있으며, 그곳에서는 꽤 호의적인 상징으로 받아들여지고 있습니다.
이 작품이 의미하는 바는 이렇습니다.
우리가 알아채지 못한 채, 사회를 실제로 유지하고 작동하게 만드는 수많은 무명의 제도 담당자들이 존재한다는 사실입니다.

우리는 이제 새로운 실험을 시작하려 합니다.
그 이름은 The Institutional Architecture Lab, 줄여서 TIAL입니다.

이 실험의 목적은 다음과 같습니다.
인공지능, 정신건강, 탈탄소화 같은 21세기 핵심 과제를 다루기 위한 다음 세대의 공공제도를 설계하는 것입니다.

이 과정에서 우리는 다음과 같은 질문들을 던지게 됩니다.

• 이 새로운 제도는 피라미드형일 것인가?
• 아니면 파르테논 신전처럼 기둥으로 지탱되는 구조인가?
• 혹은 로마의 돔처럼 열려 있는 구조인가?
• 또는 완전히 탈중앙화된 네트워크형 조직인가?

이 연구는 증거 기반 접근과 디자인 사고(design thinking)를 결합한 방식으로 진행될 것입니다.
우리는 도시 정부, 국가 정부, 국제기구와 협력하여 이 과제를 구체화해나갈 것입니다.

지금까지 우리가 검토해온 사례들은 최근 10여 년 동안 세계 곳곳에서 실행된 실험들입니다.
그리고 우리가 현재 집중하고 있는 주요 주제들 중 하나는 바로 이것입니다.
“선거 보호 기관(election protection agencies)”을 어떻게 설계할 것인가.

이것은 매우 중대한 과제입니다. 러시아, 중국, 혹은 다른 어떤 외부 세력으로부터 민주주의를 방어할 수 있는 강력한 제도가 필요하기 때문입니다.

이제 정말 마지막으로, 제가 곧 출간될 책에서 강조한 한 가지 주장을 간단히 소개하며 마무리하겠습니다. 그것은 우리가 주권(sovereignty)이라는 개념 자체에 대해 다시 생각해야 할 시점에 도달했다는 점입니다.

미국 헌법의 가장 핵심적인 전제이자, 대부분의 민주주의 헌법이 공유하는 문장은 이렇습니다.

“우리는 국민이다(We the people).”

이 문장은 주권은 오직 인간 시민에게만 있다는 전통적 민주주의의 기반입니다.

그런데 저는 우리가 지금 이 패러다임을 넘어가는 전환점에 와 있다고 봅니다.

“주권은 인간뿐 아니라 자연과 지식에도 분산되어야 한다.”

우리는 자연에 의존해 살아갑니다. 그리고 우리는 과학이라는 형태로 집단지성(collective intelligence)을 축적해 왔습니다. 이 집단지성은 단지 조언자나 도우미가 아니라, 이제는 우리에게 의무를 요구하는 존재, 즉 일종의 주권 주체가 되어가고 있습니다.

우리가 어떤 결정을 내릴 때, 단지 순간적인 다수의 감정이 아니라, 인류가 지금까지 축적해온 가장 신뢰할 만한 지식과 증거를 함께 고려해야 한다는 것입니다.

그것이 우리가 새롭게 정의해야 할 민주주의의 기준입니다. 정책 결정이란, 단지 지금 우리가 원하는 것이 아니라, 지금 우리가 ‘알고 있는 것’에 기반해 이루어져야 한다는 겁니다.

이것이 바로 제가 오늘 말하고자 했던 핵심입니다.
민주주의는 지금 위기에 처해 있습니다. 우리는 민주주의를 재설계(reinvent)해야 하고, 그 과정은 단순한 수사가 아니라 격렬한 실험(innovate furiously)이 되어야 합니다.

이를 위해서는 R&D 접근,
그리고 일반 목적 기술(general purpose technology)인 AI를 다양한 방식으로 민주주의에 통합하는 전략이 필요합니다.

AI에 대한 단일 해법이 아니라, 다양한 방식의 사용—그리고 민주주의를 둘러싼 ‘날씨(weather)’, 즉 사회적 환경 전체에 대한 고려—가 필요합니다.

200여 년 전, 미국의 건국자 존 애덤스는 이렇게 말했습니다.

“지금까지 자살하지 않은 민주주의는 없었다.”
그는 결국 틀렸습니다. 하지만 지금, 우리는 어쩌면 그가 맞을 수도 있는 시대에 살고 있습니다.
그렇기 때문에, 우리는 지금 행동해야 합니다.

끝.

---

사회자:
질문 있으신 분 계신가요? 멀건 교수님께 이견을 제시하거나, 보완하거나, 도전하고 싶은 분이 있다면 지금이 기회입니다.

청중 1:
엘리싯(elicit.org) 같은 도구에 대해 이야기하셨는데요, 저는 민주주의 안에서 그 도구들의 보안을 어떻게 보장할 수 있을지에 대해 회의적입니다. 우리는 민주주의 체계 안에서 적대적 행위자들(adversaries)이 존재할 수밖에 없는 환경에 놓여 있습니다.
그런데 기술에 대한 당신의 설명은 너무 낙관적이었던 것 같아요.
그리고 저는 대니얼 데닛(Daniel Dennett)의 말을 인용하고 싶습니다. 그는 사람들이 이 AI 기술을 “가짜 사람(counterfeit people)”처럼 여긴다고 말했습니다. 그건 마치 바이러스와도 같습니다.
자기 복제를 하고, 계속 변형되며, 권력자들이 권력을 유지하거나 다른 이들이 권력을 탈취하는 데 사용될 수 있죠.
민주주의의 핵심은 결국 사람들입니다. 그런데 오늘 당신은 기술 쪽 이야기를 너무 긍정적으로만 말한 게 아닌가 싶습니다.

멀건:
그건 우리가 의견이 다를 수도 있는 지점이라고 생각합니다.
하지만 저는 당신의 관점을 매우 흥미롭게 듣고 있습니다.

제가 지금 개발하고 있는 EpiReviewer라는 툴은, 항상 인간 팀과 함께 작동하도록 설계되어 있습니다. 즉, 인간이 기술을 사용하는 것이고, 기술은 어디까지나 도구입니다.

제 견해로는, 이러한 방식은 인간 팀이 훨씬 더 많은 정보를 빠르게 습득하고 정리하는 능력을 갖게 해줍니다.

물론 우리는 이 기술이 완전하지 않다는 사실을 인식해야 합니다.
그래서 저는 도구로서의 AI에 집중하고 있고, 그것이 우리를 대체하거나 지배하는 주체가 되어선 안 된다고 생각합니다.

결국 우리는 사회 전반, 그리고 교육 시스템 전체에서, 정책 담당자부터 초등학생까지,
이 기술들을 완전한 존재가 아닌 불완전한 보조 도구로 바라보도록 가르쳐야 한다고 생각합니다.

청중 2:
만약 강이나 자연에게 법적 인격을 줄 수 있다면,
왜 AI에는 그 인격을 부여할 수 없다고 생각하시나요?

멀건:
그 질문은 정말 흥미롭습니다.
뉴질랜드를 비롯한 일부 태평양 국가에서는, 자연에게 법적 인격을 부여하는 일이 실제로 이뤄졌습니다.
그리고 그 결정은 철학적, 종교적, 정치적 의미를 모두 담고 있는 행위였습니다.

그 사회에서는 자연에 대한 의존, 감사, 그리고 어떤 면에서는 과거의 잘못에 대한 속죄감이 존재합니다. 그래서 그 자연에게 권리를 부여한 것이죠.

하지만 알고리즘은 아직 그런 존재로 받아들여지지 않고 있습니다.
저는 지금으로선 AI가 법적 인격을 갖는 건 타당하지 않다고 생각합니다.

물론 먼 미래에는, 그에 대한 논의가 가능할지도 모릅니다.

청중 3:
먼저 고맙다는 말씀드리고 싶습니다. 슬라이드 속 자동차 이미지를 모두 운전석이 왼쪽인 미국식 구조로 바꿔주셨더군요. 미국 청중을 배려해 주신 거라 생각합니다.

하지만 한 가지 이의를 제기하고 싶습니다. 당신은 “민주주의에 대한 R&D가 거의 없다”고 주장하셨죠. 그런데 저는 다르게 생각합니다. 전자투표 시스템, 선거 여론 분석, 정치 마케팅 기술 등은 엄청난 투자가 이루어진 영역입니다. 이런 것들도 민주주의를 위한 기술 R&D라고 볼 수 있지 않을까요?

멀건:
네, 아주 좋은 지적입니다.
맞습니다. 분명히 그런 투자는 있어 왔고, 특히 정당의 선거 전략과 관련된 마케팅 기술에는 막대한 돈이 들어갔습니다.

하지만 저는 그것들을 제로섬 게임(zero-sum game)이라고 봅니다.
예를 들어, 고빈도 매매 알고리즘(high-frequency trading)도 마찬가지입니다.
한 쪽이 이기면 다른 쪽은 지는 구조죠.
경제 전체에 순이익을 만들어내는 것은 아닙니다.

정치 마케팅 기술도 같은 맥락입니다.
한 정당이 이기면 다른 쪽은 집니다.
하지만 전체 시스템의 품질이 개선되는 건 아닙니다.

그에 반해 제가 주장하는 민주주의 R&D는,
의사결정의 질, 숙의의 깊이, 시민 이해의 수준 자체를 향상시키는 도구를 만드는 데 초점을 둔 것입니다.

그래서 마케팅 기술에 엄청난 돈이 들어가 있는 건 사실이지만,
진정으로 공익적 민주주의 개선을 위한 R&D는 거의 없다고 생각합니다.

누군가 정말로 이 영역의 전체 투자 규모를 수치화한 자료가 있다면, 저는 꼭 보고 싶습니다.
아직 그런 분석을 본 적이 없습니다.

 

청중 4:
SNS 규제와 관련해서 드리고 싶은 말씀이 있습니다. 우리는 최근 소셜미디어를 강하게 규제하려는 시도들을 많이 보고 있죠. 하지만 제가 보기엔, 건강한 생태계를 먼저 만드는 노력이 훨씬 부족한 것 같습니다. AI도 지금 비슷한 상황으로 갈 가능성이 크지 않을까요? 정부가 규제에만 집중하면서, 긍정적 구조와 생태계를 만들어내는 데는 별 관심이 없을 것 같아서 걱정됩니다.

멀건:
정확하게 지적해주셨습니다.
저는 이 문제에 대해 지난달에 별도 행사를 열기도 했습니다.

지금 유럽 전역에서는 기후변화 대응 정책에 대한 반발이 확산되고 있습니다.
네덜란드에서는 ‘농민당’이 반기후정책 기조를 내세우며 선거 1위를 했습니다.
정치인들은 대중이 탄소중립과 전환의 고통을 감내할 준비가 되어 있지 않다는 걸 절감하고 있습니다.

그런데 문제는, 지금의 전통 정치 시스템이
이런 거대한 전환에 대해 사회 전체가 정당성을 갖고 논의할 수 있도록 설계되지 않았다는 점입니다.

우리는 새로운 형태의 전사회적 대화 구조가 필요합니다.
기후뿐 아니라, 연금 개혁, 국방 전략, 기술 규제 등도 마찬가지입니다.

이런 대화는 반드시 선출된 정치인들이 포함되어야 하고,
동시에 과학자, 시민사회, 일반 시민들이 제도 밖에서 들어올 수 있는 통로도 확보되어야 합니다.

그리고 저는 바로 이런 사회적 대화를 조직화하는 기술적 방법이 향후 민주주의의 핵심 역량이 될 것이라고 믿습니다.

청중 5:
하나 더 질문 드리겠습니다. 당신이 앞서 보여주신 그래프에서는, 세대가 아래로 갈수록 민주주의에 대한 만족도가 떨어지는 게 분명하게 나타났습니다. 그런데 그것은 꼭 민주주의라는 시스템 자체에 대한 불만일까요? 어쩌면 그건 단지 지도자들의 질이 낮고, 하는 일이 마음에 들지 않기 때문은 아닐까요?

대통령이 선거에서 지고 나면, 보통 참모들은 이렇게 말하죠.
“우리는 메시지는 괜찮았는데, 전달이 부족했다.”
실은 유권자들이 그 정책 자체를 싫어했던 걸 수도 있는데 말이죠.

그런 관점에서 보자면, 아무리 시스템이 좋아도 지도자들이 무능하거나 비겁하거나 자기 비전이 없으면 사람들은 똑같이 민주주의에 실망할 수밖에 없지 않을까요?

멀건:
맞습니다. 저는 기본적으로 그 말에 동의합니다.

그래서 저는 오늘 발표에서,
민주주의의 실패는 ‘감정(feelings)’과 ‘결과(results)’라는 두 축에서 발생한다는 점을 계속 강조해왔습니다.

비교정치 데이터를 보면 이렇습니다.
삶의 질이 안정적이고, 소득이 오르고, 공공 서비스가 괜찮은 나라들에서는
민주주의에 대한 신뢰가 여전히 높습니다.
대표적으로 북유럽 국가들이 그렇습니다.

반면, 경제 성장이 정체되고, 서비스가 후퇴하고, 불안감이 커진 국가들에서는
민주주의 시스템에 대한 신뢰가 급격히 떨어지고 있습니다.

하지만 그 위에는 또 하나의 층위가 있습니다.
바로 소셜미디어가 만드는 ‘감정적 왜곡’입니다.

여러분도 아시겠지만, SNS 알고리즘은
분노, 혐오, 공포 같은 감정을 훨씬 더 빠르고 널리 퍼뜨리는 경향이 있습니다.

한 연구에서는 1850년부터 출판된 모든 영어·스페인어·독일어 책을 분석했습니다.
그리고 2000년을 전후로 책 속 표현들이 현저하게 왜곡되고 과장되기 시작했다는 사실을 발견했습니다.
그들은 이 현상을 ‘인지 왜곡(cognitive distortions)’이라고 불렀습니다.

그 시점은 바로 스마트폰과 소셜미디어가 폭발적으로 확산되기 시작한 시기이기도 합니다.

이런 흐름은 다음과 같은 현상을 낳습니다.
“내 삶은 괜찮은데, 나라 전체는 망해가고 있다.”

이런 감정은 정치인을 정책 문제를 진짜로 해결하는 게 아니라, 감정을 조작하는 방식으로 행동하게 만듭니다.
문화전쟁, 상징적 이슈, 자극적 발언 등이 실제 문제 해결보다 더 주목을 받게 됩니다.

그래서 저는 오늘 주장한 바와 같이,
정보 생태계를 어떻게 구성하고 규율할 것인가라는 문제가
앞으로 민주주의 회복의 핵심 과제가 될 것이라고 생각합니다.

청중 6:
저는 이렇게 생각합니다. 어떤 기술이든 선한 목적과 악한 목적을 동시에 지닐 수 있는 경쟁 구도 속에서 발전하죠. 예를 들어, AI가 헬스케어 분야에서는 선한 목적이 이길 것이라고 저는 확신합니다. 하지만 민주주의에 대해서는, 저는 당신이 옳기를 바라지만, 정말 그렇게 될 수 있을지는 모르겠습니다.

AI를 이용하면 사람이 말하지 않은 것을 실제처럼 보이게 만들 수 있는 영상이 아주 쉽게 만들어집니다. 누군가가 말한 적 없는 말을 하고 있는 것처럼 보이는 영상, 존재하지도 않은 사건이 실제로 벌어진 것처럼 보이는 영상을 아주 정교하게 생성할 수 있죠. 그리고 민주주의 안에는 이를 검증할 수 있는 공식적이고 신뢰받는 '진실 부서(department of truth)' 같은 것이 존재하지 않습니다.

예를 들어, 내년 선거를 앞두고 투표소 앞에 트럭이 주차돼 있고, 그 안에 수천 장의 가짜 바이든 투표지가 실려 있는 영상이 등장한다고 해보세요. 그 영상이 가짜라는 법적 판단이 내려지기도 전에, 이미 사람들은 그 영상을 보고 투표 결정을 내리게 될 겁니다. 지금도 이미 선거가 도둑맞았다는 주장을 믿는 미국인이 수천만 명에 이르고, 그 선거를 도둑맞았다고 주장하는 전 대통령은 여전히 절반 가까운 지지를 얻고 있지 않습니까?

이건 팩트체커들의 악몽입니다. 아무리 검증해도 이미 감정은 퍼졌고, 대중의 인식은 돌이킬 수 없게 되어버리는 상황이 벌어질 겁니다.

멀건:
맞습니다.
이건 정말로 깊은 철학적 딜레마이고, 저도 지난 10년 동안 이 문제로 많은 논쟁을 벌여왔습니다.
특히 이 나라, 미국에서는 더욱 그렇습니다.

하지만 제 직관은 이렇습니다.
이제 법이 '진실(truth)'의 문제에 개입해야 할 시점이라고 생각합니다.

이 말은 어떤 사람들에게는 매우 불쾌하게 들릴 수도 있습니다.
자유주의 전통을 중시하는 사람들에게는,
국가가 허위정보 유포에 법적 처벌을 가한다는 개념 자체가 끔찍하게 들릴 수 있겠지요.

하지만 독일은 이미 그런 법을 통과시켰습니다.
EU 집행위원회도 최근 SNS 플랫폼 X(트위터)에게
가자 지구 분쟁과 관련된 허위정보를 방조한 혐의로 벌금을 경고한 적이 있습니다.

비록 실제로 벌금이 부과되진 않았지만,
이런 움직임은 매우 상징적인 전환점이라고 생각합니다.
민주주의가 유지되기 위해서는, ‘진실의 생태계(truth ecosystem)’에 대해 국가가 일정 부분 책임을 져야 한다는 흐름이 형성되고 있는 것입니다.

우리는 과거에 가졌던 많은 원칙들을 잊어야 할 수도 있습니다.
우리가 지금 마주한 이 상황이, 너무도 급진적이기 때문입니다.

저는 아직도 이 문제에 대해 신뢰할 만한 대안을 들어본 적이 없습니다.
법원이 이 문제를 다루게 해야 할까요?
배심원들이 가짜 뉴스의 고의성을 판단하게 해야 할까요?
그 또한 논란의 여지가 있죠.

하지만 우리가 지금 아무것도 하지 않는다면,
앞으로 당신이 말한 바로 그런 상황—가짜 영상과 허위정보가 민주주의를 마비시키는 상황—이 반복해서 벌어질 것입니다.

청중 6:
제 대답은 이렇습니다. 이론적으로는 당신 말이 맞습니다. 우리는 알렉스 존스 같은 사람에게 법적 책임을 물을 수 있어야 합니다. 그는 샌디 훅 학살을 당한 부모들을 수년간 괴롭혔고, 결국 법의 심판을 받긴 했죠. 그런데 문제는, 이 나라의 민주주의는, 아주 작은 소수만으로도 시스템 개혁을 막을 수 있다는 데 있습니다. 헌법 개정을 하려면, 단 13개 주만 반대해도 통과되지 않습니다.

결국, 지금 우리가 정말로 필요로 하는 조치들—예를 들어,
“허위정보 유포자에게 법적 책임을 묻는다”든가,
“AI가 생산한 가짜 콘텐츠를 신속하게 검증하고 제한한다” 같은 조치들은 바로 그 민주주의 시스템에 의해 막히는 아이러니한 상황이 벌어지는 것입니다.

멀건:
맞습니다. 저는 이런 변화가 나라마다 전혀 다른 방향으로 전개될 것이라고 봅니다.
유럽은 아마도 꽤 강력한 법과 규제를 도입할 것이고,
중국은 훨씬 더 강경한 방식으로, 물론 다른 논리이긴 하지만, 이 문제를 통제하려 할 것입니다. 그리고 미국은—글쎄요, 어쩌면 앞으로 5년, 10년 뒤에는 이 분야에서 ‘세계의 예외(exception)’로 남게 될 수도 있을 것입니다.

청중 6:
5년? 전 그보다 훨씬 빠를 거라고 봅니다. 12개월이면 충분하다고 생각합니다.

사회자 (마무리):
좋습니다. 이제 시간이 다 된 것 같습니다.
온라인으로 시청 중인 라이브 스트리밍 청중들을 위해
이제 공식적으로 마무리를 하도록 하겠습니다.

제프 멀건 교수님, 오늘 정말 깊이 있는 이야기, 진심으로 감사드립니다.
그리고 이 자리에 함께해주신 모든 분들께도 감사합니다.