AI가 정부 R&D 과제 기획의 문제를 해결할 수 있을까?

https://www.pexels.com/

 

눈부신 기술 혁신의 시대임에도 불구하고, 선두의 어디쯤 있을 것 같은 '정부 R&D 과제 기획'은 의외로 문제가 산적한 영역이다. 특정 기술의 전문가들이 모여 과제를 기획하는 것이 일반적이지만, 이 방식은 예측의 한계성, 선호의 편향성, 대의성의 부족 등의 문제로 점철되어 있다.
정부 R&D 과제 기획 과정이 제대로 돌아가게 할 방법은 없을까? AI가 그 문제를 해결할 수는 없을까? 아니면 AI는 오히려 상태를 더 엉망으로 만들게 될까? 이 글에서는 전통적 정부 R&D 과제 기획이 직면한 문제점과 AI를 도입해 얻을 수 있을 장점은 없을지, 그리고 AI 활용 시 우려할 점은 무엇일지 살펴본다.

정부 R&D 과제 기획에 관해 아래 세 가지를 한계점으로 지적하고자 한다.

첫째, 현재의 기술 수준을 토대로 미래를 상상함에 따른 한계가 있다. 
과제기획자(또는 제안자)가 리튬이온배터리 전문가라면 리튬이온배터리가 없는 미래는 상상할 수 없을 것이다. 그의 미래는 늘 리튬이온배터리를 중심에 두고 계획되기 때문이다. 하지만 그것은 그의 미래일 뿐, 우리의 미래는 배터리가 필요 없는 세상일 수도 있다. 
2022년 11월, chatGPT가 발표되기 이전까지는 2025년이 지나도 실현되지 않을 걸로 보였던 AI 서비스들이 매일같이 앞다투어 발표되는 중이다. 지금처럼 정신없이 발전한다면 3년, 5년 후 변화를 상상하는 것은 사실상 불가능하다. 하지만 chatGPT 출시 전 누군가 AI 과제 기획을 했다면 어땠을까? 미래 AI기술의 쓸모는 통닭을 더욱 바삭하게 튀기는 수준에 그쳤을지도 모른다.

둘째, 과제 기획자의 이해관계와 선호 등으로 인한 왜곡이 발생한다는 점이다.
과제기획서의 제목은 대체로 '000 기술을 적용한 OO 개발'과 같은 형식이다. '산업기술 R&D과제명 작성 가이드라인'(산업부)에서는 '산업용 섬유로 활용 가능한 초고분자량 400만 g/mol 이상의 폴리에틸렌 원료 수지 및 공정 개발',  '환경규제 대응을 위한 출력밀도 4,000W/kg, 50만 회 수명을 갖는 하이브리드 자동차용 리튬이차전지 개발' 등의 제목이 작성 예시로 제시되고 있다. 기술에 대한 이해를 바탕으로 조건과 방법, 달성할 목표까지를 매우 구체적으로 명시한다. 
과제기획자가 어떤 분야의 전문가인지 그가 이해하는 기술 범위가 어디까지인지에 따라 과제의 범위와 내용이 결정된다. 기획자 개인의 상황과 이해관계에 따라 과제가 영향을 받을 수 있다. 기득권을 가진 개인이나 집단이 자신의 의제에 유리하도록 영향을 미칠 수도 있다. 망치를 가진 사람에게는 모든 게 못으로 보인다고, 이기심이나 욕심이 개입하지 않더라도 기술 전문가가 기술 과제를 기획할 때 특정 이해관계와 의도가 기획에 반영되며 편향된 의사 결정으로 이어질 수 있다. 더 넓은 공익을 간과하는 결과를 가져올 가능성이 있다는 말이다.

셋째, 소수 전문분야의 견해로 만들어지는 것이다 보니 편향될 수 있고 대표성이 부족하다. 
기획은 극히 소수의 전문가 의견을 기반으로 하는데 이것은 더 넓은 관점에 대한 고려 부족으로 이어질 수 있다. 기획자들은 과제 기획에 참여할 때 각 분야를 대표해서 역할을 하지만 개인일 뿐이기에 사실상 분야 전반의 의견이나 분야 내 소수의견을 고려하지 못한다. 본인의 전문 분야도 그럴진대 모르는 분야라면 말할 나위 없다.
스마트 시티 인프라 개발에 중점을 둔 R&D 과제를 계획한다고 가정해 보자. 기획 위원회가 IoT, AI, 5G 네트워크와 같은 첨단 기술 전문가로만 구성되면 결과적으로 도시 경관에 첨단 기술을 통합하는 계획이 만들어질 것이다. 이러한 기술 중심의 접근은 스마트 시티의 인상적 기술 발전으로 이어질 수 있지만 환경 지속 가능성, 사회적 형평성, 커뮤니티 참여, 에너지 소비 또는 폐기물 관리 등 건강한 도시를 만드는 데 더 중요할 수도 있는 측면들을 간과할 수 있다. 그 결과 잠재적으로 결함을 가진 과제가 기획된다. 이러한 한계를 극복하려면 주제에 합당한 규모로 환경과학, 도시계획, 사회과학 및 지역사회 참여 등 광범위한 분야의 전문가가 포함되어야 한다. 그것이 가능한 일인지 모르겠지만. 

이 외에도 1) 리소스를 효과적으로 할당하지 못해 잠재력이 높지만 예산이 부족한 과제 또는 영향력이 적지만 예산은 과잉인 과제가 기획될 수 있다는 문제, 2) 급변하는 기술 발전과 새로운 사회적 요구에 적응할 만큼 민첩하지 못한 경직성에서 비롯된 문제, 3) 다양한 부서와 기관, 이해관계자 간 커뮤니케이션 및 협업 부족에 기인한 비효율의 문제, 4) 영향과 결과를 평가하고 모니터링하는 메커니즘이 부족해서 생기는 문제 등 정부 R&D 과제 기획에는 개선이 필요한 고질적 문제점들이 가득하다. AI를 활용한다면, 앞서 언급한 주요 문제는 다음과 같이 개선될 가능성이 있다.

첫째, AI의 활용은 구상의 한계를 극복하는데 도움이 될 수 있다.
AI는 과거 트렌드, 새로운 기술, 과학적 연구 등 다양한 출처의 방대한 데이터를 처리하고 분석함으로써 인간의 예측 능력의 한계를 극복하는 데 도움을 줄 수 있다. 머신러닝 알고리즘은 패턴을 식별하고 미래의 기술 발전에 대해 예측할 수 있으므로 프로젝트 계획 프로세스를 미래 지향적으로 개선하고 혁신에 더 잘 대비할 수 있다.
기술에서부터 시작하는 기획 프로세스 대신 사람의 잠재된 욕구에서 출발하는 미래 지향적 접근 방식이 포함되어야 한다. 이미 보유한 좋은 것(Seeds)에서 시작하는 것 대신 원하는 것(Needs)에서 시작하는 기획이 필요하다. 예를 들어 소설가, 만화가, 시나리오작가, 디자이너, 미래학자 및 다양한 분야의 전문가들이 협업해 AI를 이용해 과제기획을 한다면 우리의 미래의 모습은 보다 창의적이고 풍성하게 구상될 수 있을 것이다. 이들이 생산적 협업 관계를 맺을 수 있을지가 걱정이 된다면, 플랜 B는 각각의 역할을 부여받은 친절한 챗봇들이 서로 상의하게 하는 것이다.

둘째, AI는 개인의 선호나 이해관계로 인해 생기는 왜곡을 피할 수 있다.
AI 알고리즘은 공평하게 설계되어 개인의 이해관계와 의도가 계획 프로세스에 미치는 영향을 줄일 수 있다. 보편화된 지식을 활용하는 AI는 사전 정의된 기준과 데이터 기반 분석을 기반으로 하기에 인간의 편견이 미치는 영향을 최소화하는 데 도움이 된다. AI는 프로세스가 더 객관적이고 데이터 기반이 되도록 보장해 R&D 과제가 보다 광범위한 공공의 이익에 부합하도록 조정하는 데 도움을 준다. AI에게 과제기획을 맡기는 것이 너무 섣부르다면, 이해관계나 선호가 적은 판단을 할 인간 평가위원을 고르게 하는 역할로 참여를 시작하게 하는 것은 가능하지 않을까? 

셋째, AI는 특정 전문 분야의 치우침이 없어 편향의 문제를 극복한다.
AI는 다양한 분야와 배경을 가진 전문가, 공개 자문, 관련 문헌 등 다양한 출처의 입력을 분석하여 기획 프로세스가 보다 포괄적이고 대표성을 가질 수 있도록 도울 수 있다. 자연어 처리(NLP) 기술을 사용하여 대량의 텍스트 데이터를 분석할 수 있으므로 AI가 다양한 관점에서 인사이트를 추출하여 프로젝트 계획 프로세스에 통합할 수 있다. 소수 참여자의 의견에 휘둘리지 않고 데이터와 트렌드에 대한 객관적 분석을 근거로 의사결정을 내릴 수 있다. 스마트 도시를 만드는데 어떤 세부주제가 얼마만큼의 중요한 비중을 가져야 할지 정답을 가지고 있는 것은 데이터를 모두 학습한 초거대 AI가 아니라면 신 정도일 것이다.

현재 과제기획이 가지는 문제점을 해결하기 위해서는 지금보다 포괄적이고 미래지향적이며 투명한 접근 방식이 필요하다. AI는 기존 정부 R&D 과제 기획이 갖고 있는 한계점을 보완할 대안을 제시할 수 있다. 

하지만 AI에게 마냥 기대만 할 수 없는 몇 가지 문제들이 있다. 우선 기대만큼 큰 도움이 안 될 수 있다는 점이다. AI가 패턴을 파악하고 미래 트렌드를 예측하는 데 어느 정도 도움을 줄 수는 있지만, 혁신적 솔루션을 개발하고 복잡한 문제를 해결하는 데는 여전히 인간이 필수적이다. 따라서 어느 시기까지는 AI를 지원 분석의 도구로 활용하고 인간의 전문성을 보조하는 역할로 활용해야 할 것이다.
다음으로, 우리는 AI를 편견이 없는 존재로 전제하고 있지만 실은 그렇지 않을 수도 있다는 점이다. AI 학습에 사용되는 데이터가 편향되거나 불완전하다면 알고리즘 자체도 편향된다. 예를 들어, 학습에 사용된 데이터가 다양한 관점을 대표하지 않는다면 결과물인 AI 모델은 객관적이지 않을 수 있다. 이 문제를 해결하려면 AI 모델 학습에 사용되는 데이터가 다양하고 대표성을 갖도록 하고 모델을 정기적으로 평가, 업데이트해서 잠재적 편견을 줄여야 한다.
끝으로 의사 결정에 AI를 사용할 때는 반드시 윤리적 영향을 고려해야 한다는 점이다. 대중의 신뢰와 책임을 유지하기 위해서는 AI 알고리즘의 개발 및 활용 방식에 대한 투명성을 확보하는 것이 필수적이다. 또한 프라이버시와 개인 데이터를 보호하고 AI 기술의 오용이나 남용을 방지하기 위한 조치를 취해야 한다. 결론적으로, AI는 기존 접근 방식의 일부 한계를 해결해 정부 R&D 기획 방법을 개선할 수 있는 잠재력을 가지고 있지만, AI 사용과 관련된 잠재적 단점과 윤리적 영향도 신중히 검토해야 한다.

정부 R&D 과제 기획의 방법이 한계점을 갖고 있고, AI가 부분적으로라도 대안을 제시할 수 있다면, 우리는 AI의 활용 방안을 고민해야 한다. AI는 정부 R&D 과제 기획을 효율적으로 바꿀 수 있다. 따라서 AI의 강점을 활용해 미래지향적이며 객관적이며 공익성을 갖는 R&D를 기획할 새로운 방법을 찾아야 한다. AI가 대량의 데이터를 분석 및 처리하고, 공정한 의사결정을 내리고, 다양한 관점을 통합하는 데 있어 인간보다 뛰어난 면이 있다면, 그 역량을 사용하지 않을 이유가 무엇인가?

2023.4.25.
윤성원 + chatGPT
#chatGPT글쓰기

(질문 1) 
정부 R&D 사업 기획은 특정 분야의 기술 전문가들이 모여 사업을 기획한다. 이러한 방법에는 한계나 문제점이 있다.
1. 현시점에서 기대할 수 있는 기술을 바탕으로 구상된다는 점이다.
2. 과제 기획자의 관심과 의도가 반영된다는 점이다.
3. 소수의 전문 분야의 의견으로 불가피하게 만들어지기 때문에 대표성이 부족하다는 점이다.
개선 방안을 포함하여 내용을 풍부하게 작성해 줘.

(질문 2)
위의 3가지 문제 외에 또 어떤 문제점이 있을까?

(질문 3)
AI를 통해 과제기획을 하게 된다면 1~3의 문제가 어떻게 해결되는지 설명해 줘.

(질문 4)
산업부 담당 공무원의 입장에서 이 글에 대한 의견을 제시해 줘. 논리적 허점이 있다면 지적해 줘.

(질문 5)
이 글의 도입부를 만들어 줘. 강렬한 표현으로 문제제기를 해줘.

각 질문의 답을 취합하고 수정함.