현대 민주주의에 대한 불만과 경고가 나온지는 오래되었다. 소수의 기술 기업들이 통제와 모니터링 할 수 있는 힘을 축적하고 있고, 필수적인 기술 속성상 집중화로 인한 권위주의 속성에 대한 우려도 있다.
이러한 권위주의에 게이미피케이션도 연관되어 있다. 앞서 살펴본 '직장 게이미피케이션'과 이 정부도 어떻게 하면 동일한 도구들로 실험하여 시민들이 더 잘 행동하게 하는지 등을 시도한다고 저자는 말한다. 이는 변화와 개선보다는 기존 시스템을 지지하는데 사용하고, 심지어 정당 지지와 관련된 프로파간다로 사용될 수도 있으며 학생이나 어린이들을 교육 목적하에 지속적으로 모니터링할 수도 있다.
중국의 1자녀 출산이나 공산주의는 아주 잘 알려져 있다. 옛날에는 각 집마다 이를 얼마나 잘 수행했는지에 대한 별점을 붙여놓았던 적도 있고, 1917년에 소련 레닌은 사회주의 경쟁을 하면서 더 많이 생산하는 공장들에 대해서 포인트, 레벨, 메달을 수여하기도 했었다. 저자는 특히 중국의 현재 '사회신용점수(Social Credit Score)'에 대한 통렬한 비판을 한다. 알 수 없는 알고리즘과 데이터, 수많은 카메라와 SNS 센서 등이 연결되어 있는데, 관리비를 제 때 납부하거나 초과 근무 자원을 하면 점수가 올라가는 식이다. 점수가 높으면 금전 보상을 주고 향상된 서비스에 접근할 수 있게 하는데, 예를 들면 저리의 대출이 가능하고, 도서 대여기간이 늘어나고, 대중교통 혜택, 병원 이용 우선권 등이 해당된다. 반대로 점수가 낮으면 고속철이나 비행기 이용이 금지된다. 이 역시 도시마다 다른 점수 시스템을 가지고 있고, 이와 같이 중국은 시민들의 삶 자체를 게임화하고 있다.
그런데, 어떤 것이 좋고 나쁜 행동일까. 나쁜 점수로 분류되면 일종의 블랙리스트처럼 삶이 처참해지기 때문에 행동을 바꿀 수 밖에 없게 된다. 2019년에 무려 14.5백만명이 넘는 사람들이 블랙리스트에 있었다고 한다. 심지어 블랙리스트는 공유되어 대중적으로 망신을 당하는 경우도 있었다고 한다. 중국 중앙은행의 '디지털 위안'도 이러한 위반에 대한 벌금부과 및 수납과 좋은 행동에 대한 금전보상을 더 용이하게 하려는 의도도 있을 것이라고 저자는 주장한다.
과연 이것은 보상-처벌 메커니즘에 근거하여 정부가 의도한대로 신뢰할만한 가치가 있는 행동들에 대한 인센티브 부여 목적에 부합할까. 저자는 성균관대학교 철학과 교수인 필립 아이반호(Philip Ivanhoe)의 발언을 인용하면서, 이는 우리 자신의 생각과 느낌을 모니터링할 능력을 배양시킬 기회를 박탈하는 것이고, 자신이 실제 선과 미덕으로 생각하는 것과, 동기부여에 대한 독립적인 판단들에 대한 시각이 상실될 수 있다고 경고한다.
중국에서 또한 텐센트가 만든 'Homeland Dream', 시진핑 주석 사상을 프로모션하기 위한 교육 도구인 'Great Nation'도 게이미피케이션을 일종의 프로파간다에 적용한 안 좋은 사례로 소개한다.
이러한 중국의 문제에 대해서 비판적인 선진국의 경우에도 문제는 있다고 지적한다. 미국 캘리포니아 지역에서 홈리스 하우징(housing)에 대한 우대 점수 체계에서도 인종차별적인 요소가 있고, 누구도 피하기 어려운 미국 신용점수 FICO도 일종의 게이미피케이션과 접점이 있다(신용점수가 어떻게 변동되고 관리되는지 독자 스스로 생각해보시기 바란다). 오랜동안 국방과 엔터테인먼트 산업과의 콜라보가 이루어져왔는데, 여기에서도 America's Army와 같은 마케팅과 모병 리쿠르팅 목적 게임, 그 외 여러가지 최신 기술들을 결합한 워게임, 시뮬레이션 사례 등을 언급하면서, 여기에서도 정부 관점의 프로파간다가 있다고 주장한다.
정치와 교육에서도 유사한 프로파간다가 있다고 설명하는데, 여기에서는 교육 관련된 리뷰를 해보려고 한다. 중국에서는 안면인식 기술을 가지고 'Class Care System'을 적용하는데, 카메라와 딥러닝 기술으로 학생들의 행동을 분류하여 듣는지, 쓰는지, 자는지, 질문에 답하는지 등을 합계 점수로 만들어서 선생님에게 전달된다고 한다. 미국에서는 ClassDojo라는 인기있는 게임화된 애플리케이션을 활용해왔는데, 이 서비스에 대한 장점들도 있지만 앞서 언급한 행동주의 메커니즘 및 외적 동기에 의존하는 문제점을 가지고 있다고 지적한다. 또한, 학교 시스템을 데이터화하고 학생 감시를 표준화하여, 정부가 직접 손댈 필요 없이 간접적으로 이런 내용을 알 수 있다고 한다. 이렇게 중국 사회신용점수 등에 대해서는 경계하면서, 정작 미국에서는 자신들 안에서 사용되는 강압적인 게임화된 요소들에 대해서는 모르고 있다고 저자는 비판하고 있다.
이러한 것들이 게이미피케이션과 연계하여 권위기관들에게 위임되어왔던 것이다. 기술을 금지할 필요는 없지만, 더 개인화된 레벨로 기술이 사용되고 디자인되고 통제되는 내용에 대해서는 주의가 필요하다. 이러한 것들을 적용하고 사용하기 전에 민주주의적으로 적절한 컨센서스를 사전에 확보하고, 의사에 맞게 맞춤화하여 개선하는 것이 중요한 것이다.
2021년에 유럽공동체(European Comission)은 '사회신용시스템'에 인공지능 사용 금지를 제안하였다. 물론 세부 내용에는 미진한 점들이 있지만, 이러한 문제들이 근본 가치에 역행한다는 인식을 보여준 사례이다. 민주주의에서 투명성과 보충성은 중요한 힘이며, 이것이 없다면 신뢰는 없을 것이며, 신뢰가 없는 게이미피케이션의 의미는 퇴색될 것이다.
이동현 한성대학교 지식서비스&컨설팅대학원 겸임 교수
다음 회차에 계속됩니다.