포용적 AI, 안전, 그리고 민주적 권리

[연세AI혁신연구원] 포용적 AI, 안전, 그리고 민주적 권리

 2026년 현재, 한국의 AI 정책은 전례 없는 속도와 규모로 전개되고 있다. 국가인공지능전략위원회가 발표한 「대한민국 인공지능 행동계획」(2026.2)은 96개 과제를 망라하며, "모두가 AI의 혜택을 누리고 안전하게 생활할 수 있는 AI 기본사회"를 비전으로 제시한다. 「제4차 정보통신 진흥 및 융합 활성화 기본계획 및 제8차 지능정보사회 종합계획('26~'28)」 역시 디지털 포용과 안전을 중요한 의제로 포함하고 있다. "민주주의, 인권, 포용의 가치를 바탕으로 AI 기본사회를 실현하겠다"는 선언은 의심할 여지 없이 진지한 정책적 의지를 담고 있다.

그러나 선언의 진정성이 곧 내용과 방향의 충분함을 보증하지는 않는다. 좋은 정책 비전일수록 그 언어가 실제로 무엇을 포함하고 무엇을 빠뜨리는지를 더 세심하게 물어야 한다. 포용적 AI는 누가 정의하며, 안전은 누구의 안전을 의미하는가. 그리고 시민은 이 모든 과정에서 어떤 권리를 갖는가와 같은 물음이 그것이다.  

 

포용의 문법: 수혜자인가, 주체인가

포용의 문제부터 살펴보자. 「대한민국 인공지능 행동계획」의 'AI 기본사회' 전략 분야는 노동 전환 지원, 복지 접근성 강화, AI 의료 격차 해소, 지역·계층 간 AI 교육 불평등 완화 등을 포함한다. 이는 이전 계획들에 비해 진전된 내용이다. 「제4차 정보통신 기본계획」 역시 디지털 포용을 별도의 전략 축으로 배치하며 취약계층 지원을 명시하고 있다. 그러나 세 계획 모두에서 포용은 일관되게'접근성(accessibility)'의 언어로 구성된다. AI의 혜택에 누구나 접근할 수 있도록 하는 것이 포용의 핵심으로 규정되는 것이다. 이 프레임에서 시민은 AI 서비스의 수혜자이지, AI 시스템의 설계자나 문제 제기자가 아니다. 기술철학자 앤드류 핀버그(Andrew Feenberg)의 표현을 빌리자면, 현행 정책의 포용은 '민주적 합리화(democratic rationalization)'—기술 설계 과정에 시민이 참여하여 그 방향을 변형하는 것—보다는, 이미 결정된 방향으로 설계된 기술을 더 많은 사람에게 빠르게 보급하고 적응을 종용하는 데 가까워 보인다. 그리고 포용의 대상이 설정될 때 이미 특정한 AI상(像)이 전제되어 있으며, 그 AI가 어떤 것이어야 하는가에 대한 시민의 발언권은 후순위로 밀리는 것처럼 보인다.

 

안전의 층위: 국가 인프라인가, 시민의 일상인가

안전의 개념 역시 재검토가 필요하다. 세 정책 문서 모두에서 AI 안전은 주로 사이버보안, 국가안보, 기술적 신뢰성의 언어로 구성된다. 「대한민국 인공지능 행동계획」은 AI 보안 생태계 구축, 차세대 AI 기술 확보, 양자 내성 암호 도입 등을 안전의 핵심 과제로 제시한다. 이는 국가와 기업 인프라를 보호하는 '위로부터의 안전'이다.

그러나 알고리즘 차별, 자동화된 의사결정의 불투명성, 개인정보 침해, AI 기반 범죄 등 시민의 일상에서 발생하는 '아래로부터의 안전' 과 신뢰의 문제는 상대적으로 소략하게 다루어진다. AI 범죄 대응 과제가 포함되어 있으나 이는 대체로 사후적(reactive)이다. AI 시스템이 시민에게 해를 끼쳤을 때의 구제 절차, 설명 가능성에 대한 시민의 권리, 자동화된 결정에 이의를 제기할 수 있는 법적 권리 등은 아직 충분히 제도화되어 있지 않다. 안전의 개념이 인프라 보호에서 시민의 권리 보호로 확장되지 않는다면, AI 기본사회의 안전은 절반의 안전에 머문다.

 

정책 속도와 시민 공론장의 숙의

정책이 전개되는 속도도 주목해야 할 변수다. 매체이론가 폴 비릴리오(Paul Virilio)는 속도가 권력이라고 말했다. 누가 더 빨리 결정하고, 더 빨리 배치하느냐가 정치적 지배를 규정한다는 것이다. 96개 과제를 포괄하는 AI 행동계획이 발표되는 속도, 국가-기술-자본의 복합체가 AI 인프라를 구축하는 속도와, 시민 사회가 그 의미를 숙의하고 대응하는 속도 사이에는 심각한 비대칭이 존재한다. 사회학자 하르트무트 로자(Hartmut Rosa)의 사회가속화 이론이 경고하듯, 기술적 가속은 사회 변화의 속도를 앞지르고 생활세계를 압박한다. 「대한민국 인공지능 행동계획」은 AI 공론장 구축을 명시적 과제로 포함하지만, 공론장이 실질적으로 정착되기 전에 기술 인프라가 먼저 완성된다면 숙의는 결정력을 갖기 어렵다. 공론장은 AI 이후의 부산물이 아니라 AI 설계의 선행 조건이어야 한다.

 

민주적 AI: 국가 거버넌스를 넘어서

시민 권리와 민주적 AI의 문제는 가장 근본적인 층위에 있다. 세 계획 모두 거버넌스를 언급하지만, 거버넌스의 실질적 구성은 여전히 국가-전문가-기업의 삼각형을 중심으로 이루어지는 경향이 있다. 「대한민국 인공지능 행동계획」은 AI 기본사회 추진계획을 공론장을 통해 마련하겠다고 약속하지만, 이 공론장이 어떤 형태로 운영되며 그 결과가 정책에 어떻게 반영될지는 아직 구체화되어 있지 않다. 과학기술학자 쉴라 재서노프(Sheila Jasanoff)와 김상현의 '사회기술적 상상(sociotechnical imaginary)' 개념이 시사하듯, AI 정책이 전제하는 미래상 자체가 이미 특정한 가치와 이해관계를 내포하고 있다. 그 미래상을 누가 어떻게 그리는가의 문제야말로 민주적 AI의 핵심이다. 포용적 AI가 단순히 '모두를 위한 AI'를 뜻하는 것이 아니라 '모두가 함께 만들어가는 AI'를 뜻하려면, 시민의 참여는 수혜의 단계가 아니라 설계의 단계에서부터 시작되어야 한다.

한국의 AI 정책은 분명히 진화하고 있다. 포용, 안전, 민주적 가치에 대한 명시적 언명은 이전보다 진전된 것이며, AI 기본사회라는 정책 프레임이 기술 경쟁의 논리만으로 환원되지 않으려는 의지를 담고 있음을 부인할 수 없다. 그럼에도 세 가지 물음은 여전히 열려 있다.

포용적 AI가 접근성의 확대를 넘어 AI 설계와 거버넌스에 대한 실질적 참여를 포함하게 될 수 있는가. 안전의 개념이 인프라 보호 중심에서 시민의 일상적 권리 보호로 확장될 수 있는가. AI 공론장이 속도의 논리에 압도되지 않고 실질적 숙의 공간으로 기능할 수 있는가.

이 물음들은 AI가 기술 경쟁의 도구를 넘어 사회적 삶의 기반이 되는 시대에, 우리가 어떤 종류의 AI 사회를 원하는지를 구체화하기 위해 반드시 물어야 할 질문이다. 국가 정책은 이 물음에 대한 답을 독점할 수 없다. 그것은 시민, 연구자, 활동가, 정책 입안자가 함께 구성해가야 할 공동의 프로젝트다. 포용적 AI, 안전한 AI, 민주적 AI는 서로 다른 세 가지 목표가 아니라, 그 물음을 얼마나 진지하게 공유하는가에 달려 있는 하나의 지향이다.

https://aisi.yonsei.ac.kr/site/main/archive/post/이슈브리프-5호-포용적-ai-안전-그리고-민주적-권리?cp=1&sortDirection=DESC&listType=list&catId=63

이슈브리프 5호 / 포용적 AI, 안전, 그리고 민주적 권리