모더니티 기술신화 비판: AI로 대표되는 근대 과학기술과 정치의 문제

[아트포럼리 원고] 모더니티 기술신화 비판

: AI로 대표되는 근대 과학기술과 정치의 문제

 

김현준(서교인문사회연구실, 『문화/과학』편집위원, 서울과학기술대)

 

 

1. 들어가며: 첨단 과학기술은 거부할 수 없는 운명?

 

‘AI 대전환’ ‘AI 혁명’이 회자되고 있는 가운데, 마이크로소프트, 아마존, 구글, 오라클 등이 탄소 저감 정책을 폐기하고 AI데이터센터 전력 공급을 위해 핵발전을 선택했거나 고려한다는 소식이 들려왔다. 누구를 위한 과학기술일까? 국가와 자본(테크기업)은 글로벌 전쟁 운운하며 운명론적 선택을 강요하지만 이 선택에 저항하는 목소리는 국가나 사회체제 내부에는 잘 들리지 않는 것 같다. ‘AI 전환’로 대표되는 첨단 과학기술들의 발전은 과연 지구와 인류사회를 위한 정의로운 전환일 수 있을까? SNS, 플랫폼 알고리즘으로 인한 정치 양극화, 탈진실 현상의 강화, 나아가 ‘디지털 인류세’의 현실 속에서 AI를 위시한 최첨단 디지털기술들은 자신이 만들어낸 정치적 현실들을 극복할 수 있는 성찰적인 기술-정치적 대안일 수 있을까? 사실상 자본 성장의 가치를 극대화하겠다는 ‘새로운(4차)’ 산업 ‘혁명’의 기치 속에서 인류 문명이 진정으로 이룩해야 할 진정한 ‘혁명’은 과연 무엇일까? 우리 사회는 누구를 위해서, 무엇을 위해서, 왜 첨단의 과학기술들을 개발해야만 하는 것일까? 

  AI를 위시한 첨단 과학기술들은 ‘마이더스의 손(hand of Midas)’이다. AI의 손길이 닿는 곳마다 최고의 합리성이 실현된다. AI는 ‘비합리적’인 사회체계를 합리화하고 효율화할 수 있는 최적의 도구로 여겨진다. 특히 AI는 오늘날 첨단 과학기술을 대표한다. 단지 대표하는 정도가 아니라, 이른바 ‘4차산업혁명’의 융합적 기치가 시사하듯이 첨단 과학기술들의 매개적 중심의 위상을 갖기 시작했다. 합리성들의 합리성, (이런 표현이 가능할지 모르겠지만) ‘메타-합리성’인 셈이다. 또 AI는 개인의 자유와 창조적 능력을 극대화하고 유토피아를 실현할 수 있는 도구로 여겨진다. 

  과학기술이 합리화라는 이름 하에 고도화되고 효율적이 될 수록 그것의 불투명성이나 접근불가능성은 심화되고 그에 따라 과학기술의 존재와 발전이 필연적이라거나 불가피하다는 결정론적 논리와 운명론적 믿음이 당연시되고 있다. 과학기술 개발과 활용이 최상의 유일한 목적과 가치로 추상화 되면서, 과학기술이 그 자체로 물질적 힘을 갖고 자율적이며 자동적으로 발전할 것이라는 사회적 신념이 개개인의 믿음을 넘어 제도와 전체 사회구조와 제도에까지 정착되고 있는 것이다. 과학기술이 합리화되어 인간의 삶과 체제에 완전히 착종될 수록 과학기술은 마치 스마트 글라스나 가상∙증강 현실(VR∙AR) 게임 기기의 투명한 렌즈처럼, 삶을 매개하고 창조하지만 존재하지는 않는 것처럼 망각되고 있다. 이른바 ‘기술중립론’은 기술의 사회∙문화∙정치적 차원을 외면하고, 기술을 가치중립적이며 객관적이며 투명한 매체처럼 취급함으로써 지배권력과 자본의 이익에 복무한다. 이를 “기술 투명성 신화(mythology of technological transparency)”라고 말할 수 있다(김현준, 2024: 2).

  하지만 AI는 동시에 국가와 자본, 심지어 주권을 대리하고 근대를 표상하며 자본주의적 계산 합리성의 모델로서 존재한다. AI의 손길이 닿는 곳마다 최적의 지배권력이 작동하다. 마르크스주의 비판이론가들과 푸코 등이 보여주었다시피 오늘날의 최고의 지배권력은 최적의 합리성을 통해 작동한다. 그리고 우리 사회는 그것을 기꺼이 숭배하는 것처럼 보인다. 모더니티 기술신화의 중심인 것이다. 우리가 AI를 신뢰하고 거의 신앙에 가까운 태도를 보이는 이유는 그것이 합리성을 담보하는 첨단 과학기술이라고 믿기 때문일 것이다. 자본주의 근대의 화폐 만큼이나 후기 근대의 물신성을 대표하는 매체로서 AI 만한 것은 없을 것이다. 따라서 AI는 오늘날의 기술신화를 해부하는 데 좋은 사례가 된다. 

  이 글에서는 AI에 관한 구체적인 사례들을 분석하고 이를 통해 AI 비판만을 목적으로 하기보다는 AI의 기술정치학적 특성에 대한 이론적 탐색을 통해 과학기술에 대한 일반이론적인 비판을 예시하고자 한다. 이를 위해 기술사와 사회학을 위시한 과학기술학과 마르크스주의 기술철학 및 비판이론 전통을 이론적 자원으로 사용할 것이다. 

 

 

2. 과학기술은 합리적인가? : 근대의 과학기술 신화

 

우리가 과학기술을 수용하고 신뢰하는 이유는 무엇일까? 아마도 과학기술이 합리적이기 때문이라고 답할 수 있을 것이다. 과학기술은 근대 이성의 발현이자 그것의 탁월한 성과이고 진보의 지표이며 합리성 자체이므로 우리가 그것을 수용하고 신뢰하는 데에는 다른 이유가 필요하지 않을 것처럼 여겨진다. 과학기술을 믿을 수 있는 이유는 그것이 합리적이기 때문이며, 그것이 합리적인 이유는 그것이 앞선 과학기술의 순수한 성과이기 때문이다. 근대 과학기술 문명과 그것에 대한 인간 사회의 수용은 이러한 동어반복 속에 놓여있다. 근대인은 과학기술이 수용되는 역사적 · 사회적 · 정치적 과정과 별개로 특권을 가진 존재로 과학기술을 인식하게 되었다.  

  이제 근대는 과학기술에 대한 신화적 믿음 따위는 더 이상 존재하지 않는다고 선언하게 되었다. 과학기술은 신화와 무관하며 탈신비화되고 계몽된 이성의 성취라는 것이다. 즉 근대는 과학기술이 신화적 세계관으로부터 독립하고 자율성을 획득하는 과정이었던 셈이다. 더욱이 인간의 삶은 철저하게 계산된 기술적 인공물들로 둘러싸여 이성의 작용을 기술사물의 지배와 동일시하게 되었으며, 기술사물의 명령을 합리적인 정당성으로 오인하게 되었다. 물성(materiality)을 가진 과학기술이 근대 문명의 풍경과 일상, 심지어 커뮤니케이션까지 구성하고 지배함으로써 과학기술에 대한 근대인의 무조건적 믿음은 믿음으로 인지조차되지 않는 방식으로 인간을 강제하고 있다. 오늘날 과학기술의 가치는 궁극적인 설명이나 정당화를 요구하지 않는 것처럼 보인다. 심지어 예컨대 4차산업혁명과 같은 담론에서 보듯이, 자본이나 국가와 연계될 때 그것의 가치는 이미 자본주의와 국가의 합리적 도구로서 정당화되어 있기에 이를 넘어서는 질문은 좀처럼 제기되지 않는다.    

  하지만 과학기술이 지배하는 근대 사회에도 ‘신화’는 여전히 존재한다. 이 말은 신화가 과학기술과 배타적이거나 잔여적인 것으로 존재한다는 뜻과는 다르다. 근대 사회 속의 신화는 과학기술과 배타적으로 존재하는 것이 아니다. 오히려 근대적 신화는 과학기술의 형식, 합리성의 형식으로 존재한다. 그리고 과학기술은 사실상 신화적인 요소를 자신의 ‘안감’으로 삼아 성장한다. 근대 과학기술은 신화적인 것을 자신의 바깥에 있는 것으로 배제하고 밀어냄으로써 자신을 합리적인 존재로 탈신화화한다. 과학기술의 발전 과정 속에서 과학기술은 자신을 구성하는 사회 · 정치 · 문화적인 요소들을 ‘비합리적인 것’이라고 외부화하고 망각하며 단지 이데올로기적 ‘신화’라고 폄하한다. 근대가 과학기술을 때문에 또는 그것과 함께 탈주술화, 세속화되었다는 근대인의 믿음은 그 자체로 ‘근대의 신화’라고 할 수 있다. 물론 이 신화는 단지 관념이 아니다. 근대 과학기술은 국가의 행정과 산업혁명을 통해 종교나 미신의 퇴치 또는 약화에 기여했다. 과학기술이 세속적 근대의 표상이 된 것은 그것의 실제적 효력을 사회적으로 규정하는 ‘마법적’ 힘과 더불어서라고 할 수 있다. 다시 말해 근대 과학기술은 자신을 탈마법화(탈신비화)하는 사회적 마법을 통해 자신을 종교나 신화, 심지어는 자본(주의 자체)와도 무관한 존재로 만들어 내는 데 ‘성공’한 것이다. 

  진정한 신화는 사회 · 정치 · 문화적인 것 자체가 아니라, 사회 · 정치 · 문화적인 것이 ‘합리적’ 과학기술의 외부에 별개로 존재한다고 믿으면서 전자를 ‘비합리적’이고 (기술적으로) ‘무능한’ 것이라고 배제하는 일상적이면서도 물질화된 제도적인 ‘폭력’의 차원을 가지고 있다. 이러한 폭력은 분화된 기술공학 분야들의 분과학문과 기술관료제로서 존재한다. 가령 기술공학은 가치중립적이고 합리적인 학문이지만 인문사회과학이나 기술정치학은 단지 윤리나 이데올로기적 규범이라는 생각이 그것이다. 또한 기술 자체는 전문가만의 영역이고 그것의 활용에 국한에서만 대중의 참여가 허용된다는 생각도 그러하다. 이른바 기술중립론은 기술을 가치중립적인 단순 도구로 보는데 그치지 않고 기술의 사회정치적 차원을 기술의 역사적 · 내적 ‘본질’에서 배제하는 ‘정치’를 실행한다. 기술중립론은 과학기술은 가치중립적이고 합리적이기만 한 것으로, 반면에 사회정치적인 것은 이데올로기적이며 비합리적인 것에 할당하는 근대의 정신(또는 에토스)을 토대로 하는 것이다. 근대인은 비합리적이거나 정치적인 것을 내쫓아 버리고 남은 정수(엑기스)를 근대 과학기술이라고 믿고 섬기게 되었다. 이 과학기술은 지극히 합리적, 계산적, 탈정치적, 무사무욕(non-interest)의 ‘성육신(incarnation)’이다. 그리고 과학기술 전문인(기술관료)은 이 현대 문명의 신화를 지키는 사제가 되었다.   

 

3. 중립적 알고리즘?: 기술 투명성 신화와 기술-사회·문화 하이브리드로서 기술적 인공물(AI)

 

  이렇게 위의 도식처럼 기술의 ‘본질’에서 문화적인 것을 배제하고 기술과 문화, 이성과 정치를 이분법적으로 분리하여 기술만을 합리적이고 가치중립적인 도구로 환원하는 태도를 근대의 ‘이분법적 모더니티 기술신화’라고 부를 수 있을 것이다. 이러한 이분법적 기술신화는 기술에 대한 해법도 이원화하기에 더욱 문제적이다. 예컨대 AI 담론은 AI 기술에 대한 본격적인 비판이 제기될 때 알고리즘을 중립적인 것으로 강변하면서 사회정치적 개입을 ‘윤리’라는 이름으로 축소하고 ‘순수한’ 기술의 외부의 ‘사회문화적’ 문제로 할당한다. 알고리즘이 중립적이라는 항변은 배달플랫폼이나 택시플랫폼의 단골 논리다. 그리고 이 중립론은 테크기업이 책임을 회피할 때 알리바이로 등장한다. 또 AI챗봇이 혐오 발언하거나 편향적인 결과를 내놓을 때면 테크기업은 알고리즘에 대한 교정 요청을 이용자들의 윤리나 사회의 문화적 편견으로 희석시킨다. 평소 기술의 사회정치적 요인을 부정하며 기술에 대한 최대주의적이고 결정론적인 입장을 견지하는 테크기업은 이런 상황에서는 기술에 입각한 최소주의적 접근을 보이면서 갑자기 기술에 대한 사회구성주의자가 되는 척 한다. 이러한 입장은 기술에 대한 근본적인 이원론 전제를 보여준다. 하지만 기술은 문제가 있건 없건, 알고리즘은 편향이 있건 없건 간에 그 설계 시작부터 기술공학과 사회 · 문화 · 정치적인 요소의 이종적 합성물 또는 ‘집합체(assamblage)’이다. 

  AI는 기술-사회 하이브리드의 테크노시스템이다. 하지만 지배적인 이원론적 모더니티 기술레짐은 AI를 사회문화적 존재가 아니라, 오롯이 기술적 존재로만 규정하려든다. 예를 들어 챗봇 이루다에 대한 논란을 둘러싸고 대부분의 사람들은 챗봇 이루다가 선과 악이 중립적으로 전개될 수 있는 수동적이고 투명한 기계에 불과하기에 인간의 행위에 아무것도 더하지 않는, 의지의 중립적 매개체, “투명성의 과학”(이광석, 2023: 33)으로 간주했다. 하지만 챗봇 이루다의 경우처럼 인공지능 제품은 분석적으로는 크게 알고리즘과 페르소나, 즉 이른바 ‘기술’과 ‘사회’로 간주된 두 차원의 공동 설계의 산물이다. 그럼에도 오늘날의 지배적 기술레짐은 전자만을 기술 설계의 고유 영역으로 간주함으로써 (사실상 이미 수행하고 있는) 후자를 단순한 제품기획이나 마케팅 전략으로 치부하며, 이로써 기술 설계의 문화적 차원을 은폐하게 되는 것이다. 

   지배적인 이원론적 모더니티 기술레짐은 이루다를 사회문화적 존재가 아니라, 오롯이 기술적 존재로만 규정하려든다. 즉 이루다 사태는 기술 투명성 신화, 기술중립론이 인공지능을 의인화하는 사회적 과정에서 공고히 됨을 보여주는 사례이자, 기술 설계에서 문화적 차원의 중요성을 보여주는 사례이다.

  우리 사회 기술헤게모니는 기술과 문화(기술실천)를 사실상 분리하고 있다. 이에 따라 한편으로 알고리즘과 같은 순수 기술의 문제는 정치적으로는 해결할 수 없고 기술공학만으로 해결할 수 있다고 믿는 ‘기술해법만능주의(techno-solutionism, technochauvinism)’가 출현한다. 동시에 기술해법만능주의는 기술정치학적 문제제기 앞에서 책임면피용 알리바이로서 기술최소주의처럼 활용될 때가 있다. 가령 알고리즘 편향성은 데이터나 여러 이유로 어쩔 수 없는 한계이므로 인간 사용자가 조심할 수밖에 없다는 변명이 그것이다. 다른 한편으로 기술에 대한 인문사회과학적 · 예술적 접근은 기술 자체에 대한 개입을 포기하고 도덕주의적 개인 윤리로 오해되거나 환원되고 만다. 이러한 이원론적 신화적 틀 속에서는 결과적으로 기술공학적 의제와 사회적 · 정치적 의제가 분열된다. 그 결과 기술해법만능주의는 근대의 과학기술문명에 부합하는 탈정치적, 탈사회적 해법으로서 인정되는 한편, 기술정치학은 기술에 직접적으로 개입해서는 안되는 (그러한 제약 조건 하에서만 작동하고 인정되는) ‘순수 인문학’으로 축소된다.   

   하지만 기술은 사회적 가치로부터 분리시킬 수 있는 단순한 물리적 장치가 아니다. 기술은 그 구조 내에서 사회적인 것과 문화적인 것을 이미 통합하고 있다. 순수한 기술이란 존재하지 않으며, 기술은 항상 이미 문화적인 것이다(Feenberg, 2017). 사회 역시 단지 기술의 외부 환경이 아니다. 사회는 기술의 의미를 관통(Feenberg, 1999/2018)함으로써 기술의 내적 구조가 된다(Alexander, 2003/2007).

  기술비판이론은 바로 이러한 기술/사회· 문화 이원론의 경계를 조사하고 해체하고자 한다. 기술비판이론은 기술을 기술적인 것과 사회 · 문화적인 것이 ‘융합(hybrid)’된(Latour, ANT) ‘테크노시스템’(Feenberg, 2017)으로서 이해하며 이 모든 범주가 정치적인 것이라고 단언한다. 기술 자체도 본질적으로 정치적이고 사회적인 것이다. 그리고 이 기술이 형성되는 역사적 · 사회적 맥락이 자본주의라는 사실을 강조한다. 

 

 

4. 기술합리성의 형식으로서 지배하는 자본주의

 

  근대와 더불어 출현한 자본주의는 효율성으로 표상되는 합리성을 과학기술 자체에만 배당함으로써 자본주의의 폭력을 순화하는 방식으로 지배한다. 근대 자본주의는 기술합리성이라는 문화적 · 제도적 정당성을 통해 지배를 효과적으로 관철시키는 것이다. 즉 근대의 기술합리성이란 자본주의의 지배를 정당화하는 이데올로기인 것이다.

  자본주의 사회가 단지 지배적 관념이 아니라 물화된 기술합리성(technological rationality)에 의해 지배된다는 비판은 허버트 마르쿠제의 <일차원적 인간>의 핵심 주제다. 그는 이 책에서 기술합리성이라는 물화된 일종의 시스템 권력에 의해 지배된 근대의 모델인 미국 사회를 비판했다. 그는 루카치를 따라 자본주의가 기술적 조작이라는 합리적 문화를 우선시한다고 보았다. 마르쿠제는 기술합리성의 객관적이고 비인격적인 특성이 관료 집단에게 이성의 보편적 존엄성을 부여함으로써 자본주의 지배를 정당화한다고 주장했다(Feenberg, 1999/2000; 2023). 사람들이 자본에 복종하는 모습이 객관적 합리성의 명령에 복종하는 것처럼 보이게 만든다는 것이다(Marcuse, 1982: 154). 

  과학기술을 사회문화와 분리된 존재로 보는 견해는 기본적으로 과학기술을 인간으로부터 독립된 자율적인 존재로 보는 근대성에 근간을 두고 있다. 기술이 인간으로부터 소외되었고 물화되어 인간 사회를 합리성의 형식을 통해 전적으로 지배하게 되었다는 것이다. 프랑크푸르트 학파는 이것이 ‘도구합리성(instrumental rationality)’의 문제임을 간파했다. 이 개념들이 말하는 것은 기술이 합리성의 형식 자체가 되었다는 것이다. 이에 따르면 기술은 행위자나 사회가 사용하는 그 즉시 행위자나 사회는 기술 자체가 강요하는 가치와 목적, 원리에 의해서 도구화되고 물화된 존재가 된다는 것이다. 즉 사회는 가치나 의미, 목적의 내용에 의해 지배되기보다는 합리성의 형식 자체가 실현되어 있는 기술에 의해 지배된다는 것이다. 이것은 이원론적 모더니티가 과학기술적 원리와 행위자들의 사회∙문화적 힘을 배제시킴으로써 과학기술 자체의 힘을 그 자체로 자율적이고 중립적인 것으로 특권화하는 방식이다. 이렇게 모더니티는 이 도구합리성, 기술합리성을 사회에서 유일한 가치와 의미, 삶의 목적을 독점하는 합리성으로 특권화하고 문화나 감정, 다른 합리성들은 배제하는 배타적 신화로 작용한다(김현준, 2024: 2-3).

  다시 말해 기술은 우리를 그것이 합리적이기 때문에 따라야 한다고 믿게 만들지만 사실은 자본과 지배권력의 명령을 대행하고 있다는 말이다. 근대인은 시장경제와 과학기술에 과도하게 의존하게 되었고 이러한 자본주의적 삶과 세계를 과학기술을 통해 합리적으로 조화된 우주로 이해하게 되었다. 그래서 자본주의 세계는 지배 세력의 특수 이익과 인민의 공동 이익이 모순없이 조화된 합리성으로 보이며 사적 권력 관계는 객관적인 합리성 자체의 규칙으로 보이게 된다(Marcuse, 1982: 154). 기술 시스템에 대한 의존도가 증가할 수록 이 시스템에 내장된 특정 논리를 통해 표현된 합리성이 특정 사회 활동에 적합한 규칙으로서 내면화되는 것이다(Berry, 2014: 38). 가령 생산자-소비자 모두가 ‘윈윈(win-win)’한다는 양면시장으로서 디지털 플랫폼은 이용자 공동의 이익을 극대화한다고 주장한다. 이를 가능하게 하는 것인 예측 알고리즘 기술이다. 테크기업은 계산적 합리성을 극대화한 개인 추적 · 추론 · 예측 · 맞춤 알고리즘 기술을 통해 이용자 공동의 이익을 통해 자본의 특수한 이익을 극대화할 수 있게 되었다. 플랫폼의 알고리즘은 이용자의 취향이나 성향과 같은 정보를 근거 없이 단지 ‘예측’하는 것이 아니다. 그것은 이용자들의 성향을 실시간 조정하고 강화함으로써 알고리즘이 예측할 근거와 내용을 만들어 낸다. 알고리즘은 자신이 예측할 정보를 미리 알고 만들어 내므로 이용자를 더 정확하게 알고 예측할 수밖에 없으며 이용자들은 이를 신앙할 수밖에 없다. 이 원리는 마치 종교적 신화의 신탁, ‘자기 충족적 예언’과도 같다. 신탁(예언)대로 행동하는 신탁을 받은 자는 결국 신탁을 성취한다. 따라서 점점 더 정교화되고 정확해지는 알고리즘은 그 예측적 · 계산적 합리성의 놀라움에 의해 믿을 수밖에 없는 합리성의 사물이 되버린다. 이용자 편익의 정확한 예측을 만들어 내는 테크기업의 AI 기술은 자본의 이익을 정확히 반영하고 성취하면서도 그것을 자본의 특수하고 주관적인 이익이라기보다는 공동의 객관적 이익으로서 보이게 만들 수 있게 되었다(이것이 바로 기술이 단순한 이데올로기가 아니라 물질적이고 객관적인 사물이 되었다는 물화(reification)의 의미이다). 

  자본은 기술을 통해서 인간의 얼굴을 재현하는 거울을 만들었다. 우리가 거울을 보기 전에 이미 우리의 얼굴은 거울에 투영된다. 그러면 우리는 자본주의 기술이 만들어낸 그 얼굴을 자신의 얼굴이라고 믿게 된다. 이것이 오늘날 기술을 통해서 자본의 특수 이익과 인민의 이익을 모순없이 조화된 것으로서 ‘자동적으로’ 일치시키는 방식이다. 따라서 AI는 노동과 산업의 자동화 기술일 뿐만 아니라, 지배자의 이익에 피지배자의 이익을 자동적으로 일치시키는 지배 정당성의 자동화 기술이다. 알고리즘의 계산적 동일성의 원리는 지배-피지배의 동일성의 원리가 된다. 다시 말해 본래 자본주의 지배 정당성은 쉽게 ‘자동적으로’ 관철되지 않는다. 지배계급에게도 많은 ‘노력’을 요구되는데, 자동화 기술은 이 노력을 자동화하는 것이다. 우리는 이제 플랫폼 알고리즘 기술에서 지배 정당성의 자동화 기제를 엿본다. 플랫폼에서 자본의 이익은 감춰진다기보다는 오히려 이용자(소비자)의 편익이나 욕망과 동일시된다. 오늘날 기술지배 사회에서 지배 이데올로기는 은폐된다기보다는 오히려 기술합리성 자체의 얼굴로 나타난다. 

 

 

5. 나가며: 기술의 민주화와 대안적 기술설계를 향하여

  

그렇다면 희망은 없는가? 기술합리성의 자본주의 사회의 객관적인 사물처럼 힘을 발취한다면 출구는 없는 것일까? 과학기술학의 역사학자와 사회학자들은 과학기술이 단선적인 발전 경로를 가진 것이 아니라, 다양한 상호작용 속에서 역사적으로 구성되어 왔다는 사실을 밝혀왔다(Bloor, 1976/2000; Pinch, & Bijker, 1984/2012). 과학기술의 합리성도 역사적이고 사회적인 산물이다. 따라서 과학기술의 미래는 선험적으로 결정되어 있지 않고 사회 · 정치적 과정과 다양한 가치에 열려 있다는 말이다. 과학기술의 발전은 사회 · 정치적 투쟁을 통해 결정되기에 기술합리성의 형식도 변화 가능하다. 핀버그는 이를 ‘기술의 민주화’, ‘민주적 합리화’, ‘대안적 근대성’의 기획이라고 생각한다.

  근대화는 기술을 하버마스적 의미에서 ‘생활세계’와 구별되는 오로지 ‘체계(system)’에 복무하는 도구합리적 행위로만 이해했다. 체계 속에서 기술이 사용될 때 대화나 문화적 가치는 중요하지 않다. 오로지 효율성과 도구적 합리성만이 체계를 작동시키고 유지시키는 유일한 논리가 된다. 자본주의 근대성은 도구합리성으로 환원되지 않는 의사소통적이며 문화적인 기술 실천과 개입을 일상에서 몰아내고 또 그것에 대한 상상력을 제한했다. 근대화는 기술합리성을 계산될 수 없는 인간의 다양한 비/합리성들을 계산할 수 있거나 계산해야하는 합리성으로, 기술을 효율성이라는 이름의 계산적(도구적) 합리성으로 축소했다. 즉 근대화란 기술과 기술합리성이 자본주의에 포획되는 역사적 과정인 것이다. 이 역사적 과정 속에서 자본주의와 밀착된 기술(합리성)을 분리하는 일은 결코 쉽지 않다. 자본주의에 복무하지 않는 AI를 설계하는 일은 녹록치 않을 것이다. 하지만 역사는 기술 발전이 필연적인 것이 아니라 사회 · 정치적 투쟁 과정 속에서 재규정되는 우연적 산물임을 가르쳐 준다는 점에서 희망은 있다. 가령 산업혁명 초기 러다이트운동은 단순한 기계 혐오나 효율성의 거부가 아니라 자동화 기술에 대한 노동자 집단의 통제권 회복의 비전을 보여주었다. 자율화 효율성 기계에 대한 집단적 통제력을 제고함으로써 노동자의 숙련과 생산성은 향상되었으며 노동자와 협업하는 기술의 재설계를 유도했다. 이것이 기술의 민주화이다.  

 또 교육과 디지털 기술의 관계를 생각해 보자. 교육에서 AI를 사용하는 목적과 이유는 무엇인가? AI가 적용된 디지털 교과서를 사용해야 하는 까닭은 어디에 있는가? 현재 디지털 교과서 도입을 주장하는 주류(교육부와 에듀테크) 담론에서 AI의 본질은 효율성과 자동화의 논리에 포획되어 있다. 교육 합리화라는 정당성 하에서 에듀테크기업의 이익이 관철된다. 개인 맞춤 교육이라는 기대 역시 소박한 것이다. AI를 활용하지 않는 현재의 교육이 비효율적이므로 효율성과 동일시되는 AI 도입이 교육의 가치를 증대시켜 줄 수 있다는 믿음 역시 그러하다. 자본주의 근대의 주장과 달리 우리는 계산될 수 없는 것도 합리적일 수 있다고 주장할 수 있다. 효율적인 것이 합리적이라는 생각조차 재고해야 한다. 생각 역시 현재 자본주의 AI 기술은 기본적으로 도구합리성에 과잉 정박되어 있다. 그렇다면 우리는 AI 기술 자체, 효율성이라는 도구합리적 가치, 교육의 가치라는 삼자 관계를 어떻게 재배치할 것인지 고민해야 한다. AI 기술을 사용하면서도 도구합리성에 지배되거나 포화되지 않으면서 교육의 가치를 구현할 수 있는 방안은 없는지, 또는 효율성이 아닌 교육의 가치를 구현하기 위해 AI 기술을 어떻게 재설계해야 하는지, 아니면 효율성에 의한 교육의 가치 침식을 막는 방안을 AI 기술에서 찾을 수 있는지 등을 고민해야 하는 것이다.    

  핀버그는 기술이 지배의 계기와 해방의 계기를 모두 품고 있다고 생각한다. 지배의 계기란 자본주의 기술이 도구적 합리성으로 인해 그 체계를 재생산하고 보다 공고히 하는 것이다. 반면에 해방의 계기는 기술과 합리성을 집단들의 이해관계에 따라 재해석함으로써 기술적 지배구조에 저항하거나 대안을 창출하는 것이다. 지배와 해방의 계기는 푸코가 말하는 지배/저항의 이중적 계기와 마찬가지로 별개로 존재하는 배타적 범주가 아니라 관계적이며 상호 침투적일 수 있다. 따라서 기술은 본질적으로 지배/해방의 어느 한쪽 계기만을 지지하도록 운명지어지지 않았기에 대안적 기술의 실천이나 개발은 실제로는 구체적인 상황과 사례 속에서 찾아지는 것이다. 특별히 예술실천은 이러한 가능성을 전망하고 가늠해보는 사회적 실험실인 셈이다(일반적으로 인문사회과학은 자연과학과 달리 통제된 실험환경을 만들고 정당화하기 어렵지만 예술은 그러한 설정이 허용된다는 점에서 그러하다). 우리는 구체적인 현장이나 예술과 같이 임의적으로 설계된 상황 속에서 기술을 민주적으로 통제하거나 재설계하는 방법을 찾아낼 수 있다. 그래서 자본주의적으로 정의되기만 하는 사회의 합리성을 그로부터 전유하여 새로운 대안적 기술합리성을 전체 사회에 제출할 수 있으며 기술권력의 분배를 재구조화할수 있을 것이다.  

  인간은 어떤 면에서는 소외와 사물화(비인간화 내지 비인격화)를 자처한다. 자유와 정치는 귀찮고 피곤하다. 선택은 고통이다. 반면 기술은 우리를 편안하게 만들어 주는 존재 같다. 인간 문명의 최대 성과라는 과학기술은 자유, 정치, 선택들을 통해 만들어졌지만 이것들을 외면하는데 이용된다. 어쩌면 이러한 외면이 과학기술을 인류 최대의 ‘업적’으로 만들어주었는지도 모른다. 심지어 AI는 이것들을 자동화한다. 자동화함으로써 힘을 얻는 장치이다. 첨단 과학기술에게 스스로를 내어 맡기는 ‘자유로운 선택’은 ‘자동적’인 행위가 아니라 ‘정치적’인 행위이다. 정치적 힘의 포기는 다른 누군가에게 정치적 힘을 안기는 행위이다. 자본주의는 단지 정제경제적 힘이 아니라 기술정치적 힘이다. 자본주의와 함께 주어진 과학기술의 재빠른 적응이나 활용이 문명이나 진보가 아니라, 이에 대한 비판과 저항이 어쩌면 이러한 우리의 게으른 본성을 거스르고 정치를 긍정하는 진정한 ‘문명’이나 ‘진보’의 과정일지 모른다. 오늘날 자본주의와 함께 발전한 과학기술 체제를 당연시하는 것은 과학기술의 편익만을 취하는 것이 아니라 자본주의 지배를 ‘합리적인‘ 방식으로 승인하는 것일 수 있다. 합리성의 외양을 입고 나타나는 자본주의 기술에 대한 정치적 비판과 문화예술적 실험, 대안적 합리성의 모색이야말로 우리 사회와 인류 문명의 최대 성과일 수 있었으면 한다.     

     

참고문헌(bibliography)

김현준 (2024). 인공지능 시대 기술레짐 비판: 기술비판이론의 확장적 재구성. 서울과학기술대학교 IT정책전문대학원 디지털문화정책전공 박사학위논문.

김현준∙이광석 (2023). 인공지능 기술신화로서 의인화 비판: 챗봇 ‘이루다’ 사례 연구. <커뮤니케이션이론>, 19(4), 109-135.

Alexander, J. (2003). The meanings of social life: A cultural sociology. Oxford University Press, USA. (2007. <사회적 삶의 의미>, 박선웅 역, 한울아카데미)

Berry, D. (2014). Critical theory and the digital. Critical Theory and the Digital, Critical Theory and the Digital. 1-272.

Bloor, D.  (1976/2000). <과학지식과 사회의 상>, 김경만 역, 한길사

Latour. B. (1991/2009). <우리는 결코 근대인이었던 적이 없다>. 홍철기 역. 갈무리.

_______. (1999/2018). <판도라의 희망: 과학기술학의 참모습에 관한 에세이>. 장하원, 홍성욱 역. 휴머니스트.

Marcuse, H. (1964/2009). <일차원적 인간>. 박병진 역. 한마음사.

Feenberg, A. (1999/2018). <기술을 의심한다: 기술에 대한 철학적 물음>. 김병윤 역. 당대.

__________. (2017). Technosystem: The Social Life of Reason. Cambridge, MA.: Harvard University Press.

__________. (2023). The Ruthless Critique of Everything Existing: Nature and Revolution in Marcuse’s Philosophy of Praxis. Verso Books.

Pinch, T., & Bijker, W. (1984/2012). The social construction of facts and artefacts: Or how the sociology of science and the sociology of technology might benefit each other. Social studies of science, in edited by Bijker, W., & Pinch. T., The Social Construction of Technological Systems, anniversary edition: New Directions in the Sociology and History of Technology. MIT press, 11-44. (1999. <과학 기술은 사회적으로 어떻게 구성되는가>, 송성수 역, 새물결)