기술공화국 선언 (알렉스 카프·니콜라스 자미스카, 지식노마드, 2025.)

 

  알렉스 카프와 팔란티어 테크놀로지스는 미국 정치와 주식 투자에 관심있는 사람들 사이에서 요 몇 년간 가장 많이 주목을 받은 대상 중 하나일 겁니다. 저 개인적으로는 그와 팔란티어의 행보에 대해 동의할 수 없는 부분이 많지만, 그들이 미국의 정책결정과정에서 차지하는 비중이 크다는 점에서 세계 최강대국 미국의 행보를 이해하기 위해 그의 목소리에 한 번쯤 귀기울일 필요는 있을 것 같습니다.

 

  이 책이 가장 힘주어 말하는 것은 공학자들이 국가와 공동체 수준의 추상적 가치를 지금보다 훨씬 더 염두에 두어야 한다는 점입니다. 최근의 공학적 성취들은 대부분 개별 소비자의 필요에 호응하고 있을 뿐 국가나 사회 공동체의 목적과 정체성에 대해서는 거의 고민하지 않는다는 것이죠. 이러한 경향은 추상적인 비전과 윤리에 대한 골치아픈 논쟁을 회피해 온 탓에 빚어진 일이고, 이러한 경향이 계속될 경우 우리 사회의 진보와 혁신도 방해받을 거라고 이 책은 지적합니다. 이에 따라 이 책은 공학자들이 국가 수준의 비전에 보다 적극적으로 연루되어야 하고 공학 분야의 여러 기업을 중심으로 성취된 각종 혁신이 국가와 공공 분야에도 적용되어야 한다고도 주장합니다.

 

  이 책을 이런 정도로만 정리한다면, 꽤 귀담아들을만한 주장이라고 생각합니다. 이 책이 말하는 기술적·공학적 성취, 예컨대 AI의 등장과 성장은 이제 수용하지 않을 수 없는 불가피한 '환경'이 되었습니다. 그렇다면 무턱대고 이들 성취를 배척하기보다는 이에 걸맞는 철학적·윤리적 고민을 하는 것이 훨씬 더 생산적일 거라고 저는 생각합니다. 제 주변만 해도, 기술적 진보에 대해 가장 둔감한 (심지어는 배타적이기까지도 한!) 인문학 연구자들조차도 이제는 기술과 공학에 대해 기존의 보수적 입장을 고수하기 힘들어진 상황이니까요. 이런 점에서 기술과 공학에 좀 더 거시적이고 형이상학적인 고민과 개입이 필요하며 골치아픈 사회적·윤리적 논쟁도 회피해서는 안 된다는 이 책의 주장은 일단 경청할 가치가 있습니다.

 

  그런데 문제는 그 다음입니다. 이 책에서 말하는 '국가적 비전과 정체성', '진리', '정의'라고 하는 것들은 기실 미국패권주의 내지는 서구중심주의에 기초한 가치에 가깝습니다. 이런 점을 생각하면 이 책의 주장을 마냥 수긍하기는 어렵습니다. 저는 이 책이 줄곧 강조하는 "우리를 앞으로 나아가게 하는 예술과 인류의 대의를 진전시키는 사상"(263쪽)이라는 것은 실제로는 지극히 서구중심주의적인, 서구사회에서도 극히 협소한 사상에 불과하다고 생각합니다. 게다가 이 책은 국가적 비전과 정체성을 위해서는 윤리나 도덕 같은 것은 부차적이라 주장하기까지 해서(237쪽) 약간 당혹스럽기까지 했습니다.

 

  따지고 보면 저자의 큰 주장, 즉 공학자들이 국가와 공동체 수준의 가치에 대한 논쟁을 회피한다는 주장에 대해서도 재론의 여지가 있습니다. 저자는 다양한 문화와 가치에 대한 존중을 두고 '미학적 취향'이나 '비평과 가치 판단을 금기시'하는 태도라고 냉소적으로 말하지만, 저는 그러한 존중이 다양한 가치가 공존할 수 있는 사회적 다양성을 적극적으로 지향한 결과이며 사회구성원이라면 마땅히 갖춰야 할 신중함과 배려의 소산이라고 생각합니다. 따라서 그런 것들을 골치아픈 논쟁에 대한 단순한 회피 내지는 미학적 혐오감 정도로 격하해서는 안 된다고도 생각합니다.

 

  여기서 이 책을 처음 읽게 된 동기로 다시 돌아가면, 이 책의 주장을 논박한 후 지적 우월감에 내심 우쭐대며 생각을 마무리하는 것은 별로 좋은 태도는 아니겠습니다. 그보다 더 중요한 것은 이런 태도를 가진 이가 세계 최강대국 미국의 정책결정과정에 깊숙이 개입하고 있고 실제로 세상도 이렇게 돌아가고 있다는 사실 아닐까요. 그래서인지 요 몇 년 사이 우리가 당연시했던, 우리가 알아왔던 익숙한 규칙이 무쓸모해진 세상이 되는 것만 같습니다. (당장 지난 주말 베네수엘라만 해도...) 자, 그러면 우리는 이러한 세상을 어떻게 받아들이고 대응해야 할까요... 그저 고민만 깊어지는 나날입니다.

 

  이 시대는 미국의 세기였고, 공학자들은 그 시대의 떠오르는 신화의 중심에 있었다. 과학과 공학을 통해 공익을 추구하는 일은 단지 미국의 이익을 보호하는 데에 그치지 않고 사회, 더 나아가 문명을 한 단계 끌어올리는 국가적 프로젝트의 자연스러운 연장선으로 여겨졌다. 물론 과학계는 정부의 자금과 폭넓은 지원이 필요했지만, 정부 또한 과학·공학에 대한 투자가 가져다주는 발전에 똑같이 의존하고 있었다.
  20세기에 보여준 미국의 기술적 우위, 다시 말해 의료 혁신부터 군사 역량까지 공공을 위한 경제적·과학적 성과를 안정적으로 실현하는 역량은 곧 국가의 신뢰도를 지탱하는 핵심 요소였다. 위르겐 하버마스가 말했듯이, 지도자들이 국민에게 암묵적이든 명시적이든 약속했던 것들을 이행하지 못하면 정부의 정당성이 흔들릴 수 있다. 또 새로운 기술이 부를 창출한다 해도 국민 전체에 도움이 되지 못한다면 문제가 생기기 마련이다.
  달리 표현하면 한 문화나 문명의 타락, 특히 지배 계급의 타락은 오직 그 문화가 국민에게 경제적 성장과 안전을 제공할 능력이 있을 경우에만 용서받을 수 있다. 이런 맥락에서 국가를 돕기 위해 나선 공학과 과학 공동체의 의지는 민간 부문의 정당성뿐 아니라 서구의 정치 제도가 오랫동안 존속하는 데도 매우 중요한 요소였다. (22~23쪽.)

 

  실리콘밸리가 내향적으로 변하고 소비자 중심으로 움직이는 동안, 미국 정부와 여러 동맹국은 우주 탐사, 군사용 소프트웨어, 의료 연구를 포함한 다양한 분야에서 개입을 줄였고 혁신은 위축되었다. 이처럼 국가가 물러나자, 혁신의 공백이 점점 커졌다. 양측에서 많은 사람이 이런 분리를 환영했다. 민간 부문을 회의적으로 바라보는 이들은 민간 기업들이 공공 영역에서 신뢰할 수 없다고 주장했고, 실리콘밸리 쪽은 정부의 통제와 기술 오남용을 우려했다. 그러나 미국과 유럽을 비롯한 세계 동맹국들이 지난 세기에 누렸던 주도적 지위를 이번 세기에도 유지하려면 국가와 소프트웨어 산업이 서로 분리되어선 안 된다. 오히려 더 결합하고 협력해야 한다.
  이 책은 기술 산업이 그들의 성장을 가능하게 한 국가를 적극적으로 지원해야 할 의무가 있음을 주장한다. 소프트웨어 산업이 죽가와의 신뢰를 회복하고, 기술이 실현할 수 있고 또 실현해야 할 보다 근본적이고 변혁적인 비전을 향해 나아가려면 다시금 공익을 중요시하는 자세가 꼭 필요하다. 또 정부가 지속적으로 공공의 복지와 안보를 보장하려면 실리콘밸리의 많은 기업이 경제의 여러 분야를 재편하는 데 성공했던 독특한 조직문화를 국가 역시 일정 부분 받아들일 수 있는 자세가 필요하다. (25~26쪽.)

 

  인공지능 개발을 계속해 나가는 데 따른 위험은 그 어느 때보다 커졌다. 그렇다고 해서 언젠가 인간을 해칠지 모른다는 두려움에 사로잡혀 날카로운 도구의 제작 자체를 주저해서는 안 된다.
  팔란티어와 다른 기업들이 개발하고 있는 소프트웨어와 인공지능 기술은 치명적인 무기를 더욱 효율적으로 운용할 수 있도록 해준다. 점차 자율화된 인공지능 소프트웨어와 무기 시스템이 결합하면 위험이 따르게 마련이고, 이 프로그램들이 자의식이나 의도를 갖게 될 가능성이 있다면 위험은 더욱 커질 것이다. 이런 이유로 이 기술들의 개발을 아예 중단하자는 제안은 잘못된 것이다. 원자력 시대가 끝나가는 지금, 다음 시대의 힘의 균형을 결정할 차세대 인공지능 무기를 구축하는 게 우리가 집중해야 할 필수 과제다. (44~45쪽.)

 

  2022년 11월 챗GPT 같은 LLM에 수십억 달러를 투자해온 오픈AI가 인터페이스를 대중에 처음 공개했다. 당시 회사의 정책은 군사·전쟁 용도로 자사 기술 사용을 전면 금지했다. (...)
  그러나 2024년 초 회사가 방향을 바꿔 이 금지를 철회하자, 샘 올트먼 CEO 사무실이 있는 샌프란시스코에 시위대가 몰려들었다. (...) 놀라운 기술적 도약을 이룬 챗GPT의 언어 모델을 개발한 엔지니어들은 소비재를 파는 기업들에게는 기꺼이 인공지능의 역량을 제공하면서 정작 미군 육군이나 해군에 더 효과적인 소프트웨어를 제공하라는 요청 앞에서는 주저하고 있었다.
  이런 시위와 대중의 분노가 위협적인 이유는 기술 산업 전반의 리더들과 투자자들의 본능에 영향을 미치고 판단을 형성하기 때문이다. 이들은 원래 논란이나 비판의 소지가 조금이라도 보이면 철저히 피하도록 훈련되어왔다. 이렇게 무엇을 만들 수 있느냐가 아니라 무엇을 만들어야 하느냐는 방향조차 시장의 변덕에 전적으로 맡기고 회피한 대가는 매우 클 수밖에 없다. (68쪽.)

 

  떠오르는 창업가 세대는 자신들이 적극적으로 위험을 추구한다고 말하지만, 이미지 관리나 논란의 여지가 있는 더 중요한 사회적 과제에 진지하게 투자해야 할 때는 조심스러운 태도를 보인다. 굳이 지정학이라는 윤리적 수렁에 빠져 논란을 자초하기보다 차라리 새 앱을 만드는 게 낫다고 생각하는 것이다. (71쪽.)

 

  지난 반세기 동안 정보 공개에 대한 기대가 꾸준히 높아지면서 유권자에게 꼭 필요한 정보들을 제공한 것은 사실이다. 동시에 선출직 공직자를 비롯한 지도자들과 국민 사이의 관계가 왜곡되는 문제도 생겼다. 지도자들이 실제 성과나 능력과는 무관한 지나친 친밀감을 강요받게 되었기 때문이다.
  1969년 〈타임〉지는 사설에서 미국인들은 "공직을 지나치게 도덕화하고 공적 위대함을 사적 선함과 동일시하는 경향이 있다"라고 지적했다. 이런 분위기 속에서 정치 참여가 실질적인 통치보다는 심리적 자기표현의 수단으로 전락할 위험이 커졌다. 만나지 못할지도 모르는 정치인에게서 정서적·내면적 안정을 찾고 싶어 하는 사람들은 결국 실망하게 마련이다.
  우리는 지도자를 알길 원하고 또 알아야 한다고 생각한다. 그러나 정작 지도자들의 성과에는 얼마나 관심이 있을까? 지도자의 호감도에 집착하는 건 현대의 전형적인 현상이다. 거의 국가적 강박까지 되어버렸다. 그런데 대가는 무엇일까? (86쪽.)

 

  미군을 위한 소프트웨어 개발에 자사 기술을 활용하는 데 반대한 구글 직원들은 자신들이 무엇에 반대하는지 분명히 알지만, 무엇을 지지하는지는 명확히 인식하지 못한다. 여기서 우리가 지적하는 문제는 평화주의나 비폭력에 대한 일관된 헌신이 아니라 근본적으로 어떤 믿음 자체를 포기한 상태이다. 구글은 본질적으로 검색 결과와 함께 표시되는 소비재와 서비스 광고를 정교히 배치하고 이를 수익화하는 엄청난 규모의 시스템을 만들었다. 이 서비스는 매우 중요하며 세계를 바꿔놓았다.
  하지만 구글과 구글 직원 중 상당수가 국가의 목적이나 정체성 같은 본질적인 질문에는 참여하지 않는다. 그들은 국가 프로젝트의 일환으로 사람들이 무엇을 만들고 싶고, 무엇을 만들어야 하는지에 대해 적극적인 비전을 제시하기보다는 단지 넘지 않을 선을 설정하는 데 그친다. 이들은 검색 기록을 통해 수익 창출에는 만족하면서도 정작 공동체의 안보를 지키는 일에는 나서려 하지 않는다. (102쪽.)

 

  대다수 조직이 과거 방식을 그대로 고수하거나 변화와 혁신이 필요한 시기에 오히려 위험을 배제하며, 충돌을 회피하는 등 평균으로 회귀하려는 유혹에 빠진다. 그러나 학생이나 직원을 무조건 감싸고 그들의 주관적 경험을 전적으로 수용하는 문화는 일부 사람들이 느끼는 불만과 고통을 오히려 부추기는 결과로 이어졌다.
  지난 10여 년간 좌파 트리거 워닝, 즉 불쾌감을 줄 수 있는 내용에 대한 사전 경고를 비롯한 순응의 형태를 열성적으로 지지해왔다. 그러나 이 전략은 실제로는 피해가 없는 데도 사람들에게 피해 의식을 조장함으로써 오히려 역효과를 낳았다.
  웨일코넬의과대학 임상정신의학과 리처드 앨런 프리드먼 교수는 한 인터뷰에서 2016년 전후로 "익숙하지 않거나 불편한 것 때문에 피해를 입었다"라고 주장하는 학생들의 사례가 증가했다고 밝혔다. 그는 학생들이 수업 중 발언을 듣고 느낀 불편함을 표현할 때 사용하는 언어가 "실제 발생할 수 있는 피해 정도에 비해 과장된 면이 있었다"라고 지적했다. (202~203쪽.)

 

  리코버 같은 인물들은 수십 년 아니 수 세기에 걸쳐 여러 차례 등장해왔지만, 대부분 사회로부터 버림받고 한 시대의 유물로 폐기되었다. 업적만 낼 수 있다면 자기 이익을 챙겨도 괜찮다고 정당화하던 시절의 잔재로 여겨졌기 때문이다. 오늘날 우리 사회는 이제 행정적 규칙과 규제를 준수하는 것에 더 집중하기로 했다. 많은 사람이 부패로 서서히 기울어지는 걸 막는 유일한 방어책이 이것이라고 믿기 때문이다.
  그러나 그 과정에서 사회적 공험을 할 수 있는 능력자들이 조금은 재량권을 발휘할 수 있는 자리를 우리 스스로 사라지게 만들고 있다는 문제점에 대해서는 아무도 이야기하지 않는다. (...)
  우리가 직면한 위험은 겉보기에는 반박하기 어려운 투명성과 절차라는 목표가 정작 잠수함을 건조하고, 난치병 치료법을 개발하고, 테러를 방지하며, 국가 이익을 신장하는 일보다 우선시되는 상황에 있다. 이런 공리주의적 계산은 매력적이지 않다. 그러나 어떤 싸움에서는 미학적 혐오감을 때로는 제쳐둘 줄도 알아야 한다. 우리는 결과와 성과라는 어렵고 때로는 불편한 질문을 회피하려고 너무 자주 우리의 도덕성 뒤에 숨는다. (237쪽.)

 

  이것이야말로 현대 좌파가 저지르는 가장 큰 전략적 실수일 수 있다. 좌파는 늘 시장의 과잉을 억제하겠다고 외친다. 그렇지만 정작 국민 문화나 공유된 정체성이 가져올 긍정적 측면을 진지하게 다루지 않음으로써 정작 그들이 반대하는 시장의 과잉을 방조하는 결과를 낳았다. (246쪽.)

 

  오늘날 우리 사회 전체가 진리, 아름다움, 선한 삶, 나아가 정의에 대해 어떤 주장을 내세우는 것 자체를 두려워하게 되면서, 우리는 인간에게 의미 있는 방향을 제시해주지 못하는 아주 얄팍한 형태의 집단적 정체성을 받아들이게 되었다. 이제 모든 문화는 동등하다고 여겨진다. 비평과 가치 판단은 금기시된다.
  (...)
  아폴로의 흰색 대리석 대신 이름없는 "아프리카 가면"을 간단히 포기하는 것에 대해 반발하는 건 어쩌면 당연한 것일지 모른다. 그렇다고 해서 우리를 앞으로 나아가게 하는 예술과 인류의 대의를 진전시키는 사상과 그렇지 않은 것들을 구분할 기준마저 전부 포기해야 하는 것인가? 오늘날 우리가 의견을 표명하고 선호를 드러내는 걸 두려워하게 되면서, 우리는 공동체의 자원과 재능을 모아 이끌어가는 데 필요한 방향성과 자신감도 잃을 위험에 처하게 되었다. 이 두려움은 우리가 생각할 가능성의 지평 자체를 스스로 좁히게 했고, 이제 이런 두려움은 우리의 삶 전반에 스며들어 있다. (263쪽.)

 

교정. 1판 6쇄

102쪽 밑에서6줄 : 프로젝트 일환으로 -> 프로젝트의 일환으로