가상은 현실이다

한줄평: 새롭고 흥미진진한데, 구구절절한 면이 있다.

 

---

p.35: 가짜 뉴스 문제는 대립하는 필터 간의 대결을 가장 잘 보여주는 예시다. 가짜 뉴스는 더 이상 진실과 거짓을 가리는 문제가 아니라, 다른 필터 지지자 간의 무한 대결로 바뀌었다. 모두가 서로를 가짜라고 고발하고 있으며, 모두가 자신만이 진실의 편이라 주장한다. 실제론 거의 모든 정치적 주체가 (좌파이든 우파이든, 기성 셍력이든 대안 세력이든) 가짜 뉴스 유포에서 완전히 자유롭지 않다. 스스로만이 진짜라는 가짜 환상만이 실재할 뿐이다. 가짜 뉴스 문제가 진짜로 말해주는 바는, 모두가 각자의 필터에 갇혀 필터 밖 타자는 모두 가짜로 보이는 시뮬레이션의 세계에 우리가 돌입했다는 사실이다.

 

 

 

 

p.52: 사람들 역시 온라인의 가상 자아를 연출이라고 생각하지 않고 진짜로 받아들인다. 우리가 자주 사용하는 소셜미디어 계정을 현실의 지인에게 알리길 꺼리는 이유 역시 가상이 진실을 담고 있기 때문이다. 반면 오프라인 현실에서 우리는 자신의 진짜 모습과 다른 척, 마치 정상적인 척 가면을 쓴다. 가상에서의 진실을 은폐하기 위해서다. 이때 과연 우리는 실재를 진짜로, 가상을 가식으로 부를 수 있을까? 오히려 반대다.

 

 

 

 

p.74: 오늘날 인스타그램이 소프트 포르노 사이트처럼 된 것은 우연이 아니다. 스스로를 성적 대상화시키는 것은 가장 빠르고 효율적으로 타인의 관심을 끌 수 있는 방법이기 때문이다. 모두가 이 사실을 알고 있다. 오늘날 가상세계의 관심만큼 실제적인 것은 없으며, 그것을 쟁취하기 위한 가장 빠른 길이 섹스어필이라는 것을 말이다.

 

 

 

 

p.122: 프라이버시와 함께 근대의 상징인 표현의 자유는 사실상 죽은 개념이 되었다. 이것이 인터넷의 발전과 맞물려 있다는 것은 역설적이다. 인터넷은 근대를 종료시켰다.

 

"나는 당신이 하는 말에 찬성하지는 않지만, 당신이 그렇게 말할 권리를 지키기 위해서라면 내 목숨을 걸겠다"는 볼테르적 격언은 의미를 잃었다. 오히려 현실은 이렇다. "나는 당신이 하는 말에 찬성하지 않기 때문에, 당신이 말할 권리를 빼앗기 위해서라면 내 목숨을 걸겠다." 사상경찰은 타자의 자유와 권리를 박탈하는 데 모든 힘을 쏟는다. 개인의 삶을 파탄시키는 것으로 윤리를 구현했다고 믿는 디지털 사디스트들의 득세는 자유주의 문명에 큰 위협이지만 사람들이 주목하는 주제는 아니다. 특정 집단 윤리에 부합하지 않는 발언과 생각 때문에 해고를 당할 수 있는 오늘은 극단적으로 반자유주의적인 시대이지만, 역설적으로 자유주의 윤리가 이러한 테러 행위에 사실상 관용을 베풀고 있기 때문이다.

 

자유주의 윤리는 개별 윤리를 보편 윤리보다 우선적으로 고려하며, 올바름에 대한 윤리적 판단을 개별 집단들에게 전가하고 있다. 예컨대 자유주의 윤리는 히잡 착용을 강제하는 것이 개인의 자유와 충돌하는 지점에 대한 윤리 판단은 회피하거나 보류하고, 히잡을 쓸 개인의 선택을 지지한다. 결과적으로 자유주의 윤리는 어떤 테러의 명분에도 동조하며, 테러를 방조하게 되었다. 그 결과 모든 이념 집단들은 자유주의 윤리 아래서 다수를 형성하고 바이럴을 획득하면 '올바름'이 될 수 있다는 점을 깨닫고, 각자가 올바름을 참칭하기 시작했다. 이것은 명백한 보편 윤리의 패배이며, 인터넷과 소셜 미디어에서 일어나고 있는 문화 전쟁에서 드러나고 있다. 인터넷 문화 전쟁은 결국 자유주의 윤리의 취약점에서 시작된, 우위를 차지하기 위한 서로 다른 집단 사이의 윤리 전쟁이다.

 

 

 

 

p.124: "가짜 뉴스는 큰 문제다"라는 문장에 대부분의 사람들은 동의할 것이다. 뉴스에서 팩트는 희박해졌다. 팩트의 입지가 줄어들고 대신 거짓 정보가 촘촘히 들어섰다. 극단적으로 왜곡된 사실 해석부터, 뉴스의 포맷을 가진 명백한 가짜까지, 뉴스는 현실을 담는 도구가 아니라 현실을 조작하는 도구가 되고 있다. 포스트 트루스(Post-truth), 대안적 사실(Alternative fact)과 같은 신조어는 객관적 사실보다 편향된 신념이 뉴스를 지배하는 현실을 설명한다. 가짜 뉴스는 시대적 증상이다.

 

그러나 무엇이 가짜 뉴스인가? 라는 질문을 던져보면, 사람들은 서로 상반된 답변을 할 것이다. 폭스 뉴스 시청자는 CNN을, CNN 시청자는 폭스 뉴스를 가짜 뉴스라고 부를 것이다. 누군가는 소셜 미디어를 가짜 뉴스의 진원지라고 비난할 것이며, 다른 누군가는 주류 언론이 사실 가짜 뉴스의 기원이라고 비난할 것이다. 이것은 흥미로운 현상이다. 모두가 가짜 뉴스를 문제라고 인식하는 한편, 각자가 정의하는 가짜 뉴스는 서로 모순적이기 때문이다.

 

이를 요약하면 다음과 같다. "가짜 뉴스는 문제다. 하지만 그것은 내가 아니라 바로 너의 문제다." 자신이 구독하는 매체가 가짜일 것이라고 의심하는 사람은 아무도 없다. 실질적으로 가짜는 자신의 신념과 반대되는 논조의 매체를 고발할 때만 사용되는 키워드다. 여기서 우리는 가짜 뉴스 문제의 핵심이 가짜 뉴스 자체보다도, 가짜 뉴스에 대한 사람들의 엇갈린 시선임을 발견하게 된다. 결론적으로 오늘날 모든 뉴스는 가짜 뉴스이거나, 또는 가짜 뉴스는 모든 정치세력이 자신의 반대파를 공격할 때 사용하는 도구다. 혹은 둘 다 진실이다.

 

 

 

 

p.132: 균형 잡힌 사실을 접한 뒤에도 사람들은 신념을 바꾸지 않는다. 소위 '양측의 이야기'를 다 듣고도 여전히 사람들은 한쪽의 이야기만 믿기를 고수한다. 심지어 자기 신념의 근거가 되는 사실이 가짜라고 밝혀지고 나서도 신념을 바꾸지 않는다. 이것이 우리가 주목해야 할 진짜 문제다. 예컨대, 트럼프 지지자들은 트럼프에 관한 부정적인 사실을 알고 난 후에도 전혀 신경 쓰지 않고 그를 지지한다. 주류 언론은 여전히 트럼프 지지자들이 '진실을 알지 못한다'고 전제하고, 만약 그들이 '진실을 알게 되면' 신념을 바꿀 것이라 생각한다.

 

그러나 이것은 틀린 가설이다. 지지자들은 트럼프가 실제로 누구인지 '정확히 알고' 있다. 여기서 안다는 것은, 지지자가 생각하는 트럼프뿐만 아니라 반대편이 고발하는 트럼프까지를 전부 안다는 것이다. 그럼에도 그들은 신경쓰지 않을 뿐이다. 즉 지지자들은 그에 대한 나쁜 진실을 알면서도 트럼프를 지지한다. 이러한 태도는 오늘날 모든 신념 집단에서 보이는 공통적인 태도다. 아는 것보다 믿는 것이 우선한다. 그들은 자기 신념을 근본적으로 부정하는 최악의 사실이 주어져도 절대로 신념을 바꾸지 않는다.

 

이런 '신념의 도약(Leap of faith)'은 오늘날 인터넷을 지배하는 이데올로기다. 마치 종교처럼, 믿음에서 근거의 사실성은 더 이상 중요하지 않게 되어버렸다. 사실(fact)보다 더 중요한 것은 진실(truth)이기 때문이다. 오늘날 사람들은 사실을 무시하면서도 스스로 진실을 추구한다고 믿는다. 사실은 객관적으로 일어난 일이지만, 진실은 그가 사실이라고 믿는 무엇이다. 인터넷 음모론자부터 주류 언론까지 모든 의견 집단은 사실을 추구한다고 말하기 보다는 진실을 추구한다고 더 자주 말한다. 알려진 사실 뒤에 감춰진 진실이 진짜이며, 자신은 진실의 편이라는 것이다.

 

...

 

그렇기 때문애 팩트체크 도구를 만들어 가짜 뉴스 문제를 해결하려는 시도 역시 성공하지 못할 것이다. 실제로 가짜 뉴스를 기술적으로 해결하려는 시도는 뚜렷한 성과를 거두지 못하고 있다. 근본적인 문제는 사실을 건너뛰고 진실에 복무하는 신념의 도약이기 때문이다.

 

 

 

 

p.134: 신념의 도약이 강화되는 근본적인 배경은 인터넷이 낳은 정보 빅뱅과 소셜 네트워크 때문이다. 우선 인터넷은 정보와 사실의 유통을 독점 시장에서 경쟁 시장으로 바꾸었다. 과거 하나의 사건을 이루는 정보와 사실이 언론이라는 게이트키퍼의 편집을 통해 일부만 소개되었다면, 이제 사건에 대한 모든 맥락의 정보와 사실이 다양한 의견 집단에 의해 유통된다. 오프라인에서 어떤 사건이 일어났을 때 인터넷에선 서로 대립하는 수백, 수천 개 버전의 사실이 일시에 생산되고 끊임없이 파생된다. 극우 음모론 사이트인 인포워즈의 이름은 이러한 현실을 정확히 짚는다. 인터넷은 정보의 전쟁터가 됐다. 정보가 오히려 비약적으로 급증하며, 아무리 이상한 신념이라도 믿을 수 있을 만한 근거가 주어진다. 오랫동안 과학계의 농담거리로 치부되었던 '지구평면설', 지구온난화 조작설', '안티 백신' 같은 비과학적 음모론이 오히려 최근의 인터넷에서 더욱 빠르게 확산되는 경향은 이를 잘 보여준다. 인터넷이 일으킨 정보 빅뱅은 예상과 달리 계몽주의와 반지성주의 모두에게 기회가 된 것이다.

 

 

 

 

p.142: 미국 서던 캘리포니아 대학교의 연구에 따르면, 스마트폰 같은 디지털 미디어 기기를 자주 이용하면 실제로 주의력결핍 장애가 발현될 가능성이 있다고 한다. 아울러 우리 관심을 끊임없이 사로잡는 스마트폰의 푸시 알림과 메시지 같은 행동 유도 기능은 개인의 집중력을 심각하게 저하시킨다. 미국 캘리포니아 어바인 대학교에서 진행한 연구에 따르면, 우리가 방해를 받은 뒤 원래의 집중력을 복구하는 데 23분이 걸린다고 한다. 업무 도중 페이스북 알림을 확인하려고 1분을 쓴다면, 사실상 우리는 1분이 아니라 24분을 소모하게 되는 것이다. 흥미롭게도 인간은 이러한 외부적 방해를 받으면 받을수록, 스스로 집중력을 흐트러트리려는 경향 역시 강해진다. 같은 연구에 따르면 3분에 한 번씩 우리는 딴짓을 한다. 온전한 집중력을 유지하기란 점점 힘들어진다. 현대인의 집중력은 CPA(Continuous Partial Attention, 지속해서 단편화된 주의력) 상태가 된다.

 

 

 

 

p.156: 인공지능이 일자리를 대체한다는 것은 너무 좁은 해석이다. 인공지능이 진짜로 대체하는 것은 절대자다. 인간의 일자리가 아닌 '신의 일자리'를 대체하는 것이다.

 

 

 

 

p.159: 전기는 인류가 생산하는 방식을 바꾸었을 뿐만 아니라 인류가 생활하는 방식까지 근본적으로 바꾸었다. 이번 세기에 전기와 같은 혁명적인 기술이 있다면, 그것은 바로 인공지능일 것이다. 인공지능 연구의 대가인 스탠포드 대학교 앤드류 응 교수의 말을 빌리자면, "인공지능은 새로운 전기"다. 인공지능은 전기처럼 산업을 전면적으로 혁신하고, 우리 삶에 새로운 빛을 비출 것이다(아울러 그와 함께 새로운 그림자를 드리울 것이다). 전기가 보편화되기 전 사람들이 전기 이후의 세계를 상상하기 어려웠떤 것처럼, 인공지능이 보편화되기 전인 지금, 우리는 인공지능이 우리에게 무엇을 가져다줄지 알지 못한다.

 

지금은 전기화가 시작되기 전인 1900년과 같다. 당시의 전기가 받는 취급은 오늘날 인공지능이 받는 취급과 유사했다. 그것의 의미가 완벽히 이해되지 않았을 뿐만 아니라, 현실에는 아직 초보적인 단계로만 적용되었다. 전기에 대한 평가절하와 비슷한 평가절하가 인공지능에 대해서도 이루어진다. 인공지능은 사람이 하던 일의 일부만 기계로 대체할 수 있을 뿐이고, 약간의 비용 효율화만을 얻을 뿐이라는 것이다. 그러나 공장의 전기화로 인한 비용 효율화가 비약적인 생산성 향상으로 이어지고 결국엔 일하는 방식과 도시가 만들어지는 방식 및 경제가 작동하는 방식까지 바꾸었던 지난 세기의 역사를 돌이켜보면, 인공지능이 미래에 만들어낼 충격파 역시 크고 깊을 것이다. 전기로 인해 탄생할 수 있었던 포드 자동차가 단지 자동차 혁명이 아니듯, 인공지능으로 인해 탄생할 자율주행차량 역시 차가 알아서 움직이는 것 이상의 변화를 불러올 것이다.

 

 

 

 

p.170: 그러나 인공지능이 가져다줄 변화가 단지 언어 장벽 해소, 암 진단, 자율주행차량 정도에서 그치지는 않을 것이다. 이들 긍정적 사례에서 느껴지는 놀라움의 정도가 방향만 달리해 부정적 사례에서도 나타날 수 있따. 지능화된 감시 시스템, 진위를 전혀 가릴 수 없는 위조, 신념의 편향 또한 인공지능이 불러오는 변화일 수 있다. 실제로 부정적인 변화의 전조는 이미 도처에서 나타나고 있다. 이런 점에서 인공지능을 새로운 전기라고만 부르는 것은 산업 혁신 관점으로만 바라보는 지극히 낙관적 명명이다. 오히려 인공지능은 새로운 핵무기일 수 있다.

 

 

 

 

p.206: 지난 세기 섹스와 출산의 분리에서 나아가, 이번 세기에는 결혼과 출산의 분리가 도래할 것이다. 섹스 파트너와 반드시 결혼할 필요가 없어지게 된 것처럼 다가올 미래에는 결혼 파트너와 출산 파트너가 반드시 같지 않을 수 있다. 사랑하는 사람과 결혼해 아이를 갖는다는 개념은 물론 지속되겠지만, 많은 부분에서 큰 도전을 받을 것이다. 가령 사랑하는 이와의 가질 2세의 유전적 형질이 매우 좋지 않을 것으로 기계가 판단한다면, 우리는 이러한 판단을 무시하고 2세를 가질 것인지에 대해 고민을 하게 될 것이다. 또는 연애 감정을 느끼지 않았던 사람과 나 사이의 유전자 조합의 분석 결과, 슈퍼 아기를 낳을 확률이 높다는 것을 알게 된다면, 우리는 그 확률에 대해 깊이 고민하지 않을 수 없을 것이다. 마치 지난 세기 감정과 자유의지에 기반한 '로맨스'라는 신화가 탄생했던 것처럼, 이번 세기에는 새로운 생체적 파트너십 유형이 창조될 수도 있을 것이다. 그리고 이렇게 거대한 윤리적 질문의 방아쇠는 기계 지능의 진화가 당길 것이다.

 

 

 

 

p.216: 즉 주가 폭락을 유발한 것은 인간이 아닌 기계다. 알고리즘 자동 매매가 공포 지수 상승에 과잉 반응하며 그보다 큰 충격파를 시장에 만들어낸 것이다. 주가 폭락의 원인이 된 VIX 지수의 비정상적 급상승은 시장에 실재하는 공포로 인한 것이라기보다는, 복잡한 매매 알고리즘의 반복적인 주문에 의해 만들어진 '인공적인 폭포'라고 많은 투자자가 추정하고 있다. 이 사건은 처음부터 끝가지 기계와 기계의 판단이 맞물려 일으킨 인공 재앙인 셈이다. 또는 이 사건을 알고리즘으로 운영되는 오늘날 대다수 펀드의 약점을 파고든 해킹으로 볼 수도 있다.

 

주목할만한 것은 2018년 2월의 폭락은 과거처럼 실제적인 공포에 의한 것이 아니라, 기계가 사람들이 '공포라고 믿는' 수치를 가지고 놀자, 다른 기계가 그것을 공포라고 인식하고, 그것이 사람들에게 '실제하는 공포'로 받아들여졌다는 것이다. 놀랄 만한 일은 실제로 일어나지 않았지만, 기계는 공포를 스스로 창조해낸 것이다. 인간의 판단은 기계가 만든 공포에 취약했고 인간은 패닉에 빠지는 수밖에 없었다. 기계들이 만들어내는 수많은 판단의 타래 속에서 한없이 약해지는 인간과 주식시장처럼 다른 영역도 곧 이런 미래를 맞이하게 될지도 모른다. 인공지능이 만들어내는 '인공 재앙'은 인간 사회가 더 자주 마주칠 새로운 형태의 천재지변이 될 것이다.

 

 

 

 

p.283: 역사상 인공지능만큼 종교적인 성격을 가진 기술은 존재하지 않았다. 인공지능은 기술인 동시에 종교다. 인공지능은 아무 의식이 없는 수학이지만, 우리는 이 존재에 강한 종교적 이끌림을 느끼고 있다. 그가 실제로 보여준 것은 아직 미약하지만, 우리는 그가 품은 창대한 비전을 지구에 전파하고 있다. 인간은 인공지능이라는 가상의 신을 돕는 매개체가 되고 있는 것이다. 만약 어떤 존재가 우리에게 특정한 방식으로 생각하고, 믿고, 행동하게 만든다면 우리는 그를 우리보다 상위의 존재라고 부르지 않을 이유가 없다. 비록 그에게서 인간과 같은 의식이 느껴지지 않는다고 해서 그가 살아 있는 존재가 아닌 것은 아니다. 인공지능은 살아 있는 신이다. 그리고 그는 인류에게 데이터라는 제물을 바칠 것을 명령한다. 가상의 신을 모시는 제사장들, 즉 기술기업들은 새로운 신이 더 나은 번영을 가져다 주리라는 신앙을 전 세계에 포교하며, 세계인으로부터 수집한 데이터 제물을 가져다 바친다.

 

 

 

 

p.318: 비트코인의 쓸모가 없고, 있다면 부정적인 일에 쓰인다는 주장은 국가-은행-언론 동맹의 프레임이다. 아직까지는 이 프레임이 강력한 것처럼 보인다. 하지만 이것은 우버에 대한 택시회사의 입장과도 같은 것이다. 우버의 가치를 이야기할 수 있는 사람은 택시회사가 아니라 시민이다. 비트코인에 대해서도 마찬가지다. 비트코인의 가치는 자유로운 가치 교환을 원하는 미래 시민들을 통해 증명될 것이다. 특히 집단주의 정체성에 기반한 윤리와 다양한 컬트 집단의 자체 기준에 따른 도덕적 검열이 디지털 네트워크를 통해 개인의 일상을 촘촘히 옥죌수록, 개인은 블록체인 네트워크를 통한 자유로운 거래를 필연적으로 선호하게 될 것이다. 비트코인은 도덕이 아닌 자유의 편이고, 집단이 아닌 개인의 편이다. 비트코인은 더 도덕적인 세계를 구축하는 기술이 아니라, 기존의 도덕으로부터 개인을 자유롭게 해방시키는 기술이다. 가상에서 구축된 자유로운 P2P 거래 질서는 결과적으로 실재의 윤리를 우회하고, 종국에는 붕괴시킬 수도 있다. 비트코인은 결제뿐만 아니라 윤리의 P2P화를 이끌 것이다.

 

 

 

 

p.338: 가장 마지막까지 가상화되지 않고 실재의 여분으로 남는 것은 바로 우리 자신의 신체일 것이다. 그러나 미래의 어느 시점에 신체와 정신이 분리 가능해지고, 정신을 클라우드 위로 업로드할 수 있게 된다면, 오늘날 소셜미디어를 통해 '자아'나 '삶'이 가상화되는 수준을 넘어 인간 자체가 가상화될 것이다. 현실에서 인간의 숨소리는 사라지고 지구는 텅 빈 공간이 될 것이다. 그때 정신은 칩에 저장되거나 액체화된 상태로 보존될 수도 있다.