'China, a happy surveillance state' created by Midjourney |
역사적으로 중요한 전환점에는 항상 긍정적 결과와 부정적 결과가 동시에 존재해 왔습니다. 중세 유럽을 휩쓴 흑사병은 수많은 생명을 앗아갔지만, 그로 인해 봉건제가 무너지고 노동자들의 삶이 개선되는 긍정적인 변화도 가져왔습니다. 이는 고통과 혼란 속에서 새로운 기회와 진보가 발생할 수 있음을 보여주는 예라 할 수 있습니다. 오늘날 우리는 또 다른 전환점에 서 있는 것 같습니다. 기술의 급속한 발전이 우리의 삶을 편리하게 만들어주기도 하지만, 동시에 다양한 리스크도 발생하고 있습니다.
스마트폰, 인터넷, 인공지능 등의 발달로 우리는 언제 어디서나 정보를 얻고 소통할 수 있게 되었습니다. 의료 기술의 발전은 건강과 생명을 지키는 데 큰 역할을 하고 있으며, 자율주행차와 같은 혁신적인 기술 역시 교통사고를 줄이고 이동의 효율성을 높여주고 있습니다. 이러한 기술적 진보는 우리의 생활 수준을 높이고, 다양한 기회를 제공하며, 경제 성장도 촉진하고 있습니다.
그러나 기술의 발전에는 어두운 면도 존재합니다. 특히, 감시 기술의 발전은 국가와 기업이 개인을 더욱 쉽게 감시할 수 있게 만들었습니다. CCTV, 스마트폰 위치 추적, 인터넷 사용 기록, 운동 기록, 건강 기록 등은 우리의 일거수일투족을 기록하고 분석할 수 있게 되었습니다. 이러한 감시 시스템은 『행복한 감시국가 중국』에서 알 수 있는 것처럼 범죄 예방과 국가 안전을 이유로 정당화되지만, 개인의 프라이버시와 자유를 심각하게 침해할 위험도 내포하고 있습니다. 중국의 ‘사회 신용 시스템’은 감시의 극단적인 예로, 개인의 행동을 감시하고 점수화하여 사회적 혜택과 제재를 가하는 시스템입니다. 이는 개인의 자유를 제한하고, 자율적인 사고와 행동을 억압하는 결과를 초래할 수도 있습니다.
기술 시대의 리스크는 단순히 감시에 그치지 않습니다. 인공지능과 자동화의 발전은 노동시장도 급격하게 변화시키고 있습니다. 많은 직업이 자동화로 인해 사라질 위기에 처해 있으며, 이는 실업과 사회적 불안을 초래하고도 있습니다. 또한, 빅데이터와 알고리즘의 오남용은 차별과 불공정을 강화할 수 있으며, 개인정보 유출과 같은 사이버 보안 문제도 심각하게 발생할 수 있습니다.
이렇듯 다양한 리스크에도 불구하고, 우리는 기술의 발전을 퇴보시킬 수는 없습니다. 그렇다면, 어떻게 해야 기술의 이점을 누리면서도 그 부작용을 최소화할 수 있을까? 특정 집단에게 이러한 권력이 집중되지 않도록 하려면 어떻게 해야 할까? 감시 기술의 남용을 막기위해 기술 개발과 운영 과정에서 윤리적 기준을 세우고, 감시 시스템의 투명성을 보장하며, 그 사용을 감시할 독립적인 기구도 필요합니다. 노동 시장의 변화를 대비하기 위해서도 새로운 기술에 적응할 수 있도록 지속적인 교육과 훈련을 제공하고, 실업자와 취약계층을 위한 지원도 강화해야 하는 등 고민해야 하는 문제들이 많습니다.
이번 호는 지혜의 나무 ‘기술 시대’를 주제로 선정된 책을 소개해 드리는 마지막 시간입니다. 이미 도래한 기술 시대에 생활의 편리함과 새로운 리스크가 공존함을 인식하고, 책을 통해 역사 속의 교훈을 바탕으로 시대의 도전을 현명하게 대응할 지혜를 찾아보는 시간이 되시기 바랍니다. |
이번 호에는 김홍중 서울대 사회학과 교수의 선정도서와 추천사가 함께 실립니다. |
📚 『행복한 감시국가 중국』 가지나티 가이/다카구치 고타, 박성민 옮김, 눌와, 2021 |
행복과 자유의 맞교환 ‘만인의 만인에 의한 감시', 그의 말을 빌리면 ‘하이퍼 판옵티콘'이다. 기술이 진보해 감시가 사회 곳곳에 이뤄진 결과, 엘리트층이나 정부도 포함해 사람들이 모두 ‘감시되는 대상'으로서 평등해지고, 그 평등성을 향한 일반적인 신뢰 때문에 사회의 동일성과 안정성이 유지되는 상황을 상상하면 될 것이다. 결국, 개인을 차별하고 배제하지 않는 데 가치를 두는 자유주의 가치관에만 충실한다면, ‘모든 사회 구성원이 평등하게 감시당해서 평등한 사회'의 상징으로서 ‘하이퍼 판옵티콘'을 받아들일 수밖에 없지 않을까 하는 것이 오야가 제기한 문제다. (p106) |
도처에 카메라가 있다. 사람들의 얼굴은 전자적으로 식별되고 있다. 저들이 무엇을 구매하는지, 어디로 이동하는지 샅샅이 기록된다. 정치권력은 개인 생활의 구석구석을, 데이터를 통해 들여다본다. 숨 막히는 디지털 판옵티콘이 현실화된 듯하다. 그런데 놀랍게도 사람들은 이 시스템을 안전하고 편리하다고 생각하며, 그 권력에 저항하지도 않는다. SF 소설의 이야기가 아니라 21세기 중국의 현실이다. 한국 사회는 어떠한가? 우리는 감시 테크놀로지를 통제할 수 있는 민주적 역량과 의지를 갖추고 있는가? 아니면 우리도 ‘행복한 감시 사회’를 욕망하는가? - 김홍중 교수 |
📚 『디지털 팩토리』 모리츠 알텐리트, 권오성/오민규 옮김, 숨쉬는책공장, 2023 |
대여용 인간 크라우드워크 플랫폼에 의해 가능해진 속도, 규모 및 알고리즘 구성은 크라우드워크를 질적으로 변화시켰다. ....(중략).... " 몇 주 동안 수백 명의 재택근무자를 고용하는 대신 한 사람이 이틀 동안 6만 명의 노동자를 고용할 수 있다. 이러한 속도와 규모의 양적 변화는 인간 노동자를 컴퓨팅으로 이해하게 하는 질적 변화를 가져온다." (p180) |
구글 시계를 차고 조깅을 하는 사람은 여가를 즐기는 것처럼 보인다. 하지만 사실 그는 지금 노동을 하고 있다. 심박수, 체온, 걸음 수 등 다양한 생체 데이터가 플랫폼 기업으로 전송되면, 기업은 데이터를 가공하여 예측 상품을 만들어 판다. 디지털 자본주의 시대에 공장은 사회 전체로 확산되었다. 모든 데이터 생산 활동은 이제 디지털 팩토리에서 행해지는 노동이 되었다. 기술은 우리를 노동에서 해방한 것이 아니라 여가도 노동으로 전환시켰다. 이것은 유토피아인가 아니면 디스토피아인가? - 김홍중 교수 |
📚 『그린 리바이어던』 마크 코켈버그, 김동환/최영호 옮김, 씨아이알, 2023 |
녹색 '대심문관'의 유혹은 AI와 다른 기술로 사람들을 위해 지구를 통치하고, 종과 지구의 생태계를 구하며, 인류를 구하고 그리고 어쩌면 사람들을 더 행복하게 만드는 것이다. 이 주장은 다음과 같다. 빅데이터를 이용하여 조작하고 통제하는 것은 분명 사람들의 자유를 빼앗는 일이지만, 이는 사람들의 생존을 보장하고 그들의 웰빙을 증진시킬 것이다. 만약 사람들에게 저마다 자유롭게 결정하도록 내버려둔다면, 그들은 약한 인간의 본성과 무지 때문에 잘못된 선택을 하게 된다. 차라리 인계받는 것이 더 낫다. 사람들은 전과 다름없이 무지하고 지능형 장치에 속아 넘어가겠지만, 그들의 웰빙은 유지되고, 인류와 그들이 의존하고 있는 생태계는 살아남을 것이다. (p58)
|
우리 시대 최상급의 문제는 생태 파국과 인공 지능이다. 두 문제는 대부분 서로 분리된 채 논의되고 사고 된다. 하지만 벨기에의 기술 철학자 마크 코켈버그는 양자의 연결 가능성에 주목한다. 인공 지능을 활용하여 기후 문제를 크게 개선할 수 있다는 것이다. 이 경우 문제는 우리가 개인적 프라이버시를 디지털 권력에 일정 정도 양도해야 한다는 점이다. 생존을 위해 인공지능 리바이어던을 만들고 거기 투항해야 할까? 아니면 생태 위기에도 불구하고 여전히 개인의 자유를 최우선으로 고수해야 할까? 혹은 두 극단 사이에 타협책이 존재할 수 있을까? - 김홍중 교수 |
📚 『포스트휴머니즘의 세 흐름』 이동신, 갈무리, 2022 |
포스트휴머니즘이란 인간중심주의를 경계하며 지금 단계의 비인간 존재들이 내리는 가장 절실한 지시를 따르는 것이라고 제안해본다. 개념이라고 하기에는 너무도 단순하지만, 지시의 다양함과 복잡함을 생각한다면 실천하기는 쉽지 않을 듯싶다. 내 생각에 지금 단계에서 가장 절실한 지시는 공조이고, 그렇기에 헤일스, 울프, 하먼이라는 세 흐름을 한데 엮고자 하였다. 물론 여기서 멈춰서는 안 된다는 전제도 담고 있다. 지금 이 단계가 얼마나 오래갈지는 모르겠다. 물론 인간중심주의가 지배했던 이전 단계가 길었던 만큼, 금방 끝나지는 않을 것이다. (p272)
|
사람들은 흔히 포스트 휴머니즘과 트랜스 휴머니즘을 혼동한다. 후자는 컴퓨터나 기계에 뇌를 업로드해서 초인적 존재로 진화할 수 있다는 생각이다. 포스트 휴머니즘은 이와 달리, 편협했던 근대적 인간 개념을 비판하고, 인간과 비인간의 새로운 공존을 고뇌하는 사상적 흐름이다. 이 책은 포스트 휴머니즘을 대표하는 캐리 울프, 그레이엄 하먼, 캐서린 헤일스에 대한 친절하고 상세한 소개를 제공한다. 21세기 사상에 대해 균형 잡힌 이해를 원하는 사람에게 일독을 권한다. - 김홍중 교수 |
📺 장 보드리야르 「시뮬라시옹」 I 고전5미닛 (6:55)
|
결국 우리는 다양한 가상세계에 갇혀 그것을 진짜로 착각하며 살아가게 될 것이다. 현대는 곧 시뮬라시옹 그 자체! |
*유료 협찬 콘텐츠로 2024.7.31까지 시청 가능합니다. |
📺기술 시대의 리스크: 이 시대 가장 큰 위협은 과연 무엇인가? I 지관서가 (15:46)
|
리스크의 실체는 무엇인가? 이 싸움에서 이기는 것은 가능한가? |
📺 첨단 기술의 시대! 축복이 재앙이 되지 않게 막으려면 I 세바시 강연 (16:02)
|
AI에 대해 어느 정도의 공정함을 요구할 것인지에 대해 함께 논의해야 합니다. |
📺 인공지능의 두 얼굴, 천사일까? 악마일까? I JTBC 차이나는 클라스 (17:21)
|
인문 큐레이션 레터 《위클리 지관》 어떠셨나요? 당신의 소중한 의견은 저희를 춤추게 합니다🤸♂️ |
|
역사적으로 중요한 전환점에는 항상 긍정적 결과와 부정적 결과가 동시에 존재해 왔습니다. 중세 유럽을 휩쓴 흑사병은 수많은 생명을 앗아갔지만, 그로 인해 봉건제가 무너지고 노동자들의 삶이 개선되는 긍정적인 변화도 가져왔습니다. 이는 고통과 혼란 속에서 새로운 기회와 진보가 발생할 수 있음을 보여주는 예라 할 수 있습니다. 오늘날 우리는 또 다른 전환점에 서 있는 것 같습니다. 기술의 급속한 발전이 우리의 삶을 편리하게 만들어주기도 하지만, 동시에 다양한 리스크도 발생하고 있습니다.
스마트폰, 인터넷, 인공지능 등의 발달로 우리는 언제 어디서나 정보를 얻고 소통할 수 있게 되었습니다. 의료 기술의 발전은 건강과 생명을 지키는 데 큰 역할을 하고 있으며, 자율주행차와 같은 혁신적인 기술 역시 교통사고를 줄이고 이동의 효율성을 높여주고 있습니다. 이러한 기술적 진보는 우리의 생활 수준을 높이고, 다양한 기회를 제공하며, 경제 성장도 촉진하고 있습니다.
그러나 기술의 발전에는 어두운 면도 존재합니다. 특히, 감시 기술의 발전은 국가와 기업이 개인을 더욱 쉽게 감시할 수 있게 만들었습니다. CCTV, 스마트폰 위치 추적, 인터넷 사용 기록, 운동 기록, 건강 기록 등은 우리의 일거수일투족을 기록하고 분석할 수 있게 되었습니다. 이러한 감시 시스템은 『행복한 감시국가 중국』에서 알 수 있는 것처럼 범죄 예방과 국가 안전을 이유로 정당화되지만, 개인의 프라이버시와 자유를 심각하게 침해할 위험도 내포하고 있습니다. 중국의 ‘사회 신용 시스템’은 감시의 극단적인 예로, 개인의 행동을 감시하고 점수화하여 사회적 혜택과 제재를 가하는 시스템입니다. 이는 개인의 자유를 제한하고, 자율적인 사고와 행동을 억압하는 결과를 초래할 수도 있습니다.
기술 시대의 리스크는 단순히 감시에 그치지 않습니다. 인공지능과 자동화의 발전은 노동시장도 급격하게 변화시키고 있습니다. 많은 직업이 자동화로 인해 사라질 위기에 처해 있으며, 이는 실업과 사회적 불안을 초래하고도 있습니다. 또한, 빅데이터와 알고리즘의 오남용은 차별과 불공정을 강화할 수 있으며, 개인정보 유출과 같은 사이버 보안 문제도 심각하게 발생할 수 있습니다.
이렇듯 다양한 리스크에도 불구하고, 우리는 기술의 발전을 퇴보시킬 수는 없습니다. 그렇다면, 어떻게 해야 기술의 이점을 누리면서도 그 부작용을 최소화할 수 있을까? 특정 집단에게 이러한 권력이 집중되지 않도록 하려면 어떻게 해야 할까? 감시 기술의 남용을 막기위해 기술 개발과 운영 과정에서 윤리적 기준을 세우고, 감시 시스템의 투명성을 보장하며, 그 사용을 감시할 독립적인 기구도 필요합니다. 노동 시장의 변화를 대비하기 위해서도 새로운 기술에 적응할 수 있도록 지속적인 교육과 훈련을 제공하고, 실업자와 취약계층을 위한 지원도 강화해야 하는 등 고민해야 하는 문제들이 많습니다.
이번 호는 지혜의 나무 ‘기술 시대’를 주제로 선정된 책을 소개해 드리는 마지막 시간입니다. 이미 도래한 기술 시대에 생활의 편리함과 새로운 리스크가 공존함을 인식하고, 책을 통해 역사 속의 교훈을 바탕으로 시대의 도전을 현명하게 대응할 지혜를 찾아보는 시간이 되시기 바랍니다.
행복과 자유의 맞교환
‘만인의 만인에 의한 감시', 그의 말을 빌리면 ‘하이퍼 판옵티콘'이다. 기술이 진보해 감시가 사회 곳곳에 이뤄진 결과, 엘리트층이나 정부도 포함해 사람들이 모두 ‘감시되는 대상'으로서 평등해지고, 그 평등성을 향한 일반적인 신뢰 때문에 사회의 동일성과 안정성이 유지되는 상황을 상상하면 될 것이다. 결국, 개인을 차별하고 배제하지 않는 데 가치를 두는 자유주의 가치관에만 충실한다면, ‘모든 사회 구성원이 평등하게 감시당해서 평등한 사회'의 상징으로서 ‘하이퍼 판옵티콘'을 받아들일 수밖에 없지 않을까 하는 것이 오야가 제기한 문제다. (p106)
도처에 카메라가 있다. 사람들의 얼굴은 전자적으로 식별되고 있다. 저들이 무엇을 구매하는지, 어디로 이동하는지 샅샅이 기록된다. 정치권력은 개인 생활의 구석구석을, 데이터를 통해 들여다본다. 숨 막히는 디지털 판옵티콘이 현실화된 듯하다. 그런데 놀랍게도 사람들은 이 시스템을 안전하고 편리하다고 생각하며, 그 권력에 저항하지도 않는다. SF 소설의 이야기가 아니라 21세기 중국의 현실이다. 한국 사회는 어떠한가? 우리는 감시 테크놀로지를 통제할 수 있는 민주적 역량과 의지를 갖추고 있는가? 아니면 우리도 ‘행복한 감시 사회’를 욕망하는가? - 김홍중 교수
대여용 인간
크라우드워크 플랫폼에 의해 가능해진 속도, 규모 및 알고리즘 구성은 크라우드워크를 질적으로 변화시켰다. ....(중략).... " 몇 주 동안 수백 명의 재택근무자를 고용하는 대신 한 사람이 이틀 동안 6만 명의 노동자를 고용할 수 있다. 이러한 속도와 규모의 양적 변화는 인간 노동자를 컴퓨팅으로 이해하게 하는 질적 변화를 가져온다." (p180)
녹색 '대심문관'의 유혹은 AI와 다른 기술로 사람들을 위해 지구를 통치하고, 종과 지구의 생태계를 구하며, 인류를 구하고 그리고 어쩌면 사람들을 더 행복하게 만드는 것이다. 이 주장은 다음과 같다. 빅데이터를 이용하여 조작하고 통제하는 것은 분명 사람들의 자유를 빼앗는 일이지만, 이는 사람들의 생존을 보장하고 그들의 웰빙을 증진시킬 것이다. 만약 사람들에게 저마다 자유롭게 결정하도록 내버려둔다면, 그들은 약한 인간의 본성과 무지 때문에 잘못된 선택을 하게 된다. 차라리 인계받는 것이 더 낫다. 사람들은 전과 다름없이 무지하고 지능형 장치에 속아 넘어가겠지만, 그들의 웰빙은 유지되고, 인류와 그들이 의존하고 있는 생태계는 살아남을 것이다. (p58)
우리 시대 최상급의 문제는 생태 파국과 인공 지능이다. 두 문제는 대부분 서로 분리된 채 논의되고 사고 된다. 하지만 벨기에의 기술 철학자 마크 코켈버그는 양자의 연결 가능성에 주목한다. 인공 지능을 활용하여 기후 문제를 크게 개선할 수 있다는 것이다. 이 경우 문제는 우리가 개인적 프라이버시를 디지털 권력에 일정 정도 양도해야 한다는 점이다. 생존을 위해 인공지능 리바이어던을 만들고 거기 투항해야 할까? 아니면 생태 위기에도 불구하고 여전히 개인의 자유를 최우선으로 고수해야 할까? 혹은 두 극단 사이에 타협책이 존재할 수 있을까? - 김홍중 교수
포스트휴머니즘이란 인간중심주의를 경계하며 지금 단계의 비인간 존재들이 내리는 가장 절실한 지시를 따르는 것이라고 제안해본다. 개념이라고 하기에는 너무도 단순하지만, 지시의 다양함과 복잡함을 생각한다면 실천하기는 쉽지 않을 듯싶다. 내 생각에 지금 단계에서 가장 절실한 지시는 공조이고, 그렇기에 헤일스, 울프, 하먼이라는 세 흐름을 한데 엮고자 하였다. 물론 여기서 멈춰서는 안 된다는 전제도 담고 있다. 지금 이 단계가 얼마나 오래갈지는 모르겠다. 물론 인간중심주의가 지배했던 이전 단계가 길었던 만큼, 금방 끝나지는 않을 것이다. (p272)
사람들은 흔히 포스트 휴머니즘과 트랜스 휴머니즘을 혼동한다. 후자는 컴퓨터나 기계에 뇌를 업로드해서 초인적 존재로 진화할 수 있다는 생각이다. 포스트 휴머니즘은 이와 달리, 편협했던 근대적 인간 개념을 비판하고, 인간과 비인간의 새로운 공존을 고뇌하는 사상적 흐름이다. 이 책은 포스트 휴머니즘을 대표하는 캐리 울프, 그레이엄 하먼, 캐서린 헤일스에 대한 친절하고 상세한 소개를 제공한다. 21세기 사상에 대해 균형 잡힌 이해를 원하는 사람에게 일독을 권한다. - 김홍중 교수
*유료 협찬 콘텐츠로 2024.7.31까지 시청 가능합니다.
AI에 대해 어느 정도의 공정함을 요구할 것인지에 대해 함께 논의해야 합니다.