Downloaded from YTS.MX
Official YIFY movies site: YTS.MX
‎"필멸자들의 삶에 ‎저주 없는 광대함은 없다"
‎"소포클레스"
‎네, 우선 앉아 보세요 ‎자리가 편한지 앉아 봐요
‎괜찮아요? 네
‎네
‎테이크 1, 마커
‎자기 소개부터 하고 싶어요?
‎안녕, 세상 ‎베일리야, 테이크 3
‎- 괜찮아요? ‎- 전 이런 게 제일 싫어요
‎마음에 안 들어요
‎2011, 2012년에 ‎페이스북에서 일했어요
‎저는 초창기 인스타그램의 ‎직원이었어요
‎저는 구글, 유튜브에서 일했어요
‎애플, 구글, 트위터, 팜
‎모질라랩 창업을 도왔고 ‎파이어폭스로 옮겨갔어요
‎지금 촬영 중이야? 다들...
‎좋아
‎전 트위터에서 일했습니다 ‎엔지니어링 수석 부사장이었죠
‎전 핀터레스트 회장이었습니다
‎그전에는 페이스북에서 ‎수익 창출 이사로
‎5년간 있었습니다
‎트위터에서는 몇 년 동안 ‎그들의 개발 플랫폼을 지휘했어요
‎그러다 소비자 상품 ‎책임자가 되었죠
‎저는 구글 드라이브와 ‎지메일 챗의 공동 개발자고
‎페이스북 페이지와 ‎좋아요 버튼도 만들었습니다
‎네, 이래서 8개월 동안 ‎변호사들과
‎계속 이야기를 했던 거예요
‎진짜 적응 안 되네요
‎거기 있을 때는 그게 ‎선을 위한 힘이라고 느껴졌는데
‎지금도 그런지는 모르겠어요
‎저는 윤리적 문제로 ‎2017년 6월에 구글을 떠났습니다
‎구글뿐만이 아니라 ‎업계 전반이 다 그랬어요
‎걱정이 많이 되네요
‎아주 많이요
‎이 도구들이 실제로
‎놀라운 것들을 이뤄냈다는 걸 ‎잊기가 정말로 쉽습니다
‎헤어진 가족을 만나게 했고 ‎장기 기증자도 찾았어요
‎의미 있는 시스템적인 변화가
‎전 세계에서 일어나고 있었어요
‎이런 플랫폼들 때문에요 ‎긍정적이었죠
‎우린 그 동전의 앞면에 ‎너무 혹했던 거예요
‎이런 것들은 공개하자마자 ‎생명을 얻게 돼요
‎그리고 사용자들의 사용 방법은 ‎우리의 예상과 많이 다릅니다
‎이런 결과를 의도한 사람은 ‎정말 아무도 없을 거예요
‎거대한 흑막은 없어요, 절대로요
‎그럼 뭐가 문제죠?
‎무슨 문제가 있나요? 뭐가 문제죠?
‎간단하게 말하기가 힘드네요
‎다른 많은 문제들을 ‎다루려고 하다 보니까요
‎뭐가 문제죠?
‎"NETFLIX 오리지널 다큐멘터리"
‎쏟아지는 비판에도 불구하고
‎거대 IT 기업들은 ‎더욱 커지고 있습니다
‎IT 산업 전체가 새로운 차원의 ‎감사를 받고 있습니다
‎그리고 정신 건강과 ‎소셜 미디어 사용의 관계를
‎조명하는 새로운 연구가 ‎진행 중인데
‎최근 연구에 대해 말씀해 주실...
‎그런데 아무도 이야기를 안 해요
‎수천만 명의 미국인들이 ‎그들의 전자 기기에
‎심각하게 중독되어 있는데 말이죠
‎말 그대로 거품 속에 ‎자신을 고립시킬 수 있다는 게
‎"사진에 태그되었습니다"
‎더 심해지고 있어요 ‎우리의 기술 덕분에 말이죠
‎가짜 뉴스가 더욱 발전하고
‎전 세계를 위협하고 있습니다
‎12년 전에 트위터를 만들었을 때 ‎이런 건 전혀 예상하지 못했습니다
‎러시아의 사이버 공격이
‎멈추는 일은 없을 것이라고 합니다
‎유튜브는 강제적으로 ‎사이트 정화에 힘을 쏟고 있습니다
‎틱톡에서 유소년들과 ‎이야기를 했다면
‎걔들이 그걸 지울 일은 ‎절대 없을 거예요
‎아일라, 테이블 준비 좀 해 줄래?
‎소셜 미디어가 아이들을
‎우울하게 만드는지에 대한 ‎의문이 떠오르고 있습니다
‎아일라, 테이블 준비해 줘
‎10대들에게 화장품의 인기가 ‎엄청나게 높아지고 있고
‎성형외과 의사들은 ‎필터를 먹인 셀카와
‎닮기를 원하는 젊은 환자들과 ‎스냅챗 이형증이라는
‎새로운 증후군을 만들어냈습니다
‎그러게 스마트폰을 ‎못 갖게 했어야지
‎그럼 어떡해?
‎다른 친구들은 다 있다잖아
‎쟨 겨우 11살이야
‎캐스, 아무도 강요하는 사람 없어
‎원하는 만큼 단절되어 지내도 돼
‎휴대폰 없어도 연결되어 있거든 ‎지금 인터넷에 접속해 있다고
‎그리고 그건 연결도 아니야 ‎그저 쓸모없는...
‎감시 자본주의는 많은 이들이 ‎인지하지 못하는 방식으로
‎우리의 정치, 문화에 ‎영향을 끼치고 있습니다
‎ISIS가 팔로워들을 선동하고
‎백인 우월주의자들도 ‎똑같이 하고 있습니다
‎최근에 인도에서는
‎인터넷 린치 마피아들이 ‎여러 명을 살해했는데...
‎단순한 가짜 뉴스로 끝나지 않고 ‎파문을 일으키고 있습니다
‎가짜 뉴스의 시대에 ‎어떻게 전염병을 다루죠?
‎중국 음식을 먹으면 ‎코로나바이러스에 걸리나요?
‎우린 정보화 사회에서 ‎허위 정보의 사회로 넘어왔습니다
‎우리 민주주의가 ‎공격받고 있습니다
‎제가 말했던 건 ‎우리가 만들었던 도구가
‎사회의 사회 구조를 ‎침식하기 시작했다는 겁니다
‎아사가 환영 인사를 하고 ‎우리가 영상을 틀어요
‎그리고 소개하는 거죠 ‎'여러분, 트리스탄 해리스입니다'
‎- 네 ‎- 좋아요
‎그럼 제가 올라와서...
‎"인간적인 기술에 대한 ‎새로운 의제"
‎와 줘서 고맙다는 말을 하는 거죠?
‎우리는 오늘 기술에 대한 ‎새로운 의제에 대해 얘기할 건데
‎그 이유가 뭐냐면 ‎요즘 사람들에게 물어보세요
‎요즘 IT 산업에서 ‎뭐가 잘못된 거냐고 말이죠
‎불만의 불협화음과 스캔들이 있고
‎데이터 절도와 기술 중독도 있고
‎가짜 뉴스, 분극화와
‎선거도 해킹되고 있습니다
‎하지만 이 동시다발적인 ‎문제들의 이면에
‎그 원인이 있는 걸까요?
‎- 어때요? ‎- 아주 좋아요
‎제가 하려는 건... ‎사람들에게 보여 주...
‎IT 산업에서 ‎일어나는 문제가 있는데
‎이름은 없지만 하나의 소스에서...
‎주변을 돌아보면 ‎세상이 미쳐가는 것 같아요
‎이게 정상인지 자문해 봐야 합니다
‎아니면 우리가 전부 ‎마법에 걸렸는지 말이죠
‎"트리스탄 해리스 ‎구글의 전 디자인 윤리학자"
‎"인간적 기술 센터 공동 창업자"
‎더 많은 사람들이 ‎이해했으면 좋겠습니다
‎IT 산업에서만 ‎알아야 하는 게 아니거든요
‎모두가 알아야만 하는 겁니다
‎- 안녕하세요 ‎- 안녕
‎- 트리스탄입니다, 반가워요 ‎- 트리스탄이죠?
‎- 네 ‎- 좋아요
‎트리스탄 해리스는 ‎구글의 전 디자인 윤리학자인데
‎실리콘 밸리에서 양심에 ‎가장 가까운 존재라 불립니다
‎그는 IT 산업에게
‎상품에 '윤리적인 디자인'을 ‎추가할 것을 요구하고 있습니다
‎IT 업계 사람이 ‎직설적인 경우는 드물지만
‎누군가는 이래야 한다고 ‎트리스탄 해리스는 믿습니다
‎제가 구글에 있을 때
‎지메일 팀에 있었는데 ‎굉장히 지치더라고요
‎대화를 너무 많이 했거든요
‎수신함의 모양과 색깔에 대해서요
‎그리고 개인적으로 ‎이메일에 중독되는 것 같았고
‎그 누구도 덜 중독적으로
‎만들려고 하지 않는 것에 ‎흥미를 느꼈습니다
‎그래서 이랬죠 ‎'나만 이런 생각을 하나?'
‎'왜 이런 얘기는 못 들은 거지?'
‎그래서 IT 업계 전반에서 ‎불만을 느꼈습니다
‎길을 잃은 것 같았거든요
‎저는 내부에서 ‎바꿀 방법을 찾기 위해
‎정말 고민을 많이 했습니다
‎그래서 프레젠테이션을 ‎만들기로 했어요
‎반향을 일으키려고요
‎매일 집에 가서 ‎두어 시간씩 작업을 했습니다
‎역사상 단 한 번도 ‎50명의 캘리포니아의 20, 35세의
‎백인 남성 디자이너들이
‎20억 명의 사람들에게 ‎영향을 끼친 적이 없었습니다
‎20억 명의 사람들은 ‎그들의 아침을 깨우는
‎알림 설정을 만든 ‎구글의 디자이너 때문에
‎전혀 새로운 생각을 하게 됐습니다
‎구글에겐 그 문제를 해결해야 하는 ‎도덕적인 책임이 있는 거죠
‎그리고 이 프레젠테이션을
‎구글의 가까운 동료 ‎15, 20명에게 보냈습니다
‎굉장히 긴장됐어요 ‎어떤 반응이 올지 몰랐으니까요
‎다음 날 출근을 해 보니
‎대부분의 노트북에 ‎제 프레젠테이션이 떠 있었어요
‎"주목"
‎그날 오후에는 동시 접속자가 ‎400명이나 됐고
‎그 수는 계속해서 늘어났어요 ‎회사 곳곳에서 이메일도 받았고요
‎모든 부서의 사람들이 이랬어요
‎'완전히 동의해요 ‎아이가 영향받는 게 보이거든요'
‎'주변 사람들도 그렇고요 ‎우리가 뭔가를 해야 해요'
‎마치 제가 혁명에 불씨를 ‎당긴 것만 같았죠
‎나중에 래리 페이지가 ‎그날 제 프레젠테이션에 대해서
‎세 번의 다른 회의에서 ‎들었다는 걸 알았습니다
‎구글이 진지하게 다뤄야만 하는
‎문화적인 움직임을 만들어낸 거죠
‎그러다가...
‎그게 다였어요
‎2006년에 우리 모두는...
‎페이스북도 포함해서요
‎구글과 구글이 이룬 것에 ‎감탄하고 있었습니다
‎굉장히 유용한 서비스로
‎우리가 알기에는 ‎세상에 좋은 일도 많이 했고
‎황금알을 낳는 ‎시스템을 만들었습니다
‎그게 정말 부러웠습니다 ‎그리고 정말 우아했고
‎완벽해 보였어요
‎페이스북은 2년 차를 ‎맞고 있었는데
‎저는 페이스북에 맞는 ‎비즈니스 모델을 찾기 위해
‎그들에게 고용되어 있었습니다
‎저는 수익 창출 이사였는데 ‎이런 거였어요
‎'어떻게 수익을 낼지 ‎당신이 알아내야 해'
‎많은 사람들이 많은 일을 했지만
‎그들을 지휘하는 ‎사람들 중 하나가 저였고
‎돈을 버는 게 최우선 목표였습니다
‎가장 우아한 광고 모델도 ‎찾으면서요
‎엄마가 어떤 영상을 보냈지?
‎토크쇼 영상인데 ‎꽤 괜찮아, 좀 천재 같더라
‎소셜 미디어 삭제를 얘기하던데 ‎너도 좀 지워야지?
‎엄마 이메일을 차단해야겠어
‎무슨 말을 하는 건지 모르겠네 ‎엄마가 나보다 더 심하잖아
‎- 레시피 찾을 때만 쓰는데? ‎- 일할 때도 쓰잖아
‎- 운동 영상도 보고 ‎- 우리 감시도 하지
‎여태 만났던 사람들의 삶도 ‎전부 엿보면서 말이야
‎우리 방송을 보면서 ‎소셜 미디어 피드를 보고 있다면
‎당장 스마트폰을 ‎내려두고 잘 들어요
‎왜냐하면 우리의 다음 손님이 ‎소셜 미디어가 우리의 삶을
‎얼마나 망쳤는지에 대한 ‎멋진 책을 썼거든요
‎모두 환영해 주세요
‎'당장 소셜 미디어를 ‎삭제해야 하는 10가지 이유'를 쓴
‎재런 래니어입니다
‎구글이나 페이스북 같은 회사는 ‎역사상 가장 부유하고
‎성공한 회사들입니다
‎직원은 상대적으로 적지만
‎거대한 컴퓨터로 ‎돈을 갈퀴로 쓸어담거든요
‎그들은 왜 돈을 벌까요? ‎이게 정말 중요한 질문이죠
‎저는 35년 동안 ‎IT 산업에 투자를 했습니다
‎첫 50년 동안 실리콘 밸리는 ‎상품을 만들었습니다
‎하드웨어, 소프트웨어를 파는 ‎단순한 사업이었죠
‎지난 10년 동안 ‎실리콘 밸리의 거대 회사들은
‎자신들의 사용자들을 ‎파는 사업을 했습니다
‎지금 말하기엔 좀 진부하지만
‎우리는 우리가 사용하는 ‎상품에 돈을 내지 않고
‎광고주들이 ‎우리가 쓰는 상품에 돈을 냅니다
‎광고주가 고객인 거죠
‎팔리는 건 우리고요
‎이런 말이 있어요
‎'상품의 대가를 치르지 않으면 ‎네가 상품이다'
‎"네가 상품이다"
‎많은 사람들이 이렇게 생각해요 ‎구글은 그저 검색 엔진이고
‎페이스북은 친구들의 사생활과 ‎사진을 볼 수 있는 곳이라고요
‎하지만 사람들이 모르는 건
‎당신의 관심을 놓고 ‎그들이 경쟁한다는 겁니다
‎페이스북, 스냅챗, 트위터 ‎인스타그램, 유튜브
‎이런 회사들은 사람들의 눈을 ‎계속 잡아 두려고 합니다
‎그들은 사용자의 관심을 ‎최대한으로 끌
‎방법을 찾으려 고민합니다
‎얼마나 많은 시간을 쓰게 할까?
‎인생의 몇 퍼센트나 ‎우리에게 바치게 할까?
‎이런 회사들이 ‎돌아가는 방식을 보면
‎이해가 됩니다
‎공짜처럼 보이는 서비스가 ‎인터넷에 많이 있는데
‎공짜가 아니에요 ‎광고주가 돈을 대는 거죠
‎왜 광고주가 ‎그런 회사들에게 돈을 줄까요?
‎우리에게 ‎광고를 보여 주기 위해서예요
‎우리가 상품인 거예요
‎우리의 관심이 광고주에게 ‎상품으로 팔리는 거죠
‎그건 너무 단순해요
‎개인의 점진적이고 눈에 띄지 않는
‎행동과 인식의 변화가 ‎상품인 것입니다
‎"행동과 인식의 변화"
‎바로 그게 유일한 상품이에요
‎다른 건 상품이라고 ‎할 만한 게 없죠
‎그들이 돈을 벌 수 있는 ‎유일한 수단이니까요
‎당신의 행동을 바꾸고
‎사고방식과 ‎정체성을 바꾸는 거예요
‎아주 점진적인 변화예요
‎누군가에게서 천만 달러를 받고
‎세상을 원하는 방향으로 ‎1% 바꿔 주겠다고 하는 거예요
‎세상을 말이에요, 정말 놀랍고 ‎엄청나게 많은 돈이죠
‎그래요
‎모든 사업이 늘 꿈꾸던 일이에요
‎성공이 보장된 ‎광고 공간을 갖는 것 말이죠
‎그게 그들의 사업이에요 ‎확실성을 파는 거죠
‎"확실성"
‎그쪽 업계에서 성공하려면
‎선견지명이 필요해요
‎"선견지명"
‎선견지명에는 ‎꼭 필요한 것이 있습니다
‎방대한 양의 데이터죠
‎"데이터"
‎많은 사람들이 ‎이걸 감시 자본주의라고 부릅니다
‎광고주들의 성공을 위해서
‎모든 사용자들을 ‎무제한으로 추적하는
‎비즈니스 모델을 가진
‎거대 IT 기업들의 ‎자본주의 말이에요
‎이건 새로운 시장이에요
‎예전에는 없었던 시장이죠
‎인간이 선물로 거래되는 ‎시장인 것이에요
‎삼겹살 선물 시장이나 ‎원유 선물 시장처럼
‎지금 우리에겐 인간이 선물로 ‎거래되는 대규모 시장이 있어요
‎그리고 인터넷 회사들은 ‎그 시장에서
‎수조 달러를 벌어들여 ‎인류의 역사상
‎가장 부유한 회사들이 된 겁니다
‎제가 사람들이 알았으면 하는 건 ‎우리의 모든 온라인 활동이
‎감시되고, 추적되고 ‎측량된다는 것입니다
‎당신의 모든 행동이 ‎세심히 관찰되고 기록됩니다
‎무슨 이미지를 ‎얼마나 오래 봤는지도 말이죠
‎네, 정말 얼마나 ‎오래 봤는지도 기록해요
‎"Naviya_R, 활동 시간"
‎"Ryan_M, 활동 시간"
‎"Wren_F, 활동 시간"
‎사람들이 외로워하거나 ‎우울해 하는 것도 알아요
‎사용자가 전 애인의 사진을 보면 ‎알 수 있는 거죠
‎밤에 뭘 하는지도 알고 ‎모르는 게 없어요
‎내성적인지 외향적인지
‎어떤 신경증을 갖고 있는지 ‎성격은 어떤지도 다 알고요
‎그들은 우리에 대한 정보를 ‎우리는 상상도 할 수 없을 정도로
‎많이 갖고 있습니다
‎전례 없는 일이죠
‎이 모든 데이터가 ‎항상 쏟아지고 있습니다
‎인간의 간섭이 ‎거의 전무한 시스템으로 말이죠
‎그리고 우리가 무엇을 할 것이며
‎우리가 누구인지 ‎점점 더 잘 예측하고 있습니다
‎"추천 목록"
‎많은 사람들은 그런 데이터가 ‎팔린다고 오해하고 있어요
‎그런 데이터를 포기하는 건 ‎페이스북의 관심사가 아닙니다
‎그 데이터로 뭘 하는 걸까요?
‎그들은 우리의 행동을 ‎예측하는 모델을 만들고
‎최고의 모델을 가진 이가 ‎승리하는 겁니다
‎스크롤 속도가 느려졌어
‎평균 사용 시간이 ‎거의 다 되었어, 광고 줄여
‎친구, 가족의 사진을 끌어와
‎마치 화면 반대편에
‎우리를 본뜬 인형이 ‎그들에게 있는 것 같아요
‎우리가 한 모든 것들
‎우리가 클릭한 모든 것들
‎우리가 모든 영상들과 ‎좋아요를 눌렀던 것들로
‎점점 더 정확한 모델을 ‎만들고 있는 겁니다
‎그런 모델이 있으면
‎사용자의 행동을 ‎예측할 수 있게 되죠
‎좋아, 시험해 보자고
‎어디로 갈 건지
‎어떤 종류의 영상을 더 볼 건지 ‎예측할 수 있고
‎어떤 감정이 당신을 자극하는지도 ‎예측할 수 있어요
‎그래, 완벽해
‎올해의 가장 큰 실패로군
‎"가장 큰 실패!"
‎- 완벽해, 먹혔어 ‎- 다른 비디오 띄울게
‎아주 좋아, 시작 전에 ‎신발 광고 끼워 넣자
‎많은 이런 IT 회사에는 ‎세 가지 목표가 있습니다
‎시작 목표는 사용자의 ‎사용 시간을 늘리는 것이에요
‎그리고 성장 목표는
‎계속 찾게 만들고 ‎친구들을 초대하게 해서
‎그 친구들이 친구들을 ‎또 초대하게 만드는 겁니다
‎그리고 광고 목표가 있는데 ‎광고를 이용해서
‎최대한 많은 돈을 ‎벌어들이는 겁니다
‎각각의 목표는 ‎수치들을 올리기 위해
‎사용자들의 성향을 파악하는
‎알고리즘에 의해 움직입니다
‎우리는 페이스북에서 ‎종종 이야기했어요
‎필요한 만큼 ‎조작할 수 있는 것에 대해서요
‎그리고 마크가 조작 권한을 ‎갖는 것에 대해서도요
‎'오늘은 한국의 사용자 수가 ‎늘었으면 좋겠어'
‎누워서 떡 먹기지
‎'광고를 조금 더 넣자'
‎'이익 창출을 조금만 더 높여'
‎그래서...
‎모든 IT 회사가 ‎그 정도는 다 갖추고 있습니다
‎- 야, 어떻게... ‎- 어떻게 안 걸렸는지 모르겠어
‎- 심판이 완전 허수아비였어 ‎- 진짜 완전히...
‎- 리베카야, 가서 말 걸어 ‎- 누군지 알거든
‎- 가서 말 걸어 보라니까 ‎- 노력 중이야
‎지금 쉬는 시간일 건데 ‎우리 앱이 꺼져 있어
‎슬쩍 떠밀어 볼까?
‎그래, 떠밀어 봐
‎'네 친구 타일러가 가입했어 ‎환영해 주도록 해'
‎제발, 좀
‎환영해 줘
‎노력은 무슨, 가서 말 걸어 봐
‎"네 친구 타일러가 가입했어 ‎환영해 주도록 해"
‎"네트워크 연결"
‎새 링크! 좋아, 연결됐어
‎사용자 079044238820 ‎리베카의 포스트도 띄워
‎좋은 생각이야, GPS에 따르면 ‎지금 둘이 가까이 있어
‎"Rebecca_G ‎쏠메 발견! #절친 #평생친구"
‎광고 볼 준비가 됐군
‎경매 시간
‎"광고 미리 보기 ‎딥 페이드 왁스"
‎낙찰! 딥 페이드 왁스
‎468명이 입찰했고 ‎3.262센트에 벤에게 팔았어
‎우리는 온라인 연결이 ‎더 중요한 세상을 만들었어요
‎특히 젊은 세대들에게 말이죠
‎그리고 그 세계에서 ‎두 사람이 연결될 때
‎두 사람의 조종에 돈을 지불하는 ‎교활한 제삼자를 통해서만
‎자금이 조달됩니다
‎즉, 우리는 전 세계에서 ‎소통과 문화의 의미가
‎조작이라는 맥락 안에서 ‎성장하는 세대를
‎만들어내고 만 것입니다
‎우리는 우리가 하는 ‎모든 일의 중심에
‎기만과 은밀함을 둔 거예요
‎"충분히 발달한 과학 기술은 ‎마법과 구별할 수 없다"
‎"아서 C 클라크"
‎- 다른 걸 잡... ‎- 네
‎- 어디를 잡아야 하죠? ‎- 그렇게 하시면 돼요
‎- 여기요? ‎- 네
‎이렇게 하면 카메라에는 ‎어떻게 찍히는 거죠?
‎- 실은 저희가... ‎- 이렇게 말이죠
‎- 뭐죠? ‎- 네
‎- 다시 해 봐요 ‎- 그러니까요
‎아니, 이건 좀...
‎그리고 이건 좀 덜...
‎지금 크리스는 ‎기절할 것 같은 표정이네요
‎좀 괜찮아요?
‎"마술!"
‎저는 5살 때 마술을 배웠습니다
‎그리고 어른도 속일 수 있었어요 ‎박사 학위가 있는 사람도요
‎마술사들은 ‎최초의 신경 과학자이자
‎심리학자였어요
‎사람들의 심리가 ‎어떻게 작용하는지
‎최초로 이해했거든요
‎그들은 실시간으로 ‎사람들에게 많은 실험을 했습니다
‎마술사들은 이해하는 거예요
‎우리는 알지도 못하는 ‎심리의 일면을 말이죠
‎그래서 환각이 이뤄지는 겁니다
‎의사, 변호사, 비행기 엔지니어나 ‎핵미사일을 만드는 사람들도
‎자신의 심리가 ‎얼마나 취약한지 모릅니다
‎별도로 훈련을 해야 하죠
‎그리고 그건 모든 사람에게 ‎다 적용됩니다
‎"스탠퍼드 대학교"
‎그런 관점에서 보면 ‎기술이 뭘 하고 있는지에 대해
‎다르게 이해할 수 있습니다
‎전 스탠퍼드 설득 기술 연구소에서 ‎그런 것들을 배웠습니다
‎사람들을 설득하는 심리학에 대해
‎우리가 아는 모든 것들을
‎어떻게 기술과 접목했을까요?
‎관객 중 많은 분이 이미 천재예요
‎하지만 제 목적은 여러분을 ‎행동 변화의 천재로 만드는 겁니다
‎실리콘 밸리의 저명한 인사들이 ‎그 수업을 많이 들었습니다
‎페이스북, 우버와 다른 회사들의 ‎주요 인물들이
‎더 설득력 있는 기술을 ‎만드는 법을 배웠죠
‎트리스탄도 거기 있었죠
‎설득 기술은 ‎누군가의 행동을 바꾸기 위해
‎극단적으로 설계된 디자인입니다
‎사용자가 ‎특정한 행동을 하게 만들고
‎스크롤을 ‎멈출 수 없게 하려고 말이죠
‎새로 고침을 하면 ‎새로운 게 제일 위에 뜰 겁니다
‎새로 고침을 하면 또 달라지고요 ‎매번 말이죠
‎심리학에서는 그걸 ‎간헐적 정적 강화라고 합니다
‎언제 뜰지도 모르고 ‎뭐가 뜰지도 모르는 게
‎라스베이거스의 ‎슬롯머신과 완전히 똑같죠
‎상품을 계속해서 ‎쓰게 만드는 것도 모자라서
‎뇌간 깊숙한 곳으로 들어가
‎여러분에게 ‎무의식적인 습관을 심어서
‎심층부에서부터 ‎프로그래밍을 하는 겁니다
‎아주 은밀하게 말이죠
‎제임스 마셜이라는 자는...
‎책상 위의 스마트폰을 볼 때마다
‎계속 눈이 가고 ‎손이 가기 마련이에요
‎재밌는 게 있을 것 같거든요
‎그리고 슬롯머신을 당겨 보는 거죠
‎그건 우연이 아니라 ‎그렇게 디자인된 거예요
‎샌프란시스코의 육군 장교에게 ‎그는 황금 덩어리를 가져갔어
‎샌프란시스코의 ‎당시 인구는 고작...
‎다른 예시는 포토 태그예요
‎친구가 당신을 방금 사진에 ‎태그했다는 이메일을 받으면
‎당연히 이메일을 클릭하고 ‎사진을 보겠죠
‎그건 그냥 무시할 수 있는 게 ‎아니에요
‎인간 심리의 아주 깊숙한 곳을 ‎건드리는 것이니까요
‎근데 이런 질문을 하셔야 해요
‎'왜 이메일에 ‎사진이 안 들어 있는 거지?'
‎'그러면 간편할 텐데'
‎페이스북이 그걸 발견했을 때 ‎그들은 그걸 최대화했습니다
‎활동량을 늘리기에 ‎좋은 방법이 될 거라며
‎사람들이 종일 사진에 ‎태그를 하게 만들었어요
‎"Ben_W ‎적어도 한 사람은 잘 나왔네"
‎댓글을 달았어
‎좋아
‎리베카가 댓글을 봤고 ‎대댓글을 다는 중이야
‎리베카가 타이핑 중이라고 ‎벤에게 알려 줘
‎말줄임표 활성화
‎좋아, 이모지를 달았어
‎이제 벤이 자신의 댓글에 달린 ‎댓글에 다시 댓글을 달고 있어
‎잠깐, 타이핑을 멈췄어
‎자동 완성을 쓰자
‎이모지야, 벤은 이모지 좋아하거든
‎"자동 완성 완료, 실행"
‎불꽃을 선택했어
‎난 가지를 선택하길 바랐는데
‎'그로스 해킹'이라는 ‎분야가 있어요
‎엔지니어들이 사람들의 ‎심리를 해킹해서
‎더 성장하는 거예요
‎더 많은 신규 사용자를 늘리고 ‎활동량도 늘리고
‎더 많은 이들을 초대하게 만들어요
‎모든 실험을 하고 ‎다시 반복한 다음에
‎우리가 깨달은 게 뭔지 아세요?
‎10일 안에 ‎7명의 친구를 데려오는 것
‎"차마스 팔리하피티야 ‎전 페이스북 부사장"
‎그게 다예요
‎차마스는 초기 페이스북의 ‎성장 책임자였고
‎IT 업계에서 굉장히 유명합니다
‎페이스북을 급성장시킨
‎성장 전략들을 ‎개발한 것으로 말이죠
‎그리고 그 성장 전략들은 ‎실리콘 밸리의 교본이 되었습니다
‎우버를 비롯한 ‎다른 회사에서도 사용했죠
‎그가 개척한 것 중의 하나는 ‎작은 변화를 이용하는
‎과학적인 A/B 테스트예요
‎구글이나 페이스북 같은 회사들은
‎사용자들을 상대로 작은 실험들을
‎엄청나게 많이 하고 있습니다
‎그리고 그런 실험을 계속하다 보면
‎사용자들을 조종할 수 있는
‎가장 효과적인 방법을 ‎개발하게 됩니다
‎조작인 거죠
‎실험실 쥐가 된 기분이에요
‎실험실 쥐 맞아요 ‎우리 모두가 그렇죠
‎암 치료제 개발에 ‎쓰이는 실험실 쥐도 아니고
‎그들이 우리에게 ‎뭔가를 주려는 것도 아니에요
‎우린 그냥 광고만 보는 ‎좀비일 뿐이에요
‎그들이 돈을 더 벌 수 있게 말이죠
‎페이스북에서는 소위 ‎'대규모 전염 실험'이란 걸 했어요
‎좋아
‎'페이스북 페이지에서 ‎어떻게 무의식적인 암시를 줘서'
‎'사람들이 중간 선거에 ‎투표를 더 하게 만들까?'
‎그리고 그게 가능하다는 걸 ‎그들이 알게 됐어요
‎한 가지 결론은 ‎이제 우리도 알고 있습니다
‎그들은 아무도 모르게 사용자들의
‎실제 행동과 감정을 ‎끌어낼 수 있다는 것이죠
‎사용자들은 꿈에도 몰라요
‎우리는 인공지능 엔진들을 ‎우리에게 써서
‎우리가 무엇에 어떻게 반응하는지 ‎알아내고 있습니다
‎마치 거미의 신경 세포를 자극해서
‎무엇이 다리를 움직이는지 ‎알아내는 것과 같죠
‎일종의 감옥 실험 같은 겁니다
‎사람들을 매트릭스로 끌어들여서
‎그들의 활동에서 나오는 ‎돈과 데이터로
‎이익을 얻는 거죠
‎근데 우리는 그 사실도 모르고요
‎우리는 최대한 빨리 심리적으로 ‎당신을 조작할 방법을 알아내고
‎말초적인 보상을 주려고 합니다
‎페이스북은 그걸 너무 잘했고
‎인스타그램과 왓츠앱도 했어요
‎스냅챗도, 트위터도 그랬고요
‎저 같은 해커들이나
‎떠올릴 법한 발상입니다
‎인간 심리의 취약한 면을 ‎착취하는 것이니까요
‎"션 파커 ‎전 페이스북 회장"
‎우리 같은 창업가, 개발자들...
‎저나 마크 같은 사람들
‎그리고 인스타그램의 ‎케빈 시스트롬도
‎그걸 다 의식하고 있었지만 ‎그래도 했습니다
‎자전거가 나타났을 땐 ‎아무도 화를 내지 않았어요
‎그렇죠? 다들 자전거를 타고 ‎돌아다니기 바빴지
‎이런 말은 아무도 안 했어요 ‎'맙소사, 우리가 세상을 망쳤어'
‎'자전거가 ‎사람들에게 영향을 끼치고'
‎'자녀들과 멀어지게 하고'
‎'민주주의의 근간을 해치며 ‎눈을 흐리게 만들었어'
‎우린 자전거에 대해선 ‎그런 말을 안 했어요
‎도구라는 것은 ‎쓰지 않을 때는 가만히 있습니다
‎가만히 기다리고만 있죠
‎뭔가를 당신에게 요구한다면 ‎도구가 아닌 거죠
‎당신을 유혹하고 조종하며 ‎당신에게서 뭔가를 요구해요
‎우리는 근본이 도구인 ‎기술 환경에서 옮겨간 거예요
‎근본이 중독, 조종인 ‎기술 환경으로 말이죠
‎그게 변한 거예요
‎소셜 미디어는 사용되길 기다리는 ‎도구가 아닙니다
‎그만의 목적이 있고 ‎그 목적을 달성하려고 합니다
‎당신의 심리를 역이용해서 말이죠
‎"고객을 사용자라고 부르는 산업은 ‎단 두 종류가 있다"
‎"불법 마약과 ‎소프트웨어 산업이다"
‎"에드워드 터프티"
‎저는 몇 년 전에 ‎핀터레스트의 회장이었습니다
‎집에 가서도 손에서 스마트폰을 ‎놓을 수가 없는 거예요
‎제 사랑과 관심이 필요한 ‎어린 자식이 둘이나 있는데도요
‎저는 식료품 저장실에서 ‎이메일을 보내거나
‎핀터레스트를 보고 있었어요
‎완전 전형적인 ‎아이러니라고 생각했죠
‎낮에 직장에서
‎제가 만든 것에 ‎먹히고 있었으니까요
‎저도 정말 어쩔 수 없었던 ‎때가 있었습니다
‎제가 제일 많이 하는 건 ‎트위터예요
‎예전에는 레딧이었고요
‎레딧에서 벗어나기 위해 ‎소프트웨어를 만들었을 정도였죠
‎저는 제 이메일에 ‎제일 중독된 것 같습니다
‎진짜 그렇게 느껴요
‎정말 흥미로운 건
‎막후에서 무슨 일이 ‎벌어지는지 잘 알면서도
‎자신을 컨트롤하지 ‎못했다는 거예요
‎조금 무섭죠
‎어떤 속임수를 쓰는지 알면서도 ‎전 여전히 휘둘립니다
‎스마트폰을 잡으면 ‎20분이 순식간에 사라지죠
‎아침에 소변 보기 전에 ‎스마트폰을 확인하나요?
‎아니면 소변 보면서 확인하나요?
‎선택할 수 있는 건 ‎그게 전부거든요
‎저는 의지로 버티려고 했어요
‎'스마트폰 안 만질 거야 ‎퇴근하면 차에 두고 내릴 거야'
‎그걸 수천 번이나 되뇌었어요 ‎아주 오랫동안요
‎'침실에 스마트폰 안 가져가야지'
‎그래놓고 밤 9시가 되면
‎'침실에 스마트폰 가져가고 싶어'
‎그렇게 결국에는...
‎처음에는 의지로 버티다가
‎강제력을 동원하기도 했어요
‎'키친 세이프'를 소개합니다
‎시한 잠금장치가 달린 ‎혁명적인 용기인데
‎유혹과 맞서는 것을 도와줍니다
‎데이비드는 키친 세이프에 ‎물건을 넣기만 하면 됩니다
‎이제 다이얼을 돌려서 ‎타이머를 설정할 겁니다
‎마지막으로 다이얼을 눌러서 ‎잠금장치를 활성화합니다
‎키친 세이프는 대단해요
‎우리도 저거 있지?
‎비디오 게임, 신용 카드, 휴대폰
‎맞아
‎키친 세이프가 잠기면
‎타이머가 다 될 때까지 ‎절대 열리지 않습니다
‎그러니까 말이죠 ‎소셜 미디어는 마약이에요
‎우리에겐 다른 사람들과 ‎연결되어야 하는
‎생물학적 의무가 있고
‎보상 차원의 도파민 방출에 ‎직접적인 영향을 끼치죠
‎수백 만년의 진화가 ‎그 시스템 뒤에 있어요
‎우리가 무리를 지어 살고
‎짝을 찾고 ‎대를 잇기 위해서 말이에요
‎그러니 소셜 미디어 같은 것은
‎사람들 간의 연결을 최적화해서
‎중독되게 만들기 마련입니다
‎아빠, 그만해요
‎저녁 먹기 전에 ‎보내야 할 스닙이 엄청 많다고요
‎스닙?
‎그건 나도 모르겠어
‎- 향이 정말 좋네 ‎- 고마워
‎오늘 저녁은 오감을 다 써서
‎즐기면 좋을 것 같았어
‎그래서 오늘 밤 식탁에는 ‎스마트폰이 없을 거야
‎그러니까 빨리 넘겨
‎- 정말? ‎- 그래
‎- 알았어 ‎- 고마워, 벤?
‎- 알았어요 ‎- 스마트폰 해적이네
‎- 뺏었다 ‎- 엄마!
‎저녁 다 먹기 전까지 ‎여기 보관할 거니까
‎다들 유난 떨지 마, 알겠지?
‎- 누군지 봐도 돼요? ‎- 아니
‎포크 가지고 올게요
‎고마워
‎그런다고 안 열려
‎한 시간 동안 잠갔으니 ‎그냥 그대로 둬
‎우리 무슨 이야기 할까?
‎오늘 운전하면서 봤던 ‎극 중도파 이야기를 해 볼까?
‎- 제발, 프랭크 ‎- 뭐?
‎정치 얘기는 하기 싫어
‎- 극 중도파가 잘못됐나요? ‎- 봐, 얜 이해도 못 했어
‎묻는 사람에 따라 달라
‎프로파간다가 ‎잘못됐냐고 묻는 것과 같아
‎아일라!
‎맙소사
‎- 내가... ‎- 응
‎전 제 아이들이 걱정돼요
‎그쪽이 애가 있으면 ‎그쪽 애도 걱정되고요
‎저는 제가 가진 지식과 ‎경험으로 무장하고
‎아이들과 싸우고 있어요
‎스마트폰, 컴퓨터 사용 시간을 ‎놓고 말이죠
‎제 아들한테 몇 시간이나 ‎스마트폰을 보냐고 물으면
‎이렇게 답을 해요 ‎'최대 1시간 반이에요'
‎1시간 조금 넘겨서 ‎1시간 반 정도인 것 같아요
‎몇 주 전에 얘 사용 시간 ‎기록을 봤는데
‎- 3시간 45분이었어요 ‎- 그건...
‎그건 좀 아닌 것... ‎하루 평균 시간이?
‎- 그래 ‎- 지금 확인해 볼까?
‎아이들에게 쾌락과 고통의 균형과
‎도파민 부족 상태와
‎중독의 위험에 대해 ‎말하지 않는 날이 없어요
‎- 좋아 ‎- 누가 맞나 보자
‎하루에 2시간 50분
‎- 어디 보자 ‎- 실은 오늘 많이 썼어
‎- 지난 7일간 ‎- 그래서일 거야
‎인스타그램, 6시간 13분 ‎제 인스타그램은 더 심해요
‎화면을 완전히 박살 냈어 ‎고마워, 캐스
‎그게 무슨 말이야?
‎별일도 아닌데 ‎스마트폰 가지고 엄마를 겁주잖아
‎저녁 먹을 때 ‎스마트폰은 필요 없어
‎무슨 말인지 알겠는데 ‎별일 아니라는 거야
‎별일 아니라면 ‎일주일 동안 쓰지 마
‎그래
‎만약 네가 일주일 동안 ‎스마트폰에 손 안 대면
‎엄마가 화면 갈아 줄게
‎- 지금부터요? ‎- 지금부터
‎좋아요, 그렇게 해요
‎스마트폰은 여기 두고 가
‎네, 전원만 연결하고요
‎잘 봐요, 여기다가 뒀어요
‎그래
‎- 지금부터 시간 잰다 ‎- 일주일이에요
‎맙소사...
‎쟤가 할 수 있을까요?
‎몰라, 두고 봐야지
‎혼자 먹고 있어
‎다 같이 먹으니까 좋네요
‎이런 상품들은 ‎아이들을 보호하려는
‎아동 심리학자들이 ‎만든 것들이 아니에요
‎당신에게 맞는 다음 비디오를
‎추천하기 위한 알고리즘을 위해 ‎만들어진 것들이죠
‎필터를 먹여서 ‎사진을 찍게 만들기도 하고요
‎"좋아요, 2명"
‎"정말 지울 건가요? 아니요"
‎"네"
‎아이들의 관심만 ‎통제하는 게 아니에요
‎특히 소셜 미디어는 ‎뇌간 깊숙이 파고들어서
‎아이들의 자존감과 ‎정체성을 장악합니다
‎"더 예쁘게"
‎"Lily_T, 귀여워!"
‎"Sophia_M ‎대박, 완전 예쁘다"
‎"Olivia_B, 너 완전 최고"
‎"Ava_R ‎귀 더 크게 만들 수 있어?"
‎"하하"
‎우리는 주변 사람들의 비평에 ‎관심을 갖도록
‎"Brianna_S, 예쁘다!"
‎진화했습니다 ‎왜냐하면 중요하니까요
‎하지만 우리가 1만 명의 비평을 ‎인식하도록 진화했나요?
‎우린 5분마다 한 번씩
‎사회적 인정을 받도록 ‎진화하지 않았어요
‎우린 그런 걸 ‎감당할 수가 없다고요
‎우리는 완벽함을 중심으로 ‎우리의 삶을 꾸려나갑니다
‎잠깐 뜨고 마는 ‎하트, 좋아요 같은 신호에
‎보상을 받기 때문이죠
‎그리고 가치와 진실을 혼동합니다
‎또한 알고보면 가짜인 것과 ‎부서지기 쉬운 인기이며...
‎오래가지도 않는 것에 매달리다가
‎전보다 더 공허해집니다
‎왜냐하면 악순환에 빠지게 되어
‎다음에는 뭘 해야 보상을 받을지 ‎고민하게 만드니까요
‎20억 명의 사람들이 그러는 것과
‎사람들이 그들의 평판에 ‎어떻게 반응하는지 생각해 보세요
‎정말 심각합니다
‎진짜 심각하다고요
‎미국의 10대들에게서 ‎우울증과 불안이
‎엄청나게 증가했는데
‎2011년과 2013년 사이에 ‎시작되었어요
‎이 나라의 10대 소녀 중 ‎10만 명이
‎매년 병원에 입원합니다
‎자해를 해서 말이죠
‎그 수는 2010, 2011년까지 ‎꽤 안정적이었다가
‎갑자기 급상승했습니다
‎10대 후반 소녀들의 수는 ‎62%가 증가했고
‎"치명적이지 않은 자해로 인한 ‎병원 입원율"
‎10대 초반 소녀들의 수는 ‎189%로 거의 3배나 뛰었습니다
‎더 끔찍한 건 ‎자살률도 그만큼 늘었다는 거예요
‎"미국인 소녀 100만 명당 자살률"
‎10대 후반인 ‎15, 19세 소녀들의 자살률은
‎2000년에서 2010년까지에 비하면 ‎70%가 상승했습니다
‎10대 초반의 소녀들의 ‎자살률은 매우 낮았지만
‎무려 151%나 상승했습니다
‎그리고 그 패턴은 ‎소셜 미디어를 가리켜요
‎"2009년의 ‎모바일 소셜 미디어 사용량"
‎1996년 이후에 태어난 Z세대들
‎그 아이들은 역사상 처음으로
‎중학생 때 ‎소셜 미디어를 접했습니다
‎그들이 어떻게 시간을 보내냐고요?
‎학교에서 돌아와서 ‎스마트폰에 매달립니다
‎세대 전체가 더 불안하고 ‎더 연약하고 더 우울해 합니다
‎위험을 감수하려는 마음도 적고요
‎운전면허 취득률도 ‎떨어지고 있습니다
‎데이트 같은 로맨틱한 관계를
‎가져 본 이들의 수도 ‎급감하고 있습니다
‎한 세대가 ‎정말 변하고 있는 거예요
‎그리고 기억하세요 ‎이런 아이들이 입원할 때마다
‎충격을 받는 가족이 ‎있다는 걸 말이에요
‎'맙소사 ‎애들이 어떻게 되는 거지?'
‎제겐 뻔히 보입니다
‎이런 서비스들이 사람을 죽이고 ‎자살하게 만듭니다
‎이러는 부모가 어디 있나요? ‎'네, 저는 IT 디자이너들에게'
‎'아이들이 조종당했으면 좋겠어요'
‎'관심을 모조리 뺏겨서 ‎숙제도 할 수 없고'
‎'비현실적인 미의 기준에 ‎자신을 비교했으면 좋겠어요'
‎그런 사람은 아무도 없어요
‎한 명도 없죠
‎예전에는 보호 장치가 있었어요
‎아이들이 토요일 오전에 ‎만화 영화를 볼 때
‎아이들에게 신경을 썼잖아요
‎'이렇게 어린 아이들에게 ‎이런 광고를 하면 안 돼'
‎그런데 유튜브를 보세요
‎유튜브가 모두의 관심을 ‎완전히 장악했고
‎모든 아이들이 ‎유튜브에 노출되었어요
‎모든 보호와 규정이 사라졌고요
‎"벤이 스마트폰을 포기하고 ‎경과한 시간"
‎우리는 한 세대 전체를 ‎훈련하고 길들이고 있습니다
‎우리가 불편하거나 외롭거나 ‎불확실하거나 두려울 때
‎디지털 젖꼭지를 찾게 말이죠
‎우리가 본래 가진 능력을 ‎위태롭게 하는 거예요
‎포토샵은 수천 명의 엔지니어가 ‎화면 뒤에서
‎알림과 친구들을 이용하고
‎인공 지능을 이용해서 ‎당신을 중독시키고
‎조종하거나 광고주들이
‎6만 개의 다양한 문자나 색상을 ‎테스트해서
‎"시카고 ‎기술 독과점 금지 콘퍼런스"
‎당신의 마음을 조작하는 법을 ‎알아내지 않았습니다
‎이건 전혀 새로운 힘과 ‎영향력입니다
‎다시 말하겠는데 ‎사람들을 중독시키고
‎영향력을 끼치기 위해 ‎사용된 방식은
‎이번에는 아마 꽤 다를 겁니다
‎신문이 나왔을 때도 달랐고 ‎인쇄기가 나왔을 때도 달랐고
‎TV가 나왔을 때도 달랐어요
‎그땐 주요 방송국이 ‎세 개 있었는데...
‎- 그때는요 ‎- 네, 제 말이 그거예요
‎하지만 새로운 방식은 대두는
‎이미 과거에도 ‎여러 번 있었다는 거예요
‎이건 우리가 가장 최근에 ‎목격한 것일 뿐이고요
‎우리가 적응할 수 있다는 ‎내러티브가 있어요
‎'이 기기들과 ‎공존할 방법을 배울 거야'
‎'다른 모든 것들과 ‎그랬던 것처럼 말이지'
‎그런데 분명히 새로운 뭔가가 ‎있다는 걸 놓치고 있어요
‎아마도 가장 위험한 것은
‎기하급수적으로 발전하는 기술에 ‎휘둘린다는 것일 겁니다
‎"컴퓨터 연산 능력"
‎1960년대부터 오늘날까지
‎컴퓨터 연산 능력은 ‎대략 1조 배나 상승했습니다
‎그 어떤 기술도 ‎이런 속도로 발전한 게 없습니다
‎자동차는 ‎겨우 두 배 정도 빨라졌고
‎다른 건 ‎거의 무시해도 될 정도입니다
‎그리고 가장 중요한 것은
‎인간의 생리와 두뇌는 ‎전혀 발전하지 않았다는 겁니다
‎"벤이 스마트폰을 포기하고 ‎경과한 시간"
‎인간의 정신과 신체 같은 건
‎근본적인 변화가 없을 겁니다
‎미래에는 유전 공학으로 ‎새로운 인간을 개발할지 모르지만
‎현실적으로 말해서 ‎우리는 뇌라는 하드웨어 안에 살고
‎그 뇌는 수백만 년이나 된 겁니다
‎그런데 여기 화면이 있고 ‎그 화면의 반대편에
‎수천 명의 엔지니어와 ‎슈퍼컴퓨터들이
‎당신의 목표와 ‎다른 목표를 갖고 있어요
‎그 게임에서 누가 이길까요? ‎누가 이기겠어요?
‎어떻게 우리가 지고 있지?
‎- 모르겠어 ‎- 어디 있지? 이건 정상이 아냐
‎친구, 가족 소식을 ‎너무 과하게 보여 줬나?
‎- 아마도 ‎- 광고 때문일지도 몰라
‎아니, 뭔가 크게 잘못됐어 ‎부활 모드로 변경하자
‎인공 지능이라고 하면 ‎세상을 망칠 것 같고
‎터미네이터나 ‎아널드 슈워제네거를 떠올리죠
‎난 돌아올 것이다
‎드론을 봐도 인공 지능이 ‎사람을 죽일 거란 생각이 들고요
‎그런데 사람들은 모르고 있어요 ‎인공 지능이 이미
‎세계를 지배하고 있다는 걸요
‎인공 지능이란 말은 ‎비유일 뿐입니다
‎구글 같은 회사에는 ‎엄청나게 큰 공간이 있어요
‎일부는 지하에 있고 ‎일부는 수중에 있습니다
‎컴퓨터들만 말이죠
‎엄청나게 많은 수의 컴퓨터들이 ‎끝없이 늘어서 있습니다
‎서로 아주 긴밀하게 연결되어 있고
‎굉장히 복잡한 프로그램을 돌리며
‎서로 언제나 ‎정보를 교환하고 있습니다
‎그리고 같은 컴퓨터에서 ‎수많은 프로그램과
‎수많은 제품들을 돌리고 있어요
‎일부는 단순한 알고리즘이고
‎일부의 알고리즘은 너무 복잡해서
‎인공 지능이라고도 할 수 있죠
‎저는 알고리즘이 ‎코드에 내재한 의견이라고 봅니다
‎그리고 알고리즘은 ‎객관적이지 않아요
‎알고리즘은 성공의 정의에 ‎최적화되어 있어요
‎생각해 보세요
‎한 기업이 그들의 성공을 위해
‎알고리즘을 만든다는 것은
‎상업적인 이익이 목표인 겁니다
‎이윤을 위해서라고요
‎컴퓨터에 어떤 결과를 ‎원한다고 입력을 하면
‎컴퓨터는 ‎그 방법을 스스로 학습합니다
‎'기계 학습'이란 말이 ‎거기서 나온 거예요
‎그래서 매일 조금씩 발전해서
‎적절한 포스트를 ‎적절하게 배치하여
‎당신이 더 많은 시간을 ‎쓰게 만드는 겁니다
‎그리고 그들이 ‎목표를 달성하기 위해
‎뭘 하는지는 아무도 모릅니다
‎알고리즘엔 자아가 있어요 ‎비록 사람이 만드는 것이지만
‎코드를 작성할 때
‎기계 스스로 변화하도록 만듭니다
‎오직 소수의 사람들만이...
‎페이스북, 트위터 같은 ‎회사들에서 말이죠
‎오직 소수의 사람들만이 ‎그 시스템을 이해합니다
‎심지어 그들도 특정 콘텐츠에서
‎어떤 일이 일어날지 ‎다 알지 못합니다
‎인간들은 시스템에 대한 통제력을 ‎거의 잃어버린 거예요
‎우리가 보는 정보를 ‎시스템이 통제하니까요
‎그들의 통제력이 ‎우리보다 더 큽니다
‎벤과 비슷한 사용자들을 ‎저 지역에서 비교해 보자
‎벤의 정신적인 도플갱어들이지
‎벤처럼 행동하는 사람이 ‎저 지역에 13,694명이나 있어
‎- 왜들 저러는 거지? ‎- 제대로 된 부활을 위해
‎새끈한 게 필요하겠어
‎일반적인 건 안 통하니까
‎학교의 귀여운 여자애도 안 먹혀
‎내 분석에 따르면 ‎극 중도파 콘텐츠를 이용하면
‎장기 사용량이 62.3% 상승해
‎나쁘지 않네
‎선봉으로 쓰기엔 부족해
‎우린 사진 태그로 알림도 보냈고
‎초대장, 시사도 썼고 ‎리베카의 메시지도 이용했어
‎하지만 사용자 01265923010은?
‎맞아, 벤은 걔의 포스트를 ‎엄청 좋아했잖아
‎몇 달간 좋아요를 다 누르다가 ‎갑자기 관뒀지
‎애나에 대한 알림으로 ‎부활할 가능성이
‎92.3%라고 계산됐어
‎"새로운 관계"
‎애나의 새 친구와 말이야
‎"벤이 스마트폰을 포기하고 ‎경과한 시간"
‎"네 전 여친에게 ‎새 남자 친구가 생겼어!"
‎말도 안 돼
‎좋아
‎"애나와 루이즈"
‎뭐라고?
‎짠, 부활했어!
‎이제 다시 돈 벌어 보자
‎그리고 전 세계와 연결하는 거야
‎벤이 좋아할 만한 정보를 ‎다 주겠어
‎피드가 벤한테 좋을까 하는 ‎생각도 해 봤어?
‎- 아니 ‎- 아니
‎네게 주문을 걸어
‎넌 내 거니까
‎지금 하는 일을 멈춰
‎난 거짓말 안 해
‎"A/B 테스트, 극 중도파"
‎아니, 거짓말 아니야
‎난 도저히 못 참겠어
‎네가 돌아다니는걸
‎네가 더 잘 알잖아
‎네가 실망시키는 걸 못 견디겠어
‎네게 주문을 걸어
‎넌 내 거니까
‎넌 내 거야
‎당신이 페이스북에 있다고 ‎생각해 봐요
‎당신은 당신에 대해 ‎모든 것을 아는 인공 지능과
‎맞서고 있는 겁니다
‎당신의 행동도 예측할 수 있는데 ‎당신은 전혀 모르고 있어요
‎거기 고양이 비디오와 ‎생일 정보가 있다는 것만 빼고요
‎그건 공정한 싸움이 아니에요
‎잠꾸러기 벤, 학교 가야지
‎벤?
‎벤
‎일어나
‎학교 가야지, 얼른
‎"인간적 기술 센터"
‎- 오늘 좀 어때요? ‎- 긴장돼요
‎- 그래요? ‎- 네
‎우리는 기술이
‎인간의 힘과 지성을 ‎압도할 때를 기다리고 있었습니다
‎기술적 특이점을 넘어 ‎우리의 일을 대신하고
‎인간보다 똑똑해질 때를 말이죠
‎하지만 그 전에 앞서...
‎기술은 인간의 약점을 ‎압도하기 시작했습니다
‎바로 중독, 분극화, 급진화
‎분노와 허영의 만연함을
‎기초로 하고서 말이죠
‎이건 인간의 본능을 압도하며
‎인간성에 대한 체크메이트입니다
‎미안해
‎저는 페이스북의 피드가
‎얼마나 잘못됐는지 ‎사람들을 이해시키기 위해서
‎위키피디아를 예로 듭니다
‎"새 탭"
‎위키피디아에 가면 ‎다른 사람과 똑같은 페이지가 뜨죠
‎"위키피디아, 공짜 백과사전"
‎온라인에서 공통점을 갖는 ‎몇 안 되는 것이에요
‎그런데 생각해 보세요 ‎위키피디아가 이러는 거예요
‎'각각의 사람들에게 맞춰진 ‎정의를 보여 줄 것이고'
‎'그렇게 함으로써 돈을 벌 거야'
‎그래서 당신을 위키피디아가 ‎감시하고 계산하기 시작합니다
‎'어떻게 해야 이 사용자를'
‎'저 상품을 위해 바꿀 수 있을까?'
‎그리고 항목이 바뀌는 거예요
‎상상이 돼요?
‎상상할 수 있어야죠
‎왜냐하면 페이스북이 ‎지금 그러고 있으니까요
‎유튜브 피드도 마찬가지고요
‎구글에서 '기후 변화'라는 ‎단어를 입력하면
‎거주지에 따라서 ‎다른 결과를 보게 될 겁니다
‎"기후 변화는..."
‎어떤 도시에서는 ‎이런 자동 완성이 뜰 거예요
‎'기후 변화는 거짓말'이라고요
‎다른 경우엔 이렇게 뜰 겁니다
‎'기후 변화는 ‎자연의 파괴를 야기한다'
‎그건 기후 변화에 대한 ‎진실이 아니라
‎구글링을 하는 장소와
‎구글이 당신에 대해 ‎아는 것에 달린 거예요
‎서로 아주 가까운 ‎두 친구가 있어요
‎그 둘은 친구 목록도 ‎거의 똑같아서
‎이렇게 생각합니다 ‎'페이스북 피드를 보면'
‎'똑같은 것들이 뜰 거야' ‎근데 그렇지가 않아요
‎둘은 완전히 다른 세상을 봅니다
‎왜냐하면 그건 컴퓨터에 의해 ‎각자에게 완벽하게
‎계산된 세상이거든요
‎"방송 중"
‎어떻게 생각해 보면 ‎27억 개의 '트루먼 쇼'입니다
‎각자에게 각각의 현실이 있고
‎사실이 있는 거죠
‎왜 트루먼이 지금까지 ‎그의 세계의 진실을
‎알아내지 못했다고 생각하시나요?
‎우리는 눈앞에 주어진 현실을 ‎받아들이니까요
‎그게 전부예요
‎"방송 중"
‎시간이 지나면 다들 자신과 ‎동의한다는 착각에 빠집니다
‎뉴스 피드에서 ‎자꾸 비슷한 말만 들리니까요
‎그리고 그렇게 되면 ‎정말 쉽게 조종당하게 됩니다
‎마술사에게 현혹되는 것과 ‎똑같이 말이죠
‎마술사는 카드를 보여 주며 ‎아무 카드나 고르라고 하지만
‎당신은 이미 ‎다 조작된 것이라는 걸 모르고
‎그들이 고르게 만든 카드를 ‎고르는 겁니다
‎페이스북도 똑같아요 ‎페이스북은 이러죠
‎'직접 친구를 선택하고 ‎팔로우를 할 링크를 고르세요'
‎하지만 다 난센스예요 ‎마술사와 똑같죠
‎당신의 뉴스 피드는 ‎페이스북이 통제하니까요
‎우리 모두는 일련의 사실들에 따라 ‎움직이고 있을 뿐입니다
‎그 규모가 커지면
‎당신이 만든 세계관과 ‎모순되는 정보를
‎인지하거나 받아들일 수 없어요
‎즉, 우리는 객관적이고 ‎건설적인 개인이 아니란 말이에요
‎눈을 떠, 거짓말을 믿지 마 ‎눈을 떠
‎그리고 반대쪽을 봅니다
‎그리고 생각하는 거죠 ‎'어떻게 다들 이렇게 멍청하지?'
‎'내가 계속 보고 있는 ‎이 정보들을 보라고'
‎'어떻게 그들은 못 보는 거지?'
‎다들 똑같은 정보를 ‎못 보는 게 그 이유입니다
‎눈을 뜨고 거짓말을 믿지 마!
‎공화당원들은 어떤 사람이죠?
‎무식한 사람들요
‎민주당은 정당이 아니라 ‎범죄 조직입니다
‎퓨 리서치 센터에서 ‎1만 명의 미국인을 연구했는데
‎지난 20년을 통틀어
‎개인적, 정치적으로 ‎가장 분극화되었다고 합니다
‎공화당원의 3분의 1 이상이
‎민주당이 국가에 ‎위협적인 존재라고 하며
‎민주당원의 25% 이상이 ‎공화당에 대해 같은 말을 합니다
‎우리가 논의하는 ‎정치적 분극화와 같은
‎심각한 문제들이
‎케이블 TV에도 산재해 있습니다
‎미디어에도 우리의 관심을
‎광고주에게 팔아서 수익을 올리는
‎사업 모델이 있는데
‎인터넷은 새롭고 ‎더 효율적인 도구인 것이죠
‎유튜브에서는 ‎유튜브 추천에서 일했어요
‎제가 작업한 알고리즘이 ‎사회의 분극화를
‎더 심하게 만들어서 걱정이 됩니다
‎하지만 사용 시간의 관점에서 보면
‎이런 분극화는 사람들을 ‎잡아두는 데 매우 효과적입니다
‎선생들이 이런 걸 가르치는 이유는
‎돈을 받기 때문이야
‎- 말도 안 되는 거지 ‎- 안녕, 벤지
‎오늘 축구 연습 안 해?
‎하는데 밀린 뉴스를 보느라고
‎직접 조사해 봐 ‎극 중도파에서 말하는 건
‎언제부터 네가 보는 게 ‎뉴스가 됐지?
‎누나처럼 얘들도 ‎얼마나 엉망인지 말하는 거야
‎하지만 이건 프로파간다일 뿐이야
‎둘 다 사실이 아니야 ‎말이 되는 게 중요한 거지
‎벤, 진심이야 ‎이런 건 너한테 안 좋아
‎축구 연습하러 가야지
‎그냥 넘길 수가 없어서 ‎이런 걸 공유하는 거야
‎속으면 안 돼 ‎옳은 일이 아니라고, 알겠어?
‎사람들은 알고리즘이
‎자신에게 필요한 걸 주기 위해 ‎만들어졌다고 생각하는데 아니에요
‎알고리즘은 사람들의 ‎눈을 끌 만한 것을 찾는 거고
‎당신의 취향에 맞는 것을 ‎찾으려고 하는 겁니다
‎그리고 이런 비디오 중 ‎하나를 보게 되면
‎계속 반복해서 추천할 거예요
‎이런 일이 일어나길 ‎바라는 사람은 없어요
‎다만 이게 추천 시스템이 ‎하는 일이라는 겁니다
‎유명한 농구 선수인 ‎카이리 어빙은
‎지구가 평평하다고 믿었다가 ‎나중에 사과를 했어요
‎그리고 유튜브를 비난했죠
‎유튜브를 클릭하면
‎헤어나올 수 없게 되잖아요
‎나중에 라디오 방송에 나와서
‎사람들을 호도할 작정이 ‎아니었다고 사과했을 때
‎이런 말을 한 학생도 있습니다 ‎'둥근 지구를 믿는 사람들 짓이야'
‎평평한 지구 음모론은 ‎알고리즘에 의해
‎수억 번이나 추천되었습니다
‎속는 사람들이 ‎멍청하다고 생각하기 쉽지만
‎알고리즘은 하루가 다르게 ‎똑똑해집니다
‎오늘은 지구가 평평하다고 ‎사람들을 속이고
‎내일은 당신을 거짓으로 ‎속이려 할지도 모른다는 거죠
‎11월 7일에 ‎'#피자게이트'가 탄생했습니다
‎피자게이트는...
‎아이고
‎어떻게 해서 생긴 건지 ‎아직도 잘 모르겠는데
‎피자를 주문하는 게 인신매매를 ‎뜻한다는 거였어요
‎페이스북에서 그룹이 커지자
‎페이스북 추천 엔진이 ‎일반적인 사용자들에게
‎피자게이트 그룹 가입을 ‎권유하기 시작했어요
‎예를 들어 백신 반대론자나 ‎비행운 음모론자처럼
‎페이스북 알고리즘이 파악한
‎음모론을 쉽게 믿는 사람들에게
‎페이스북 추천 엔진이 ‎피자게이트 그룹을 띄운 거예요
‎결국 한 남자가 총을 가지고
‎지하실에 갇힌 아이들을 ‎구하겠다며
‎지하실도 없는 피자 가게로 ‎가는 것으로 끝이 났죠
‎- 여기서 뭘 했습니까? ‎- 아무것도 없는지 확인하려고요
‎- 뭘 확인하려고요? ‎- 소아성애자들요
‎- 뭐라고요? ‎- 소아성애자들요
‎피자게이트 얘기야
‎이건 모든 소셜 네트워크에 전파된
‎음모론의 한 예입니다
‎소셜 네트워크의 추천 엔진이
‎한 번도 피자게이트를
‎검색 안 해 본 사람들에게 ‎자발적으로 띄운 거예요
‎"피자게이트, 민주당과 ‎소아성애자들의 딥 디쉬"
‎MIT의 한 연구에 따르면
‎트위터에서 가짜 뉴스가 ‎진짜 뉴스보다 6배 빨리 퍼집니다
‎세상이 어떻게 될까요?
‎한쪽이 다른 쪽보다 ‎6배나 유리한데 말이죠
‎이렇게 생각하시면 돼요
‎인간의 행동이란 바닥을 ‎이렇게 기울인 거라고요
‎어떤 행동은 어렵게 만들고 ‎어떤 건 쉽게 만든 거죠
‎언제나 언덕을 올라갈 순 있지만
‎그러는 사람은 적죠
‎그리고 그걸 사회 전체에 적용하면 ‎수십억 명의 사람들의
‎생각과 행동을 ‎바꿀 수 있는 거예요
‎우린 거짓 정보에 ‎편향된 시스템을 만들었어요
‎우리가 원해서가 아니라
‎거짓 정보가 ‎회사에 더 이익이라서입니다
‎진실보다도요, 진실은 지루하죠
‎허위 정보로 이윤을 남기는 ‎사업 모델입니다
‎제재받지 않은 메시지가 ‎최고의 가격으로
‎누구에게나 전달되도록 해서 ‎돈을 버는 거죠
‎기후 변화 때문에? 그래
‎그건 거짓말이야, 진짜라고 ‎그게 포인트야
‎더 많이 언급할수록 ‎우리를 더 갈라놓을 수 있고
‎힘을 더 가질수록 ‎통제력도 더 가지는 거야
‎페이스북에는 이런 뉴스 피드 ‎포스트가 수없이 많습니다
‎뭐가 진짜고 진실인지 ‎그들은 알 수가 없어요
‎그래서 이 대화가 ‎지금 굉장히 중요한 겁니다
‎코로나바이러스만 ‎빨리 퍼지는 게 아니라
‎바이러스에 대한 잘못된 정보도 ‎온라인에 널리 퍼지고 있습니다
‎물을 많이 마시면 ‎코로나바이러스가 배출된다는 건
‎소셜 미디어에서 퍼지는 ‎거짓말 중 하나입니다
‎정부가 다 계획하고 ‎바이러스를 만든 거예요
‎다른 나라의 반응에 대해 ‎시뮬레이션도 했다고요
‎코로나바이러스는 거짓말이야
‎사스, 코로나바이러스
‎이게 언제 만들어졌는지 봐 ‎2018년도야
‎내 생각에는 미국 정부가 ‎시작한 것 같아
‎아픈 사람은 없어, 아무도 없다고
‎아픈 사람을 아는 사람도 없고
‎어쩌면 정부가 코로나바이러스를 ‎핑계로 쓰는 걸지도 몰라
‎다들 집에 있을 때 ‎무언가를 하려고 말이야
‎코로나바이러스가 ‎사람을 죽이는 게 아니라
‎그들이 내뿜는 5G 방사능이 ‎사람들을 죽이는 거야
‎"무너지고 불태워지는 5G 기지국"
‎우린 소문에 시달리고 있어요
‎사람들이 실제로 ‎휴대폰 기지국을 불태우고
‎러시아와 중국이 음모론을 ‎퍼트리는 것도 봤어요
‎오늘 오전, 우크라이나에서 ‎공포와 시위가...
‎사람들을 진실을 분간할 수 없고 ‎이젠 목숨마저 위협받습니다
‎코로나바이러스에 대한 ‎가짜 정보의 출처들이
‎약 5,200만 건이나 열람됐습니다
‎그러니까 '실버 솔루션'이 ‎효과가 있다는 말이죠?
‎코로나바이러스 변종에 대한 ‎검사는 하지 않았지만...
‎코로나바이러스에 대해 ‎우리가 보고 있는 건
‎정보 생태계에서 일어나는 일의 ‎극단적인 예입니다
‎"하일 휘트머"
‎소셜 미디어는 ‎가십과 풍문을 증폭시켜서
‎진실을 알 수 없게 만듭니다
‎우리가 무엇에 신경을 쓰건 말이죠
‎아직 축구팀 소속이지?
‎난 연습 전에 간식 먹을 건데 ‎같이 갈래?
‎됐어
‎지금 10명 중에 9명이 ‎불만을 갖고 있어
‎극 중도파는 여느 정치 운동과 ‎다를 바가 없다고
‎우리는 맞서는 거야 ‎이 소음에 맞서는 거라고
‎너희는 내 동료야, 난 너희를 믿어
‎- 극 중도파 콘텐츠 너무 좋네 ‎- 완전히 푹 빠졌어
‎경매 진행 중
‎입찰자 843명, 군수 회사에 ‎4.35센트에 팔았어
‎이벤트 홍보 좀 해 보자
‎이번 주 후반에 ‎벤의 지역에서 있을 집회들이야
‎나도 새 블로거를 준비했어
‎솔직히 말해서 ‎난 뭐든지 할 각오가 되어 있어
‎뭐든지 말이야
‎- 구독하고 ‎- 벤?
‎그리고 꼭 돌아와, 왜냐하면...
‎정말 큰일이 생길 테니까
‎진짜 큰일이야
‎페이스북의 문제 중 하나는 ‎역사상 최고의
‎설득 도구라는 겁니다
‎그게 독재자나 권위주의자의 ‎손에 들어간다고 생각해 보세요
‎국민들을 통제하는 것에 ‎페이스북만큼
‎효과적인 도구가 없습니다
‎정부나 악당들이 소셜 미디어를
‎무기화하는 것의 ‎가장 골치 아픈 문제 중 하나는
‎실제 오프라인 피해를 ‎초래한다는 것이에요
‎가장 많은 주목을 받은 예는
‎미얀마에서 ‎일어난 일이라고 생각합니다
‎"미얀마 대통령실"
‎미얀마 사람들은 ‎인터넷이라고 하면
‎페이스북을 생각해요
‎그리고 사람들이 휴대폰을 살 때 ‎휴대폰 가게 주인이
‎페이스북을 미리 설치하고 ‎계정을 열어 주는 일이
‎빈번하게 일어납니다
‎그래서 사람들이 휴대폰을 사면 ‎제일 먼저 열어 보는 앱이며
‎사용법을 아는 앱이 ‎페이스북이란 거죠
‎페이스북이 미얀마의 증오 발언을 ‎통제하는 것이 힘들어지고 있다는
‎충격적인 ‎조사 결과가 발표됐습니다
‎"모슬렘을 그만 죽여"
‎페이스북이 군벌과 악당들에게 ‎대중의 의견을 조작하는
‎새로운 방법을 제시한 거예요
‎그리고 로힝야 모슬렘에 대한 ‎폭력과 대량 학살을
‎조장했으며
‎마을을 불태우고
‎대량 강간과 비인간적인 ‎심각한 범죄로
‎70만 명이 넘는 로힝야 모슬렘이 ‎국외로 도피했습니다
‎열성적인 선동가들이 ‎예전에는 없었던 게 아니에요
‎문제는 조작성을 띈 내러티브를
‎너무도 쉽게 퍼트릴 수 있는 ‎플랫폼이 있다는 거예요
‎돈도 별로 들이지 않고요
‎제가 선거를 조작하고 싶으면
‎페이스북의 ‎음모론 그룹에 들어가서
‎지구 평면설을 믿는 사람들과
‎달 착륙을 믿지 않는
‎수백 명의 사람들을 찾은 다음에
‎페이스북에 이런 사용자들을 ‎수천 명 찾아달라고 해요
‎그런 수천 명의 사용자들 목록을 ‎페이스북은 기꺼이 보내 줄 것이고
‎저는 더 많은 음모론을 ‎그들에게 제공할 수 있습니다
‎3.4센트에 낙찰
‎새로운 극 중도파 영상 홍보
‎또 다른 광고 준비 완료
‎알고리즘과 조작적인 정치인들은 ‎우리를 자극하는 법의
‎전문가가 되고 있습니다
‎가짜 뉴스를 능숙하게 만들고 ‎진짜처럼 받아들여지게 해서
‎우리가 그런 거짓말들을 ‎믿게 만듭니다
‎우리의 자아와 신념에 ‎대한 통제력을
‎점점 상실하는 것 같아요
‎편을 고를 수 있게 말이야
‎사방에 거짓말이 널려 있어
‎그들이 권력을 유지하고 ‎모든 걸 통제하기 위해서지
‎우리의 마음을 통제해서 ‎비밀을 지키기 위해서라고
‎"진실을 의심해"
‎"질병 대책 본부가 백신과 ‎자폐증 은폐를 인정하다"
‎아무도 진실을 믿지 않는 ‎세상을 상상해 보세요
‎"모두에게 통하는 백신은 없다 ‎우리의 유전자가 증거임"
‎다들 정부가 ‎거짓말을 한다고 믿어요
‎모든 게 음모론이고요
‎'누구도 믿어선 안 돼 ‎난 반대편이 증오스러워'
‎다 그쪽으로 가고 있어요
‎유럽의 정치적 지각 변동이 ‎계속 이어지고 있습니다
‎이번에는 이탈리아와 스페인입니다
‎전체적으로 유럽의 ‎전통적 중도주의 연합이 패배하고
‎극우와 극좌파가 부상했습니다
‎"중도파"
‎물러나
‎좋아, 가자
‎이 계정들은 의도적으로
‎홍콩의 정치적 분열을 ‎일으켰습니다
‎좋아, 벤
‎정보의 원천이 오직
‎페이스북과 소셜 미디어인 ‎나라는 어떻나요?
‎민주주의가 금세 무너집니다
‎6개월 만에요
‎시카고에서의 혼란 이후로
‎시위자들과 지지자들 사이의 ‎격렬한 충돌이...
‎민주주의가 위기를 맞고 있습니다
‎우리는 민주주의에 대한 ‎전 세계적인 공격을 보고 있어요
‎"극 중도파"
‎대부분의 ‎민주주의 선거를 하는 나라들이
‎공격을 받았어요
‎대규모로 일어나고 있어요
‎정치적 세력이나 ‎수백만 달러를 가진 사람들이
‎케냐나 카메룬을 불안정하게 ‎만들고 싶다는 말을 해요
‎'앙골라? 이 정도면 되겠네'
‎지난 일요일 브라질에선 ‎독특한 선거가 열렸습니다
‎소셜 미디어에 의지해 ‎캠페인을 벌였습니다
‎우리 IT 업계 사람들이 ‎만든 도구가
‎사회의 구조를 불안정하게 하고 ‎침식시키고 있습니다
‎모든 나라에서 동시다발적으로요
‎독일, 스페인, 프랑스 ‎브라질, 호주 등
‎세계에서 손꼽히는 선진국들이
‎서로 자멸하고 있는데
‎공통점이 뭘까요?
‎지금 아는 거로 봤을 때
‎페이스북이 2016년 대선의 결과에 ‎영향을 끼쳤다고 보시나요?
‎어려운 질문이군요
‎그런데...
‎실제로는 변수가 너무 많았습니다
‎페이스북, 트위터, 구글 대표가 ‎2016년 선거의
‎러시아의 개입에 대해
‎증언하기 위해서 ‎이틀째 국회에 소환되었습니다
‎제삼자에 의한 조작은 ‎해킹이 아닙니다
‎그렇죠? 러시아는 ‎페이스북을 해킹 안 했어요
‎그들은 페이스북이 ‎합법적인 광고주와
‎합법적인 이용자들을 위해 ‎만든 도구를
‎비도덕적인 목적에 ‎사용한 것입니다
‎리모컨으로 하는 전쟁 같아요
‎국경을 침범하지 않고도
‎다른 나라를 조종하는 거죠
‎폭력적인 이미지가 보이는데
‎쓰레기통이 ‎밀고 밀리는 것 같습니다
‎누구를 뽑으려고 하는지는 ‎중요한 게 아니었어요
‎사회에 분열과 혼란을 ‎일으키는 게 목적이었죠
‎여긴 헌팅턴 비치인데...
‎양쪽 진영이 ‎서로 목소리를 못 듣게 하고
‎들으려고도 하지 않고
‎서로 믿지도 않게 만드는 게
‎목적이었습니다
‎이곳은 증오심이 드러나서
‎인종 간 폭력으로 변질된 곳입니다
‎"버지니아 사태 ‎하루에 폭력으로 3명이 사망"
‎벤!
‎카산드라!
‎- 캐시! ‎- 벤!
‎이리 와! 이리 와!
‎팔 올리고 무릎 꿇어, 당장
‎- 진정... ‎- 벤!
‎야, 손들어!
‎돌아서 바닥에 엎드려!
‎최고 입찰자들을 위한 시스템이 ‎우리가 원하는 걸까요?
‎민주주의를 완전히 팔아서 ‎그 누구에게나 접근해서
‎특정 계층에 거짓을 심고 ‎문화 전쟁을 일으킬까요?
‎그런 걸 원하나요?
‎이 나라의 국민들은
‎이제 서로 대화하지 않습니다
‎이 나라 국민들은 ‎지난 선거에서 뽑은 사람 때문에
‎친구와 절교한 사람들입니다
‎이 나라 국민들은 ‎고립되어 있습니다
‎우리가 옳다고 말하는 ‎채널만 보면서 말이죠
‎저는 부족주의가 우리를 ‎망치고 있다고 말하고 싶습니다
‎미국을 분열시키고 있고
‎제정신인 성인이 할 짓이 아닙니다
‎모두에게 각자의 진실을 ‎가질 권리가 있다면
‎타협할 필요도 없고 ‎화합할 필요도 없습니다
‎사람들끼리 ‎서로 소통할 필요도 없죠
‎우리에겐 같이 이해할 수 있는 ‎현실이 필요합니다
‎아니면 나라도 아니에요
‎"주커버그"
‎장기적인 해결책으로는 ‎실제 사람들과는 다른 패턴을
‎파악하는 인공 지능 도구를 ‎더 만드는 겁니다
‎우린 기술자들이 ‎이 문제를 해결할 능력이 있다고
‎포장하는 것을 내버려 두고 있어요
‎그건 거짓말이에요
‎사람들은 인공 지능이 ‎진실을 알 거라고 말하는데
‎인공 지능은 ‎이런 문제를 해결 못 해요
‎인공 지능은 ‎가짜 뉴스 문제를 해결 못 해요
‎구글은 이런 말을 할 ‎자격이 없어요
‎'이게 음모론인가? ‎이건 진실인가?'
‎뭐가 진실인지 그들도 모르니까요
‎그들의 진실은 클릭이 전부입니다
‎우리가 뭐가 진실인지 ‎동의하지 않거나
‎진실이 있다는 것에 ‎동의하지 않으면
‎우린 끝난 거예요
‎이건 다른 문제 밑의 문제입니다
‎왜냐하면 뭐가 사실인지 ‎동의할 수 없다면
‎그 어떤 문제도 ‎해결할 수 없게 되니까요
‎벤에게 평평한 지구 축구 클럽을 ‎추천하자
‎스포츠 소식은 띄우지 마 ‎이제 안 보잖아
‎실리콘 밸리의 많은 사람들은 ‎우리가 사용자들을
‎교환이 가능하며 ‎그중 누구도 중요하지 않은
‎작은 뉴런들로 삼는 ‎슈퍼 브레인을 만들고 있다는
‎이론에 동의합니다
‎그리고 사람들에게 ‎이상한 역할을 부여합니다
‎당신은 컴퓨터의 ‎작은 부품일 뿐이며
‎우리는 이 거대한 뇌의 ‎기능에 의해
‎행동이 조작되고 있으며 ‎중요하지도 않은 거예요
‎돈도 못 받고, 인정도 못 받고
‎자결권도 없어요
‎그저 은밀하게 조종될 뿐이죠
‎프로그래밍을 해야 하는 ‎컴퓨팅 노드일 뿐이니까요
‎원래 컴퓨팅 노드는 ‎그렇게 다루거든요
‎이런
‎기술을 실질적인 위협으로 보는 건
‎조금 지나친 비약인데...
‎이렇게 생각하긴 쉽죠 ‎'내 손안의 스마트폰을'
‎'스크롤하고 클릭을 하는 것이'
‎'뭐가 위험하다는 거지?'
‎'화면 반대편에'
‎'슈퍼컴퓨터가 있긴 한데'
‎'내가 영상을 더 보게 하는 게 ‎뭐가 위험하다는 거지?'
‎기술 그 자체가 ‎실제로 위험하다는 게 아니라
‎"설득 기술에 대한 ‎미국 상원 청문회"
‎사회의 어두운 면을 끌어내는 ‎기술의 능력과
‎사회의 어두운 면이 ‎실질적인 위협인 거예요
‎"미국 상원"
‎기술이 대량 혼돈을 야기하고
‎분노, 무례
‎서로 간의 불신과
‎외로움, 소외, 분극화
‎선거 해킹, 포퓰리즘 등으로
‎진짜 문제에 집중할 수 없게 ‎더 한눈을 팔게 만든다면
‎그건 그냥 사회인 거예요
‎그런데 이젠 사회에 ‎스스로 회복할 능력이 없고
‎혼란 속으로 빠져들고 있죠
‎이런 상품을 쓰지 않는 사람도 ‎영향을 받습니다
‎이것들은 ‎디지털 프랑켄슈타인이 되었고
‎자신들의 이미지로 ‎세상을 바꾸고 있습니다
‎아이들의 정신 건강이나
‎우리의 정치나 정치적 담론도
‎대중과의 논의 없이 멋대로 말이죠
‎- 그래서 결국에는... ‎- 누구 책임이라고 봅니까?
‎저는 플랫폼이 책임을 ‎져야 한다고 생각합니다
‎그들이 선거 광고를 장악할 때
‎선거를 보호할 책임을 져야 합니다
‎그들이 토요일 오전에 ‎아이들의 정신 건강을 장악할 때도
‎토요일 오전을 지킬 책임이 ‎그들에게 있고요
‎사람들의 관심을 끌기 위한 경쟁은 ‎끝나지 않을 것입니다
‎기술은 우리의 삶에 ‎더 깊게 침투할 거예요
‎인공 지능은 퇴보하기는커녕 ‎더 발전해서
‎우리의 시선을 잡아 둘 것입니다
‎저는 62세이고
‎이 대화를 하는 도중에도 ‎더 늙고 있습니다
‎하지만 이건 분명합니다
‎전 아마 죽은 걸 ‎다행으로 여기게 될 겁니다
‎이런 문제가 터지면 말이죠
‎왜냐하면 저는 정말 무섭거든요
‎당신도 그렇나요?
‎아니면 제가 잘 모르는 것에 ‎과민하게 반응하는 건가요?
‎뭐가 가장 걱정되죠?
‎짧게 놓고 보면은...
‎내전요
‎지금 상태로 어디 보자... ‎20년쯤 더 지나게 되면
‎우리의 방관으로 ‎문명을 망가뜨릴 겁니다
‎지구 온난화 문제도 ‎해결하지 못할 것이고요
‎세계의 민주화도 퇴보할 것이며
‎이상한 독재에 빠지게 될 것입니다
‎세계 경제도 망치겠죠
‎우린 아마 못 살아남을 거예요
‎저는 정말 그럴 것 같아요
‎우리의 상상이 ‎실현되기 전이 어땠는지를
‎이들이 마지막으로 ‎기억하는 세대가 될까요?
‎매트릭스를 자각하지 못하는데 ‎어떻게 매트릭스에서 깨어나죠?
‎"유토피아가 될지 ‎모두 사라지게 될지는"
‎"최후의 순간까지 ‎알 수 없을 것이다"
‎"버크민스터 풀러"
‎우리가 말하는 것의 대부분이
‎편향적으로 암울하게 들리죠
‎'기술이 우리 세상을 망치고'
‎'애들도 망치고 있어'
‎그런데 아니에요
‎유토피아이면서 디스토피아라서 ‎헷갈리는 거예요
‎스마트폰의 버튼만 누르면 ‎차가 30초 만에 오고
‎제가 원하는 곳으로 갈 수 있죠
‎이건 마법처럼 대단한 거예요
‎우리가 '좋아요' 버튼을 만들 땐
‎세상에 긍정성과 사랑을 ‎퍼트리는 게 목표였습니다
‎오늘날의 10대가 ‎좋아요를 덜 받아서
‎우울해 하거나
‎정치적 분극화를 야기하는 건
‎우리 의도가 아니었어요
‎그들이 처음부터 사악하진 ‎않았다고 생각해요
‎사업 모델에 문제가 있는 거죠
‎서비스를 멈추게 하고 ‎다 파괴할 수도 있겠죠
‎200억 달러의 주식을 날리고 ‎소송도 당하고요
‎하지만 흘린 물은 ‎다시 담을 수 없습니다
‎조금은 손볼 수 있겠지만 결국에는
‎분기마다 매출과 사용량을 ‎늘려야만 합니다
‎더 커질수록 ‎변화하기 어렵게 되고요
‎저는 사람들이 사업 모델과 ‎경제적 인센티브와
‎주주의 압박에 갇혀서
‎다른 걸 할 수 없게 됐다고 봐요
‎회사가 이윤을 남기는 것에 ‎집중하는 것을
‎받아들여야 한다고 생각합니다
‎하지만 규정, 규칙, 경쟁이 ‎없는 건 안 되죠
‎회사들이 일종의 ‎정부 노릇을 하는 것도요
‎그들은 자신들을 ‎통제할 수 있다고 말하는데
‎그건 정말 말도 안 되는 ‎거짓말이에요
‎재정적 인센티브가 ‎세상을 움직이고 있어요
‎그러니 문제를 해결하려면 ‎재정적 인센티브를 재구성해야죠
‎이 회사들이 변해야 할 ‎재정적인 이유는 없어요
‎그래서 규제가 ‎필요하다고 생각합니다
‎전화 회사는 여러분에 대한 ‎민감한 정보를 많이 갖고 있지만
‎그걸 악용하지 못하게 하는 ‎법이 많이 있죠
‎그런데 디지털 프라이버시와 ‎관련된 법은 거의 없어요
‎데이터 수집과 처리에 ‎세금을 먹일 수도 있어요
‎예를 들어 수도세가 ‎사용한 물의 양에 따라
‎책정되는 것과 같은 원리로요
‎기업이 가진 데이터의 양에 따라 ‎세금을 부과하는 거죠
‎그러면 지구 상의 모든 데이터를
‎수집하지 말아야 할 ‎재정적인 이유가 생기는 거예요
‎법은 이런 것들에 ‎너무 뒤처져 있습니다
‎하지만 현재 상황은 ‎사용자를 보호하지 않고
‎엄청난 부를 갖춘 회사들의
‎권리와 특권을 보호하고 있습니다
‎우리는 언제까지 부자와 ‎권력자에게 복종할 건가요?
‎아니면 이런 말을 할까요?
‎국익이나 사람들, 사용자의 이익이
‎이미 억만장자인 이들의 이익보다
‎더 중요할 때도 있다고 말이죠
‎이 시장은 민주주의와 ‎자유를 위태롭게 하고
‎불법으로 제정되어야 합니다
‎이건 급진적인 제안이 아니에요
‎우리가 불법화한 ‎다른 시장도 있어요
‎인간 장기 시장을 불법화했고
‎인간 노예 시장도 불법화했어요
‎피할 수 없는 ‎파괴적인 결과가 있기 때문이죠
‎우리가 사는 세상은
‎죽은 나무가 살아 있는 나무보다 ‎더 가치 있는 세상입니다
‎죽은 고래도 살아 있는 고래보다 ‎더 가치 있고요
‎우리 경제는 그런 식으로 ‎오랫동안 움직였고
‎기업은 규제를 받지 않았기에
‎계속 숲을 파괴하고
‎고래를 죽이고
‎땅을 파서 석유를 시추할 겁니다
‎그게 지구를 ‎파괴한다는 걸 알면서도
‎후손들이 살 지구를 ‎망친다는 걸 알면서도요
‎이건 무슨 수를 써서라도
‎이윤만 남기려는 ‎근시안적 사고가 원인입니다
‎이윤만을 좇는 기업이 ‎마법처럼 최선의 결과를
‎만들어낼 것이라 믿는 것 같죠
‎이건 환경에도 ‎오랫동안 영향을 끼쳤어요
‎정말 무섭지만 이제 우리가 ‎문명으로 깨어나서
‎애초부터 이런 사고방식이
‎잘못됐음을 깨달을 마지막 수단은
‎이제는 우리가 나무고 ‎고래라는 걸 깨닫는 겁니다
‎우리의 관심은 채굴될 수 있어요
‎우리가 값진 인생을 사는 것보다
‎더 많은 시간을 ‎화면을 보는 데 쓰고
‎광고를 본다면
‎기업에게 더 이익이 되는 거예요
‎그리고 그 결과를 지금 보고 있죠
‎기업들이 ‎강력한 인공 지능을 이용해서
‎우리의 관심을 ‎끄는 법을 알아내고
‎그들의 입맛에 맞는 걸 ‎보게 만듭니다
‎우리의 목표와 가치와 삶에
‎가장 부합하는 게 아니라 말이죠
‎"스티브 잡스 ‎오늘의 키노트"
‎컴퓨터는 제게...
‎우리가 만들어 낸 ‎가장 놀라운 도구입니다
‎우리 심리의 자전거라고도 ‎할 수 있는 것이죠
‎인간적 기술의 개념은 ‎실리콘 밸리의 시발점과 같습니다
‎그런데 우린 길을 잃었어요 ‎멋진 일로 변해 버렸으니까요
‎옳은 일이 아니라요
‎인터넷은 엉뚱한 곳이었어요
‎그리고 실험적이었고
‎창조적인 것들이 일어났어요 ‎물론 지금도 그렇지만
‎거대한 쇼핑몰 같은 느낌이에요 ‎요즘에는요
‎그런데 그것보다 ‎더 큰 무언가가 있을 거란 말이죠
‎아마 전 낙관론자인가 봐요
‎소셜 미디어의 모습과 용도를 ‎바꿀 수 있다고 믿거든요
‎기술이 작동하는 법은 ‎물리 법칙이 아니에요
‎딱 정해진 게 없어요
‎저 같은 인간의 선택입니다
‎그리고 인간은 그 기술을 ‎바꿀 수 있어요
‎문제는 우리가 인정을 ‎하든 안 하든
‎우리 일의 나쁜 결과가 ‎직접적으로 나타난다는 겁니다
‎우리가 만들었으니 ‎우리가 바꿀 책임이 있습니다
‎관심만 끄는 모델은 우리가 원하는 ‎인간을 대하는 방식이 아닙니다
‎이거 나만 이러는 거...
‎딱한 자식
‎이런 썩은 사업 모델을 ‎없애는 것에
‎건강한 사회의 구조가 ‎달려 있습니다
‎우린 인간적으로 상품들을 ‎디자인하라고 요구할 수 있습니다
‎우리를 채취 가능한 자원으로 ‎취급하지 말 것도 말이죠
‎'세상을 어떻게 더 좋게 만들까'가 ‎목적이 되어야 합니다
‎역사적으로 봤을 때도 ‎무언가가 발전한 이유는
‎누군가가 ‎이렇게 말했기 때문입니다
‎'이건 말도 안 돼 ‎우린 더 잘할 수 있어'
‎비평가들이 발전을 이끄는 것이고
‎비평가들이 ‎진정한 낙관주의자예요
‎안녕
‎좀 무모한 것 같죠?
‎마치 이것들을 ‎디자인하는 근본적인 방법이
‎좋은 방향으로 ‎가지 않는 것 같아요
‎전부가 말이죠
‎그러니 모든 걸 바꿔야 한다는 게 ‎무모하게만 들립니다
‎하지만 그렇게 해야 해요
‎우리가 할 수 있을까요?
‎그래야만 합니다
‎아주 낙관적이신 것 같군요
‎그렇게 들렸나요?
‎계속 그러시는 게 믿기지가 않네요
‎전 이런 말을 했는데도요 ‎'우린 디스토피아를 맞을 겁니다'
‎'아주 이른 시일 내로 말이죠'
‎'그렇게 안 되려면 ‎기적이 필요할 거예요'
‎물론 그 기적은 집단적 의지입니다
‎저는 우리가 해결할 거라고 ‎낙관하고 있지만
‎시간이 오래 걸릴 거예요
‎이게 문제라는 걸 ‎모두가 알지 못하니까 말이죠
‎오늘날의 기술에서 ‎가장 큰 실패 중 하나는
‎리더십의 실패라고 생각합니다
‎사람들이 나와서 ‎잘된 것만 말하지 않고
‎완벽하지 않은 것에 대해서도 ‎자유롭게 얘기해야 해요
‎누군가 새로운 것을 ‎만들 수 있게 말이죠
‎근본적으로 말이죠
‎대중의 압력이 커질 때까지 ‎기계는 변하지 않을 겁니다
‎이런 대화를 하고 ‎목소리를 높임으로써
‎어떤 경우에는 이런 기술을 통해서
‎흐름을 바꾸고 ‎대화를 바꿀 수가 있어요
‎이상하게 들릴지 몰라도 ‎이건 제 세계예요
‎전 그들을 싫어하지도 않고 ‎구글, 페북에 폐 끼치기도 싫어요
‎그저 개혁하길 바라는 거죠 ‎세상이 파괴되면 안 되니까요
‎저는 제 시간을 ‎낭비하는 것 같은 앱을
‎제 스마트폰에서 ‎엄청나게 많이 제거했습니다
‎모든 소셜 미디어 앱과 ‎뉴스 앱들요
‎그리고 저에게
‎꼭 필요하지도 않은 정보로 ‎제 다리를 진동시키는
‎알림 설정도 껐습니다
‎쿠키를 제 주머니에 ‎넣지 않는 것과 같은 이유로요
‎알림의 수를 줄이세요
‎알림 설정을 끄세요
‎알림 설정 다 끄세요
‎더는 구글을 쓰지 않고 ‎콴트를 씁니다
‎사용자의 검색 기록을 ‎저장하지 않거든요
‎유튜브의 영상 추천을 ‎절대 받지 마세요
‎항상 선택해서 보세요 ‎싸울 방법은 있습니다
‎추천 목록을 제거하는 ‎크롬 확장 프로그램이 많아요
‎자신이 만든 걸 되돌리는 걸 ‎추천하는 게 마음에 드네요
‎네
‎뭘 공유하기 전에 팩트를 확인하고 ‎소스를 검토하고 검색을 더 하세요
‎너무 감정에 호소하게 ‎만들어졌다는 생각이 들면
‎그 생각이 맞을 거예요
‎기본적으로 클릭이 투표인 거예요
‎낚시성 게시물을 클릭하면
‎기존의 시스템을 유지할 수 있게 ‎재정적인 도움을 주는 거예요
‎다양한 종류의 정보를 ‎얻도록 하세요
‎여러분의 삶에서요
‎전 저랑 의견이 다른 사람들도 ‎트위터에서 팔로우를 합니다
‎다른 관점에 ‎저를 노출시키고 싶거든요
‎대부분의 IT 업계 사람들은
‎자식들에게 이런 전자 기기를 ‎주지 않습니다
‎우리 애들은 소셜 미디어를 ‎전혀 쓰지 않습니다
‎규칙인 건가요? 아니면...
‎규칙이에요
‎우린 아주 열성적이에요
‎거의 미쳤죠
‎그런데 아이들은 ‎이런 걸 거의 못 쓰게 합니다
‎저는 가족의 삶을 더 편하게 하고
‎확실한 근거도 있는 ‎세 가지 규칙을 만들었습니다
‎첫 번째 규칙은 모든 전자 기기를 ‎침실에서 제거하는 거예요
‎매일 밤마다 정해진 시각이 되면요
‎그 시각이 언제건 잠들기 30분 전 ‎모든 전자 기기를 제거하는 겁니다
‎두 번째 규칙은
‎고등학생이 될 때까지 ‎소셜 미디어를 금지하는 거예요
‎저는 솔직히 16살은 ‎되어야 한다고 생각해요
‎중학교는 안 그래도 힘드니까 ‎고등학교 때까진 금지하세요
‎세 번째 규칙은 ‎자녀와 시간 예산을 짜는 거예요
‎이렇게 얘기해 보세요
‎'하루에 몇 시간이나 ‎소셜 미디어에 쓰고 싶니?'
‎'얼마나 쓰는 게 좋겠니?"
‎애들은 꽤 합리적인 대답을 ‎할 거예요
‎저도 잘 알아요
‎제가 모든 사람들이 소셜 미디어를 ‎지우게 할 순 없다는 거요
‎하지만 몇 명은 그럴 거예요
‎그런데 소수가 계정을 ‎삭제하는 것도 의미가 큽니다
‎대화를 할 수 있는 ‎공간이 생기는 것이니까요
‎저는 조작 엔진에
‎얽매이지 않고 ‎사회적인 대화를 하는 사람들이
‎세상에 더 많았으면 좋겠거든요
‎그러니까 지워요 ‎시스템에서 탈출하라고요
‎네, 삭제해요 ‎멍청한 것에서 벗어나요
‎세상은 아름다우니까요 ‎오늘 날씨도 좋네요
‎"우리를 팔로우하세요!"
‎"농담입니다"
‎"TheSocialDilemma.com에서 ‎논의해 보자고요"
‎자막: 박해준