페이스북의 제안은 매우 단순하며 전통적입니다. 사용자에게 별도의 탭으로 제공되는 “뉴스” 섹션의 기사 공급을 위해 페이스북은 언론에 300만 달러의 돈을 지불할 계획입니다. 이는 페이스북이 적극적으로 뉴스를 제공하기 시작했다는 것을 의미하며, 페이스북의 경영 전략과 핵심에 중요한 변화를 만들어낼 수 있습니다.

2016년, 보수 운동가와 정치인의 압력으로 페이스북의 뉴스 큐레이션 팀은 해체되었습니다. 그동안 애플, 링크드인, 트위터를 비롯한 다른 기업의 뉴스 편집 큐레이션 팀이 성공을 거두었던 것에 비해, 페이스북에는 기사의 가치를 평가하는 중앙 뉴스룸이 존재하지 않았습니다. 여전히 페이스북이 어떻게 뉴스 가치를 평가하는지는 베일에 싸여 있지만, 페이스북은 뉴스 제공이 기업의 이해와 관련되어 있다는 점을 마침내 인정했습니다.

물론 이는 매우 관대한 해석입니다. 페이스북의 수입 모델이 언론사를 위태롭게 했다는 사실 자체는 부차적이지만 그동안 홍보 면에서는 중요한 문제가 되어왔습니다. 페이스북이 구글을 따라 뉴스 산업을 진정시키고자 하는 노력을 보이는 것은 페이스북을 규제하려는 공격을 완화하죠. 페이스북이 뉴욕타임스 카라 스위셔의 칼럼이나 가디언지 캐롤 캐드월레어의 심층 기사에 돈을 지불하는 것이 해당 기업을 면밀히 조사하려는 언론사의 열정을 꺾을 가능성은 작아 보입니다. 하지만 사업적 동반자 관계의 역학이 언론사와 페이스북의 관계에 변화를 가져올 수도 있습니다.

뉴스탭은 언론사와 통합적 관계를 만들고자 하는 페이스북의 4년 계획에서 가장 최근에 발표된 정책입니다; 그동안 시행된 모든 정책은 실패로 돌아갔죠. 페이스북은 그동안 언론사와의 관계 구축을 성공적으로 하지 못했습니다. 다만 페이스북이 잘하는 점이 있죠. 경쟁자들이 제공하는 서비스를 따라 하거나 때로는 더 나은 모습으로 제공하는 것입니다. 이 경우에는 애플이 예입니다.

페이스북의 뉴스탭은 언론사부터 기사를 직접 받아 선택적으로 제공하는 애플 뉴스와 비슷합니다. 하지만 애플의 경우 언론사에 돈을 지불하지 않습니다. 다만 올해 초기 도입된 애플 뉴스+는 구독 서비스를 약간 도입했죠. 반면, 페이스북의 계획은 전통적인 기사 구매 서비스처럼 보입니다. 실제로 이는 많은 언론사가 요청해오던 언론사의 콘텐츠에 대해 돈을 지불하는 방식의 계획입니다.

동시에 언론사는 몇 가지 의심을 가지고 있죠. 언론사는 페이스북이 기사 설계나 보도에 변화를 가하게끔 유도하며 언론사의 독립성, 브랜드, 수입을 약화할 수 있고, 그 뒤 페이스북이 해당 서비스에 흥미를 잃을 수도 있다는 점을 염두에 두고 있습니다. 2017년 페이스북의 설립자이자 최고 경영자 마크 저커버그는 광고와 페이스북의 미래가 “비디오, 비디오, 비디오”라고 발표했고, 이는 산업 전반에 “비디오 중심 전략”의 대변동이 일어나게끔 했습니다. 그 결과, 마이크(Mic) 같은 언론사가 쇠퇴하고 사라졌죠. 저렴한 보도 형식에서 값비싼 비디오 제작에 언론사가 자원을 쓰며 언론사의 재정 또한 약해졌습니다.

이에 비해 뉴스탭은 기사를 제공하는 언론사에 덜 성가십니다; 당장 뉴스탭은 언론사에 단순히 추가적인 매출원을 제공하는 것처럼 보입니다. 또한, 언론사의 자율성을 보호하죠. (적어도 그런 환상을 가질 수 있게끔 합니다)

몇 주 전 발행된 플랫폼과 언론 간 관계에 대한 토우 센터(Tow Center)의 연구 보고서는 그동안 실패한 계획들이 언론사가 플랫폼을 더 조심스럽고 복잡하게 바라보게끔 한다는 사실을 발견했습니다. 2015년에 시작된 페이스북의 인스턴트 아티클; 페이스북 라이브에서 벌어진 사고; 버즈피드, 매셔블, 마이크처럼 소셜 네트워크에 의존하던 언론사의 실망은 소셜미디어에 대한 환멸과 불신을 만들어냈습니다. 최근 언론의 새로운 모델은 독자와 플랫폼을 떠나 –언론사 자체 앱이나 실제 이벤트나 컨퍼런스에서– 직접적으로 만나는 통로를 찾는 데 주력하고 있습니다. 또한, 제삼자의 알고리듬 변화에 의해 중단되지 않는 출처를 통한 수익을 찾고 있죠.

페이스북의 뉴스탭이 당장 무언가를 변화시킬까요? 아니요. 하지만 이 계획은 뉴스와 큰 기술 기업 간 통합이 느리지만, 강제적으로 계속될 것이라는 점을 보여줍니다. 언론사가 페이스북이 제공하는 추가적인 자금의 매력에 저항할 수 있을까요? 이 질문에 대한 답은 여전히 열려있습니다.

(컬럼비아 저널리즘 리뷰, Emily Bell)

원문링크

하지만 보수 언론 매체가 소셜미디어에서 다른 매체를 능가하고 있다는 많은 증거가 존재합니다. 실제로 위와 같은 비난은 양당 모두에서 제기되고 있습니다. 민주당 대선 주자 툴시 가바드는 계정 일시 정지가 표현의 자유를 침해했다는 혐의를 들어 구글을 상대로 5천만 달러의 소송을 제기했습니다.

왜 콘텐츠 검열에 대한 비난이 계속될까요?

우리의 연구는 가능한 이유 중 하나를 보여주고 있습니다: 페이스북과 구글의 가이드라인은 어떤 유료 정치 콘텐츠가 가능한지에 대한 판단을 명확하게 보여주지 않습니다. 결정 과정 역시 투명하게 공개되어 있지 않죠. 투명성의 부족은 외부인이 최악의 시나리오를 믿게 만듭니다. 이는 기업 최고책임자가 소비자의 믿음과 일치하지 않는 정치적 발언을 했을 때 심해집니다.

페이스북과 구글의 모호한 규정.

지난 2년, 우리는 페이스북과 구글에서 근무했던 직원, 정치 캠페인, 정치 단체, 디지털 정치 자문회사 종사자를 상대로 인터뷰를 했습니다. 또한, 어떻게 온라인 플랫폼 회사가 캠페인 광고 같은 유료 정치 콘텐츠를 조정하는지를 알아보기 위해 페이스북과 캠페인 종사자 간 교환된 이메일을 분석했죠. 연구는 회사가 공식적인 정책이나 결정 과정에서 어느 정도의 투명성을 가지고 있을 가능성이 높은 분야인 광고나 유료 콘텐츠에 관련해 실시됐습니다.

연구 결과는 페이스북과 구글이 어떻게 정치 콘텐츠 조정 관련 결정을 내리는지에 대해 거의 공개하지 않는다는 점을 보여줍니다. 두 회사는 다소 유연하게 해석될 수 있는 광범위한 광고 규정을 캠페인이 충실히 지킬 것을 요구했습니다. 예를 들면, 구글은 협박이나 차별 같은 “적절하지 않은 콘텐츠”를 금지하지만 실제로 이런 콘텐츠에 무엇을 해당하는지에 대해서는 말하고 있지 않죠.

여기 한 예가 있습니다. 정치 종사자들은 공격용 소총 관련 정치 광고가 구글의 규칙에 위배될 수 있다고 인터뷰에서 말했습니다. 구글의 알고리듬은 “적절하지 않은 콘텐츠”를 찾아내기 위해 대부분의 광고를 조사합니다. 알고리듬이 문제가 있다고 표시한 광고는 사람의 검토를 거치죠. 광고가 적합하지 않다고 판단할 경우 회사는 결정과 함께 최소한의 설명을 제공합니다–다시 말해, 공격용 소총 관련 정치 광고가 “적절하지 않은 콘텐츠”인지에 대한 이유는 명확하게 설명되지 않죠. 결과적으로 캠페인 종사자는 어떻게 광고를 기준에 맞게끔 만들 수 있는지 알지 못합니다; 이는 정치인이 캠페인에 사용할 수 있는 이슈의 범위를 제한합니다.

모호한 규정은 회사에 규정을 유연하게 해석할 수 있는 여지를 줍니다. 우리가 인터뷰한 캠페인 종사자는 일반적으로 회사 대변인이 결정에 관해 설명하거나 정당화하지 않는다고 말했습니다. 기자, 연구자, 플랫폼의 정치 발언을 중재에 관심이 있는 개인은 여전히 회사의 결정 과정에 대해 알지 못합니다.

또한, 투명성의 부재는 캠페인 종사자가 플랫폼의 광고 거절 결정에 반박하는 것을 어렵게 하고 있습니다. 유명한 보수 단체의 고위급 간부는 우리에게 플랫폼 회사로부터 거절된 광고를 보여줬습니다. 거절 이유는 거의 한 두 단어로 설명되어 있었죠. 몇 캠페인 종사자는 회사가 매우 적은 정당화나 항의의 기회를 주는 점에 대해 언론에 고충을 토로하고 있습니다.

규모가 큰 캠페인이나 자문 회사의 유리함.

큰 캠페인이나 자문 회사는 작은 회사보다 유리한 입장에 있습니다. 당파적 노선과 일치하는 페이스북이나 구글 담당자를 배정받기 때문이죠–민주당을 지지하는 직원은 민주당 캠페인을, 공화당을 지지하는 직원은 공화당 캠페인을 담당합니다. 페이스북과 구글 직원은 종종 디지털 정치 종사자로 일하기도 합니다. 그들은 어떤 종류의 광고가 허용되는지 아닌지를 캠페인 회사에 조언해주죠. 직접 특정 광고를 허용하거나 거절할 수는 없지만, 해당 직원들은 항의 과정을 더욱더 쉽게 하고, 규정의 광범위한 틀 안에서 고객을 변호합니다.

구글이나 페이스북에서 종사했던 직원들은 고객의 광고가 거절당했을 때 회사에 재검토를 요청하거나 특정 광고가 거절된 이유나 중요하게 고려된 정책을 물어본 적이 있다고 말했습니다. 이 모든 과정은 대중에게 공개되어 있지 않죠. 우리는 플랫폼의 광고 정책을 위반한 상대편의 발언을 어떻게 다룰지에 대한 플랫폼 기업의 조언을 알기 위해 사적으로 제공된 페이스북 직원과 2017년 주지사 캠페인 종사한 직원 간의 이메일을 분석했습니다. 페이스북은 캠페인 종사자에게 상대편의 주장을 반박하는 광고를 내보낼 것을 종종 제안합니다. 우리가 검토한 서류는 페이스북이 의도적인 거짓 정보나 호도하는 콘텐츠를 삭제할 때, 캠페인 종사자와 대중들에게 각기 다른 설명을 주었다는 점을 보여줬습니다; 이 두 설명은 서로 충돌하거나 시간이 지나며 변하기도 했죠.

자극적인 것에서 무책임한 광고가 되는 선을 결정하는 것은 미묘하고 어려운 작업입니다. 소문에 따르면 구글과 페이스북은 무엇이 적절하지 않은 콘텐츠를 만드는지에 대한 광범위한 내부 토론을 한다고 알려져 있습니다. 하지만 현재 접근법은 캠페인 종사자와 대중에게 투명하게 공개되어 있지 않습니다.

변하고 있는 것들.

최근 일련의 변화는 투명성을 가져올까요? 마크 저커버그는 11월에 페이스북이 콘텐츠 조정 관련 독립적인 감시 위원회를 만들 것이라고 밝혔습니다. 또한, 전 세계적인 피드백 과정을 거치겠다고 약속했죠. 6월, 페이스북은 피드백과 다음 단계의 윤곽을 보여주는 보고서를 발표했습니다. 트위터는 회사의 규정을 위반하는 정치인의 메시지에 효과적으로 경고 표시를 하겠다고 말했습니다.

하지만 심각한 문제가 여전히 남아 있죠. 올해 초, 페이스북은 페이스북 해체를 주장하는 엘리자베스 워렌 상원위원의 광고를 삭제했습니다. 페이스북의 로고를 잘못 사용했다는 규정이 근거로 사용됐죠. 대중들의 항의가 이어지자 페이스북은 해당 광고를 복구했습니다.

2020년 대선에서는 어떤 일이 생길까요? 후보자들이 페이스북과 구글의 정치광고에 몇백만의 달러를 쓰기 때문에 해당 기업의 불분명하고 일정하지 않은 광고 관련 규정은 계속 많은 논란을 야기할 것으로 보입니다.

(워싱턴포스트, Shannon C. McGregor & Daniel Kreiss)

원문링크

역설적이지 않나요?

“양극화”란 단어의 의미에 대해 말하는 평론가는 많지 않습니다. 하지만 양극화에 맞서는 방법을 찾기 위해서는 먼저 양극화가 무엇인지를 이해해야 합니다. 곧 출간되는 책 “Overdoing Democracy: Why We Must Put Politics in its Place”에서 저는 양극화가 뉴스를 어디에서 얻는지나 어떻게 정치인이 서로 갈려져 있는지에 대한 것이 아니라고 주장합니다. 양극화는 얼마나 개인의 정치 성향이 그들이 하는 모든 행동 안에 들어있는지와 관련 있습니다.

양극화, 세 가지 방법.

명백한 것부터 시작합시다: 양극화는 정당의 열렬한 지지자 간 정치적 거리를 말합니다. 하지만 이를 측정하기는 생각처럼 매우 단순하지는 않습니다. 정치학자는 적어도 세 가지의 다른 정치적 거리 측정 방법을 가지고 있습니다.

그중 하나는 경쟁하는 정당의 정견을 비교하는 것입니다. 양극화는 두 정당의 정견이 서로 얼마나 다른지 정도로 측정 가능합니다. 두 번째는 정당 간 사상적 동질성을 평가하는 것입니다. 이 경우 양극화는 정당의 임원 중 얼마나 많은 사람이 “중도” 또는 조정자의 역할을 하는지에 관련되어 있습니다. 세 번째 방법은 정당과 연결된 일반 시민의 감정을 살피는 것입니다. 이는 시민이 자신이 지지하지 않는 정당과 관련된 것을 얼마나 좋아하지 않는지를 보죠.

연구들은 비록 주요 미국 정당이 심각하게 앞서 말한 두 측면에서 양극화되었을지라도 미국 국민들은 30년 전보다 정책에 대해서는 덜 분열되어 있다는 점을 보여줍니다. 실제로 낙태나 동성애자의 인권과 관련된 민감한 사안에 대해 정당의 일반 조합원들은 비슷한 의견을 보유하고 있습니다.

하지만 여전히 미국인들은 정책적 분열이 심하다고 믿습니다. 지난 25년보다 심해진 정당 간 적대감과 함께 세 번째 측면에서의 양극화는 최근 급격하게 증가했습니다.

다시 말해 미국인은 여러 사안에 대해 덜 분열되어 있음에도 스스로는 다른 의견을 가진 사람과 조화될 수 없다고 생각합니다. 우리는 정치적으로 다르다고 생각하는 사람을 싫어합니다.

시민이 자신과 반대되는 정치 단체에 가입된 사람을 혐오하는 경향을 보일 경우 정당은 다른 정당과의 차이점을 과장하고, 사상적 순수성을 강조하며, 반대편을 비난합니다. 한 예로 공화당 내 가장 흔한 비방은 공화당 당원이 충분히 정당의 이념에 전념하지 않는 것을 조롱하는 단어인 “RINO(Republican In Name Only)”죠. 민주당 공천을 위해 경쟁하는 사람 간 토론에서도 비슷한 역학을 관찰할 수 있습니다. 공천을 받고자 하는 사람들은 그들이 트럼프를 얼마나 싫어하는지를 기준으로 평가당합니다. 며칠 전, 대통령은 특정 민주당 하원의원이 “위험”하고 “미국을 싫어한다”고 말한 바 있습니다.

집단적 사고

양극화를 쉽게 해결할 방법이 있습니다: 정치적 적대관계에 있는 쪽을 싫어하지 마세요. 하지만 행동보다는 말이 쉽죠. 사람들은 자신과 정치적으로 다른 사람을 왜 경멸할까요?

대답은 널리 퍼진 인지적 현상인 집단 극화에 있습니다. 사람이 동의하는 의견을 가진 사람과만 이야기하거나 일치하는 견해의 뉴스만을 볼 경우, 개인의 믿음은 더 극단적으로 변합니다. 사람이 더 급진적으로 변할 경우 반대편의 입장을 덜 이해하게 되고, 의견에 대한 반대를 더 묵살하며, 불완전하고 부패한 반대자가 되는 경향을 보입니다.

당신이 가장 좋아하는 팀의 홈게임 승리를 사람들이 가득 찬 곳에서 보았던 때를 떠올려보세요. 다른 지지자들과 함성을 지르며 사람들의 팀에 대한 열광은 급증합니다. 동시에 상대 팀과 그 팀을 지지하는 팬에 대한 반감은 강해지죠. 당신의 기분은 좋아지고, 동질감은 강해집니다. 동료 지지자와 함께 응원하며 우리는 스스로에 대해 더 좋게 느낍니다.

온라인 환경은 양극화를 양산하는 기계와 비슷합니다. 사람들은 정보 출처를 선택하고, 본인의 입장과 반대되거나 친숙하지 않은 메시지를 걸러냅니다. 개인이 “에코챔버”에서 벗어나고 다양한 의견에 노출될 수 있다면 양극화가 완화될 수 있다고 많은 사람은 이야기하죠.

하지만 예방과 치료에는 큰 차이가 있죠. 미디어 습관을 다양화하는 것은 집단 극화를 막을 순 있어도 이미 존재하는 양극화를 되돌릴 수는 없습니다.

2018년 실시된 소셜미디어 연구는 민주당과 공화당 지지자에게 본인의 주장을 온건하게 반대하는 트위터 메시지를 보여줬습니다. 연구가 끝난 뒤 참가자들은 시작 전보다 더 당파적인 견해를 보여줬죠. 이미 집단 극화가 개인에게 영향을 미칠 경우 사람은 다른 의견에 대한 표현을 정체성에 대한 공격으로 받아들이고 반대편에 대한 부정적인 태도를 강화합니다.

사람들은 자신과 생각이 비슷한 타인과 협력하며 극단적으로 변합니다. 서로 지지하며 동질감을 공유하기 때문이죠. 이는 외부인에 대한 부정적인 견해 같은 태도를 공유하며 강화됩니다. 결과적으로 이는 정당 공약과 임원 간 양극화를 만들어냅니다.

이를 쉽게 해결할 방법은 없어 보입니다. 문제는 정치적 소속을 집단 정체성으로 간주하거나 지지하는 정당을 승자독식의 데스매치에서 전쟁 중인 팀으로 간주하는 사람들에 있습니다.

(니먼저널리즘연구소, Robert Talisse)

원문링크

2020년 선거가 다가오며 2016년 대선 당시 러시아의 선거 개입이 다시 일어날지에 대한 걱정이 증가하고 있습니다. 이에 비해 페이스북의 알고리듬 업데이트가 선거에 어떤 영향을 끼칠지에 대해서는 충분한 토론이 이루어지지 않고 있죠.

신뢰할 만한 출처에서 전하는 사실에 근거한 보도는 러시아의 허위정보 캠페인의 대조적인 예죠. 소셜미디어 연구자와 교육자로서 저는 트럼프의 선거 준비 기간 이뤄진 페이스북 뉴스피드 알고리듬의 업데이트가 플랫폼 이용자가 신뢰할 만한 언론에서 정보를 얻는 것을 어렵게 했다는 증거를 발견했습니다.

정치 분야 종사자들은 페이스북이 2억 명 이상의 미국인과 20억 명 이상의 전 세계 이용자의 정보 소비에 게이트키퍼라는 점을 알고 있습니다. 그동안 플랫폼 내 여러 움직임과 남용은 선거 전 미국인들이 얼마나 많은 허위 정보와 선전에 노출되었는지에 대한 많은 걱정과 토론을 만들어냈죠. 페이스북의 알고리듬 변화가 뉴스 접근성과 민주주의에 끼치는 영향에 대해서는 아직 충분한 토론이 이루어지지 않았습니다.

2015년 중반, 페이스북은 독자들을 저널리즘과 언론으로부터 멀어지게 하는 대신 친구와 가족으로부터 더 많은 업데이트를 받게 하도록 알고리듬을 업데이트했습니다. 이는 이용자들이 친구가 올린 게시물을 놓치지 않게 하려는 노력으로 친근하게 표현됐죠. 하지만 소셜미디어 데이터는 해당 업데이트 후 페이스북 이용자들과 믿을만한 언론 출처 간 상호작용이 줄어들었다는 점을 보여줍니다.

2016년 선거 몇 달 전에도 페이스북은 친구와 가족의 게시물에 더 호의적이게 알고리듬을 업데이트했습니다. 이는 언론의 트래픽에 타격을 주었죠. 많은 언론사는 업데이트 이후 당사에서 올린 콘텐츠가 페이스북 이용자들에게 훨씬 덜 노출된다는 사실을 발견했죠.

제 연구는 2016년 선거 당시 주요 언론사에 대한 페이스북 인게이지먼트(engagement)를 살펴보았습니다. 연구의 발견은 페이스북의 알고리듬이 언론사에 대한 독자의 인게이지먼트를 줄어들게 했다는 다른 연구자의 결론과 일치합니다.

소셜미디어 데이터 추적 기업 크라우드탱글(CrowdTangle)의 데이터는 2016년 6월 페이스북이 알고리듬을 친구와 가족의 게시물에 더 우호적으로 업데이트하며 CNN, ABC, NBC, CBS, 폭스 뉴스, 뉴욕타임스, 워싱턴포스트가 페이스북에서 받는 트래픽이 눈에 띄게 줄어들었다는 것을 보여줍니다.

이는 알고리듬이 설계한 대로 작동했다는 뜻이죠. 하지만 저는 주요 미국 언론이 페이스북의 알고리듬으로 인해 억압받았다는 점을 걱정합니다. 유권자들의 2016년 대선에 대한 관심은 지난 20년 중에 가장 높았습니다. 이와 함께 거짓 정보가 만연했죠. 페이스북의 알고리듬 업데이트는 다양한 정치적 입장을 가진 주요 언론사가 신뢰할 만한 선거 뉴스와 보도를 사람들에게 전하는 데 어려운 시간을 보냈다는 점을 의미합니다.

페이스북은 선거가 벌어지기 전부터 알고리듬 업데이트가 가져올 문제점을 인지하고 있었습니다. 페이스북의 기술자 중 한 명은 2015년 7월 페이스북 알고리듬 변화가 가져올 영향에 대해 이미 경고했죠. 3달 후, 저커버그의 멘토, 로저 맥나미 또한 저커버그와 페이스북 경영진에게 플랫폼이 선거 관련 정보를 조작하는 데 이용되고 있다고 알렸습니다.

선거 이후, 버즈피드 뉴스 편집장 크레이그 실버맨의 연구는 가짜 선거 뉴스가 “진짜” 뉴스를 능가했다는 점을 찾아냈습니다. 2018년 후반 발표한 페이스북의 자체 성명은 매우 당파적인 뉴스 같은 자극적인 콘텐츠에 알고리듬이 우호적으로 작동한다는 문제를 보여줬습니다.

하버드 쇼렌스틴 센터에서 실시한 최근의 연구 역시 2018년 1월 페이스북이 실시한 알고리듬 업데이트로 인해 언론이 받는 페이스북의 트래픽이 계속해서 줄어들고 있다는 사실을 알려줍니다.

지금까지 페이스북의 알고리듬이 어떻게 작동하는지에 대한 조사는 연구자들의 내부 작동 알고리듬에 대한 접근이 제한되며 제대로 이루어지지 못했습니다. 이는 페이스북 뉴스피드의 변화를 조사하기에 충분하지 않습니다. 또한, 저는 알고리듬 업데이트의 이유를 이해하는 것도 중요하다고 생각합니다. 이에 더해 페이스북의 사업적 결정을 더 직접적으로 고려하고, 알고리듬 업데이트가 민주주의에 끼치는 영향에 대해서도 보다 연구해야 합니다.

페이스북은 최근 자신의 영향력을 이해하기 시작했습니다. 2019년 7월, 블룸버그 통신은 페이스북에 대한 오해의 소지를 만들어내는 게시물을 살피고 회사의 명성을 보호하기 위해 해당 게시물의 노출성을 낮추는 소프트웨어가 플랫폼에 배치됐다는 사실을 발견했습니다.

몇 명의 국제적인 법학자들은 민주주의를 보호하기 위해 알고리듬 조작이 선거 득표에 영향을 줄 가능성을 막기 위한 법의 필요성을 말하기 시작했습니다. 아직 페이스북의 알고리듬 업데이트가 정치적 의도에 의한 것이라는 증거는 없지만, 미래에 페이스북이 원한다면 언제든지 이를 바꿀 수 있다는 점은 상상하기 어렵지 않죠.

위와 같은 잠재적인 위협을 막기 위해 새로운 법은 선거 전 준비 기간의 알고리듬 업데이트를 제한해야 합니다. 이는 금융산업에서 회사의 주된 발표 전 마케팅이나 홍보가 인위적으로 주가에 영향을 주는 것을 막기 위해 “IR중단기간”을 갖는 것과 비슷하죠.

알고리듬 조작을 막기 위한 보호는 정치적인 영향력을 계속 확장하는 페이스북 경영진이나 이용자의 정보 접근 및 소비에 큰 영향을 끼칠 수 있는 다른 기업이 공중의 의견을 만들어내거나 선거 행동에 영향을 주기 위해 시스템을 사용하는 것을 막을 것입니다.

(더컨버세이션, Jennifer Grygiel)

원문링크

익명화된 데이터에는 개인을 찾아낼 수 있는 모든 정보가 삭제되어 있어야 합니다. 이는 연구자에게 프라이버시를 침해한다는 두려움 없이 데이터를 분석해 유용한 정보를 이용할 수 있게 만들어줍니다. 예를 들면 환자의 이름, 주소, 생년월일이 제거된 건강 기록 데이터를 분석해 연구자들은 변인 간 감추어진 관계를 찾아내죠.

하지만 현실에서 데이터는 다양한 방법으로 역추적 될 수 있습니다. 사용자들이 어떻게 영화를 평가했는지를 수집한 넷플릭스 데이터는 IMDb 영화 사이트의 평점과 비교되며 2014년에 비(非)식별화되었습니다; 도시 이동에 대한 익명화된 데이터에서 뉴욕 택시 운전사의 주소가 드러난 적도 있었습니다; 호주 보건부는 익명화된 의료비 데이터가 나이가 많은 엄마와 아이들, 많은 아이를 가지고 있는 엄마들의 생년월일과 같은 “일상적인 사실 정보”과의 비교를 통해 비익명화될 수 있다는 점을 알아냈습니다.

벨기에 루뱅 가톨릭 대학교와 영국 임페리얼 칼리지 런던의 연구자들은 얼마나 쉽게 임의로 선택된 데이터가 비익명화되는지에 대한 모델을 세웠습니다. 15개의 인구통계학적 변인이 포함된 데이터는 “매사추세츠에 거주하는 사람의 99.98%를 찾아냅니다.” 좀 더 작은 모집단에서는 더 쉽죠: 소도시의 경우를 예로 들면 “2,000명 이하의 거주민이 사는 매사추세츠 해리지항에 사는 사람을 찾아내는 데는 많은 시간이 걸리지 않습니다.”

이런 사실에도 불구하고 엑스페리안 같은 데이터 브로커 회사는 많은 개인정보가 포함된 “식별되지 않은” 데이터를 팝니다. 연구자들은 컴퓨터 소프트웨어 회사 알터릭스가 판 데이터가 1억 2천만의 미국인의 정보, 가구당 248개의 변인을 가지고 있다는 점을 강조했습니다.

루뱅 가톨릭 대학교의 뤽 로쉐와 동료 연구자들은 단순히 데이터를 익명화하는 것이 회사가 개인정보보호 규정과 같은 법을 지키는데 충분하지 않다고 주장합니다. “본 결과는 역추적이 위험이 아니라는 주장과 샘플링과 부분적인 데이터 배포는 괜찮다는 주장을 반박합니다.”

“연구자들은 현재의 데이터 익명화 절차가 개인정보보호 규정이나 캘리포니아 소비자법과 같은 데이터 보호법의 익명화 기준을 충족시키는지에 의문을 제기합니다. 또한, 단순히 식별 가능하지 않은 데이터를 만드는데 집중하는 법이나 규제의 관점에서 벗어나기를 촉구합니다.”

현재 사회에서 요구되는 데이터 보호에 더 적합한 다른 방식의 접근들이 있습니다. 애플이나 우버와 같은 회사에서는 여러 개별 데이터 지점을 의도적으로 애매하게 만들며 대신 평균을 분석해 데이터의 비익명화를 막습니다.

동형암호는 읽을 수는 없지만, 연산 및 분석을 할 수 있게끔 데이터를 암호화합니다; 결과는 여전히 암호화되어 있지만, 데이터 제어기에 들어갈 경우 판독이 가능하죠. 합성 데이터는 식별 가능한 정보가 포함된 실제 데이터로 인공지능을 훈련해 통계적으로는 일치하지만, 실제 개인과는 연관되어 있지 않은 새로운 가짜 데이터를 만들어냅니다.

해당 연구는 네이처 커뮤니케이션에 발간되었습니다.

(가디언, Alex Hern)

원문링크

점점 증가하는 가짜 뉴스의 영향을 줄이기 위해 몇 국가들은 거짓 정보를 만들거나 전파하는 것을 범죄로 규정했습니다. 독일, 말레이시아, 프랑스, 러시아 등 다른 국가에 더해 싱가포르 역시 최근 가짜 뉴스를 막기 위한 법을 통과시켰죠.

하지만 가짜 뉴스의 범람을 막기 위한 법을 제정하는 것이 가장 좋은 해결책은 아닙니다. 인권 운동가, 법 전문가, 그 밖의 다른 사람은 이런 종류의 법이 언론의 자유를 억제하고, 합법적인 온라인 게시물과 웹사이트를 차단할 수 있는 잠재력이 있다고 경고합니다.

싱가포르의 새로운 법은 정부 장관들에게 무엇이 “가짜 뉴스”인지를 결정하는 권력과 “공공 이익”에 해가 된다고 간주하는 콘텐츠를 삭제하도록 온라인 플랫폼에 요청할 수 있는 권한을 줍니다. 공공 이익에는 안보에 대한 위협, 선거의 공정성, 정부에 대한 공중 인식 등이 포함됩니다. 여기에는 남용의 위험이 존재합니다: 정부를 곤란하게 하거나 피해를 주는 콘텐츠는 언제든지 가짜 뉴스로 규정될 수 있죠.

언론의 자유와 인권을 보호하고자 하는 집단들은 법적으로 금지된 가짜 뉴스가 표현의 자유를 제한하고 내부고발자를 추적하는데 사용될 수 있다는 점을 염려합니다. 말레이시아나 러시아에서도 비슷한 문제가 존재합니다. 두 국가 모두 가짜 뉴스를 막고자 제정된 법을 정부를 비판하는 발언이나 언론의 자유를 검열하기 위해 사용한 것으로 비난을 받고 있죠.

말레이시아의 이전 정부는 지난해 가짜 뉴스를 최고 5십만 링깃(말레이시아의 화폐, 약 12만 달러)의 벌금형이나 6년의 징역 처벌이 가능한 범죄로 규정했습니다. 해당 법을 폐지하기로 약속한 새로운 정부는 아직은 별다른 움직임을 보이지 않고 있습니다.

러시아 역시 4월 가짜 뉴스를 금지했습니다. 국가에 대한 “노골적인 불경”을 보이는 정보는 가짜 뉴스에 해당하고, 이에 응하지 않을 경우 15일의 징역형이 선고됩니다.

합법적인 콘텐츠와 불법적인 콘텐츠 구분의 어려움.

하지만 선거의 공정성이나 언론의 자유를 제대로 보장하지 않던 국가에서만 가짜 뉴스를 막기 위한 법 제정에 문제가 존재하는 것은 아닙니다. 독일 같은 국가 역시 합법적인 콘텐츠가 의도치 않게 해당 법이 집행되는 대상이 되지 않도록 하는 데 어려움을 겪고 있습니다.

2018년 1월 1일 시행된 독일의 법은 페이스북과 트위터 같은 소셜미디어 플랫폼이 24시간 안에 혐오 발언이나 가짜 정보를 포함하고 있는 게시물을 지울 것을 요구합니다. 법을 충실히 지키지 못한 기업은 최고 5천만 유로의 벌금을 지불해야 합니다.

하지만 정부는 너무 많은 정보가 차단될 수 있다는 점에서 법을 다시 검토하고 있습니다. 독일기자협회는 해당 법이 소셜미디어 기업을 지나치게 신중하게 만들어, 기업이 잘못 해석될 수 있는 모든 콘텐츠를 발행하는 것을 거부하고 있다며 불평합니다. 법은 소셜미디어 기업이 공공 이익에 긍정적인 역할을 하는 정보를 포함한 모든 정보에 대한 자기 검열을 높이게끔 했죠.

점점 많은 사람이 가짜 뉴스와 합법적인 보고서를 구분하지 못하며 호주에서도 가짜 뉴스는 심각한 문제가 되었습니다. 5월, 호주 연방 선거 당시 호주 노동당이 상속세를 도입할 것이라는 가짜 뉴스가 페이스북에서 퍼져나가며, 심지어 노동당을 공격하는 자유당의 광고에서도 사용되었죠. 호주에서 가짜 뉴스를 금지하는 법 통과에 대한 토론은 아직은 이뤄지지 않고 있습니다. 대신 모든 정치인은 소셜미디어 기업이 경계심을 가지고, 가짜 뉴스가 문제가 되기 전에 삭제하도록 압박하고 있죠.

정부 규제 외의 방안들.

가짜 뉴스를 막는 법 통과가 문제를 해결하는 가장 좋은 방법은 아닙니다. 극우 보수 정당에 대한 지지가 높아지는 경향을 보이는 유럽 연합은 2018년에 잘못된 정보를 막기 위한 자발적 실행 규범을 도입했습니다. 페이스북과 다른 거대 소셜미디어 기업은 해당 규범에 서명했죠. 하지만 이미 삭제되거나 편집돼야 하는 콘텐츠의 수를 줄이기 위해 규범이 약해졌다는 걱정이 있습니다.

좋은 의도를 가졌을 때도 정부가 미디어 정책을 만드는 데 참여할 경우 부패나 진정한 발언의 자유가 줄어들 가능성은 항상 존재합니다. 소셜미디어 기업이 객관적으로 자신을 검열하는 데 어려움이 있기 때문에 기업의 자율 규제 역시 좋은 방안은 아닙니다. 반면 벌금이나 다른 처벌을 통해 기업이 사이트에 올라온 콘텐츠를 책임지도록 강요하는 것은 일견 효과적입니다.

그 밖의 다른 대안은 미디어 산업 종사자를 참여시키는 것입니다. 예를 들면, 언론의 자유를 감시하는 국경 없는 기자들은 저널리즘 트러스트 이니셔티브(Journalism Trust Initiative)를 시작했습니다. 이는 독자를 위해 정보의 질과 정확성을 보증해주는 미래의 인증 제도입니다. 자세한 합의 기준에 대해서는 여전히 토론 중이지만, 기업 소유권, 수입의 출처, 독립성, 윤리강령 준수 이슈 등이 포함될 예정입니다.

(니먼저널리즘연구소, Alana Schetzer)

원문링크

거짓 정보나 부정확한 정보에 관해 그동안 페이스북은 사용자들이 허위 진술을 만들 수 있는 많은 공간을 주었습니다. 잘못된 게시물을 삭제하지도 않았죠. 하지만 딥페이크는 다릅니다.

아스펜연구소와 아틀란틱이 공동 주최한 아스펜 아이디어 축제(Aspen Ideas Festival)에서 저커버그는 “일반적인 거짓 진술과 딥페이크가 실제로 완전히 다른지에 대한 의문이 있다.”라고 하버드대 교수 캐스 선스타인에게 말하며, “저는 딥페이크가 오보와 다르다는 점을 보여주는 사례들이 있다고 생각합니다.”라고 덧붙였습니다.

딥페이크는 공중의 담론을 불안정하게 만들 수 있는 잠재력을 가지고 있다는 점에서 사람들의 불안을 자아내고 있죠. 새로운 컴퓨터 기술은 사람이 실제로는 하지 않은 일을 말하거나 하는 것처럼 보이는 현실적이면서도 설득력 있는 비디오를 만들 수 있습니다. 한 예로 예술가들은 마크 저커버그가 페이스북을 버리는 가짜 동영상을 만들기도 했죠. 페이스북은 이 동영상을 삭제하지 않기로 했습니다.

저커버그는 페이스북이 딥페이크를 어떻게 다룰지에 대한 정책 결정 과정에 있다고 말했습니다.  한 가지 문제는 저커버그가 내린 딥페이크의 정의가 폭넓지 않다는 점입니다.

“딥페이크는 인공지능을 통해 누군가가 말하지 않은 것을 말한 것처럼 보이게 조작된 미디어라고 볼 수 있습니다.” 저커버그는 아래와 같이 말했습니다. “저는 이것이 꽤 합리적인 정의라고 생각합니다.”

이는 좁은 범위의 정의입니다. 페이스북은 최근 낸시 펠로시 하원의장의 발언을 느리게 만들어 그녀가 약에 취했거나, 건강한 인지 능력을 갖추고 있지 않은 것처럼 보이게 하는 비디오를 삭제하지 않기로 하며 비난을 받았습니다. 해당 비디오는 인공지능을 전혀 사용하지 않았으며 전통적이고 (아주 기본적인) 편집 기술만을 사용했습니다.

이에 대해 저커버그는 딥페이크가 광범위하게 정의될 경우 무분별한 비디오 검열 및 삭제가 발생할 수 있음을 경고합니다.

“만일 [우리가 정의한 딥페이크]가 누군가 여론을 호도하게끔 편집되었다고 생각할 수 있는 모든 비디오를 포함한다면, 본인이 좋아하지 않거나, 말하고자 한 바가 잘못 전달되었다고 생각하는 TV 인터뷰를 한 많은 사람이 해당 비디오를 지우기를 원하겠죠.” 저커버그는 아래와 같이 덧붙였습니다. “저는 다른 이들에게 본인이 좋아하지 않거나, 인터뷰에서 말하고자 바와 다른 의미로 전달된 비디오를 삭제할 수 있는 선례를 주지 않기 위해 사람들이 신중하게 딥페이크의 범위를 정하기를 원한다고 생각합니다.”

누군가가 기자에 의해 자신의 발언이 잘못 전해졌다고 주장할 수 있는 횟수를 고려한다면, 이는 아마도 타당한 두려움이겠죠.

하지만 선스타인은 더 폭넓은 정의를 선호하며, 어떤 종류의 비디오를 페이스북이 허락하지 않는지와 펠로시 비디오를 분명하게 언급할 것을 요구했습니다.

저커버그는 “집행”과 관련해 페이스북의 다소 느린 반응에 대한 문제 역시 설명했습니다. 그는 회사 현재 시스템상 사람들을 오도하는 비디오에 문제가 있다는 표시를 하는데 “하루 이상”이 걸린다고 말했습니다. 팩트체커가 비디오에 문제가 있음을 1시간 안에 확인한다고 해도, 하루 동안 비디오는 많은 사람에게 퍼져 나가죠. 저커버그는 비디오가 삭제되지 않는다고 해도 즉각적으로 문제가 있다는 표시가 되는 시스템을 만들어 비디오가 퍼져나가는 것을 효과적으로 막는 접근을 선호합니다. “집행 자체를 향상하는 것이죠.” 저커버그는 말했습니다. “하지만 우리는 사기업으로서 사용자가 사실관계가 잘못된 말을 하는 것 자체를 막기를 원하지는 않습니다.”

이는 저커버그가 “상충하는 요소에 대한” 합의를 보는 규제 내지는 정책을 반복적으로 요청한 다른 발언과도 맥을 같이 합니다.

저커버그는 최적의 관리 시스템을 만들기 위해 노력하고 있다고 덧붙였습니다. 또한, 기업 공개했을 당시의 수입보다 더 많은 돈을 콘텐츠 검토와 안전성을 위해 투자할 것이라고 말했죠. 이는 분기당 10억 달러 정도의 지출을 의미합니다.

위의 지출에 더해 새로운 (아직 불완전하지만) 기반 시설 역시 만들어질 것입니다. 이는 저커버그가 페이스북을 해체하자는 주장으로부터 회사를 지키기 위한 근거로 사용해왔던 것이죠. “우리는 선거의 공정성과 콘텐츠 시스템을 향상할 능력이 있습니다. 페이스북은 성공적인 기업이고, 기존에 존재하지 않았던 시스템을 만들 수 있는 능력을 갖추고 있습니다.”

하지만 모든 문제가 해결될 수 있는 것은 아닙니다. 인터뷰 초반 미국 선거에 대한 외국의 개입에 대한 질문에 저커버그는 페이스북의 새로운 정책을 언급했지만, 궁극적으로는 이런 문제가 “권한 밖의 일”이라는 점을 인정했습니다.

(아틀란틱, Alexis C. Madrigal)

원문보기

(출처: Mona Kasra, CC BY-ND)

(출처: Mona Kasra, CC BY-ND)

당신은 이미지의 시각적 정보에 대한 평가, 출처의 평판, 사람들이 해당 이미지에 “좋아요”를 눌렀거나 공유한 횟수에 기초해 판단을 내릴 것입니다.

저와 공저자는 최근 사람들이 어떻게 온라인 플랫폼에 있는 이미지의 신뢰성을 평가하는지, 특히 어떤 요인이 평가 과정에 중요하게 작용하는지에 대한 연구를 했습니다. 우리는 사람들이 인터넷, 디지털 사진 기술, 온라인 미디어 플랫폼에 더 많은 경험을 가지고 있을수록, 즉, 학자들이 말하는 “디지털 미디어 리터러시”를 가지고 있으면 가짜 이미지에 덜 속는다는 사실을 발견했습니다 

누가 가짜 이미지에 속을까요?

당신도 가짜 이미지에 속을지 궁금한가요? 위의 두 이미지 모두 가짜입니다.

본 실험은 사람들의 온라인 이미지에 대한 판단의 정확성에 영향을 주는 요인을 찾고자 했습니다. 우리는 원출처의 신뢰성과 이미지를 다시 공유한 사람의 신뢰성이 영향을 줄 것이라는 가설을 세웠습니다. 또한, 이미지에 묘사된 이슈에 대한 사람들의 태도 역시 영향을 줄 것으로 예측했죠. 이미지의 내용에 동의하지 않을 때 사람들은 이미지가 가짜라고 생각할 가능성이 크죠. 반대로, 이미지가 보여주는 내용에 동의할 경우 사람들은 이미지가 더 진짜라고 믿을 것입니다.

추가로 우리는 사람이 이미지 조작이나 가짜 이미지를 만들어내는 기술과 도구에 얼마나 친숙한지가 영향을 주는지를 살폈습니다. 최근 몇 년 동안 이미지 조작 기술은 디지털 조작을 포착해내는 기술보다 빠르게 진보해왔죠.

탐지 기술이 이미지 조작 기술만큼 발전하기 전까지 가짜 이미지로 공중의 의견에 영향을 주거나, 감정적 괴로움을 일으키려는 사람들이 만들어내는 위험은 여전히 높을 것입니다. 지난달, 인도네시아에서 선거 후 벌어진 사회적 혼란 동안 한 남성이 소셜미디어에 의도적으로 퍼뜨린 가짜 이미지는 중국에 대한 사람들의 감정을 악화시켰습니다.

즉, 본 연구는 어떻게 사람들이 온라인 이미지가 진짜인지를 판단하는지에 대한 통찰력을 얻고자 했습니다.

가짜 이미지를 이용한 실험.

우리는 국내외 정치, 과학적 발견, 자연재해, 사회 이슈 등 다양한 주제의 가짜 사진 6장을 만들었습니다. 그 후, 어떻게 이 사진들이 온라인에 나타날지에 대한 —페이스북에 공유되거나, 뉴욕타임스 사이트에 게재되는 등의— 28개의 모형을 만들었죠

각 모형은 이미지 콘텐츠, 맥락적 단서, 이미지가 보인 장소, 출처에 대한 짧은 설명이나 다른 사람이 이미지에 “좋아요”를 눌렀거나 공유했는지 여부 등을 가짜 이미지와 함께 보여줬습니다.

이 기사에 포함된 2장의 이미지를 포함해 모든 이미지, 텍스트 설명, 정보는 인위적으로 만들어졌습니다.

우리는 참가자가 연구에 참여하기 전에 원본 이미지를 우연히 보았을 가능성을 피하고자 오직 가짜 이미지만을 사용했습니다. 본 연구는 진짜 이미지를 관계없는 맥락에 제시하거나 잘못된 정보와 함께 제시하는 오귀인(misattribution) 대해서는 살피지 않았습니다.

미국에 거주하는 18세 이상의 성인인 3,476명의 참가자는 아마존 메커니컬 터크(Amazon mechanical turk)를 통해 모집되었습니다.

연구 참가자는 인터넷 능력, 디지털 이미지 작업 경험, 다양한 사회정치적 이슈에 대한 태도에 대한 무작위로 배치된 질문에 대해서 먼저 대답한 뒤 무작위로 선택된 가짜 이미지를 자신의 컴퓨터에서 받아보았습니다. 참가자는 이미지를 자세히 본 뒤 이미지의 신뢰도를 평가할 것을 요청받았습니다.

맥락적 영향은 발견되지 않았습니다.

이미지 신뢰도에 대한 참가자들의 판단은 우리가 제시한 다양한 맥락에 따라 달라지지 않았습니다. 무너진 다리 사진을 오직 4명의 사람이 공유한 페이스북 게시물로 보여주었을 때와 뉴욕타임스 기사의 일부로 보여주었을 때, 사람들이 사진을 가짜라고 생각하는 정도에는 차이가 없었습니다.

대신 인터넷과 디지털 사진 기술에 대한 사람들의 경험은 이미지가 가짜인지를 판단하는 데 중요한 역할을 했습니다. 소셜미디어와 디지털 이미지 도구에 친숙한 사람들은 사진이 진짜인지의 여부에 대해 더 회의적이었습니다. 또한, 겉으로 보이는 가치를 덜 수용했죠.

본 연구는 사람들이 기존에 가지고 있던 믿음과 의견이 이미지의 신뢰도를 판단하는 데 큰 영향을 준다는 사실을 찾아냈습니다. 예를 들면, 사진의 내용에 동의하지 않을 때 사람은 해당 사진이 더 가짜라고 생각합니다. 이는 “확증 편향(confirmation bias)” 또는 사람들이 새로운 정보가 기존에 갖고 있던 생각과 일치할 때 실제 또는 진실이라고 믿는 경향을 가지고 있음을 보여주는 연구들과 일치합니다.

확증 편향은 왜 거짓 정보가 온라인에서 더 손쉽게 퍼지는지를 설명합니다. 사람들은 자신의 견해와 일치하는 정보를 받았을 경우, 본인의 온라인 공동체와 이를 더 공유하고자 하는 경향을 보입니다.

조작된 이미지가 사람의 기억을 왜곡시키고 의사결정 과정에 영향을 준다는 점을 발견한 다른 연구 역시 존재합니다. 즉, 가짜 이미지가 주는 피해는 실재하고 중요합니다. 본 연구의 발견은 가짜 이미지로 인한 잠재적인 피해를 줄이는 가장 효과적인 전략은 —교육에 투자하며— 더 많은 사람이 온라인 미디어와 디지털 이미지 편집에 경험을 가질 기회를 주는 것이라는 점을 보여줍니다. 이를 통해 사람들은 어떻게 온라인상 이미지를 평가해야 하는지를 알게 되고, 가짜 이미지에도 덜 속을 것입니다.

(Mona Kasra, 더컨버세이션)

원문링크

인공지능 기술이 다양한 산업으로 흘러들어오며 가장 흔하게 제기되는 질문은 인공지능이 일과 노동에 어떠한 영향을 주는지에 대한 것입니다. 인공지능이 향상하고 자동화한 세계에서는 누가 –무엇이– 언론의 역할을 어떻게 수행할까요?

제가 저술한 책 “뉴스의 자동화: 알고리듬이 다시 쓰는 미디어”에서 보여주듯이 인공지능 기술의 도입에도 불구하고 미래의 언론은 여전히 사람을 필요로 합니다. 하지만 사람들의 일, 역할, 작업은 진화하고 변하죠. 인공지능의 역량을 따라가고, 한계를 수용하기 위해 사람의 노동은 알고리듬과 혼합된 형태를 보일 것입니다.

대체가 아닌 증가.

현재 단계의 인공지능 기술은 오직 기자 업무의 15%와 편집장 업무 9%만을 대체할 수 있다는 분석 결과가 존재합니다. 사람은 복잡한 커뮤니케이션, 전문가적 사고, 적응성, 창의성 등 언론에 필수적인 몇 가지 분야에서 여전히 인공지능을 앞서고 있습니다. 보도, 청취, 응답, 반박, 출처와의 협상 과정에서 필요한 창의력을 인공지능은 가지고 있지 않습니다. 하지만 인공지능은 사람들의 업무 속도나 품질 향상을 돕거나 심층적인 뉴스 보도와 맞춤형 뉴스 제공 등의 새로운 기회를 만들어내기도 하죠.

언론사는 사진, 전화, 컴퓨터, 심지어 복사기 등의 새로운 기술에 언제나 적응해왔습니다. 기자들의 작업 역시 인공지능에 맞게 적응할 것입니다. 인공지능은 기자의 업무를 대체하기보다는 보완하며 이미 언론 보도에 변화를 가져오고 있습니다.

새로운 작업.

저는 인공지능 기술이 언론 분야에 새로운 종류의 일을 만들어내고 있다는 사실을 발견했습니다.

2017년, 수천 장에 달하는 뉴스 사진을 식별하기 위해 컴퓨터 비전 인공지능 기술을 도입한 AP통신의 예를 들어보죠. 해당 기술은 무엇이 또는 누가 사진에 나왔는지, 촬영 방식, 선정적 장면 포함 여부와 관련된 정보를 사진에 태그(tag)로 붙입니다.

이 시스템은 사진 담당 편집자에게 무엇을 보도해야 하는지를 생각할 더 많은 시간을 줍니다. 또한, 사진 식별에 소모되는 많은 시간을 줄여주죠. 하지만 해당 시스템 개발은 편집과 기술 모두에서 많은 양의 작업을 필요로 했습니다: 편집장은 어떤 태그를 달아야 하는지를 파악하며 알고리듬이 이 작업을 수행할 수 있는지를 확인했습니다. 또한, 알고리듬의 업무 수행을 평가할 새로운 테스트 데이터 세트를 만들어냈죠. 그 뒤, 각 사진에 제안된 태그를 수동으로 승인하며 정확성을 높이기 위해 시스템을 감독했습니다.

프로젝트 감독자인 AP의 스튜어트 마일스는 시스템 개발이 36 맨먼스 규모의 작업으로 몇 년 동안 이어지며, 12명 이상의 편집, 기술, 행정 관련 직원이 투입되었다고 말했습니다. 위 작업의 3분의 1은 자동화하기 어려운 기자의 전문성과 판단이 요구됐습니다. 그는 미래에 사람들이 시스템을 감독할 필요성은 줄어들 수 있지만, 시스템이 더 진화되고 확장될수록 사람들의 편집 작업은 여전히 중요할 것이라고 덧붙였습니다.

반자동화된 콘텐츠 생산.  

영국의 RADAR 프로젝트는 달마다 8천 개의 지역 관련 뉴스 기사를 쏟아냅니다. 이 시스템은 지역으로 구분된 정부 데이터에서 흥미롭고 뉴스 보도의 가치가 있는 관점을 찾아내고 이를 데이터 기반 템플릿으로 만드는 6명의 기자의 작업에 의존하고 있죠. 시스템은 지역에 맞게 템플릿의 텍스트를 자동으로 바꿉니다. 예를 들어 영국 전반의 노령화 인구에 대한 기사는 루턴의 독자에게는 —브리스틀 지역과는 다른 통계를 보여주며— 어떻게 루턴의 노인 인구가 변하고 있는지에 관해 이야기하죠. 작성된 기사는 통신사를 통해 이를 보도하기를 원하는 지역 미디어로 보내집니다.

이 접근법은 기자의 업무와 자동화 기술을 효율적이고 생산적으로 결합합니다. 기자는 전문성과 커뮤니케이션 기술을 사용해 데이터가 적용될 수 있는 스토리라인을 구성합니다. 또한, 기자는 출처를 통해 국가 전반의 상황에 대한 정보를 얻고 템플릿을 작성합니다. 자동화 기술은 그 뒤 텍스트를 지역에 맞게 수정하며 제작 보조의 역할을 하죠.

RADAR 프로젝트 기자는 아리아 스튜디오라고 불리는 프로그램을 사용합니다. 이는 단지 복잡한 단어 처리 인터페이스입니다. 저자는 데이터에 기반해 If (조건)-Then (결과)-Else (다른 결과)의 규칙을 따르는 문구를 작성합니다. 예를 들면 지진 관련 보도에서 기자는 진도 8의 지진을 이야기할 때와 진도 3의 지진을 보도할 때 다른 형용사를 사용하고 싶을 수 있죠. 이에 따라 진도가 7보다 크다면 “강한 지진”으로, 진도 4보다 작은 지진은 “약한 지진”으로 표시하게끔 설정할 수 있습니다. 아리아와 같은 도구는 데이터에 따라 변해야 하는 문구를 쉽게 작업할 수 있도록 동사를 더 활용하거나 명사를 줄이는 등의 기능을 포함하고 있습니다.

아리아와 같은 인터페이스에서 기사를 작성하며 기자는 자신이 잘하는 것에 더욱 집중할 수 있죠: 기자는 논리적으로 주목할 수 있는 스토리라인을 만들고, 반복을 피하며, 창의적인 글을 쓰는데 시간을 더 할애할 수 있습니다. 하지만 위 과정은 글쓰기에 대한 새로운 방식의 사고 역시 요구하죠. 예를 들면 템플릿을 작성하는 기자는 이용 가능한 데이터가 무엇을 말할 수 있는지를 이해하며 글을 작성해야 합니다. 이 과정을 통해 기자는 어떻게 데이터가 다른 관점과 이야기를 만들어낼 수 있는지를 상상하고 변형을 가능하게 하는 논리를 만들어냅니다.

자동화된 콘텐츠 시스템에 대한 감시, 관리, “편집” 또한 더 중요해질 것입니다. 정확한 양질의 기사를 쓰는 것은 언론에 가장 중요한 관심사이죠.

RADAR는 세 단계의 품질 보증 과정을 거칩니다. 먼저, 기자들은 자동화 과정을 통해 작성된 모든 기사의 샘플을 읽습니다. 그 뒤, 다른 기자들은 본래 데이터 출처로 돌아가 기사의 주장을 다시 확인하죠. 세 번째 단계에서 편집장은 템플릿의 논리를 확인하고 기사에 생략이나 실수가 없는지를 살핍니다. 위 과정은 스크립트의 결함을 찾기 위해 소프트웨어 기술자들이 팀을 이뤄 일하는 방식과 비슷합니다. 이는 자동화 기술이 정확하게 업무를 수행했는지를 보장하기 위해 사람이 반드시 해야 하는 일입니다.

인적 자원 개발.

연합통신과 RADAR에서 실시되는 프로젝트와 비슷한 계획들은 인공지능과 자동화 기술이 언론 분야의 직업을 파괴하지 않을 것이라는 점을 보여줍니다. 오히려 위 기술은 기존 직업의 역할을 바꾸고, 새로운 일을 만들어내고 있습니다. 앞으로 기자들은 이러한 시스템을 설계, 보완, 수정, 확인, 감독, 유지하는 작업을 할 수 있도록 훈련되어야 합니다. 데이터를 작업하거나, 데이터에 맞춘 논리적인 사고를 할 수 있는 능력을 많은 기자가 필요로 할 것입니다. 기본적인 컴퓨터 프로그래밍에 능숙한 것 역시 도움이 되겠죠.

이러한 새로운 직업이 사람을 단순히 거대한 기계의 작업의 톱니로 만들지 않는다는 확신 역시 필요합니다. 사람과 기술이 혼합된 이러한 직업을 관리하고 설계하는 사람들은 자동화, 효율성, 유용성에 대한 다른 이들의 걱정을 고려해야만 합니다. 하지만 저는 여전히 이러한 경험이 기자들을 성장하게 하고, 사회는 인공지능과 자동화 기술이 가져다주는 속도, 보도 범위, 양질의 기사에서 오는 보상을 가질 수 있을 것이라는 낙관적인 생각을 하고 있습니다.

(더컨버세이션, Nicholas Diakopoulos)

원문링크

영국 압력 단체 리버티(Liberty)는 자동 안면인식 기술이 “민주주의 상수도의 비소” 같은 존재라고 비난했습니다. 해당 기술이 공공장소에서 프라이버시를 침해할 가능성이 있기 때문이죠. 영국은 이미 서구 사회에서 가장 높은 CCTV 카메라 설치 밀도를 가지고 있습니다. 현 상황에서 안면인식 기술의 도입은 얼굴을 가리지 않은 모든 사람이 국가의 어느 곳에서나 경찰에게 잠재적으로 포착될 가능성이 있다는 것을 의미합니다. 우리는 웨일스에서 에드 브리지스가 경찰의 안면인식 기술 시범 도입에 반박하며 제기한 법정 소송을 통해 이미 해당 기술이 가져올 미래를 보았습니다. 본인의 사진이 인터넷에 널리 퍼진 전 자유민주당 지방의회 의원 브리지스는 자동 안면인식 기술이 가져다주는 범죄와 맞서는 이익에 비해 손해가 크다고 주장했습니다. 같은 이유로 샌프란시스코는 자동 안면인식의 사용을 법으로 금지했습니다. 리버티는 이를 근거로 기술의 사용이나 보급이 피할 수 없는 것이 아니라고 말합니다.

실제로 사우스 웨일스 경찰이 이러한 주장에 반박하며 사용한 근거는 설득력이 떨어집니다. 경찰은 안면인식 기술을 사용하더라도 인간의 개입 없이는 체포가 이루어지지 않는다고 말합니다. 하지만 이는 안면인식 기술의 사용이 결과적으로 경찰관이 CCTV 피드와 범인 식별용 얼굴 사진 책자를 비교하는 작업과 원론적으로 차이가 없다는 것을 의미합니다. 즉, 경찰이 안면인식 기술을 사용해야 하는 이유가 되지 않죠. 양, 속도, 편안함은 질을 바꿉니다. 안면인식 기술을 사용할 경우 CCTV 피드를 살피며 범인 식별용 얼굴 사진을 훑어보는 경찰관은 이제 소프트웨어가 일치되는 사례를 찾으면 알려줄 것이라 믿으며 다른 무언가를 하겠죠.

또한, 안면인식 기술이 찾아낸 사례가 정확하지 않을 가능성도 있습니다. 안면인식 기술은 아직 완전하게 작동하지 않습니다. 특히 해당 기술은 유색인종에 대해 편견이 있는 것처럼 보입니다: 아마존의 안면 인식 소프트웨어에 대해 미국 시민 자유 연맹이 시행한 최근 실험은 해당 소프트웨어가 28명의 의원을 범죄자라고 인식했다는 것을 발견했습니다. 이 28명은 흑인 연방 의원을 불균형적으로 포함했습니다. 안면인식 기술을 통한 감시를 이미 광범위하게 사용하는 중국군에서는 되려 무고한 사람이 체포되는 부수적 피해를 그다지 꺼리지 않습니다. 이런 사례가 감시하는 목표 집단에 두려움을 전파하기 때문이죠. 하지만 민주적인 사회의 지도자는 더 높은 기준을 보유해야 합니다.

부정확성보다 더 큰 문제가 생길 수도 있습니다. 기술은 계속 진보하며, 수백만의 사람들은 이를 돕고 있죠. 카메라를 통한 안면인식으로 휴대전화나 노트북을 잠금해제 하는 사람들은 이미 해당 기술이 충분히 잘 작동한다고 믿습니다. 소셜미디어에 올린 사진에 스스로나 친구를 태그하는 사람들 역시 안면인식 기술의 향상을 돕습니다. 해당 기술의 신뢰성이 어느 정도 향상되면, 리버티가 경고하는 반 이상향의 정부 감시 세계가 현실이 될지 모릅니다.

안면인식 기술에 흥미를 보이는 집단은 정부뿐이 아닙니다. 해당 소프트웨어는 자유롭게 이용 가능하며, 매우 저렴합니다. 이는 인터컴이나 홈 어시스턴트를 비롯한 모든 사물 인터넷에 적용될 수 있습니다. 광고 산업이 이미 만들어 놓은 세부적인 디지털 개인 식별 정보에 우리의 얼굴이 더해지게 되면, 상점은 손님의 얼굴 정보를 이용해 그들이 어떤 물건을 선호하는지 지도를 만들 수 있겠죠. 그때가 되면 이런 데이터 수집을 멈추기에는 너무 늦을 것입니다. 법은 리버티가 경고했듯이 무고한 사람들에게 피해를 주거나, 우리의 삶에 해당 기술이 서서히 나쁜 영향을 주지 않도록 이런 방식으로 데이터가 저장되거나 정제되는 것을 막아야 합니다.

(가디언)

원문링크