NewsPeppermint

빅데이터나 인공지능에 기반을 둔 플랫폼 회사들은 최근 막대한 영향력과 힘을 발휘하고 있습니다. 알고리즘은 어떤 정보가 우리에게 보일지 선택함으로써 우리가 직업, 대학, 신용카드, 보험 등에 관해 내리는 중요한 결정에 큰 영향을 끼칩니다. 하지만 컴퓨터에 이 모든 결정을 의존하면 예상치 못한 많은 문제가 발생할 수 있습니다.

국회의원들은 알고리즘의 결정 과정이 어떻게 이루어지는지 알고 싶어 합니다. 적절한 규제를 통해 알고리즘 관련 기업들이 우리의 삶에 끼치는 영향에 책임을 지우려는 것이죠. 그러나 학계는 이런 문제에 별로 관심을 보이지 않는 것 같습니다. 좋은 보수를 받는 로비스트나 직원들에게 이러한 교육의 책임을 맡긴 채 말입니다.

그로 인해 우리는 기술의 부정적인 면에 대한 정보 대부분을 미디어를 통해 얻습니다. 이런 정보는 대부분 문제가 발생한 뒤에 전해집니다. 작년 대통령 선거 때 소셜미디어 곳곳을 통해 광범위하게 유통된, 민주주의에 위협이 될 수 있는 가짜뉴스처럼 말이죠. 또한, 미디어는 우리의 일상에 존재하는 기술의 부정적인 영향을 파악하지 못하기도 하고, 기술의 긍정적인 면에 관해 지나치게 낙관할 때도 많습니다. 기술의 부정적인 영향은 대부분 미묘하고, 작은 단위로 발생합니다. 헤드라인에서 보는 것보다 이러한 문제를 이해하기는 쉽지 않죠. 알고리즘을 이해하고자 하는 지루하지만 중요한 업무를 언론에 의존해서는 안 되는 이유입니다.

학계는 기술이 사람들의 삶에 끼치는 영향을 파악하는 데 동참해야 합니다. 때로 알고리즘을 통한 채용은 정신 건강 문제를 겪는 사람을 배제하고, 형을 선고하는 데 이용하는 알고리즘이 인종에 대한 편견을 드러내기도 합니다. 교사를 평가하는 데 쓰이는 알고리즘이 통계적 문제를 드러내거나 일정을 짜는 알고리즘이 지나치게 억압적인 경우도 있죠. 이런 실수가 되풀이되는 것을 막기 위해서도 학계의 정밀한 연구가 필요합니다. 학계는 해당 사례들에 관한 연구를 통해, 통계적, 윤리적, 헌법적인 문제를 해결하는 방안을 찾는 데 기여할 수 있습니다. 민간 기업에서 일하는 직원들보다 학계 연구자들이 더 자유롭게 연구할 수 있는 것도 장점입니다.

물론 학계 연구에도 여러 가지 장애물이 존재합니다. 먼저, 학계는 기업이 수집한 사적이고 민감한 개인 데이터에 접근할 수 없습니다. 실제 학계 내 데이터에 기반을 둔 연구는 대부분 개인의 행동이 아닌 병의 예후나 경제 전망에 관한 경우가 많습니다. 즉, 개인의 선택이 만들어내는 결과에 대한 연구는 학계에서 거의 이루어지지 않습니다. 또한, 기술 관련 분야의 경우 기업이 때로 더 나은 봉급을 제시하며 연구자들을 채용하는 경우가 있는데, 이 때문에 컴퓨터공학, 로봇공학, 또는 법학전문대학원의 교수들이 기술에 회의적인 연구 결과를 내놓거나 발언하기를 주저하기도 합니다. 그들의 직업적인 이해관계와 충돌하기 때문이죠.

국가 내 많은 데이터 과학 관련 기관들은 데이터 과학자를 양성하는 유료 석사 프로그램을 제공하고 있습니다. 이러한 프로그램은 빅데이터 분야에 중요한 질문을 던지기보다, 졸업생들의 채용을 위한 기업과의 협력에 더 집중하고 있죠. 이런 프로그램에서는 어떠한 도움도 받을 수 없습니다. 실제로 스탠퍼드나 버클리대학교와 같은 서부의 학교들이 미래 실리콘밸리의 공학자들이나 데이터 과학자들을 대량 배출하고 있는 데 반해, 알고리즘의 책임과 관련된 연구에 집중할 수 있는 정년이 보장된 직업은 매우 적습니다.

마지막 장애물은 학계 안에 기술의 역할을 비판하고 이해하는 데 전념하는 독립된 분야가 없다는 점입니다. 알고리즘이 우리를 대신해 내리는 많은 결정에 어떤 책임이 있는지 말입니다. 사실 학계의 많은 분야가 예산이나 자원 부족으로 어려워하는 것을 고려하면 이는 놀랍지 않습니다.

알고리즘의 책임에 관한 논의를 시작하기 위한 단기적인 해결 방안으로, 먼저 학계는 학부와 대학원 단계에서 미래 공학자들과 데이터 과학자들을 위한 포괄적인 윤리 교육을 제공해야 합니다. 인문학, 사회과학, 철학 분야의 강의자들은 많은 사례 연구와 함께, 실제 사회에서 어떻게 알고리즘이 승자와 패자를 구분하는지 토론해야 합니다.

둘째로 학계는 인공지능과 알고리즘 관련 다양한 산업 분야 간 교류에 집중하는 워크숍, 학회, 강습 등을 열어야 합니다. 콘텐츠 분야의 전문가, 변호사, 정책 입안자, 윤리학자, 기자, 데이터 과학자들은 현재 규제 체계의 허점을 찾고 적절한 정책을 만들어내고자 협력해야 합니다.

마지막으로 빅데이터를 이용해 이루어지는 사람을 대상으로 하는 실험의 기준과 윤리에 대한 재논의가 필요합니다.

좋은 소식은 알고리즘이 개인의 삶에서 어떤 역할을 하는지에 대해 많은 부분이 밝혀졌다는 점입니다. 위의 해결 방안들이 성공하기 위해 학계 내 지식인들은 기업으로부터 채용되기를 기다리는 대신 학문적 연구와 표현의 자유를 기반으로 거대한 기술 관련 기업을 자세히 조사하고자 노력해야 합니다. (뉴욕타임스)

원문 보기