2019년 11월 1일. 딥러닝 AI가 쉽게 속는 이유(2/2)

큰 힘에 따라오는 큰 약점 DNN 이 강력한 이유는 여러 층을 이용해 입력의 여러 다른 특징들을 대상의 분류에 이용할 수 있기 때문입니다. 비행기를 인식하는 AI 는 색깔, 재질, 배경 등을 우리 인간이 중요하게 여기는 날개 등에 못지 않게 중요하게 판단합니다. 하지만 이런 특성이 입력의 작은 변화에 대해 AI가 전혀 다른 결론을 내리게 만듭니다. 한 가지 해법은 AI에게 더 많은 데이터를 주는 것입니다. 특히, 문제가 되는 데이터들을 입력으로 주고 이를 수정하는 → 더 보기

2019년 11월 1일. 딥러닝 AI가 쉽게 속는 이유(1/2)

자율주행 자동차가 정지 신호(stop sign)를 향해 갑니다. 하지만 속도를 늦추는 대신 더 높여서 교차로로 돌진하고 결국 사고를 내고 맙니다. 분석 결과, 정지 신호에 네 개의 작은 사각형이 붙어 있었고, 자동차의 인공지능은 ‘정지(Stop)’를 ‘최고 속도 45(speed limit 45)’ 기호로 읽었음이 밝혀집니다. 위의 사건은 가상의 이야기지만, 저런 방식으로 인공지능을 속이는 것은 충분히 가능한 일입니다. 스티커를 몇 군데 붙여서 정지 신호를 잘못 읽게 만들 수 있다는 것은 이미 알려진 사실입니다. 안경이나 모자에 특정한 → 더 보기