AI가 속아 넘어갈 수 있을까?

자료실
기타
작성자
인사이트캠퍼스
작성일
2020-04-29 13:14
조회
75

Can AI be fooled?

AI가 속아 넘어갈 수 있을까?


* 이 기사는 Data Driven Investor에 작성된 Luka Beverin의 글을 번역하였습니다.

컴퓨터가 세상을 인간으로 볼 수 있다는 전망은 지난 수십 년 동안 점점 더 많은 관심을 불러일으키는 주제가 되어 왔다. 수년간의 연구를 통해 우리는 인간의 시각 시스템의 복잡성과 이러한 과정을 기계에서 복제하는 것이 얼마나 인상적일지를 이해하게 되었다. 인간이 세상을 ‘보는’ 방식을 복제하려면 컴퓨터가 다차원 데이터를 해독하고 데이터 내의 패턴을 인식해야 한다. 물론 쉬운 일은 아니다.

DNN(Deep Neural Network)은 다양한 복잡한 비선형 관계를 모형화하는 데 사용되는 피드포워드 형태의 네트워크다. 컴퓨터 비전(더 구체적으로 이미지 인식)의 관점에서 교통 표지판을 인식하도록 훈련된 DNN은 이미지의 데이터를 사용하여 영상의 부호가 특정 교통 표지일 확률을 계산한다. 최근 DNN은 시각적 분류와 패턴 인식 등 수많은 과제에서 인간에 가까운 성과를 거두고 있다.

이제 DNN이 이미지를 매우 잘 분류할 수 있다는 점을 고려하면 다음과 같은 의문이 생긴다. 인간과 컴퓨터의 시력은 다른가? 인간에게는 인식할 수 없는 것처럼 보이지만 컴퓨터에게는 꽤 분명한 이미지가 있을 수 있을까? 아니면 그 반대일 수도 있다. 여러분은 인간의 비전이 여전히 특정한 분야에서 컴퓨터 비전을 능가한다는 것을 들으면 기뻐할지도 모른다. 최근 DNN은 속일 수 있다는 것이 밝혀졌으며, 사실 꽤 쉽게 속일 수 있다. 인간이 인식할 수 없는 합성 이미지(예: 합성 이미지)를 만들거나 진화하는 것이 가능하다는 연구 결과가 나왔다. (TV) 그러나 컴퓨터에 의해 친숙한 개체로 분류된다.

이러한 "바보같은" 이미지를 진화시키는 데는 두 가지 방법이 있다. 첫째, 영상을 직접 인코딩함으로써: 이것은 각 픽셀의 색상 값을 독립적으로 최적화함으로써 이루어진다. 직접 인코딩된 이미지는 백색 노이즈(또는 인간에게 정적인 TV )를 닮은 비주얼을 출력한다. DNN은 아래 이미지를 친숙한 물건으로 분류했다.

둘째, 보다 규칙적인 패턴을 이용하여 이미지를 생성하는 간접 인코딩으로 이미지를 진화시킬 수 있다. 이러한 유형의 이미지는 인간과 DNN에게 인식될 수 있다. 마찬가지로 아래의 이미지는 인간에게는 알아볼 수 없지만 다시 DNN은 어떻게든 높은 불확실성으로 분류했다.




왜 DNN이 그렇게 오해하는 거지?

이 모든 것은 DNN이 초점을 맞추는 것과 관련이 있다. 직접 인코딩된 이미지의 경우, DNN은 훈련된 이미지와 어렴풋이 유사한 집중된 컬러 픽셀을 보고 있을 수 있다. 다른 경우, 이미지는 특정 클래스의 정확한 색상이나 패턴을 가질 수 있으며, 이는 인식할 수 없는 이미지가 친숙한 개체임을 암시한다.

왜 DNN을 속이는 것이 중요한가?

어떤 직원이 특정 파일에 액세스할 수 있는지 감지하기 위해 안면 인식 시스템이 배치되는 시나리오를 상상해 보십시오. 범죄자는 합성 이미지를 만들어 시스템을 속이거나 우회할 수 있다. 이것은 상당한 보안 위험이며 컴퓨터 비전이 인간을 대체하기까지는 아직 갈 길이 멀다는 것을 보여준다.

References

Nguyen A,Yosinski J,Clune J. Deep Neural Networks are Easily Fooled: High Confidence Predictions for Unrecognizable Images. In Computer Vision and Pattern Recognition (CVPR ‘15), IEEE, 2015. (pdf)

 

번역 - 핀인사이트 인턴연구원 김영현

원문 보러가기 >

https://www.datadriveninvestor.com/2020/04/23/can-ai-be-fooled/

 

 
전체 0

전체 572
번호 썸네일 제목 작성자 작성일 추천 조회
공지사항 [공지사항] 코로나바이러스감영증-19 예방을 위한 강의장 방역 안내
[공지사항] 코로나바이러스감영증-19 예방을 위한 강의장 방역 안내
[공지사항] 코로나바이러스감영증-19 예방을 위한 강의장 방역 안내
인사이트캠퍼스 | 2020.03.05 | 추천 0 | 조회 758
인사이트캠퍼스 2020.03.05 0 758
공지사항
비밀글 파이썬으로 배우는 블록체인 구조와 이론 (위키북스)
finweb | 2019.07.05 | 추천 0 | 조회 14
finweb 2019.07.05 0 14
569 딥러닝을 활용한 금융 시계열 분석 - 2
딥러닝을 활용한 금융 시계열 분석 - 2
딥러닝을 활용한 금융 시계열 분석 - 2
인사이트캠퍼스 | 2020.05.25 | 추천 0 | 조회 36
인사이트캠퍼스 2020.05.25 0 36
568 퀀텀 컴퓨팅의 실용화 방안
퀀텀 컴퓨팅의 실용화 방안
퀀텀 컴퓨팅의 실용화 방안
인사이트캠퍼스 | 2020.05.18 | 추천 0 | 조회 92
인사이트캠퍼스 2020.05.18 0 92
567 딥러닝을 활용한 금융 시계열 분석 - 1
딥러닝을 활용한 금융 시계열 분석 - 1
딥러닝을 활용한 금융 시계열 분석 - 1
인사이트캠퍼스 | 2020.05.18 | 추천 0 | 조회 41
인사이트캠퍼스 2020.05.18 0 41
566 동적 자산 배분과 유니버셜 포트폴리오
동적 자산 배분과 유니버셜 포트폴리오
동적 자산 배분과 유니버셜 포트폴리오
인사이트캠퍼스 | 2020.05.14 | 추천 0 | 조회 124
인사이트캠퍼스 2020.05.14 0 124
565 2020년 최고의 인공지능 및 머신러닝 소프트웨어 및 프레임워크 Top 20
2020년 최고의 인공지능 및 머신러닝 소프트웨어 및 프레임워크 Top 20
2020년 최고의 인공지능 및 머신러닝 소프트웨어 및 프레임워크 Top 20
인사이트캠퍼스 | 2020.05.13 | 추천 0 | 조회 136
인사이트캠퍼스 2020.05.13 0 136
564 자주 묻는 머신러닝 인터뷰 질문 및 답변 50선
자주 묻는 머신러닝 인터뷰 질문 및 답변 50선
자주 묻는 머신러닝 인터뷰 질문 및 답변 50선
인사이트캠퍼스 | 2020.05.11 | 추천 0 | 조회 153
인사이트캠퍼스 2020.05.11 0 153
563 좋은 vs 나쁜 액티브 펀드 관리 : 3 가지 지표
좋은 vs 나쁜 액티브 펀드 관리 : 3 가지 지표
좋은 vs 나쁜 액티브 펀드 관리 : 3 가지 지표
인사이트캠퍼스 | 2020.05.06 | 추천 0 | 조회 133
인사이트캠퍼스 2020.05.06 0 133
562 그녀는 돈의 보스: 여성 온라인 투자의 4대 트렌드
그녀는 돈의 보스: 여성 온라인 투자의 4대 트렌드
그녀는 돈의 보스: 여성 온라인 투자의 4대 트렌드
인사이트캠퍼스 | 2020.05.06 | 추천 0 | 조회 113
인사이트캠퍼스 2020.05.06 0 113
561 변동성 측정의 이해
변동성 측정의 이해
변동성 측정의 이해
인사이트캠퍼스 | 2020.05.06 | 추천 0 | 조회 138
인사이트캠퍼스 2020.05.06 0 138
560 새로운 재료를 찾는 데 있어 최적화를 촉진하는 신경망
새로운 재료를 찾는 데 있어 최적화를 촉진하는 신경망
새로운 재료를 찾는 데 있어 최적화를 촉진하는 신경망
인사이트캠퍼스 | 2020.04.29 | 추천 0 | 조회 116
인사이트캠퍼스 2020.04.29 0 116
559 2020년 멋진 오픈 소스 소프트웨어 5개
2020년 멋진 오픈 소스 소프트웨어 5개
2020년 멋진 오픈 소스 소프트웨어 5개
인사이트캠퍼스 | 2020.04.29 | 추천 0 | 조회 134
인사이트캠퍼스 2020.04.29 0 134
558 AI가 속아 넘어갈 수 있을까?
AI가 속아 넘어갈 수 있을까?
AI가 속아 넘어갈 수 있을까?
인사이트캠퍼스 | 2020.04.29 | 추천 0 | 조회 75
인사이트캠퍼스 2020.04.29 0 75
557 블록체인이 채택되면서 협업이 새로운 경쟁인가?
블록체인이 채택되면서 협업이 새로운 경쟁인가?
블록체인이 채택되면서 협업이 새로운 경쟁인가?
인사이트캠퍼스 | 2020.04.29 | 추천 0 | 조회 84
인사이트캠퍼스 2020.04.29 0 84
556 간단한 전자 상거래 웹사이트 스크래핑
간단한 전자 상거래 웹사이트 스크래핑
간단한 전자 상거래 웹사이트 스크래핑
인사이트캠퍼스 | 2020.04.29 | 추천 0 | 조회 118
인사이트캠퍼스 2020.04.29 0 118
555 디지털 화폐 – CBDC를 발행하는 데에 무엇이 필요한가?
디지털 화폐 – CBDC를 발행하는 데에 무엇이 필요한가?
디지털 화폐 – CBDC를 발행하는 데에 무엇이 필요한가?
인사이트캠퍼스 | 2020.04.27 | 추천 0 | 조회 153
인사이트캠퍼스 2020.04.27 0 153
554 2020년 가장 해 볼만한 인공지능 및 머신러닝 프로젝트 20선
2020년 가장 해 볼만한 인공지능 및 머신러닝 프로젝트 20선
2020년 가장 해 볼만한 인공지능 및 머신러닝 프로젝트 20선
인사이트캠퍼스 | 2020.04.20 | 추천 0 | 조회 370
인사이트캠퍼스 2020.04.20 0 370
553 Netflix가 Druid를 실시간 이해에 사용하여 고품질 체험을 보장하는 방법
Netflix가 Druid를 실시간 이해에 사용하여 고품질 체험을 보장하는 방법
Netflix가 Druid를 실시간 이해에 사용하여 고품질 체험을 보장하는 방법
인사이트캠퍼스 | 2020.04.13 | 추천 0 | 조회 85
인사이트캠퍼스 2020.04.13 0 85
552 미디어 파이프를 사용한 모바일 장치의 실시간 3D 객체 탐지
미디어 파이프를 사용한 모바일 장치의 실시간 3D 객체 탐지
미디어 파이프를 사용한 모바일 장치의 실시간 3D 객체 탐지
인사이트캠퍼스 | 2020.04.09 | 추천 0 | 조회 62
인사이트캠퍼스 2020.04.09 0 62
551 Open Images V6 - 현지화된 서술 특성 제공
Open Images V6 - 현지화된 서술 특성 제공
Open Images V6 - 현지화된 서술 특성 제공
인사이트캠퍼스 | 2020.04.09 | 추천 0 | 조회 60
인사이트캠퍼스 2020.04.09 0 60
550 외형 변경, 자유 로밍 소프트 로봇 제작
외형 변경, 자유 로밍 소프트 로봇 제작
외형 변경, 자유 로밍 소프트 로봇 제작
인사이트캠퍼스 | 2020.04.09 | 추천 0 | 조회 48
인사이트캠퍼스 2020.04.09 0 48