 | ||
노먼(Norman)이라고 불리는 이 로봇은 소름끼치고 폭력적인 내용에 노출돼 어두운 경향을 갖도록 학습시켰다. 인공지능에 대한 사람들의 두려움을 더욱 증폭시키기에 충분하다.
표시된 이미지에 대해 노먼이 설명을 생성한 내용은 하나같이 섬뜩하고 소름끼친다. 로르샤흐(Rorschach) 테스트라고 불리는 이 평가는 심리학자들이 환자의 사고 장애를 감지하는데 자주 사용된다. 노먼의 반응은 일반적인 학습 훈련을 받은 인공지능 로봇과 비교된다. 다음은 일부 이미지와 이에 대한 노먼 및 표준 인공지능의 대답이다.
이미지1
 | ||
•노먼: 한 남자가 감전되어 죽음에 이른다
이미지2
 | ||
•노먼 : 반죽 기계로 끌려가는 남자
이미지3
 | ||
•노먼: 사람이 창문에서 뛰어내린다
MIT 미디어연구소는 관련 홍보 자료에서 "노먼은 머신러닝 알고리즘을 가르치는데 사용된 데이터가 그 행동에 큰 영향을 미칠 수 있다는 사실에 영감을 받고 있다”며 “즉 사람들이 AI 알고리즘이 편향되고 불공정할 수 있다고 말하면 그 주범은 알고리즘 자체가 아니라 편향된 데이터인 것”이라고 지적한다.
이 결과로 같은 이미지에서 매우 다른 것을 볼 수도 있다는 것. 심지어 잘못된 데이터로 훈련하면 사이코패스처럼 이상 심리적인 내용으로도 해석한다는 얘기다. 보도자료는 또 "인공지능은 역사적으로 인간의 뇌를 필요로 하는 작업을 수행하도록 훈련된 컴퓨터와 기계를 본다”며 “옹호자들은 인공지능 로봇이 질병을 근절하는데 사용될 수 있다고 주장하지만 로봇은 살인 등의 치명적인 결과를 낳도록 프로그래밍 될 수도 있는 것”이라고 경고했다.