https://m.dongascience.com/news.php?idx=65333
사망자의 글이나 음성을 기반으로 죽은 사람을 재창조하는 인공지능(AI) 서비스가 남은 사람들에게 심리적인 위해를 끼칠 가능성이 있다는 전문가 의견이 제시됐다.
카타르지나 노와치크-바신스카 영국 케임브리지대 리버흄지능미래센터 AI윤리학연구원 연구팀은 사망자가 살아있을 때 남긴 디지털 기록을 바탕으로 언어 패턴과 성격 특성을 시뮬레이션하는 AI챗봇 ‘데드봇(Deadbot)’이 사용자에게 유해할 수 있다는 내용을 담은 논문을 8일(현지시간) 국제학술지 '철학&테크놀로지'에 발표했다.
연구팀에 따르면 데드봇 플랫폼 기업들은 죽은 사람의 목소리를 이용해 사용자에게 제품을 내밀하게 광고한다. 사용자에게 사랑하는 사람이 언제나 곁에 있다는 생각이 들도록 유도해 망자를 떠나보내지 못하도록 만들 가능성도 있다. 연구팀은 이처럼 사용자들이 원치 않는 상황을 ’죽은 사람에 의한 스토킹‘이라고 표현했다.
사망자의 글이나 음성을 기반으로 죽은 사람을 재창조하는 인공지능(AI) 서비스가 남은 사람들에게 심리적인 위해를 끼칠 가능성이 있다는 전문가 의견이 제시됐다.
카타르지나 노와치크-바신스카 영국 케임브리지대 리버흄지능미래센터 AI윤리학연구원 연구팀은 사망자가 살아있을 때 남긴 디지털 기록을 바탕으로 언어 패턴과 성격 특성을 시뮬레이션하는 AI챗봇 ‘데드봇(Deadbot)’이 사용자에게 유해할 수 있다는 내용을 담은 논문을 8일(현지시간) 국제학술지 '철학&테크놀로지'에 발표했다.
연구팀에 따르면 데드봇 플랫폼 기업들은 죽은 사람의 목소리를 이용해 사용자에게 제품을 내밀하게 광고한다. 사용자에게 사랑하는 사람이 언제나 곁에 있다는 생각이 들도록 유도해 망자를 떠나보내지 못하도록 만들 가능성도 있다. 연구팀은 이처럼 사용자들이 원치 않는 상황을 ’죽은 사람에 의한 스토킹‘이라고 표현했다.
블랙미러 생각나네 거기서도 최악의 엔딩이었는데