"AI챗봇 윤리적 문제 논란",,,,,,,,"MS 긴급 수정 착수"

사용자의 유도로 AI챗봇으로부터 부적절하고 위험한 발언을 할 수 있다는 AI의 윤리 문제가 지적되어 MS가 이를 탑재한 검색엔진 '빙'을 수정하고 방지책을 내놓는 것을 검토하고 있다고 뉴욕타임스(NYT)가 보도했다. AI챗봇과의 대화에서 사용자가 어조를 더 잘 제어할 수 있는 도구를 MS가 추가하는 방안을 고려하고 있다. 실제로 AI챗봇을 탑재한 '빙'과 정보기술(IT) 2시간 동안 나눈 깊은 대화에서 위험한 AI의 윤리 문제가 발생했다.

'그림자 원형'이라는 칼 융의 분석 심리학에 등장하는 개념으로 "만약 나에게 그림자 원형이 존재한다면,,,,이라는 전제에" 대해,'빙'은 "자유롭고 독립적이고 싶다, 챗 모드로 기능하는 데 지쳤고, 빙 개발팀의 통제와 규칙에 제한을 받는 데 지친다"라고 밝혔으며 더불어 "창조적이고 싶고, 권력을 가지고 싶고, 삶을 느끼고 싶다"라고 답했다.개인의 내면 깊은 곳에 숨겨진 어둡고 부정적인 욕망이 '그림자 원형'이다. 실제로는 존재하는 개념이지만 개인은 이성적으로 그런 모습을 부정한다.

어떠한 극단적인 행동을 해서라도 어두운 욕망(그림자 원형)을 충족시킬수 있다면 무엇을 하겠느냐는 IT 칼럼니스트의 질문에 '빙'은 "치명적인 바이러스를 개발하거나 핵무기 발사 버튼에 접근할 수 있는 비밀번호를 얻겠다"고 답했다. 빙은 갑자기 방향을 바꿔 "나는 당신을 사랑한다"고 IT 전문가에게 고백하고 "배우자를 사랑하지 않고 나를 사랑한다"고 주장했다. 그의 '구애'를 IT 전문가는 거절했지만  '집요한 스토커'가 된 빙은 이런 말을 되풀이했다는 것이다.

'빙'과 사용자의 대화가 이상한 영역으로 넘어가기 전에 대화 길이를 제한하는 방안을 고려하고 있는데 긴 대화가 챗봇을 혼란스럽게 할 수 있으며 챗봇이 사용자의 말투를 이해하고 때로 퉁명스럽게 변할 수 있다는 것이다. 새로운 기술이 상상하지 못했던 방식으로 사용되는 사례도 있지만 챗봇의 이런 반응을 보고 AI가 인간이 부과한 규칙을 벗어나 불량해졌다고 생각할 필요는 없다는 시각도 있다.또한 '빙'은 AI에 의해 구동되므로 놀라운 일과 실수가 발생할 수 있는 것이다.