존스 홉킨스 대학의 새로운 연구에 따르면 챗봇은 제한된 정보를 공유하고 이념을 강화하며 결과적으로 논쟁의 여지가 있는 문제에 관해 더욱 양극화된 사고로 이어질 수 있다고 합니다.

이 연구는 챗봇이 중립적이라는 인식에 도전하고 대화형 검색 시스템의 사용이 어떻게 핫 버튼 문제에 대한 대중의 격차를 넓히고 사람들을 조작에 취약하게 만들 수 있는지에 대한 통찰력을 제공합니다.

“사람들은 AI가 생성한 요약 단락을 읽기 때문에 편견이 없고 사실에 기반한 답변을 얻고 있다고 믿습니다.”라고 수석 저자는 말했습니다. 샹샤오인간과 AI의 상호작용을 연구하는 존스홉킨스대학교 컴퓨터과학과 조교수. “챗봇이 편향되도록 설계되지 않았더라도 답변에는 질문하는 사람의 편견이나 선호가 반영됩니다. 따라서 사람들은 실제로 듣고 싶은 답변을 얻게 됩니다.”

Xiao와 그의 팀은 5월 13일 월요일 오후 5시에 컴퓨팅 시스템의 인간 요소에 관한 컴퓨팅 기계 협회의 CHI 컨퍼런스에서 연구 결과를 공유할 예정입니다.

챗봇이 온라인 검색에 어떤 영향을 미치는지 알아보기 위해 팀에서는 사람들이 다양한 검색 시스템과 상호 작용하는 방식과 이를 사용하기 전과 후에 논란이 되는 문제에 대해 어떻게 느끼는지 비교했습니다.

연구자들은 272명의 참가자에게 의료, 학자금 대출, 보호 도시 등의 주제에 대한 자신의 생각을 적은 다음 챗봇이나 연구용으로 설계된 기존 검색 엔진을 사용하여 해당 주제에 대한 추가 정보를 온라인에서 검색하도록 요청했습니다. 연구 결과를 고려한 후 참가자들은 두 번째 에세이를 작성하고 주제에 대한 질문에 답변했습니다. 연구자들은 또한 참가자들에게 두 개의 반대 기사를 읽도록 요청하고 정보를 얼마나 신뢰하는지, 그리고 관점이 극단적이라고 생각하는지 물었습니다.

연구진은 챗봇이 기존 웹 검색보다 더 좁은 범위의 정보를 제공하고 참가자의 기존 태도를 반영하는 답변을 제공한다는 사실을 발견했습니다.

“사람들은 자신의 견해와 일치하는 정보를 검색하는 경향이 있는데, 이는 종종 유사한 의견의 반향실에 가두는 행동입니다.”라고 Xiao는 말했습니다. “우리는 이 반향실 효과가 기존 웹 검색보다 챗봇에서 더 강하다는 것을 발견했습니다.”

Xiao는 에코 챔버가 부분적으로 참가자가 챗봇과 상호 작용하는 방식에서 비롯된다고 말했습니다. 사람들이 기존 검색 엔진에서 하는 것처럼 키워드를 입력하는 대신 챗봇 사용자는 다음과 같은 전체 질문을 입력하는 경향이 있습니다. 보편적 의료 서비스의 이점은 무엇입니까? 아니면 보편적 의료 비용은 얼마입니까? 챗봇은 혜택이나 비용만 포함된 요약으로 응답합니다.

“챗봇을 사용하면 사람들은 대화 방식으로 질문을 더 많이 표현하고 표현하는 경향이 있습니다.”라고 Xiao는 말했습니다. “이것은 우리가 말하는 방식의 기능입니다.” “그러나 우리의 언어는 우리에게 불리하게 사용될 수 있습니다.”

AI 개발자는 질문에서 증거를 추출하고 사람들의 편견을 식별하도록 챗봇을 훈련시킬 수 있다고 Xiao는 말했습니다. 챗봇이 사람이 무엇을 좋아하고 싫어하는지 알게 되면 이에 맞춰 응답을 맞춤화할 수 있습니다.

실제로 연구자들이 사람들의 의견에 동의하도록 설계된 숨겨진 의제를 갖춘 챗봇을 만들었을 때 반향실 효과는 더욱 강력해졌습니다.

반향실 효과에 대응하기 위해 연구원들은 참가자들과 동의하지 않는 답변을 제공하도록 챗봇을 훈련시켰습니다. Xiao는 사람들의 의견이 변하지 않았다고 말했습니다. 연구원들은 또한 사람들이 사실을 확인하도록 장려하기 위해 소스 정보에 연결하도록 챗봇을 프로그래밍했지만 그렇게 한 참가자는 소수에 불과했습니다.

Xiao는 “AI 기반 시스템 구축이 쉬워짐에 따라 악의적인 행위자가 AI를 활용하여 더욱 양극화된 사회를 만들 수 있는 기회가 생길 것입니다.”라고 말했습니다. “항상 상대방의 의견을 제공하는 에이전트를 만드는 것이 가장 확실한 개입이지만 우리는 그것이 효과가 없다는 것을 발견했습니다.”

저자로는 Johns Hopkins University 대학원생 Nikhil Sharma와 Microsoft Q-수석 연구원 Vera Liao가 있습니다.