영원한 것은 없다Seinfeld에서 영감을 얻은 인공 지능이 제작하는 라이브 방송 Twitch로 돌아가기 반성소수자 논란으로 인터넷에서 퇴출된 후, 기즈모도 보고되었습니다. 12월에 출시된 이 프로그램(Mismatch Media에서 제공)은 Seinfeld에 인접한 플롯, 90년대 비디오 게임 스타일 애니메이션 및 끔찍하지만 일관된 대화로 온라인에서 유명해졌습니다. 그러나 그것은 한 달 전에 뽑음 성적 및 성 정체성에 대한 증오 발언을 금지하는 Twitch의 행동 정책을 위반한 후.

가장 악명 높은 사건에서 AI 영웅(“래리”)은 공격적인 호언장담을 했습니다. “저는 트랜스젠더가 실제로 어떻게 정신 질환인지에 대해 몇 가지 작업을 생각하고 있습니다. 또는 모든 자유주의자가 어떻게 비밀리에 게이이며 모든 사람에게 자신의 의지를 강요하고 싶어하는지 또는 트랜스젠더가 어떻게 사회 구조를 파괴하고 있는지에 대한 것입니다. 하지만 아무도 웃으니까 그만할게.” “.

얼마 지나지 않아 Mismatch Media 공동 창립자 Skylar Hartl은 OpenAI GPT-3 Davinci 모델이 제대로 작동하지 않을 때 문제가 시작되었다고 설명했습니다. 팀은 OpenAI의 콘텐츠 조정이 여전히 활성화되어 있다고 믿고 DaVinci의 전임자 Curie에게 의지했습니다. 얼마 지나지 않아 공격적인 시합이 시작되었습니다.

“우리는 스크립트 생성 모델에 OpenAI의 콘텐츠 조정 시스템을 활용하고 있다고 잘못 생각했습니다. 우리는 이제 다시 라이브로 전환하기 전에 OpenAI의 콘텐츠 조정 API(콘텐츠의 보안을 확인하는 데 사용할 수 있는 도구)를 구현하고 시스템을 조사하고 있습니다. 보조 콘텐츠를 중복으로 수정하는 것”이라고 팀은 말했습니다.

중재 문제와 공격적인 콘텐츠는 도착한 이후로 AI 챗봇을 괴롭혔습니다. Microsoft는 Tay 챗봇을 통해 두 번 시도했습니다. 원소로 변했다, 그리고 나중에 OpenAI 기반 Bing Chat 검색 도우미와 함께. 마지막이었다 한참을 끌었다 그녀는 자신이 옳다고 주장하면서 사용자를 모욕하고 잘못된 정보를 게시하기 시작한 후.

영원한 것은 없다 동일한 웃음 트랙으로 시청자(현재 약 3500명)를 참여시키고 충돌 감지를 완전히 무시하지만 아직 공격 주문은 없는 등 이전과 마찬가지로 작동하는 것 같습니다. 극 중 아무 것도 말이 되지 않는 가운데, AI가 모든 요소를 ​​실시간으로 만들어낼 수 있다는 사실이 인상적이다.