큐:
왜 회사가 챗봇 AI 프로젝트를 종료 할 수 있습니까?
ㅏ:회사는 여러 가지 이유로 인공 지능 챗봇 프로젝트를 종료 할 수 있지만 가장 가능성이 높은 프로젝트는 몇 가지 범주로 그룹화 할 수 있습니다. 첫째, 회사는 불쾌감을 줄 수있는 연설을하는 등 회사를 불편하게 만들 수있는 방식으로 행동하는 경우 챗봇 기술을 종료 할 수 있습니다. 또는 기업이 쉽게 통제 할 수 없거나 공중 보건 및 안전에 어떤 종류의 위협이 될 수있는 인식과 능력을 보여주기 시작하면 챗봇 프로젝트를 종료 할 수 있습니다.
우리는이 두 가지 시나리오를 최근 역사에 기록했습니다. Tay 챗봇에 대한 Microsoft의 실험은 Tay가 인종 차별적이고 공격적인 의견과 일반적으로 불쾌한 활동의 일부인 인간 상대의 최악의 특성 중 일부를 취하기 시작했을 때 종료되었습니다.
매우 다른 사례 연구에서, 과학자들이 인간 관찰에 다소 배타적 인 방식으로 서로 통신하는 두 개의 챗봇을 보았을 때 Facebook이 개척 한 챗봇 설정이 종료되었습니다. 챗봇 엔터티가 자신에게 더 편리하고 사람 처리기에 덜 투명하게“일종의 코드로 대화”하기 시작했다는 논쟁이있었습니다. 이것은 인공 지능에 대한 매우 실제적인 관심사 중 하나입니다. 우리가 강력한 인공 지능의 진보에 큰 진전을 이룰 때, 인간은 AI 구현의 예를 포함하고 통제하여 그들이 교차하지 않도록해야합니다. 경계. 강력한 인공 지능으로 해결해야 할 윤리적 우려와 안전 문제가 엄청나게 많으며, 이는 미래에 일부 챗봇이나 다른 인공 지능 프로젝트가 구축 된 이해 관계자에 의해 종료 될 수있는 주요 이유 중 하나입니다. 특정 프로세스를 통해 지원했습니다.
