큐:
일부 회사에서는 왜 현대적인 인공 지능 시스템에 "인간 피드백 제어"를 추가하려고합니까?
ㅏ:최첨단 AI 기술을 사용하는 일부 회사는 이러한 시스템에 대한 인간 통제를 구현하기 위해 노력하고 있으며 기계 학습 및 딥 러닝 도구에 직접적인 인간 감독을 제공합니다. Google의 DeepMind와 Elon Musk의 OpenAI는 인공 지능 발전에 대해 실제로 접하는 주요 회사의 두 가지 예입니다. 예를 들어, DeepMind는 대중에게 주요 데이터를 제공하지 않으려는 인식에 대해 논쟁의 대상이되었으며 OpenAI는 인공 지능 제어 작업에 대해 훨씬 더 개방적 입니다.
빌 게이츠 (Bill Gates)와 같은 주목할만한 사실조차도 게이츠는 자신이 어떤 방식 으로든 인간의 통제를 넘어서는 인공 초 지능의 출현에 대해 우려하고있는 많은 사람들 중 한 사람이라고 말했다. 머스크는 또한 "불량 AI"의 가능성에 대해 놀라운 언어를 내놓았다.
이것이 회사가 인공 지능에 AI를 적용하기 위해 노력하고있는 가장 시급한 이유 일 것입니다. 기술적 특이점으로 인해 인간이 더 이상 통제 할 수없는 강력한 강력한 기술이 만들어 질 것이라는 생각입니다. 인간의 야망이 시작된 이래로 우리는 고삐와 마구가 달린 말, 절연 전선의 전기 또는 다른 종류의 제어 메커니즘과 같이 우리가 사용하는 힘을 제어 할 수있는 도구를 마련했습니다. 제어는 선천적으로 인간의 기능이므로 인공 지능이 실제 기능에 더 가까워 질수록 인간은 자신의 직접 제어를 적용하여 그 힘을 확인합니다.
그러나 기업이 기계 학습 및 AI 프로젝트에 휴먼 컨트롤을 적용하는 이유는 슈퍼 인텔리전트 로봇에 대한 두려움이 아닙니다. 또 다른 주요 이유는 기계 바이어스입니다. 이는 인공 지능 시스템이 종종 문제의 데이터를 평가하는 방식이 제한되어 시스템에 내재 된 모든 바이어스를 증폭 시킨다는 아이디어입니다. 머신 러닝을 다루는 대부분의 전문가는 성별이나 인종적 차이 또는 인간의 사회의 뉘앙스를 실제로 이해하지 못하는 시스템의 실패 등 인간 사용자 그룹을 똑같이 취급 할 수 없었던 IT 시스템에 대한 공포 이야기를 들려줍니다. 우리가 사람들과 상호 작용하는 방법.
어떤 의미에서, 우리는 너무 강력 할 수도 있고, 그렇지 않으면 충분히 강력하지 않을 수도 있기 때문에 시스템에 휴먼 컨트롤을 배치 할 수도 있습니다. 휴먼 컨트롤은 머신 러닝 데이터 세트를 대상으로하여보다 정확한 정보를 제공합니다. 그들은 모델이 충분히 정교하지 않거나 AI가 충분히 발전하지 않았기 때문에, 또는 어떤 것들이 인간의인지 영역에 놓여 있기 때문에 컴퓨터가 단순히 스스로 배울 수 없다는 아이디어를 강화하는 데 도움이됩니다. 인공 지능은 보상 및 점수 기반 시스템과 같이 일부 복잡한 경우에는 매우 복잡한 보드 게임 인“Go”에서 인공 지능이 인간 플레이어를 이길 수있게 해주었습니다. 그러나 다른 경우, 이 인센티브 기반 시스템은 전적으로 부적절하다.
간단히 말해, 인공 지능 프로젝트가 작동하는 방식에 인간 사용자를 직접 참여시켜야하는 많은 이유가 있습니다. 최고의 인공 지능 기술조차도 스스로 많은 생각을 할 수 있지만 감정이나 사회적 관습과 같은 것을 처리 할 수있는 실제 생물학적 인간 두뇌가 없으면 인간의 방식으로 큰 그림을 볼 수 없습니다.
숙련 된 머신 러닝 회사 는 다양한 비즈니스 및 주제 전문가와 머신 러닝 개발자가 큰 비즈니스 문제를 해결하는 기술을 통해 이러한 균형을 잡을 수 있습니다.
