Siri가 음성 어시스턴트와의 대화의 일부를 녹음한다는 뉴스는 새로운 것이 아니지만, 그 짧은 녹음이 인간 에이전트에 의해 듣게된다는 주장은 특히 회사의 개인 정보 보호에 대한 큰 추진력에 비추어 있습니다.
이것은 Apple에 대한 나쁜 광학입니다.
저는 프라이버시의 중요성을 열정적으로 믿습니다.
어렵게 얻은 자유를 보존하고 대중 담론을 보호하는 측면에서만 중요한 것은 아닙니다. 또한 모든 학교, 의료 시설 또는 기업을 위해 인간 존재의 모든 부분에서 중요성이 커지고 있습니다. 역사에 따르면 사생활의 부재는 사회에 부식적인 영향을 미치고 가족 구성원을 서로 반대하고 혁신을 약화시킵니다.
우리가 매일 함께 일하는 많은 기술 회사가 우리를 감시 상태로 이끌고 있다는 Apple CEO 팀 쿡의 경고를 포함하여 개인 정보 보호에 대한 Apple의 경고는 중요합니다 (개인 정보 보호를 위해 희생해야한다고 주장하는 사람들에게 항상 편리한 것은 아니지만 우리가 만드는 로봇의 좋은 점).
그러나 Apple이 “품질 관리”및 “교육”목적으로 “계약 업체”와 사적인 대화 내용을 공유한다는 사실을 분명히 밝히지 않은 사실은 회사에있어 정말 나쁜 모습입니다.
애플이 말하는 것
Apple은 다음과 같이 말합니다.
“Siri 요청의 일부는 Siri 및 받아쓰기를 개선하기 위해 분석됩니다.” 또한“사용자 요청은 사용자 Apple ID와 관련이 없습니다. Siri 응답은 안전한 시설에서 분석되며 모든 검토자는 Apple의 엄격한 기밀 유지 요구 사항을 준수 할 의무가 있습니다. “
어느 정도 안심이 되겠지만, 어떤 경우에는 애플의 리뷰어들이 사람들이 주소를 포함한 개인 정보를 공유하는 것을 들었다고보고 된 것을 감안할 때, 관련 Apple ID에서 녹음 된 소리를 이혼하는 것으로 충분하지 않을 수 있습니다.
애플은 더 많은 일을해야 할 것입니다.
Apple이 상황을 해결할 수있는 방법
투명성으로 시작
Apple의 이용 약관에 숨겨져 있으면 Siri를 사용하여 녹음 한 내용이 품질 관리 목적으로 사용된다는 경고가 있습니다.
또한 이러한 녹음이 (경쟁사와 달리) Apple ID 또는 개인 신원과 어떤 식 으로든 연결되어 있지 않다는 약속을 찾을 수 있습니다.
이러한 약속은 명확하지 않습니다.
그렇기 때문에 Apple은 장치에서 Siri를 사용하는 것과 관련하여 훨씬 더 명확하고 이해하기 쉬운 개인 정보 보호 경고를 도입해야한다고 말합니다. 이러한 경고를 앞쪽과 중앙으로 옮기고 때때로 이러한 녹음을 사용하는 것뿐만 아니라 사용 방법, 사용시 신원을 보호하는 방법, 녹음 내용이 정확히 얼마나 오래 보존되는지를 명확히해야합니다.
그러나 사람들에게 제어권을 부여하십시오.
애플은 (내 생각에) Siri 녹음을 옵트 아웃으로 만들어야한다.
즉, 새 장치에서 Siri를 설정할 때 사용자는 원래 요청 이외의 목적으로 음성 사용을 명시 적으로 거부 할 수있는 기회를 제공해야합니다.
훈련이나 품질 관리에 데이터가 사용되는 것을 원하지 않는다고 말할 수 있어야합니다.
“하지만 애플은 조수를 신속하게 훈련시킬 수 없을 것입니다.”일부는 불평 할 수 있습니다. 그렇지 않을 수도 있지만 개인 정보 보호 분야에서 리더십을 유지할 것입니다.
뿐만 아니라 이러한 녹음이 실제로 얼마나 유용한지는 논쟁의 여지가 있습니다.
더 책임감
“계약자”인 Apple, Google, Amazon 및 우리가 말하는이 짧은 녹음을 확인하고 듣는 다른 모든 사람들은 누구입니까?
그들은 어떻게 고용됩니까?
그들의 직업 설명은 무엇입니까? 그들은 누구를 위해 일합니까?
그들은 어떤 근거로 신뢰할 수 있으며 개인이이 신뢰를 남용 할 경우 어떻게 배상을받을 수 있습니까?
왜 Siri 사용자는 이러한 모든 질문에 대한 답을 이미 알지 못합니까?
이러한 계약자가 아웃소싱된다는 것은 의미가 없습니다.
Apple은이 작업을 사내에 가져 와서 음성 작업자와 경영진이 이러한 녹음을 통해 수행하는 작업에 대해 전적으로 책임을 져야하며, 고객이 데이터 개인 정보 침해를 처벌 할 수있는 방법을 제공해야합니다.
정보가 필요한지 확인하십시오.
Apple은 듣는 단어의 작은 부분 만 녹음하고 사용한다고 말하지만, 선택한만큼의 샘플을 보관하거나 확인해야합니까?
다음과 같이 생각해보십시오.
Watch 또는 HomePod의 Siri가 “Hey, Siri”명령이라고 생각하는 것을 듣지만 이후에 요청이 이루어지지 않으면 잘못된 경보가 발생했음을 인식 할 수있을만큼 똑똑해야합니다.
이러한 잘못된 경보가 발생하는 경우 장치의 Siri는 우발적 호출의 원인을 파악할 수있을만큼 똑똑해야하며 향후 해당 소리에 덜 민감해야합니다.
(ㅏ 보호자 보고서는 zip 소리가 Siri를 깨우는 경우가 있다고 주장했습니다. 예를 들어 Siri는 응답으로 zip 소리를 무시하는 방법을 배울 수 있습니다.)
결론은 Siri가 호출되었지만 특정 요청이 이루어지지 않은 경우 시스템은 상호 작용을 무시하고 해당 상호 작용의 결과로 만들어진 모든 녹음을 삭제할 수있을만큼 스마트해야합니다. 방아쇠 명령을 들었다고 생각했습니다.
이 단계를 밟는 것만으로도 Siri가 듣고 계약 업체와 공유했다고하는 더 심각한 녹음을 거의 방지 할 수 있습니다.
나는 Siri가 내가 말하는 것을 듣고 싶지 않을 때 내가 말하는 것을 더 잘 듣는 것을 원하지 않습니다. 나는 단지 내가 요청을 할 때 더 잘 듣기를 원합니다.
인간도 필요합니까?
음성 기술은 빠르게 발전하고 있습니다. 이것은 “인간 계약자가 Siri 관련 대화 내용을들을 필요가 있는가?”라는 질문을 던집니다.
나는 많은 경우에 단순히 그렇지 않다고 생각합니다.
정확성 검사를 자동화하려면 먼저 Siri 및 기타 음성 인식 기술을 통해 녹음을해야합니다.
다른 음성 인식 시스템이 사람의 귀가 필요하다고 말하는 것에 동의하는 방법을 찾을 수없는 경우에만 해당됩니다.
저는 인공 지능 전문가는 아니지만 이런 종류의 분석은 Random Forest 모델 / 알고리즘이 구축 된 것입니다. 인간이 전혀 필요하지 않은 이유에 대해 기술이 왜 잘못된 요청을 받았는지에 대해 기술이 동의 할 수 없을 때만 가능합니다.
중요한 이유
이는 Siri를 업계에서 가장 사적인 음성 비서로 만들기 위해 Apple이 취한 제안의 일부일뿐입니다.
이 물건이 중요합니다.
생각해보십시오.
우리가 소유 한 자산을 사용하는 단어 일뿐만 아니라 센서 기반 기술과 AI가 매핑에서 유비쿼터스 VR에 이르기까지 일상 생활의 다양한 영역에 진입함에 따라 개인 정보 보호에 대한 필요성이 더욱 중요 해지고 우리 삶의 많은 부분이 열린 책.
오늘날 우리가 목소리에 대해 내리는 결정은 다른 모든 프라이버시 영역을 정의 할 것입니다.
프라이버시가 컴퓨터 편의를 위해 지불해야하는 대가라고 생각하는 사람들이 있지만 저는 그들과 동의 한 적이 없습니다.
우리는 음성 비서 프라이버시에 관한 우리의 결정이 미래에 공명 할 인류 역사의 한 시점에 서 있습니다.
우리는 이것을 효과적인 방법으로 분류해야합니다. 그렇게하지 않으면 구현이 안전하지 않고 잠재적으로 윤리적으로 불건전하기 때문입니다.
그리고 애플은이 공간에서 사용자를 개인 정보 보호의 중심에 두는 법안 인 디지털 권리 장전에 대한 요구를 추진해야합니다.
