Siri가 음성 어시스턴트와의 대화 스니펫을 녹음한다는 소식은 새로운 것이 아니지만 이러한 짧은 녹음 내용이 사람 에이전트에 의해 들린다고 주장하는 것은 특히 회사의 개인 정보 보호에 대한 대대적인 추진에 비추어 볼 때 그렇습니다.
이것은 Apple에 나쁜 광학입니다.
저는 프라이버시의 중요성을 열렬히 신봉합니다.
어렵게 얻은 자유를 보호하고 대중의 담론을 보호한다는 측면에서만 중요한 것은 아닙니다. 또한 모든 학교, 의료 시설 또는 기업에서 인간 존재의 모든 부분에서 중요성이 커지고 있습니다. 역사는 사생활의 부재가 사회에 해로운 영향을 미치고 가족 구성원을 서로에게 불리하게 만들고 혁신을 약화시킨다는 것을 보여줍니다.
우리가 매일 함께 일하는 많은 기술 회사들이 우리를 감시 상태로 만들고 있다는 Apple CEO Tim Cook의 경고를 포함하여 개인 정보 보호에 대한 Apple의 경고는 중요합니다(개인 정보는 우리가 희생해야 하는 대상일 뿐이라고 주장하는 사람들에게 항상 편리한 것은 아니지만). 우리가 만드는 로봇의 장점).
그러나 Apple이 “품질 관리” 및 “교육” 목적으로 우리의 사적인 대화 녹음을 “계약자”와 공유하고 있음을 분명히 하지 않았다는 폭로는 회사에 정말 나쁜 모습입니다.
애플이 하는 말
Apple은 다음과 같이 말합니다.
“Siri와 받아쓰기를 개선하기 위해 Siri 요청의 일부를 분석합니다.” 또한 “사용자 요청은 사용자 Apple ID와 연결되지 않습니다. Siri 응답은 보안 시설에서 분석되며 모든 검토자는 Apple의 엄격한 기밀 유지 요구 사항을 준수할 의무가 있습니다.”
그것은 어느 정도 안심이 되지만, 경우에 따라 Apple의 검토자들은 사람들이 주소를 포함한 개인 정보를 공유하는 것을 들었다는 보고를 받은 것으로 보고되어 해당 Apple ID에서 녹음된 사운드를 분리하는 움직임이 충분하지 않을 수 있습니다.
애플은 조금 더 노력해야 합니다.
Apple이 상황을 해결할 수 있는 방법
투명하게 시작하세요
Apple의 이용 약관에는 Siri를 사용하여 녹음한 내용이 품질 관리 목적으로 사용되는 경우가 있다는 경고가 숨겨져 있습니다.
또한 이러한 녹음은 경쟁업체와 달리 Apple ID 또는 개인 신원과 어떤 식으로든 연결되지 않는다는 약속을 찾을 수 있습니다.
이러한 약속은 명확하지 않습니다.
그렇기 때문에 Apple은 기기에서 Siri를 사용하는 것과 관련하여 훨씬 더 명확하고 이해하기 쉬운 개인 정보 보호 경고를 도입해야 한다고 말합니다. 이러한 경고를 전면 중앙으로 이동하고 때때로 이러한 녹음을 사용하는 것뿐만 아니라 사용 방법, 사용 시 ID를 보호하는 방법, 녹음이 정확히 얼마나 오래 보관되는지를 명확하게 해야 합니다.
그러나 사람들에게 통제권을 주어라
Apple은 (내 생각에) Siri가 옵트아웃을 녹음하도록 해야 합니다.
즉, 새 장치에서 Siri를 설정할 때 사용자에게 원래 요청 이외의 다른 목적으로 음성 사용을 명시적으로 거부할 기회가 제공되어야 합니다.
데이터가 교육이나 품질 관리에 사용되는 것을 원하지 않는다고 말할 수 있어야 합니다.
“그렇다면 애플은 비서를 그렇게 빨리 훈련시킬 수 없을 것입니다.”라고 불평할 수도 있습니다. 아닐 수도 있지만 개인 정보 보호 분야에서 리더십을 유지할 것입니다.
뿐만 아니라 이러한 녹음이 실제로 얼마나 유용한지는 논란의 여지가 있습니다.
더 책임감을 가지세요
Apple, Google, Amazon 및 기타 모든 사람들이 사용하는 “계약자”는 누구입니까? 우리가 말하는 내용에 대한 이러한 짧은 녹음을 확인하고 듣는 사람은 누구입니까?
그들은 어떻게 고용됩니까?
그들의 직업 설명은 무엇입니까? 그들은 또 누구를 위해 일합니까?
어떤 근거로 신뢰를 받을 수 있으며 개인이 이 신뢰를 남용하는 경우 어떻게 배상을 받을 수 있습니까?
그리고 왜 Siri 사용자는 이러한 모든 질문에 대한 답을 이미 알고 있지 않습니까?
이러한 계약자가 아웃소싱된다는 것은 의미가 없습니다.
Apple은 이 작업을 사내로 가져와 음성 작업자와 경영진이 이러한 녹음으로 수행하는 작업에 대해 완전히 책임을 져야 하며 고객이 데이터 개인 정보 보호 위반을 처벌할 수 있는 방법을 보장해야 합니다.
정보가 필요한지 확인하십시오.
Apple은 듣는 단어의 작은 부분만 녹음하고 사용한다고 말합니다. 하지만 선택한 만큼 많은 샘플을 유지하거나 확인할 필요가 있습니까?
다음과 같이 생각해 보십시오.
Watch 또는 HomePod의 Siri가 “Siri야, Siri” 명령이라고 생각하는 것을 들었지만 이후에 요청이 없으면 잘못된 경보가 발생했음을 인식할 만큼 충분히 똑똑해야 합니다.
이러한 잘못된 경보가 발생하는 경우 장치의 Siri는 우발적 호출의 원인을 파악하고 향후 해당 소리에 덜 민감할 만큼 충분히 똑똑해야 합니다.
(NS 보호자 보고서는 지퍼 소리가 때때로 Siri를 깨운다고 주장했습니다. 예를 들어 Siri는 이에 대한 응답으로 지퍼 소리를 무시하는 법을 배울 수 있습니다.)
결론은 Siri가 호출되었지만 특정 요청이 없는 경우 시스템은 상호 작용을 무시하고 해당 상호 작용의 결과로 만들어진 모든 녹음을 삭제할 수 있을 만큼 충분히 똑똑해야 합니다. 그것은 방아쇠 명령을 들었다고 생각했다.
이 단계를 수행하면 Siri가 듣고 계약자와 공유한 더 심각한 녹음 중 일부를 거의 막을 수 있습니다.
나는 내가 듣기를 원하지 않을 때 Siri가 내가 말하는 것을 더 잘 듣기를 원하지 않습니다. 내가 요청할 때 더 잘 듣기를 원합니다.
인간도 필요할까?
음성 기술은 빠르게 발전하고 있습니다. 이것은 “인간 계약자가 Siri와 관련된 대화 스니펫을 전혀 들을 필요가 있습니까?”라는 질문을 던집니다.
나는 많은 경우에 단순히 그렇지 않다고 생각합니다.
녹음 내용은 정확성 확인을 자동화하기 위해 먼저 Siri 및 기타 음성 인식 기술을 통해 이루어져야 합니다.
서로 다른 음성 인식 시스템이 사람의 귀가 필요하다고 말하는 것에 동의하는 방법을 찾을 수 없는 경우에만.
저는 AI 전문가는 아니지만 이런 종류의 분석은 Random Forest 모델/알고리즘이 구축된 용도입니다. 기술이 요청이 잘못된 이유에 대해 동의할 수 없는 경우에만 사람이 필요합니다.
중요한 이유
이것들은 Apple이 Siri를 업계에서 가장 사적인 음성 비서로 만들기 위해 취하기를 바라는 작은 제안 모음입니다.
이 내용이 중요합니다.
그것에 대해 생각해보십시오.
우리가 사용하는 단어는 우리 소유의 자산일 뿐만 아니라 센서 기반 기술과 AI가 매핑에서 유비쿼터스 VR에 이르기까지 일상 생활의 다양한 영역에 진입함에 따라 우리 삶의 훨씬 더 많은 부분이 열린 책.
오늘날 우리가 목소리에 관해 내리는 결정은 다른 모든 프라이버시 영역을 정의할 것입니다.
개인 정보가 컴퓨터의 편리함을 위해 치러야 할 대가라고 생각하는 사람들이 있지만 저는 그들에게 동의한 적이 없습니다.
우리는 음성 비서 개인 정보 보호에 대한 우리의 결정이 미래에 반향을 일으킬 인류 역사의 한 지점에 서 있습니다.
그렇게 하지 않으면 구현이 불안정하고 잠재적으로 윤리적으로 불건전하기 때문에 효과적인 방법으로 이를 분류해야 합니다.
그리고 애플은 이 분야의 디지털 권리장전, 즉 사용자를 개인정보 보호의 중심에 두는 법안에 대한 요구를 추진해야 합니다.
