Amazon의 AI 기반 Alexa는 이전 Alexa만큼 개인 정보 보호 위험 신호입니다 – Ars Technica

Amazon은 새로운 LLM(대형 언어 모델)을 사용하여 Alexa를 사용자에게 더 간단하고 직관적으로 만들기 위해 노력하고 있습니다. 수요일 연례 하드웨어 이벤트에서 Amazon은 사용자가 Echo 장치에서 곧 미리 볼 수 있는 AI 기반 Alexa의 데모를 선보였습니다. 그러나 새로운 기능과 AI 기반 미래에 대한 모든 이야기에서 Amazon은 방 안에 있는 오랜 코끼리인 개인 정보 보호를 거의 인정하지 않았습니다.

Amazon의 하드웨어 이벤트에서는 새로운 Echo Show 8, 업데이트된 Ring 장치 및 새로운 Fire TV 스틱을 선보였습니다. 그러나 더욱 흥미로운 점은 회사가 생성 AI에 대한 과대 광고와 음성 비서의 미래에 대한 불확실성을 극복하기 위해 어떻게 노력하고 있는지 살펴보는 것입니다. Amazon은 사용자가 원본을 포함한 모든 Echo 장치를 통해 새로운 Alexa 기능을 미리 볼 수 있을 것이라고 말했습니다. 몇 주.

추가된 Alexa 기능은 음성 대화에 맞게 미세 조정되고 신체 언어와 억양을 인식하는 알고리즘을 사용한다고 Amazon이 말하는 새로운 LLM에 의해 활성화됩니다. 회사는 Alexa가 미래에 생성 AI에 집중할 것임을 분명히 했습니다. 그러나 새로운 기능은 아직 초기 단계이므로 처음에는 충돌과 버그가 예상되어야 한다고 Amazon은 지적했습니다.

“Alexa, 이제 Alexa라는 말을 그만둬도 될까요?”

즉시 눈에 띄는 영향을 미친 개발 중 하나는 사용자가 먼저 “Alexa”라고 말할 필요 없이 Alexa가 듣는 법을 학습한다는 것입니다. 장치는 카메라, 이전에 사용자를 위해 생성된 시각적 ID, 이전 Alexa 설정을 사용하여 누군가가 장치에 말하고 있는지 확인할 수 있습니다.

데모에서 Amazon의 장치 및 서비스 담당 수석 부사장인 David Lemp는 Alexa와 대화를 나눈 후 잠시 물러났다가 다시 “Alexa”라고 말하지 않고 장치로 돌아와 추가 대화를 나눌 수 있었습니다.

Amazon의 수석 부사장이자 최고 AI 과학자인 Rohit Prasad는 “이는 장치에 대한 시각적 처리 및 오디오 모델을 통해 동시에 작동하여 장치에 대해 이야기하고 있는지 아니면 방에 있는 다른 사람에게 말하고 있는지 확인함으로써 가능합니다.”라고 설명했습니다. 단계. 아마존 이벤트 중입니다.

Amazon은 또한 Alexa의 응답 시간을 줄이고 사용자가 상호 작용을 중단하지 않고 “음”과 같은 필러를 일시 중지하거나 사용할 수 있도록 노력하고 있습니다. Alexa는 수십억 개의 매개변수가 포함된 대규모 매칭 모델을 사용하여 이를 수행할 수 있다고 Prasad는 말했습니다.

이 모든 것은 Alexa가 그 어느 때보다 더 많은 의도를 가지고 듣고 보고 있다는 것을 암시합니다. 그러나 Amazon의 프레젠테이션에서는 이 새로운 기능이 악의적으로 사용되거나 사용자가 동의하지 않는 방식으로 사용되지 않도록 보장하는 새로운 개인 정보 보호 또는 보안 기능에 대해 자세히 설명하지 않았습니다.

논평을 요청하자 Amazon 대변인은 이전에 결정된 내용을 언급했습니다. Alexa 개인 정보 보호 기능Alexa가 듣고 있음을 나타내고 사용자가 음성 기록을 검토하고 관리할 수 있도록 하는 Echo 장치의 표시등을 포함합니다.

대변인은 아마존이 장치와 고객 데이터를 보호하기 위해 “개발 중 엄격한 보안 검토, 데이터 보호를 위한 암호화, 정기적인 소프트웨어 보안 업데이트”를 포함해 “다양한 전략과 기능”을 사용하고 있으며 아마존은 “계속해서 강화 조치를 취할 것”이라고 덧붙였습니다. ” 장치 보안.

여러 스마트 홈 장치를 제어하는 ​​지루함을 줄이기 위해 Amazon은 스마트 홈 명령을 단순화하도록 Alexa도 업데이트하고 있습니다. 예를 들어, 스마트 전구의 공식 ‘이름’을 모르더라도 Alexa는 결국 ‘거실의 새 조명을 켜는’ 방법을 알 수 있습니다. Amazon은 또한 각 명령에 대해 “Alexa”와 장치 이름을 말할 필요 없이 단일 문장으로 여러 장치를 제어하고 루틴을 설정할 수 있는 기능에 대해서도 논의했습니다. 다른 개발에는 집이 더럽다고 말하면 로봇 청소기의 속도를 높이는 등 Alexa가 원하는 것을 추론하도록 만드는 것이 포함됩니다. 이러한 기능이 안정적이라면 스마트 장치의 음성 제어를 훨씬 더 매력적이고 직관적으로 만들 수 있습니다. 해당 기능은 Amazon에서 “향후 몇 달 내에” 미리 볼 수 있습니다. 그는 말했다.

인공지능과 파이어TV

Amazon은 또한 생성 AI 기술이 탑재된 Fire TV 장치가 사용자가 디지털 콘텐츠를 찾는 데 도움을 줄 수 있는 방법을 선보였습니다. 이전에 Amazon이 “변호사 역할을 한 사람과 함께 영화를 찾아보세요”와 같은 프롬프트를 기반으로 Alexa가 영화 및 TV 프로그램을 추천하도록 하는 등 이러한 기능 중 일부를 탐색하고 있는 것으로 보도되었습니다. 안타깝다또는 “액션 영화 보여 줘”, “비용을 지불할 필요 없는 영화 보여 줘”, “아직 보지 못한 영화 보여 줘”와 같은 필터를 사용하여 옵션을 검색합니다. 이러한 추천을 제공하려면 Fire TV 장치는 IMDB를 포함한 다양한 영화 및 TV 콘텐츠 소스와 사용자의 Fire TV 프로필 및 시청 습관을 활용합니다.

아마존은 가족 사진을 업로드하고 필터를 추가하는 기능을 포함한 새로운 Fire TV AI 기능이 올해 말 무선 업데이트를 통해 출시될 것이라고 밝혔습니다.

이러한 계획된 기능은 그 자체로 의미가 있습니다. 오늘날의 스트리밍 전쟁 속에서 콘텐츠를 찾는 것은 번거로운 일이며, 저는 이전에 Fire TV 장치를 Alexa 수익의 잠재적인 생명선으로 지적한 적이 있습니다. 그러나 나는 내 시청 습관을 Amazon에 더 많이 넘기는 것에 저항합니다. Amazon은 항상 고객 데이터를 판매하지 않는다고 주장해 왔지만 이 데이터는 여전히 비즈니스 결정을 내리는 데 사용될 수 있으며 공개될 수 있습니다. 비사용자 특정 동향 제3자와 공유 및 타겟 마케팅을 위해.

알렉사 챗봇

알렉사는 음성입력, 카메라, 존재감지 센서 등을 활용해 사용자와 채팅하고 빠르게 정보를 제공하는 챗봇으로도 진화하고 있다. 좀 더 표현력이 풍부한 목소리를 통해 개성을 지닌 Alexa와 좋아하는 스포츠 팀과 같은 의견을 제시하는 챗봇에 많은 관심이 쏠리고 있습니다. 또한 그는 앞뒤로 대화를 계속할 수 있어야 하며 특정하거나 심지어 가변적인 제스처를 사용하여 시와 같은 콘텐츠를 만들 수 있어야 합니다.

“[Alexa has] Limp는 무대에서 “우리는 항상 원하는 것보다 조금 더 거래를 해왔지만 그것은 비전이 아니라 기술의 한계였습니다.”라고 말했습니다.

Limp 데모는 Alexa에게 이전에 Limp와의 대화에서 나온 세부 정보(예: 바비큐 치킨이 있을 예정)를 포함하여 사람들을 방문하도록 초대하는 메모 초안을 보여주는 것으로 보입니다. 그런 다음 그는 메모를 Limp의 휴대폰(아마도 Alexa 앱으로 보낸 것으로 보입니다)으로 보낸 것으로 보입니다.

Alexa의 챗봇 기능은 앞으로 몇 주 안에 “초기 미리 보기”로 제공될 예정입니다. 사용자가 “Alexa, 이야기하자”라고 말하면 트리거되고 “종료”라고 말하면 종료됩니다.

새로운 Alexa, 동일한 개인 정보 보호 문제

지난 1년 동안 알렉사, 구글 어시스턴트 등 음성 비서가 안정적인 수익원이 되지 못하면서 이들의 미래에 대한 의문이 제기됐다.

역사적으로 Echos와 같은 Amazon의 스마트 장치 중 다수는 Alexa 기반 거래와 디지털 콘텐츠에 대한 액세스를 통해 돈을 벌겠다는 희망으로 원가에 판매되었습니다. 그러나 최근 보고서에 따르면 Amazon은 수익 창출 전망으로 전환하고 있습니다. 생산 비용이 더 저렴한 장치).

그러나 Amazon은 Alexa를 사람들의 집에 더 많은 방에 배치하려고 노력하고 있지만(Amazon이 Alexa가 가족 구성원과 같다고 암시한 횟수는 셀 수 없습니다), 회사는 장치가 안전하고 안전할 것이라는 확신을 높이기 위해 거의 노력하지 않았습니다. 비침습적. .

Limp가 수요일 프레젠테이션에서 말했듯이 Amazon은 Alexa가 최근에 재생한 음악을 기억하고, 개인화된 알림을 활성화하고, 식료품 구매를 기반으로 레시피를 추천할 수 있기를 원합니다. 이를 위해서는 “공유하는 선호 사항, 상호 작용한 서비스, 집 안팎의 환경에 대한 정보”를 활용해야 합니다. 하지만 이번 AI 제품 업데이트를 통해 Alexa에 이 모든 정보를 제공하는 것이 더 쉬워질 수 있습니다. 신뢰하다 Alexa가 반드시 더 쉬워진 것은 아닙니다.

깨우침 없이 Alexa를 사용할 수 있도록 시각적 ID를 사용하면 카메라와 마이크에 대한 의존도가 높아지지만 Amazon은 고객 개인 정보 보호에 대한 새로운 접근 방식을 공개하지 않았습니다. 이 회사는 이전에 다음과 같은 녹음을 보관하다가 적발되었습니다. 어린이들영원히 Amazon 직원들은 Alexa의 목소리를 듣고 Ring 사용자를 감시하다가 잡혔습니다. Alexa의 목소리는 형사 재판에 사용되었습니다. Amazon은 사진이나 비디오를 클라우드로 보내지 않으며 Echo Show의 마이크/카메라 끄기 버튼과 물리적 카메라 셔터가 내장되어 있다고 강조합니다.

수요일 이벤트에서는 아이들이 상식 게임을 하고 사실을 학습함으로써 Alexa와 대화형 대화를 나눌 수 있는 방법을 강조했습니다. 이것 Alexa와 함께 탐험해보세요 이 기능은 휴가철 이전에 출시되어야 합니다. 그러나 Amazon은 어린이와 공유되는 모든 콘텐츠가 안전하고 신뢰할 수 있음을 보장하는 새롭고 향상된 방법에 대해서는 언급하지 않았습니다.

알렉사는 2021년 10세 어린이에게 부분적으로 노출된 플러그로 동전을 만지라고 조언한 것을 포함해 과거에도 어린이를 보호하지 못했습니다. 당연히 Amazon은 이 특정 오류를 해결했으며 앞으로 유사한 상황을 피하기 위해 노력할 것입니다. 그러나 회사는 특히 생성 AI의 경우 유사한 사건이 없을 것이라고 확신할 만큼 충분한 조치를 취하지 않았습니다.

제가 논평을 위해 아마존 대변인에게 연락했을 때, 그는 페니 사건 이후 회사가 “공격적이거나 잠재적으로 유해한 콘텐츠”를 선제적으로 감지하고 차단하는 시스템을 개선했다고 말했습니다.

그러나 Amazon 담당자에 따르면 Alexa의 생성적 AI 업데이트는 “기존 내부 콘텐츠 정책 및 가드레일”을 기반으로 합니다. Amazon이 개선을 위해 노력하고 있다고 말하더라도 이러한 정책과 가드레일은 과거에 사용자에게 실패했다는 것을 알고 있습니다. 어린이의 안전에 관해서는 실수할 여지가 적습니다.

Amazon 담당자는 다음과 같이 덧붙였습니다.

또한 모델에 응답하는 데 필요한 정보가 부족한 경우 라이선스가 부여된 데이터 소스와 Alexa가 오늘날의 고객 질문에 정확하게 답변하는 데 도움이 되는 지식 그래프를 자동으로 참조할 수 있도록 인지 기반에 LLM을 기반으로 했습니다. LLM은 부정확한 응답을 줄이기 위해 응답하기 전에 가장 정확하고 최신 정보를 수집할 수 있습니다.

Limp는 신뢰를 생성 AI 현대화의 핵심 요소로 설명하며 다음과 같이 말했습니다.

이것을 믿어야합니다. 당신 집에 있어요. 우리는 신뢰와 성능 사이에 절충안이 전혀 없다고 믿습니다. 이것이 바로 생성 AI가 백그라운드에서 구동되는 경우에도 고객이 자신의 경험을 제어할 수 있도록 정보와 제어 기능을 계속해서 제공할 것입니다.

개인 정보 보호 및 보안은 라이브 프레젠테이션에서 가장 화려한 것은 아니지만 Amazon 이벤트가 종료된 이후 Amazon은 고객 데이터 및 개인 정보 보호를 적절하게 처리하기 위해 Amazon이 노력하고 있는 새로운 방법에 대한 후속 정보를 제공하지 않았습니다.

Amazon은 Alexa가 더 쉽게 작업할 수 있을 뿐만 아니라 현재 위치, 생활 방식, 좋아하는 것, 수행하고 시청한 것, 자녀가 관심을 갖는 것에 대해 더 똑똑해지기를 원합니다. 일부 Alexa 개발은 기능과 유용성을 향상시킬 수 있지만 Amazon이 Alexa의 경쟁력을 높이는 것만큼 보안과 개인 정보 보호를 우선시한다는 것을 입증할 때까지 그 매력은 제한적입니다.