"Умная" колонка Amazon отправила запись диалога постороннему человеку

В Amazon это объяснили ошибкой системы распознавания речи, которая некорректно определила несколько фраз и приняла их за команды голосовому помощнику.

"Умная" колонка Echo Dot компании Amazon записала разговор хозяев дома и отправила его постороннему человеку.

Об этом сообщает zn.ua, со ссылкой на N+1.  

Amazon Echo Dot — это умная колонка, которая может выступать в качестве голосового помощника, а также управлять другими устройствами в доме. Она слушает все разговоры вокруг в ожидании голосовой команды Alexa, которая распознается на самом устройстве. После этого колонка направляет запись речи на сервера Amazon, которые анализируют ее и распознают команды. Подразумевается, что по умолчанию устройство пересылает данные только компании и только после того, как пользователь явно начал беседу с колонкой.

Теперь же жительница города Портленд в США заявила о том, что запись разговоров в ее доме, которая была создана с помощью колонки, получил сотрудник ее мужа. Он пересказал содержание разговора, а затем передал все записи. После этого женщина отключила все "умные" колонки и обратилась в Amazon, специалисты которой проанализировали запись и подтвердили, что устройство переслало ее без команды от пользователя.

По словам специалистов, колонка услышала в разговоре супругов слово, похожее на старт активации, а затем приняла одну из фраз за команду "Отправить сообщение". После этого она спросила, кому отправить запись, распознала слово в разговоре как имя человека из списка контактов, переспросила, правильно ли она распознала имя и приняла еще одну из фраз как положительный ответ. Компания заявила, что такая череда неправильно распознанных фраз маловероятна, но пообещала, что улучшит распознавание и уменьшит вероятность повторения такого инцидента.