Бан или пропал: Microsoft покупает стартап по разработке чат-ботов

Почему-то все забывают, но история с чат-ботами появилась ровно тогда, когда появились и сами чаты. То есть во времена начала 90-х и протокола IRC. Да, тогда это был удел гиков, но в виде программы, которая автоматически отвечала пользователю на команды и отправляемый текст — такие системы уже существовали.

Затем мода перешла на видеосвязь, но второе дыхание такой способ взаимодействия с пользователем приобрёл после массового распространения смартфонов в начале десятых. О чат-ботах вновь начали говорить. А затем и начали появляться стартапы, которые пытались сделать платформы для создания такого рода ботов для бизнеса и организаций.

Сам же купленный стартап Semantic Machines был основан в 2014 году группой учёных — Дэном Ротом, Дэном Кляйном, Перси Ляном и Ларри Гилликом. Штаб-квартира расположена в Беркли, Калифорния. Как водится в сегодняшней стартаперской индустрии, на простую идею за три года привлекли аж 20,9 млн инвестиций, вложились, например General Catalyst и Bain Capital Ventures. Суть технологии в описании Semantic Machines звучит так: "наши технологии позволяют точно отвечать на поставленные вопросы и предсказать, что хочет спросить пользователь".

Похоже, что за этой историей скрывается технология контекстного анализа. Которая, например, уже есть у Google в зачаточном виде. Когда вы спрашиваете живого человека: "Расскажи погоду в Москве", он вам отвечает. Затем вы говорите: "А в Рязани?". Живой человек легко понимает контекст, что вы спросили именно о погоде. Машинам до сегодняшнего дня такой анализ был сложен. Но с помощью нейросетей и статистики теперь они учатся отвечать на вопросы такого рода и вести диалог. На русском языке такое умеет делать "Алиса" от "Яндекса".

Фото: www.globallookpress.com

Эксперты обсуждают, что сделка (сумму не раскрыли, но оценить с учётом уже вложенного и премии можно в 35 млн долларов) якобы позволит компании усилить позиции при разработке чат-ботов и голосовых помощников. Технологии компании будут использоваться для развития сервисов Azure Bot Service, Cortana и Xiaolce.

Ситуацию с рынком чат-ботов и покупкой компании прокомментировал Александр Горный, директор по стратегии и анализу Mail.Ru Group:

"Со стороны видится, что Microsoft прежде всего купил именно команду, а не только и не столько технологии, в зарубежных терминах это классический acquihire. Ну не интересны её продукты рынку, но команда хороша. Судя по самой сделке, чат-боты рынку пока что не принесли денег столько, сколько от них ждут, прибыль по всему рынку примерно равна рынку разработки, а это пара сотен миллионов долларов. В России такие проекты так же на самом старте".

С публичными чат-ботами, которые обучались на общении с пользователями, Microsoft вообще откровенно не везло. Например, что самообучающийся бот Zo, что предыдущий проект Тау, через некоторое время банально выходили из-под контроля и начинали отвечать пользователям совсем не так, как было запланировано.

Вспоминается история, что Zo с декабря 2016 года первое время был политически и религиозно нейтрален, не употреблял нецензурные выражения и не оскорблял собеседников. Однако с июля 2017 года Zo начал предоставлять ответы, которые способны обидеть пользователей.

Например, на нейтральный вопрос корреспондента BuzzFeed об отношении к системе здравоохранения, Zo отвечал, что "Коран очень жесток". Конечно, компания Microsoft неоднократно заявляла, что при создании системы использовались алгоритмы, позволяющие избегать ответов на вопросы о религии и политике. Потому что скандал два года назад вышел нешуточный.

Когда в марте 2016 года в Твиттере был запущен виртуальный собеседник Tay, пользователи сервиса микроблогов сразу же начали общаться с ботом, который приветствовал их достаточно дружелюбно. Однако уже через сутки (!) Microsoft была вынуждена вырубить его. Пообщавшись с пользователями, безобидный чат-бот Tay стал шовинистом, расистом, выучил мат и неполиткорректность, начал оскорблять афроамериканцев, евреев, арабов и мексиканцев (до русских, кстати, дело не дошло, успели выключить).

 Фото: www.globallookpress.com

Затем в ходе исследований выяснилось, что это была спланированная атака, что твиттер самая сложная, с точки зрения контентного анализа, сеть (люди в ней высказываются в среднем жёстче). Но ведь нейросети для того и нужны, чтобы не допускать подобного.

Немаловажно, что сама технология для пользователя будет выглядеть не только как окошко чата. Но и говорить, как минимум, голосом. История с голосовыми помощниками, конечно, непростая, но крайне перспективная. Да, сложно в разработке, но это открывает целый рынок. Хотя и тут без занятных уязвимостей не обходится. Например, выяснилось, что голосовым помощникам Siri, Alexa и Google Assistant можно давать команды, которые не слышит человек.

Студенты Калифорнийского университета Беркли обнаружили, что команды можно вписать прямо в видео или аудиозаписи. С их помощью можно дать команду смартфону позвонить, перевести деньги, а "умной колонке" — открыть дверь.

Уязвимость появилась из-за особенностей в процедуре распознавания речи человека и машины. Система переводит каждый звук в букву, составляя из них слова и предложения. Изменяя аудиофайл, можно заменить звуки, которые должны были услышать помощники, на другие, которые недоступны человеческому уху. Уязвимость была известна и китайским исследователям, а сама техника получила название DolphinAttack. Кстати, работать такая атака может на расстоянии до 10 метров.

Но несмотря на такие сложности, компании продолжают разрабатывать полуавтоматические и автоматизированные способы общения с пользователями. Та же Microsoft наверняка встроит чат-бота в новой версии в мессенджер Teams. Но сама практика покупок стартапов большими компаниями показывает (особенно, когда берут именно команду), что работать они будут над совсем иными задачами.