Соціальна мережа Facebook запустила чат-бот, який може співчувати і відповідати на питання. “РГ” розібралася, чи може дана технологія з’явитися і в голосових асистентів, щоб їх спілкування стало більш людяним.
Це неймовірно цікава технологія, але модель настільки велика, що для запуску, а тим більше для обробки великої кількості запитів буде потрібно багато обчислювальних потужностей, і можливо, в якийсь момент навіть буде вже дешевше найняти людей для спілкування з користувачами, каже Галина Альперович, дослідник в області машинного навчання в Avast.
Крім того, оскільки бот був навчений на постах Reddit, він може бути досить упередженим і писати грубі повідомлення – просто тому, що люди іноді залишають такі коментарі в Reddit. Також цей бот може відмовити факти, тому у нього поки що немає інтегрованої бази знань, на яку він міг би спертися. “Але це загальна проблема всіх ботів, натренованих на статистичних даних з минулого. Це означає, що бот може надавати людям невірну інформацію і вводити їх в оману.
“Швидше за все більшість компаній вважали за краще б використовувати більш прості, більш однозначні, передбачувані і дешеві чат-боти для спілкування зі своїми користувачами”, – робить висновок Альперович.
Проблема “людяності” голосових помічників впирається в юридичну та етичну площині, а не технологічну, вважає Денис Хоружий, технічний директор компанії iD EAST. “Сьогодні вже можна створити переконливу імітацію реального діалогу, в тому числі і з співпереживанням, – говорить він. – Інше питання, що по-справжньому якісні алгоритми так чи інакше засновані на самообучении. Вплинути на них можна, але повністю підпорядкувати не можна. Тому очевидно, що потрібна складна система фільтрації і обмежень для контенту, який буде створювати система. Інакше можна отримати ще одного бота-нациста “.
Експерт вважає, що система повинна самообучаться багато в чому на основі інформації користувачів. “У теорії вона зможе генерувати нові знання та контент понад те, що використовується при навчанні, – додає Хоружий. – Виникає величезний пласт питань, що стосуються, в тому числі, використання персональних даних. Умовно, система може використовувати в наступних діалогах дані з попередніх. але як можна гарантувати ізоляцію даних в постійно учнів нейронних мережах – поки незрозуміло “.
З тих пір як в 2016 році генеральний директор Microsoft Сатья Наделла оголосив, що “чат-боти – це нові додатки”, вони перетворилися в тенденцію – сьогодні їх використовують державні організації, банки, ритейл, транспортні компанії. “Хоча чат-боти ще не завжди можуть замінити співрозмовника-людини, ставлення до них у суспільстві склалося в основному позитивне – люди схильні цінувати їх оперативність і обов’язковість, – стверджує Владислав Шершульський, директор по перспективних технологій Microsoft в Росії. – Якщо з чим і є проблеми, так це з емоційністю, точніше, з емпатією – здатністю співпереживати співрозмовнику. Вона необхідна для повноцінного спілкування, але навчити їй інтелектуального чат-бота нелегко. Справа в тому, що вчаться чат-боти на наших людських прикладах і, Отже, успадковують не тільки наші гідності, але і недоліки. Не секрет, що конфлікт як форма спілкування вимагає куди менших душевних зусиль, ніж співпереживання, тому і зустрічається не так уже й рідко. Якщо хочете, щоб чат-бот був чуйним, до його створення потрібно підходити відповідально – вчити не на всіх доступних в Інтернеті бесідах, а тільки на “кращих зразках”, прищеплювати основи моралі і почуття обов’язку. Як виявилося, створення відповідального соціального чат-бота – завдання не тільки технічна, але і етична “.
Салават Ханов, засновник сервісу блокування реклами 1Blocker, впевнений, що ця технологія буде використовуватися в голосових асистентів через кілька років. “Цілком можливо, що зустрінемо цього бота в кол-центрах підтримки клієнтів”, – додав він.