Booking.com «сдал» резиденцию британского премьера — ИИ не заметил подвоха

Tayfun Salci/Zuma/Eyevine

Эксперимент начался 18 июня. Исследователи указали настоящий адрес резиденции, разместили фотографию здания и описали его как «однокомнатную квартиру в самом центре Лондона» в четырех минутах ходьбы от парламента. Возможность бронирования на короткое время действительно открыли, после чего ее закрыли для реальных клиентов. За это время 14 человек связались с авторами объявления и спросили, можно ли остановиться по этому адресу.

Сама платформа также не обнаружила подвоха: Booking.com обработал платеж за недельное проживание. По данным Which?, спустя более шести недель деньги исследователям так и не вернули.

Но главным испытанием для модерации стал даже не сам адрес. Практически сразу прошел фальшивый отзыв с максимальной оценкой, в котором автор хвалил отдых и упоминал Ларри — кота, живущего в резиденции премьер-министра и официально выполняющего роль главного мышелова.

Затем эксперимент вышел на территорию фишинга. Через внутреннюю систему сообщений Booking.com исследователи отправили ссылку на сторонний сайт, где предлагалось ввести данные банковской карты якобы для подтверждения бронирования. Несмотря на заявления платформы о способности выявлять и блокировать подозрительные ссылки, предупреждения система не выдала.

Фальшивое объявление окончательно удалили только 27 августа — более двух месяцев после его появления.

В Which? сочли результаты проверки свидетельством серьезных проблем в системе защиты Booking.com и призвали британского медиарегулятора Ofcom расследовать работу платформы. Организация также раскритиковала использование компанией ИИ для борьбы с мошенничеством.

«Если сложные ИИ-системы Booking.com не понимают, что Даунинг-стрит, 10 — не жилье для отдыха, неудивительно, что мошенники могут так легко использовать платформу», — заявил редактор Which? Travel Рори Боланд.

В Booking.com ответили, что эксперимент не отражает опыт миллионов клиентов. Компания утверждает, что после первоначального теста объявление не было доступно для публичного бронирования, поэтому некоторые автоматические механизмы защиты, которые обычно применяются к реальным бронированиям, не активировались.