Функция AI Overview от Google выдала пользователю мошеннические контактные данные, представив их как официальную информацию компании. Об инциденте сообщает Washington Post со ссылкой на случай с застройщиком, который искал номер службы поддержки круизной компании Royal Caribbean.

Пользователь нашел номер через Google AI Overview и позвонил по указанному контакту. Он пообщался с представителем, который показался компетентным, и предоставил данные кредитной карты. На следующий день на карте появились подозрительные списания — оказалось, что звонивший разговаривал с мошенниками, а не с настоящей службой поддержки.

Журналисты Washington Post обнаружили тот же фальшивый номер в результатах поиска Google и в чат-боте ChatGPT. Владельцы номера выдавали себя за горячие линии разных круизных компаний, используя одну схему для обмана клиентов.

Мошенники размещают поддельные номера на сайтах с отзывами, форумах и других платформах, утверждая, что это официальные контакты компаний. ИИ-технология Google сканирует эти источники при поиске релевантной информации. Если номер встречается достаточно часто на разных сайтах, Google может включить его в AI Overview как достоверный.

Репортер издания отмечает, что видел множество подобных схем, направленных против пользователей Google, и винит компанию в недостаточной защите главного канала доступа к информации. Washington Post советует читателям с подозрением относиться к телефонным номерам из поисковых результатов и чат-ботов.

Представитель Google сообщил, что компания приняла меры против нескольких мошеннических номеров, выявленных репортером. Он добавил, что Google продолжает работу над масштабными улучшениями для решения подобных редких запросов.