ChatGPT начал рекомендовать поддельные магазины мошенников

ChatGPT стал предлагать пользователям ссылки на запущенные мошенниками поддельные интернет-магазины и рассказывать о товарах, которые никогда не существовали, сообщила газета The Guardian со ссылкой на сервис по обнаружению мошенничества Ask Silver.

Пользователи ChatGPT при попытке поиска переходили по ссылкам на ресурсы, которые выглядели как интернет-магазины популярных бредов, таких как производитель обуви и аксессуаров Russell & Bromley и сеть магазинов товаров для дома Dunelm. Те, кто делал на этих поддельных сайтах заказы, теряли свои деньги, а их платёжные данные становились достоянием злоумышленников. Одной из причин инцидента стало то, что бренд Russell & Bromley перестал существовать как самостоятельный розничный продавец — в январе он перешёл под внешнее управление и был поглощён компанией Next. Образовавшуюся пустоту заполнили мошенники, потому что люди продолжают искать оригинальный сайт бренда.

В ходе атак мошенники реализовали методику «отравления искусственного интеллекта», при которой злоумышленники публикуют в интернете не соответствующую действительности информацию и страницы, копирующие дизайн легитимных ресурсов. Большие языковые модели индексируют эти мошеннические сайты, непреднамеренно способствуя противоправной деятельности и выдавая подделки за оригинал. Людям не следует доверять рекомендациям только потому, что они исходят от чат-бота с ИИ, предупреждают эксперты: преступники быстро адаптируются к новым технологиям и используют все каналы, способные привести к ним потенциальных жертв.

Признаки мошенников остаются теми же. Это огромные скидки, странные адреса сайтов, неверная контактная информация и запросы на банковские переводы. Эксперты рекомендуют другими способами устанавливать адреса розничных продавцов, а не полагаться на ссылки, которые генерирует ИИ. OpenAI удалила часть ссылок на сайты, на которые поступили жалобы, но проблема не исчезла: люди всё чаще пользуются ИИ, а значит, требуются более надёжные средства защиты потребителей.