Печальное состояние поиска — зловещий знак эпохи искусственного интеллекта

Недавно в субботу вечером скучающий технический руководитель решил поиграться с приложением искусственного интеллекта, о котором он слышал. Руководитель, которого мы назовем Мэтью, начал так же, как большинство людей ищут информацию в Интернете: он открыл свой ноутбук и ввел в Google название компании, занимающейся искусственным интеллектом, Midjourney. Он нажал на верхний результат и еще несколькими щелчками мыши загрузил и установил приложение.

Или он думал, что сделал именно это: на самом деле он нажал на рекламу, которую Google невольно продал мошеннику, замаскированному под Midjourney. Мэтью, пожелавший остаться анонимным, поскольку он обеспокоен тем, что у того, кто получил доступ к его компьютеру, могут остаться его личные данные, он случайно установил «инфоворовку», тип вредоносного ПО, которое прочесывает компьютер жертвы в поисках имен пользователей и паролей, а затем передает их хакерам. Этот человек, известный как Аврора, получил доступ к его криптокошельку, учетным записям в социальных сетях и бог знает чему еще. Хакеры перевели содержимое кошелька Мэтью Coinbase — сотни тысяч долларов в криптовалюте — в банк, который ему не принадлежал. «Это вся твоя жизнь», — говорит Мэтью. «Ты чувствуешь себя таким обнаженным, напуганным и уязвимым».

Мэтью винит себя в том, что не проявил большей осторожности, но он также винит Google в том, что он позволил явному мошенничеству попасть в начало страницы результатов. Неудача усугублялась выбором дизайна, который создавал ощущение, что ссылки на результаты поиска Google совершенно объективны и заслуживают доверия, в то же время затрудняя определение того, какие из них там есть, потому что кто-то заплатил за их размещение. (Google помечает рекламу как «спонсируемую», но этот ярлык легко пропустить.)

Опыт Мэтью поднимает давние вопросы об издержках доминирования компании на рынке поиска и ее очевидной неспособности обуздать мошенничество. И это говорит о том, что Google, возможно, придется труднее, чем ожидалось, сдерживать мошенничество и дезинформацию в своей экспериментальной (а иногда и фактически оспариваемой) поисковой системе чат-ботов. В Google Bard, как известно, будет еще сложнее определить происхождение информации, предоставляемой компанией.

К концу июля реклама, на которую нажал Мэтью, исчезла, но поддельные веб-сайты Midjourney все еще появлялись в верхней части результатов поиска Google. «Тот факт, что это все еще проявляется в результатах, является бессовестным», - говорит он. «Я доверял им, но это было ложное доверие». Поддельные списки Midjourney исчезли из Google вскоре после запроса от Bloomberg Businessweek. Google отказался комментировать фейковые списки, но заявил, что использует как людей-рецензентов, так и программное обеспечение для удаления такого контента, который он запрещает. Он также отмечает, что в прошлом году было удалено 5,2 миллиарда объявлений за нарушение политики компании. «Хотя есть злоумышленники, которые пытаются обойти нашу защиту, системы Google очень эффективны в предоставлении высококачественной информации и борьбе со спамом и вредоносным поведением», — говорит Нед Адрианс, представитель компании.

Не требовалась сложная система борьбы с мошенничеством, чтобы выяснить, что реклама, которую Google показал Мэтью, была вредоносной. В листинге указывался веб-сайт, который якобы принадлежал Midjourney, но на нем буква «о» в названии компании была заменена на ноль, что является широко известной тактикой мошенничества. На Reddit были темы, предупреждающие пользователей именно об этом до того, как Мэтью нажал кнопку, а сенатор-демократ от Коннектикута Ричард Блюменталь в письме от 2022 года обвинил Google в том, что он «обычно не справляется с опасным мошенничеством, выдачей себя за другое лицо и киберпреступностью». Более того, у Midjourney даже нет загружаемого приложения; вы получаете к нему доступ через приложение чата Discord.

Подобные примеры периодически появлялись на протяжении всей истории Google. В конце июля, например, Шмули Эверс, цифровой дизайнер, обнаружил, что мошенникам удалось обманом заставить Google предоставить поддельные номера телефонов компании Delta Air Lines Inc. и другим крупным авиакомпаниям для продажи поддельных билетов. Google исправил ошибку после того, как Эверс написал об этом в Твиттере, но критики говорят, что компания давно знала о подобных мошенничествах с номерами телефонов. «Эти угоны происходили каждый год в течение последних 15 лет», — говорит Майк Блюменталь, соучредитель компании Near Media, которая консультирует предприятия по вопросам цифрового и поискового маркетинга. «Google уже давно перекладывает издержки этих мошенничеств на общество».