Влияние дипфейков на маркетинг

В исследовании ИИ эксперты, я столкнулся с дипфейк. Сначала это было неочевидно, учитывая его, казалось бы, законный профиль и участие в социальных сетях. Тем не менее, увидев одну и ту же жуткую фотографию доктора Лэнса Б. Элиота, созданную искусственным интеллектом, по всей сети, стало ясно, что он не настоящий человек. Так что я последовал за ним и узнал его мошенничество.

Вездесущий доктор Лэнс Б. Элиот

У Элиота более 11 000 подписчиков в LinkedIn, и у нас есть две общие связи. У обоих есть тысячи подписчиков в LinkedIn и многолетний опыт работы с ИИ на должностях инвестора, аналитика, основного докладчика, обозревателя и генерального директора. Члены LinkedIn взаимодействуют с Элиотом, несмотря на то, что все его посты представляют собой повторяющиеся треды, которые приводят к его многочисленным статьям в Forbes.

В Forbes Элиот публикуется каждые один-три дня с почти одинаковыми заголовками. После прочтения нескольких статей становится очевидным, что контент — это технический жаргон, созданный искусственным интеллектом. Одна из самых больших проблем с обширным портфолио Элиота в Forbes заключается в том, что сайт ограничивает читателей пятью бесплатными историями в месяц, пока им не предложат приобрести подписку за 6,99 долларов в месяц или 74,99 долларов в год. Это усложняется теперь, когда Forbes официально выставить себя на продажу с ценой около 800 миллионов долларов.

Контент Элиота также доступен за платным доступом Medium, который стоит 5 долларов в месяц. И тонкий профиль Элиота появляется в Cision, Muckrack и Sam Whitmore Media Survey, платных медиа-услугах, которые дороги и на которые полагаются подавляющее большинство специалистов по связям с общественностью.

Тогда есть продажа книг Элиота в Интернете. Он продает их через Amazon, получая чуть более 4 долларов за название, хотя Walmart предлагает их дешевле. На Thriftbooks жемчужины мудрости Элиота продаются примерно за 27 долларов, что является выгодной сделкой по сравнению с ценой в 28 долларов на Porchlight. Можно с уверенностью сказать, что продажами книг руководят поддельные отзывы. Тем не менее, несколько разочарованных людей купили книги и поставили им низкие оценки, заявив, что содержание повторяется.

Ущерб крупным брендам и индивидуальной идентичности

Щелкнув по ссылке на профиль Элиота в Стэнфордском университете, я воспользовался другим браузером и попал на настоящий веб-сайт Стэнфорда, где поиск по Элиоту не дал никаких результатов. Параллельное сравнение показывает, что фирменный красный цвет на странице Элиота в Стэнфорде не был того же оттенка, что и оригинальная страница.

Аналогичный опыт произошел на сайте ArXiv Корнелла. С небольшим изменением логотипа Корнелла была опубликована одна из академических статей Элиота, заполненная опечатками и более низкокачественным контентом, созданным ИИ, представленным в стандартном формате академической исследовательской работы. В документе приводится обширный список источников, в том числе Оливер Уэнделл Холмс, который, по-видимому, опубликовал в 1897 году издание Harvard Law Review — через три года после своей смерти.

Те, кто не заинтересован в чтении контента Элиота, могут перейти к его подкастам, где бот извергает бессмысленный жаргон. Отрывок из отзыва одного слушателя гласит: «Если вам нравится слушать, как кто-то слово в слово читает бумажный сценарий, этот подкаст для вас».

URL-адрес, размещенный рядом с подкастами Элиота, продвигает его веб-сайт о беспилотных автомобилях, который изначально завел в тупик. Обновление по той же ссылке привело к Techbrium, одному из поддельных веб-сайтов работодателей Элиота.

Удивительно, как Элиоту удается делать все это и при этом выкраивать время для выступлений на саммитах руководителей высшего звена, организованных HMG Strategy. В поддельных мероприятиях участвуют известные технологические компании, перечисленные в качестве партнеров, с консультантами и реальными биографиями руководителей из Zoom, Adobe, SAP, ServiceNow и Boston Red Sox, среди прочих.

Посещение мероприятий HMG бесплатно для руководителей высшего звена по технологиям при условии их регистрации. Согласно положениям и условиям HMG: «Если по какой-либо причине вы не можете присутствовать и не можете отправить отчет вместо себя, с вас будет взиматься плата за неявку в размере 100 долларов США для покрытия расходов на питание и обслуживающий персонал».

Цена игнорирования дипфейков

Более глубокое изучение Элиота привело к тому, что двухлетняя ветка Reddit вызвала его и быстро скатилась к сложным теориям заговора. Элиот, возможно, не анаграмма и не связан с АНБ, но он один из миллионов дипфейков, зарабатывающих деньги в Интернете, которых становится все труднее обнаружить.

Глядя на финансовые последствия дипфейков, возникает вопрос о том, кто несет ответственность, когда они приносят доход себе и своим партнерам. Это не говоря уже о стоимости загрузки вредоносное ПОориентируясь на фальшивых потенциальных клиентов и платя за спамные партнерские маркетинговые ссылки.

Возможно, зоркий глаз может распознать дипфейк по нечеткому или отсутствующему фону, странным волосам, странно посаженным глазам и механическим голосам, которые не синхронизируются с их ртом. Но если бы это была универсальная истина, стоимость дипфейков не была бы миллиарды в убытки поскольку они генерируют финансовые аферы и выдают себя за реальных людей.

ИИ не решил всех проблем, из-за которых сложно определить отсутствие подлинности дипфейка, но активно их исправляет. Именно такие статьи о дипфейках помогают ИИ учиться и совершенствоваться. Это оставляет ответственность за обнаружение дипфейков на отдельных лиц, заставляя их быть бдительными в отношении того, кого они впускают в свои сети и жизнь.

Кэти Китинг — реальная личность и основатель ProsInComms, консалтинговой компании по связям с общественностью.