Мошенничество с помощью искусственного интеллекта (далее — ИИ) становится все более распространенным явлением в современном мире, где технологии развиваются быстрыми темпами. ИИ имеет огромный потенциал для позитивных изменений во многих сферах жизни, однако его возможности также могут быть использованы для совершения незаконных действий. Мошенники применяют ИИ для создания сложных схем обмана, таких как фальшивые видео, поддельные голосовые записи, взломы систем безопасности и автоматизация массовых рассылок мошеннических сообщений. Это затрудняет обнаружение таких угроз и усиливает опасность для обычных пользователей. Поэтому важно понимать эти риски и принимать меры для защиты от киберпреступников.
Первое уголовное дело
Первое уголовное дело, связанное с искусственно завышенной музыкальной трансляцией. Дэмиан Уильямс, прокурор Южного округа Нью-Йорка, и Кристи Кертис, исполняющая обязанности помощника директора, ответственная за Нью-Йоркское полевое отделение Федерального бюро расследований (далее — ФБР), объявили о раскрытии обвинительного приговора по трем пунктам обвинения Майкла Смита в связи со схемой создания сотен тысяч песен с помощью ИИ и использования автоматизированных программ под названием «боты» для потоковой передачи песен, сгенерированных ИИ. Смит мошенническим путем получил более 10 миллионов долларов в виде роялти через свою схему. Майкл Смит был арестован и предстанет перед магистратским судьей США в Северной Каролине.
Прокурор США Дэмиан Уильямс заявил: «Как утверждается, Майкл Смит мошенническим путем транслировал песни, созданные с помощью ИИ, миллиарды раз, чтобы украсть роялти. С помощью своей наглой схемы мошенничества Смит украл миллионы роялти, которые должны были быть выплачены музыкантам, авторам песен и другим правообладателям, чьи песни законно транслировались. Сегодня, благодаря работе ФБР и ведущим прокурорам этого офиса, настало время для Смита посмотреть в глаза музыке».
Исполняющая обязанности помощника директора ФБР Кристи Кертис заявила: «Майкл Смит якобы создал сотни тысяч песен с помощью ИИ и использовал автоматические функции для многократной потоковой передачи музыки для получения незаконных роялти в размере 10 миллионов долларов. Предполагаемая схема обвиняемого сыграла на честности музыкальной индустрии путем согласованной попытки обойти политику стриминговых платформ. ФБР по-прежнему привержено борьбе с теми, кто манипулирует передовыми технологиями для получения незаконной прибыли и посягает на подлинный художественный талант других».
Что утверждается в обвинительном акте
Музыку можно транслировать через платформы потоковой передачи музыки, такие как Amazon Music, Apple Music, Spotify и YouTube Music («Потоковые платформы»). Каждый раз, когда песня транслируется через одну из платформ потоковой передачи, автор песни, который написал песню, музыкант, который ее исполнил, а в некоторых случаях и другие правообладатели имеют право на небольшие выплаты роялти. Выплаты роялти осуществляются пропорционально музыкантам и авторам песен, поэтому мошенничество с потоковым вещанием перенаправляет средства от музыкантов и авторов песен, чьи песни законно транслировались реальными потребителями, к тем, кто использует автоматизацию для ложного создания видимости законной потоковой передачи.
Смит создал тысячи учетных записей на потоковых платформах, которые он мог использовать для потоковой передачи песен. Затем Майкл Смит использовал программное обеспечение, чтобы заставить учетные записи ботов непрерывно транслировать песни, которыми Смит владел. В определенный период времени Смит подсчитал, что он может использовать учетные записи ботов для генерации примерно 661 440 потоков в день, принося ежегодные роялти в размере 1 207 128 долларов США.
Смит распределил свои автоматические потоки между тысячами песен, чтобы избежать аномальной потоковой передачи любой отдельной песни. Смит осознавал, что если, например, одну песню прослушают миллиард раз, это вызовет подозрения у стриминговых платформ и компаний по распространению музыки в том, что эти потоки были результатом манипуляций с потоковым вещанием. Однако миллиард фальшивых потоков, распределенных между десятками тысяч песен, было бы труднее обнаружить, поскольку каждая песня была бы прослушана гораздо меньшее количество раз. В результате, Смит неоднократно считал потребность в большем количестве песен критически важной для содействия схеме мошенничества. Например, 26 декабря 2018 года Смит отправил двум сообщникам электронное письмо, в котором говорилось: «Нам нужно быстро получить песни, чтобы это работало в обход политики борьбы с мошенничеством, которую все эти ребята используют сейчас».
Чтобы получить необходимое количество песен для успеха своей схемы, Смит в конце концов обратился к искусственному интеллекту. Примерно в 2018 году Смит начал сотрудничать с главным исполнительным директором музыкальной компании по ИИ (далее — CC-3) и музыкальным промоутером (далее CC-4), чтобы создать сотни тысяч песен с помощью ИИ, которые Майкл Смит затем мог мошенническим путем транслировать. Вскоре CC-3 начал предоставлять Смиту тысячи песен каждую неделю, которые Смит мог загружать на потоковые платформы и манипулировать потоками. CC-3 в конечном итоге предоставил Смиту 
сотни тысяч песен с искусственным интеллектом, для которых он мог манипулировать потоками. Песни CC-3 обычно имели названия файлов, которые были случайным списком букв и цифр, например, «n_7a2b2d74-1621-4385-895d-b1e4af78d860.mp3».
Затем Майкл Смит создал случайно сгенерированные имена песен и исполнителей для аудиофайлов, чтобы казалось, что они были созданы настоящими артистами, а не ИИ. Например, последовательный выбор в алфавитном порядке из 25 названий песен ИИ, которые использовал Смит, выглядит следующим образом: «Zygophyceae», „Zygophyllaceae“, „Zygophyllum“, „Zygopteraceae“, „Zygopteris“, „Zygopteron“, „Zygopterous“ и т.д. Аналогично, в алфавитном последовательном порядке выбор 25 имен «исполнителей» песен с ИИ, которые использовал СМИТ, выглядит следующим образом: «Calliope Bloom», „Calliope Erratum“, „Callous“, „Callous Humane“, „Callous Post“, „Callousness“, „Calm Baseball“ и т.д.
Смит делал многочисленные ложные сведения на стриминговых платформах для содействия схеме мошенничества. Например, Майкл неоднократно лгал потоковым платформам, когда использовал ложные имена и другую информацию для создания учетных записей ботов и когда соглашался соблюдать условия и положения, которые запрещали манипуляции с потоковым вещанием. Майкл Смит также обманул потоковые платформы, сделав вид, что законные пользователи контролируют учетные записи ботов и 
потоковую музыку, хотя на самом деле учетные записи ботов были жестко закодированы для потоковой передачи музыки.
Таким образом, мошенничество с помощью ИИ представляет серьезную угрозу для безопасности пользователей и организаций. Использование ИИ для создания поддельных данных и автоматизации мошеннических действий затрудняет их обнаружение, что делает необходимым повышение уровня кибербезопасности и осведомленности об этих угрозах. Для борьбы с таким видом преступности важно совершенствовать методы защиты, развивать этические стандарты использования ИИ и обеспечивать постоянный мониторинг новых форм атак. Только слаженные действия государств, технологических компаний и пользователей позволят снизить риски мошенничества в эпоху ИИ.
авторское право / интеллектуальная собственность / искусственный интеллект / мошенничество
