С развитием искусственного интеллекта воспроизводить цифровые версии людей и симулировать их голоса стало гораздо легче. Технологии запросто могут “вложить” в уста знаменитостей или политиков фейковые заявления (как вот якобы “обращение Владимира Зеленского с сообщением о капитуляции”), или “заставить” их делать странные вещи (например, порноклипы, в которых добавляют изображения известных актеров без их согласия). А недавно от таких технологий пострадал стендап-комик и ведущий подкаста Джо Роган.

Видео, где фейковый Роган рассказывает о продукте-стимуляторе тестостерона под названием Alpha Grind, сейчас активно распространяется в TikTok. Комик якобы рассказывает, что препарат занимает высокие позиции в Amazon при введении запроса “усиление либидо для мужчин”, а также фактически “увеличивает размеры, там внизу”.

Deepfake scams are here, and we’re not ready. pic.twitter.com/NtPKWGCULi

— Coffeezilla (@coffeebreak_YT) February 12, 2023

Те, кто слышал ведущего раньше, могли заметить, что его голос на видео звучит несколько иначе, и есть части, где заметны проблемы с синхронизацией губ. Однако ролик все равно заставил многих пользователей поверить в его реальность.

Эндрю Д. Губерман, гость шоу Рогана, позже сообщил, что это подделка, а говорили они о совсем других вещах.

They created a false conversation. We never had. We were talking about something very different.

— Andrew D. Huberman, Ph.D. (@hubermanlab) February 12, 2023

Ранее интернет-тролли начали активно использовать ИИ-технологию имитации голоса, которую выложил в открытый доступ стартап ElevenLabs. В соцсетях распространились аудиозаписи, звучащие очень реалистичными голосами знаменитостей: актриса Эмма Уотсон там якобы цитирует “Мою борьбу” Адольфа Гитлера, а фейковый голос политического комментатора Бена Шарпио делает расистские замечания конгрессвумен Александрии Окасио-Корт.