Пожилые жители США и Канады столкнулись с волной афер, в которых им звонят якобы попавшие в беду родственники с просьбой о финансовой помощи. Главное отличие – голоса звучат четко, разборчиво и очень убедительно. Мошенники прямо в разговоре могут быстро менять тон беседы и озвучивать новые аргументы, не вызывая подозрений. Потому что вместо них разговаривает специальный ИИ для клонирования голоса.
В качестве примера можно привести две истории. В первой из них 73-летняя Рут Кард поговорила якобы со «своим внуком» Брендоном, который попросил не очень большую сумму денег для залога в полиции. От трат старушку уберег банковский служащий, который уже сталкивался с такими преступлениями. В случае с пожилыми родителями Бенджамина Перкина все оказалось хуже, так как мошенники специально предложили им сделать паузу и самим перезвонить сыну. Когда в трубке раздался тот же самый голос, они расслабились, поэтому при новых звонках послушно выполняли инструкции преступников.
Во всех этих случаях пострадавшие уверяют, что не заметили ни малейших различий между голосами родных и имитацией. Строго говоря, ее нет, так как для создания дублированной речи ИИ используются записи оригинальных голосов людей. Неназванный американский журналист доказал эффективность этого метода, когда сумел взломать свой собственный банковский счет, обманув при помощи одного ИИ другой ИИ, который проверял его биометрические данные.
Главная опасность в том, что еще пару лет назад создание дубляжа голоса требовало наличие большого количества исходных аудио-записей и много времени на их обработку. Сегодня такие сервисы за символическую подписку в $5 идеально клонируют голоса всего из 30-секундного файла, а источником может стать любая случайная запись в соцсетях. Они доступны всем, поэтому мошенникам сейчас открылось невероятное поле для махинаций.