О том, что мошенники подделывают голос «умного» помощника «Алиса» для того, чтобы обзванивать россиян и вводить их в заблуждение, сообщили в «Яндексе». и аудиодипфейки. Эксперты по кибербезопасности отмечают рост использования аудиодипфейков для мошеннических звонков в мессенджерах — подделку голоса руководителя компании для авторизации перевода средств. Стоит мошеннику загрузить короткий образец аудиоролика из сообщения в социальной сети или голосовой почты (всего 30 секунд), и он может использовать инструменты синтеза голоса с помощью искусственного интеллекта.
Могут ли мошенники подделать голос и украсть деньги со счета?
Сама технология не нова: ещё в 2019 году мошенники украли $250 тысяч у главы британской энергетической компании, задействовав фальшивый голос по смартфону. сказал Пермяков, отметив, что пока злоумышленники чаще всего ограничиваются подделкой голоса. Телефонные мошенники в России все чаще подделывают голоса родственников и знакомых своих жертв. Мошенники подделали голос гендиректора московского фитнес-клуба с помощью нейросети и украли выручку. Мошенники убедили врача оформить три кредита и перевести все свои деньги на неизвестные счета, напугав списанием средств в пользу Украины и ВСУ.
Мошенники научились подделывать ваш голос: стоит ли опасаться
Она сообщила полиции, что ей позвонила неизвестная, представилась её внучкой, рассказала, что попала в ДТП, и умоляла помочь деньгами. Для урегулирования ситуации она просила передать курьеру 200 тыс. Сообщника мошенников задержали с поличным возле квартиры пенсионерки, при передаче денег. Курьер оказался 23-летним уроженцем одной из стран ближнего зарубежья. В конце декабря полицейские Северной столицы обезвредили организованную группу телефонных мошенников.
Аглая Шатова , 18 января в 13:06 ЦБ: Мошенники начали подделывать голоса родных и знакомых россиян Мошенники стали подделывать голоса родных и знакомых для обмана россиян. По словам сотрудников ведомства, злоумышленники находят в соцсетях образцы голосов родных и знакомых потенциальной жертвы, а затем создают голосовые дипфейки. В ведомстве также посоветовали не переводить деньги пользователям из интернета.
По информации SHOT , кассир по приказу "начальника" отдала всю выручку курьеру. Кража произошла в одном из клубов сети "Территория фитнеса". Сотрудница не сразу поверила собеседнику и попросила совета у коллеги с большим стажем.
Та подтвердила, что это голос владельца клуба.
Важно помнить, что даже в случае положительного решения экспертизы и суда, уголовное преследование стоит для жертвы существенных усилий. Это вызывает у меня серьезные опасения», — отмечает Жорин. При этом адвокат считает, что время судебных разбирательств по делам об использовании нейросетей в контексте интеллектуальной собственности пока не настало. Он связывает это с тем, что судьи редко принимают нестандартные решения, а изменения настанут только после появления практики от высших судов. Говорить про защиту интеллектуальных прав пока преждевременно. Сейчас в некоторых судах даже иски о защите чести и достоинства остаются диковинкой, не говоря уже о нейродипфейках», — указал защитник. Хорошо забытое старое Преступники уже давно используют синтез голоса для различных злоупотреблений, не афишируя доступность технологии модуляции и её мощности для обывателей, уверен бывший следователь и действующий адвокат Александр Бурчук.
Суды и следователи нередко сталкиваются с поддельными аудиозаписями, поэтому назвать технологию чем-то особенным защитник не может. Злоумышленники подделали голос сотрудника ФСБ и вымогали с помощью фейкового аудио деньги. Запись телефонного разговора, оказавшаяся на столе у следователя, и голос жертвы на ней соответствовали нормам фоноскопической экспертизы, утвержденным Минюстом.
Эксперт Кузьменко: мошенники начали использовать нейросети и дипфейки для обмана россиян
В случае мошеннических действий нужно обратиться в правоохранительные органы. Родителям же, чьи дети активно пользуются соцсетями и мессенджерами, рекомендуется владеть актуальной информацией о круге общения ребенка. Это необходимо, чтобы обезопасить детей от нежелательных контактов и предостеречь от передачи данных злоумышленникам. Но сценарий общения у мошенников всегда типичный. Эффективным и простым способом защитить себя от преступников в таком случае будет обращение к мобильному оператору.
И в это время стали приходить голосовые. Два сообщения были буквально на две секунды. В них говорилось: «Люблю! Свои деньги я так и не получила назад. Как мошенники используют голосовые дипфейки и можно ли защититься от такого обмана? Как подделывают голоса? Искусственный интеллект можно заставить говорить чьим-то голосом, - рассказывает Алексей Раевский. Но пока это все работает еще не совсем идеально. Например, человек на нем может выглядеть с шестью пальцами. Пока это все эксперименты, но вполне вероятно, что в будущем они будет развиваться и совершенствоваться. Как все происходит? Искусственный интеллект «обучают» определенному голосу. Затем вшивается определенный текст, а нейросеть озвучивает его. Таким образом, формируется файл, который зачитывает определенное сообщение.
Кликабельные ссылки на магазины и прочие бизнес-проекты. Если Вам нужно сослаться на подобный ресурс — вставляйте пробелы вокруг точек: pikabu. Пошаговые, излишне подробные мошеннические схемы и инструкции к осуществлению преступной деятельности. Мотивация к мошенничеству, пожелания и советы "как делать правильно". Флуд, флейм и оскорбления пользователей, в т.
Даже начинающие мошенники могут быть опасны Нейросети могут облегчить работу специалистам практически любой сферы, а значит, и автоматизировать часть действий киберпреступников. Растущий интерес среди злоумышленников к широким возможностям нейросетей выявили и эксперты по информационной безопасности. Аналитик «Лаборатории Касперского» Алиса Кулишенко рассказала, чем чат-боты могут быть полезны для мошенников. А злоумышленники, чтобы избежать их, формируют специальные запросы — джилбрейки. Много теневых площадок даркнета существуют в формате форумов, — поделилась Алиса Кулишенко. Раньше была нужна коммуникация между человеком и мошенником, но сейчас часть запросов может быть получена автоматически. Даже начинающие злоумышленники могут представлять угрозу за счет получения компетенции от языковых моделей. Специалисты по кибербезопасности предупреждают — нейросети уже используют для обмана пользователей Источник: Полина Авдошина Искусственный интеллект дает неограниченные возможности злоумышленникам создавать новые способы наживы над простым интернет-пользователем. И аферисты по максимуму экспериментируют с технологическими разработками. Используются они и для создания вредоносных ПО, — утверждает эксперт в области интернет-безопасности. Каждый месяц появляются новые и становятся всё более распространены и позиционируются как аналоги ChatGPT, но сразу со снятыми ограничениями. Угроза чат-ботов заключается в их способности генерирования фишинговых сообщений и разработке вредоносных ПО и задач. Какие еще инструменты нейросетей можно использовать для зловредных целей, подробнее рассказал руководитель группы исследований и разработки технологий машинного обучения «Лаборатории Касперского» Владислав Тушканов. Например, для завлечения человека нажать на какую-то ссылку, чтобы тот скачал вредоносный файл и так далее. Под удар попал даже мэр Марченко Искусство создания дипфейковых видео изучили не только мошенники, но и авторы волгоградских телеграм-каналов. Не так давно широкое распространение в сети получили несколько сгенерированных видео с использованием лица мэра Волгограда Владимира Марченко, в которых он предстает в образах героев известных фильмов и рэперов. В следующем — играет роль Уильяма Уоллеса в известном фильме «Храброе сердце». Накануне в канале показали Владимира Марченко в роли крестного отца. Стоит отметить, что лицо чиновника отлично вписывается в образы персонажей, а сами видео выполнены далеко не в худшем качестве. Свое мнение по поводу сгенерированного видео с использованием лица главы города высказал анонимный источник из мэрии Волгограда. То, что сделано с лицом Владимира Марченко, можно отнести скорее ко второму направлению, — говорит сотрудник администрации города. И если рассматривать это как элемент искусства, то для выбора кандидатуры в этих целях необходимо для фактора: узнаваемость героя, чье лицо применяется в дипфейке, и достаточное количество разных изображений для того, чтобы искусственный интеллект смог с ними работать. Собеседник редакции уверен, что выбор Владимира Марченко для создания таких видео, объясняется его узнаваемостью и популярностью среди жителей Волгограда и пользователей соцсетей.
Эксперт рассказал, как распознать в телефонном собеседнике мошенника
| Мошенники придумали новую схему развода с подменой голоса. Будьте бдительны | Образцы голоса затем используются для создания фейковых аудиозаписей и выманивания денег. |
| Мошенники начали активно выманивать образцы голосов граждан - Ведомости | IT-эксперты рассказали, как мошенники подделывают голоса россиян. |
| Эксперт по кибербезопасности Ефимов предупредил о возможности создать фейковую аудиозапись | Телефонные мошенники начали осваивать новые технологии, теперь они взяли на вооружение нейросети, которые способны подделывать чужой голос. |
| Мошенник обманывал людей, подделывая голоса близких по телефону | 360° | Мошенничество Интернет-мошенники Телефонные мошенники Взлом Видео Вертикальное видео Telegram (ссылка). |
| Мошенники придумали новую схему развода с подменой голоса. Будьте бдительны | Телефонные мошенники научились подделывать голоса, ЦБ РФ предупредил о новых видах мошенничества с нейросетями в Волгограде. |
Мошенники научились подделывать ваш голос: стоит ли опасаться
| Мошенники подделывают голоса и крадут деньги – ГТРК «Коми Гор» | В России активизировались мошенники, подделывающие голоса близких и коллег своих потенциальных жертв. |
| Мошенники активно выманивают образцы голоса россиян | В Банке России предупредили об использовании мошенниками программ для подделки голосов с целью обмана россиян, сообщает РИА Новости со ссылкой на ЦБ РФ. |
| Эксперт предупредил, что мошенники могут подделывать голоса родственников жертв | IT-эксперты рассказали, как мошенники подделывают голоса россиян. |
Пенсия.PRO
Мошенники начали подделывать голоса с помощью нейросети. Александра показывает переписку – от ее имени мошенники отправили знакомым десятки сообщений. С имитированным голосом жертвы мошенники могут попытаться позвонить в банк и выполнить различные операции, такие как снятие денег со счета или перевод средств на другой счет. Как мошенникам удается подделать голос Нейросети на базе искусственного интеллекта могут имитировать голос позвонившего вам знакомого или родственника. Для подделки голоса мошенникам будет недостаточно записанных фраз. Мошенники используют записи телефонных звонков, в том числе разговоров с роботами, для подделки голоса в мошеннических целях. В Банке России предупредили об использовании мошенниками программ для подделки голосов с целью обмана россиян, сообщает РИА Новости со ссылкой на ЦБ РФ.
Следующий звонок от вашей семьи может оказаться мошенничеством с подменой голоса дипфейком
Кибермошенники нередко представляются известными сервисами доставки: они отправляют поддельные ссылки якобы для отслеживания статуса заказов. Также злоумышленник может попросить жертву перейти в мессенджер из официального приложения. Периодически мошенники предлагают призы, кэшбэк и прочие денежные вознаграждения после оплаты неких «комиссий».
Поэтому для защиты своих социальных сетей от взлома эксперт советует соблюдать определенные меры безопасности — к примеру, использовать сложные уникальные пароли и регулярно их обновлять.
Кроме того, важно ограничивать доступ к профилю, чтобы личную информацию пользователя могли видеть только его доверенные люди. Как распознать мошенника, признаки обмана Между тем пока еще голосовые дипфейки можно выявить по ряду признаков. По словам Сергея Голованова, если вы разговариваете с человеком во время звонка в реальном времени, то отличить речь знакомого человека от подделки будет довольно просто.
Правда, злоумышленники обычно звонят по «экстренным» причинам, поэтому потенциальным жертвам не всегда удается мыслить логически, — говорит в беседе с «Известиями» Александр Самсонов. В то же время, по словам Самсонова, в ситуациях, когда вам «экстренно» звонит тот, кто представляется вашим близким человеком, стоит обращать внимание на ряд моментов. Во-первых, если ваш друг, родственник или знакомый раньше никогда не просил по телефону переводить ему деньги или сообщать какую-то важную информацию, то подобная просьба — это повод насторожиться.
Поскольку злоумышленники нередко звонят ночью, многие люди, особенно старшего возраста, «стесняются» позвонить близким и узнать, всё ли с ними в порядке. Поэтому стесняться не надо — пусть лучше произойдет небольшой конфликт с близким, чем мошенники выманят крупные суммы денег. Причем то же самое правило касается общения не только по телефону, но и в мессенджерах.
В заключение специалист рекомендует отключить звук или возможность звонить для неизвестных номеров в настройках конфиденциальности мессенджеров, чтобы злоумышленники не могли позвонить с поддельного аккаунта.
А еще лучше придумайте кодовое слово, для своих. Прямо как в банке. И таким образом, вы будете знать, что звонят действительно родные и близки, а не мошенники с нейросетью. Имитация образа Подделать можно не только голос, но и образ. При помощи методики синтеза медиаконтента, основанной на искусственном интеллекте, удается наложить ненастоящие изображение или видео на реальные. Ее продукты можно видеть в сети уже сейчас, часто в качестве пародий и розыгрышей. За рубежом злоумышленники опробовали дипфейки при устройстве на удаленную работу в сфере IT для получения доступа к базам данных. Однако созданные видеоклоны выдают свою искусственность темпом речи, асинхронностью и неестественными эмоциями. Сергей Кузьменко, руководитель направления информационной безопасности Центра цифровой экспертизы Роскачества: «Новые технологии используются не только передовыми IT-компаниями, но и вовсю группами мошенников.
Мошенники стараются ввести жертву в замешательство — не дать ей время оценить обстановку и свои действия. Поэтому дождитесь от человека ответа через другие каналы связи», — настаивает эксперт. Стоит также критически относиться к сообщению с просьбой о материальной помощи. Хотя нейросети развиваются бешеными темпами, все же они далеки от идеала. Несостыковки в звуке, нечеткое произношение, помехи в микрофоне, общение односложными фразами — все это может выдать мошенника. При любом сомнении стоит поиграть в сыщика и задать человеку вопрос, ответ на который может знать только он, рекомендуют специалисты. Мошенники придумали новую схему хищения пятитысячных банкнот Эксперты полагают, что схем с использованием ИИ будет только больше, и это подтолкнет социальные сети и мессенджеры к развитию охранных алгоритмов.
В ближайшее время они начнут применять поведенческую аналитику, основанную на том же ИИ для защиты своих клиентов от таких атак. При этом на рынке уже сегодня достаточно специальных решений, связанных с анализом аномального поведения пользователей в корпоративных сетях, например, Ankey ASAP. Они будут доступны на премиальных подписках мессенджеров и в виде специализированных персональных защитных приложений, в которые будут преобразованы существующие антивирусные программы», — рассуждает главный специалист отдела комплексных систем защиты информации компании «Газинформсервис» Дмитрий Овчинников. От кибермошенников помогут банальные вещи Как бы банально это ни звучало, но нужно защищать свои устройства и соблюдать цифровую гигиену, говорят специалисты по кибербезопасности.
Как мошенники научились подделывать голос с помощью нейросети?
- Греф рассказал о мошенниках, подделывающих голос и изображение клиентов банков
- Мошенники подделали голос гендиректора фитнес-клуба в Москве и украли выручку
- ЦБ: мошенники стали обманывать россиян, подделывая голоса их родных | Аргументы и Факты
- Метод Терминатора
В Роскачестве дали советы, как защитить свои биометрические данные от мошенников
| Роскачество: мошенники научились подделывать голоса, чтобы красть деньги | В Банке России предупредили об использовании мошенниками программ для подделки голосов с целью обмана россиян, сообщает РИА Новости со ссылкой на ЦБ РФ. |
| Пенсия.PRO | Мошенничество с клонированием голоса появилось относительно недавно и уже встречается в западных странах. |
| Греф рассказал о мошенниках, подделывающих голос и изображение клиентов банков | Подделывать голоса мошенники могли задолго до появления нейросети. |
| Мошенник обманывал людей, подделывая голоса близких по телефону | Мошенники могут попытаться с полученной записью голоса обратиться в банк, чтобы от имени другого клиента совершить различные финансовые операции. |
Украденные голоса: мошенники осваивают новый способ обмана россиян
С помощью специальных программ мошенники воспроизводят голоса родных потенциальной жертвы. Теперь мошенники с помощью нейросетей могут подделывать голоса прямо во время разговора. Мошенники для обмана россиян стали подделывать голоса родных и знакомых жертвы.
Эксперт Кузьменко: мошенники начали использовать нейросети и дипфейки для обмана россиян
Это прекрасно для инноваций, но есть и обратная сторона, когда эта технология попадает не в те руки". Мир мошенничества с дипфейками С момента своего появления deepfake использовались во вредоносных целях, начиная от подделки политических речей и заканчивая изготовлением порнографических материалов. Однако в последнее время их использование находит все большее применение в мире мошенничества. В последнее время участились случаи мошенничества с использованием искусственного интеллекта, когда человеку звонит или даже звонит по видеосвязи его близкий человек, говоря, что он попал в беду и ему нужны деньги", - рассказывает Бакли. Сведения о человеке берутся из данных, доступных в Интернете. Вместо этого мошенники полагаются на страх и безвыходную ситуацию, когда вы впадаете в панику и не замечаете несоответствий Хотя эти мошеннические действия могут иметь различные формы, обычным форматом является звонок со случайного номера. Собеседник с помощью deepfake выдает себя за члена семьи или человека, который обычно рассчитывает на деньги. Это может быть и голосовое сообщение, когда у звонящего может быть готовый сценарий.
В полном звонке мошенника часто бывают большие паузы, когда он заставляет голосовой генератор создавать ответы на задаваемые вопросы. При использовании базовых технологий такие подделки вряд ли будут идеальными, вместо этого предлагается версия голоса, которая может быть немного искажена. Однако, полагаясь на стрессовую ситуацию, мошенники надеются, что люди не заметят этого или сочтут, что звонящий находится в состоянии стресса. Как бороться с дипфейками По мере того как эти мошенничества становятся все более распространенными, возникает вопрос как о том, как лучше с ними бороться, так и о том, могут ли люди сделать что-то, чтобы меньше подвергаться их воздействию.
Пока что злоумышленники явно используют только заранее подготовленные записи, но, похоже, подделка голоса в режиме реального времени скоро перестанет быть чем-то экзотическим, и паникующим родственникам будут давать возможность поговорить с якобы похищенными, в надежде убедить их, что всё произошло на самом деле. Единственный эффективный способ противодействовать подобному - не выкладывать записи своего разговорного голоса в общий доступ в соцсетях.
И в целом минимизировать количество персональной информации, публикуемой онлайн. И в случае любых подозрительных действий - постарайтесь дозвониться по реальному номеру». Фарид также отметил, что текущие версии ИИ-генераторов не позволяют с высокой степенью убедительности воспроизводить широкий диапазон эмоций, но в теории могут имитировать крик или плач. Средний размер ущерба для семей составляет 11 тысяч долларов - это не говоря уж об острых эмоциональных переживаниях. В ФБР также считают, что в большинстве своём «виртуальные похитители» звонят из Мексики , а в качестве жертв чаще всего выбирают представителей латиноамериканских сообществ. В данном случае, впрочем, это было не так.
Например, в СберБанке в качестве биометрического идентификатора для проведения платежных операций используется не голос, а лицо человека. Банки сохраняют ваш голос в биометрической базе только для того, чтобы автоматически распознавать его при звонках в техническую службу поддержки банка. К тому же существует опасение, что мошенники запишут ваш голос и передадут в Единую биометрическую систему или биометрические системы банков. Однако, несмотря на возможность утечки биометрии из банковского хранилища, использовать ее для несанкционированной идентификации невозможно. Причина состоит в самом процессе идентификации.
Когда вы сдаете биометрические данные в базу, сохраняется не конкретное фото лица или одна аудиозапись голоса, а некий ее слепок в виде набора ваших характерных признаков. При этом восстановить по таким данным фото или голос человека практически невозможно. Помните, что банки заинтересованы в конфиденциальности данных своих клиентов, ведь несанкционированные операции могут нанести удар по их репутации и привести к финансовым потерям. Мошенники подделывают голоса, притворяясь вашими родственниками или знакомыми Для создания убедительного аудиосообщения преступники используют нейросети, с помощью которых можно воспроизвести интонацию, тембр голоса и особенности речи конкретного человека. Например, позвонивший вам в мессенджер ребенок, родственник или знакомый просит срочно перевести небольшую сумму денег. Причина может быть какая угодно — ребенку срочно нужно сделать подарок другу или учительнице, пожилому родственнику не хватает небольшой суммы на покупку лекарств в аптеке.
Звонивший под разными предлогами уговаривает отправить деньги на чужую карту или перевести их по чужому номеру телефона. Мошенник легко оправдается, почему перевод нужно осуществить другому человеку — можно сказать, что это счет продавца, друга, который находится рядом или что телефон разрядился.
Кроме того, они могут просто позвонить человеку по телефону и записать его голос на диктофон. Поэтому, чтобы защититься от них, очень важно беречь личную голосовую информацию. Также следует соблюдать конфиденциальность в соцсетях и мессенджерах, чтобы ограничить возможность получения голосовых данных третьими лицами, — говорит специалист. Как поясняет Багдасарян, если злоумышленник получит доступ к профилю в соцсети, он воспользуется не только образцами голоса, но и дополнительной контекстной информацией о человеке, что в дальнейшем позволит ему более убедительно взаимодействовать с жертвой. Поэтому для защиты своих социальных сетей от взлома эксперт советует соблюдать определенные меры безопасности — к примеру, использовать сложные уникальные пароли и регулярно их обновлять. Кроме того, важно ограничивать доступ к профилю, чтобы личную информацию пользователя могли видеть только его доверенные люди.
Как распознать мошенника, признаки обмана Между тем пока еще голосовые дипфейки можно выявить по ряду признаков. По словам Сергея Голованова, если вы разговариваете с человеком во время звонка в реальном времени, то отличить речь знакомого человека от подделки будет довольно просто. Правда, злоумышленники обычно звонят по «экстренным» причинам, поэтому потенциальным жертвам не всегда удается мыслить логически, — говорит в беседе с «Известиями» Александр Самсонов. В то же время, по словам Самсонова, в ситуациях, когда вам «экстренно» звонит тот, кто представляется вашим близким человеком, стоит обращать внимание на ряд моментов. Во-первых, если ваш друг, родственник или знакомый раньше никогда не просил по телефону переводить ему деньги или сообщать какую-то важную информацию, то подобная просьба — это повод насторожиться.
ЦБ: Мошенники начали подделывать голоса родных и знакомых россиян
С помощью специальных программ злоумышленники подделывают голоса родных, друзей или коллег. В Кизеле пойман мошенник, забравший у пенсионерки 100 тысяч. «Таймырский телеграф» – Мошенники продолжают совершенствоваться: теперь они стали использовать специальную программу, с помощью которой подделывают голоса. Мошенники начали подделывать голоса россиян с помощью искусственного интеллекта. Об этом сообщает РИА Новости со ссылкой на данные Центробанка. Из-за комплексного и детализированного подхода мошенники сейчас могут подделать буквально все. «Таймырский телеграф» – Мошенники продолжают совершенствоваться: теперь они стали использовать специальную программу, с помощью которой подделывают голоса.