Образцы голоса затем используются для создания фейковых аудиозаписей и выманивания денег.
Следующий звонок от вашей семьи может оказаться мошенничеством с подменой голоса дипфейком
Периодически мошенники предлагают призы, кэшбэк и прочие денежные вознаграждения после оплаты неких «комиссий». Копировать ссылкуСкопировано.
Для урегулирования ситуации она просила передать курьеру 200 тыс. Сообщника мошенников задержали с поличным возле квартиры пенсионерки, при передаче денег. Курьер оказался 23-летним уроженцем одной из стран ближнего зарубежья. В конце декабря полицейские Северной столицы обезвредили организованную группу телефонных мошенников. По версии следствия, злоумышленники приобрели для совершения преступлений спецоборудование — телефонные шлюзы и другие устройства.
На этот раз раздался третий звонок. На этот раз меня окатила волна спасения, радости и счастья. Извини, мне просто стали лечить второй зуб, и я телефон отключила. После этого случая «незнакомый телефон» меня больше не беспокоил. А когда я попытался по нему дозвониться, то тот абонент был уже не абонент. Как выяснилось, жертвой такого жесткого приема был не я один. И я еще легко отделался. Другие жертвы в панике за своих детей все-таки заплатили выкуп. И денег своих больше уже никогда не увидят. Илья Тараканов Так, как же может искусственный интеллект так ловко затуманить мозг родителю, который знает голос и интонацию своего ребенка лучше, чем свои пять пальцев? И как мог робот догадаться, что ребенка нет дома, и он мог как раз в это время переходить дорогу? Сегодня, когда раскручиваются такие бренды как ChatGPT, способный поддерживать диалог с пользователем и генерировать любой контент подделать голос совсем не сложно. Для этого мошенники с помощью нейросетей узнают все необходимые личные данные, номера телефонов членов вашей семьи. Их возраст, данные геолокации. Затем звонят вашей дочери, например, предлагают кредит.
По словам сотрудников ведомства, злоумышленники находят в соцсетях образцы голосов родных и знакомых потенциальной жертвы, а затем создают голосовые дипфейки. В ведомстве также посоветовали не переводить деньги пользователям из интернета. При возникновении сомнений лучше связаться с человеком, от имени которого ведется разговор.
Мошенники имитируют голос родственников с помощью искусственного интеллекта
| Роскачество: мошенники научились подделывать голоса, чтобы красть деньги | Подделывать голоса мошенники могли задолго до появления нейросети. |
| Следующий звонок от вашей семьи может оказаться мошенничеством с подменой голоса дипфейком | Мошенники убедили врача оформить три кредита и перевести все свои деньги на неизвестные счета, напугав списанием средств в пользу Украины и ВСУ. |
| Телефонные мошенники стали подделывать номера и голоса родственников | Мошенник подделал голос друга и выманил 50 000 ₽. |
| ЦБ: мошенники стали обманывать россиян, подделывая голоса их родных | Чтобы подделать чей-то голос, мошенникам достаточно использовать недорогой онлайн-инструмент на базе искусственного интеллекта, который анализирует уникальные особенности голоса любого человека и воспроизводит его с учетом пола, возраста и даже акцента. |
| ЦБ: Мошенники начали подделывать голоса родных и знакомых россиян | Как мошенники научились подделывать голос с помощью нейросети? |
ЦБ: Мошенники начали подделывать голоса родных и знакомых россиян
Мошенники начали чаще подделывать голоса родных и знакомых тех, кому они звонят, сообщили в Центробанке. Те, кто разбирается в технологиях мошенничества, без труда подделают не только голос, но и другие личные данные. Как мошенникам удается подделать голос Нейросети на базе искусственного интеллекта могут имитировать голос позвонившего вам знакомого или родственника. Полезные новости: мошенники подделывают голоса родных и близких, индексация маткапитала и ещё 40 выплат и другое.
Мошенники активно выманивают образцы голоса россиян
С помощью специальных программ злоумышленники подделывают голоса родных, друзей или коллег. Эксперты утверждают, чтобы подделать чужой голос нейросети необходим образец. Эксперты по кибербезопасности отмечают рост использования аудиодипфейков для мошеннических звонков в мессенджерах — подделку голоса руководителя компании для авторизации перевода средств. Теперь мошенники с помощью нейросетей могут подделывать голоса прямо во время разговора. В статье рассказывается о том, как мошенники используют технологию подделки голоса для обмана людей и получения доступа к их биометрическим данным. Мошенники научились использовать современные технологии DeepFake для имитации голоса, сообщили в Роскачестве.
Центробанк: мошенники стали чаще имитировать голоса родных и знакомых россиян
Дескать, таким образом магазин продвигает себя на площадке. Делов-то, поставить с десяток лайков и получить на карту небольшую сумму. Заинтересованная жертва вступает в чат, где другие «коллеги» обсуждают выполнение заданий. Сомневаются, успокаивают друг друга. Жертва ставит лайки, шлёт их скриншоты и видит скриншоты других. Получает свои небольшие деньги на карту! Отлично, первый уровень пройден, появилось доверие к источнику небольшого, но заработка.
На следующий день задание усложняется, теперь надо набить количество заказов. Для этого необходимо выкупить товар. Деньги за него обещают вернуть и, разумеется, с надбавкой за работу. Дальше на выбор просят или перевести деньги за товар «продавцу» или же перейти на фишинговый сайт, который имитирует маркетплейс, оставить там свои данные карты и лишиться денег на ней QR-коды Достаточно новый способ мошенничества связан с подсовыванием жертвы QR-кода, переход по которому ведет на фишинговый сайт, неотличимый от настоящего. Там уже всё как обычно — оставляете данные карты и с неё всё списывают. Как избежать мошенничества?
Разговор Разумеется, важно сохранять контроль над собой и своими действиями в первые минуты общения со звонящим. Если человек представляется сотрудником органов или банка, не стесняйтесь перезвонить в эту организацию — это как раз то, что вас настоятельно попросят не делать. Настораживает, не так ли? Сами же не стесняйтесь как можно чаще обсуждать все такие случаи со своими родственниками, особенно пенсионерами, которые чаще всего и становятся жертвами. Оплата Если ваш банк позволяет завести виртуальную карту, то лучше завезти отдельную для каждого маркетплейса и пополнять её на стоимость покупки.
Технологические прорывы в сфере ИИ еще впереди. Чтобы машина получила полноправное звание искусственного интеллекта, она должна пройти самостоятельно, как минимум, тест Тьюринга. Благодаря имеющимся уже технологиям хакерам достаточно всего лишь 20-секундного фрагмента с разговором, взятым из социальной сети, для создания клона голоса любого человека. Идентичность поражает настолько, что даже мать не сможет отличить голос своего ребенка от робота. Схема обмана та же, но инструменты более прогрессивные.
ИИ звонит и просит перевести деньги. Преступники заставляют жертв думать, что они разговаривают с родственником, которому вдруг понадобились деньги, например, на возмещение ущерба в результате ДТП. Сейчас нейросеть можно обучить языкам, и она с легкостью осваивает любые акценты, чтобы умело вести диалог. Следует не вестись на эмоции, а сразу перезвонить своим родным и знакомым, от которых вы якобы получили срочную или тревожную просьбу.
Затем они позвонили в третий раз и запросили очередной платеж. Тогда руководитель фирмы из Великобритании заподозрил подвох и не стал платить. Стало известно, что деньги ушли в венгерский банк, а затем в Мексику, а после разошлись по разным счетам.
Оказалось, что все это время за ней велась слежка. Взяв деньги, злоумышленник испарился, и только потом женщина, придя домой и дозвонившись до сына, выяснила, что все это был большим спектаклем, который разыграли мошенники. Ни в какое ДТП ее сын не попадал. Полицейские задержали подозреваемого уже через несколько дней, и старались чтобы на очной ставке родственники обманутой женщины не устроили самосуд. Сам же задержанный говорит, что забрать деньги его просто попросили. Но зачем он тогда следил за женщиной?
Полицейские показали, как мошенники подделывают свой голос
Мошенники не подделывали ее голос, но использовали продуманную со всех сторон схему. С помощью специальных программ мошенники воспроизводят голоса родных потенциальной жертвы. Как подделывают голоса?
Мошенники начали использовать поддельные голоса родственников жертв
Имея определенную информацию о потенциальной жертве, мошенникам не представляет никакого труда получить код подтверждения или логин и пароль от интернет-банка. По его словам, мошенники знают, что люди неохотно говорят с силовиками, поэтому жертвы достаточно легко выдают информацию или совершают действия, которые от них требуют. Даже статистически получается так, что 95 процентов звонков — это мошенники. Поэтому не стоит как-то из-за этого сильно переживать, а просто сбросить телефонный звонок и перезвонить в ту организацию, сотрудником которой представлялся звонящий. Если это правоохранительные органы, то нужно звонить в полицию", — разъяснил собеседник Москвы 24. Также эксперт предостерег от активного общения с мошенниками и их разоблачения. Даже знакомый с преступными схемами человек может попасться на удочку, уверен Ульянов. Мошенники — люди достаточно опытные, скорее всего, они обзвонили не одну тысячу потенциальных жертв, простыми вопросами их не ошарашишь. Обычно у них есть четкие легенды, и они точно знают, что ответить.
Более того, истории готовятся другими людьми, которые более опытны в этих вещах, — чаще всего психологами.
Это может быть и голосовое сообщение, когда у звонящего может быть готовый сценарий. В полном звонке мошенника часто бывают большие паузы, когда он заставляет голосовой генератор создавать ответы на задаваемые вопросы. При использовании базовых технологий такие подделки вряд ли будут идеальными, вместо этого предлагается версия голоса, которая может быть немного искажена. Однако, полагаясь на стрессовую ситуацию, мошенники надеются, что люди не заметят этого или сочтут, что звонящий находится в состоянии стресса. Как бороться с дипфейками По мере того как эти мошенничества становятся все более распространенными, возникает вопрос как о том, как лучше с ними бороться, так и о том, могут ли люди сделать что-то, чтобы меньше подвергаться их воздействию.
Легко быть критичным, когда это происходит не с вами, но в реальной ситуации это трудно. Когда происходит странная ситуация, задайтесь вопросом, похоже ли это на вашего знакомого, могут ли они сами так говорить, или ситуация, которую они описывают, кажется вам маловероятной Существуют программы, с помощью которых можно распознать фальшивку, но у обычного человека вряд ли есть такая программа под рукой. Если вам позвонил близкий человек, которого вы не ждали, и у вас возникли подозрения, перезвоните ему или напишите сообщение, чтобы узнать, где он находится. Оцените реальность и действуйте дальше". Хотя можно попытаться удалить весь контент в Интернете, это очень сложная задача, требующая тщательной проверки как ваших социальных сетей, так и друзей и родственников. Кроме того, может быть больше контента с вашей работы или из социальных групп, где есть пригодные для использования кадры и аудиозаписи.
Лучший вариант - просто быть объективным, учитывать вероятность подделки и с опаской относиться к звонкам и видео, которые кажутся неправдоподобными".
Звонивший под разными предлогами уговаривает отправить деньги на чужую карту или перевести их по чужому номеру телефона. Мошенник легко оправдается, почему перевод нужно осуществить другому человеку: можно сказать, что это счет продавца, друга, который находится рядом, или что телефон разрядился. Нередко злоумышленники звонят в ночное время, чтобы застать жертву врасплох. Обычно речь идет о небольшой сумме, поэтому вопросов у жертвы не возникает, и, как следствие, деньги попадают в руки мошенников. Справочно Эксперты Центра цифровой экспертизы Роскачества отмечают, что в скором времени на смену аудиозвонкам, сгенерированным нейросетью, придут видеозвонки Deepfake. Примеры подобных мошеннических схем уже существуют, но пока они не получили широкого распространения. Все потому, что технология Deepfake еще недостаточно совершенна, и даже простой интернет-пользователь легко отличит поддельное видео от настоящего. К тому же киберэксперты не исключают, что в будущем записи разговоров с клиентами аферисты будут продавать.
Так же, как сейчас они торгуют базами телефонных номеров. Можно ли защититься от нового вида мошенничества? Эксперты Центра цифровой экспертизы Роскачества подготовили 10 правил цифровой безопасности, которые помогут вам не попасться на новую мошенническую схему: Не отвечайте на звонки с подозрительных номеров, чтобы не дать возможность украсть ваш голос. Можно воспользоваться услугой защиты от спама и мошенников от операторов мобильной связи. Помните, подделку голоса можно отличить по чрезмерной обработке. Если в записи сильно шумит ветер, громко едут машины, лают собаки, стоит насторожиться. Но главное: голос нейросети звучит немного механически и безэмоционально. Спросите у звонящего какой-то факт, который должен быть известен только вам и ему. Например, про домашних животных, общих друзей или вашу последнюю с ним встречу.
Следует не вестись на эмоции, а сразу перезвонить своим родным и знакомым, от которых вы якобы получили срочную или тревожную просьбу. А еще лучше придумайте кодовое слово, для своих. Прямо как в банке. И таким образом, вы будете знать, что звонят действительно родные и близки, а не мошенники с нейросетью. Имитация образа Подделать можно не только голос, но и образ. При помощи методики синтеза медиаконтента, основанной на искусственном интеллекте, удается наложить ненастоящие изображение или видео на реальные. Ее продукты можно видеть в сети уже сейчас, часто в качестве пародий и розыгрышей. За рубежом злоумышленники опробовали дипфейки при устройстве на удаленную работу в сфере IT для получения доступа к базам данных.
Однако созданные видеоклоны выдают свою искусственность темпом речи, асинхронностью и неестественными эмоциями.