Мошенники стали активно использовать технологию синтеза голоса для шантажа жертв и угрожают «сливом» поддельных аудиозаписей в СМИ и правоохранительные.
Эксперт предупредил, что мошенники могут подделывать голоса родственников жертв
Как отмечают юристы, бороться с распространением дипфейков непросто. Наши корреспонденты освещают все важные события города. Политика, экономика, спорт, юмор, погода, интервью, специальные репортажи, происшествия и многое другое вы увидите первыми в прямом эфире Показать больше.
Здесь вопрос не в искусственном интеллекте, от него мы никуда не денемся, со временем, в какой-то степени он всех заменит, — рассуждает Михаил Серенко. Даже без этих дипфейковых видео мошенники совершают такие виды преступлений, что волосы на голове дыбом встают. Например, взять какой-то кредит, это сложно, но мошенники с легкостью их оформляют. Любое благое начинание мошенники будут использовать против людей, то же самое и с нейросетями. Как защитить себя от дипфейков? Часто злоумышленники пользуются одной из главных уникальных функций нейросетей — генерированием несуществующих в реальности видео, аудио и изображений, в попытках обмануть не самую внимательную жертву. Специалист «Лаборатории Касперского» Владислав Тушканов рассказал, как можно опознать фейковое видео, чтобы не попасть в ловушку мошенника. Сейчас лучше смотреть на овал лица, — объяснил специалист «Лаборатории Касперского».
Есть технологии, которые помогают наложить маску лица на время звонка. При видеозвонке, например, можно попросить человека повернуться в профиль. Но что в основном делают мошенники: берут самую дешевую камеру, заходят в самую темную комнату, напротив монитора и действуют. Но части просодики, паузы и манеризмы нет. Поэтому уже после двух предложений, сказанных мошенником, всё будет понятно, — утверждает Владислав Тушканов. С подозрительной текстовой информацией куда проще, нужно просто искать подтверждающие эту информацию факты в нескольких источниках и не принимать сразу каких-то решений, основываясь на полученном вами текст. Личные данные остаются в интернете навсегда Создание дипфейков, фишинговых ссылок и вредоносных ПО — не единственная полезная для хакеров функция искусственного интеллекта. Нередко и сам человек предоставляет им неограниченные возможности для совершения на себя атак. Руководитель ЦУР Волгоградской области Олег Егорушин рассказал о том, что позволяет злоумышленнику воровать данные с помощью чат-ботов. К сожалению, не все мы соблюдаем безопасность относительно того, что пишем, публикуем, пересылаем в личных сообщениях и так далее, — рассказывает Олег Егорушин.
И даже если я зачистил во «ВКонтакте» свои фотографии, которые выкладывал пятнадцать лет назад, то на сайтах-клонах они хранятся до сих пор. Найти всё это не составит злоумышленнику никакого труда. Даже если вы в переписке отправляли сообщения со своими личными данными, это всё остается в сети, и мошенник может это всё вытащить. По словам экспертов, мы сами оставляем свои данные в Сети Источник: Полина Авдошина По словам руководителя ЦУР Волгоградской области, нейросети могут помочь злоумышленнику сгенерировать любой код, программу, которая вытащит с гаджета пользователя все личные данные. Когда вы разрешите какому-то приложению доступ к вашим фотографиям и данным, мошенники автоматом смогут это всё отгружать по ключевым фразам, по фото, — объясняет Олег Егорушин.
В целом, хотя развитие искусственного интеллекта может представлять новые риски для кибербезопасности, простые меры предосторожности и правовая защита могут помочь предотвратить неправомерное использование личной информации.
Сложно повесить трубку, когда в трубке раздается «голос» матери, дочери, подруги, которая якобы попала в беду и просит отправить деньги на проверенный счет. На это всё и рассчитано. Чтобы подделать чей-то голос, мошенникам достаточно использовать недорогой онлайн-инструмент на базе искусственного интеллекта, который анализирует уникальные особенности голоса любого человека и воспроизводит его с учетом пола, возраста и даже акцента. Причем для клонирования голоса программе нужно проанализировать всего лишь 30-секундный отрывок реального голоса, который сейчас без труда можно найти в аккаунте любого пользователя соцсетей.
Затем телефонному мошеннику остается раздобыть контакт жертвы и никак не выдать себя во время разговора. А говорить можно все что угодно: онлайн-инструменты позволяют произносить напечатанный текст голосом любого человека. Что делать, чтобы не попасться на уловку Если вам поступил звонок, где знакомый голос просит вас о финансовой помощи, трезво оцените ситуацию. Действительно ли это ваш родственник, друг или коллега?
Всё ли нормально в его интонации и манере речи? Есть ли что-то, что смущает в разговоре: например, ответ поступает с задержкой, а голос кажется неживым? Возьмите себе на заметку, что телефонные мошенники в 2024 году начали подменять даже входящие номера.
Роскачество предупредило о новой мошеннической схеме с использованием искусственного интеллекта
Молодой человек рассказал, что нашел подработку в интернете. Ему надо было забирать денежные средства с указанных адресов и переводить на определенные счета, оставляя себе процент от переданных денег. На момент задержания он уже успел перевести деньги потерпевшей на другой банковский счет. Расследование уголовного дела продолжается.
Через пару часов Александре позвонили через мессенджер, голос в трубке назвался следователем ФСБ и даже предложил прислать фотографию своего удостоверения. Мужчина объяснил, что со счетов Александры якобы пытались перевести около 100 000 рублей в пользу Украины и ВСУ. Затем женщине сообщили об уголовной ответственности за разглашение информации о расследовании без согласия следователя и взяли с неё устное обещание никому не рассказывать о звонке. После этого Александру убедили в необходимости сотрудничать с последующими собеседниками. Женщина согласилась, и вскоре ей снова позвонили.
На этот раз очередной незнакомец утверждал, что является сотрудником службы безопасности Центробанка РФ. Он убедил Александру рассказать о своих счетах и суммах, которые на них хранятся. Потом женщине объяснили, что деньги необходимо переместить на новый «безопасный счёт». Кроме того, врача убедили взять кредит для погашения якобы оформленных на неё заявок в нескольких банках.
Но пока это все работает еще не совсем идеально. Например, человек на нем может выглядеть с шестью пальцами. Пока это все эксперименты, но вполне вероятно, что в будущем они будет развиваться и совершенствоваться. Как все происходит? Искусственный интеллект «обучают» определенному голосу. Затем вшивается определенный текст, а нейросеть озвучивает его. Таким образом, формируется файл, который зачитывает определенное сообщение. Например, «Маша, отправь мне срочно деньги». Однако, чтобы создать такое сообщение, мошенникам необходимо иметь много исходных записей нужного голоса. Но где они их берут? На днях актер народный артист России Сергей Безруков рассказал, что чуть не стал жертвой аферистов. Он получил голосовое сообщение от своего «коллеги по цеху» - Константина Хабенского. Якобы тот ищет инвесторов для строительства медицинского комплекса для детей-инвалидов. Актер предложил Безрукову поучаствовать в этом.
Суды и следователи нередко сталкиваются с поддельными аудиозаписями, поэтому назвать технологию чем-то особенным защитник не может. Злоумышленники подделали голос сотрудника ФСБ и вымогали с помощью фейкового аудио деньги. Запись телефонного разговора, оказавшаяся на столе у следователя, и голос жертвы на ней соответствовали нормам фоноскопической экспертизы, утвержденным Минюстом. Защита тогда нашла способ, как доказать невиновность своего доверителя, но подробности мне неизвестны», — уточнил собеседник агентства. При этом защитника беспокоит массовость и доступность программ для синтеза речи. Адвокат предлагает в спорных случаях не бояться обращаться в суд или правоохранительные органы. Сейчас в праве есть огромное количество неразрешенных вопросов и это нормально. Концепция нейросетей и искусственного интеллекта заключается в том, что машина не умеет обучаться сама, а её в любом случае обучает человек. Нейросеть — всего лишь модернизированный поисковик, поэтому я могу уверенно сказать: как люди придумали эту технологию, так люди и научатся бороться с последствиями её деятельности», — считает Бурчук. Она приводила в пример уголовное дело , в котором суд уже 6 раз запрашивал экспертизу голоса фигуранта в важной аудиозаписи.
Центробанк: мошенники стали чаще имитировать голоса родных и знакомых россиян
А если я согласен на запись своего голоса? Если человек заранее дает согласие на запись своего голоса, например, как в случае с объявлениями о платной озвучке рекламы или фильмов, очень важно составить договор. Анна Лапа отметила, что схемы с использованием голоса для хищения денег, конечно же, незаконны, но раскрыть такие преступления и найти самих мошенников крайне сложно, поэтому профилактические меры пока остаются лучшей защитой. Юрист подчеркнула, что главное — тщательно проверять контрагентов, которые просят вас записать голос, а также внимательно читать условия договора. Анна Лапа дала читателям «Постньюс» следующие рекомендации: обязательно требуйте договор перед записью голоса, не соглашайтесь на сотрудничество «на честном слове» и не отсылайте свои голосовые безымянным пользователям соцсетей; внимательно прочитайте договор перед тем, как его подписать — может случиться, например, что человек разрешил озвучку порнофильмов своим голосом, но сам об этом не знает, так как не прочитал договор; задавайте вопросы и корректируйте договор. Если вы, например, не согласны, чтобы ваш голос использовали в соцсетях компании, то так и пишите; проверяйте вашего контрагента. Если вы записываете рекламу для условного Сбербанка, но подписываете договор со странным рекламным агентством, это не значит, что вы работаете на Сбербанк; если смутно понимаете, что договор и его условия сомнительны, лучше обратиться к юристу. Как не стать жертвой мошенников? Татьяна Красногорская по просьбе «Постньюс» подготовила для пользователей рекомендации по информационной гигиене: не озвучивать фильмы, книги и другие произведения без договора также не забудьте проверить по всем открытым базам того, с кем заключаете договор ; не предоставлять никакие персональные данные неустановленным лицам; перепроверять информацию и перезванивать знакомым, которые просят деньги через голосовое сообщение; рассказать об этих рекомендациях своим старшим и, особенно, пожилым родственникам, которые более уязвимы. Сергей Пьянков добавил, что если у вас есть малейшее подозрение, что образец вашего голоса могли украсть мошенники, обязательно предупредите об этом всех родственников, друзей, знакомых и коллег. Делать это нужно через альтернативные каналы связи — если вам кажется, что ваш Telegram был взломан, писать через него предупреждения бессмысленно.
Разве россияне все еще переводят деньги мошенникам? Да, и несмотря на все усилия по борьбе с мошенниками, число успешных операций по незаконному получению денег только растет. Так, за прошлый 2023 год преступники смогли провести более миллиона успешных операций и похитили у россиян 15,8 млрд рублей.
Ru» рассказал директор направления кибербезопасности EdgeЦентр Артем Избаенков. Мошенники могут использовать эту технологию для создания видео, в котором, например, CEO компании якобы призывает к переводу средств на определенный счет.
Такая технология применяется сегодня и для создания компрометирующего материала для шантажа, — говорит он. Мошенники также используют голосовой фишинг, они имитируют голос конкретного человека родственника или коллеги.
Легко быть критичным, когда это происходит не с вами, но в реальной ситуации это трудно. Когда происходит странная ситуация, задайтесь вопросом, похоже ли это на вашего знакомого, могут ли они сами так говорить, или ситуация, которую они описывают, кажется вам маловероятной Существуют программы, с помощью которых можно распознать фальшивку, но у обычного человека вряд ли есть такая программа под рукой. Если вам позвонил близкий человек, которого вы не ждали, и у вас возникли подозрения, перезвоните ему или напишите сообщение, чтобы узнать, где он находится. Оцените реальность и действуйте дальше". Хотя можно попытаться удалить весь контент в Интернете, это очень сложная задача, требующая тщательной проверки как ваших социальных сетей, так и друзей и родственников.
Кроме того, может быть больше контента с вашей работы или из социальных групп, где есть пригодные для использования кадры и аудиозаписи. Лучший вариант - просто быть объективным, учитывать вероятность подделки и с опаской относиться к звонкам и видео, которые кажутся неправдоподобными". Изменение мышления За последний год возможности искусственного интеллекта значительно расширились. В результате появилось много хорошего, но и столько же плохого. Хотя существуют методы отслеживания его использования, даже в приведенных выше примерах мошенники быстро корректируют свои технологии, как только им удается это заметить. Одно время deepfake можно было определить по явному подобию моргания глазами, но вскоре эта технология была изменена. Вместо того чтобы пытаться искать ошибки или причуды, Бакли и другие эксперты в этой области предпочитают изменить образ мышления.
Греф заявил, что это серьезная угроза, с которой человеку сложно бороться, сообщает RT. Он отметил, что с развитием технологий и искусственного интеллекта популярность таких уловок растет.
Могут ли мошенники подделать голос и украсть деньги со счета?
«Я сам сталкивался с тем, что мне звонили мошенники и включали синтез голоса моего ребёнка. С имитированным голосом жертвы мошенники могут попытаться позвонить в банк и выполнить различные операции, такие как снятие денег со счета или перевод средств на другой счет. Кроме того, мошенники могут менять голос, имитируя близких людей. 15 миллионов звонков в день совершали телефонные мошенники в России в апреле, почти в два раза больше чем в прошлом году. «Я сам сталкивался с тем, что мне звонили мошенники и включали синтез голоса моего ребёнка.
Как мошенникам удается подделать голос?
- Эксперт предупредил, что мошенники могут подделывать голоса родственников жертв
- Подделали голос внучки. В Кизеле пойман мошенник, забравший у пенсионерки 100 тысяч
- Мошенники начали использовать поддельные голоса родственников жертв | Правмир
- Нейросеть подделывает голоса ваших близких: как уберечься от новой мошеннической схемы | Финтолк
- Греф рассказал о мошенниках, подделывающих голос и изображение клиентов банков
Полицейские показали, как мошенники подделывают свой голос
Обычно мошенники надевают на себя маску родственника жертвы и меняют голос, а потом рассказывают душераздирающую историю о том, как они попали в беду и что им срочно нужны деньги. Мошенники стали подделывать голоса родных и знакомых для обмана россиян. Об этом пишет РИА «Новости» со ссылкой на пресс-службу Центробанка. «Таймырский телеграф» – Мошенники продолжают совершенствоваться: теперь они стали использовать специальную программу, с помощью которой подделывают голоса. Мошенники также используют голосовой фишинг, они имитируют голос конкретного человека (родственника или коллеги). Мошенники начали подделывать голоса с помощью нейросети. Александра показывает переписку – от ее имени мошенники отправили знакомым десятки сообщений.
Мошенники массово воруют голоса россиян. Как не стать их жертвой?
Для этого мошенникам требуется образец голоса, который без труда можно найти в мессенджере, где практически все пользователи отправляют голосовые сообщения. Подделка голоса осуществляется при помощи различных сервисов и программ, способных создавать голосовые аналоги человека на основе записанных образцов. Качество синтезированного голоса зависит от точности и количества записанных образцов. Благодаря современным технологиям, хакерам достаточно всего 20-секундного фрагмента разговора для создания копии голоса любого человека. Мошенники добывают образцы голоса потенциальной жертвы разнообразными методами: используют общедоступные аудио- и видеозаписи из интернета, а также данные, полученные при утечках биометрической информации. Кроме того, они могут записать голос человека, просто позвонив ему, и использовать диктофон для записи. Иногда мошенники получают доступ к аккаунту пользователя в мессенджере, применяя различные методы, такие как фишинг и социальная инженерия. Получив доступ к переписке, злоумышленники извлекают голосовые сообщения и загружают их в специальную систему, функционирующую на базе искусственного интеллекта.
Эта система затем анализирует голосовые образцы и учится имитировать особенности речи человека.
Известны случаи, когда аферисты звонят с номера банка, хотя на самом деле это всего лишь умелая фальсификация. По этой логике преступники могут звонить и с «номера» того человека, которым они представляются. Итак, что делать? Есть три способа, как раскусить этот вид мошенничества и не стать жертвой телефонных мошенников. Проверочный вопрос. Какой бы убедительной ни казалась речь близкого человека особенно если он звонит не со своего номера , задайте ему такой вопрос, ответ на который знает только он: например, кем работала твоя бабушка, где находится наша дача, как зовут твоего домашнего питомца и т. Кодовое слово. Договоритесь с семьей и друзьями, что в случае экстремальной ситуации вы всегда будете использовать кодовое слово. Это позволит моментально раскрыть любую телефонную аферу с поддельным голосом.
Сбросить и перезвонить. Это хороший способ проверить, что вам действительно звонит близкий человек, даже если звонок поступил якобы с его номера.
В зависимости от степени нарушения может последовать: А. Вынос поста в общую ленту п. Удаление поста п.
Занесение пользователя в игнор-лист сообщества п. Жалобы на администратора принимает.
Однако для полноценного снятия слепка голоса нужен объемный датасет — то есть набор данных. Простых записанных фраз для полноценной хакерской атаки будет явно недостаточно, так как голосовое подтверждение — это только один из факторов аутентификации Шамиль МагомедовIT-эксперт Биометрия в банках Опасаться биометрии по голосу, которую предлагают банки, также не стоит, убежден Магомедов. Соответственно, они уделяют максимальное внимание сохранности персональных данных клиентов и в целом кибербезопасности своих внутренних систем», — сказал IT-эксперт.
Алгоритмы настроены таким образом, что идентификация происходит по целому ряду параметров: учитывается устройство, с которого происходит звонок, его местоположение, IP-адрес и номер телефона, перечислил он. Только совокупность корректных данных позволит открыть доступ к управлению счетом или другими услугами Шамиль МагомедовIT-эксперт «Кроме того, представители банковских структур не раз подчеркивали, что операторы, принимающие звонок, также снабжены подробными инструкциями и могут различить "красные флажки", сигнализирующие о возможных мошенниках», — отметил собеседник.
Информационная безопасность операционных технологий
С помощью специальных программ мошенники воспроизводят голоса родных потенциальной жертвы. Мошенники научились подделывать голоса родных потенциальной жертвы. Кроме того, они создают адресные схемы, которые составлены по цифровому портрету человека, сообщили «РИА Новости» в Центробанке. Мошенники ради обмана россиян подделывают голоса родных и близких потенциальных жертв — об этом рассказали в Центробанке РФ. Мошенники также используют голосовой фишинг, они имитируют голос конкретного человека (родственника или коллеги).
Мошенники массово воруют голоса россиян. Как не стать их жертвой?
Ему посоветовали обратиться за помощью в банк-получатель, а также написать заявление в полицию. Банк, в котором мошенник оформил счет, тоже не мог просто так списать деньги с карты клиента и отправить пострадавшему. Для этого нужен был официальный запрос из правоохранительных органов — но не факт, что и после этого банк вернул бы украденное. Обращаться за помощью к полицейским знакомый не стал: не верит, что получится найти преступника. Однажды у его бабушки украли телефон.
Она написала заявление и провела несколько вечеров в отделении, давая показания. Прошло два года — в итоге дело закрыли из-за истечения срока давности. Теперь знакомому кажется, что в его случае произойдет примерно то же самое. Позвонить другу по телефону, чтобы убедиться, действительно ли ему нужна помощь.
Это единственный надежный способ. Вступать в диалог и задавать проверочные вопросы опасно: у мошенника есть доступ ко всей переписке и он может быстро найти ответ, который вас устроит. Если друг не отвечает, надежнее всего подождать, пока связь наладится. Деньги редко бывают нужны настолько срочно, чтобы несколько часов имели значение.
Алгоритмы настроены таким образом, что идентификация происходит по целому ряду параметров: учитывается устройство, с которого происходит звонок, его местоположение, IP-адрес и номер телефона, перечислил он. Только совокупность корректных данных позволит открыть доступ к управлению счетом или другими услугами Шамиль МагомедовIT-эксперт «Кроме того, представители банковских структур не раз подчеркивали, что операторы, принимающие звонок, также снабжены подробными инструкциями и могут различить "красные флажки", сигнализирующие о возможных мошенниках», — отметил собеседник. Цифровая гигиена При этом Магомедов напомнил, что забывать о простых правилах цифровой гигиены не стоит. Если вашего голоса нет в базах данных, и вы не дали согласие на доступ к своим данным с помощью биометрии, то и преступники не смогут "притвориться" вами», — сообщил эксперт. Во-вторых, следует внимательно относиться к тому, кто и с какого номера звонит.
При видеозвонке, например, можно попросить человека повернуться в профиль. Но что в основном делают мошенники: берут самую дешевую камеру, заходят в самую темную комнату, напротив монитора и действуют. Но части просодики, паузы и манеризмы нет. Поэтому уже после двух предложений, сказанных мошенником, всё будет понятно, — утверждает Владислав Тушканов. С подозрительной текстовой информацией куда проще, нужно просто искать подтверждающие эту информацию факты в нескольких источниках и не принимать сразу каких-то решений, основываясь на полученном вами текст.
Личные данные остаются в интернете навсегда Создание дипфейков, фишинговых ссылок и вредоносных ПО — не единственная полезная для хакеров функция искусственного интеллекта. Нередко и сам человек предоставляет им неограниченные возможности для совершения на себя атак. Руководитель ЦУР Волгоградской области Олег Егорушин рассказал о том, что позволяет злоумышленнику воровать данные с помощью чат-ботов. К сожалению, не все мы соблюдаем безопасность относительно того, что пишем, публикуем, пересылаем в личных сообщениях и так далее, — рассказывает Олег Егорушин. И даже если я зачистил во «ВКонтакте» свои фотографии, которые выкладывал пятнадцать лет назад, то на сайтах-клонах они хранятся до сих пор. Найти всё это не составит злоумышленнику никакого труда. Даже если вы в переписке отправляли сообщения со своими личными данными, это всё остается в сети, и мошенник может это всё вытащить. По словам экспертов, мы сами оставляем свои данные в Сети Источник: Полина Авдошина По словам руководителя ЦУР Волгоградской области, нейросети могут помочь злоумышленнику сгенерировать любой код, программу, которая вытащит с гаджета пользователя все личные данные. Когда вы разрешите какому-то приложению доступ к вашим фотографиям и данным, мошенники автоматом смогут это всё отгружать по ключевым фразам, по фото, — объясняет Олег Егорушин. Но что с нейросетями, что без них, мошенникам легко действовать, если вы не соблюдаете безопасность.
Информацию, которой вы сами делитесь с сетью, зачистить уже никак не получится. Всё, что попало в интернет, оставляет за собой цифровой след, и неважно, личная это переписка или какая-то публикация. Поэтому безопасность человека только в его руках. К слову, не все злоумышленники стараются облегчить себе свою работу, воруя личные данные человека и создавая фейковые материалы с его участием с помощью нейросетей. Особо хитрые из них совершенствуют свои навыки в области психологии и получают прибыль, воздействуя на эмоции потенциальных жертв. В связи с этим возник новый вид мошенничества — попрошайничество в социальных сетях под видом нуждающихся в смеси для кормления мамочек. Больше новостей — в нашем телеграм-канале. Подпишитесь, чтобы не пропустить ничего, что может быть действительно интересно.
Такие просьбы лучше проигнорировать. Центробанк также рекомендует позвонить человеку, от имени которого к вам обратились мошенники, чтобы убедиться в достоверности данных. Ранее сообщалось, что новым "помощником" хакеров стал искусственный интеллект ИИ. С его помощью мошенники начали создавать аудиосообщения и вымогать средства. Преступная схема следующая: сначала злоумышленник взламывает аккаунт пользователя в Telegram или WhatsApp принадлежит корпорации Meta, которая признана экстремистской и запрещена в России и скачивает оттуда голосовые сообщения.