Широкие возможности генеративного искусственного интеллекта привлекают не только пользователей со всего мира, но и киберпреступников. Такие инструменты искусственного интеллекта уже используются в злонамеренных целях, например, для создания убедительных фишинговых сообщений, вредоносного кода или поиска уязвимостей.
Кроме того, киберпреступники обманом пытаются заставить жертв установить вредоносное программное обеспечение, замаскированное под программы искусственного интеллекта. В связи с этим специалисты ESET подготовили перечень популярных способов распространения таких угроз ― от обманчивой рекламы в социальных сетях до сайтов-подделок и фальшивых приложений.
Фишинговые сайты и опасные расширения браузера
Во второй половине 2023 года продукты ESET заблокировали более 650 000 попыток доступа к вредоносным доменам, содержащим chapgpt или подобный текст. Жертвы, вероятнее всего, попадают в ловушку, перейдя по ссылке в социальных сетях или электронном письме. Некоторые из этих фишинговых страниц могут содержать ссылки на установку вредоносной программы, замаскированную под приложение искусственного интеллекта.
Другой угрозой является вредоносное расширение для браузера. В частности, они распространялись через обманчивую рекламу в Facebook, которая обещала перенаправить пользователей на официальный сайт Sora от OpenAI или Gemini от Google. На самом же деле злоумышленники могли собирать учетные данные пользователей Facebook. С августа 2023 года телеметрия ESET зафиксировала более 4 000 попыток установить вредоносное расширение. В других случаях опасные расширения предлагают функционал искусственного интеллекта, а на самом деле распространяют угрозу.
Подделка приложений искусственного интеллекта
Поддельные программы размещались в магазинах мобильных приложений, а некоторые даже содержали угрозу для похищения учетных данных для входа, персональной или финансовой информации.
![Поддельный ChatGPT. Поддельные программы искусственного интеллекта размещались в магазинах мобильных приложений. ESET.](/fileadmin/_processed_/0/e/csm_fake-chatgpt_1c4258e55f.jpg)
Другой преступной схемой мошенников есть предложение расширенных возможностей искусственного интеллекта за определенную плату. После загрузки приложения могут показывать пользователю большое количество рекламы, требовать покупки в приложении или подписки на услуги, которых нет или которые доступны в очень низком качестве.
Вредоносная реклама
Киберпреступники используют популярность инструментов искусственного интеллекта, чтобы обманом заставить пользователей нажать на вредоносную рекламу, особенно распространенную в Facebook. В прошлом году компания Meta предупредила, что многие из этих кампаний направлены на компрометацию рекламных аккаунтов компаний в Интернете.
![Вредоносная реклама. Активность киберпреступников компрометирует рекламные аккаунты компаний в Интернете. ESET.](/fileadmin/_processed_/b/b/csm_harmful-ads_1a923dab41.jpg)
Злоумышленники получают контроль над легитимным аккаунтом или страницей, изменяют информацию профиля, чтобы она выглядела как настоящая страница ChatGPT, а затем используют аккаунты для показа поддельной рекламы. Киберпреступники предлагают ссылку на последнюю версию инструментов искусственного интеллекта, но на самом деле разворачивают угрозу для кражи информации.
Изящные приманки
Также злоумышленники умело манипулируют эмоциями пользователей, включая страх, доверчивость и любознательность, чтобы заставить перейти по опасным ссылкам или загрузить вредоносные программы. Таким образом, киберпреступники убеждают нажать на непристойные факты о знаменитостях или шокирующие новости на тему определенных событий, например, вымышленные истории о поддельных вакцинах против COVID-19. Иногда это предложение определенных товаров или услуг бесплатно, с невероятной скидкой или исключительно ранним доступом.
В случае с темой искусственного интеллекта злоумышленники маскируют вредоносное программное обеспечение под разные приложения – от ChatGPT и модели для создания видео Sora AI до генератора изображений Midjourney, DALL-E и фоторедактора Evoto. Многие версии, которые они рекламируют, недоступны, что еще больше привлекает жертву, например, «ChatGPT 5» или «DALL-E 3».
Что может оказаться под опасностью?
Во многих случаях целью киберпреступников является кража информации. Такие вредоносные программы предназначены для сбора конфиденциальной информации, в частности данных для входа в корпоративные учетные записи или сохраненной информации о банковских картах, файлов cookie (для обхода многофакторной аутентификации), данных из мессенджеров и многое другое.
Однако киберпреступники не ограничиваются только кражей данных. Злоумышленники также могут скрыть любой тип вредоносного программного обеспечения в приложениях и ссылках, включая программы-вымогатели и трояны для удаленного доступа (RAT). Это может привести к полному удаленному контролю над устройством и сохраненными на нем данными. Кроме того, они могут использовать ваше устройство для атак на других пользователей.
Также киберпреступники могут использовать финансовые и идентификационные данные, чтобы получить новые банковские карты на ваше имя или украсть криптоактивы, получить доступ и продать банковскую информацию. Кроме этого, они могут даже использовать корпоративные учетные данные для атаки на вашего работодателя, организацию-партнера или компанию-поставщика. Недавно злоумышленники использовали угрозу для кражи информации с целью получения доступа к аккаунтам Snowflake, что привело к компрометации десятков миллионов данных клиентов.
Как избежать опасностей, связанных с искусственным интеллектом?
1. Устанавливайте программы только из официальных магазинов
Google Play и Apple App Store имеют строгие процессы проверки и регулярный мониторинг, чтобы выявить вредоносные программы. Избегайте загрузки приложений со сторонних веб-сайтов или неофициальных источников, поскольку они с большей вероятностью содержат угрозы.
2. Проверяйте разработчиков и их программы
Прежде чем загружать приложение, проверьте данные разработчика и найдите другие приложения, которые он разработал, а также прочтите отзывы пользователей. Подозрительные программы часто имеют плохо написанные описания, ограниченную историю разработчиков и негативные отзывы, описывающие проблемы.
3. Будьте осторожны, нажимая на объявления в Интернете
Онлайн-реклама, особенно на платформах социальных сетей, таких как Facebook, может распространять вредоносные программы. Вместо того чтобы нажать на объявление, найдите приложение или инструмент непосредственно в официальном магазине, чтобы убедиться, что вы загружаете официальную версию.
4. Перед установкой проверьте расширение веб-браузера.
Расширения веб-браузера могут улучшить работу в Интернете, но также могут представлять угрозу безопасности. Проверьте разработчика и прочтите отзывы перед установкой любых расширений. Используйте расширение известных разработчиков с высокими оценками и отличными отзывами пользователей.
6. Остерегайтесь фишинга
Фишинг остается распространённой угрозой. Поэтому будьте осторожны с нежелательными сообщениями, которые предлагают перейти по ссылке или открыть вложения. Проверьте личность отправителя, прежде чем взаимодействовать с любым подозрительным электронным письмом, текстовым сообщением или сообщениями в социальных сетях.
7. Всегда оставайтесь внимательными
Если вы видите предложение загрузить новую версию инструмента искусственного интеллекта, проверьте его доступность через официальные каналы, прежде чем продолжить. Проверьте официальный веб-сайт или надежные новостные источники, чтобы подтвердить выход новой версии.
8. Включите многофакторную аутентификацию для всех онлайн-аккаунтов
Многофакторная проверка подлинности обеспечивает дополнительный уровень безопасности для учетных записей в Интернете. Поэтому включите ее, где это возможно, чтобы защитить свои учетные записи, даже в случае взлома пароля.
9. Обеспечьте комплексную защиту от онлайн-угроз
Позаботьтесь о безопасности своих компьютеров, ноутбуков и мобильных устройств с помощью надежного решения для защиты от вредоносных программ, попыток фишинга и других онлайн-угроз. В частности, обеспечить защиту компьютеров и смартфонов можно с помощью одной подписки ESET HOME Security Premium для безопасности всех устройств.