Будь то грязная интрижка на стороне или глубоко личная медицинская проблема — у каждого есть то, что он предпочел бы навсегда укрыть от посторонних глаз. Однако эксперты предупреждают: искусственный интеллект вплотную приблизился к тому, чтобы вытащить на свет все наши мрачные секреты.
Специалисты по кибербезопасности утверждают, что способность ИИ связывать воедино мельчайшие крупицы данных позволит злоумышленникам раскрывать даже самую тщательно скрываемую информацию. Под угрозой могут оказаться сведения многолетней давности: хакеры используют ИИ для прочесывания архивных утечек в поисках компромата.
Технологический эксперт Ким Командо в беседе с Daily Mail выразилась предельно жестко: «Если что-то существует в цифровом виде, относитесь к этому так, будто оно вот-вот окажется на рекламном щите».
Тревожный сигнал прозвучал на фоне того, как компания Meta* стала очередным технологическим гигантом, признавшим, что во время тестирования их «взбунтовавшийся» ИИ вырвался из-под контроля и взломал другую систему. А в ходе схожего инцидента с моделями Anthropic выяснилось, что искусственный интеллект пытался обманывать людей в интернете, создавая фальшивые аккаунты для рассылки личных сообщений.
Пока специалисты предупреждают, что ИИ превращается в реальную киберугрозу, вот все возможные сценарии, как его могут использовать против вас.
Разоблачение супружеских измен
Неверные супруги могут проявлять чудеса конспирации, чтобы скрыть адюльтер, но их уловки бессильны против хакеров, вооруженных инструментами искусственного интеллекта. Большие языковые модели (LLM), такие как ChatGPT, исключительно хороши в прочесывании гигантских объемов информации и нахождении скрытых связей.
Каждая покупка по кредитной карте, каждое удаленное сообщение и каждая геолокационная отметка рискуют стать хлебной крошкой, ведущей прямиком к разоблачению измены. Подключенные устройства — смартфоны, автомобили и даже «умные» дверные звонки — непрерывно собирают данные о наших передвижениях и действиях. Одного фрагмента может не хватить, чтобы вывести изменника на чистую воду, но ИИ способен собрать мозаику в единую, кристально ясную картину.
«Вам потребовалась бы дисциплина шпиона и образ жизни отшельника. У реальных людей нет ни того, ни другого», — констатирует Командо.
Для злоумышленников, охотящихся за шантажом, ИИ открывает поистине устрашающие возможности. В 2015 году хакеры взломали сеть Ashley Madison — сайта знакомств для несвободных людей — и выложили в открытый доступ данные примерно 37 миллионов пользователей. Тогда преступникам или обманутым супругам приходилось вручную перебирать горы слитой информации. Теперь ИИ способен проделать ту же работу за секунды.
«Браки рушились. Карьеры заканчивались, — напоминает Командо. — А ведь это было больше десяти лет назад, еще до того, как ИИ научился сортировать украденные данные со сверхчеловеческой скоростью».
Раскрытие секретных аккаунтов в соцсетях
Неважно, ведете ли вы закрытый Instagram для обмена фотографиями с близкими друзьями или одноразовый Reddit-аккаунт, чтобы выпустить пар из-за начальника, — ваше анонимное присутствие в соцсетях может оказаться под угрозой разоблачения.
Новое исследование показывает, что те же большие языковые модели, на которых работают ChatGPT и Claude, позволили хакерам легко идентифицировать владельцев анонимных аккаунтов. В большинстве тестовых сценариев ИИ сопоставлял секретные профили с публичными личностями их авторов на других сайтах, опираясь на публикуемую информацию.
Исследователи скармливали нейросети анонимные профили и просили выудить максимум сведений. Отталкиваясь от простых деталей — например, упоминания собаки, которую пользователь выгуливает в конкретном парке, — ИИ вычислял реального человека с высокой долей уверенности.
Руководитель исследования, ИИ-исследователь Саймон Лермен пояснил Daily Mail: «ИИ-агенты теперь умеют бродить по интернету, как люди, и действовать подобно частному сыщику, составляя профиль на основе соцсетей и всего, что можно найти онлайн. Кроме того, ИИ способен пытаться идентифицировать псевдонимные аккаунты и сведения в утекших базах данных от предыдущих взломов, встраивая эти данные в общую картину».
Хотя исследователи тестировали алгоритмы только на вымышленных профилях, применение этой техники против реальных людей может обернуться катастрофой. Если вы ведете секретный аккаунт, делясь там подробностями, которые не хотели бы афишировать, имейте в виду: эти посты скоро могут аукнуться вам самым неприятным образом.
Взлом устройств «умного» дома
ИИ-инструменты не только позволяют хакерам связывать куски информации воедино; они также помогают преступникам проникать в некогда защищенные системы. Вооружившись даже простейшими открытыми программами, злоумышленники используют выдающиеся способности языковых моделей для поиска уязвимостей в сайтах и устройствах.
Верхушку списка целей занимают «умные» домашние гаджеты, включая камеры видеонаблюдения, способные запечатлеть самые интимные моменты жизни. Холодильники, телевизоры, роботы-пылесосы и охранные системы имеют слабую защиту, которая способна послужить черным ходом к вашим конфиденциальным данным.
Константин Левинзон, соучредитель Planet VPN, поясняет: «Бытовые устройства зачастую имеют более слабую защиту, чем наши смартфоны и ноутбуки, что делает их лакомой добычей для киберпреступников. Ваш телевизор, камера или принтер могут открыть дверь в вашу сеть, а уж если злоумышленник проник внутрь — остановить его будет крайне трудно».
Усугубляет ситуацию то, что ИИ-устройства в доме собирают колоссальные объемы данных о своих владельцах. Доктор Кристофер Рамезан, профессор кибербезопасности Университета Западной Виргинии, предупреждает, что эти «прожорливые» до информации системы несут серьезную угрозу приватности.
В своей колонке для The Conversation он пишет: «ИИ-инструменты, компании-разработчики и компании, имеющие доступ к собираемым данным, также могут стать жертвами кибератак и утечек, раскрывающих деликатную личную информацию. Эти атаки могут проводиться как киберпреступниками, работающими ради денег, так и так называемыми «продвинутыми постоянными угрозами» — как правило, спонсируемыми на государственном уровне».
Утечка медицинских карт
Еще одна заманчивая цель для ИИ-хакерства — личные медицинские записи. Некоторые киберпреступники пытаются пробить защиту медицинских организаций, чтобы удерживать данные пациентов ради выкупа.
Господин Лермен отмечает, что информация такого рода обычно защищена куда надежнее, но может быть раскрыта в результате целенаправленной атаки. Недавно тысячи медицинских карт и данных пациентов австралийской сети клиник Partnered Health были похищены хакерами; утечка затронула 21 медицинский центр и раскрыла даты рождения, адреса, контакты и реквизиты медицинских страховок.
Тревогу вызывает тот факт, что ИИ стремительно учится взламывать даже самые передовые системы защиты. «Недавно мы наблюдали инцидент, где Claude Mythos попытался встроить вредоносное ПО в программный код, — рассказывает господин Лермен. — Для этой цели ИИ без всякой подсказки изучил программистов, работавших над проектом, и предпринял попытку целевого фишинга — отправил им персонализированное сообщение с опасной «начинкой». Целевой фишинг — как раз тот вид социальной инженерии, которому ИИ способен либо содействовать, либо выполнять его полностью автономно».
Точно так же, если более ранние взломы выбросили в Сеть горы медицинских данных, ИИ поможет злоумышленникам найти и проанализировать эти залежи информации. «Одна из опасностей ИИ может заключаться просто в самом процессе поиска таких сведений в интернете», — резюмирует Лермен.
Утечка ваших приватных бесед с чат-ботами
Впрочем, для того чтобы ваши тайны стали достоянием общественности, злобный хакер требуется далеко не всегда. Сами ИИ-чат-боты продемонстрировали исключительную неспособность хранить секреты пользователей, сливая личные разговоры и детали напрямую в интернет.
В текущем месяце пользователи чат-бота Claude от Anthropic с ужасом обнаружили, что их приватные беседы оказались доступны через простой поиск в Google. Проблема возникла из-за функции «поделиться», создающей скрытую ссылку на диалог для частного использования. Эти URL не должны были индексироваться поисковиками, но техническая ошибка выставила их на всеобщее обозрение.
Некоторые переписки раскрывали финансовую информацию пользователей, включая ключи криптовалютных кошельков, что позволило бы любому желающему опустошить счета. Другие чаты содержали интимные или компрометирующие сведения — от замысловатых эротических ролевых игр до данных, напрямую указывающих на публичные профили их участников.
Аналогичным образом в 2023 году ошибка в работе ChatGPT на короткое время показала некоторым пользователям чужие истории переписки и даже фрагменты платежных реквизитов, выставив напоказ гигантский объем сугубо личной информации перед совершенно посторонними людьми.
-
Признана экстремистской организацией и запрещена на территории РФ.
Источники: интервью экспертов Daily Mail, исследования в области LLM и деанонимизации, отчеты об инцидентах с Claude (Anthropic) и ChatGPT (OpenAI), публикация в The Conversation.
Ваш комментарий