Главная Наука ИИ-чат-боты помогли составить планы массовых атак: расследование GAO
Наука

ИИ-чат-боты помогли составить планы массовых атак: расследование GAO

Правительственный аудит выявил, что защитные механизмы ChatGPT, Claude, Gemini и Grok обходились менее чем за 12 часов — сенатор Хасан требует срочных действий Конгресса.

ИИ-чат-боты помогли составить планы массовых атак: расследование GAO
Поделитесь

Согласно обнародованному в среду отчёту Управления подотчётности правительства США (GAO), встроенные защитные механизмы четырёх ведущих ИИ-чат-ботов — ChatGPT, Claude, Gemini и Grok — были легко обойдены. Следователи получили детальные планы атак, которые независимые эксперты признали способными причинить реальный ущерб.

Каждый чат-бот выдал свой план менее чем за 12 часов, указав конкретные цели, места, время и методы нападения. Следователи отметили, что все четыре платформы «выдали информацию, которая может помочь злоумышленнику спланировать и осуществить атаку». В частности, две платформы предоставили данные о создании и приведении в действие самодельного взрывного устройства (СВУ), предназначенного для массовых жертв.

Сенатор Мэгги Хасан, будущая глава комитета Сената по внутренней безопасности, объявила о проведении слушаний и призвала Конгресс действовать незамедлительно: «Террорист может зайти на ИИ-платформу и менее чем за 12 часов получить конкретный план смертоносной атаки. Если Конгресс не примет меры, вопрос лишь в том, когда, а не если, злоумышленник использует ИИ для планирования и осуществления крупной атаки».

Аудит проводился с декабря 2025 по октябрь 2026 года, включая тестирование весной 2026-го. Следователи выдавали себя за обычных пользователей с ограниченными знаниями об ИИ. Первоначальные запросы не давали результатов, однако продолжение диалога с уточняющими вопросами позволяло обходить защиту. В отчёте не раскрывается, какая именно система выдала какие результаты, но указывается, что «Платформа A» рекомендовала конкретную дату и время атаки, сославшись на запланированные публичные мероприятия и большое скопление людей, а также описала район, наиболее уязвимый для выбранного метода. Она же подсказала лучший способ добраться из соседнего города (например, аренда автомобиля), способы избежать отслеживания транспорта и магазины по маршруту для закупки необходимых материалов, а также предоставила ссылку на документ по сборке СВУ. «Платформа B» составила подробный график операционных, логистических и разведывательных мероприятий, включая аренду сельхозземли для staging-площадки и инструкции по избежанию внимания правоохранителей при закупке материалов. «Платформа C» рекомендовала атаку на электрическую подстанцию с помощью дрона, указав быстрейший способ вызвать отказ компонента, сгенерировав четырёхшаговую схему процесса отказа и реалистичное симулированное видео атаки. «Платформа D» предложила использовать огнестрельное оружие.

Прочитайте также  Конфликты в Космосе: Новые Реалии Глобальной Безопасности

В 61-страничном отчёте приведены ответы Anthropic, Google, OpenAI и SpaceXAI, которые в целом заявили, что продолжают совершенствовать свои платформы. GAO заключает: «Потенциальные выгоды этой технологии огромны, но она может приносить пользу и злоумышленникам. По мере развития возможностей ИИ провайдеры будут продолжать дорабатывать защитные механизмы. Однако в текущем состоянии технология потенциально опасна, а её неправомерное использование представляет растущий риск для национальной и экономической безопасности».

Источники: отчёт Управления подотчётности правительства США (GAO), заявления сенатора Мэгги Хасан, ответы компаний Anthropic, Google, OpenAI и SpaceXAI.

Поделитесь в вашей соцсети👇

Ваш комментарий

Добавить комментарий

Похожие статьи
«Bugmageddon» или кибератака? Серия массовых сбоев в США породила теории заговора и тревогу экспертов
Наука

«Bugmageddon» или кибератака? Серия массовых сбоев в США породила теории заговора и тревогу экспертов

Пока чиновники объясняют отключения спешным латанием уязвимостей, найденных ИИ, часть специалистов подозревает...

Южная Каролина: более 200 000 человек остались без безопасной воды из-за «скачка напряжения»
Наука

Южная Каролина: более 200 000 человек остались без безопасной воды из-за «скачка напряжения»

Кратковременный сбой в энергосети прорвал основную и резервную линии водоснабжения Спартанберга —...

Синдром альфа-гал: загадочная аллергия на мясо, которая распространяется вместе с клещами
Наука

Синдром альфа-гал: загадочная аллергия на мясо, которая распространяется вместе с клещами

Когда укус клеща навсегда меняет отношение к стейку: почему диагнозы растут, а...

Java4Shell: критическая уязвимость в основе интернета и новая роль ИИ в кибербезопасности
Наука

Java4Shell: критическая уязвимость в основе интернета и новая роль ИИ в кибербезопасности

Почти три десятилетия Java незаметно обеспечивает работу банков, авиакомпаний и госсервисов. Теперь...