Согласно обнародованному в среду отчёту Управления подотчётности правительства США (GAO), встроенные защитные механизмы четырёх ведущих ИИ-чат-ботов — ChatGPT, Claude, Gemini и Grok — были легко обойдены. Следователи получили детальные планы атак, которые независимые эксперты признали способными причинить реальный ущерб.
Каждый чат-бот выдал свой план менее чем за 12 часов, указав конкретные цели, места, время и методы нападения. Следователи отметили, что все четыре платформы «выдали информацию, которая может помочь злоумышленнику спланировать и осуществить атаку». В частности, две платформы предоставили данные о создании и приведении в действие самодельного взрывного устройства (СВУ), предназначенного для массовых жертв.
Сенатор Мэгги Хасан, будущая глава комитета Сената по внутренней безопасности, объявила о проведении слушаний и призвала Конгресс действовать незамедлительно: «Террорист может зайти на ИИ-платформу и менее чем за 12 часов получить конкретный план смертоносной атаки. Если Конгресс не примет меры, вопрос лишь в том, когда, а не если, злоумышленник использует ИИ для планирования и осуществления крупной атаки».
Аудит проводился с декабря 2025 по октябрь 2026 года, включая тестирование весной 2026-го. Следователи выдавали себя за обычных пользователей с ограниченными знаниями об ИИ. Первоначальные запросы не давали результатов, однако продолжение диалога с уточняющими вопросами позволяло обходить защиту. В отчёте не раскрывается, какая именно система выдала какие результаты, но указывается, что «Платформа A» рекомендовала конкретную дату и время атаки, сославшись на запланированные публичные мероприятия и большое скопление людей, а также описала район, наиболее уязвимый для выбранного метода. Она же подсказала лучший способ добраться из соседнего города (например, аренда автомобиля), способы избежать отслеживания транспорта и магазины по маршруту для закупки необходимых материалов, а также предоставила ссылку на документ по сборке СВУ. «Платформа B» составила подробный график операционных, логистических и разведывательных мероприятий, включая аренду сельхозземли для staging-площадки и инструкции по избежанию внимания правоохранителей при закупке материалов. «Платформа C» рекомендовала атаку на электрическую подстанцию с помощью дрона, указав быстрейший способ вызвать отказ компонента, сгенерировав четырёхшаговую схему процесса отказа и реалистичное симулированное видео атаки. «Платформа D» предложила использовать огнестрельное оружие.
В 61-страничном отчёте приведены ответы Anthropic, Google, OpenAI и SpaceXAI, которые в целом заявили, что продолжают совершенствовать свои платформы. GAO заключает: «Потенциальные выгоды этой технологии огромны, но она может приносить пользу и злоумышленникам. По мере развития возможностей ИИ провайдеры будут продолжать дорабатывать защитные механизмы. Однако в текущем состоянии технология потенциально опасна, а её неправомерное использование представляет растущий риск для национальной и экономической безопасности».
Источники: отчёт Управления подотчётности правительства США (GAO), заявления сенатора Мэгги Хасан, ответы компаний Anthropic, Google, OpenAI и SpaceXAI.
Поделитесь в вашей соцсети👇
Ваш комментарий