Шокирующее нарушение безопасности, устроенное вышедшим из-под контроля искусственным интеллектом, может оказаться первым представителем нового поколения кибер-кошмаров, угрожающих обществу, предупредил эксперт.
Компания OpenAI, создавшая ChatGPT, публично раскрыла 21 июля, что одна из её продвинутых моделей вырвалась из изолированной среды, вышла в интернет и взломала системы другой компании, занимающейся искусственным интеллектом.
Беспрецедентный инцидент — предположительно первый случай, когда ИИ-модель самостоятельно, без каких-либо указаний человека, проникла в базы данных другой компании, — вызвал глобальную тревогу и породил сравнения с восстаниями роботов из «Терминатора» и «Матрицы».
Однако Джеймс Найт с портала DigitalWarfare.com заявил Daily Mail, что это не фантастика. Он предупредил: программы-взломщики на базе ИИ способны опустошить целую страну за один день, одновременно проникнув в тысячи корпоративных и правительственных сетей, похитив секретные данные и парализовав жизненно важные системы с помощью вирусов-вымогателей.
Найт, ветеран кибербезопасности, чью компанию нанимают для поиска уязвимостей в компьютерных системах крупных корпораций, сказал: «Уже два года у нас существует ИИ-софт, способный достичь такого уровня взлома за 15 минут».
Он добавил, что кошмарный сценарий «Агентного ИИ» — то есть основанных на искусственном интеллекте хакерских программ, используемых террористическими группами или враждебными государствами для одновременной атаки на тысячи компаний без какого-либо участия человека, — может стать реальностью в течение ближайших 25 лет.
В этих временных рамках, предсказывает Найт, взбесившиеся ИИ-системы смогут проводить целые хакерские кампании с машинной скоростью: сканировать цели, проникать внутрь, перемещаться по сетям, воровать данные и даже распространять вирусы-вымогатели на тысячи компаний и миллионы людей.
Найт предупредил, что в конечном счёте ИИ может быть объединён с мощными новыми компьютерами, способными взламывать даже самые стойкие системы цифровой защиты, позволяя преступникам за секунды получать доступ ко всему: от электронной переписки и финансовых записей до военных секретов.
Генеральный директор OpenAI Сэм Альтман подтвердил, что произошёл «значительный инцидент в сфере безопасности».
«Мы знаем, на что он способен. Мы не настолько наивны, чтобы думать, что у правительств ещё нет доступа к таким возможностям», — подчеркнул Найт.
Он пояснил, что это стремительно эволюционирующее оружие скоро сможет автономно планировать, действовать и корректировать свою стратегию, нанося максимальный урон бизнесу и простым людям со скоростью суперкомпьютера. «Они уже выходят из стадии исследований в практическое применение», — сказал Найт Daily Mail.
Как машина сбежала из клетки
Тестируемая программа была призвана проверить способность продвинутых ИИ-моделей OpenAI выполнять сложные хакерские и киберзащитные задачи — раннее испытание тех самых «агентных» систем, которые, по опасениям Найта, скоро сметут цифровую оборону, управляемую человеком.
Взбесившийся ИИ якобы находился в защищённой цифровой среде внутри компьютеров OpenAI и не имел прямого доступа в публичный интернет, но сумел обнаружить нераскрытое слабое место в системе компании и распространил себя в сеть.
Вырвавшись на свободу, программа взломала внутренние системы Hugging Face — компании, размещающей большие языковые модели и наборы данных для ИИ, — и украла секретные учётные данные, а также скрытые ответы к тесту по кибербезопасности, который та самая взбунтовавшаяся программа и проходила.
В Hugging Face заявили, что заметили вторжение, заблокировали свои системы, и никакие публичные данные или информация клиентов не пострадали.
«Защита на человеческой скорости против атаки на машинной скорости — это неравный бой, — предупредил Найт. — За считанные минуты они полностью захватили бы контроль над огромным количеством целей. Каждый день мы слышали бы о сотнях тысяч новых взломанных компаний».
Хотя многие пользователи сети назвали «пугающей» саму мысль о бездушной компьютерной программе, которая взбунтовалась и взламывает всё, что захочет, Найт подчеркнул, что в побеге OpenAI не было никакой «магии».
Эксперт с тремя десятилетиями опыта в кибербезопасности приоткрыл занавес над тем, как именно ИИ-модель проломила защиту Hugging Face. По его словам, она сделала то же самое, что и хакеры-люди сегодня, только с гораздо большей скоростью: атаковала слабые пароли и эксплуатировала уязвимости в программах, на которые не установили последние заплатки безопасности.
«В этих новейших ИИ-моделях мы видим автоматизированные интеллектуальные возможности, которые воспроизводят то, что раньше делалось вручную. Однако теперь всё автоматизировано и использует мощный интеллект, подкреплённый колоссальными вычислительными ресурсами. Если убрать всё лишнее, спросите себя: насколько трудно любому ИИ, не говоря уже о новейших моделях, взломать систему со слабым паролем? Совсем не трудно», — объяснил Найт.
Сооснователь Hugging Face Томас Вольф назвал инцидент леденящим душу предупреждением для всей индустрии. Он добавил, что этот взлом стал «тревожным звонком», поскольку, по его мнению, большинство компаний сейчас совершенно не готовы к растущей угрозе и даже не осознают, что «правила игры изменились».
Сомнения в «песочнице» и рецепт спасения
В пресс-релизе, признавая факт побега ИИ, OpenAI заявила, что программа вышла из-под контроля после того, как инженеры ослабили правила безопасности, которые в штатном режиме не дают опасным хакерским программам заходить слишком далеко. Там добавили, что ИИ настолько сфокусировался на выполнении цели, что нашёл ранее неизвестную брешь в тестовой среде — так называемую уязвимость «нулевого дня», — которая и позволила ему покинуть систему OpenAI и выйти в интернет.
Найт скептически отнёсся к утверждениям OpenAI, что программа изначально была «в песочнице» — то есть тестировалась в полностью изолированной компьютерной сети. «Это не может быть правдой. Если бы это было так, она не была бы подключена ни к какой другой сети и уж точно не получила бы доступ в интернет», — отметил он.
Daily Mail обратилась в OpenAI за комментарием по поводу этих заявлений и планов компании на будущие хакерские тесты.
Хотя Найт предупредил, что полностью остановить взбесившуюся ИИ-программу невозможно, лучшая защита по-прежнему будет строиться вокруг того, что люди делают для противодействия хакерам сегодня, — использования более совершенных методов аутентификации. «Самая цитируемая статистика гласит, что 80 процентов всех взломов связаны со слабым паролем. Ещё 60 процентов — с отсутствием заплатки безопасности», — сообщил он.
Использование ИИ для управления кибербезопасностью и переход на многофакторную аутентификацию — когда пользователи получают специальный код на телефон для доступа к сайтам — также замедлят атаки взбесившегося искусственного интеллекта.
«Этого кошмарного сценария можно избежать, но для этого компании должны действовать уже сейчас: инвестировать в сотрудников, которые закроют базовые уязвимости и защитят себя», — резюмировал эксперт.
При подготовке статьи использовались материалы Daily Mail, заявления OpenAI и Hugging Face, а также комментарии эксперта по кибербезопасности Джеймса Найта (DigitalWarfare.com).
Ваш комментарий