В эпоху, когда искусственный интеллект проник во всё — от фитнес-трекеров до приложений для знакомств, — разобраться в том, кто или что имеет доступ к вашим личным сообщениям, становится всё труднее.
Однако помощь уже близко: ученые разработали новый шрифт, устойчивый к распознаванию искусственным интеллектом. Шрифт, получивший название «Призрачный шрифт» (Ghost Font), записывает сообщения с помощью движения.
«Используя комбинацию движения, видео, шума и ложных целей, мы получаем уникальный способ поделиться посланием с другими живыми людьми», — пояснил его разработчик Эрик Лу. — «Полагаю, технически это не шрифт в традиционном понимании файла TTF. Но Ghost Font — это эксперимент, попытка графически передавать информацию на письме в формате, который ИИ не может легко понять. Хотя он не так разборчив, как обычный текст, буквы всё равно мгновенно считываются человеческим глазом, в то время как даже самые продвинутые модели ИИ не в силах легко его расшифровать».
Чтобы проверить свою разработку, г-н Лу загрузил видео с этим шрифтом в ведущие ИИ-модели и обнаружил, что даже новейшие агенты с трудом декодируют движущиеся сообщения.
Г-н Лу говорит, что его вдохновил шрифт ZXX — гарнитура, созданная еще в 2013 году дизайнером Санг Муном. ZXX включал четыре начертания, разработанных так, чтобы быть читаемыми для людей, но не для программ оптического распознавания символов. «В то время этот шрифт считался «защищенным от слежки», но перенесемся в сегодняшний день — и современные ИИ-агенты могут легко прочесть текст, набранный ZXX», — объяснил г-н Лу в своем блоге. Чтобы обойти современных ИИ-ботов, ему пришлось задействовать движение.
Опробовать шрифт самостоятельно можно, посетив его блог и написав собственное персонализированное сообщение. «Напечатайте несколько слов, и буквы появляются, но только потому, что движение точек видимо человеческому глазу, — говорит он. — Когда видео ставится на паузу, статичные точки сливаются воедино, и становится невозможно определить, просто глядя на один кадр, какое сообщение встроено в изображение. Это означает, что скриншот страницы не раскроет послание».
Чтобы добавить дополнительный уровень защиты, Ghost Font даже содержит хитроумное ложное сообщение-обманку, которое сбивает со следа большинство ИИ-ботов. Г-н Лу пояснил: «Сообщение-приманка служит последней уловкой для решительно настроенного агента. При поиске скрытого послания он может сначала найти ложное и решить, что это и есть настоящее встроенное сообщение в видео. Именно так Ghost Font способен прятать текст даже от самых мощных «думающих» моделей».
Помимо того, что с этим интересно играть, г-н Лу полагает, что Ghost Font может иметь важные практические применения, в том числе в CAPTCHA-системах. Он сказал: «Было бы интересно внедрить Ghost Font в CAPTCHA-системы, поскольку большинство из них сегодня легко решаются ИИ. Использование движения в видео стало бы способом значительно усложнить расшифровку для автоматизированного бота, но при этом оставить ее относительно легкой для прочтения человеком».
Однако по мере того, как ИИ-боты получают всё новые технические обновления, скорее всего, это лишь вопрос времени, когда они смогут взломать этот код. Г-н Лу заключил: «ИИ, безусловно, становится действительно хорош. Хотя Ghost Font трудно читать ИИ, его довольно трудно читать и людям! Разрыв продолжает сокращаться. Будет интересно увидеть, что ждет нас в будущем в сфере восприятия ИИ и мультимодальных моделей».
На этой неделе несколько пользователей социальных сетей протестировали шрифт, и отзывы оказались неоднозначными. «Это что, идеальная капча?» — спросил один из них. Другой добавил: «Я не вижу смысла в подобных усилиях, даже в краткосрочной перспективе, пока ИИ не наверстают упущенное». А кто-то пошутил: «Единственный недостаток в том, что он сводит с ума всех, кто на него смотрит».
Источники: блог Эрика Лу (Eric Lu) с описанием Ghost Font, интервью и публикации об анти-ИИ шрифтах и гарнитуре ZXX Санг Муна.
Ваш комментарий