Защитить ИИ от утечки ключей API, номеров карт и файлов клиентов
Это перевод. Основная версия — оригинал на английском; ссылайтесь на него.
Большинство людей используют ИИ с простой надеждой: что всё, что они вставляют, никогда не будет иметь значения. Затем номер карты попадает в сообщение, ключ API (секретный пароль, который программа использует для доступа к платной услуге) оказывается в команде, или целая таблица с адресами клиентов загружается в чат, чтобы её можно было «привести в порядок». Компании это знают. Некоторые полностью запрещают ИИ, что стоит им потери пользы. Другие пишут политику, которую никто не читает в момент вставки. Gatecall — это бесплатный плагин с открытым исходным кодом для Claude Code, ИИ-ассистента Anthropic, который работает с файлами на вашем компьютере. Он устанавливает правило компании именно там, где происходит ошибка, и предоставляет людям путь вперёд вместо простого отказа.
Зачем вам это нужно
Claude Code может читать файлы, выполнять команды и вызывать веб-инструменты на вашем компьютере. Люди, которые его используют, постоянно спрашивают, как держать секреты в стороне от сессии, и проблема GitHub в репозитории Claude Code описывает случаи, когда секреты всё же появлялись, несмотря на то, что инструкции проекта указывали помощнику не трогать их. Написанная инструкция — это запрос; проверка, которая работает перед шагом — это блокировка. Самый известный случай вне сферы кодирования — Samsung в 2023 году, где инженеры вставили исходный код и стенограмму встречи в чат-бот. Никто не хотел навредить. Они просто работали быстро.
Что это дает вам
- Остановка перед отправкой сообщения. Gatecall ищет API-ключи и токены, номера карт (проверяются по стандартному тесту Люна, поэтому обычные длинные номера проходят), IBAN (проверяются по тесту mod-97), национальные номера удостоверения с их контрольной цифрой (Соединённые Штаты, Соединённое Королевство, Испания, Португалия, Бразилия, Франция, Италия, Германия, Нидерланды, Польша, Украина и Россия), а также списки адресов электронной почты или номеров телефонов. Если он находит что-то, сообщение задерживается, и вам объясняют почему простыми словами на английском, испанском, португальском, русском или украинском языке.
- Одна и та же проверка при выполнении действий. Перед тем как помощник выполнит команду, получит веб-страницу или вызовет инструмент, происходит аналогичная проверка.
- Красные, жёлтые и зелёные папки. Вы указываете, какие папки содержат то, что должно остаться в компании: файлы клиентов, кадровые записи, контракты. Красные папки читаются только моделью ИИ, запущенной на вашем компьютере, в сеансе без веб-инструментов и сетевых программ, выходящих наружу. Жёлтые папки — это работа, которая может пойти на собственные счета компании, такие как Claude Team или Enterprise. Всё остальное зелёное.
- Безопасные копии для других инструментов ИИ. Kimi может работать в папке для обучения с практическими файлами. Grok может работать с очищенной копией, где ключи, карты, IBAN, номера удостоверений и списки адресов внутри каждого файла, включая офисные документы, маскируются, так что карта выглядит как
[card ********7899]. - Готовые профили компании. Выберите
default,eu,us-federal-contractorилиus-dod-strict. Компания также может закрыть услуги ИИ определённых стран или поставщиков одной строкой в своей политике. - Журнал для команды безопасности. Каждая остановка записывается по типу и правилу. Само значение никогда не сохраняется: только отпечаток, созданный с помощью собственного ключа компании, так что одну и ту же карту, появившуюся дважды, можно подсчитать. Записи удаляются после периода хранения (90 дней, если вы не выберете другой период) и могут быть экспортированы как файл электронной таблицы.
Конкретный пример
Бухгалтер небольшой фирмы просит Claude «проверить этот список клиентов и потребовать платежи от просроченных», а затем вставляет таблицу с именами, адресами электронной почты и номерами IBAN. С установленным Gatecall сообщение не отправляется. Она видит одну простую строку: текст содержит номера IBAN и список адресов. Она затем выбирает путь, на который указывает Gatecall: папка клиентов отмечена красным, поэтому модель на её компьютере её читает, или она создаёт чистую копию, в которой номера IBAN и адреса замаскированы. Работа все равно выполняется, и реквизиты банка остаются в офисе.
Как начать
Вам нужны Claude Code и Python 3.8 или новее. Учётная запись и платёж не требуются; сам Gatecall ничего не отправляет и ничего не покупает. В Claude Code введите:
/plugin marketplace add https://raw.githubusercontent.com/vadimchernets/poly-a1-plugins/main/.claude-plugin/marketplace.json
/plugin install gatecall@poly-a1Затем скажите "установите правила работы с данными для нашей компании". Помощник спрашивает, какие папки красные, а какие жёлтые, в какой стране вы находитесь, запрещены ли какие-то страны или поставщики, и как долго хранить журнал. Он создаёт файл company-ai-policy.json и соответствующий блок разрешений для Claude Code.
Gatecall работает с другими корпоративными плагинами: Firmcall устанавливает тот же файл политики на каждый ноутбук, Routecall открывает окно локальной модели, которая может читать красные папки, и Billcall читает ту же политику, чтобы подсчитать затраты на ИИ. Все они находятся в каталоге Poly A1 plugins.
Код, тесты и полный список настроек находятся на https://github.com/vadimchernets/gatecall, под лицензией Apache-2.0.
Вадим Чернец также создаёт Poly A1, приложение, в котором ИИ от разных компаний проверяют работу друг друга.