Мнения разнятся
Искусственный интеллект — новый алгоритм, причем наиболее сложный из существующих. По словам Евгения Зрюмова, министра цифрового развития и связи Алтайского края, человечество более или менее понимает, как это работает, в зависимости от интерпретации, но он оказывает сильное влияние на жизнь.
Многие мировые лидеры заявляют о неконтролируемости ИИ. В качестве свежих примеров министр привел события, произошедшие 28 и 31 июля, когда сотни ИИ-агентов OpenAI взломали платформу Hugging Face, а модели Claude во время испытаний взломали системы трех организаций.
«Уволившийся из Anthropic ведущий специалист предупредил, что искусственный интеллект может нас всех убить, и мы все равно отодвигаем это все на второй план и продолжаем дальше внедрять его, не решая основные вопросы», — говорит Евгений Зрюмов.
Яков Филин, гендиректор компании «Эстесис», в свою очередь, отметил, что сейчас уже ни один отдел маркетинга не отказывается от инструментов ИИ. Разработчики тоже активно их используют. По разным аналитическим отчетам, к концу года планируется внедрение почти в 100% компаний, которые занимаются софтверной разработкой и ИТ-деятельностью.
Однако, по его словам, есть и другая цифра: с каждым годом, несмотря на внедрение, снижается процент доверия ИИ. Если в прошлом году доверие составляло около 46%, то в этом — порядка 30%.
«О чем это говорит? О том, что нужно создавать не просто аппарат, а полноценную технологическую платформу. Она должна стать надежной базой: не только для разработки, но и для практического использования технологии искусственного интеллекта. Важно, чтобы эта форма существования ИИ была удобной и подконтрольной нам как пользователям конкретного инструмента», — подчеркнул спикер.
Безопасность и ответственность
Яков Филин также рассказал, что агенты ИИ применяются в отдельной среде, которая эксплуатируется только на конкретном предприятии и использует доступ к определенным базам. Начинается работа с предоставления определенных прав, брифинга и доступов.
В то же время растет продвижение так называемой «ИИ-ферологии» — построения слоев безопасности. Все понимают, что генеративная нейронная сеть может создавать не только полезный контент, но и вредный. Она может подделывать факты, принимать конфиденциальные данные — ИНН, паспортные данные, если человек по неопытности отправляет их в иностранные модели. Даже внутренние модели, согласно 152-ФЗ, должны обрабатывать данные локально, иначе это нарушение.
По опыту разработки и внедрения ИИ-агентов на коммерческих предприятиях Яков Филин выделил три инструмента, которые должны быть внедрены на каждом предприятии и в каждой сфере деятельности. Это безопасный конструктор агентов, который располагается в периметре предприятия; безопасное взаимодействие с языковыми моделями; и безопасность программного кода, который генерируется.
Кроме того, ИИ-КРО фильтрует информацию относительно того, что можно допускать, и обезопасил бы самих людей, которые получают эту информацию. Для разработчика, когда будет сгенерирован программный код с заведомо заложенной уязвимостью, это влечет большие риски.
Спикер также добавил, что предприятия, заключающие контракты на разработку, понимают, что разработчики так или иначе используют ИИ. Поэтому дополнительным параграфом в контракт включают условие, что разработчик несет ответственность за применение инструментов искусственного интеллекта, если будет заложен баг.
Неважно, какими методами это было сгенерировано и намеренно ли. Это пытаются закрепить на договорном уровне, чтобы потом можно было привлечь кого-то к ответственности.
«Речь идет о вине, безопасности и той среде, в которой все это будет применяться. Именно сейчас эта среда обретает четкие очертания — в них мы и будем действовать. Проблема, конечно, есть, но сегодня сообщество уделяет внимание не только этике, а с ней мы разберемся, но и фактору безопасности», — добавил спикер.
По его словам, важно понять, как обезопасить себя от того состояния, которое может быть заложено человеком, создающим большие языковые модели, и от того, что сама модель будет способна сгенерировать что-то выходящее из-под контроля.
Стоит ли рисковать
Евгений Зрюмов предложил гипотетическую модель, которая на 99% решает поставленную задачу в бизнесе или проекте, но при этом на 1% есть сомнение в ее безопасности — возможно, даже со скрытыми возможностями, — и спросил, возьмется ли Яков Филин за такую задачу или откажется.
Тот ответил, что сначала посчитает все плюсы, которые это принесет. Даже если эти 99% правильности повысят ему скорость в 10 раз, он оценит это с учетом рисков. Внедрять только для того, чтобы похвастаться ИИ — не лучший вариант, потому что все измеряется финансовой и производительной частью.
Яков Филин провел параллель с наукой: в ней все может быть выполнены как успешно, так и наоборот. В любом случае ее успех стопроцентный, потому что даже отрицательный результат дает знание. Когда же подходит бизнес и принимается решение внедрять или не внедрять, надо считать абсолютно все.
«Если плюсы увеличиваются и это действительно приносит финансы и репутационные гарантии, то надо внедрять», — убежден он.
