Сергей Таран раскрыл главный риск работы с данными в нейросетях

Управляющий директор компании Lansoft Сергей Таран обратил внимание на ключевую опасность, связанную с использованием нейросетей, подчеркнув не сам факт внедрения искусственного интеллекта, а нехватку четко установленных правил работы с данными. В интервью газете «Известия» он пояснил, что при загрузке сотрудником в нейросеть, например, договора или финансовой отчетности, организация теряет контроль над тем, где может храниться такая информация.

По словам Тарана, первым шагом в интеграции ИИ должно стать выделение данных на категории:

• общедоступные,
• внутренние,
• конфиденциальные сведения.

Документы с внутренним содержанием должны использоваться исключительно в защищённой корпоративной среде. Запрет на использование нейросетей в корпоративной среде не решит проблему, поскольку сотрудники, как отмечает Таран, часто прибегают к публичным сервисам через личные устройства. Эффективнее использовать корпоративный ИИ-сервис, который обеспечивает разграничение прав доступа и ведение журнала действий.

Таран добавил, что алгоритму не всегда требуется полный доступ к документам: при анализе обращений клиентов фамилию, телефон и адрес можно удалять. И сотрудники, и ИИ-системы должны совмещать только те полномочия, которые необходимы для выполнения конкретных задач.

Ранее председатель общественной организации по защите прав потребителей «Общественная потребительская инициатива» Олег Павлов заявил, что ИИ-контент не должен представляться как созданный человеком.

Ранее мы сообщали о том, что компания Palantir может использовать возможности Nebius для улучшения своих систем искусственного интеллекта, что может повысить эффективность ВСУ в обработке данных и оперативном управлении. Такое сотрудничество позволяет украинским военным быстрее анализировать информацию и принимать стратегические решения, что может существенно повлиять на развитие боевых операций.