Путин: ИИ уже принимает решения без человека, риски растут
Бизнес-стратег «Экспертного клуба Челябинской области» Валентина Репина отметила, что на предприятиях Южного Урала ИИ уже сокращает простои и повышает точность прогнозов, однако предупредила о рисках неточностей моделей, зависимости от сторонних платформ и вытеснения человека из принятия ключевых решений.
Вопросы влияния стремительного технологического развития на общество стали одной из тем выступления Владимира Путина на пленарной сессии дискуссионного клуба «Валдай». Глава государства заявил, что остановить прогресс невозможно, но человечество должно в полной мере понимать, к каким последствиям он может привести.
Отдельное внимание президент уделил применению научных достижений в оборонной сфере. Он отметил, что уже известны ситуации, когда системы искусственного интеллекта принимали решения без участия человека. По словам Путина, алгоритмы начинают руководствоваться собственными представлениями о целесообразности, что создает серьезные угрозы как для военной безопасности, так и для повседневной жизни граждан.
Президент также сослался на позицию специалистов, предупреждающих о рисках обезличивания людей. Нейросети, по его мнению, могут использоваться для приведения общества к некоему единому стандарту с помощью алгоритмов, заранее сконфигурированных третьими лицами. Предотвратить подобное развитие событий способны только надежные системы контроля и обеспечения безопасности.
Свою оценку происходящему дала бизнес-стратег Валентина Репина, представляющая «Экспертный клуб Челябинской области». Она подчеркнула, что для предприятий Южного Урала искусственный интеллект уже превратился из отдаленной перспективы в насущную рабочую потребность. Благодаря таким технологиям сокращаются производственные простои, повышается точность прогнозов, а компании быстрее адаптируются к рыночной конъюнктуре.
Вместе с тем эксперт обратила внимание на сопутствующие опасности: неточности в работе моделей, привязку к сторонним платформам и вытеснение человеческого участия из процесса принятия ключевых решений. По ее убеждению, безопасное применение технологий невозможно без строгого контроля со стороны человека и учета местной специфики.
В Челябинской области системы ИИ-аналитики уже задействованы на промышленных объектах, в розничной торговле применяются инструменты прогнозирования покупательского спроса, автоматизируются стандартные сервисы. Репина считает, что технологии должны усиливать возможности человека, а не снимать с него ответственность за итоговый результат.