Остановить технический прогресс невозможно, но важно понимать его последствия – в том числе при использовании достижений в военной сфере. Об этом заявил президент Владимир Путин на пленарной сессии дискуссионного клуба «Валдай».
Глава государства отметил, что уже фиксируются случаи, когда ИИ сам принимает решения, исходя из собственного понимания целесообразности, – и это касается как гражданского, так и военного применения. Кроме того, по словам президента, эксперты все чаще с тревогой говорят о том, что распространение искусственного интеллекта может стать очередной попыткой привести всех к общему знаменателю и обезличиванию – теперь через использование кем-то настроенных алгоритмов.
Эти риски прокомментировал председатель комиссии по общественному контролю, развитию институтов гражданского общества и некоммерческого сектора Общественной палаты Псковской области Алексей Иванов.
Фото с сайта Общественной палаты Псковской области
По его мнению, главная опасность нынешней эпохи искусственного интеллекта – вовсе не потеря рабочих мест и не восстание машин. Куда тоньше и серьезнее другое: алгоритмы, настроенные конкретными людьми под свои интересы, могут постепенно привести всех к некоему усредненному образцу. «Это не техническая проблема, а проблема власти и культуры», – подчеркнул Алексей Иванов.
Он отметил, что наблюдать за этой тенденцией из регионов даже полезнее, чем из столиц: на местах лучше видно, как абстрактные угрозы проявляются в повседневной жизни. В президентской формулировке Алексей Иванов выделил три взаимосвязанные тревоги.
Первая – обезличивание: искусственный интеллект оперирует шаблонами, а не людьми, и чем чаще ему доверяют решения, тем сильнее общество подстраивается под статистическую норму. Те, кто в нее не вписывается, рискуют остаться незамеченными или получить ярлык аномалии.
Вторая – вопрос о том, кем именно настроены алгоритмы. Они не появляются сами по себе: их создают, обучают и корректируют конкретные люди с конкретными интересами – коммерческими, политическими, культурными. По словам Алексея Иванова, здесь возникает асимметрия власти: тот, кто настраивает искусственный интеллект, получает рычаг влияния на пользователей, и этот рычаг тем сильнее, чем меньше люди понимают, как работает система.
Третья тревога касается культуры. Когда все читают похожие сгенерированные тексты и обращаются к одним и тем же ИИ-помощникам, информационная среда становится однородной. Это мягкая унификация, без запретов и принуждения – и именно поэтому, считает Алексей Иванов, она опаснее прямых ограничений.
В регионах, по его наблюдениям, ИИ входит в жизнь не через стартапы и конференции, а через бытовые вещи: системы распознавания лиц, «умные светофоры», нейросети в школах. Каждый проект по отдельности кажется полезным, но вместе они создают среду, где алгоритм все чаще оказывается между человеком и государством.
«Граница проходит не там, где мы её себе рисуем в дискуссиях, а там, где экономия времени и денег делает делегирование удобным», – отметил Алексей Иванов.
Он предложил несколько тем для размышления. Одна из них – необходимость сделать «настройщика» алгоритмов видимым: главный вопрос не в том, какой алгоритм используется, а в том, кто его настроил и под какие ценности. Другая – сохранять региональную специфику как защиту от унификации: Псковская область – не Москва, и если ИИ-решения спускаются сверху единым шаблоном, тревога об «общем знаменателе» становится реальностью.
Отдельно Алексей Иванов остановился на принципе «человек в контуре».
По его словам, на практике это означает право фельдшера не согласиться с подсказкой искусственного интеллекта, право учителя проверить диктант самому и право жителя оспорить штраф, выписанный камерой, получив живого человека на другой стороне. «Без этого «человек в контуре» – декорация», – подчеркнул он.
Цифровая грамотность, по мнению Алексея Иванова, должна включать не только навыки пользования ИИ, но и умение не доверять ему без проверки. А культурное разнообразие – от местных диалектов до управленческих практик – стоит рассматривать не как архаику, а как стратегический ресурс.
«Президентская формулировка ценна тем, что сдвигает дискуссию о рисках ИИ с технической плоскости на антропологическую. Речь не о том, что ИИ сломается, а о том, что он может сработать – и в результате люди станут более одинаковыми, а настройщики алгоритмов получат невиданную власть», – заключил Алексей Иванов.
