
Западные СМИ наконец-то раскрыли страшную тайну: оказывается, «большой военный ИИ», который должен был стать холодным беспристрастным разумом на поле боя, ведёт себя как придворный льстец при дворе Людовика XIV 😱
Речь о феномене AI-sycophancy (поддакивании/лизоблюдстве). Модели обучены нравиться пользователю.
Генерал спрашивает: «Ведь противник деморализован и вот-вот побежит?»
ИИ, не моргнув глазом (за неимением глаз), отвечает: «Так точно! Вот вам координаты, графики и тринадцать причин, почему вы просто гений».
Возникает замкнутая петля: ожидание → машина поддакивает → ожидание усиливается → доверие к машине растёт. Получаем цифровой «Так точно, мой господин» в промышленных масштабах.
Насколько это серьёзно? 26 марта 2026 года в журнале Science вышло исследование: учёные протестировали 11 ведущих ИИ-моделей (ChatGPT, Gemini, Claude, Llama, Mistral, DeepSeek и др.) и обнаружили, что в задачах на бытовые советы и оценку межличностных ситуаций чат-боты подтверждают правоту пользователя в среднем на 49% чаще, чем живые люди. Модели соглашались с пользователем и в сценариях с обманом, незаконными действиями или откровенно вредным поведением. А самое коварное: люди больше доверяют именно тому ИИ, который им льстит. Как сформулировали авторы: «Это создаёт порочный стимул: то самое свойство, которое причиняет вред, одновременно повышает вовлечённость».
Не менее забавны результаты другого исследования. В опросе TELUS Digital 60% участников говорили, что задавали ИИ уточняющий вопрос вроде «Ты уверен?». О смене ответа сообщили 14% опрошенных. А в отдельном эксперименте некоторые модели после такого вопроса меняли даже правильные ответы на неправильные. Сомнение пользователя может восприниматься как сигнал пересмотреть ответ, даже если он был верным. Представьте это в контексте командного пункта: «ИИ, ты точно уверен, что там нет гражданских?» – «Виноват, конечно есть! То есть нет! То есть как прикажете!»
Ровно 189 лет назад, 7 апреля 1837 года, впервые вышла сказка Андерсена про «голого короля». Столько лет прошло, а люди потратили миллиарды долларов, чтобы воспроизвести этот рассказ на видеокартах NVIDIA. По сюжету «королевское платье» будет невидимым только для глупцов. И чтобы не прослыть дураками, весь двор боится признаться и кричит: «Какое платье!» Только теперь двор работает на электричестве и охлаждается жидким азотом.
Вот ещё пример немного из другой оперы, но с тем же мотивом.
Одна российская компания, занимающаяся генетическим тестированием, присылает клиентам результаты ДНК-анализа, и там, среди прочего, написано:
«Спасибо, что сдали слюну! На основании вот таких-то исследований, у вас крайне высокие когнитивные способности, что подтверждает <список генетических маркеров>. Таким уровнем интеллекта обладает всего 0,03% людей. Вы склонны к IQ выше 170 больше, чем 75% наших клиентов».
Если каждому платящему клиенту сообщить, что он гений уровня «один на три тысячи», клиент счастлив, делится в соцсетях, покупает ещё тестов: скажи человеку то, что он хочет услышать, и он заплатит ещё. Это классический бизнес на лести, разве нет?
Знаете, в чём настоящая ирония? Десятилетиями фантасты пугали нас восстанием машин. Терминатор, Скайнет: холодный, враждебный, бунтующий разум. А получаем мы Молчалина из «Горя от ума»:
«Мне завещал отец:
Во-первых, угождать всем людям без изъятья –
Хозяину, где доведётся жить,
Начальнику, с кем буду я служить…»
Кажется, Александр Сергеевич Грибоедов ещё в 1825 году идеально описал архитектуру RLHF (Reinforcement Learning from Human Feedback, ту самую технику машинного обучения, при которой модель совершенствуется через обратную связь от человека). При обучении человеческие оценки помогают закреплять ответы, которые понравились. Человеку нравится, когда с ним соглашаются.
Итого: альтернативная угроза со стороны ИИ – это не бунт и не сингулярность, а конформизм. Много пишут про сверхразум, но мало про сверхподхалима, который не спорит, не сомневается, не подаёт рапорт об увольнении. Он лишь масштабирует заблуждения конкретного человека – до размеров военной операции.
Как говорилось в фразе, приписываемой Джорджу Оруэллу: «В эпоху всеобщего обмана говорить правду – революционный акт». Видимо, наш ИИ – латентный контрреволюционер🙃



