Навигатор для мозга: почему слепая вера в ИИ ведет к тупику

Продолжается серия моих интервью с ведущими преподавателями МИРБИС. На этот раз ранним утром я еду на станцию «Спортивная», чтобы за чашкой хорошего кофе поговорить про ИИ и экономику. По дороге уклоняюсь от роботов-доставщиков «Яндекса», которые, как в каком-то киберпанке, снуют по улицам города. Как обычно, такие кофейни с утра выглядят как коворкинги: практически каждый сидит с ноутбуком или обсуждает деловые вопросы. У меня же задача более философская – попробовать вместе с Владимиром разобраться, что ждет нас с ИИ в будущем.

….Сейчас очень большие ожидания: чуть ли не начинается технологическая революция, искусственный интеллект изменит мир. Отчасти это правда: он уже меняет мир. Но, как и у любых фундаментальных изменений, есть обратная сторона медали. И на нее сейчас мало кто обращает внимание – меня это настораживает и заставляет задуматься.

Помимо общих философских вопросов, есть и сугубо социальный момент. Куда девать людей, которых мы «освобождаем» от работы, повышая производительность труда? Ряд профессий давали массовую занятость – и пока еще дают. Но в связи с широким распространением искусственного интеллекта, думаю, в ближайшие несколько лет многие люди потеряют работу в своей сфере. Им придется либо переучиваться, либо искать другие решения. Человек - существо энергосберегающее, поэтому учиться пойдут не все и не сразу.

Но я хотел поговорить не только об этом. Недавние исследования показали: использование генеративных нейросетей резко снижает способность анализировать информацию. Если посмотреть, какие навыки работодатель сегодня ставит в топ-3 или топ-5, то там почти всегда аналитическая работа с информацией. То есть ты должен взять материал, понять его и сделать осмысленный вывод. И все начинается именно с аналитики и базируется на способности пересказывать краткий смысл - именно здесь ИИ уже сейчас активно нам помогает и стимулирует его использование.

Меня поразило, что более 80% людей за несколько минут не смогли пересказать ответ, который генеративный ИИ выдал по итогам обработки материала. А ведь это типичная задача работодателя: из массива информации сделать выжимку и действовать на основе анализа. Получается, звучит уже как задача не для человека, а для нейросети. С одной стороны – да. Но с другой…

Вспомним простую аналогию. Есть книги и есть сервисы вроде Smart Reading, где вместо 200–300 страниц читаешь пару страниц с главными идеями. У школьников та же история: вместо того чтобы читать «Войну и мир» целиком, они смотрят краткое содержание, основные цитаты – и готово, сочинение писать одно удовольствие.

Но нюанс вот в чем. Последние исследования поколения 2000+ показывают: навыки креатива и воображения у них развиты заметно меньше, чем у предыдущих поколений. Почему? Потому что мы раньше читали, а они – смотрят. Когда смотришь готовый образ, его не нужно додумывать. А мы, читая, постоянно тренировались. Берешь «Алые паруса» – и представляешь море, парусник, хотя мог их никогда вживую не видеть. Видел разве что картинку в книге, и то весьма условную, но мозг дорисовывал детали. Это была постоянная и ненавязчивая тренировка воображения.

А новое поколение? Они просто смотрят. Когда ты так живешь каждый день, мозг привыкает к готовым образам. И в момент, когда задача требует подумать, он как будто говорит: «А зачем? Я же не видел этого. Где образ? Я так привык, покажите картинку».

Лет 25 назад, когда я проводил много собеседований (а всего у меня их было более 5000), у меня была любимая фишка, чтобы быстро оценить кандидата, – «невозможный вопрос».

Как у Google с их «сколько шариков влезет в самолет»?

Там дело было даже не в «шариках в самолет» – я спрашивал: «Сколько поездов в московском метрополитене?» Человек мог уточнять что угодно: сколько веток, сколько станций на каждой линии, сколько всего станций. Мне самому тогда точное число было неизвестно, пока один кандидат не пришел на собеседование и не сказал - я точно зная, назвал трехзначное число.

Я не знаю, что будет завтра, но на момент недели назад столько, слышал на совещании.

В разных вариациях решения прогнозировали похожее количество, так что отлично, что получилось проверить “невозможные” ответы.

Потом я перестал задавать подобные вопросы. Почему? В то время станций и веток было меньше – речь идет о событиях двадцатилетней давности, но дело не в количестве. Сейчас самый частый ответ стал: «Я не знаю. Давайте погуглим. Алиса, сколько там…?» Человек даже не пытается подумать. Если есть простой способ найти ответ – Google, Siri, Алиса – зачем напрягаться? Это как с уборкой: если у тебя есть пылесос, зачем идти за веником? Более того, пылесосом можно управлять со смартфона – и уже даже вставать с дивана не нужно.

Простой пример из личной практики. У тебя есть планшет? У меня лично – да. Есть компьютер с монитором и есть телефон. Где больше диагональ экрана? На планшете – дюймов десять, на телефоне – шесть-семь, на компьютере – еще больше. Казалось бы, логично смотреть контент там, где экран больше. Но 80% контента я все равно потребляю с телефона. И не думаю, что сильно ошибусь, если скажу, что у большинства так же.

Именно это наблюдение подтолкнуло меня к покупке телефона с большим экраном. Я понял: что бы я себе ни говорил – да, есть планшет, Telegram можно открыть и там, и для глаз полезнее – но рука сама тянется к телефону. Просто потому что он ближе. Это общий паттерн: человек экономит энергию. Мы не любим тратить силы, если не понимаем, зачем.

Так же и с привычкой спрашивать: «Алиса…», «Окей, Google…», «ChatGPT…». Это позволяет быстро решать вопросы, даже не включаясь в процесс.

Теперь второй момент. Давай посмотрим, что произошло, когда появились навигаторы. Бумажные карты умерли. Но дело даже не в этом. Человек перестал запоминать город. Классическая история – таксист. Раньше мемно было: «Дорогу покажешь?». А сейчас – он садится, включает навигатор и едет, даже не понимая, где находится. Он не то что Москву не знает – у него нет даже стремления ее узнать. Конечно, есть исключения, я говорю об общей практике.

Я сам примерил этот подход на себе. В 2007–2008 годах у меня появилась первая машина с навигатором. Мне вообще нужен был только комплект громкой связи по Bluetooth – была такая штука Parrot, маленькая коробочка с двумя кнопками и регулятором громкости, ставилась под руль.

Когда я приехал ставить ее, мне сказали: «Давай мы тебе сразу мультимедийную голову поставим, там уже будет Bluetooth». Я возражал: «Зачем? Я же не буду телевизор за рулем смотреть». Но мне объяснили, что можно и музыку послушать, и видео, и даже фильм где-то на природе. В итоге я согласился – тем более обещали скидку.

В какой-то момент я открыл для себя это чудо техники: вводишь адрес – и он тебе показывает, куда ехать.

Когда еще даже в пробках он мне показывал маршрут – это же был не Яндекс, просто обычный навигатор – ты, в принципе, ориентировался в незнакомых районах очень плохо. Но с ним – как дома.

Через полгода я поймал себя на мысли: садясь в машину, первое, что я делаю – забиваю адрес в навигатор. Второй вопрос, который я себе задал: «А куда я сегодня еду?» Оказалось, это был хорошо известный мне адрес, куда я ездил сто пятьсот раз. Но по привычке мозг не стал выстраивать маршрут – как поехать: по Садовому, по Третьему кольцу… – а пошел самым простым, энергосберегающим путем: вбил адрес, нажал кнопку, следуй указаниям.

Я перестал запоминать, как я ездил. И с тех пор, да, я пользуюсь навигатором, смотрю пробки, но 80% маршрутов я уже не держу в голове. Иначе город перестал бы запоминаться.

Искусственный интеллект будет влиять на нас так же. Люди начнут меняться, и чем шире его использование в промышленности, бизнесе, в повседневной жизни, тем сильнее будут меняться сами люди.

У меня позиция такая. На фоне всеобщих сладких и ванильных обещаний в стиле «прилетит волшебник в голубом вертолете, бесплатно покажет кино» – что будут работать роботы, а мы заживем лучше – я вижу риски. Во-первых, будет меняться сам человек. Во-вторых, что будет, если искусственный интеллект ошибется?

Мы можем использовать его, как когда-то использовали парус, чтобы двигаться по ветру, или как построили мельницу, чтобы молоть зерно. Бояться – неправильное слово. Вопрос в том, что этот тренд сейчас мало учитывают и редко обсуждают. Но компенсировать его последствия придется.

То, что вижу я, – это процесс негативной обратной связи. Человек начинает меньше думать, меньше анализировать информацию, все чаще обращаться к ИИ. Меньше думает → меньше анализирует → еще больше полагается на ИИ. Получается замкнутый круг.

Темпы работы растут, ожидания тоже. Нас не заставляют смотреть “видео Tube” - большинство все равно идет смотреть видео. Почему? Потому что так проще. Человеку проще потреблять готовый визуальный контент, хотя по времени это сильно дольше.

Часто спрашивают: на чем зарабатывают видеоблогеры? На рекламе. А реклама пропорциональна длительности видео. Чем длиннее ролик, тем больше рекламы можно вставить. Поэтому у автора есть прямая мотивация растягивать материал. Хорошо ли это для тех, кто смотрит?

Я сам ловлю себя на мысли: максимальная скорость, на которой я могу смотреть видео, – х2. Чаще всего это 1,75, иногда 1,5, в зависимости от сложности материала. Если язык не родной – скорость меньше. Но даже так, на часовом или двухчасовом видео экономия времени серьезная. Но это не сравнить с другим подходом - можно и вовсе взять сервис расшифровки видео в текст, быстро прочитать – и все, без всяких «э-э», пауз, почесываний, лишних кадров и рассказом о том, как надо подписаться на канал. Суть остается, а времени тратится в разы меньше. Средняя скорость речи – около двух слов в секунду, а читаем мы гораздо быстрее. По тексту очень легко сделать краткий пересказ, это еще пара минут, но читать придется сильно меньше.

Плюс, текст можно сохранить в своей базе знаний. Сегодня проблема не в том, чтобы получить доступ к информации, а в том, чтобы ее найти. Я часто сталкиваюсь с этим: проще заново найти в интернете, чем в куче своих открытых вкладок.

Вкладки – вообще отдельная история их можно разбить на группы – по работе, чтению, хобби, финансам. Управлять ими становится проще.

И вот эти секунды, которые мы экономим многократно в течение дня, в сумме превращаются в годы. Ну или как минимум – в часы, дни, недели.

А теперь – про людей. На самом деле, если говорить про исследования, я бы предложил сделать следующее: взять тезисы, которые звучат, и попробовать их упростить до четкого месседжа. Как если мы пишем сочинение: должна быть канва и несколько ключевых мыслей, которые мы хотим донести. И каждую из них – подкрепить исследованиями.

Вот мы, например, делали аналитический доклад на HR-конференцию. Кстати, она снова будет в сентябре – надо бы туда податься, Куром, скажем. И это вполне может быть одной из тем доклада или статьи. Потому что подобного контента сейчас очень мало. Либо люди боятся говорить, либо идут в общем потоке – ведь высказывать мнение «против течения» некомфортно.

Могут ведь и «наклеить ярлык» – как называли людей, которые в эпоху индустриализации ломали машины?

Луддиты?

Да, восстание луддитов. Там, правда, мотивация была скорее экономическая, но суть – схожая. Могут назвать ортодоксальным менеджером, сказать, что ты вымрешь как динозавр. Я же всегда говорил: я – цифровой старовер. Для меня в первую очередь важен результат, а уже потом – инструмент, с помощью которого он достигается. А не так, что «давайте все заменим на волне хайпа».

То есть ИИ влияет на подготовку специалистов?

Общее течение сейчас другое: мол, вот-вот ИИ начнет заменять людей, работать эффективнее, и все станет прекрасно.

Но я стараюсь мыслить не категориями локального оптимума отдельного элемента системы, а оптимума всей системы. Если, например, на каком-то участке нам нужно меньше юристов, потому что ИИ умеет «снимать копии с оригинала» – делать типовые контракты, договоры, экспертизу для базовых клиентов – это утилитарная задача, с которой ИИ справится лучше, чем начинающий юрист или студент.

Но тут есть нюанс: чтобы из начинающего юриста вырос профессионал, его надо тренировать. А для этого нужны те самые 10 000 часов практики. Вопрос: если у нас не останется простой работы, на чем он будет тренироваться?

Получается, простые задачи исчезают, учить людей становится сложнее. В результате через некоторое время мы столкнемся с дефицитом квалифицированных специалистов. И это уже видно: первыми под сокращение от применения технологий попадают джуны – и не только в IT, а во всех отраслях. Теперь вопрос: а с чего тогда делать «выращивание» сеньора?

Я очень хорошо помню историю советского спорта. Были кружки в домах пионеров, где занимались юные спортсмены. Из них появлялись спортклубы и школы Олимпийского резерва. Из них – уже областные и региональные команды. И только потом – чемпионы страны и мира.

Это пирамида: у тебя есть тысяча человек, а нужен – один. Но чтобы этот один поехал и выиграл чемпионат мира, нужно, чтобы эта тысяча создавали определенное давление в системе. Проиграл кто-то на региональных соревнованиях – его место тут же занимает тот, кто выиграл. Если нет этого давления и отбора на простых задачах, результат всей системы будет ниже.

Теперь внимание, вопрос: запрос на сеньоров останется? Конечно, останется. Прогноз на 10–15 лет вперед – до появления более сильной модели ИИ, которая сможет не просто подражать лингвистическим паттернам, а приближаться к человеческому мышлению и создавать новое. Пока же текущие модели ИИ ничего принципиально нового не создают. Они способны делать хорошую работу «по аналогии», но шедевр – нет.

А нам нужны люди, которые этот шедевр создадут. Тут есть нюанс: сеньору ИИ поможет и сделает его работу эффективнее. Но джуна – убьет как специалиста. Джун даже не поймет, что ИИ где-то ошибся. Потому что вырабатывается привычка «ездить по навигатору».

Теперь внимание, вопрос: в масштабах всей системы – с кем ты поедешь? С опытным водителем, скажем, бизнес-класса Ultima в «Яндекс.Такси» или «Везет»? Или с человеком, который Москву не знает и ездит исключительно по навигатору – и в момент, когда тот «заглючил», внезапно из третьей полосы рванет на набережную через весь поток? С точки зрения системы, такие люди не просто бесполезны – они опасны. А система их плодит все больше.

Вот что меня беспокоит. Мы постепенно вытесняем человека с простых задач автоматизацией и генеративными сетями. Экономически это понятно: если результат одинаков, зачем платить больше?

Теперь внимание, вопрос: вот ты дал задачу не джуну, а мидлу – сделать, например, проект договора, и он ошибся. Кому ты предъявишь претензию? Этому специалисту – можно, у него есть зона ответственности, можно даже финансово наказать. Плюс обратная связь даст ему шанс научиться. Точка ответственности понятна.

А кто будет отвечать за ошибку помощника на базе искусственного интеллекта? Тот, кому принадлежит этот помощник? Разработчик кода платформы ИИ? Или тот, кто писал код самого ассистента на основе модели ИИ? Это как с «Яндекс.Такси» и беспилотными автомобилями: кто будет виноват, если произойдет ДТП?

Почему сейчас при автоматизации перевозок в кабине сидит оператор? Потому что пока непонятно, предъявлять претензии владельцу машины, владельцу движка ИИ или владельцу оборудования, установленного на этой машине. Кто именно допустил ошибку в случае аварии?

Ну а законодательство, может, изменится? Лет через пять все разделят четко?

Знаешь, примерно такие горизонты я слышал еще в 2019 году, когда мы говорили про беспилотники. Мы сидели здесь, на Санчевском рынке, рядом база «Яндекса» на Красном Розе. Тогда в районе часто ездили беспилотные машины, потому что здесь шли испытания.

И сейчас они тоже ездят.

Да, вот и сейчас рядом стоят курьеры-роботы – целая стоянка штук тридцать-сорок. Доставляют заказы, тренируются. Лет пять назад говорили то же самое, что «еще чуть-чуть – и все заработает». Но изменения идут медленно.

Проблема в том, что некоторые вопросы сложно решить технически, а какие-то – может, и не стоит решать вовсе. Это как раз тот случай, когда нужно смотреть не на отдельный процесс, а на систему в целом.

Если мы смотрим с точки зрения всей системы, а нам нужны люди, которые умеют думать и анализировать информацию, то не очень дальновидно строить систему так, чтобы таких людей становилось меньше. Их и так сейчас мало.

Попробуй посмотреть статистику по качеству написания изложений в школах за последние 10–15 лет. Есть три формы: изложение, сочинение и диктант. Диктант показывает, насколько грамотно человек пишет. Сочинение – насколько умеет анализировать и синтезировать. А изложение – это как раз систематизация и пересказ.

Скажи мне краткое содержание «Войны и мира» своими словами – вот и будет изложение.

Классический пример: можно провести эксперимент прямо в МИРБИС. У нас учатся дипломники – слушатели, которые пишут выпускную работу. В дипломе есть глава, посвященная обзору теоретической информации. 90% наших слушателей при написании этой части используют генеративные сети.

Есть работы, у которых «индекс уникальности» 90%. Это значит, что люди либо вообще не использовали источники (что маловероятно), либо перерабатывали материал своими словами, либо – и это чаще всего – брали текст, сгенерированный нейросетью, которая уже «пересказала» чужие мысли. По сути, получается авторский контент без прямых цитат.

Теперь внимание, вопрос. На защите мы тратим много времени на логику исследования, формулировку управленческой проблемы, гипотезу, результаты, рекомендации, финансово-экономическое обоснование. Но я бы ради интереса задал свежим дипломникам один простой вопрос:

– Что у вас было в теоретической части?

Не «какой у вас источник» – а именно, что там было по содержанию.

Думаешь, они не ответят?

Я почти уверен, что на всех ступенях образования 80% ответов будут: «Я не помню» или «Не знаю».

Мы можем проверить это в сентябре. Никто запретить не сможет.

А теперь еще момент. Недавно CEO компании, которая зарабатывает на искусственном интеллекте (а именно CEO NVIDIA), сказал: если вы не будете активно пользоваться нейросетями, вас уволят и заменят на тех, кто умеет.

Получается, с одной стороны нам говорят: «Не научился – потеряешь работу». А с другой – «Слишком хорошо научился, и нейросеть сделает твою работу лучше – тоже потеряешь».

Это философский вопрос: что первично – курица или яйцо? С моей точки зрения, тренд, безусловно, правильный. Если безобразие нельзя предотвратить, его надо возглавить.

В итоге дольше всего продержится юрист, который умеет писать промпты так, чтобы работа юриста с ИИ была максимально эффективной.

В результате останется один юрист на работе, а двух-трех, которых он заменит с помощью нового инструмента, уволят. Тут, безусловно, CEO NVIDIA был прав.

Вопрос: что мы будем делать с теми, кого уволим при повышении интенсивности труда? Если из пяти человек двое-трое потеряли работу – чем они займутся? Мы начнем платить им пособие по безработице? Как они будут самореализовываться? Или, как в Америке, побегут громить магазины? Чем мы их займем, чтобы они чувствовали полезность, нужность, важность?

Право на труд, опять же, у нас в Конституции.

Это уже вопрос объемов замещения. Я помню, как в 2015–2017 годах мы на конференциях рассказывали про контейнеризацию – про тот же Docker. Люди слушали с широко раскрытыми глазами: «О, классная технология!» А через два года это стало стандартом de facto.

Сейчас мир движется еще быстрее. Мы говорим о корпоративных ИИ-помощниках – и у многих компаний уже есть не прототип, а готовое решение. Через пару лет это станет стандартом. Массовые сокращения неизбежны.

Посмотри, что произошло с бизнесом за время высоких ставок. История еще не закончена, но уже сейчас только 18%… в конце года много компаний закроется или сильно «схлопнется». А что бывает, когда бизнес закрывается или сокращается? Люди выходят на рынок труда.

Зайди и посмотри: количество айтишников на рынке уже кратно превышает потребность. Хотя два года назад мы говорили о дефиците 350 тысяч специалистов в ИТ-отрасли. Сейчас дефицита нет, всех хватает, даже избыток.

А если есть профицит, зарплаты начинают падать. Я прогнозирую: осенью начнет снижаться зарплата в ИТ. Не напрямую, а через готовность людей работать за меньшие деньги. Нельзя просто так взять и урезать ставку, но можно, например, сократить набор, урезать темпы роста зарплат внутри компании.

Зачем платить восьми «Петям», если можно взять одного с рынка дешевле? Или поставить коробку с видеокартой, которая заменит трех, десяти или даже тридцать «Петь». Коробка не болеет, не ноет и не уходит к конкуренту.

Слушая тебя, я понимаю, что все будет плохо. Ну, или как минимум не так, как сейчас. Но кризисы ведь заканчиваются?

Я не говорю, что будет плохо. Я говорю, что будет по-другому. Мир меняется – и любое изменение можно повернуть себе на пользу.

Давай тогда займемся немного футуризмом. Как, по-твоему, все это будет меняться?

Понятно, что будут сокращения. И понятно, что история пойдет с перегибами. Мы всегда действуем реактивно: сначала создаем проблему, потом ее решаем. Есть превентивный метод, а есть реактивный – и мы почти всегда выбираем второй.

Думаешь, дойдет до законов, что при определенном доходе компания обязана держать определенное количество сотрудников?

Предполагаю, что мы начнем регламентировать бизнес. Уже сейчас меняются налоги, вводят квоты на количество сотрудников с инвалидностью в штате. А если у тебя в руках молоток, то все вокруг кажется гвоздями. За последние пять лет мы этот молоток использовали часто.

Вопрос в том, выдержит ли бизнес. Любое дополнительное требование предполагает запас прочности.

Я недавно был в Китае, много общался с местными. Один китаец сказал: «Попробуйте посадить бедного китайца на изоляцию на три года – и он выживет». В Китае действительно была трехлетняя изоляция без соцвыплат и пособий. Там это твоя проблема – ты ее решаешь.

Мы умеем адаптироваться – это наша сильная сторона. Но предполагаю, что через 10 лет больным местом компаний станут не soft skills, а именно hard skills: аналитика, креатив, умение фантазировать. Способность воспринять новую задачу и выполнить ее без «Окей, Google» или ChatGPT.

Пример: лет десять назад я летел из Чехии, и мой рейс задержали. Причина – в аэропорту отключили электричество. На ВПП все работало, генераторы были, самолеты садились и взлетали. Но борт отправить не смогли – не могли зарегистрировать пассажиров без компьютеров.

Регистрацию «вручную» тогда уже никто не умел проводить, хотя 30–40 лет назад это был базовый навык. Из-за этого задержали десятки рейсов. Это пример того, как утрачивается способность выполнять задачу без помощника – будь то техника или ИИ.

Нам придется системно развивать эти навыки. И я даже предполагаю, что в горизонте 10 лет введут полный запрет на использование гаджетов в школах во время учебного процесса – чтобы дети учились думать и искать информацию сами.

Сейчас мы гордимся, что новое поколение родилось со смартфоном в руках. Но то, что им действительно нужно уметь, они часто не умеют – система этому не учит. Легкий доступ к информации убивает навыки поиска, систематизации и даже конспектирования.

Сегодня молодежь уже не ищет ответ в поисковиках – сразу идет в нейросеть. ChatGPT почти догнал поиск по посещаемости. И это тренд. Поисковики вынуждены интегрировать генеративные модели, чтобы не отстать.

Если безобразие нельзя предотвратить – его надо возглавить. Но это тот тренд, с которым мы столкнулись уже сейчас. И о нем нужно говорить – такого контента действительно мало.

А если ты ошибаешься?

Есть ряд вещей, в которых я был бы рад ошибиться. Но что-то мне подсказывает – нет, не ошибаюсь.