Глава 26: Нейросети, роботы и прочие прелести цифрового века: Как мы пытались автоматизировать весь мир
Я недавно разговорился с одним дедушкой на автобусной остановке в глухой деревне, куда поехал навестить дальних родственников. День был пасмурный, накрапывал мелкий дождик, и под единственным на всю остановку козырьком от непогоды нас собралось человек пять. Дедушка, типичный русский пенсионер в потертой кепке и с тростью, с интересом наблюдал, как я что-то печатаю в телефоне.
— А вы, молодой человек, чем занимаетесь? — спросил он меня неожиданно.
— Да вот, с нейросетями работаю, — ответил я, не особо вдаваясь в подробности.
К моему искреннему удивлению, дедушка понимающе кивнул и с хитрым прищуром сказал:
— А то! Это ж те самые, что в интернете сидят и за нас думают, да? Моя внучка Танька тоже все с этими штуками возится. Картинки какие-то рисует, говорит, компьютер сам все делает.
Я чуть не поперхнулся. Оказывается, даже в местах, где интернет ловит только на верхушке самой высокой берёзы, уже знают про эти чудеса техники. Мир меняется быстрее, чем мы успеваем заметить.
Но давайте разберемся, что же это за зверь такой — нейросеть. По сути, это попытка умных дядек научить машину делать то, что нам, людям, делать лень. Или то, что мы делать не очень-то и умеем.
Вот представьте: сидит где-то в офисе менеджер Вася. И целый день он только и делает, что копирует данные из одной таблицы в другую. Скучно? Еще бы! Вася уже забыл, когда в последний раз улыбался. Глаза его стали пустыми, как экраны мониторов, выключенных на ночь. Жизнь превратилась в бесконечную череду «копировать-вставить».
А тут приходит умный программист Петя и говорит:
— Вась, а давай я тебе робота сделаю? Он будет за тебя эти таблицы заполнять, а ты сможешь… ну, не знаю, в окно смотреть. Или котиков в интернете разглядывать.
Глаза Васи загораются, в них появляется искра жизни. Впервые за долгие месяцы он чувствует что-то похожее на надежду.
— Серьезно? Это реально? — спрашивает он, боясь поверить в свое счастье.
— Конечно! — уверенно кивает Петя, поправляя очки в стильной оправе. — Всего-то делов — написать скрипт, который будет считывать данные из одной таблицы и записывать в другую. Элементарно!
И вот тут-то начинается самое интересное. Потому что человек, друзья мои, существо странное. Мы вроде как и хотим автоматизации, но в то же время боимся ее как огня.
— А вдруг этот твой робот ошибется? — спрашивает Вася с подозрением, чуть отодвигаясь от Пети, как будто тот предложил ему что-то незаконное. — И меня потом за эти ошибки по головке не погладят.
— Ну, может и ошибется, — честно отвечает Петя. — Но ты-то разве никогда не ошибаешься?
Вася задумчиво почесывает затылок, вспоминая тот случай, когда он перепутал таблицы и отправил начальству отчет о корпоративных расходах с вписанными туда данными о своих походах в бар. Ему тогда пришлось месяц объяснять, почему компания якобы потратила 15 тысяч на «разведку боем» в пятницу вечером.
— Ну да, ошибаюсь, — неохотно признает он. — Особенно после корпоративов.
— Вот! — торжествующе восклицает Петя. — А мы настроим проверки, сделаем логи ошибок. В общем, все будет круто!
И Вася соглашается. Ведь перспектива весь день смотреть на котиков вместо таблиц звучит заманчиво.
Но вот в чем загвоздка: бизнес хочет робота, который будет работать 24/7, не будет делать ошибок, и при этом — чтоб стоил как чашка кофе. Ну, или хотя бы как зарплата того же Васи за месяц со скидкой в 50%.
Я сам оказался в подобной ситуации, когда ко мне обратился знакомый руководитель небольшой компании по продаже автозапчастей.
— Слушай, Максим, — сказал он мне за обедом в недорогом бизнес-ланче, куда меня пригласил «обсудить идею». — Мне тут рассказали про эти… как их… роботы для бизнеса.
— Ты про RPA? — уточнил я, отхлебнув суп, который был явно не первой свежести.
— Да-да, именно! — оживился он. — Говорят, они могут все делать автоматически. Прайсы обновлять, заказы оформлять, с клиентами общаться. Это правда?
— В целом, да, — осторожно ответил я, предчувствуя, к чему идет разговор.
— Отлично! — он хлопнул ладонью по столу так, что подпрыгнули приборы. — Тогда сделай мне такого робота. Только недорого, ладно? У меня бюджет ограниченный.
Я глубоко вздохнул.
— И что именно должен делать этот робот?
— Все! — он развел руками, словно обнимая весь мир. — Прайсы с поставщиков собирать, цены в нашем магазине обновлять, заказы принимать, с клиентами общаться, счета выставлять, налоги считать… В общем, все, что сейчас делают мои пять менеджеров.
— То есть, ты хочешь заменить пятерых сотрудников одним роботом? — уточнил я, уже понимая, что разговор будет непростым.
— Именно! — он просиял. — И сэкономить на зарплатах.
— И сколько ты готов заплатить за такого робота?
Он немного помялся, затем нерешительно произнес:
— Ну, тысяч тридцать? — и, увидев мое выражение лица, быстро добавил: — Ну хорошо, пятьдесят. Но это максимум!
Я чуть не подавился супом. За эти деньги можно было разве что купить книжку «RPA для чайников», да и то не факт, что новую.
— Понимаешь, — начал я осторожно, — такой масштабный проект автоматизации будет стоить гораздо дороже. Мы говорим о сотнях тысяч, а может и о миллионах, в зависимости от сложности процессов.
Его лицо вытянулось, словно я сообщил ему о смерти любимой собаки.
— Но…, но мне же говорили, что это недорого! — почти жалобно произнес он. — Я видел рекламу в интернете, там обещали автоматизацию бизнеса за копейки!
И вот тут-то на сцену выходят они — великие мастера надувания щек и продажи воздуха. Инфоцыгане! Эти ребята так красиво расписывают возможности нейросетей и роботов, что даже я иногда начинаю верить, что завтра проснусь, а мне уже и кофе сварили, и отчет написали, и даже носки постирали.
— Ты случайно не на вебинар по «Пассивному доходу с помощью нейросетей» попал? — спросил я, уже догадываясь об ответе.
— Да! — он оживился. — Откуда ты знаешь? Там такой крутой парень рассказывал, как он автоматизировал весь свой бизнес и теперь просто получает деньги, пока путешествует по миру!
Я вздохнул.
— Знаешь, что общего между этими вебинарами и фокусами Дэвида Копперфильда? — спросил я.
— Что?
— И там, и там тебе показывают только красивую часть, а всю грязную работу скрывают за кулисами.
Мой знакомый Ваня, который недавно устроился в крупную IT-компанию на позицию разработчика систем искусственного интеллекта, рассказывал мне случай из своей практики.
— Ты представляешь, — говорил он, нервно помешивая кофе, — нам пришел заказ от крупной торговой сети. Они хотели систему, которая будет автоматически распознавать эмоции покупателей по видео с камер наблюдения.
— И что? — спросил я. — Сейчас же полно технологий для распознавания лиц и эмоций.
— Да, но они хотели, чтобы система еще и предсказывала, что покупатель купит, основываясь на его эмоциональном состоянии! — Ваня закатил глаза. — Типа, человек выглядит грустным — предложите ему шоколадку, веселым — бутылку шампанского.
— И вы взялись за этот проект?
— Конечно! Начальство сразу увидело долларовые знаки в глазах заказчика, — он сделал глоток кофе. — Мы полгода пытались создать эту систему. Перепробовали все существующие алгоритмы, обучали нейросеть на тысячах часов видео… И знаешь, что в итоге?
— Что?
— Мы выяснили, что даже люди не могут точно определить, что купит человек, основываясь только на его эмоциях! — Ваня рассмеялся. — Ты можешь быть счастливым и купить шоколадку, а можешь быть в депрессии и тоже купить шоколадку! Эмоции и покупательские намерения не всегда коррелируют.
— И чем все закончилось?
— Мы честно рассказали заказчику о результатах исследования, — Ваня вздохнул. — Показали, что система может распознавать базовые эмоции с точностью около 70%, но предсказывать покупки на основе этого — нереально.
— И как они отреагировали?
— Пошли к нашим конкурентам, которые пообещали им то, что они хотят, — он пожал плечами. — Я через полгода поинтересовался у знакомого, который там работает. Они тоже не смогли создать такую систему, но, в отличие от нас, просто напихали туда случайных рекомендаций и выдали за «предиктивную аналитику на основе эмоций».
Вот в такой ситуации мы сейчас и находимся. С одной стороны, технологии развиваются с невероятной скоростью. С другой — ожидания от них часто завышены настолько, что ни одна технология не способна их удовлетворить.
Я покопался в своей памяти и решил поделиться с вами еще одной историей. История эта о том, как мы с моим другом Петей попытались сделать «умный дом» еще до того, как это стало мейнстримом.
Дело было в 2010 году, когда о «нейросетях» говорили в основном ученые в лабораториях, а не блогеры в Instagram. Петя был помешан на идее автоматизации своей однокомнатной квартиры.
— Макс, ты только представь, — говорил он, глаза его горели энтузиазмом, — я захожу домой, и все включается автоматически: свет, музыка, чайник. А когда я ложусь спать — все выключается!
— И как ты собираешься это реализовать? — спросил я, справедливо полагая, что технологии «умного дома» тогда стоили как небольшая машина.
— Своими руками! — гордо ответил Петя. — У меня есть Arduino, куча датчиков и немного свободного времени.
«Немного свободного времени» превратилось в три месяца непрерывной работы. Петя превратил свою квартиру в лабораторию сумасшедшего ученого: провода торчали из стен, микроконтроллеры были прикреплены повсюду, датчики движения смотрели на тебя из каждого угла, заставляя чувствовать себя участником реалити-шоу.
И вот настал день презентации. Петя пригласил меня и еще пару друзей на торжественное открытие своего «умного дома». Мы стояли перед дверью его квартиры, как перед входом в пещеру Али-Бабы.
— Готовы? — спросил Петя с видом фокусника, готового показать свой коронный трюк.
Мы кивнули, затаив дыхание.
Петя открыл дверь и… ничего не произошло. Ни света, ни музыки, ни автоматически включившегося чайника.
— Странно, — пробормотал Петя, входя в квартиру и включая свет вручную, по старинке. — Должно было сработать.
Он подошел к своему компьютеру, который служил центром управления всей системой, и начал что-то проверять.
— А, вот в чем дело! — воскликнул он через минуту. — Датчик движения в коридоре перестал работать. Сейчас все исправим.
Он достал отвертку и полез на стремянку, чтобы дотянуться до датчика под потолком. В этот момент система вдруг ожила — включился свет во всей квартире, заиграла музыка (причем какая-то странная, похожая на саундтрек к фильму ужасов), а чайник начал кипятить воду.
— Видите? Работает! — радостно воскликнул Петя, балансируя на стремянке.
Но его триумф длился недолго. Внезапно музыка сменилась на какую-то попсу 90-х, свет в спальне начал мигать, как на дискотеке, а в ванной включился душ.
— Э-э-э, это не должно так работать, — Петя спустился со стремянки и побежал к компьютеру.
Пока он пытался разобраться с системой, его «умный дом» продолжал жить своей жизнью: телевизор переключал каналы, кондиционер то включался на максимальное охлаждение, то на обогрев, а из колонок теперь доносились звуки природы, перемежающиеся с металликой.
— По-моему, твой дом одержим, — заметил один из наших друзей, наблюдая этот хаос.
Петя наконец выключил весь этот кавардак, нажав на большую красную кнопку, которую предусмотрительно установил на случай апокалипсиса.
— Небольшие технические неполадки, — смущенно сказал он. — Я все исправлю к завтрашнему дню.
«Завтрашний день» растянулся на месяцы. Петя продолжал совершенствовать свою систему, но чем сложнее она становилась, тем больше было глюков. То свет включался посреди ночи, пугая его до полусмерти, то чайник кипятился десять раз подряд, пока Петя был на работе, то музыка начинала играть в четыре утра.
В конце концов, Петя сдался. Он оставил только базовые функции — автоматическое включение света по датчику движения и настройку будильника. Все остальное оказалось слишком сложным и ненадежным для домашней самоделки.
— Знаешь, — сказал он мне, когда мы обсуждали его эксперимент, — технологии еще не готовы к тому, чтобы полностью автоматизировать нашу жизнь.
Сейчас, глядя на то, как развиваются технологии «умного дома», я вспоминаю Петины попытки с улыбкой. То, что ему требовалось месяцы работы и куча самодельных устройств, сейчас можно купить в любом магазине электроники и настроить за пару часов. Прогресс не стоит на месте.
Но проблема остается прежней — мы хотим, чтобы технологии делали за нас все, но при этом не доверяем им полностью.
Да и правильно делаем, если честно. Я как-то купил «умную» лампочку, которая должна была включаться по расписанию и менять яркость в зависимости от времени суток. Настроил ее, все работало идеально… пока производитель не выпустил обновление, после которого лампочка начала включаться только при соединении с интернетом. Представьте мое лицо, когда однажды вечером у меня отключился интернет, и я остался в полной темноте, потому что обычный выключатель уже не работал с этой «умной» лампочкой.
Мой начальник в одной IT-компании, где я работал, был просто одержим идеей автоматизации всего и вся. Он считал, что роботы и алгоритмы должны заменить людей везде, где только возможно.
— Люди делают ошибки, — повторял он, как мантру. — Алгоритмы — нет.
Однажды он решил автоматизировать процесс найма новых сотрудников. Была разработана сложная система, которая анализировала резюме кандидатов, их профили в социальных сетях, результаты тестовых заданий и даже записи с видеоинтервью, чтобы определить, подходит ли человек на должность.
Система работала несколько месяцев, и все вроде бы шло хорошо, пока мы не заметили странную закономерность: она отбирала преимущественно мужчин в возрасте от 25 до 35 лет с определенным набором ключевых слов в резюме. Когда мы начали разбираться, выяснилось, что алгоритм обучался на данных о текущих сотрудниках компании, среди которых преобладали именно такие люди. Система просто воспроизводила существующее положение вещей, не давая шанса разнообразию.
— Люди могут быть предвзятыми, — сказал я тогда начальнику. — Но алгоритмы наследуют и усиливают эту предвзятость, если мы не будем внимательны.
Он неохотно согласился, и мы вернулись к системе, где финальное решение о найме принимал человек, а не машина.
Ну а теперь давайте поговорим о том, что сейчас у всех на устах — ChatGPT и другие большие языковые модели. Когда я впервые увидел, как эта штука работает, я был впечатлен. Она могла писать тексты, которые звучали так, будто их написал человек, отвечать на вопросы, даже сочинять стихи и песни.
Но чем больше я с ней работал, тем больше понимал ее ограничения. Она не «понимает» то, о чем говорит, в том смысле, в каком понимают люди. Она просто очень хорошо научилась предсказывать, какие слова должны следовать за другими в определенном контексте.
Я как-то попросил ChatGPT написать статью о несуществующем городе, который я выдумал на ходу. И знаете что? Она выдала мне подробное описание этого города, его историю, достопримечательности, даже известных уроженцев — все это было полной фантазией, но звучало убедительно.
— А вот теперь представь, — сказал я своему другу, показывая ему этот эксперимент, — сколько людей будут использовать такие инструменты для создания фейковых новостей, дезинформации, мошенничества.
— Но ведь можно же как-то отличить текст, написанный ИИ, от текста, написанного человеком? — спросил он.
— Все сложнее, — ответил я. — Технологии развиваются так быстро, что детекторы ИИ-текста устаревают почти мгновенно. К тому же, всегда можно отредактировать текст, чтобы он выглядел более «человеческим». Это гонка вооружений, и пока не ясно, кто в ней победит.
Но несмотря на все риски, я все же с оптимизмом смотрю на развитие искусственного интеллекта. Потому что, в конечном счете, это всего лишь инструмент. А инструменты сами по себе не хороши и не плохи — все зависит от того, как мы их используем.
Я работал над проектом, где мы использовали ИИ для помощи врачам в диагностике редких заболеваний. Система анализировала симптомы, медицинскую историю пациента и научную литературу, чтобы предложить возможные диагнозы, которые врач мог бы упустить. И знаете что? Она спасла жизни. Не сама по себе, а как инструмент в руках опытных специалистов.
В другом проекте мы создавали систему, которая помогала учителям автоматически проверять часть заданий, освобождая время для более важной работы — личного общения с учениками, объяснения сложных тем, индивидуального подхода.
Вот где, я считаю, настоящая ценность искусственного интеллекта — не в замене людей, а в усилении наших возможностей, освобождении нас от рутины, помощи в решении сложных задач.
Конечно, как и любая технология, ИИ будет использоваться и во вред. Но то же самое можно сказать об интернете, мобильных телефонах, даже о печатном станке Гутенберга. Любой инструмент, который усиливает наши возможности, может быть использован как во благо, так и во зло.
Наша задача — не бояться технологий, а учиться правильно их использовать. Понимать их возможности и ограничения. И самое главное — помнить, что в центре всего должен оставаться человек, его нужды, его благополучие.
Я верю, что мы найдем правильный баланс между автоматизацией и человеческим контролем. Мы научимся жить в мире, где роботы выполняют рутинную работу, а люди занимаются тем, что делает нас людьми — творчеством, заботой, любовью.
Но для этого нам нужно быть честными о том, что технологии могут и чего не могут. Не верить слепо в обещания продавцов волшебных решений, но и не отвергать прогресс из страха перед неизвестным.
Будущее за теми, кто научится сотрудничать с машинами, а не бороться с ними или слепо им подчиняться.
А пока что я с улыбкой наблюдаю, как мой пылесос-робот застревает под диваном, Сири не понимает мой акцент, а «умная» колонка включает музыку, когда я просто разговариваю по телефону. Эти малые неудачи напоминают мне, что до настоящего искусственного интеллекта нам еще далеко. И, возможно, это к лучшему.
Как сказал мне тот самый дедушка на автобусной остановке, прежде чем зайти в наконец-то прибывший автобус: «Главное, чтобы машина человеку служила, а не наоборот.» И знаете, я с ним полностью согласен.