Куда нас заведут искусственный интеллект и монополии типа «Яндекс.Всё» и «Сбер.Всё»?

«Как ни странно, ИИ не освобождает труд, а закрепощает еще сильнее. Одни люди используют электронный хлыст, чтобы хлестать других людей с целью выжать больше денег», — говорит президент компаний «Ашманов и партнеры» и «Крибрум» Игорь Ашманов. Он рассказал «БИЗНЕС Online о том, что «уберизация» экономики лишает людей защиты, тотальная слежка — уже реальность, «цифровое бессмертие» — плохая идея, а через 15 лет Россию могут уничтожить сверхоружием на основе ИИ.

У каждого есть в смартфоне «Яндекс.Карты» и «Яндекс.Навигатор» — это сложные программы искусственного интеллекта. Тут так же, как с проверкой правописания, — 50 лет назад это могли делать только очень образованные люди» Фото: «БИЗНЕС Online»

«В ЛЮБОМ СМАРТФОНЕ ДЕСЯТКИ ПРОГРАММ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА»

— Игорь Станиславович, хочется начать нашу беседу с цитаты руководителя лаборатории машинного обучения «Яндекса» Александра Крайнова: «Про искусственный интеллект говорят и пишут очень много. Заголовки почти всегда стараются сделать максимально эффектными, что, увы, приводит к неправильному пониманию того, что такое искусственный интеллект. Для многих ИИ — это пока что-то вроде чуда, с ним связаны различные заблуждения, страхи, надежды и фантазии. Так что же такое искусственный интеллект?

— Если брать техническое определение, а не голливудские выдумки, то ИИ — это такой набор алгоритмов, программных правил, методов оптимизации, машинного обучения и так далее, который позволяет машине имитировать некоторые когнитивные (то есть умственные) функции человека. Именно имитировать.

При этом есть такая специфическая романтика ИИ, которую привносят разнообразные книги про ИИ, фильмы про человекоподобных роботов и так далее, которая обычно касается нерешенных задач искусственного интеллекта.

Как только задача имитации какой-то конкретной когнитивной функции решена, романтический флер с нее сдувается, ей тут же начинают пользоваться в быту, и большим художникам это становится уже не интересно, нет драмы. Вот робот, который совсем-совсем как человек…

Вообще, программой искусственного интеллекта можно назвать любую компьютерную программу, которая автоматически анализирует какие-то данные и принимает решения. Например, если у вас жилой дом или офисное здание имеют много этажей и несколько лифтов, то ими, конечно, управляет программа искусственного интеллекта. Ей надо понять, где какие лифты, где уже люди едут, какой вам лифт прислать, если вы нажали кнопку вызова, или какой и где остановить, чтобы оптимизировать время подачи и доставки. Вокруг нас уже есть своеобразное облако бытового искусственного интеллекта.

— Уже есть?

— Да, конечно, причем десятки лет, поскольку заниматься этим люди стали уже довольно давно. Лично я пришел после вуза в отдел искусственного интеллекта вычислительного центра Академии наук в 1983 году. Вычислительный центр АН СССР — это был такой большой академический институт на 500 с чем-то сотрудников. Он и сейчас существует в Москве, находится по адресу: улица Вавилова, 40. Там был отдел искусственного интеллекта, которым руководил Гермоген Сергеевич Поспелов — академик, глава совета по искусственному интеллекту при Академии наук. То есть к 1983 году ИИ уже разрабатывали много лет, и уже было довольно много сделано.

Движуха в нашем ВЦ шла вовсю: в соседней с нами комнате делали распознавание речи, в другой — диалоговый процессор, в третьей — развивали антивирус Dr. Web, в четвертой Пажитнов делал игру «Тетрис», в пятой Веселов писал редактор «Лексикон» и так далее. В нашем отделе занимались, в частности, анализом речи, текстов и чертежей. Уже тогда в ВЦ АН была работающая система, которая находила размерные линии, считывала размер, отделяла друг от друга разные детали и так далее. В это же время по всей стране делали системы управления, автоматической посадки и тому подобное.

То есть этим всем в нашей стране занимаются уже довольно давно. Вот Гермоген Сергеевич Поспелов, академик, боевой генерал, который участвовал в Великой Отечественной войне, ныне уже покойный, занимался ИИ еще в годы ВОВ, а именно автоматической посадкой самолетов на аэродром. Если вы помните, наш космический челнок «Буран» в ноябре 1988 года летел и садился в полностью автоматическом режиме, с точностью до 1 секунды и 1,5 метра полосы, им управлял искусственный интеллект. В любой крылатой ракете с момента их появления есть искусственный интеллект. Другое дело, что в некоторых случаях (например, в системе С-300) этот ИИ мог быть в некоторых подсистемах не цифровой, а аналоговый. То есть, условно говоря, там вместо модных сейчас нейронных сетей, машинного обучения или каких-то цифровых алгоритмов, написанных на языке программирования, использовалось что-то другое — аналоговым способом решались дифференциальные уравнения. Но не это важно, а то, что крылатая ракета вот уже 50 лет как распознает по фотографиям местность и летит на небольшой высоте туда, куда ей задано, а С-300 автоматически наводится на многие цели сразу.

— То есть не «пройдет время — и технологии искусственного интеллекта станут такой же привычной частью жизни, как лампочка и розетка», а они уже ими стали, просто мы об этом не задумываемся и воспринимаем как должное?

— Да. «Бытового» искусственного интеллекта уже очень много вокруг нас. Скажем, в любом смартфоне десятки программ искусственного интеллекта. Там есть распознавание пальца, лиц по фотографии, сейчас в последней модели смартфонов от Huawei или Samsung вы наводите камеру, а она вам пишет: «Люди, зелень, снег, вода, зима, осень», — и так далее. То есть там стоит «распознавалка» объектов, пейзажей, сезонов и тому подобное. Есть «болталка»: «Алиса», «Окей, Google» или какая-то другая. И так далее. В каждом таком смартфоне или компьютере есть, к примеру, программа проверки правописания. Я занимался этим довольно много. Как раз в вычислительном центре АН СССР мы сделали эту программу, которая сейчас работает в каждом русскоязычном Microsoft Office. Мы впервые ее выпустили в 1988 году.

Это иллюстрация того, что, когда нечто уже сделано, оно не вызывает никакого восхищения, трепета или ужаса, его просто перестают замечать. Работает, мы все пользуемся — ну понятно, что тут такого.

Алгоритм Т9, который есть у всех на смартфонах, сокращает время набора и мучает внезапными дурацкими подстановками слов — тоже довольно сложный искусственный интеллект. Поисковик «Яндекса» — мощнейший искусственный интеллект, гигантский, в который ежемесячно вкладывается труд 500–600 человек.

Антивирус Касперского — тоже искусственный интеллект, потому что вообще любая программа распознавания — это искусственный интеллект, а антивирусная программа должна распознавать разнообразнейшие вирусы и трояны, которых в год пишется несколько миллионов. Это очень сложный искусственный интеллект.

У каждого есть в смартфоне «Яндекс.Карты» и «Яндекс.Навигатор» — это сложные программы искусственного интеллекта, которые за человека выбирает маршрут. Тут так же, как с проверкой правописания, — 50 лет назад это могли делать только очень образованные люди, а сейчас такое под силу любому устройству. То же самое с прокладкой маршрута. Это довольно сложная задача даже для опытного водителя, знающего город, где какие пробки, возможные объезды, развороты и ремонты, а сейчас за секунду-две ИИ всё идентифицирует, и к этому все привыкли.

«Сейчас не решена пока задача нормального диалога на естественном языке с машиной. Машина не может поддерживать связного диалога, держать фокус, понимать необычные вопросы» Фото: «БИЗНЕС Online»

— Это уже решенные задачи ИИ, которые стали частью нашей жизни. Но есть же еще масса нерешенных.                 

— Да, на другой стороне, где еще сохраняются эта романтика и страх перед машиной, есть нерешенные задачи искусственного интеллекта, которые сейчас пытаются решить. Это происходит всю историю ИИ — переползание задачи с одной стороны на другую, в категорию решенных.

Скажем, распознавание лиц было такой совершенно непонятной и нерешаемой задачей 10 лет назад. Какие-то программы распознавания лиц делались, но они работали плохо, с большим количеством ложных тревог. В 1990 и 2000 годах были попытки поставить камеры и распознавание лиц в аэропортах и по городу (в Лондоне, Атланте и так далее), их через несколько месяцев везде в ужасе отключили — было столько ложных обнаружений «преступников», что отделы полиции захлебнулись. А сейчас, спустя 15–20 лет, после появления новой техники (графических карт) и глубоких нейронных сетей это делают повсеместно, все работает.

Распознавание тематики текста 20 лет назад было серьезной задачей. Распознавание объектов на фотографии — сейчас практически все интернет-сервисы и гигантское количество интернет-программ распознают живые и неживые объекты. Узнают кошку, собаку, человека и так далее, и это уже кажется тривиальным. 10 лет назад, когда я пытался нанять лучших в России специалистов по распознаванию образов, они не решались такое сделать. Брались распознавать лица, потому что известно, что такое лицо, а любую кошку автоматически назвать на фотографии кошкой они не брались. Потом, где-то 8 лет назад, произошел прорыв в нейронных сетях и объекты на фотографиях и видео стали распознавать. Это в некотором смысле уже ширпотреб сейчас.

Сейчас не решена пока задача нормального диалога на естественном языке с машиной. Машина не может поддерживать связного диалога, держать фокус, понимать необычные вопросы. Хотя тема чат-ботов модная, чат-ботов предлагают много, которые как бы говорят (в том числе голосом — задача синтеза и анализа речи в целом решена), но обменяйтесь с ботом хотя бы несколькими связанными репликами — и вы поймете, насколько он все еще тупой.

Не решена задача хорошего, настоящего перевода, машинного перевода с языка на язык, хотя сейчас за счет тех же нейронных сетей машинные переводы стали довольно гладкими. Они стали намного лучше, чем 25 лет назад, когда я этим занимался. 

— Лично столкнулся с машинной расшифровкой диктофонной записи текста — это же просто ужас. Проще все это сделать вручную, чем потом исправлять ошибки за машиной.

— Это отдельная интересная история про порог использования системы ИИ. Когда мы делали проверку правописания, мы понимали, что у нее есть порог использования, потому что реальных ошибок на странице всего несколько — от 2–3 до 4–6. Если у системы будет больше неизвестных слов, то есть ложных срабатываний, лишних «подсветок», чем реальных опечаток на странице, никто не будет использовать. Нужно было преодолеть этот порог, добиться такой полноты словаря, чтобы у системы оказывалось не более 1–2 неизвестных ей слов на странице. С машинным переводом такая же история. До какого-то момента переводить текст, например, с английского на русский было выгоднее просто с нуля, потому что переводчику нужно было нажать меньше клавиш при переводе с нуля, чем при исправлении корявого результата машинного перевода.

Но сейчас этот порог преодолен, и тут же произошла другая ужасная вещь — сейчас стало невозможно заказать чисто человеческий литературный перевод. Качество перевода резко упало. Сейчас все, даже самые дорогие переводческие конторы, которые называют себя суперспециалистами, вначале дают текст перевести машине, а потом человек дорабатывает то, что получилось. По сути, ты платишь только за качество «выглаживания» машинного перевода. Фрилансер подсунет вам сырой результат, прямо со всеми глупостями МП, переводчик из бюро все-таки как-то подчистит косяки МП.  Все используют Google или «Яндекс», в результате в тексте всегда видны артефакты — следы машинного перевода. И эти «косяки» плохого машинного перевода вылезают даже после перевода тех, кто утверждает, что от начала до конца текст переводил человек. МП все равно делает ляпы, заговаривается, подставляет не те значения, а те, кто выглаживает текст после МП, уже даже не заморачиваются полезть в словарь и проверить странное место. Машинный текст перевода стал настолько относительно хорош (оставшись плохим), что его выгоднее «докрутить», чем делать перевод человеком от начала и до конца. В итоге этому искушению не может противостоять ни одно даже самое крутое переводческое бюро, даже самое пафосное. Так экономика вместе с ИИ сожрала или «перепрошила» человеческих переводчиков. 

Так вот, у упомянутых вами программ, которые транскрибируют свободную звуковую речь, пока этот порог, похоже, не преодолен. Примерно каждое третье-четвертое слово не соответствует тому, что было действительно сказано (это легко видеть в автоматических титрах на YouTube), и править в итоге такой текст сегодня более трудозатратно и долго, чем обработать его вручную, без использования машины.

Такой порог использования в ИИ есть везде. В очень многих программах, которые как бы демонстрируют отличную работу, на самом деле этот порог не преодолен. В диалоговых ботах он также не преодолен, как мне кажется, в дистанционном образовании то же самое. Он по многим параметрам не преодолен в беспилотниках. БЛА пока на улицы не выпускают.

«Не взлетела виртуальная реальность, несмотря на крайнюю зрелищность и активность втюхивания. Очки с VR начиная с 90-х на рынок заходили трижды. Все три раза эти заходы провалились» Фото: «БИЗНЕС Online»

«произойдЕт дальнейшая монополизация, своего рода «Яндекс.Всё» или «Сбер.Всё»

— Я уже упоминал надежды и фантазии, связанные с искусственным интеллектом. Что в них имеет под собой реальную основу, а что не реализуемо в обозримой перспективе или в принципе?

— Про всех людей вообще, которые что-то думают и фантазируют себе по поводу искусственного интеллекта, я сказать не могу. Есть, так скажем, категории людей, которые с искусственным интеллектом так или иначе соприкасаются, не считая массового пользователя. Это разработчики ИИ, которые смотрят на него очень практически, скучно, прагматично, они делают системы искусственного интеллекта, понимают, что у данного продукта есть определенный уровень качества, условно говоря, полнота и точность того, что он делает, порог использования.

Почти все элементы ИИ — это системы распознавания, у них основные критерии качества — полнота и точность (то есть степень распознавания всех нужных явлений и уровень ложных срабатываний). У этих людей нет особых романтических иллюзий по поводу того, что они делают, как в известном стихотворении Анны Ахматовой: «Когда б вы знали, из какого сора растут стихи, не ведая стыда», — потому что они знают, что там «под капотом». Часто, если заглянуть внутрь работающей системы, которую прямо вот используют массово, там будет ужас-ужас-ужас. Огромное количество дыр, «заплат», «костылей», временных решений, тем не менее ИИ работает, результат какой-то дает и в целом выполняет свою задачу.

Есть так называемые «евангелисты» искусственного интеллекта (хотя это неудачное название, эти инфоцыгане с настоящими евангелистами не имеют ничего общего, но оно прижилось на Западе), которые рассказывают, как от ИИ все скоро заколосится, зацветет, как все будет идеально, как ИИ станет делать буквально все, вот тогда-то заживем и тому подобное. Как правило, в этом амплуа выступают не технари, а журналисты, банкиры, маркетологи, всякие гуманитарии, которые некритично пересказывают басни своих технических подчиненных.

Есть еще более адекватные гуманитарии, которые пытаются все это осмыслить. Они пишут книги-утопии или антиутопии, снимают фильмы про ИИ, в первую очередь в Голливуде. Но почти во всем, что они делают, конечно, огромный разрыв с реальностью. Там, к большому сожалению, еще есть разрыв вот в чем: очень умные люди, писатели-фантасты высокого класса, в 50–60-е годы все эти проблемы, связанные с искусственным интеллектом, уже разобрали. Шекли, Брэдбери, Саймак, Азимов и другие всё возможное будущее систем ИИ уже принципиально разобрали и очень наглядно описали. К сожалению, современные «евангелисты», похоже, ничего этого в детстве и юности не читали и фантазируют с нуля, а ноль у них расположен довольно низко.

Скажем, есть типовые басни «ИИ-евангелистов» о том, как будет развиваться интернет и искусственный интеллект, которым уже, наверное, лет 30. Это уже просто маркер такого безграмотного «евангелиста», таких маркеров много. Например: «Ура, холодильник скоро будет умным — его соединят с интернетом, он будет смотреть, когда у вас заканчиваются продукты, сам станет их через интернет заказывать, и вам их будут доставлять. Таким образом, холодильник у вас будет всегда полон, потому что он будет умным и проследит за вашим питанием за вас». Эту дурацкую выдумку рассказывают уже лет 30. Таких холодильников по-прежнему нет (точнее, такие стартапы даже запускали, ничего не вышло), и я думаю, что их не будет. Просто потому, что они никому не нужны. Большинство людей не захотят есть то, что им назаказывает искусственный интеллект.

Другая ИИ-басня — о том, как ваш персональный ИИ-агент сам подберет вам страну и отель для отдыха. Но большинство людей хотят сами все это подбирать и не хотят ехать куда-то по чужому, даже самому умному выбору.

Не взлетела виртуальная реальность, несмотря на крайнюю зрелищность и активность втюхивания. Очки с VR начиная с 90-х на рынок заходили трижды. Все три раза эти заходы провалились. Подташнивает, неудобно, оббиваешь коленки о мебель, портится зрение и так далее. Похоже, это просто не очень нужно.

То же самое с дополненной реальностью. Вы надеваете очки, и вам там сбоку, по краю поля зрения, что-то пишут или показывают что-то, круто же! Прямо как у Терминатора в кино, вы имеете дополнительную информацию обо всем. Умные очки Google Glass с такими функциями продвигали с большой помпой, если помните, но закрыли через несколько лет. Во-первых, похоже, такое вообще не нужно. Во-вторых, портится зрение, на обычные очки не наденешь, а в-третьих, окружающим людям не нравится, когда на них смотрят через компьютерные очки и что-то там про них себе смекают.

Когда IT-хипстеры стали покупать Google Glass и с гордостью носить везде, в целом ряде заведений, ресторанах, кафе в Калифорнии на входе стали писать: «Сюда с Google Glass нельзя». Потому что клиентов пугает, когда их кто-то снимает встроенной в очки камерой, распознает по лицу или делает что-то еще.

В общем, у «ИИ-евангелистов» очень много фантазий о том, что людям на самом деле оказывается не нужным: даже если технологии в рекламе и фильмах выглядят впечатляюще, вызывают ощущение «ух, круто!», они потом оказываются никому не нужными. Например, 3D-телевидение (да и 3D-кино) практически умерло. Телевизоры с 3D сняты с производства всеми основными производителями, остались только немногие топовые модели с 4К. А ведь как это круто, казалось бы. Может быть, оживет на новом витке технологии, когда не будут нужны очки.

Вот еще пример: во всех фантастических фильмах есть видеофон. Большие экраны по всем комнатам, рубкам кораблей, в офисах и т. п. Ну вот, технологии доросли, передача видео есть, скорости есть: казалось бы, и что, у нас такой видеофон есть? Как бы есть, но на самом деле нет. У нас есть видеосвязь, которая используется достаточно узко — для удаленной работы, для видеоконференций в офисе, чтобы поговорить с далекими родственниками. Никто не ставит себе в спальню и на кухню огромный экран и камеру, чтобы было видно, в каких трусах вы сегодня сидите.

— Сейчас, кстати, «удаленка» в связи с карантином активно заставляет людей всем этим пользоваться.

— Да, и она уже вызывает все большее раздражение. Всем этот эффект присутствия 24×7 начальника и коллег у себя в доме надоел, никто этого не хочет. Общие отзывы таковы, что в удаленном режиме качество работы падает. Многие люди не в состоянии наладить нормальную продуктивную коммуникацию исключительно по компьютерной сети.

В образовании, мне кажется, «удаленка» показала крайнюю неэффективность. И это будет катастрофа, если продолжать в том же духе. Отличники останутся отличниками, хотя и получат значительно меньше знаний, а отстающие вообще перестанут учиться в принципе. По-моему, всем стало ясно, что учиться на «удаленке» нельзя. Это профанация. Многие работники образования говорят, что такие проблемы даже во благо — произошла своеобразная вакцинация от удаленного образования.

— Сегодня тестируются самые разные беспилотные автомобили, самолеты, надводные и подводные суда. Как скоро это все массово войдет в нашу жизнь и мы станем ездить на работу, летать и плавать в отпуск и деловые поездки на транспорте без управления человеком?

— Уже сейчас довольно много летает этих беспилотников. Они пока что в основном управляемые, но есть и автоматические, которым вы можете задать маршрут и они будут летать и снимать посевы, или полетят вдоль трубы «Газпрома» в тайге, чтобы найти утечки газа. Будут беспилотные автомобили на улицах. Беспилотные поезда уже есть, лично на них уже много раз ездил. В Нью-Йорке, Мюнхене и в Шанхае между терминалами аэропорта ездят поезда без машиниста. Там небольшое расстояние, все понятно, нужно только не придавить дверью какого-нибудь пассажира, что достигается датчиками, и всё.

Про авиацию уже сейчас говорят, что 90–95 процентов всех посадок Airbus и Boeing на полосу осуществляется автопилотами, а не людьми.

«Как ни странно, ИИ не освобождает труд, а закрепощает еще сильнее. Есть много примеров этому. Взять хотя бы историю с американской компанией Amazon, которая частично перевела свои склады на автоматическое обслуживание» Фото: © Hasan Bratic/Hasan Bratic/globallookpress.com

—Если весь транспорт станет беспилотным, то куда девать людей, которые сейчас им управляет и обслуживает? Их ведь многие миллионы, а с учетом семей — десятки миллионов.

— Про искусственный интеллект постоянно говорят, что он может лишить работы миллионы людей, что создаст социальные проблемы. Это не так, это «замыливание» реальной социальной и общественной проблемы. Ведь искусственный интеллект сам никого не увольняет, не крадет рабочие места. Социальные проблемы не создаются техническими устройствами. Они порождаются теми кадровиками и управленцами, которые увольняют людей ради дешевой экономики по приказу акционеров. Если в какой-то стране считается приемлемым (с точки зрения закона и общественной морали) увольнять десятки миллионов людей ради грошовой экономии, то это вопрос к социальному строю и к обществу, а вовсе не к ИИ.

Да, наверное, искусственный интеллект может сделать какие-то процессы более эффективными, но когда, взяв это за основу, говорят: «Давайте тогда всех работников уволим», — то вот здесь начинается проверка этого социального строя. Он вообще чем занимается, он только на оптимизацию и эффективность извлечения прибыли настроен? Вообще говоря, государственный и социальный строй не должен быть настроенным на бизнес-эффективность (притом не для всех, а для собственников предприятий), он должен быть настроен на то, чтобы составляющим его людям жилось лучше, а не хуже. И в этом смысле, даже если бы у нас было идеальное государство и была бы возможность всех уволить и всех заменить роботами, государством и обществом было бы принято решение этого не делать.

Возьмем конкретную проблему массового беспилотного транспорта. Сейчас только у «Яндекс.Такси» (только что они его зачем-то переименовали в нелепый лексический гибрид «Яндекс Go») по стране ездят 500 тысяч водителей. У него этих «как бы работников» больше, чем у «Газпрома». Почему «как бы»? Потому что «Яндекс», по сути, являясь их работодателем, всячески от своей роли открещивается, заявляя, что его функция состоит в исключительно информационном посредничестве. Почему? Если ты являешься работодателем, то несешь социальную ответственность, а «Яндекс» не хочет ее на себя брать. И он не единственный в своем роде. Все это разделение на гигантских инфопосредников и «независимых» исполнителей называется «уберизацией» экономики и социальных процессов, потому что первым это делать стал мировой сервис такси Uber.

Что это значит? Подобные Uber компании перевели массы людей в положение как бы индивидуальных предпринимателей, которые социально не защищены. Они работают, по сути, за такую же зарплату, как если бы они были просто наемными водителями, но отпусков, бюллетеней, социального пакета, защиты от несправедливых увольнений и штрафов работодателя у них нет. Устал, заболел, семейные неприятности — твои проблемы, деньги перестают поступать в ту же минуту, пожалуйте на улицу или биржу труда. А сами эти гигантские информационные посредники, зарабатывающие огромные деньги, за социальное положение и права работников не отвечают. На мой взгляд, это просто такой бизнес-трюк, который должен быть запрещен.

Сейчас эти информационные посредники говорят: «А теперь мы научим машину саму ездить, причем обучим ее на примерах (дата-сетах) работы этих самых рабов навигатора». А потом эти миллион водителей станут ненужными. Компании втянули миллионы людей в этот бизнес, а потом, когда выгонят на улицы беспилотники и уволят этих бедолаг через 4–6 лет, те уже ничего другого уметь не будут. Они будут только уметь водить машину, а этот навык станет никому не нужным. Они и сейчас довольно сильно социально подавлены. Ими управляет искусственный интеллект, который рассчитывает их доход, накладывает все больше ограничений, считает социальный рейтинг водителя (что само по себе нехорошо). Положение работников не улучшается. В России уже есть несколько общественных движений и организаций, которые борются с «Яндекс.Такси» и другими аналогами. Там, на самом деле, очень серьезная эксплуатация с искусственным интеллектом в качестве надсмотрщика. Не очень хорошая история.

Это первые предвестники грядущего так называемого суперкапитализма, перед которым текущий капитализм покажется нам детским садом.

— Получается, искусственный интеллект помогает одним людям более эффективно эксплуатировать других?

— Да. Как ни странно, он не освобождает труд, а закрепощает еще сильнее. Есть много примеров этому. Взять хотя бы историю с американской компанией Amazon, которая частично перевела свои склады на автоматическое обслуживание. Там ездят такие большие быстрые плоские таблетки типа роботов-пылесосов и перевозят товар. Все равно кто-то должен товары на эти таблетки грузить, а этих и так уже социально достаточно ущемленных и подавленных людей, в основном мексиканцев, поставили под контроль ИИ. Там установили камеры, которые научили распознавать перекуры, перерывы в работе, хождение, не связанное с выполнением прямых служебных обязанностей, и так далее. Сейчас людей непрерывно гоняют электронным хлыстом, штрафуют, наказывают, увольняют за мельчайшие нарушения, делают из них роботов, короче говоря. Про это было уже достаточно много публикаций. Более того, кто-то даже уже в суд подавал.

В такой конфигурации ИИ не облегчает труд людей, а становится электронным надсмотрщиком, который не знает жалости, не ведает усталости, не отворачивается, с которым нельзя договориться, упросить или разжалобить. Начинается какая-то чудовищная антиутопия в реальности. При этом никакого собственного интеллекта в искусственном интеллекте нет. Просто одни люди используют электронный хлыст, чтобы хлестать других людей с целью выжать больше денег. У них нет другой цели.

При этом есть еще такое соображение: позволить себе создать собственный беспилотник смогут не все службы такси. В нашей стране, скорее всего, — только одна. Не все электронные магазины смогут поставить себе роботизированный склад, это очень дорого, таких будут единицы, вроде Amazon. Это значит, что произойдет дальнейшая монополизация, своего рода «Яндекс.Всё» или «Сбер.Всё»: собственно, Греф только что нам это пообещал, как обычно, с энтузиазмом IT-евангелиста, как будто мы должны этому радоваться вместе с ним.

Во всех сферах всё будет во власти несколько частных, огромных, безжалостных «платформ» или, как они сами любят говорить «экосистем», которые будут иметь одну задекларированную цель — прибыль.

Эта монополизация, естественно, также будет происходить со все возрастающей степенью эксплуатации и ущемления прав людей. Как бы не пришлось государству эти разные экосистемы, в конце концов, национализировать, чтобы эти социальные проблемы, монополизацию и ужесточение ИИ прекратить.

Вот когда «Яндекс» всех этих людей, «которых он приручил», через 5–7 лет выгонит на улицу, потому что выкатит на улицы свои беспилотные такси, что мы будем делать? Непонятно. Я не знаю, думает ли наше государство на эту тему вообще. Полагаю, в Европе или США из государственных людей на эту тему никто особенно-то не думает и не тревожится в принципе, поскольку в неолиберальной экономике и социальном устройстве это же естественный процесс: ты не вписался в рынок — ну извини, каждый сам за себя. Может, дадим тебе безусловный базовый доход (очень модная на Западе тема), чтобы на жилье, еду и пиво как-то тебе хватало. И не бухти, не высовывайся.

Хотя нам в 1991 году тоже объявили, что теперь каждый сам за себя, но мы исторически, ментально все-таки несколько другие: у нас Цивилизация «Мы», по Александру Зиновьеву. Ответственность друг за друга, за свой ближний круги и за общество в целом у нас пока еще развита больше, чем в Цивилизации «Я» на Западе. Мы должны предвидеть и «стерилизовать» надвигающиеся социальные проблемы, связанные с цифровизацией всего. Но вот как это делать в новых условиях, я пока не очень понимаю.

Вообще на это все должна быть направлена напряженная деятельность государства и законов, потому что остается мало времени, все слишком быстро развивается, но пока непонятно, кто бы мог и был бы должен этим заниматься.

Мы недавно разговаривали в совете по правам человека при президенте России о том, что нам нужен некий цифровой кодекс, который защищает человека, попавшего в эту цифровую круговерть. Нужно защитить цифровую идентичность, приватную жизнь и так далее, в частности, необходимо закрепить на законодательном уровне, что нельзя использовать цифровые технологии для ухудшения жизни граждан. Не должны системы искусственного интеллекта, работающие в автоматическом режиме, принимать жизненно важные решения относительно людей. Я надеюсь, что этот цифровой кодекс когда-нибудь появится. Рассчитывать на «саморегулирование бизнеса» нам не стоит. У владельцев новых технологий возникает очень много соблазнов использовать искусственный интеллект там, где он будет дискриминировать человека. Например, ИИ банка проанализирует все данные о вас (купленные у разных платформ), и банк откажет вам в кредите, а поскольку это «черный ящик», он даже не объяснит вам (да и своему владельцу), почему не дал кредит. Та же история может быть с приемом в ВУЗ и так далее.

Если мы всё про вас знаем, то цена для вас на товары и услуги может быть другой. Уже сейчас, когда вы летите в самолете, сидящий рядом с вами человек мог заплатить за такое же место в три раза больше или меньше, чем вы, потому, что цена билетов все время меняется. Сейчас она нестабильна в связи с заполненностью рейса, еще чего-то, но обязательно будет меняться исходя также из того, какой толщины у вас кошелек. Та же история с медициной — с тех, у кого острые заболевания, можно брать больше денег, они все равно в отчаянии.

Еще один очень важный аспект — это ошибки искусственного интеллекта, за которые никто пока не несет ответственности, потому что ответственность «размазана» по разработчику системы, производителю, владельцу и оператору.

Упомянутые «ИИ-евангелисты» в своем вдохновенном камлании выкрикивают, что если искусственный интеллект хорошо работает, то он функционирует лучше, чем человек на этом месте. Он лучше ставит диагноз и делает операции лучше, чем врач, он может судить лучше, чем судья, он неподкупный, у него нет пристрастий и так далее. Но с судьи или врача можно хотя бы спросить за неудачное решение, ведь они отвечают репутацией, карьерой, даже свободой. А что вы спросите с ИИ? Вам в ответ скажут: «Да, это была недоработанная версия, мы уже поставили новую, не переживайте, в следующий раз будет все нормально», — но для кого-то следующего раза уже не будет! В данный момент цена ошибки искусственного интеллекта почти никем из тех, кто отвечает за развитие нашего общества и государства, не осмысливается, из-за огромного хайпа вокруг «ништяков», которые обещает ИИ.

Сейчас есть попытки некоторых разработчиков ИИ развить что-то вроде теории игр для ИИ, называемой лукавой «этикой ИИ», но это довольно нелепые и гуманитарно слабые попытки ставить и решать задачки типа «кого давить беспилотнику — двух бабушек-пенсионерок или красивую юную блондинку». Естественно, все в итоге сведется к деньгам — кто и кому будет платить за пострадавших бабушек, — потому что другого критерия на Западе нет, да и в ИИ нет другой ответственности, ведь там нет внутри человека.

Этого не должно быть. Надо как-то защищаться от наступления эпохи тотального (тоталитарного) искусственного интеллекта.

«Человекоподобные роботы — пока маркетинговая лажа, потому что, как я уже сказал, даже просто поддержание текстового разговора с чат-ботом или виртуальным собеседником — еще не вполне решённая задача» Фото: © Li Ziheng/Xinhua/globallookpress.com

«БОЛЬШИНСТВО АЛГОРИТМОВ ИИ ПРЕДСТАВЛЯЮТ СОБОЙ «ЧЕРНЫЙ ЯЩИК»  

— Отдельная тема — заблуждения и страхи. В советские времена ходила такая полубайка о том, как Брежневу показали танк с элементами искусственного интеллекта, который на полигоне отлично воевал: прятался в складках местности, выявлял угрозы, наносил удары, не давал себя уничтожить. Брежнев спросил, где экипаж. Ему ответили, что экипажа нет, это умная машина, она сама все видит, обдумывает и воюет. Брежнев подумал и сказал: «Нет, такой танк нам не нужен». Ученые удивились, почему, ведь ни у кого в мире ничего подобного нет! А он ответил: «Ни вы, ни я, вообще никто не знает, как мыслит эта машина и куда заведут ее мозг эти размышления. Сейчас она воюет за нас, а потом в ходе боя возьмет и передумает, повернется и начнет воевать против нас». И проект свернули. Не берусь оценивать, правда это или нет, но, взяв этот пример за отправную точку, расскажите о заблуждениях и страхах связанных с ИИ.

— На мой взгляд, это лишний страх, который из голливудчины всякой идет, потому, что разработчики искусственного интеллекта, конечно, понимают, что находится там, в условной голове. На самом же деле там нет никакой «головы» у машины, но есть довольно детерминированные алгоритмы — единственно, что с триумфальным шествием нейронных сетей, сейчас и разработчики не очень могут понять, как именно внутри нейронной сети в реальной ситуации происходит выбор того или иного варианта, потому что нейронная сеть является «черным ящиком». Большинство алгоритмов ИИ представляют собой «чёрный ящик» по очень простой причине — там производится миллиарды операций, а проследить их логику пошагово разработчику попросту невозможно за разумное время. Существуют, конечно, какие-то методы для того, чтобы попытаться понять, как развивалось рассуждение нейронной сети, сделать ящик хоть немного серым, хоть чуть-чуть прозрачным, но в целом с этими алгоритмами сейчас обращаются действительно как с «черным ящиком». Подают задачу на вход, смотрят, что получилось на выходе, и подстраивают входные вводные либо сам алгоритм, подкручивают в нем ручки до тех пор, пока не получат нужного результата на выходе.

Никакого мышления там внутри, конечно, нет. Это просто некие сложные алгоритмы, у которых непредсказуемый результат может получаться просто в силу их высокой сложности. Но вы, когда в свою машину садитесь, порой тоже не знаете, почему она не заводится, просто потому, что сейчас техника — это в принципе очень сложная штука. Вообще, есть тенденция усложнения любого вида человеческой деятельности, эта сложность возрастает максимально в любой сфере.

Точно так же, например, разработчики поисковика «Яндекс» подчас не знают, почему он выдал именно такой результат поиска, а не какой-то другой. Происходит это потому, что при ранжировании результатов учитываются многие сотни первичных факторов и миллионы вторичных. Разработчики современного поисковика могут предполагать, каким будет результат, могут на это влиять, но объяснить, почему именно по вашему запросу выдались именно эти 10 верхних результатов поиска, или предсказать, что будет выдано, они, конечно, не могут. Это вполне нормальное явление для искусственного интеллекта. Никакого сознания там не зарождается, а уж тем более воли. Там могут быть непонятные эффекты и сбои, как и с любыми сложными техническими устройствами.

Ну и перехват управления беспилотным танком или истребителем боевыми хакерами со стороны противника тоже возможен. Это гораздо большая опасность, чем бунт машины.

— Вызывает вопросы и человекоподобная интеллектуальная  робототехника. Китайцы утверждают, что в ближайшие годы появятся технологии, позволяющие сделать на заказ робота — это будет полный аналог человека, в том числе с элементами ИИ, который станет идеальной женой, мужем, ребенком, домашним питомцем — собакой, кошкой — и так далее. Это действительно так?

— Я, честно говоря,  вообще не знаю выдающихся достижений китайцев в области искусственного интеллекта. Может, я отстал от жизни Поднебесной. Знаю, что китайцы вкладывают огромные деньги в ИИ, раз в 100–200 больше, чем у нас, и раза в 1,5 больше, чем США. Пишут много статей, подают огромное количество патентов. Рыскают по России, скупают коллективы разработчиков ИИ. Но вы слышали о каких-то китайских прорывах в ИИ? Я — нет. Может быть, эта их деятельность даст результаты, посмотрим. Ну да, камера телефона Huawei распознает лица, закат и траву. Но это, судя по всему, работают нейронные библиотеки Google, которые поисковая система выложила в open source.

Я знаю наши официальные структуры, которые в рамках технического сотрудничества поставляют российские космические технологии в Китай, сотрудники их говорят, что 80–90 процентов китайских достижений в освоении космоса — это просто адаптированные и развитые космические технологии СССР и России. Поэтому, я думаю, эти залихватские утверждения пока ни на чем не основаны. Просто обычное китайское стремление все изукрасить, сделать золотым и блестящим. Там же есть свои «ИИ-евангелисты», им ведь надо выбивать государственное финансирование ИИ, госпрограммы, гранты.

Человекоподобные роботы — пока маркетинговая лажа, потому что, как я уже сказал, даже просто поддержание текстового разговора с чат-ботом или виртуальным собеседником — еще не вполне решенная задача. Вы видите «говорящие колонки» — «Алису» или «Марусю» от Mail.ru — они работают в «железе», но, если вы с ними поговорите, вы увидите, что разговор поддерживать они не умеют. Команды наподобие обращения к поисковику или открытия карты они выполнить могут, голос распознается, но обработать смысл — конечно, нет.

Какая там еще человекоподобная робот-жена, что вы...

— Но известный американский фильм «Искусственный разум» 2001 года, вы, наверное, видели: невозможно распознать, кто перед тобой — человек или умная человекообразная машина. С тех пор на эту тему снято много фильмов, она волнует людей. Так что, возможно такое?

— Это обычная голливудская киношная ерунда. Я не думаю, что это вообще когда-нибудь будет сделано. Много серьезных кибернетиков, психологов и философов задумывались над тем, что такое разум и можно ли его воспроизвести внутри машины.

На самом деле мы даже не знаем определения и критериев наличия разума внутри человека. У нас вообще-то нет никаких средств, определить, обладает ли тот или иной человек разумом или нет. Мы это только предполагаем по сходству с нами, по поведению, по каким-то иным признакам, типа «сам я мыслю — значит, и другие мыслят». Никаких способов это проверить нет. Общепринятого, разумного, консистентного определения разума и интеллекта тоже не существует, хотя про это написаны многочисленные книги и статьи.

Причины вполне понятны: очень сложно исследовать инструмент при помощи этого же самого инструмента. Возникает такая дурная рекурсия, которая создает зашумление, напускает туман, поэтому очень сложно исследовать разум при помощи того же разума. Что такое разум, до сих пор неизвестно. Великий математик Тьюринг неспроста в свое время ввел свой критерий (или тест Тьюринга), который говорит, когда нужно признать, что создан сильный искусственный интеллект. А именно: если, общаясь по сети с ИИ-персонажем, определенное количество экспертов не могут достоверно установить, человек это или робот, ИИ признается сильным. То есть, если есть хорошая, идеальная имитация, будем считать, что там внутри есть интеллект, как бы это ни было сделано. Ведь определить, есть ли там внутри сознание «на самом деле» невозможно, нет определения. Нет критериев осознавания себя каким-то устройством.

Есть много работ, в частности Пенроуза, о том, что возникновение «настоящего» сознания в машине невозможно. Пенроуз пишет, что сознание человека, возможно, имеет квантовую природу и поэтому алгоритмические методы не могут к нему даже приблизиться.

Если смотреть с метафизической точки зрения, то возникновение где-то сознания не может быть случайностью или автоматическим процессом. Есть, конечно, среди разработчиков ИИ всякие мракобесные теории о том, что мы сейчас изучим с помощью МРТ и электродов, как работает человеческий мозг, повторим это на машинном уровне — и в машине возникнет сознание. Как-то само собой в машине возникнут чувства, разум, воля и душа… Но мы-то знаем обратные примеры: когда количество чувств и ума внутри человека уменьшается, освободившееся место занимают чуждые ментальные существа.

Поэтому скорее можно предположить, что если кто-то создаст хорошо приспособленную для существования в ней разума машину, очень похожую на мозг человека, годную для управления, то туда немедленно заселятся демоны, которые только этого и ждут. Да и с чего бы вдруг Бог сочтет себя обязанным зажечь в этой машине «искру Божью», вселить в нее разум и волю или, проще говоря, душу? Что, у этих атеистов, которые делают искусственный интеллект, с Ним есть такая договоренность? Думаю, что нет.

 — На днях британская газета The Telegraph опубликовала статью под названием «Зачем Илон Маск хочет вставить вам в мозг микрочип», в которой прошлась по пресловутой чипизации и превращению в будущем людей в киборгов. Маск 28 августа представил прототип своего интерфейса «мозг – компьютер», который однажды можно будет внедрить в голову, сделав из людей киборгов, пишет автор статьи. То есть эти технологии уже реальность?

— Ну в реальности Маск демонстрировал дрель, которая просверлила череп свиньи. И всё. Это же Маск.

А вообще, людей, которые бы хотели, чтобы их кто-то извне контролировал, чтобы им что-нибудь вживили, или тех, кто просто злоупотребляющих психоактивными веществами, много. Есть люди, которые идут в секты, в политические движения, потому что хотят внешнего управления. Их тоже много и будет еще больше, если им будут обещать какие-то сверхспособности или еще что-то. Есть просто сумасшедшие или те, кому хочется своих 15 минут славы, и за это они готовы вживить себе все что угодно.

Чипирование людей для внешнего управления — конечно, мракобесие, это должно быть запрещено. Басни, которые Маск рассказывает, разумеется, абсолютно человеконенавистнические и бредовые, даже если у него ничего не получится. Например, о том, чтобы вставить больному чип, чтобы с его помощью лечить депрессию. Это значит, что, вместо того, чтобы давать человеку «Прозак», на котором пол-Америки сидит, просто подкрутить ручечку потенциометра до тех пор, пока уголки губ у пациента не поднимутся кверху? Удобно же? И дешевле!

Этого ничего на самом деле нет, потому что, как управлять человеком даже через электроды, подведенные напрямую к мозгу, никто не знает. Человек — очень сложное и до конца не изученное существо. Например, бывают случаи, когда человеку на войне снесло полчерепа вместе с большей частью мозга, и в этом случае оставшаяся часть мозга берет на себя практически все функции утраченной части и вполне успешно функционирует, хотя по теории разделения функций по зонам мозга этого быть не должно. Мозг человека устроен очень странно и сложно, он тесно связан с телом, и всех этих тонкостей мы не знаем.

А про конкретную басню про чипизацию стоило бы спросить авторов теорий заговора — зачем она нужна? Начнем с того, что чипизация сопряжена с техническими трудностями, а именно: как питать этот чип внутри организма — непонятно, как избежать перегрева (фактически сваривания) тканей организма из-за его мощных сигналов — непонятно. При этом что он сможет делать, чтобы не убить своего носителя? Скорее всего, простейшую идентификацию на расстоянии нескольких метров — примерно в рамках возможностей товарных радиометок RFID.

У каждого, кто боится этой фантастической чипизации, уже сейчас есть смартфон. Он работает на расстоянии нескольких километров, человек сам его питает электричеством и деньгами, очень нервничает, если смартфон разрядился, боится его где-то забыть. Этот смартфон знает про нас все, уже сейчас он нас подчиняет, следит за нами, жрет наше время, заставляет заниматься ерундой, зомбирует и управляет. Какие чипы еще нужны? Чего бояться, когда вы сами и уже сейчас носите в своем кармане средство управления вами? Все уже сделано.

Игорь Ашманов: «Мозг — это не компьютер. Там ничего общего с компьютером нет. Нет постоянной и оперативной памяти, нет процессора, мозг не «обрабатывает информацию» Фото: © Евгений Биятов, РИА «Новости»

«ЕСЛИ ЧЕРЕЗ 10–15 ЛЕТ У НАС НЕ БУДЕТ СУПЕРОРУЖИЯ — АВТОНОМНОГО, СВЕРХБЫСТРОГО, — ТО ОТ НАС НИЧЕГО НЕ ОСТАНЕТСЯ»

— Много говорится о двух путях поиска бессмертия. Один из них — это заморозка тела в криокамерах до лучших времен, пока изобретут способ это тело оживить, а второй — это уход личностной сущности в виртуальную реальность, как было показано в культовом фильме начала 90-х «Газонокосильщик». Такой уход возможен в принципе?

— Для начала давайте зададимся вопросом: а что, человеку правда нужно бессмертие? С моей точки зрения, все люди живут какое-то время, а потом попадают на Суд. Бессмертие — это попытка застрять здесь, не попасть на Суд, чтобы с тебя не спросили. Попытка уйти от суда. Застрять во времени. Это не очень хорошая идея. Это значит, что сознательно или бессознательно такой индивидуум, желающий себе бессмертия, хочет бесконечно долго хулиганить и гадить. Для чего еще нужно бессмертие? Для чего еще нужна бесконечная жизнь? Совершенно непонятно. Для бесконечного потребления? Если это бессмертие еще и доступно не всем, то это адский расизм и тоталитаризм, разделение людей на бессмертных и быдло, которое должно обеспечивать счастливую вечную жизнь первых и вымирать, которое не жалко.

Еще один интересный момент, связанный с уходом личности в виртуальную реальность. Великие фантасты 1950–1970-х когда-то уже описали телепортацию, то есть моментальные перемещения человека во времени и пространстве. Здесь зашел в портальчик, а на другой планете вышел из такого же портальчика. Понятно, что его не физически туда перенесли, а пересобрали на месте из новых атомов. По сути, получится, что этот зашедший здесь умер, а там родился другой. Куда делся умерший? Из чего следует, что если он сложен из тех же самых атомов, то это тот же самый человек? По сути, не из чего. А как установить, что это тот же самый человек? Что у него воспоминания те же самые? Но, наверное, тогда эта машина могла бы сделать, воспроизвести пять таких людей на разных планетах. Они что, все одинаковые будут? А где тогда он сам? Тут возникают такие логические дыры, что это, скорее всего, невозможно. Или это разрешение убивать людей, а потом «оживлять» мертвых. То есть фактическое производство зомби, неотличимых от людей.

С переносом человека в компьютер такая же история. Что значит, «он будет там жить»? Кто «он»? С чего взяли, что личность туда будет перенесена, даже если «набор битов» как бы совпадает? Это бредовая идея, и берется она из нелепого допущения о том, что мозг — это тоже компьютер. А это глупость такая же, как представление XVIII–XIX веков, что мозг — это гидравлическая машина с краниками и трубочками, перекачивающими черную и желтую желчь, флегму и тому подобное.

Мозг — это не компьютер. Там ничего общего с компьютером нет. Нет постоянной и оперативной памяти, нет процессора, мозг не «обрабатывает информацию». Компьютер не похож на мозг, и наоборот — как нет ничего общего у автомобиля с лошадью. Мы не знаем, что такое человеческая личность и где она сидит. Физически ее нет, когда препарируют трупы, но она в людях есть. Она что, исчезает, как свет в холодильнике, если дверь закрыть? А потому что, собственно, «переносить»?

На мой взгляд, это все фантазии, басни для людей, которые об этом глубоко не задумываются. Ну и, естественно, исключительно для атеистов.

— Очень много пишут о том, что умные гаджеты повсеместно и круглые сутки шпионят за гражданами, а IT-компании, собирающие и имеющие в своем распоряжении массу всевозможной информации о людях, становятся все более влиятельными, что в будущем может быть опасно и для госструктур, и для всех нас. Это так?

— Это не пустые страхи, а наша сегодняшняя реальность. Соответствующие данные уже собираются, причем с опережением законодательства. Законодательство еще не успело охватить и описать эти проблемы, а данные уже собираются. Есть уже гигантский рынок этих данных. Они воруются и перепродаются через пятые руки. В основном они используются для втюхивания, чтобы создать максимально неотразимую рекламу, чтобы вы обязательно купили, при этом даже сами не поняли почему.

Данные собирают все, кто может до них дотянуться. Любое приложение на смартфоне имеет доступ к огромному массиву данных. К примеру, любое приложение на вашем смартфоне имеет доступ к вашему bluetooth-окружению. Таким образом, можно узнать, какой у вас автомобиль, другие устройства. Все смартфоны знают, где вы находитесь, даже если вы отключили GPS или ГЛОНАСС. Почему? Потому что им видно ваше Wi-Fi-окружение, какие вокруг вас Wi-Fi-сети. Дело в том, что таких названий домашних сетей, которые напридумывали ваши соседи по дому, больше нигде нет. Это уникальный отпечаток вашего окружения.

Таких способов собирать эти сигнатуры и отпечатки очень много. Поэтому крупнейшие компании, которые этим занимаются во всем мире, — это «Фейсбук» и Google, у нас еще «ВКонтакте», «Яндекс» и Mail.ru, мобильные операторы, Сбербанк. Они знают о нас очень много. Почему? Потому что у них есть очень широкая линейка сервисов, и в каждом сервисе собираются свои данные, которые потом объединяются. Поисковик знает, чем вы интересуетесь, навигатор — где вы ездите, банковское приложение — что вы покупаете, и так далее. Все это позволяет делать так называемый кросс-канальный анализ. Компании точно знают, что вот это ваш смартфон, а это ваш ноутбук и они связаны. Более того, знают, какой смартфон у вашей жены, потому что он находится рядом с вами по ночам, и так далее. Ваша жена что-то поискала, а рекламу покажут вам, чтобы убедить еще и вас, что вам нужен этот унитаз, посудомойка, или еще что-то.

То есть эта слежка уже сейчас тотальная. Не вся она коммерческая. Большинство этих компаний-гигантов, которые это всё собирают, американские. Они работают в американской юрисдикции, там есть так называемый «Акт о свободе», который требует, чтобы все эти данные предоставлялись государству, они их ему и сдают. Поэтому у американской разведки и контрразведки все есть. Как они все данные используют — это другой вопрос. Не торгуют, но делают нечто другое (у нас этих данных нет, нам «Фейсбук» и Google эти данные не отдают).

То есть это будущее уже наступило, оно уже здесь, и пока нет никаких законов, которые бы защищали нашу цифровую идентичность, нашу цифровую приватность, кроме слабого и почти не применяемого закона о персональных данных (номер 152-ФЗ).

— Между тем в России все чаще появляются сообщения об утечке в свободный доступ (или чьем-то «сливе») персональных данных клиентов самых разных организаций и граждан, а также росте киберпреступности и усложнении мошеннических схем в цифровом пространстве. Как защититься от мошенников, похищающих через цифровые устройства и технологии все — от личных данных граждан до денег?

— С моей точки зрения, вся эта слежка, о которой мы говорили выше, гораздо более опасна в государственных руках и в руках крупных компаний-платформ, нежели в руках криминала. Криминал, конечно, тоже старается всем этим воспользоваться, но гораздо опаснее те, кто эти данные получает либо по долгу службы, либо потому, что мы сами эти данные на этих платформах оставляем и не глядя ставим галочку при регистрации, позволяя делать с собой все что угодно.

Конечно, происходят утечки данных. Они всегда будут. Утечки станут нарастать, потому что увеличивается объем собираемых и хранимых данных, а компетенции защитников данных растут медленнее. Криминал, безусловно, будет всем этим пользоваться и уже пользуется. Например, многие из частых звонков от имени банков делают заключенные прямо из колоний. Об этих вещах надо знать всем, нужна некая базовая цифровая гигиена. Гражданам нужно все это доводить и объяснять, что не следует отвечать на незнакомые номера, не щелкать на ссылки в СМС, пришедших с незнакомых номеров, и так далее.

Я сейчас дописываю книгу под названием «Цифровая гигиена», где мы с коллективом авторов пытаемся научить родителей и воспитателей базовым принципам цифровой гигиены — с тем, чтобы они передавали рекомендации детям и подросткам. В новый курс по ОБЖ для средних школ также вставлен кусок про цифровую гигиену, который писали наши специалисты. Но, к сожалению, среди наших граждан, которых втягивает в цифровое «торнадо», большинство тех, кто к личной борьбе с криминалом не готовы и никогда не будут готовы, несмотря на весь цифровой ликбез. В частности, по очень простой причине — средний человек склонен доверять людям, а мошенник этим всегда пользуется. Поэтому считать, что спасение утопающих — дело рук самих утопающих, мол, учитесь, сами за собой следите и так далее, неправильно. Среда должна быть базово не токсичной, как водопровод в квартире. Людей должно защитить государство. Вылавливать этих всех мошенников, создавать защищенные коммуникации и прочее должно государство. Это изначально неравная борьба, поэтому сверху должен прийти регулятор, который защитит граждан. И в части ограничения слежки со стороны платформ — тоже.

Мы не можем остановить развитие и совершенствование искусственного интеллекта, потому что ИИ — это в первую очередь война, боевые технологии, хотя об этом мало говорят публично. Если через 10–15 лет у нас не будет супероружия — автономного, сверхбыстрого, — то от нас ничего не останется. Американцы и иже с ними нанесут первый удар. Это самое хищное государство на планете. Они разрешили себе первый ядерный удар в военной доктрине, у них нет никаких препятствий для нападения на другие страны — они уже напали примерно на 100 стран после 1945 года. В отличие от нас, у них военная стратегия не оборонная, а всегда нападающая.

И мы являемся главной мишенью, а потом уже Китай. Мы в их военной стратегии и в киберстратегии названы противником номер один, мы им очень сильно мешаем на планете. Но до сих пор их от прямого нападения на Россию удерживало исключительно наше ядерное оружие, а с развитием ИИ место ядерных сил постепенно займет сверхточное сверхбыстрое автономное ИИ-оружие. По крайней мере, на него сейчас делается основная ставка в военной сфере.

А с ИИ ситуация такая, что если ты все время не разрабатываешь эти технологии, то отстанешь. Мы сейчас во многих военных областях впереди (РЭБ, гиперзвук), и американцы очень нервничают по этому поводу. Но в искусственном интеллекте нам тоже нужно не опоздать. Сейчас американцы и китайцы борются между собой, думая, что кто-то из них будет лидером. Они вкладывают гигантские деньги, в сто раз большие, чем у нас. Нам вкладываться тоже все равно придется. Нам нужно дать асимметричный ответ все равно, с этим ничего не сделаешь, потому что, как только они поймут, что уже могут нас уничтожить и им за это ничего не будет, они кнопку нажмут. У них вообще никаких барьеров нет, они постоянно поступают так с другими, более слабыми странами.

Поэтому нам надо выпускать больше инженеров и математиков, больше вкладывать денег в ИИ, создавать технологические площадки, такие как Иннополис, «Сколково», «Эра» и им подобные, остановить утечку мозгов, дать разработчикам ИИ большие проекты и большие перспективы.

— Кстати, с учетом повсеместной цифровизации и внедрения ИИ какие профессии будут наиболее востребованы в ближайшей и среднесрочной перспективе? Нужно ли учить программированию, бизнесу?

— Математики, программисты, инженеры по данным, специалисты по цифровым технологиям, прикладные лингвисты — на мой взгляд, это очень перспективные профессии. Что касается остальных, за всех, конечно, говорить не могу, но, мне кажется, юристы, экономисты и маркетинговые специалисты будут менее востребованными по сравнению с теми ожиданиями, которые у них были 15–20 лет назад, когда все бросились в юристы и экономисты. Тут уже есть перепроизводство.

На мой взгляд, такая модная «профессия», как бизнесмен (которой берутся учить многие), тоже не будет востребована, потому что бизнесменом может быть один из многих десятков людей, а остальным это на самом деле не нужно, тяжело, нервно, не под силу. Даже если они этого хотят, если у них есть запал и кураж, они могут быть к этому не способны. Это такая довольно неприятная работа с повышенным риском и ранней сединой, язвой желудка и так далее.

Из 10 новых предприятий в первые 3–5 лет 7–8 банкротятся и закрываются, а основатели идут обратно в наемники. То есть тут нужно иметь склонность, а «учить бизнесу» — дело довольно бессмысленное. Сначала надо отобрать пригодных, а потом уже учить во взрослом возрасте, с опытом предпринимательства.

Сейчас набирает обороты новое движение — дескать, давайте детей учить бизнесу прямо со школы, мы будем делать с ними проекты и стартапы! Это чушь, конечно. Из 100 человек в этой школе бизнесом реально 1–2, максимум 5 человек. Все не могут заниматься бизнесом ни по способностям, ни по ситуации в экономике. Если все будут бизнесменами, кто тогда будет учить, лечить, строить, развивать науку и искусство? Спрашивается, зачем «учить бизнесу» остальные 98 процентов? Чтобы потом они эффективно и удобно для налоговой изображали из себя индивидуального предпринимателя, работающего за харчи на огромного инфопосредника типа Uber или «Яндекса»? Ага.

Вот математике надо учить, финансовой грамотности, цифровой гигиене. Искусствам и спорту.

Конечно, не у всех есть способности и желание быть инженерами или программистами. Что делать человеку, например, с талантом к рисованию? Ну может учиться в цифровом формате — аватаров делать, персонажей для игр, дома проектировать, вселенные какие-то рисовать, в общем, идти в ногу со временем. Советы тут давать трудно — это ведь касается судеб, которые каждый выбирает по себе и своим талантам.