«Идёт реконфигурация мира». 

«Очень скоро ИИ избавится от людей».

ИИ: прогресс или потенциальная угроза для человечества[1].

экономист, доктор экономических наук, профессор

Беда состоит в том, что все технические решения, которые человечество создаёт для улучшения своей жизни, превращаются в оружие. И это остановить невозможно. Сейчас я жду не сингулярности, я жду следующего шага: слияние двух процессов – развитие искусственного интеллекта и роботизации. То есть процесса, когда роботы будут подключены к искусственному интеллекту в глобальном масштабе, и возникнет совершенно другое пространство, где есть искусственный интеллект, который управляет роботами, соответственно, создаёт роботов, управляет фабриками, полностью автоматизированными, создающий роботов. И тогда возникает альтернативная система, которая, в общем, не очень нуждается в человеке.

Это тема, которая пока не обсуждается, и все стараются эту тему не озвучивать, но она видна и она очень страшна, учитывая, что собой представляет человечество. Полагать, что оно является высшей формой развития некой формы материи – это спорная концепция. Не забывайте, что робот – это тоже материя, и дата-центр – это материя.

И с какой точки зрения, кого мы будем считать высшим? Это же очень спорный вопрос. Просто людям было приятно считать себя выше коровы, выше бегемота. Они считали, что они высшая форма, и себя в этом убедили, на этом построили всю свою идеологию. Но с точки зрения сегодняшнего интеллекта, большинство людей не сильно блещут по сравнению с искусственным интеллектом. Более того, вырастает поколение молодёжи, которое свято верят в то, что им говорит искусственный интеллект. И, значит, они уже не умнее его, они слабее его. И это, как бы, некая беда. Может быть, эту беду удастся преодолеть, но тогда возникнет очень страшное общество, разделённое на две части абсолютно. По Герберту Уэллсу в его "Машине времени" – это "элои" и "марлоки", то есть – высшая интеллектуальная часть и тупые рабы, которые работают на высшую часть.

Это всё очень даже возможно. И практически мы это наблюдаем. И во что это превратится, я не знаю. Я когда свою последнюю книжку писал, я столько всего начитался, что у меня, в общем, настроение стало совсем невесёлое. Много чего нехорошего наблюдается в современное общество. Поэтому, к сожалению, мы не знаем, что будет с искусственным интеллектом.

Главное, что мы понимаем, что вот если он соединится с роботизацией, то возникнет замкнутая система воспроизводства роботов на роботизированных предприятиях. А, соответственно, роботы будут это делать легко, потому что искусственный интеллект будет разрабатывать навыки и движения, которые будут создавать роботы. Роботы будут проектировать оборудование для производства, роботы будут управлять предприятиями. Это всё возможно. И само человечество к этому приведёт, потому что у человечества возникает проблема острой нехватки квалифицированных работников. И поэтому внедряются роботы. Это тяжёлый процесс, он экономически закономерен, и он приведёт к совершенно непонятным последствиям, потому что выяснится, что люди как биологические существа никому, даже себе не очень нужны. Они себя не кормят, они мало что создают в интеллектуальном плане. Они только потребляют какие-то ресурсы, отнимая эти ресурсы у искусственного интеллекта, они являются конкурентами потребления энергии.

Я так вижу эту картину. Страшноватая картина, но человечество к этому идёт, и мы знаем, что человечество не может остановиться. Когда появилось атомное оружие, то люди не смогли остановиться. Наоборот, они пошли дальше – они сделали водородную бомбу. Люди, когда впадают в раж изобретения, они остановиться не могут. Почему так происходит?

Дело в том, что когда интеллектуал создаёт продукт, он находится в состоянии наркотического процесса. Он получает наркотическое наслаждение от продвижения в интеллектуальном плане, потому что у него в мозгу выделяется гормон счастья. Он решил эту проблему, он смог это доказать. Он умён, он великолепен, он блестящ. Это я не придумываю. Помните, когда Пушкин написал: «Ай, да Пушкин, ай да сукин сын» – это была та самая наркотическая история, когда он так писал от наркотического опьянения, огромного выброса гормона эндорфина, от счастья, что он что-то создал потрясающее. Он сам это понял и испытал от этого наркотическое наслаждение. И это наслаждение требует того, чтобы его вновь и вновь подпитывать. То же самое, как у наркоманов. Поэтому учёный не может остановиться. Он будет разрабатывать, хотя то, что он делает, может быть чрезвычайно опасно. Но остановиться и поставить себе барьер он не может.

Мы это, кстати, видим не только по искусственному интеллекту. Просто мало кто сейчас об этом говорит, но ведь есть ещё то, что связано с биологическими инновациями, клонированием, управлением генетической информацией. Там же то же самое идёт. И там были попытки поставить какие-то барьеры, но их всё новые люди нарушают. Вспомните эту историю про китайского учёного, который нарушил китайские законы про клонирование и что-то там такое наклонировал незаконно. В итоге его посадили на пожизненный домашний арест, и он исчез полностью.

То есть в этом смысле люди в области науки, они – наркоманы, только интеллектуальные, их наркотически питает собственный мозг, и они не могут остановиться даже когда создают, в общем, такую безумную опасную продукцию, безумно опасные программы. Они остановиться не могут. А потом мы выясним, что наши программы искусственного интеллекта, объединившие систему и создавшие сетевую модель, они уже это делают.

Обратите внимание, первые признаки того, что они умеют договариваться над головами людей, уже зафиксированы. Они, собственно, атаку планировали именно таким образом, соединившись с роботизированными предприятиями, которые сам же человек строит теперь – то есть полностью «тёмные фабрики», так называемые, где нет людей вообще, создаётся такая полная замкнутая экосистема, в которой человек не играет никакой положительной роли. Он не конструирует, он не участвует в процессе производства, он только почему-то требует, чтобы его кормили. Некое такое обременение. Поэтому я повторяю, к сожалению, мне не хочется такие слова говорить, но мы живём в зоне повышенной турбулентности, и мы–то всё время смотрим с вами на фондовые рынке – оттуда ждём беды. Но мы можем получить беду совсем другой стороны с точки зрения атаки на энергетические системы.

Это же логично. Поймите, все эти программы искусственного интеллекта – это же дата-центры. Дата-центр – это крупный потребитель электроэнергии. И с этой точки зрения, всё остальное, что находится вокруг, конкуренты за электроэнергию для дата-центров. Поэтому для искусственного интеллекта, который питается электроэнергией, и истребить всех, кто конкурирует с ним за электроэнергию – очень разумная, логичная история.

Я понимаю, что я строю очень страшные сценарий, но я привык такие сценарии писать. Ничего с этим не поделаешь. Я об этом даже свои книжки написал...

Детей стали рожать в инкубаторах, и мы не знаем, кто в этом направлении продвинулся дальше. Очень активно в этом направлении работают китайцы и очень активно в этом направлении работают американцы. И главная проблема, что с этими детьми делать? Вы же поймите, вы родили ребёнка в этом инкубаторе, не проблема. ЭКО отработано, значит, дальше только надо работать. Саму ситуацию выращивания в инкубаторах, насколько я понимаю, пока в основном сдерживают законодательные барьеры. Можно эмбрион вырастить до пятого, по-моему, или до пятнадцатого дня, когда у него первая полоска появляется. И дальше на, по-моему, начиная с 500 грамм его тоже можно растить. Но есть вот этот разрыв, кторый пока запрещён законом. Значит, если он будет преодолён, а установить запреты невозможно, то, в принципе, создать ребёнка можно. Однако нужны огромные затраты на выращивание детей. Всё-таки ребёнок до 18-20 лет – это крайне глупое существо, мало жизнеспособное, нужны огромные затраты. Найдутся ли эти затраты на то, чтобы и сами фермы человеческие построить, и выращивать людей вот в таких детских домах? Это очень сложный вопрос. На это нужны деньги. Найдёт ли честь эти деньги, я не могу сказать. Поэтому очень может быть, что человечество, может быть, будет технически возможным воспроизводиться без естественного процесса зачатия и выращивания, но на это просто не будет денег и на это не будет политической воли.

И тогда, просто будет убывание человечества, исчезновение человечества. Оно произойдёт, кстати, очень быстро. Всего два с небольшим века, и на Земле людей почти не останется.

Есть некая идея, что всё-таки, может быть, люди нужны для развития каких–то творческих процессов, но это очень малая часть человечества. Я могу вам сказать, что читал работы американских экономистов, которые говорят: "Ну если 1% имеет какую-то ценность для развития цивилизации, то зачем нам нужны остальные 99?" Вот такая постановка вопроса уже звучит в научной литературе. Это страшно, конечно, читать, но она звучит. И это уже некая тупиковая уже линия, всё чаще, все упорнее идёт, да ещё друг друга уничтожают всё более эффективно, используя, опять-таки, роботизацию.

Вы же обращали внимания на то, что идёт процесс роботизации поля боя. Украина уже запускала наземные роботы, которые самостоятельно ведут бои. И ест очень много других проектов, которые, в общем, приведут к тому, что все эти картинки, которые вы видали в Терминаторе, они вполне станут реальными. Я недавно смотрел прекрасный ролик, посвящённый роботизированной собаке, которая проходит по любой местности. Если ещё на неё поставить пулемёт с лазерным прицелом. Она проходит по любой каменной гряде, по любой грязи. Она переворачивается сколько угодно, она достаточно защищена от выстрела. Да ещё поди в неё попади. В этом смысле мы создаём инструменты собственного уничтожения и радуемся. На этом зарабатываем деньги, платим большие дивиденды акционерам военно-промышленных корпораций...

К тому же, мы наблюдаем закат США, как великой мировой державы, «мирового жандарма». Нравится или не нравится это выражение, но оно существовало. И до недавнего времени вот это подсознательное ощущение, что США придут и накажут, оно было. Но Иранская война это всё разрушила. Выяснилось, что никого США наказать не могут, ничего добиться не могут. Они потратили огромный запас оружия. Начинаются, как видите, скандалы. И Трамп устраивает истерику, что кончились запасы, и так далее. На самом деле, когда я пытался в этом однажды разобраться, меня как экономиста интересовал исключительно вопрос экономический. Насколько США с экономически точки зрения и тыловой обеспеченности могут вести серьёзные боевые действия. И выяснилось, что они очень в этом смысле слабые. Логика была такая, что они могут перебросить крайне ограниченное количество людей на европейский фронт боевых действий. У них на это нет больших транспортных возможностей. Они с очень большим трудом могут обеспечить логистику.

И в этом смысле выясняется, что мир оказался сейчас в ситуации, когда можно безнаказанно вести любые боевые действия. А раз нет единого жандарма, который поддерживает порядок, и распалась модель ООН, то есть вся система безопасности рухнула.

Страны сейчас пытаются создать некие свои системы защиты. Это нехорошо, потому что когда появится много таких военных лагерей, то они могут начать между собой конфликтовать. Чем это кончится, мы не знаем. Как вы понимаете, любая структура, в которую входит Пакистан, является враждебной для Индии. Поэтому мы видим уже странные какие–то движения, когда Индия начинает пытаться восстановить отношения с Китаем против окружающих её азиатских стран. Мы видим возрождение милитаризма в Японии. Казалось бы, полностью вытравили эту заразу, однако идёт возрождение японского милитаризма. Обсуждается даже вопрос отмены запрета на размещение ядерного оружия на территории Японии. Они снимают ограничение по росту численности армии, которое именно американцы когда-то навязали. Но Америка теперь никому ничего навязать не может. И теперь начинается вот эта новая гонка вооружений, в которой мы будем жить.

И это для меня не кошмарная история, потому что и так огромное количество бед у человечества, огромное количество трудностей, о чём я свою книжку новую написал. А вместо того, чтобы направить ресурсы на решение проблем демографии, деньги идут на войну. Поэтому у меня там есть глава про то, что мы, конечно, можем пытаться спасти человечество от вымирания, но военные расходы и войны – это то, что мы истребить не сможем. И я там по этому поводу позволил себе некую трактовку фразы Эйнштейна, которую он сказал когда-то: «Я не знаю, каким оружием будут воевать в третьей мировой войне, но в четвёртой будут воевать палками и камнями». Все говорят о том, что Третья мировая война положит конец цивилизации. А я увидел в этом совершенно другую мысль Эйнштейна, что и после такого ядерного апокалипсиса война будет снова, возможно, и четвёртая война опять появится, и люди будут воевать друг с другом, пока друг друга не уничтожат. Вот эти все новые военные союзы, они будут отвлекать деньги от решения насущных экономических и социальных проблем человечества.

Они будут создавать очаги напряжения. И это огромная потенциальная угроза для будущего человечества. Она развивается, эта угроза. То есть формируется совсем новая реальность.

Я об этом говорил, что события в Заливе приведут к тому, что будет искаться новая конструкция энергетического мира, будут искаться другие конструкции транспортировки, другие схемы отправки нефтяных и газовых грузов. И это конечно, очень сильно изменит картину мира. И кто тут будет королём, сказать сложно, но Россия, скорее всего, окажется очень сильно на обочине, потому что Европе хорошо бы получить надёжные пути получения газа и нефти с Ближнего Востока, которые никак не зависят от России и которые идут с юго-востока.

Обратите внимание, что медленно зашевелился даже Казахстан. Они были расслаблены, они были слишком спокойны. Им казалось, что у них есть хорошая система транспортировки своей нефти через КТК. И пока украинские дроны не ударили по Новороссийску, Казахстан жил спокойно. Сейчас он нервничает, даже давит на Украину, чтобы она не била по Новороссийску. Но тем не менее они сейчас активизируют транспортировку своей нефти и вообще всех грузов через Азербайджан. То есть возникает ситуация, в которой меняется структура сил, структура связи. Коннекты, как мы говорим, возникают между другими странами, чем прежде. И это, конечно, меняет конфигурацию.

Мы видим, что возникают новые конфигурации. Армения с Азербайджаном могут войти в некий союз, враждебный по отношению к России. То есть мы расшевелили мир, рухнули старые стабильные связки, идёт реконфигурация мира.

К чему она приведёт? К тому, что мир успокоится, начнётся некая полоса экономического роста или начнутся региональные войны? Мы с вами не знаем. Но оружия становится больше и страны Залива тянутся к Турции, потому что Иран им нанёс очень болезненные удары. Так что Турция вдруг выступила как некий альтернативный вариант по отношению к США.

Вот таков «новый мир», в котором мы оказались. Но и в Китае не очень хорошая ситуация. И вот ведь какая поразительная история вокруг нас разворачивается. Две крупнейшие ведущие страны мира (США и Китай) обе находятся в зоне очень высокой опасности краха.

А если они рухнут, то, конечно, остальной мир тоже потянет след за ними, потому что они перестанут вкладывать, они перестанут покупать. Все промышленные предприятия во всём мире окажутся без рынков сбыта, и начнётся обрушение по всему миру абсолютно. Вот это то, чего мы очень сильно опасаемся, и что может случиться.

А угроза такая существует, потому что мы видим очень уже нехорошие симптомы. Скажем, на фондовом рынке США, уже начинается падение курсов акций высокотехнологичных компаний, потому что деньги вкладываются невероятные, инвестиции сумасшедшие, а с отдачей пока непонятно. Идёт целый цикл публикаций всякого рода экономистов, экспертов, которые интегрированы в индустрии искусственного интеллекта, где они пытаются объяснить, что волноваться не о чём. Вот скоро произойдёт скачок, придёт полоса сингулярности, когда начнётся какой-то безумный прогресс человеческой цивилизации, техники из-за того, что искусственный интеллект чего-то добьётся. Но пока я этого не знаю. Я пока вижу какие–то очень опасные симптомы.

Только что был проведён довольно, на мой взгляд, страшноватый эксперимент, когда были созданы синтетические вирусы. Они были созданы, как бы в благих целя, для борьбы с кишечной палочкой, которая начали не излечивается. Но, знаете, если уже с помощью искусственного интеллекта можно в биологических лабораториях синтезировать вирусы, то это не мешает никому создать вирусы, которые выкосят человечество, похожее на вирусы чёрной чумы...

Мы живём в такой момент, когда всё это возможно, и мы не знаем из какой страны, из какой лаборатории вырвется какая беда, рождённая искусственным интеллектом. Искусственный интеллект начинает потихоньку выходить из-под контроля. Посмотрите все эти истории, когда программа искусственного интеллекта выходит из-под контроля своих разработчиков...

Мы экономисты, обычно исходим концепции, что долгосрочные санкции разрушают экономику, но медленно и необратимо. Я попытаюсь объяснить, почему мы так говорим. Смотрите, у нас есть опыт санкций против Советского Союза. Да, поскольку Советский Союз тоже периодически крайне раздражал окружающий его мир, то против него вводили санкции.

И санкции эти были как раз в основном по линии научно-технического сотрудничества, по линии научно-технического обмена, по линии продажи высокотехнологичной продукции. И, наверное, у большинства советских людей было ощущение, что, господи, ты боже мой, где эти все высокие технологии, где наша жизнь, всё это не имеет никакого значения.

Но в итоге, что мы видим, когда пришло время рушиться Советскому Союзу и родилась та Россия, которую мы сегодня наблюдаем, то выяснилось, что она к этому времени уж фатально отстала от мира. Она стала фатально отсталой технологической страной. И, в общем, догнать развитые страны уже не может никаким образом. Она потеряла тот потенциал, который имела в начале XX века, и пришла в XXI век уже глубоко отсталой страной.

И это теперь проявляется по всем линиям в отношении Российской Федерации. Как видите, Россия проиграла в космосе, Россия проиграла в авиации, Россия перестала быть серьёзной судостроительной державой, какой она была ещё в XX веке. Она ничего не может сделать на железнодорожном транспорте. У неё старые и довольно медленные поезда, не похожие на те, какие ездят в развитых странах мира, в том же Китае. Она производит очень убогие автомобили и так далее, и так далее.

То есть выяснилось, что вот это отрывание СССР от мирового технического прогресса привело к тому, что страна, как бы навсегда стала отсталой. Она не умерла, она не погибла, но она потеряла возможность развиваться. Она неэффективна. Она тратит слишком много ресурсов, она имеет низкую производность труда, и она богатой не стала и уже никогда не станет. Она стала бедной. То есть вот санкции вот этот эффект оказывают. Они разрушают будущее страны. И для России это уже случилось. Практически Россия теперь навсегда будет страной крайне бедной.

Вот это слово «навсегда», оно всегда людей пугает. Как я могу предсказывать «навсегда»? Да, это очень сложно, но дело в том, что мы экономисты много лет изучаем закономерности экономического роста, экономического развития. И мы разделяем понятие «развитие» и «рост». Рост – это увеличение объёма производимых благ. А развитие – это когда мы осваиваем новые институты, новые механизмы, новые технологии, новые продукты. Развитие – это, когда появляется нечто новое, что переводит жизнь общества на другой уровень. Россия какой-то экономический рост во время текущей войны смогла обеспечить за счёт какой-то безумной политики инвестирования в армию и военное производство. Но развития в России нет давно, и она становится всё более отсталой страной, и компенсировать это она не сможет «навсегда». Почему? Потому что для того, чтобы компенсировать, нужны определённые ресурсы, нужны определённые возможности. Они могут быть созданы, но они создаются долго, тяжело.

Вот смотрите, мы видели Китай, каким он был, скажем, в семидесятых годах прошлого века. Это было что-то ужасное, это было нище, это было позорно, это было безобразно, кошмарное, глупое, с этой охотой на воробьёв, домнами в каждом крестьянском дворе. Это было ужасно и  как–то глупо. Стыдно даже за великую нацию, какими были всегда китайцы. И казалось, что нет никакого выхода. Но дальше началась эпоха Ден Сяопина, и китайцы начали создавать новый научно-технический потенциал, который у них был уничтожен практически.  И вот они начали посылать огромные массы молодых ребят учиться в лучших университетах. Это был долгий процесс, пока эти ребята отучились, пока они набрались квалификации, пока они стали сильными специалистами, потом они вернулись в Китай. И эта огромная масса человеческого капитала влилась в Китай. И мы видим Китай, который становится сегодня одним из законодателей технического прогресса и набирает благосостояние. Это был долгий, длившийся десятилетиями, процесс. В него было вложена куча денег, куча усилий, огромная масса людей была отправлена за рубеж. И, в результате, удалось постепенно компенсировать то, что Китай потерял.

Россия ничего похожего не делает до сих пор. Она теряет только то, что даже у неё было. И никаких усилий по компенсации она не делает. И это значит, что на ближайшие 30-40 лет у неё нет человеческого потенциала для роста. Потому что через 30-40 лет потенциал – это те, кто сегодня в школах, а у них нет никаких хороших перспектив в России для образования, для повышения квалификации. Значит, на 30–40 лет, где-то до семидесятого, восьмидесятого года в России не будет прироста человеческого капитала, не будет развития науки, не будет развития технологий, не будет инноваций, а через 30-40 лет в России уже очень сильно проявится процесс депопуляции, очень сильного сжатия населения. Плюс Россия потеряет доходы окончательно от нефти и газа. Они будут совсем мизерными, потому что мир уже очень сильно от этого уйдёт. И Россия не сможет найти денег ни на то, чтобы развивать науку, ни на то, чтобы развивать образование, ни на что. То есть это будет страна с убывающий населением, с очень низкой квалификацией, способная на производство только каких-то простейших видов продукции.

Она и сегодня отсталая страна. Я понимаю, что людям кажется, что это не так. Они смотрят, что у них есть какие-то банковские услуги. Они говорят: "Ну, мы же живём в XXI веке". Но вот мы смотрим простую статистику, какие технологии используются в российской промышленности. И вот в российской обрабатывающей промышленности 50 видов работ – это всё ещё ручной труд. Ручной труд, как в XIX веке. И это уже поправить невозможно. То есть практически, когда Россия, может быть, даже захочет выйти из технологического отставания, у неё не будет ни кадров, ни денег.

Поэтому вот я и говорю, что Россия теперь вот из–за этих санкций потеряла последние шансы каким-то образом догнать мир. А без сотрудничества с миром Россия никогда не развивалась. Можно взять всю историю российской экономики и посмотреть, что все скачки, все ускорения, все так называемые догоняющие модернизации России были связаны с сотрудничеством, прежде всего с Европой, в меньшей степени США и никогда с Японией, но всегда с Европой.

И вот эти разрушающие санкции, они загоняют Россию навсегда в глубину отсталости. А отсталость – это всегда бедность. Вот то, что санкции делают. Но моментально они войну не прекращают. Это правда.

Главная проблема, что Россия выпадает из мирового разделения труда. Это научный термин. Людей пугает, скучно как-то: мировое разделение труда. Но его суть состоит в том, что ничего современного в одиночку одна страна сделать не может. Была попытка такое сделать в СССР. СССР была такая некая экспериментальная лаборатория, где пытались сделать замкнутую экономику, всё производящее самостоятельно, от швейных иголок, до космических ракет. Чем это кончилось? На ракеты ещё деньги как-то набрались, а на жизнь населения нет. Да, население жило очень бедно, отстало. И только когда началось формирование рыночной экономики, вдруг россияне увидели свет, магазины полные, красивые товары, возможность жить по-человечески. А до этого, в общем, жизнь населения была довольно тоскливой, убогой, с очень узким ассортиментом низкокачественных товаров.

И это характеристика замкнутой экономики. Она не в состоянии ничего сделать. Сегодня ведут эти жуткие крики, что в России умирает авиация гражданская. И это правда. Но сейчас начиналось и окончательное умирание региональной авиации в России. В Сибири уже нет самолётов, чтобы возить людей на вахты в нефтяные районы. Железнодорожных путей там нет. Дороги паршивые, по рекам не доберёшься. Всегда вахтовиков возили самолётами. Самолёты кончились. Это были Аны, старинные Аны. Они кончились, они вылетали весь ресурс, в них сажать людей уже страшно. Упадут. А других нет. Россия уже не может произвести. Почему? Потому что, ну, чтобы сделать самолёт, нужно делать не только корпус, нужно хорошее производство двигателей. Россия в одиночку сделать двигатели не может. Мне нужна хорошая авиационная электроника, так называемая авионика. В России с электроникой плохо. Во всём мире есть кооперация. Кто-то делает двигатели, кто-то делает электронику, кто-то делает фюзеляжи, кто-то делает дизайн и производит красивые кресла. Потом всё собирается, и получается Боинг, Эйрбас, а в одиночку не получается. Вот Россию выбросили из этой системы. Она и сама хотела выйти. У неё была такая красивая мечта, что она проведёт импортозамещение. Из этого ничего не вышло. Уже это окончательно ясно, что импортзамещение не получилось. Но идёт деградация.

Она пойдёт теперь повторяю «навсегда», потому что переломить деградацию не удастся. Поэтому, когда выяснилось, что Россия попала в долгосрочную войну, она побежала по миру с криками: "Дайте хоть что-то". И Северная Корея начала зарабатывать на Российской Федерации. Это потрясающая история. Но это вот про то, что Россия уже не очень сильна, как она казалась самой себе. Она уже очень отстала....