Юваль Ной Харари - Вызовы 21-го века [Берлин - Июль 2018] ||||||Berlin| Yuval Noah Harari - Herausforderungen des 21. Jahrhunderts [Berlin - Juli 2018] Yuval Noah Harari - Challenges of the 21st century [Berlin - July 2018] Yuval Noah Harari - Les défis du 21e siècle [Berlin - juillet 2018] Yuval Noah Harari - Desafios do século XXI [Berlim - julho de 2018]

Всем привет.

В прошлом, 20-м, столетии |||century In the past, 20th century

человечество сумело достигнуть невозможного |managed to|| humanity has achieved the impossible

и преодолеть and overcome

голод, эпидемии и войну.

Сейчас,

впервые за всю историю, от голода for the first time in history, from hunger

умирает меньше людей, чем fewer people die than

от ожирения. of obesity|obesity from obesity.

Болезни

уносят меньше жизней , чем старость. claim fewer lives than old age.

Насильственной смертью Violent death

умирают реже, чем die less often than

от несчастных случаев. from accidents.

Нужно помнить об этих

удивительных достижениях, встречаясь лицом |achievements|face to face| amazing achievements, meeting face

к лицу с тяжелыми испытаниями |||heavy| to face the ordeal

21-го столетия.

Этот век будет полон This age will be full

новых вызовов, и даже более суровых, |challenges||||harsh new challenges, and even more severe ones,

чем все те, с которыми мы than all those with whom we

когда-либо сталкивались - ||encountered (1)

начиная от климатических ||climatic starting from climatic

изменений и

заканчивая расцветом революционных |blossom| ending with the rise of revolutionary

технологий вроде искусственного интеллекта.

В нашем разговоре я

хотел бы сосредоточиться на, пожалуй, самой I would like to focus on perhaps the most

глобальной из проблем, global||

настоящем вызове |call real challenge

человечеству. humanity

В грядущие десятилетия, |upcoming| In the coming decades,

одновременный прорыв в simultaneous breakthrough in|| simultaneous breakthrough

био- и информационных технологиях, ||information|technologies

а точнее, слияние этих двух сфер, ||merger||| more precisely, the fusion of these two spheres,

превратится в ошеломительное ||stunning transformation turn into stunning

научное цунами, которое, scientific tsunami|| scientific tsunami, which,

скорее всего, изменит наши likely to change our

представления о

человечестве и пошатнет гуманистический humanity||shake undermine|humanistic humanity and shake the humanistic

фундамент современной

цивилизации.

Потому что когда мы встречаемся

с крупным вызовом, ||challenge with a big challenge

таким как ядерная война, изменение климата such as nuclear war, climate change

или искусственный интеллект, or artificial intelligence

мы нуждаемся |need

в неких этических опорах. |certain ethical foundations||principles

На протяжении веков

нашей самой мощной из таких опор ||||such supports|supports

был гуманизм. |humanism

Но в 21 веке

он может утратить свою ||lose it| he may lose his

актуальность. relevance

В целом, что такое гуманизм?

Коротко говоря, это идея

или

вера в то , что

человеческие чувства являются главным

источником власти. source of power.

Когда мы сталкиваемся When we collide

с серьезными вопросами или дилеммами в личной |serious issues|||dilemmas||

или

общественной жизни, public life|

гуманизм предполагает, что чувства и |suggests that|||

свободная воля людей даст

на них

ответ. answer.

Гуманизм учит нас прислушиваться |||listen to

к себе,

идти за своим сердцем, не предавать |||heart||betray follow your heart, don't betray

себя, и поскольку никто

не может can not

понять мои ощущения и выбор

лучше, чем я сам, никто не может иметь better than myself, no one can have

абсолютной власти надо absolute power

мной и моей жизнью. me and my life.

Это основная идея гуманизма. |||humanism This is the basic idea of humanism.

Это звучит немного расплывчато This sounds a little vague

абстрактно, поэтому я приведу несколько

примеров практического |practical examples

применения гуманизма.

Я уверен, что когда мы говорим I'm sure when we talk

настолько важных вопросах и особенно such important issues and especially

об этических проблемах,

ясность приобретает becomes clear

огромное значение.

Без неё Without her

будет довольно трудно понять, о

чем мы собственно разговариваем.

Так что же представляет

собой гуманизм на практике?

Давайте рассмотрим несколько

разных областей,

в первую очередь политику.

Что такое гуманистическая ||humanistic

политика?

Она считает, что избирателю |||voter

виднее. more visible more visible.

И все правительства должны служить And all governments must serve

избирателю.

Если вы сталкиваетесь с ||encounter|

крупной политической проблемой, нужно лишь major||||

спросить избирателей, что |voters|

они думают о ней. they think about her.

Их чувства – это главный Their feelings are the main

рычаг политического управления. ||management lever of political control.

Ведь

на всевозможных референдумах и выборах |various|||

людей не спрашивают, что

они думают о том или ином явлении, |||||certain|phenomenon

их спрашивают об их чувствах.

Если бы выборы опирались |||were based If elections were based

на

здравый рассудок , никто не sound mind|reason|| common sense, no one

предоставлял бы всем равных would give everyone equal

избирательных прав, electoral|

ведь разные люди обладают совершенно because different people have completely

разными умственными способностями. |mental| different mental abilities.

Но

считается, что в чувствах все равны. It is believed that everyone is equal in feelings.

Именно

поэтому, когда Великобритания, например,

должна была решить, покинуть had to decide to leave

ли ей Евросоюз, ||European Union whether to her the European Union,

никто не обратился за решением ||turned to|| no one asked for a solution

к Королеве, или Архиепископу |queen||archbishop

Кентерберийскому, никто даже не Canterbury|||

спросил совета у всех asked everyone for advice

ученых профессоров Оксфорда |professors|Oxford

Кембриджа.

Нет!

За решением обратились к абсолютно ||turned to|| For a solution, they turned to absolutely

каждому британцу, спросив : |Briton| to every Briton by asking:

«Что Вы чувствуете по этому поводу?» "What do you feel about this?"

И когда граждане сказали, And when the citizens said

что они бы хотели

покинуть ЕС, не существовало высшей власти, leave the EU, there was no supreme power,

которая подвергла бы сомнениям |subjected||doubts which would question

их чувства.

Такова гуманистическая |humanistic

политика, в которой

избиратель знает лучше. voter||

А Что такое гуманистическая

экономика?

Она утверждает, что клиент

всегда прав и любой бизнес служит ему. always right and any business serves him.

Ведь как мы узнаем, плох After all, how do we know, bad

или хорош тот или

иной продукт?

Это зависит от покупателя.

05:20 Это очень просто – хороший

продукт хорошо

продается, а плохой никто

не берет.

Это элементарно.

Если Вы производите что-то ||produce||

и уверены, что это лучшая вещь на свете, ||||best||in the| and we are sure that this is the best thing in the world,

но её совершенно не покупают, but they don't buy it at all

значит, вещь плохая.

Вы не сможете

спорить с покупателями, утверждая , ||customers|arguing that argue with buyers, claiming

что их выбор ужасен. that their choices are terrible.

По крайней мере, если

Вы сторонник гуманистической экономики. ||humanistic|

Теперь обратимся к гуманизму |turn to||humanism

в искусстве

и эстетике. |aesthetic

Так же, как гуманистическая Just like the humanist

экономика верила |believed economy believed

в безусловную правоту клиента, |unquestionable|rightness| in the unconditional correctness of the client,

гуманистическая эстетика

верит, что красота в

глазах смотрящего. |observer's eyes the eyes of the beholder.

В истории было много попыток

объективно

определить, что же собой представляют

искусство и красота.

Но затем появился гуманизм

заявил, что никаких объективных |||objective evidence

критериев не существует, а есть лишь

субъективный личный опыт

и чувства.

В 1917, столетие назад, |century|

Марсель Дюшан взял обыкновенный Marseille(1)|||ordinary Marcel Duchamp took an ordinary

дешевый писсуар, который |urinal|

можно увидеть can see

где угодно, и провозгласил |||proclaimed anywhere and proclaimed

его великим произведением искусства . ||work of art| his great work of art.

Он поместил его на выставке, |placed it||| He put it on display

и с

тех самых пор вокруг него бушуют those|||||rage ever since around him rage

бурные споры, можно ли считать heated|||| heated debate, is it possible to consider

это

искусством. artistry

Красиво ли это? Is it beautiful?

Кому решать? Who decides?

Если Вы гуманист, то в конце-концов ||humanist|||| If you are a humanist, then in the end

придете к выводу, что это come to the conclusion that this

зависит от того, depends on

что чувствуют люди.

Искусство – это всё, что

люди считают искусством.

А красота -

всё, что для них красиво.

Если кто-то думает, что

это прекрасное

произведение искусства и готов заплатить a work of art and willing to pay

за него миллионы долларов, millions of dollars for it

разве кто-либо другой может can anyone else

сказать ему:

“Никакое это не искусство, это

вообще не красиво”?

Это - гуманистическая

эстетика.

Но что же такое гуманистическая But what is humanistic

этика?

Она утверждает, что, если тебе от

чего-то хорошо- делай это.

Опять-таки, в истории было Again, history has

много попыток

определить абсолютную объективную

мораль, которая была бы

независима independent independent

от верований, ощущений и опыта людей, |beliefs||||

и основывалась бы на божественном |was based|||divine and based on the divine

откровении. revelation revelation.

В Средние Века гомосексуальность |||homosexuality In the Middle Ages, homosexuality

считалась страшным грехом, потому что |terrible|sin|| considered a terrible sin, because

так утверждала Библия, |asserted| so the Bible said

Церковь и Church and

Папа Римский. Pope| Pope.

Однако

затем появился гуманизм и объявил,

что ему нет дела до всего, that he doesn't care about everything

что твердит |keeps insisting

Церковь, Папа или Библия.

Он заботится только о чувствах,

и это

определяющий фундамент морали. defining||

Если двое мужчин любят

друг друга и

их любовь никому не вредит, почему кто-то their love doesn't hurt anyone, why would someone

считает, что это плохо и

от лукавого? |evil one

Конечно, иногда дилеммы ||dilemmas

возникают

даже в гуманистической этике, вызванные, ||||caused by

например, вопросом, что

делать, если то,

что радует меня, вредит другому? What pleases me, harms another?

Скажем, я украл чью-то машину. Let's say I stole someone's car.

Я чувствую

себя превосходно, но владельцу очень плохо. |||owner||

В таком случае мы не обращаемся

к высшей абсолютной морали, |||morality to the highest absolute morality,

мы просто сопоставляем ||compare we just match

наши чувства.

Таким образом решаются ||are resolved

моральные

прения в гуманистическом обществе - debates||humanistic society|

мы соизмеряем чувства. |compare| we measure feelings.

Обычно мы заключаем, что ||conclude|

кража или theft or|

убийство – это неправильно.

Не потому что так говорится Not because it says so

в какой-то книге,

а потому что они причиняют людям вред. ||||cause harm|| but because they hurt people.

Они заставляют людей чувствовать They make people feel

себя

несчастными, и поэтому они неправильны. ||||incorrect

Заканчивая наш краткий

обзор гуманизма, humanism overview,

поговорим о гуманистическом образовании. |||education Let's talk about humanistic education.

Оно учит людей

мыслить самостоятельно.

В прошлые эпохи,

например, в Средние Века, for example, in the Middle Ages,

главной целью образования

было

научить людей тому, что говорится в мудрых книгах teach people what the wise books say

и что утверждали ученые ||asserted|

мужи прошлого. men of the past|

Научить тому, что заявляется |||is claimed

в Библии или

о чем говорил Аристотель, ведь это были

самые надежные источники

информации. Но когда

появился гуманизм, цель образования изменилась. humanism appeared, the purpose of education changed.

Он утверждал, что нашим |claimed||

главным авторитетом должны быть мы сами. |authority|||| we ourselves should be the main authority.

Таким образом изменилась главная конечная цель образования Thus, the main ultimate goal of education has changed

- по крайней мере, в гуманистических обществах. ||||humanistic|societies

И если Вы

обратитесь к учителю – неважно, детсада или ||||kindergarten| contact the teacher - it does not matter, kindergarten or

университета – и спросите,

чему он пытается what is he trying

научить, он ответит, что преподает историю, ||||teaches| teach, he will answer that he teaches history,

химию или физику, но прежде ||physics|but first| chemistry or physics, but before

всего он учит all he teaches

своих студентов думать самостоятельно, their students to think for themselves,

ведь именно это - главный because this is the main

источник авторитета для нас. |authority source||

Вот что такое гуманизм,

который главенствовал |dominated

в нашем мире на протяжении длительного |||||long period

времени.

В начале 21 века

гуманизм столкнулся с огромными проблемами. humanism is faced with enormous challenges.

Их источником стали не

диктаторы или dictators(1) or|

демагоги, а лаборатории. demagogues||

Опять таки, гуманизм говорит, что нами правят чувства, ||||||rule| Again, humanism says that we are ruled by feelings,

которые отражают нашу свободную волю, и никто, кроме нас ||||will||||

самих, не способен действительно их понять. themselves, unable to really understand them.

Но наука всё более и более But science is more and more

настойчиво твердит нам,

что это лишь

миф, абсолютно неправдивый. ||false

Что нет никакой свободы воли,

это просто выдумка. ||fabrication

И что чувства не отражают её, And that feelings don't reflect her

а являются лишь биохимическими |||biochemical

алгоритмами. algorithms

И при условии наличия достаточного ||condition of|availability|sufficient And provided there is sufficient

количества данных amount of data

и вычислительной мощности, внешняя система может |computational power|computing power||| and computing power, the external system can

понять меня гораздо лучше, understand me much better

чем я сам себя

понимаю.

Ключевым концептом нашего |concept|

времени, нравится нам это или нет, стала идея

того, что организмы – это ||organisms|

алгоритмы, а значит,

алгоритмы могут взломать организмы, включая ||hack into||

Хомо сапиенс, ведь мы тоже homo|sapiens|||

просто организмы.

Ещё раз для ясности: организмы

– это

алгоритмы, так что алгоритмы могут хакнуть |||||hack algorithms so that algorithms can hack

организмы.

Это ещё сложнее, чем гуманизм,

поэтому давайте попробуем разобраться с

помощью примеров, что имеют using examples that have

в виду ученые,

когда утверждают это.

Во-первых, никакой свободы

воли.

Естественные науки – биология, ||biology

химия,

физика, - понимают мир всё лучше. physics|||| physics - they understand the world better and better.

Пока не в совершенстве, |||perfection

но они уже достаточно хорошо его

изучили и знают, что

во Вселенной существует

лишь два типа

процессов – детерминированные |deterministic

и случайные.

А Случайность - это не свобода, |coincidence|||

и это

совершенно ясно. absolutely clear.

Поэтому мы

не знаем ничего во Вселенной,

что можно было бы охарактеризовать

как свободный процесс.

Свободная воля - так,

как мы её сегодня понимаем, - это as we understand it today, is

пустая концепция , не описывающая |||descriptive

ни одно из реальных явлений. ||||phenomena none of the real things.

У людей есть желания People have desires

и есть воля, но они не свободны ||||||free and there is a will, but they are not free

выбирать их. choose them.

Таким образом,

наши чувства не отражают our feelings don't reflect

наш свободный выбор. our free choice.

И уж совершенно очевидно, And it's quite obvious

что

они не являются некой |||some kind of

духовной способностью, которой spiritual ability|| spiritual ability, which

Господь наделил исключительно The Lord gave exclusively

Хомо сапиенс Homo sapiens

для того, чтобы они наслаждались красотой so that they enjoy the beauty

и были способны на нравственные ||||moral actions

оценки.

Нет уж, все животные и птицы No, all animals and birds

имеют чувства,

которые возникли вследствие естественного that arose as a result of natural

отбора как биохимические selection process||biochemical

алгоритмы для

для принятия решений.

Они основаны не на

интуиции, а на расчете intuition|||calculation

вероятностей. probabilities(1)

Громкие споры вокруг loud||

противостояния сердца и мозга, эмоций и conflict||||| opposition of the heart and brain, emotions and

логики на самом деле просто

беспочвенны. groundless

Эмоции, чувства и ощущения |||sensations

действительности тоже являются расчетом, который reality|||calculation| reality is also a calculation, which

происходит слишком быстро going too fast

для того, чтобы

мы смогли его заметить, всего

за долю секунды, ускользая |||slipping away in a split second, slipping away

от

нашего сознания.

Давайте рассмотрим

конкретный пример.

Бабуин видит банановое baboon||

дерево посреди африканской саванны, |||savanna tree in the middle of the African savannah,

неподалеку от которого

лежит лев.

Бабуину нужно принять решение, baboon|||

такое же, как принимают

сотни других животных hundreds of other animals

каждый день своей жизни. every day of your life.

Стоит ли ему рискнуть своей |||take a risk|

жизнью ради

бананов? banana(s)

Жизнь бабуина зависит |baboon|

от его решения.

Чтобы принять его, обезьяне |||monkey

нужно

просчитать все возможности. calculate||

Какова вероятность того, what is the||

что, не съев бананов, ||eating|

он умрет от голода? |will die||

А насколько вероятно

то, что, попытавшись добыть плоды, он ||trying to|obtain||

окажется жертвой льва?

Чтобы выжить, бабуину необходимо

хорошенько всё просчитать. calculate well.

Для этого животному необходимо ||animal|

множество разнообразных many different

данных, например data|

информация о бананах – сколько ||bananas|

их там,

два или восемь? two or eight?

Они мелкие или крупные? Are they small or large?

Ещё зеленые или уже поспели? ||||ripened Still green or already ripe?

Также нужна информация

о льве - как |lion|

далеко он находится?

Насколько он большой?

Он спит или бодрствует? |||is awake

Выглядит ли лев голодным Does the lion look hungry

ил он уже поел? he||| has he already eaten?

Также бабуину необходимы

данные о

самом себе – насколько он голоден, ||||hungry

как быстро он может бегать,

и так далее.

Так что нужно

собрать всю эту информацию,

проанализировать, взвесить

все возможности и лишь

тогда прийти к

решению. solution(1)

Как это делает бабуин?

Он не достает ручку, калькулятор he||||calculator He's missing a pen, calculator

лист бумаги и не начинает вычисления. |||||calculations sheet of paper and does not start the calculation.

Нет, весь организм обезьяны,

а особенно органы чувств, нервная ||||nervous system

система и мозг – вот

его калькулятор.

В одно мгновение он

схватывает запахи, звуки, картинки, captures|||

ощущения всего тела,

и миллиарды нейронов сразу

же

запускают необходимые процессы, launch necessary processes|| start the necessary processes,

чтобы через долю секунды

получить ответ. get an answer.

Но он не появится в виде But it won't appear as

числа,

он будет чувством, эмоцией.

Страх, прилив мужества, |surge|

нерешительность, indecision indecision,

растерянность. confusion confusion.

Страх и храбрость и есть воплощениями этих вычислений, |||||embodiments||calculations Fear and courage are the embodiments of these calculations,

а вовсе не духовными откровениями. ||||revelations

Они являются биохимическим ||biochemical

расчетом.

И так же, как это верно относительно And just as it is true of

бабуина, размышляющего о бананах, |thinking||bananas

это верно и о британцах, ||||British people

принимающих receiving host

решение о Брексите, и о decision (1)||Brexit decision||

немцах, думающих об Germans|thinking about|

иммиграционной политике. immigration|

Всё, что на самом деле происходит

- это

биохимический алгоритм, вычисляющий biochemical||calculating

вероятности. probabilities(1)

Никакой свободы воли или

духовных видений. spiritual visions|visions

Гуманизм ошибался в том, |was wrong||

что

чувства отражают свободу выбора. feelings||| feelings reflect freedom of choice.

Тем не менее, До начала

21 века, он был полон

практического смысла.

Хотя в наших чувствах и Although in our feelings and

не было никакой there was no

особенной магии, special magic|

они были лучшим способом they were the best way

принятия решений. decision making.

Ни одна

внешняя система не могла осознать, the external system could not realize

что происходит у меня внутри

и почему

я поступаю именно так.

Ни у кого

не было достаточно биологических данных

и вычислительной мощности,

чтобы

расшифровать то, что происходит decode|||

внутри меня, и почему я думаю

именно так, а не иначе. ||||otherwise

Даже если бы Штази Even if the Stasi

следило за вами круглосуточно 365 watched over|||24/7 followed you around the clock 365

дней в году,

подсматривая и подслушивая sneaking a peek||eavesdropping

все ваши

разговоры, всё равно

в 1960х или 1980х

у него не было достаточно данных о том,

что творится в мозге человека.

Кроме того, у Штази не было

вычислительных мощностей, необходимых для того, computational capacities|capacities|||

чтобы полученная информация |obtained information|

приобрела

какой-то смысл.

Так что они бы не смогли

вас раскусить. |figure out

Но сегодня, слияние информационных

и биотехнологий кардинально |biotechnologies|

меняет дело.

Прогресс в биологии, особенно

в исследованиях мозга,

предоставляет provides

нам научное понимание происходящего, to us|||

а информационная революция,

в частности машинное обучение и ||machine learning||

искусственный интеллект,

поддерживают

его необходимыми вычислительной мощностью. |||computing power

И когда мы соединяем их, когда And when we put them together, when

информационные и биологические

технологии

сливаются, это дает возможность взломать, хакнуть merge||||hack| merge, this makes it possible to hack, hack

человеческий организм.

Сегодня мы много говорим о взломах |||||hacks Today we talk a lot about hacks

компьютеров, смартфонов,

личных аккаунтов и банковских |accounts||bank accounts

счетов. accounts

Но кроме этого, мы входим в

эпоху, когда возможным

становится хакинг |hacking

человека.

И как только это произойдет, And once that happens,

как только человека хакнут и он |||hacked (1)||

перестанет быть непостижим, ||incomprehensible will cease to be incomprehensible,

власть перейдет от его чувств к

компьютерным алгоритмам, computer algorithms|algorithms

которые в свою очередь which in turn

будут

заниматься гуманизмом, выборами, свободным |humanism|elections|

рынком и всем остальным. market||| the market and everything else.

Только всё это не будет иметь Only all this will not have

никакого смысла.

И мы видим это уже

сегодня, это уже начало происходить, например, Today, this has already begun to happen, for example,

в экономике.

Мы выходим из эры We're coming out of an era

«клиент всегда прав» и входим в новую, "the customer is always right" and enter the new,

«алгоритм всегда прав».

Потому что алгоритм может

предсказать и манипулировать

чувствами клиента.

Давайте возьмем

самый простой пример из издательского ||||publishing

бизнеса – как я, потребитель

и клиент этой

индустрии, выбираю книгу.

Как я решаю, какую книгу

стоит купить?

В прошлом, в эру гуманизма, |||era|

мы в основном полагались

на свои чувства to your feelings

и литературный вкус.

Но сейчас

мы больше доверяем алгоритмам, которые ||trust||

знают нас даже лучше, чем

мы сами себя знаем.

Когда я захожу на Амазон, ||||Amazon

первое, что

я вижу – это выскакивающий алгоритм, |||pop-up|

который говорит мне: «А

я тебя знаю!

Я изучил твои предпочтения I studied your preferences

предыдущие заказы.

И основываясь на всем том, |based on||| And based on everything

что я знаю о

тебе и миллионах ||millions

других читателей, |readers

я рекомендую тебе вот эту книгу».

Сейчас алгоритм Амазона

ещё довольно

примитивен и допускает много ошибок, primitive||||

ведь в действительности because in reality

он не так уж he's not so

хорошо меня знает.

Ему просто не хватает

данных.

Но он собирает всё больше новой But he collects more and more new

информации и улучшается ||improves

за счет этого. thereby.

Кроме того, появились новые

способы

сбора данных.

Если вы читаете книгу

на электронном девайсе вроде Амазон Киндл, ||device|||

он может прочесть вас, пока ||read you|| he can read you

вы читаете с него. you read from it.

Впервые в истории, книги

могут

читать людей лучше, чем люди

читают книги, по крайней

мере, гораздо

более внимательно.

Если вы читаете на Киндл,

он знает,

какие страницы вы пробегаете быстро, |||skim through| what pages do you skim quickly,

какие медленно, и когда

вы останавливаетесь. |stop

Это дает алгоритму гораздо ||algorithm(1)|

лучшее

представление о том, что вам нравится, idea of|||||

а что нет.

Конечно,

он все ещё очень примитивный.

Но следующий

этап его развития, технически возможный уже |||technically feasible|technically feasible| stage of its development, technically possible already

сейчас, - это подключение ||connection

к программе

распознавания лица. recognition of faces|

Тогда алгоритм узнает,

что заставляет вас смеяться или

плакать, над чем вы скучаете, ||||miss cry over what you miss,

что вас злит. ||annoys you

Конечным этапом будет final stage|stage|

подсоединение Киндл к биометрическим connection to|||biometric systems

сенсорам внутри вашего тела. sensors in|||

Тогда

алгоритм будет точно знать, какие

эмоции у вас вызывает каждое

новое

предложение.

Вы читаете, а он

слушает ваше сердцебиение,

измеряет давление и уровень адреналина в measures||||adrenaline level|

крови, наблюдает за деятельностью

мозга.

Допустим, вы читаете очень Let's say you read a lot

длинную книгу long|

вроде «Войны и мира» Толстого.

К тому

моменту, когда вы закончите «Войну и мир», |||finish it|||

вы забудете большую часть |forget|| you will forget most

прочитанного.

Но алгоритм никогда ничего

не забывает.

К тому времени, когда вы

закончите чтение,

он будет точно знать,

кто вы такой, ваш тип личности,

и на каких ваших чувствах можно

сыграть.

Используя

эти данные, он может не только

более точно и эффективно

выбирать для вас

книги, но и подсказать вам,

где стоит учиться и жить и на ком where to study and live and on whom

стоит жениться. worth getting married.

Нужно

понимать, что люди в целом склонны

полагаться на любой механизм, rely on any mechanism

дающий им правильные ответы. giving(1)|||

Мы будем

надеяться на алгоритм, пока окончательно не утратим ||||||lose hope hope for the algorithm until we finally lose

способности самостоятельно

принимать решения.

И это уже начинает происходить - например, с навигацией, |||||||navigation

когда мы всякий раз используем |we|every time||

Гугл Карты, чтобы добраться до

автобусной или железнодорожной

станции.

Но если какое-то время

полагаться только на Гугл,

теряешь способность самостоятельной lose ability||independent action

навигации.

Но мы рискуем утратить еще более важное But we risk losing an even more important

человеческое умение – способность

искать информацию, ответы

на все беспокоящие вопросы. ||worrying|

Всё больше людей

полагаются на один-единственный rely on||| rely on the one and only

способ

поиска данных - Гугл. data search - google.

За очень короткий период

времени, каких-то

15-20 лет, эта способность перешла от

человеческого мозга к алгоритму,

и нет причин полагать, что

точно так же не произойдет и с выбором места учебы,

партнера для отношений или женитьбы, если алгоритму ||||marriage|| partner for relationships or marriage, if the algorithm

будет это под силу. it will work.

А если алгоритм сможет взломать человека, And if the algorithm can hack a person,

он будет не только решать

за него,

он заменит человека полностью. he will replace the person completely.

Так что

в последующие годы, параллельные революции

в информационных и биотехнологиях, |||biotechnology

скорее

всего, кардинально изменят рынок труда и ||transform|||

создадут огромный новый

класс -

прослойку людей, бесполезных не с точки layer of people||useless people|||

зрения их матерей или детей, ||mothers||

в этом смысле никто не бывает

ненужным, unnecessary

но с точки зрения

экономической системы.

Не будет ничего, что они

смогут делать

лучше, чем алгоритм,

компьютер или робот.

Я подчеркиваю,

что это результат не только подъема

в разработках искусственного |developments of|

интеллекта.

Сам по себе ИИ не может

сделать ничего ужасного. ||terrible do nothing terrible.

Всё дело в слиянии искусственного |||merger| It's all about the fusion of the artificial

интеллекта

с биотехнологиями. |biotechnologies

Потому что для выполнения

множества работ необходима

своеобразная расшифровка человеческих unique interpretation|decoding|

чувств и эмоций.

Компьютеры и роботы

никогда не заменят людей-докторов, ||replace||doctors

учителей, юристов и даже

водителей, пока не научатся drivers|||learn

правильно распознавать человеческие эмоции. |recognize||

И многие люди тешат себя |||console themselves|

иллюзией, что компьютеры illusion that||

никогда не смогут этого

сделать.

Они хороши в расчетах, |||calculations

но не способны понять эмоции

чувства, и поэтому им не заменить

людей-докторов и учителей.

В этом есть смысл только

если вы

верите, что чувства - это

мистический сверхъестественный феномен, mystical|supernatural|

посланный людям с небес, sent to people|||

который работает

каким-то непостижимым образом.

Но если вы согласны, что

чувства – это лишь

биохимический код, который по сути является

простым вычислением, нет |calculation|

причины

считать, что искусственный интеллект

не обойдет людей даже в |will avoid|||

эмоциональной сфере. emotional sphere|

Конечно, у него не будет

собственных чувств или

сознания

как такового, но он будет способен as such, but he will be able

распознать, что человек recognize that person||

боится

или злится, и сделает это более

точно, чем любой врач, учитель

или юрист. |lawyer

Но точно так же, как But just like алгоритм может заменить

обыкновенного покупателя

или рабочего

в экономике, он может

занять место избирателя occupy||voter's seat take the voter's seat

в политике.

Демократия, как мы

уже говорили, зиждется не на ||is based||

человеческом рацио, а на human ration|reasoning||

наших

чувствах.

Во время выборов избирателей

спрашивают не о том, что они думают, а что они

испытывают по тому или experience for this or

иному поводу. other reason|

Выходит, если алгоритмы

смогут взламывать людей, |hack into|

манипулировать ими и

предсказывать наши чувства, демократия

быстро превратится в эмоциональное

шоу.

Политики – по крайней мере,

некоторые из них, -

похожи на музыкантов, у которых вместо инструментов

– наши эмоции.

Политик провозглашает

речь и

поднимает ею волну страха по всей

стране.

Политик пишет твит, и все вокруг ||tweet|||

взрываются от ненависти. explode||

И эти

страх и гнев являются топливом для ||||fuel for|

политических систем.

Представьте, что

произойдет, когда у этих музыкантов

появятся более утонченные ||refined

инструменты?

Цифровая диктатура – вот, digital||

что нас ждет в

таком случае.

В 20м веке демократия

победила диктатуру, потому defeated|dictatorship|

что лучше справлялась с обработкой данных и ||managed better||processing of data||

принятием решений. decision-making|

Мы привыкли думать

о конфликте демократии и

диктатуры как о противостоянии |||confrontation

разных этических систем.

Но он являлся также

войной разных методов обработки

информации.

Демократия - это

система распределенной обработки данных. |distributed||

Она распределяет информацию |distributes|

и возможность принимать

решения

между многими институциями, ||institutions

организациями и отдельными личностями. ||individuals|individuals

Диктатура, в свою очередь, |in turn||

- это централизованная система |centralized|

обработки данных.

Она собирает всю информацию

возможности в одном месте.

Учитывая технологии 20-го considering the||

века,

концентрировать слишком много concentrate too much||

данных и мощностей в одном ||capacities||

месте

было неразумно. |unreasonable

Это просто не сработало. |||worked out

Никто не был в силах обрабатывать No one was able to handle

их достаточно быстро для

того, чтобы принимать

верные решения, и это одна из основных

причин, по которым, к примеру,

Западный блок одолел коммунистов ||defeated|

во время Холодной войны.

Есть одна

история о том, как в последние дни режима,

в конце 1980х, советский

чиновник прибыл в Лондон,

пытаясь

понять, как работает столица Тетчер,

как функционирует свободное

общество

и независимый рынок. |independent|

Принимавшие его receivers of him|

британцы устроили ему тур по

Лондону, показали London|

банки, биржи, собрали |exchanges|

всех профессоров экономики

и прочих корифеев. ||luminaries

Но через несколько часов

советский чиновник воскликнул: Soviet official exclaimed:

«Подождите-ка! “Wait a minute!

Есть кое-что, чего я никак не могу понять. There is something that I just can't understand.

В Москве наши лучшие умы In Moscow, our best minds

пытаются trying

решить проблемы поставки продовольствия.

И всё равно в каждую булочную |||||bakery And still in every bakery

стоит просто

гигантская очередь за хлебом. giant line for bread.

А в Лондоне, огромном городе,

мы за весь наш многочасовой тур ||||long hours|

не увидели ни единой такой очереди.

Отмените все мои cancel all my|| Cancel all mine

назначенные встречи, я хочу увидеть scheduled meetings||||

лишь человека, ответственного

за поставку хлеба в Лондон! |delivery|||

Я хочу

узнать его тайну».

Но в британском

правительстве все были government|| the government were all

крайне озадачены такой просьбой. |puzzled|| extremely perplexed by this request.

Они вынуждены были сказать, They were forced to say

что вести его не к кому. that there is no one to lead him to.

Никто не отвечает за поставки. Nobody is responsible for deliveries.

Вот и весь секрет свободного

общества и рынка.

Никто ни за что не отвечает, Nobody is responsible for anything

вы лишь разрешаете информации свободно циркулировать ||allow|||circulate

между разными частями системы

и позволяете

людям и организациям ||organizations

принимать собственные решения.

Но далеко не во всех случаях But not in all cases

централизованная обработка данных centralized data processing

менее эффективна, чем |effective| less efficient than

распределенная. distributed

Да, так было в

конце 20го века.

Но сегодня, But today,

революция информационных технологий,

машинное обучение и искусственный

интеллект

могут качнуть весы в другую сторону. |tilt|||| can swing the scales in the other direction.

Они могут сделать возможной

централизованную обработку centralized|processing

невероятных

объемов информации.

И фактически,

чем больше информации будет собираться

в базе данных, тем эффективнее in the database, the more efficient

будет процесс её обработки.

В таком случае,

основной недостаток авторитарных ||authoritarian systems

режимов 20-го века – их попытка regimes of the 20th century||||

сконцентрировать всю информацию в одном concentrate all||||

месте – может стать их

главным преимуществом сейчас. |advantage| main advantage now.

И результатом этого

может стать появление

совершенно новой формы правления, completely new form of government

отличной от диктатур 20-го ||dictatorships| different from the dictatorships of the 20th

века, - новой

информационной диктатуры. informational|

Ведь если

алгоритмы могут взломать организмы, algorithms|||

они могут также начать

создавать и

переделывать новые виды организмов,

новые живые существа.

Очень похоже на то,

что основным товаром 21-го века

будет не текстиль, ||textile

не транспорт и оружие,

а тела, умы и сознания. but bodies, minds and consciousnesses.

Мы уже

учимся, как создавать их

и управлять ими.

Мы учимся

разрабатывать новые организмы, в каком-то смысле

ускоряя естественный отбор accelerating||selection

и эволюцию. |evolution

Мы учимся создавать киборгов, |||cyborgs

которые будут совмещать

в себе органические ||organic elements

и неорганические части. |inorganic parts|

Наконец,

мы даже учимся тому, как сотворить |||||create we even learn how to create

абсолютно неорганических |inorganic

существ.

И если нам это удастся,

это будет

не просто основным прорывом в |||breakthrough| not just a major breakthrough in

истории с того момента,

как она началась

сто тысяч лет назад, это будет главнейшей ||||||most important

революцией в биологии со revolution in biology|||

времен

зарождения жизни около 4 миллиардов лет origins of|||| the origin of life about 4 billion years

назад.

Четыре миллиарда лет не происходило

ничего фундаментально |fundamentally important

меняющего changing

правила игры.

Произошло много вещей -

появились динозавры, потом они вымерли, dinosaurs appeared, then they became extinct,

потом появились млекопитающие ||mammals

всё такое. all that.

Но основные правила не менялись.

Все существа на протяжении All creatures throughout

четырех миллиардов лет

– амебы, динозавры, помидоры amoebas||

или люди – подчинялись законам ||obeyed|

естественного отбора, как |selection process|

и законам органической ||organic laws

биохимии, biochemistry

они все состояли из органических элементов. ||consisted of||organic|

Но в 21-м веке

естественный отбор может

уступить место give up|

разумному замыслу, проектированию как основной reasonable plan||design|| intelligent design, design as the main

движущей силе эволюции. driving force|| driving force of evolution.

Не разумному замыслу, принадлежащему |||belonging to Not intelligent design, belonging

Господу в небе, а нашему собственному. Lord|||||own to the Lord in heaven, but to our own.

Более того, проектирование наших ||designing| Moreover, the design of our

облаков – Гугл и Майкрософт |||Microsoft

облаков -

будет основным рычагом ||lever

прогресса эволюции.

Проторчав четыре миллиарда staying there||

лет

в маленькой лужице органической ||puddle|

биохимии, жизнь обретет ||will gain

бесконечное количество неорганических форм.

Но кто будет решать, что делать

с этой божественной созидающей |||creative force

силой?

Может, избиратели или покупатели?

А может, мы просто прислушаемся Or maybe we just listen

к себе и последуем за своим сердцем? |||follow|||

Но как прислушаться, если

твоим сердцем манипулирует

измеряющий его алгоритм? measuring||

Это большой вопрос

нашего времени.

Спасибо.