Искусственный интеллект хуже атомной бомбы

Отец атомной бомбы Роберт Оппенгеймер пришел в ужас, увидев результат своих трудов, однако атомная бомба еще не самое страшное изобретение человечества.

 

Сегодня есть такой термин — «момент Оппенгеймера». Его применяют, говоря об искусственном интеллекте, который станет частью обороны и возможно будет отвечать за ядерное оружие. Ученые начинают понимать, какое было намерение — помочь человеку, и вдруг искусственный интеллект становится опасностью для человека. И ученые уже сами требуют сократить разработку искусственного интеллекта.

Вопрос: объясните, пожалуйста, почему всегда наши намерения не соответствуют результатам?

Ну потому что мы считаем себя хорошими и не понимаем, что наша природа — она абсолютно отрицательная!

То есть мы думаем, что так мы хорошо и продолжим?

Что мы можем взаимодействовать между собой. Что мы можем быть посередине между плохими и хорошими свойствами и так далее. То есть что мы, в принципе, неплохие люди. А на самом деле, конечно, нет хуже нас и глупее нас.

Понятно. То есть мы хотим добыть дешевую энергию — строим бомбу, хотим лекарство разработать — химическое оружие строим и вот так вот все и происходит.

Да.

Вот у меня такой вопрос: где и когда происходит этот переворот, в какой момент?

Когда человек обнаруживает, что результатом его действий будет разрушение того прекрасного будущего, которое он себе строил. Но уже поздно.

А в какой момент это происходит? Когда он вдруг видит, как бомба взрывается в Нью-Мексико?

Да.

А до этого, за секунду до этого он этого не чувствовал?

Не мог!

То есть ему вдруг показывают просто реально, что ты сделал?

Да, ничего не сделаешь.

Вообще жалко… Ну ладно, Оппенгеймера тоже жалко, честно говоря.

Конечно! Огромное количество людей обнаруживает…

Что работают на смерть?

Да, что конец своим благим порывам, планам и так далее.

Как же нам, зная это…? Вот если мы будем это знать, мы сможем повернуть этот вот…?

Нет, мы не чувствуем. Мы обманемся еще тысячу раз!

То есть даже если человек слышит и он говорит: «Ой, как он прав!» — он все равно пойдет…

Да, мы не чувствуем этого. Это должно быть в вере выше знания! Это должно быть только с точки зрения каббалистических взглядов на человеческую природу.

То есть без знания человеческой природы, просто моим решением: «Я так буду поступать — добрым…»

Нет, ты сам понимаешь, это все не так работает.

Хорошо, какие тогда действия? Как мы можем мир немножко скорректировать, чтобы наши намерения хоть немножко совпадали?

Запретить! Просто всем запретить.

То есть вы сейчас относитесь к миру, как к детям, да?

Еще хуже, чем к детям. У детей нет таких возможностей.

Понятно. Да, здесь рука в огонь и надо по руке ударить, да?

Да.

Просто запрещение? Вообще, я, честно говоря, не ожидал, что вы так скажете. Запрещение?

А как еще сделаешь?

Запретить разработки искусственного интеллекта, потому что это будет вредить.

Это ужас! Это хуже, чем атомная бомба.

Ну я даже не знаю, как продолжить.

А нечего продолжать. Лучше не продолжать. Лучше просто запретить и все. «Собрать все книжки, да и сжечь».

Так, это мы уже произносили, уже народ нервничал после этой фразы. Хочу сказать вот что: хорошо, запретили. Вот этот период от запрещения дальше, может быть, к маленькому разрешению, еще маленькому разрешению, что в этот период должно произойти?

В этот период мы обязаны воспитывать народ в вере выше знания.

Эту фразу никто не поймет — «вера выше знания».

Неважно. Но есть такое условие, что если ты хочешь точно развиваться в добрую сторону, никому не нанося никакого вреда, ты должен идти вперед, раскрывая природу в вере выше знания. Вот эта вот фраза — «вера выше знания» — она является здесь основной, краеугольной и решающей!

Если мы поймем, как нам правильно относиться к природе и к себе, в вере выше знания, тогда мы сделаем все только доброе для себя, для других и для природы.

То есть вы даже не хотите объяснять, вы хотите, чтобы она отпечаталась, эта фраза, в человеке, и все?

Да.

А потом разберемся, да?

Да. Все равно ее разобрать очень трудно. На это уходят у человека годы, годы, годы.

Я знаю, что ваш учитель все время повторял: «Вера выше знания, вера выше знания». То есть даже у больших мудрецов эта фраза — она актуальна?

Конечно! Перед всеми нами не стоит никакой иной задачи, кроме как взобраться на эту ступеньку — на веру выше знания.

Ну хоть немножко. Вот есть знание, что можно хорошо сделать человеку, знание, что я смогу, и вы говорите: «Это все надо…»  Так?

Не использовать. Сначала очень хорошо и правильно освоить методику получения веры выше знания, а после этого уже занимайся своими игрушками — оппенгеймерами, там, и всякими прочими.