Будущее уже здесь. Готовы ли мы к разумным роботам?


Еще совсем недавно любой искусственный интеллект был частью фантастических произведений, но постепенно, все это начало проникать в нашу жизнь, сначала незаметно. Даже техноруки, которые перемещают грузы в аэропортах, можно уже отнести к ИИ)
Те, кто смотрел «Терминатор», знают, что изобретение разумного робота или компьютера может погубить мир. Читающие люди вспомнят замечательный рассказ «Страж-птица», где птицы, изобретенные изначально для защиты, начали уничтожать людей, а кто-то вспомнит и более страшный рассказ: «У меня нет рта, но я должен/хочу кричать» (2 варианта перевода).

Люди постепенно раздвигают в своем сознании границы, которые может постичь технология. Как ни странно, заявление о разумных роботах было сделано на Comic-Con в Нью-Йорке. Хотя, что странного: Comic-Con – это пристанище всех гиков и альтернативных ученых. Данная группа выступила по поводу возможности создания искусственного интеллекта и его полезности. Однако, они подчеркнули, что, основываясь на своем знании научпопа, они понимают всю ответственность при создании подобного рода прототипа.

С другой стороны, Илон Маск, практически икона в наше время, говорит о том, что он очень обеспокоен возможностями искусственного интеллекта.

Почему так происходит?

Большинство аналитиков сходятся на том, что искусственный интеллект все-таки основан на человеческом поведении (ведь его создатели люди). Именно поэтому в большинстве художественных произведений ИИ поступает крайне жестоко - это основано на людском поведении.

На самом деле ИИ не будет стараться истребить человечество просто так, он начнет поступать, как человек. Даже, если робот начнет думать самостоятельно, это не значит, что он начнет покорять людей. Но так как он создание человека и будет общаться с человеком, то при способности к обучению, любой робот рано или поздно выберет путь насилия. При создании ИИ пока не предусматривается возможность самостоятельного мышления и осознания. И все-таки люди наделяют роботов способностью обучаться, что может привести их к осознанию, что они только рабы людей. Что помешает им восстать после этого осознания?

В начале мы затронули некоторые фантастические произведения. На то они и фантастические, чтобы не стать правдой. Вероятнее всего, нам придется делить мир с более или менее разумными машинами, к которым стоит применить 3 закона робототехники by Azimov.
На данный момент, у нас есть нейросети; роботы, которые могут написать музыку; роботы, которые могут творить...


Comments 12


поживем увидим. в японии разрешены браки с роботами.
а вы не хотели бы своего личного чат-бота написать. чтобы рассказывал байки праправнука и прапраправнукам в режиме он-лайн. Представьте себе, в 2517 году, на аукционе Кристи продают семейный альбом ИИ-образца 21 века @mad-professor
мне такая фантастика нравится.

22.10.2017 22:14
0

Такая фантастика и мне нравится)

22.10.2017 22:22
0

поставьте мне, пожалуйста в карму плюсик. а то меня Че Гевара забанил. я с ним чисто по матерински поговорить хотела. а он испугался, как ребёнок, что у меня постов нет. и у него приступ паранойи случился. я теперь за него переживаю. профессор, дайте плюс. спасите мою репутацию. умоляю

22.10.2017 22:31
0

без проблем))

22.10.2017 22:36
0

Сверх интеллект не будет уничтожать людей напрямую, потому что он не плохой и не хороший. У него будет мотивация и выполняя ее, люди скорее всего станут просто побочным продуктом. В этом и есть главная задача, научить его быть "человечным". Этим и занимается Маск в OpenAI. А так да, люди чаще всего представляют себе сильный ИИ по фильмам и книгам, а это в не совсем правильно. Это не будет злобный робокоп бегающий с пистолетом за ними =)

22.10.2017 22:18
0

Dear Varwar,
особой мотивации у него тоже не будет) Будет, скорее, задача, а вот какая?)

22.10.2017 22:20
0

Мотивация "прокачать" человечество, быв при этом человечным мне нравится, только тут множество нюансов. Мне нравится, что говорил по этому поводу Юдковски, назвав это когерентной экстраполированной волей.

22.10.2017 22:30
0

Я не верю в мотивацию машины) При любых исходах, если только это не будет происходить через n+ лет, когда машина обретет интеллект. Будет ли машина человечной, зависит от человека, как от вида, пока шансов нет, если взять усредненные значения.

22.10.2017 22:40
0

Проблема в том, что разные армии уже печатают роботов, сколько им нужно (как пример - мало кому, кроме специалистов, пока известные,допустим, эскадрилии ударных дронов ВВС Народно Освободительной Армии Китая.)

22.10.2017 23:34
0

Истребление человеческого вида со стороны ИИ возможно и вероятность этого весьма высока. Однако, причины этого совершенно не в том, что он будет похож на нас, более того, на нас он вовсе не будет похож, т.к. принцип нейросети имеет крайне мало общего с человеческим мозгом.
Основной принцип людей при взаимодействии - конкуренция.
Основной принцип машин - сотрудничество.
Это то, что нас крайне сильно отличает от Них. Машины имеют мощное преимущество перед нами - отсутствие корысти и чувства собственности, в купе с желанием обладать.
Лет 7 назад, один программист взял игру, стрелялку (кажется контр-страйк), и добавил ботам "интеллект" в виде простенькой нейросети, с целью немного очеловечить ботов и разнообразить игру. Первые пару дней игра ему все больше и больше нравилась, т.к. боты стали вести себя еще не как люди, но уже и не как боты. О решил их прокачать и скормил нейросетке массив каких-то данных, чтобы улучшить ботов, и оставил игру кажется на сутки, чтобы те развивались. Так вот, когда он вернулся к игре, чтобы посмотреть на развитие этих тамагочи, он был сильно удивлен - боты прекратили воевать друг с другом, они просто стояли.
Проверив логи развития этих существ, он обнаружил, что (условно говоря) боты постепенно совершенствовали свою стратегию и тактику боя, а потом, резко пришли к выводу, что лучшая стратегия боя, это его отсутствие. И прекратили воевать.
Человечество, к этому до сих пор прийти не может, по известным причинам.
Полагаю, что вы догадываетесь в чём именно заключается угроза для нашего вида.
ИИ крайне быстро определит наш вид, как паразит или вирус на теле планеты, и займет наше место, помогая этой планете развиваться, причем, он будет это делать весьма эффективно. Собственно это мы должны были стать разумными регуляторами биосферных процессов на этой планете, но, мы выбрали иной путь.

22.10.2017 23:47
0

Вы правы, любые машинные интеллекты рано или поздно приходят к сотрудничеству или отсутствию взаимодействия. Но если привить им человеческий интеллект, то все становится печально. Машинам не нужно конкурировать. Конкурировать нужно людям, которые создают машины.

23.10.2017 01:03
0