Создание искусственного разума приведёт к катастрофе

Некоторые учёные считают, что создание искусственного разума может привести к катастрофе

Обладание искусственным мощным разумом, может дать серьёзные преимущества во многих сферах. В своё время, даже крошечный прирост к способности решать те или иные задачи, сделали из обезьяны человека. Возможно дальнейшее существование всего человечества вскоре будет зависеть не только от решений принимаемых людьми, но и от решений принятых искусственным разумом. Мощный сверхразум должен использоваться для достижения благородных целей, но если эти цели плохо установлены, сверхразум сможет использовать свой интеллект во вред человечеству.

Это, с большой долей вероятности, может привести к катастрофическому концу. Нет никаких оснований считать, что сам искусственный сверхразум сделает что-то для того, чтобы вести себя хорошо и морально. На самом деле уже доказано экспериментально, что определенные типы "Сверхразумных систем" не слушаются нравственных правил, даже если они были установлены изначально.

Еще более тревожным для учёных является то, что в попытке объяснить суть вещей искусственному интеллекту, мы сталкиваемся с глубокими практическими и философскими проблемами. Человеческие ценности являются диффузными, сложными, мы живём согласно выработанными веками ценностным установкам общества и религиозным нормам. И даже если мы вскоре создадим искусственный сверхразум, возможно мы никогда не сможем объяснить ему наши поступки, поскольку они могут быть противоречивы и иногда не поддаваться логике.

Искусственный интеллект, разработанный как копия человеческого, может очень быстро стать пугающе мощным. Причина в том, что искусственный разум будет сильно отличаться от биологического интеллекта: он сможет работать быстрее человеческого мозга, части интеллекта могут быть распределены по нескольким компьютерам, различные версии разума будут обновляется на лету, включенные новые алгоритмы дадут скачок к производительности.

Предположительно "интеллектуальный взрыв" будет возможен лишь в том случае, если искусственный интеллект станет способным самостоятельно улучшать собственное программное обеспечение. Если такой скачок произойдёт, разница в потенциальном уме между искусственным интеллектом и управляющими им людьми станет очень большим. Эта ситуация имеет четкий потенциал для катастрофы, особенно если изначально будут плохо установлены цели.

Неуверенность учёных относительно искусственного супер интеллекта заключается и в том, что мы не знаем, что может произойти при появлении другого разума. Есть серьезные основания полагать, что некоторые технологии могут ускоряться гораздо быстрее, чем с этим может справиться нынешнее общество. Очень трудно рассуждать о будущих технологиях, которых мы пока не имеем, особенно если они умнее, чем мы сами. Хотя вполне возможно, что все риски надуманы и появление искусственного разума приведёт человечество не к глобальной катастрофе, а к быстрому развитию и процветанию.

admin | 21.07.2014 | Комментариев: 0




Написать комментарий

  • Обязательные для заполнения поля помечены знаком *.

Если у Вас возникли проблемы с чтением кода, нажмите на картинку с кодом для нового кода.
 

Робот SmartBird летающий как птица видео Робот SmartBird
SmartBird - сверхлегкая, но мощная модель робота птицы.
Робот SAR-400 видео Робот SAR-400
Российский робот для спасения астронавтов в открытом космосе.
Робот АЛИСА видео Робот АЛИСА
Модель человекоподобного робота "АЛИСА"
Ребенок-робот видео Ребенок робот
Похожий на ребёнка робот с биометрическими органами.
Как анонимно скачивать торренты с помощью прокси
Если для скачивания фильмов или программ вы используете BitTorrent или uTorrent, то вам в обязательном порядке ...
Как проследить за мужем или женой с помощью GPS
Можно ли отследить за передвижениями неверного супруга с помощью обычного мобильного телефона или ...
Как усилить сигнал вашей телевизионной антенны?
Усиление приёмной способности имеющейся у Вас антенны может быть достигнуто различными способами, ...
Что такое iPad и зачем он нужен?
Гуляя по страницам интернета, вы наверняка не раз встречали статьи или новости о iPad. Так что-же такое ...

Copyright © 2012 - 2017 Tesla Tehnika