Наука и техника
Главная » Робототехника » Искусственный интеллект » Создание ИР приведёт к катастрофе

Создание искусственного разума приведёт к катастрофе

Некоторые учёные считают, что создание искусственного разума может привести к катастрофе

Обладание искусственным мощным разумом, может дать серьёзные преимущества во многих сферах. В своё время, даже крошечный прирост к способности решать те или иные задачи, сделали из обезьяны человека. Возможно дальнейшее существование всего человечества вскоре будет зависеть не только от решений принимаемых людьми, но и от решений принятых искусственным разумом. Мощный сверхразум должен использоваться для достижения благородных целей, но если эти цели плохо установлены, сверхразум сможет использовать свой интеллект во вред человечеству.

Это, с большой долей вероятности, может привести к катастрофическому концу. Нет никаких оснований считать, что сам искусственный сверхразум сделает что-то для того, чтобы вести себя хорошо и морально. На самом деле уже доказано экспериментально, что определенные типы "Сверхразумных систем" не слушаются нравственных правил, даже если они были установлены изначально.

Еще более тревожным для учёных является то, что в попытке объяснить суть вещей искусственному интеллекту, мы сталкиваемся с глубокими практическими и философскими проблемами. Человеческие ценности являются диффузными, сложными, мы живём согласно выработанными веками ценностным установкам общества и религиозным нормам. И даже если мы вскоре создадим искусственный сверхразум, возможно мы никогда не сможем объяснить ему наши поступки, поскольку они могут быть противоречивы и иногда не поддаваться логике.

Искусственный интеллект, разработанный как копия человеческого, может очень быстро стать пугающе мощным. Причина в том, что искусственный разум будет сильно отличаться от биологического интеллекта: он сможет работать быстрее человеческого мозга, части интеллекта могут быть распределены по нескольким компьютерам, различные версии разума будут обновляется на лету, включенные новые алгоритмы дадут скачок к производительности.

Предположительно "интеллектуальный взрыв" будет возможен лишь в том случае, если искусственный интеллект станет способным самостоятельно улучшать собственное программное обеспечение. Если такой скачок произойдёт, разница в потенциальном уме между искусственным интеллектом и управляющими им людьми станет очень большим. Эта ситуация имеет четкий потенциал для катастрофы, особенно если изначально будут плохо установлены цели.

Неуверенность учёных относительно искусственного супер интеллекта заключается и в том, что мы не знаем, что может произойти при появлении другого разума. Есть серьезные основания полагать, что некоторые технологии могут ускоряться гораздо быстрее, чем с этим может справиться нынешнее общество. Очень трудно рассуждать о будущих технологиях, которых мы пока не имеем, особенно если они умнее, чем мы сами. Хотя вполне возможно, что все риски надуманы и появление искусственного разума приведёт человечество не к глобальной катастрофе, а к быстрому развитию и процветанию.

Добавить комментарий