Первая «сверхразумная» машина может стать последним достижением человеческого ума

Что произойдет, когда машины превзойдут людей в интеллекте? Будут ли они помогать нам или уничтожат человеческую расу? Ник Бостром в своей книге «Искусственный интеллект. Этапы. Угрозы. Стратегии» ставит эти вопросы и рассказывает о будущем человечества и разумной жизни.


Человеческий разум имеет некоторые способности, которых нет у других животных. Именно им мы можем быть благодарны за то, что наш вид занимает столь доминирующее положение. Если машины превзойдут наш человеческий мозг по уровню интеллекта, они могут стать очень сильными и даже выйти из-под нашего контроля. Существование современных горилл, например, зависит от человека больше, чем от самих горилл, — то же самое может произойти с человеком и новым машинным суперинтеллектом.


Но у нас есть одно существенное преимущество: первый шаг за нами. Возможно ли зародить искусственный интеллект, сделав этот процесс контролируемым и безопасным? В этой книге сложнейшие научные вопросы о будущем человечества и искусственного интеллекта описаны доступным языком.


«С момента изобретения в 1940-х годах первых электронно-вычислительных машин люди не перестают прогнозировать появление компьютера, уровень интеллекта которого будет сравним с человеческим. Имеется в виду разумная техническая система, наделенная здравым смыслом, обладающая способностью к обучению и размышлению, умеющая планировать и комплексно обрабатывать информацию, собранную по самым разным источникам — реальным и теоретическим. В те времена многие ожидали, что такие машины станут реальностью уже лет через двадцать. С тех пор сроки сдвигаются со скоростью одного года в год, то есть сегодня футурологи, убежденные в вероятности создания искусственного интеллекта, продолжают верить, что «умные машины» появятся через пару десятков лет.


Нас ожидает много остановок между нынешним отправным пунктом и тем будущим, когда появится искусственный интеллект, но этот момент — отнюдь не конечная станция назначения. Довольно близкой от нее следующей остановкой будет станция «Сверхразум» — осуществление искусственного интеллекта такого уровня, который не просто равен человеческому уму, а значительно превосходит его. После последней остановки наш поезд разгонится до такой степени, что у станции «Человек» не сможет не только остановиться, но даже замедлить ход. Скорее всего, он со свистом промчится мимо.


Британский математик Ирвинг Джон Гуд, работавший во времена Второй мировой войны шифровальщиком в команде Алана Тьюринга, …писал: «Давайте определим сверхразумную машину как машину, которая в значительной степени превосходит интеллектуальные возможности любого умнейшего человека. Поскольку создание таких машин является результатом умственной деятельности человека, то машина, наделенная сверхразумом, будет способна разрабатывать еще более совершенные машины; вследствие этого, бесспорно, случится такой «интеллектуальный взрыв», что человеческий разум окажется отброшенным далеко назад. Таким образом, первая сверхразумная машина станет последним достижением человеческого ума — правда, лишь в том случае, если она не обнаружит достаточную сговорчивость и сама не объяснит нам, как держать ее под контролем».


…Пионеры в области искусственного интеллекта, несмотря на всю убежденность в неминуемом появлении искусственного интеллекта, не уступающего человеческому, в массе своей отрицали возможность появления сверхразума, превосходящего человеческий ум. … Большинство первопроходцев не поддерживали зарождавшееся в обществе беспокойство, считая полной ерундой, будто их проекты несут в себе определенный риск для человечества. …Остается только надеяться, что ко времени, когда их смелый замысел в итоге воплотится в жизнь, мы не только сумеем достичь достойного научно-технического опыта, чтобы нейтрализовать взрывное развитие искусственного интеллекта, но и поднимемся на высочайший уровень профессионализма, которое совсем не помешает, если человечество хочет пережить пришествие сверхразумных машин в свой мир».

Поделиться с друзьями
ASTERA