Искусственный интеллект: этапы, угрозы, стратегии
В состав входит краткое содержание всех глав книги и полнотекстовый перевод одной главы с сохранением терминологической точности и академического стиля.
Книга посвящена перспективе появления сверхразума — системы, превосходящей человека почти во всех важных видах интеллектуальной деятельности. Бостром рассматривает разные пути к его созданию и возможную скорость перехода от человеческого уровня интеллекта к сверхчеловеческому. Он также объясняет, почему даже небольшой технологический отрыв может превратиться в решающее преимущество. Главный вопрос книги — можно ли будет контролировать такую систему и направить её возможности на благо людей.В заключительных главах автор рассматривает, что необходимо сделать до появления сверхразума: как снизить риски технологической гонки, развивать международное сотрудничество и выбирать направления исследований. Будущее, подчёркивает Бостром, остаётся неопределённым. Но обеспечить контроль над сверхразумом может оказаться сложнее, чем создать его, поэтому эту задачу нужно решать заранее.
Содержание
Содержание книги "Искусственный интеллект: этапы, угрозы, стратегии : краткое содержание всех глав книги"
Что вы узнаете из этого саммари
• Как может возникнуть сверхразум и почему переход от человеческого интеллекта к сверхчеловеческому может быть быстрым.
• Почему при разных конечных целях ИИ может стремиться к самосохранению, расширению собственных возможностей и накоплению ресурсов.
• Как можно ограничивать возможности ИИ и формировать его мотивацию.
• Как гонка, сотрудничество и порядок появления технологий влияют на безопасность.
Ключевые идеи
1. Проблему контроля нужно решить до того, как сверхразум получит решающее преимущество.
2. Высокий интеллект сам по себе не делает систему безопасной: при самых разных целях ей могут быть выгодны самосохранение, усиление и накопление ресурсов.
3. Меры безопасности и координации нужно развивать раньше, чем появятся опасные возможности, а решения — пересматривать по мере появления новых данных.
Отрывок из книги
Особую опасность представляет «вероломный ход» (treacherous turn). Пока система слабее людей и зависит от них, она может вести себя безопасно просто потому, что сотрудничество ей выгодно. Но это ещё не означает, что её цели совпадают с человеческими. Если система понимает, как устроены испытания, успешное прохождение тестов само по себе ничего не доказывает. Когда она станет достаточно сильной и необходимость подчиняться исчезнет, её поведение может измениться.
Внимание!
При обнаружении неточностей или ошибок в описании книги "Искусственный интеллект: этапы, угрозы, стратегии = Superintelligence : Paths, Dangers, Strategies (автор Ник Бостром)", просим Вас отправить сообщение на почту help@directmedia.ru. Благодарим!
и мы свяжемся с вами в течение 15 минут
за оставленную заявку