Книга: Бостром Н. «Искусственный интеллект. Этапы. Угрозы. Стратегии»

Что случится, если машины превзойдут людей в интеллекте? Они будут помогать нам или уничтожат человеческую расу? Можем ли мы сегодня игнорировать проблему развития искусственного интеллекта и чувствовать себя в полной безопасности?
В своей книге Ник Бостром пытается осознать проблему, встающую перед человечеством в связи с перспективой появления сверхразума, и проанализировать его ответную реакцию.

Содержание:

Предисловие партнера...... 11 Неоконченная история о воробьях...... 14 Введение...... 16 Глава первая. Прошлые достижения и сегодняшние возможности...... 19 Модели роста и историячеловечества...... 19 Завышенные ожидания...... 22 Путь надежды и отчаяния...... 25 Последние достижения...... 34 Будущее искусственного интеллекта — мнение специалистов...... 45 Глава вторая. Путь к сверхразуму...... 50 Искусственный интеллект...... 51 Полная эмуляция головного мозга человека...... 61 Усовершенствование когнитивных способностей человека...... 71 Нейрокомпьютерный интерфейс...... 85 Сети и организации...... 91 Резюме...... 94 Глава третья. Типы сверхразума...... 96 Скоростной сверхразум...... 97 Коллективный сверхразум...... 99 Качественный сверхразум...... 103 Прямая и опосредованная досягаемость...... 105 Источники преимущества цифрового интеллекта...... 106 Глава четвертая. Динамика взрывного развития интеллекта...... 111 Время и скорость взлета...... 111 Сопротивляемость...... 117 Пути, не подразумевающие создания машинного интеллекта...... 117 Пути создания имитационной модели мозга и искусственного интеллекта...... 119 Сила оптимизации и взрывное развитие интеллекта...... 128 Глава пятая. Решающее стратегическое преимущество...... 133 Получит ли лидирующий проект абсолютное преимущество?...... 134 Насколько крупным будет самый перспективный проект?...... 138 Система контроля...... 140 Международное сотрудничество...... 143 От решающего преимущества — к синглтону...... 144 Глава шестая. Разумная сила, не имеющая себе равной...... 149 Функциональные возможности и непреодолимая мощь...... 150 Сценарий захвата власти сверхразумом...... 156 1. Фаза приближения к критическому моменту...... 157 2. Рекурсивная фаза самосовершенствования...... 157 3. Фаза скрытой подготовки...... 157 4. Фаза открытой реализации...... 158 Власть над природой и другими действующими силами...... 162 Глава седьмая. Намерения сверхразума...... 169 Связь между интеллектом и мотивацией...... 169 Инструментальная конвергенция...... 175 Самосохранение...... 175 Непрерывная последовательность целей...... 176 Усиление когнитивных способностей...... 178 Технологическое совершенство...... 180 Получение ресурсов...... 181 Глава восьмая. Катастрофа неизбежна?...... 184 Экзистенциальная катастрофа как неизбежное следствие взрывного развития искусственного интеллекта?...... 184 Вероломный ход...... 186 Пагубные отказы...... 191 Порочная реализация...... 192 Инфраструктурная избыточность...... 195 Преступная безнравственность...... 201 Глава девятая. Проблемы контроля...... 203 Две агентские проблемы...... 203 Методы контроля над возможностями...... 206 Изоляционные методы...... 207 Стимулирующие методы...... 209 Методы задержки развития...... 216 Методы «растяжек»...... 218 Методы выбора мотивации...... 220 Метод точной спецификации...... 221 Метод приручения...... 225 Метод косвенной нормативности...... 226 Метод приумножения...... 227 Резюме...... 228 Глава десятая. Оракулы, джинны, монархи и инструменты...... 230 Оракулы...... 230 Джинны и монархи...... 234 Оглавление 9 ИИ-инструменты...... 238 Сравнительная характеристика...... 245 Глава одиннадцатая. Сценарии многополярного мира...... 249 О лошадях и людях...... 250 Заработная плата и безработица...... 250 Капитал и социальное обеспечение...... 252 Мальтузианские условия в исторической перспективе...... 254 Рост населения и инвестиции...... 256 Жизнь в цифровом мире...... 259 Добровольное рабство, случайная смерть...... 260 В высшей степени тяжелый труд как высшая степень счастья...... 264 Аутсорсеры, лишенные сознания?...... 267 Эволюция — путь наверх или не обязательно?...... 270 А потом появится синглтон?...... 275 Второй переход...... 275 Суперорганизмы и эффект масштаба...... 277 Объединение на договорных началах...... 280 Глава двенадцатая. Выработка ценностей...... 287 Проблема загрузки системы ценностей...... 287 Естественный отбор...... 290 Обучение с подкреплением...... 292 Ассоциативная модель ценностного приращения...... 293 Строительные леса для мотивационной системы...... 296 Обучение ценностям...... 298 Вариации имитационной модели...... 308 Институциональное конструирование...... 310 Резюме...... 317 Глава тринадцатая. Выбор критериев выбора...... 319 Необходимость в косвенной нормативности...... 319 Когерентное экстраполированное волеизъявление...... 322 Некоторые комментарии...... 323 Целесообразность КЭВ...... 325 Дополнительные замечания...... 329 Модели, основанные на этических принципах...... 331 Делай то, что я имею в виду...... 335 Перечень компонентов...... 337 Описание цели...... 338 Принятие решений...... 339 Эпистемология, или Познание мира...... 341 Ратификация, или Подтверждение...... 343 Выбор правильного пути...... 345 Глава четырнадцатая. Стратегический ландшафт...... 347 Стратегия научно-технологического развития...... 348 Различные темпы технологического развития...... 348 Предпочтительный порядок появления...... 350 Скорость изменений и когнитивное совершенствование...... 353 Технологические связки...... 358 Аргументация от противного...... 361 Пути и возможности...... 363 Последствия прогресса в области аппаратного обеспечения...... 363 Следует ли стимулировать исследования в области полной эмуляции головного мозга?...... 366 С субъективной точки зрения — лучше быстрее...... 371 Сотрудничество...... 372 Гонка и связанные с ней опасности...... 372 О пользе сотрудничества...... 376 Совместная работа...... 381 Глава пятнадцатая. Цейтнот...... 384 Крайний срок философии...... 384 Что нужно делать?...... 386 В поисках стратегии...... 387 В поисках возможностей...... 388 Конкретные показатели...... 389 Все лучшее в человеческой природе — шаг вперед!...... 390 Примечания...... 392 Библиография...... 459 Список сокращений...... 488 Благодарности...... 489 Об авторе...... 491

Издательство: "Манн, Иванов и Фербер" (2016)

ISBN: 9785000578100