Благодатная Сингулярность

Краткий пересказ нового эссе Сэма Алтмана

Источник: https://t.me/nn_for_science/2456

Оригинал: https://blog.samaltman.com/the-gentle-singularity

TLDR: Алтман утверждает, что мы уже вступили в эпоху стремительно развивающегося сверхинтеллекта, способного взорвать прогресс и требующего безопасного, справедливого распределения его преимуществ.

Человечество уже пересекло «событийный горизонт» цифрового сверхинтеллекта, и процесс ощущается удивительно буднично.

Несмотря на успехи ИИ, по улицам не ходят роботы, мы всё ещё не летаем в космос и многие тайны Вселенной остаются неразгаданными.

Системы уровня GPT-4 и О3 уже превосходят людей во многих задачах, и самые трудные научные прорывы (в AI) позади.

Быстрейшие инновации и рост продуктивности благодаря ИИ обещают огромный скачок качества жизни.

Масштаб ChatGPT таков, что крошечные улучшения — или ошибки — могут (и будут) умножаться на сотни миллионов пользователей.

В 2025-2027 годах агенты перейдут от помощников-кодеров к создателям инсайтов и роботам, работающим в реальном мире.

К 2030 году один человек сможет делать несравнимо больше, резко вырастут творческие и технические возможности.

При этом в 2030-х люди всё так же будут любить семьи, творить, играть и плавать в озёрах.

Но в то же время нас ждут беспрецедентные перемены, поскольку интеллект вырвется далеко за пределы человеческого.

Изобилие интеллекта и дешёвая энергия снимут давние ограничители прогресса при условии грамотного управления.

Чудеса ИИ быстро становятся обыденностью: от абзацев — к романам, от диагнозов — к лекарствам, от кода — к целым компаниям.

Учёные уже сообщают о 2–3-кратном росте продуктивности; сжатие десятилетия исследований в месяцы изменит темпы открытий.

ИИ уже на пути рекурсивного самоулучшения, ускоряя создание ещё лучшего ИИ.

Экономическая выгода запустила маховик инвестиций в вычислительную инфраструктуру и само-строящиеся технологии.

Когда гуманоидные роботы полностью возьмут на себя цепочки поставок, прогресс ускорится ещё сильнее.

Автоматизация сведёт предельную стоимость интеллекта почти к цене электроэнергии и капле воды.

Быстрый прогресс уничтожит целые профессии, но растущие богатства позволят смелые социальные нововведения и плавную адаптацию.

Как и раньше в индустриальные эпохи, общество придумает новые желания и роли, сохраняя человеческий фокус на людях, а не машинах.

Работы далёкого будущего покажутся нам «нелепыми», но будут важны и увлекательны для тех, кто ими занят.

Прорывы будут каскадировать: сегодня — физика, завтра — колонизация космоса или интерфейсы мозг-компьютер.

Жить в эпоху сингулярности, вероятно, окажется впечатляюще, но вполне по силам: экспонента гладка, хоть и крута.

Нужно решить вопросы безопасности ИИ и обеспечить широкий доступ к сверхинтеллекту для максимальной пользы и минимизации рисков.

- Шаг 1: надёжный алаймент, чтобы ИИ служил долгосрочным интересам человечества, а не сиюминутным импульсам.

- Шаг 2: сделать сверхинтеллект дешёвым и доступным всем, установив общественные рамки коллективного согласия.

Индустрия фактически строит персональный «мозг мира», где дефицитом станут идеи, а не исполнение.

Миссия OpenAI — исследование сверхинтеллекта; путь впереди уже освещён, и тьма быстро отступает.

«Интеллект дешевле воды» теперь звучит правдоподобно, так же как сегодняшняя реальность казалась фантастикой в 2020-м.

Пусть наше восхождение к сверхинтеллекту будет плавным, экспоненциальным и мирным.