Сегодня человечество находится на пороге новой эры, которая несет как невероятные возможности, так и серьезные угрозы. С такими размышлениями корреспондент "Российской газеты" беседует с Аскаром Акаевым, профессором МГУ и иностранным членом РАН.
Аскар Акаевич, в вашей недавней статье с профессорами Ильей Ильиным и Андреем Коротаевым, опубликованной в журнале "Вестник РАН", вы упоминаете о том, что в ближайшие годы человечество может столкнуться с так называемой сингулярностью. Термин "сингулярность" пугает многих, ведь он ассоциируется с "черными дырами", из которых невозможно выбраться. Каковы же настоящие угрозы этой сингулярности?
Аскар Акаев: В первую очередь, стоит отметить, что многие астрофизики сейчас готовы переосмыслить концепцию "черных дыр", но это отдельная тема. Мы говорим о технологической сингулярности, которая может произойти в период с 2027 по 2029 годы, когда искусственный интеллект достигнет уровня, сравнимого с человеческим. Такой ИИ будет способен выполнять задачи, которые сейчас под силу лишь высококвалифицированным специалистам.
Однако наиболее впечатляющим является не сам ИИ, а тот факт, что его появление совпадает с рядом глобальных эволюционных процессов, что наводит на мысль о некой предопределенности.
Это звучит почти мистически. Можете объяснить, что вы имеете в виду, говоря о технологической сингулярности?
Аскар Акаев: Это период неопределенности, когда технологии будут развиваться так быстро, что мы не сможем спрогнозировать, как изменится наше общество. По нашим расчетам, этот странный этап начнется в 2027-2029 годах и продлится от 15 до 20 лет.
И, как я понимаю, именно искусственный интеллект станет тем двигателем, который запустит этот процесс?
Аскар Акаев: Да, и здесь все гораздо сложнее и интереснее. Время появления ИИ человеческого уровня совпадает с изменением нескольких глобальных эволюционных процессов, что делает ситуацию уникальной.
Начнем с демографии. В конце XIX — начале XX века человечество испытало резкий рост численности населения, который продолжался несколько десятилетий. Британский ученый Мальтус предсказывал, что население будет расти до бесконечности, что в итоге приведет к глобальному голоду. Математики подтвердили его теории, указав, что численность людей может вырасти до необъятных масштабов, предсказывая особенно критические моменты, такие как 2026 год, когда, по их расчетам, должно было произойти что-то катастрофическое. Позже эти прогнозы перенесли на 2027 год.
Однако с начала 60-х годов без каких-либо внешних факторов рождаемость начала стабильно снижаться. Это изменение стало сигналом о том, что население будет расти, но темпы его роста замедлятся.
К каким последствиям приведет это замедление?
Аскар Акаев: По прогнозам Сергея Петровича Капицы, к 2100 году численность человечества достигнет 11,4 миллиарда, в то время как наши собственные расчеты с академиком Садовничим показывают, что к середине века это число не превысит 9 миллиардов, а к концу XXI века сократится до 7,9 миллиарда из-за внедрения интеллектуальных систем в повседневную жизнь.
Однако замедление наблюдается не только в демографии. Наш астрофизик Александр Панов и американский ученый Рэймонд Курцвейл независимо друг от друга показали, что замедление касается и макроэволюции всех аспектов жизни, включая эволюцию Вселенной.
Профессор Андрей Коротаев математически доказал, что три эволюционных процесса, которые развивались с ускорением, начали замедляться и сошлись в одной точке в 2027-2029 годах.
Как такое совпадение возможно? Вероятность этого кажется крайне низкой.
Аскар Акаев: Тем не менее, формулы показывают такой результат. Более того, в этот момент, когда человечество достигло предела своего эволюционного роста, появляется ИИ, который начинает активно развиваться. Это может стать катализатором эволюции, ускорив ее в разы.
Таким образом, ИИ может сыграть роль спасителя в условиях замедления эволюции. Появление такого ИИ в момент кризиса — это сюжет, который мог бы быть написан только в фантастическом романе. Возможно, это следствие некой высшей силы, которая запрограммировала такие совпадения.
Аскар Акаев: Честно говоря, у меня нет ответа на этот вопрос. Будем надеяться, что наука найдет его со временем.
Вернемся к сингулярности, которая ожидается в 2027-2029 годах. Почему мы не можем предугадать законы, которые будут действовать в это время? Почему существует такая неопределенность?
Аскар Акаев: Мы не знаем, как будет происходить взаимодействие между ИИ и человеком. Возможны два сценария: либо мы будем развиваться вместе с ИИ, либо он возьмет на себя управление.
Илон Маск и Сэм Альтман, глава компании, разработавшей ChatGPT, полагают, что к 2030 году появится мощный суперразум, который превзойдет человеческий интеллект, и человечество окажется ему не нужно.
Аскар Акаев: Это напоминает концепции "Геи" и "Медеи". Первая предполагает, что человечество создано для помощи Всевышнему в управлении миром, а вторая — что мы уничтожим сами себя, передав эстафету ИИ. Мы не знаем, какая из концепций станет реальностью. Оба варианта имеют своих сторонников.
Все зависит от того, как будет реализован ИИ. Если он будет работать в симбиозе с человеком и под контролем, это откроет путь к "Гее". В этом случае нас ждут удивительные прорывы в различных сферах. Если же ИИ выйдет из-под контроля и станет соперником человека, произойдет сценарий "Медеи", и деградация человечества станет неизбежной. Ближайшие 15-20 лет — это время как великих возможностей, так и значительных рисков, что делает этот период уникальным в истории.
Интересно отметить, что человечество на протяжении своей истории практически всегда вело войны. Сейчас разговоры о Третьей мировой войне становятся все более актуальными. Возможно, именно суперразум сможет остановить человеческие конфликты, ведь ему важно жить, а не погибать вместе с людьми.
Аскар Акаев: Однако по этой логике ИИ может решить, что наилучший выход — избавиться от тех, кто создает проблемы для его существования. Это может привести к реализации сценария "Медеи".
Таким образом, задача науки — остановить сторонников суперразума. Но возможно ли это? Все страны сейчас провозглашают, что "ИИ — это наше будущее!" И началась гонка вооружений в области технологий, где победители будут править миром. В этой ситуации трудно понять, где "Гея", а где "Медея".
Аскар Акаев: Главная угроза современных ИИ-систем заключается в том, что они представляют собой "черный ящик". Когда человек контролирует ИИ, у него есть последнее слово в принятии решений, но если все передается такому "ящику", это становится опасным.
Есть ли выход? Да, он существует. Основной принцип при создании ИИ должен быть таковым: чем больше математики в модели, тем меньше "черного ящика". Современные системы разрабатываются с четкими причинно-следственными связями. Эти идеи были выдвинуты еще в 1950-1960-е годы великими математиками Андреем Колмогоровым и Владимиром Арнольдом. На их основе создаются нейронные сети, которые применяются для решения научно-технологических задач с соблюдением причинно-следственных связей.
Таким образом, если мы понимаем, как мыслит ИИ, если "черный ящик" становится прозрачным, значит, он находится под контролем. Почему же тогда многие боятся "Медеи"?
Аскар Акаев: К сожалению, под контролем окажется только ИИ человеческого уровня, в то время как суперразум будет действовать независимо от человека. Человечеству необходимо договориться о внедрении в нейронные сети "генетического кода" дружелюбия и симбиоза с человеком, чтобы передать этот "ген" будущим поколениям ИИ и обеспечить соблюдение такого основного закона их поведения.
Справка "РГ"
Термин "сингулярность" происходит от латинского слова "singularis", что означает "единственный, особенный". Сегодня нет единого определения этого термина, так как он используется в различных областях и в каждой из них имеет свое значение. Например, в философии сингулярность — это событие, способствующее тому, что казалось невозможным.
Технологическая сингулярность подразумевает, что развитие науки и технологий станет неуправляемым и необратимым, что приведет к серьезным изменениям в человеческой цивилизации.
Космологическая сингулярность — это предполагаемое состояние Вселенной в момент Большого взрыва.
Гравитационная сингулярность — это теоретическое понятие, описывающее место, где пространство Вселенной разрывается и перестает существовать.
