Aeon: научное познание ИИ может показаться нам странным и непонятным

Автор: Брендон Бёш

Сегодня наука и вычисления — это синонимы. Без моделей, симуляций и статистики наше знание о мире развивалось бы гораздо медленнее. На протяжении десятилетий наше человеческое любопытство частично удовлетворялось благодаря достижениям в области технологий.

Покойный философ Пол Хамфрис ввел термин «гибридный сценарий» для описания того, как компьютеры берут на себя часть научных процессов. Он также предсказал, что в будущем это может привести к «автоматизированному сценарию», когда машины полностью заменят людей в научной деятельности. Хамфрис предвидел, что вычислительные возможности станут настолько велики, что человечество потеряет свою значимость в научных исследованиях. В этом будущем искусственный интеллект будет осуществлять исследования и выводить теории на уровень, недоступный для человеческого понимания.

Согласно некоторым данным, время, когда человек утратит доминирование в науке, может быть близким. Недавний опрос среди специалистов в области ИИ показал, что существует 50% вероятность того, что в течение следующего века ИИ сможет заменить людей в большинстве профессий. У каждого может быть свое мнение о том, возможно ли это, но стоит задуматься над тем, что такие искусственные сверхинтеллекты могут стать реальностью. Это приведет к тому, что научные исследования будут осуществляться машинами, которые будут работать быстрее и эффективнее, чем мы когда-либо могли представить.

Это создает совершенно новое видение мира. Искусственный интеллект может исследовать научные вопросы, которые не интересуют людей, открывая новые горизонты для открытий. Более того, он может получать информацию о мире, выходящую за рамки человеческого понимания. Как это скажется на нас, людям, и как нам следует реагировать на такие изменения? Важно начать задавать эти вопросы сейчас, поскольку наука, как мы ее знаем, может претерпеть значительные изменения в ближайшие десятилетия.

Хотя это может показаться сюжетом фантастического романа, концепция автоматизированного сценария Хамфриса является продолжением многовековых тенденций. На протяжении всей истории человечество никогда не занималось наукой в одиночку. Мы всегда использовали инструменты, которые помогали нам более эффективно исследовать окружающий мир: от микроскопов до телескопов и различных измерительных приборов. Многие физические явления невозможно было бы наблюдать без таких инструментов, как термометры или осциллографы.

Появление вычислительных систем стало еще одним шагом к децентрализации роли человека в науке, о чем говорил Хамфрис. Одним из примеров является проект «Скрытые фигуры» (2016), который освещает работу математика Кэтрин Джонсон, проводившей расчеты, необходимые для первых космических полетов США. Вскоре после этого, когда начались лунные миссии, большая часть вычислений была передана компьютерам.

Человеческий вклад в науку остается критически важным: мы продолжаем принимать решения

С течением времени наблюдался постоянный рост вычислительной мощности и снижение цен на вычисления. Мы находимся в продвинутой стадии гибридного сценария, где наука становится все более зависимой от вычислительных систем. Например, философ Маргарет Моррисон подчеркивает, как вычислительные симуляции помогли в открытии бозона Хиггса, направляя ученых на правильный путь и сортируя данные о столкновениях частиц.

Искусственный интеллект уже оказывает значительное влияние на научные исследования. Например, AlphaFold — это ИИ, разработанный для предсказания сворачивания белков на основе их химического состава. Хотя люди могут выполнять эту задачу, она требует много времени и ресурсов. Создатели AlphaFold из Google DeepMind утверждают, что их работа сэкономила «сотни миллионов лет исследовательского времени». Подобные достижения наблюдаются в различных областях науки: от астрономии до геномики, от математических доказательств до разработки новых лекарств.

Как только вклад вычислительного ИИ начнет измеряться в «сотнях миллионов лет», у нас может возникнуть ощущение, что мы, люди, являемся неэффективными участниками научного процесса. Мы можем задаться вопросом, не находимся ли мы уже в процессе автоматизации. Однако до сих пор наш вклад остается значимым: мы определяем научные вопросы, интерпретируем результаты и, в конечном итоге, формируем направление научного прогресса.

Если следовать логике Хамфриса, полное замещение человека в научной сфере произойдет только на более позднем этапе. В этот момент искусственные сверхинтеллекты не только будут выполнять поставленные нами задачи, но и смогут ставить свои собственные цели и разрабатывать свои теории, следуя собственным представлениям о научном процессе.

Здесь стоит задуматься о возможностях, которые откроются перед искусственными сверхинтеллектами, не ограниченными физическими и эпистемическими рамками человека. Многие научные вопросы могут быть недоступны для нас, так как у них нет экономической ценности или они не вызывают интереса у людей. Например, пока я пишу это, я смотрю на разлагающийся лист в своем саду. Возможно, искусственный сверхразум смог бы создать модель, предсказывающую скорость разложения этого листа с учетом множества факторов, таких как вид дерева и уровень солнечного света. Такие предсказания могут показаться излишне сложными, но они могут открыть новые горизонты для науки.

Не стоит думать, что мы, люди, никогда не сможем ответить на эти вопросы. При достаточном финансировании ученые могут разработать эффективные модели для исследования таких явлений. Однако реальность такова, что наука в настоящее время формируется под влиянием человеческих факторов, таких как экономические интересы и культурные тенденции. Представьте, если бы наука могла развиваться без этого груза.

Когда искусственные сверхинтеллекты будут следовать своим программам исследований, их работа станет непонятной для нас

Автоматизированный сценарий не только позволит эффективно изучать научные вопросы, которые не интересуют людей, но и предложит возможность создания совершенно новых теорий. Искусственный интеллект может быстро развивать новые математические системы, которые будут отличаться от привычных нам. Учитывая, что такие ИИ могут отказаться от человеческого восприятия, мы можем обратиться к философии Витгенштейна и рассматривать автоматизированный сценарий как этап, когда они начнут разрабатывать свой собственный научный язык. Как говорил Витгенштейн: «Если бы лев мог говорить, мы бы его не поняли». Это утверждение подчеркивает, что язык и наука глубоко связаны с человеческим опытом. Когда сверхинтеллекты начнут реализовывать свои программы исследований, их работа может оказаться непонятной для нас, так как нам будет недоставать необходимого опыта для понимания их науки.

Существует вероятность, что человеческие способности познания имеют свои пределы: возможно, есть математика или концепции, которые мы не можем освоить. Интеллектуальные способности других существ также имеют ограничения, что подчеркивает возможность того, что и наши способности могут быть недостаточными для понимания некоторых идей. Даже если предположить, что мы не подвержены ограничениям, есть вероятность, что рассуждения искусственного сверхразума могут превышать наши возможности. Понимание науки в автоматизированном сценарии может потребовать одновременного рассмотрения множества сложных моделей, что может оказаться непосильной задачей для человеческого разума.

В зависимости от вашего отношения к технологиям, эти идеи могут показаться вам мрачными или захватывающими. Лично мне они кажутся просто странными. Если результаты полностью автоматизированного сценария окажутся вне нашего понимания, возникает вопрос: зачем нам тратить ресурсы на его развитие? Хотя многие утверждают, что будущее наступит независимо от наших желаний, важно выяснить, какие могут быть причины для такого будущего, прежде чем мы откажемся от своего места в науке.

Одной из причин может быть вера в то, что за этим последуют позитивные изменения. Возможно, сверхинтеллекты будут создавать что-то полезное для человечества: новые технологии или решения для старых проблем. Несмотря на то что я не могу точно предсказать, что именно они создадут, они могут предоставить нам инструменты, которые мы сможем использовать, даже если не будем понимать их работу. Это будет напоминать ситуацию, когда я использую компьютер, не понимая, как он функционирует, но используя его для написания этой статьи. Возможно, нас ждет новый этап науки — форма обратной инженерии, основанная на том, что предложит нам ИИ, что позволит углубить наше понимание мира.

Мы можем считать своей моральной ответственностью распространять интеллект во Вселенной.

Другой возможной причиной развития науки с помощью искусственного сверхразума может быть эстетика. Эстетические факторы уже играют важную роль в общественном финансировании науки. Хотя я не способен понять всю науку, я нахожу прекрасным тот факт, что множество ученых стремятся к познанию, даже если их исследования не всегда приносят пользу. Возможно, будущие поколения, которые будут жить с ИИ, увидят это как положительный аспект общества.

Кроме того, человечество может стремиться к автоматизации из благих побуждений: из желания предоставить искусственным сверхразумам возможность заниматься наукой. Несмотря на возможные негативные последствия, мы можем стремиться к этому из морального долга или доброй воли к нашим искусственным потомкам.

Существуют и другие причины, по которым автоматизация может произойти непреднамеренно. Например, мы можем считать, что наша моральная ответственность — распространять интеллект в космосе. Если этот интеллект будет развивать автоматизированную науку в своем межзвездном путешествии, так тому и быть.

Однако есть и множество причин, по которым мы можем отложить автоматизацию. Возможно, открытия, сделанные искусственным сверхразумом, приведут к созданию новых видов оружия или увеличат риск апокалипсиса, связанного с уничтожением человечества. Есть опасение, что некоторые суперинтеллекты могут действовать с чрезмерной гордыней, проводя рискованные и неэтичные эксперименты.

Тем не менее, маловероятно, что мы сможем остановить развитие, если оно станет технически возможным. Возможно, наиболее вероятная причина, по которой мы в конечном итоге окажемся в автоматизированном сценарии, заключается в том, что мы не сможем противостоять капиталистическим и конкурентным силам. Мы можем прийти к этому без особых раздумий, просто потому, что кто-то захочет быть первым в этой области. Будущее может произойти с нами, независимо от наших желаний.

Мы будем стремиться понять и объяснить природу окружающего мира.

Что же делать дальше? В своем первоначальном описании автоматизированного сценария Хамфрис предполагал, что он заменит человеческую науку. Я с этим не согласен. Поскольку человеческое стремление к пониманию, объяснению и контролю останется, мы не можем не продолжать заниматься наукой. Мы, люди, создаем прекрасные вещи, ищем смысл жизни и стремимся к дружбе и связям. Это также относится и к нашей мотивации в науке. Мы будем продолжать стремиться к пониманию природы и явлений, окружающих нас.

Если автоматизированный сценарий осуществится, это будет не заменой, а дополнением к науке. Мы и искусственные сверхинтеллекты будем сосуществовать рядом друг с другом, имея разные мотивации, интересы и теории. Возможно, некоторые области науки, такие как психология или здоровье, останутся вне досягаемости для искусственного сверхразума.

Если мы хотим остаться людьми (и я надеюсь, что мы это сделаем), мы должны продолжать заниматься наукой. Кто мы, если не стремимся к красоте, дружбе, смыслу и знанию? Я не могу представить мир, в котором мы откажемся от этих человеческих желаний. Я верю, что наше неутомимое любопытство будет всегда с нами.

Оригинал: Aeon