ПЕРУДЖА – Дискуссии о технологиях всё чаще сводятся к резкой дихотомии. Разработки искусственного интеллекта нужно либо ограничивать, либо ускорять. Перед нами тезис и антитезис, но нет синтеза. Вместо выбора одной из сторон, нам следует присмотреться к альтернативным идеям, в которых внимание обращается на то, что действительно важно – человечество.
В этой связи я предлагаю шесть максим. Первая – это знаменитый афоризм карфагенского генерала Ганнибала: «Я либо найду путь, либо проложу его». Поскольку искусственный интеллект (сокращённо ИИ) находится на очень раннем этапе развития, мы пока только скребёмся по поверхности его потенциала. ИИ способен помочь нам не только найти пути, которые раньше мы не могли увидеть, но и проложить новые – благодаря силе человеческой креативности. Такие инструменты, как ChatGPT, Copilot и Pi, обучаются на материалах, созданных людьми о людях. Они не заменяют нас, а расширяют наши возможности.
Представьте себе находку ранее не замечавшейся нити мысли, которая проходит через Гёделя, Эшера, Баха, Караваджо, Руссо и Вивальди; или же находку идеи, которая свяжет вместе ингредиенты, которые случайно оказались у вас на кухне. Огромная коллекция человеческого творчества и всего внесённого ранее созидательного вклада разворачивается перед нами, подобно бесконечному гобелену. Теперь у нас есть инструменты, позволяющие использовать всё это так, как предыдущие поколения никогда не могли.
Вторая максима: «Мы являемся символами и обитаем в символах». Именно так Ральф Уолдо Эмерсон описывал то, как мы используем речь для понимания, объяснения и формирования мира. Мы, люди, всегда полагаемся на инструменты, а символы как раз и являются инструментами. Они позволяют нам создавать то, чего раньше никогда не существовало, и то, что не встречается в природе. Взгляните, например, на грифона с головой и крыльями орла, но телом льва. Это человеческое творение, отражающее некую реальность, которую мы бы хотели увидеть в мире. Люди создавали грифонов по уникальным человеческим причинам. И точно так же произошло с искусственным интеллектом.
Да, многие воображаемые создания – от монстра во «Франкенштейне» Мэри Шелли до убийцы-киборга в «Терминаторе» Джеймса Кэмерона – призваны играть роль предостережения. Мы естественным образом испытываем страх, когда впервые сталкиваемся с «другим» или «новым». Но грифон напоминает нам, что можно конвертировать страх в ощущение великих возможностей. Люди оказываются одновременно созидателями и продуктом своих символов, культуры, окружающей среды и решений. Вместе с ИИ мы сможем создавать больше грифонов.
Третья максима: нужно строить кафедральные соборы, поскольку они облагораживают нашу деятельность и превращают простые группы людей в товарищества. Соборы – это одно из самых потрясающих творений человечества, и поэтому неудивительно, что мы называем миссии, подобные посадке «Аполлона» на Луне, «кафедральными проектами». Разве не было бы замечательно, если бы такие проекты стали частью нашей повседневной жизни – как кафедральные соборы в европейских городах?
Secure your copy of PS Quarterly: The Climate Crucible
The newest issue of our magazine, PS Quarterly: The Climate Crucible, is here. To gain digital access to all of the magazine’s content, and receive your print copy, subscribe to PS Premium now.
Subscribe Now
Для таких проектов требуется много разных рук, работающих в унисон в разных регионах, сферах деятельности, а иногда даже принадлежащих разным поколениям. Как отмечал писатель и авиатор Антуан де Сент-Экзюпери, «кафедральный собор строится из камней; он состоит из камней; однако собор облагораживает каждый камень, превращая его в кафедральный камень». Научные открытия и технологические инновации – это камни в кафедральном соборе человеческого прогресса.
Истории открытия телескопа, радио, автомобиля, лифта, самолета и (в наше время) ИИ соответствуют этой модели. Многие узнали об ИИ благодаря новым коммерческим программам (например, ChatGPT), однако потребовалось несколько поколений инноваторов и изобретателей, чтобы мы пришли к этому. Нам нужны великие проекты (рожденные не только благодаря сотрудничеству, но и в здоровой конкуренции), чтобы мы обрели ощущение верного направления. Судя по тому, как мы проектируем и строим наши кафедральные соборы, можно сделать вывод, кто мы, и кем мы хотим быть.
Четвертая максима: мы должны идти на небольшие риски, чтобы получить хоть какую-то надежду справиться с крупными. Мы не должны пытаться ликвидировать риски вообще (это невозможно); нам следует приветствовать новые трудности, которые могут привести к провалу, потому что они открывают возможность для итераций, размышлений, обсуждений и непрерывного совершенствования.
Вспомните великое наблюдение экономиста Хаймана Мински по поводу финансовых кризисов. Он заметил, что «стабильность» может приводить к особой форме нестабильности. Избыток мер предосторожности в финансовой системе может сделать её хрупкой, а видимость безопасности означает, что никто не будет готов, когда система сломается.
Эти выводы применимы и к регулированию ИИ. Мы должны не просто стимулировать инновации; мы должны признать, что экспериментирование (то есть принятие на себя небольших рисков) само по себе является механизмом снижения рисков. В конечном итоге регулирование начнёт улучшаться, когда эти технологии будут внедряться шире, позволяя большому количеству людей опробовать их и интегрировать в свою жизнь. Это будет совместная работа с участием властей, частного сектора, прессы, научных кругов, общества – всех нас.
Пятая максима: именно технологии делают нас людьми. Если мы поверим, что ИИ – это антитезис к тезису человечества, нам придётся ждать будущее с киборгами – полулюдьми, полумашинами. Однако ситуация не совсем такова. Комбинация тезиса и антитезиса приводит не к их грубому смешению, а к появлению нового тезиса. Обе стороны совместно эволюционируют, а итоговым синтезом в данным случае оказывается улучшенный человек.
Кроме того, ИИ может помочь нам стать более человечными. Вспомните, насколько отзывчивыми, внимательными и терпеливыми могут быть речевые модели ИИ и чат-боты. Эти качества ИИ могут оказать на нас глубокое воздействие. Не у каждого имеется постоянный доступ к человеческой доброте и поддержке. Но когда такие ресурсы становятся легко доступными, у многих людей повышается способность к доброте и эмпатии. А эмпатия может порождать эмпатию. Думаю, этот аспект потенциала ИИ оценён пока ещё не в полной мере.
Шестая и последняя максима: на нас лежит обязанность сделать будущее таким, чтобы оно было лучше настоящего. Представьте, что в кармане у каждого имеется персональный цифровой врач или репетитор. Какими будут издержки, если это случится позже, а не раньше? В случае с технологиями скорость – это достоинство, потому что они обладают непревзойдённой способностью улучшать жизнь.
Каждый должен задаться вопросом, как мог бы выглядеть этот перспективный синтез. А вдруг мы вступим в новую эру человеческого процветания, когда исследования с использованием ИИ помогут нам открывать новые лекарства и начать своевременно использовать термоядерную энергию, избежав худших последствий изменения климата? Совершенно естественно вглядываться в тёмное неизвестное и размышлять о том, что ещё может пойти не так. Однако нужно (и это более человечно) думать о том, что ещё можно улучшить.
Статья основана на выступлении автора в Университете Перуджи в мае 2024 года.
To have unlimited access to our content including in-depth commentaries, book reviews, exclusive interviews, PS OnPoint and PS The Big Picture, please subscribe
China, Iran, North Korea, and Russia do not have a formal alliance committed to defending one another. But they have formed an alignment driven by shared antipathy toward the existing US-led world order, and there is no simple way for the United States and its allies to respond.
proposes ways the US and the West can counter the entente between China, Iran, North Korea, and Russia.
As wealth inequality in the United States has grown, so has the social status and influence of the superrich, many of whom parlay their economic success into an intellectual credential. Clearly, Americans need to have a serious conversation about what they, as a society, should value.
thinks the social, cultural, and political influence wielded by the superrich has reached a dangerous level.
ПЕРУДЖА – Дискуссии о технологиях всё чаще сводятся к резкой дихотомии. Разработки искусственного интеллекта нужно либо ограничивать, либо ускорять. Перед нами тезис и антитезис, но нет синтеза. Вместо выбора одной из сторон, нам следует присмотреться к альтернативным идеям, в которых внимание обращается на то, что действительно важно – человечество.
В этой связи я предлагаю шесть максим. Первая – это знаменитый афоризм карфагенского генерала Ганнибала: «Я либо найду путь, либо проложу его». Поскольку искусственный интеллект (сокращённо ИИ) находится на очень раннем этапе развития, мы пока только скребёмся по поверхности его потенциала. ИИ способен помочь нам не только найти пути, которые раньше мы не могли увидеть, но и проложить новые – благодаря силе человеческой креативности. Такие инструменты, как ChatGPT, Copilot и Pi, обучаются на материалах, созданных людьми о людях. Они не заменяют нас, а расширяют наши возможности.
Представьте себе находку ранее не замечавшейся нити мысли, которая проходит через Гёделя, Эшера, Баха, Караваджо, Руссо и Вивальди; или же находку идеи, которая свяжет вместе ингредиенты, которые случайно оказались у вас на кухне. Огромная коллекция человеческого творчества и всего внесённого ранее созидательного вклада разворачивается перед нами, подобно бесконечному гобелену. Теперь у нас есть инструменты, позволяющие использовать всё это так, как предыдущие поколения никогда не могли.
Вторая максима: «Мы являемся символами и обитаем в символах». Именно так Ральф Уолдо Эмерсон описывал то, как мы используем речь для понимания, объяснения и формирования мира. Мы, люди, всегда полагаемся на инструменты, а символы как раз и являются инструментами. Они позволяют нам создавать то, чего раньше никогда не существовало, и то, что не встречается в природе. Взгляните, например, на грифона с головой и крыльями орла, но телом льва. Это человеческое творение, отражающее некую реальность, которую мы бы хотели увидеть в мире. Люди создавали грифонов по уникальным человеческим причинам. И точно так же произошло с искусственным интеллектом.
Да, многие воображаемые создания – от монстра во «Франкенштейне» Мэри Шелли до убийцы-киборга в «Терминаторе» Джеймса Кэмерона – призваны играть роль предостережения. Мы естественным образом испытываем страх, когда впервые сталкиваемся с «другим» или «новым». Но грифон напоминает нам, что можно конвертировать страх в ощущение великих возможностей. Люди оказываются одновременно созидателями и продуктом своих символов, культуры, окружающей среды и решений. Вместе с ИИ мы сможем создавать больше грифонов.
Третья максима: нужно строить кафедральные соборы, поскольку они облагораживают нашу деятельность и превращают простые группы людей в товарищества. Соборы – это одно из самых потрясающих творений человечества, и поэтому неудивительно, что мы называем миссии, подобные посадке «Аполлона» на Луне, «кафедральными проектами». Разве не было бы замечательно, если бы такие проекты стали частью нашей повседневной жизни – как кафедральные соборы в европейских городах?
Secure your copy of PS Quarterly: The Climate Crucible
The newest issue of our magazine, PS Quarterly: The Climate Crucible, is here. To gain digital access to all of the magazine’s content, and receive your print copy, subscribe to PS Premium now.
Subscribe Now
Для таких проектов требуется много разных рук, работающих в унисон в разных регионах, сферах деятельности, а иногда даже принадлежащих разным поколениям. Как отмечал писатель и авиатор Антуан де Сент-Экзюпери, «кафедральный собор строится из камней; он состоит из камней; однако собор облагораживает каждый камень, превращая его в кафедральный камень». Научные открытия и технологические инновации – это камни в кафедральном соборе человеческого прогресса.
Истории открытия телескопа, радио, автомобиля, лифта, самолета и (в наше время) ИИ соответствуют этой модели. Многие узнали об ИИ благодаря новым коммерческим программам (например, ChatGPT), однако потребовалось несколько поколений инноваторов и изобретателей, чтобы мы пришли к этому. Нам нужны великие проекты (рожденные не только благодаря сотрудничеству, но и в здоровой конкуренции), чтобы мы обрели ощущение верного направления. Судя по тому, как мы проектируем и строим наши кафедральные соборы, можно сделать вывод, кто мы, и кем мы хотим быть.
Четвертая максима: мы должны идти на небольшие риски, чтобы получить хоть какую-то надежду справиться с крупными. Мы не должны пытаться ликвидировать риски вообще (это невозможно); нам следует приветствовать новые трудности, которые могут привести к провалу, потому что они открывают возможность для итераций, размышлений, обсуждений и непрерывного совершенствования.
Вспомните великое наблюдение экономиста Хаймана Мински по поводу финансовых кризисов. Он заметил, что «стабильность» может приводить к особой форме нестабильности. Избыток мер предосторожности в финансовой системе может сделать её хрупкой, а видимость безопасности означает, что никто не будет готов, когда система сломается.
Эти выводы применимы и к регулированию ИИ. Мы должны не просто стимулировать инновации; мы должны признать, что экспериментирование (то есть принятие на себя небольших рисков) само по себе является механизмом снижения рисков. В конечном итоге регулирование начнёт улучшаться, когда эти технологии будут внедряться шире, позволяя большому количеству людей опробовать их и интегрировать в свою жизнь. Это будет совместная работа с участием властей, частного сектора, прессы, научных кругов, общества – всех нас.
Пятая максима: именно технологии делают нас людьми. Если мы поверим, что ИИ – это антитезис к тезису человечества, нам придётся ждать будущее с киборгами – полулюдьми, полумашинами. Однако ситуация не совсем такова. Комбинация тезиса и антитезиса приводит не к их грубому смешению, а к появлению нового тезиса. Обе стороны совместно эволюционируют, а итоговым синтезом в данным случае оказывается улучшенный человек.
Кроме того, ИИ может помочь нам стать более человечными. Вспомните, насколько отзывчивыми, внимательными и терпеливыми могут быть речевые модели ИИ и чат-боты. Эти качества ИИ могут оказать на нас глубокое воздействие. Не у каждого имеется постоянный доступ к человеческой доброте и поддержке. Но когда такие ресурсы становятся легко доступными, у многих людей повышается способность к доброте и эмпатии. А эмпатия может порождать эмпатию. Думаю, этот аспект потенциала ИИ оценён пока ещё не в полной мере.
Шестая и последняя максима: на нас лежит обязанность сделать будущее таким, чтобы оно было лучше настоящего. Представьте, что в кармане у каждого имеется персональный цифровой врач или репетитор. Какими будут издержки, если это случится позже, а не раньше? В случае с технологиями скорость – это достоинство, потому что они обладают непревзойдённой способностью улучшать жизнь.
Каждый должен задаться вопросом, как мог бы выглядеть этот перспективный синтез. А вдруг мы вступим в новую эру человеческого процветания, когда исследования с использованием ИИ помогут нам открывать новые лекарства и начать своевременно использовать термоядерную энергию, избежав худших последствий изменения климата? Совершенно естественно вглядываться в тёмное неизвестное и размышлять о том, что ещё может пойти не так. Однако нужно (и это более человечно) думать о том, что ещё можно улучшить.
Статья основана на выступлении автора в Университете Перуджи в мае 2024 года.