НЬЮ-ЙОРК – Взгляните на два события последнего месяца. Губернатор Калифорнии Гэвин Ньюсом наложил вето на закон «О безопасности искусственного интеллекта», а Шведская королевская академия наук присудила Нобелевскую премию по химии Дэвиду Бейкеру, профессору Вашингтонского университета, а также Демису Хассабису и Джону Джамперу, сотрудникам компании DeepMind (подразделение Google) и выделенной из неё лаборатории Isomorphic Labs. Может показаться, что эти события мало связаны, однако в совокупности они позволяют сделать вывод, что передача человеческого будущего на аутсорсинг частным корпорациям, стремящимся к максимальной прибыли, это нечто достойное похвалы.
Калифорнийский закон не был идеальным, но он представлял собой первую содержательную попытку привлечь разработчиков искусственного интеллекта (ИИ) к ответственности за потенциальный вред, который могут нанести их ИИ-модели. В законопроекте говорилось не просто о любых рисках, а о «критически значимом вреде», например, создании оружия массового поражения или причинении ущерба на сумму не менее $500 млн.
Техносектор, включая Google, яростно лоббировал против этого закона, используя очень старый аргумент. Как выразилась редакция газеты «Financial Times», новое регулирование может «помешать… появлению инноваций, которые способны помочь в диагностике болезней, ускорить научные исследования, повысить производительность». В который уже раз этот ущерб от упущенных возможностей считается более значительным, чем ущерб, который может нанести ИИ, ограничивая способность людей контролировать свою судьбу или мирно жить в обществе.
2024-й стал первым годом в истории, когда Нобелевская премия в сфере естественных наук была присуждена сотрудникам транснациональной корпорации. Все предыдущие лауреаты являлись профессорами университетов или сотрудниками научно-исследовательских институтов, финансируемых государством; все они публиковали результаты своих исследований в рецензируемых журналах, сделав их результаты доступными всему миру. Хотела того Шведская академия или нет, но её решение наградить сотрудников Google помогает легитимизировать приватизацию науки, которая перестала быть частью общего достояния человечества. Как это случилось со многими другими ресурсами ранее, наука об ИИ спрятана в огороженном саду, доступном лишь для тех, кто может заплатить за вход.
Да, ИИ-модель AlphaFold2, которая принесла Хассабису и Джамперу премию, вместе с исходным кодом была выложена в открытый доступ. Как говорится на сайте AlphaFold.com, «Google DeepMind и Европейский институт биоинформатики EMBL-EBI сформировали партнёрство, чтобы создать базу данных AlphaFold и сделать предсказания [структуры белков] бесплатно доступными научному сообществу». Но, с другой стороны, компания DeepMind владеет множеством патентов на AlphaFold. И, согласно логике прав собственности, именно эта компания, а не общество, всегда будет иметь последнее слово в вопросах использования этой технологии. Сайт AlphaFold находится в доменной зоне «.com», подчёркивая фундаментальное отличие от, скажем, проекта «Геном человека», расположенного в зоне «.gov».
В мире информационных технологий «бесплатное» никогда не бывает бесплатным. Оплата производится данными, а не долларами. Данные, позволяющие AlphaFold предсказывать трехмерную структуру белка, находятся в общественном достоянии. А партнёром DeepMind в проекте разработки AlphaFold стала межправительственная исследовательская организация, финансируемая более чем 20 странами ЕС. По словам Джампера, «публичные данные были абсолютно необходимы для разработки AlphaFold». Без данных, собранных и организованных учеными, которые получали за это деньги налогоплательщиков, не было бы никакой модели AlphaFold.
At a time of escalating global turmoil, there is an urgent need for incisive, informed analysis of the issues and questions driving the news – just what PS has always provided.
Subscribe to Digital or Digital Plus now to secure your discount.
Subscribe Now
Несмотря на дальновидность госслужащих, создававших эту огромную базу данных, правительства регулярно подвергают пренебрежительной критике за отсутствие знаний, навыков, ресурсов и дальновидности, необходимых для содействия инновациям, а также научному и экономическому прогрессу. Нам постоянно говорят, что только частный сектор, с его убедительными финансовыми стимулами, способен делать всё возможное, чтобы толкать мир вперед.
В реальности же частный сектор регулярно пользуется бесплатными результатами трудов учёных, получающих государственные деньги или работающих в государственных научно-исследовательских институтах. Первый спутник был запущен правительством США, а не Илон Маском; американская армия создала интернет до того, как он был коммерциализирован; фармацевтические компании редко вкладываются в фундаментальные научные исследования. А зачем им это делать, если можно просто подождать, пока ученые, финансируемые Национальными институтами здравоохранения США или аналогичными ведомствами, достигнут стадии, когда уже станут возможны прибыльные инвестиции?
Такова логика корпораций, стремящихся к прибыли. Их цель – финансовая отдача, а не человеческий прогресс. Вступив в игру, они стараются монополизировать научные знания, регистрируя патенты или скрывая свои открытия за барьерами законодательства о коммерческой тайне. Без помогающей руки государства у них бы не было ни фундаментальной науки, ни юридической защиты монополий, которые приносят им огромные прибыли, и которые они предъявляют затем в качестве доказательства своего превосходства над государством.
Нетрудно понять, почему частным компаниям нравится эта игра. Загадка в том, почему правительства с готовностью им подыгрывают, отдавая им результаты многолетних научных исследований, профинансированных государством, без каких-либо гарантий, что общество сможет повлиять на способы их использования. Калифорнийский закон должен был обязать разработчиков включать в ИИ-модели возможность их полного выключения в случае возникновения проблем, но эта норма была заблокирована вместе со всем законопроектом.
Нет ничего нового в аргументации, согласно которой, если мы мало знаем о будущем ущербе, следует воздерживаться от вмешательства в работу «частных» рынков, ведь они всегда работают лучше без «вмешательства» государства. Нефтегазовые компании использовали эти аргументы для отрицания угрозы изменения климата и своей роль в нём, хотя даже их собственные исследования доказывали обратное. И опять всё то же самое. Нам явно предлагают доверить своё будущее частным корпорациям, чья единственная цель – максимально увеличить акционерную стоимость. Разве может что-то пойти не так?
To have unlimited access to our content including in-depth commentaries, book reviews, exclusive interviews, PS OnPoint and PS The Big Picture, please subscribe
With German voters clearly demanding comprehensive change, the far right has been capitalizing on the public's discontent and benefiting from broader global political trends. If the country's democratic parties cannot deliver, they may soon find that they are no longer the mainstream.
explains why the outcome may decide whether the political “firewall” against the far right can hold.
The Russian and (now) American vision of "peace" in Ukraine would be no peace at all. The immediate task for Europe is not only to navigate Donald’s Trump unilateral pursuit of a settlement, but also to ensure that any deal does not increase the likelihood of an even wider war.
sees a Korea-style armistice with security guarantees as the only viable option in Ukraine.
Rather than engage in lengthy discussions to pry concessions from Russia, US President Donald Trump seems committed to giving the Kremlin whatever it wants to end the Ukraine war. But rewarding the aggressor and punishing the victim would amount to setting the stage for the next war.
warns that by punishing the victim, the US is setting up Europe for another war.
Within his first month back in the White House, Donald Trump has upended US foreign policy and launched an all-out assault on the country’s constitutional order. With US institutions bowing or buckling as the administration takes executive power to unprecedented extremes, the establishment of an authoritarian regime cannot be ruled out.
The rapid advance of AI might create the illusion that we have created a form of algorithmic intelligence capable of understanding us as deeply as we understand one another. But these systems will always lack the essential qualities of human intelligence.
explains why even cutting-edge innovations are not immune to the world’s inherent unpredictability.
НЬЮ-ЙОРК – Взгляните на два события последнего месяца. Губернатор Калифорнии Гэвин Ньюсом наложил вето на закон «О безопасности искусственного интеллекта», а Шведская королевская академия наук присудила Нобелевскую премию по химии Дэвиду Бейкеру, профессору Вашингтонского университета, а также Демису Хассабису и Джону Джамперу, сотрудникам компании DeepMind (подразделение Google) и выделенной из неё лаборатории Isomorphic Labs. Может показаться, что эти события мало связаны, однако в совокупности они позволяют сделать вывод, что передача человеческого будущего на аутсорсинг частным корпорациям, стремящимся к максимальной прибыли, это нечто достойное похвалы.
Калифорнийский закон не был идеальным, но он представлял собой первую содержательную попытку привлечь разработчиков искусственного интеллекта (ИИ) к ответственности за потенциальный вред, который могут нанести их ИИ-модели. В законопроекте говорилось не просто о любых рисках, а о «критически значимом вреде», например, создании оружия массового поражения или причинении ущерба на сумму не менее $500 млн.
Техносектор, включая Google, яростно лоббировал против этого закона, используя очень старый аргумент. Как выразилась редакция газеты «Financial Times», новое регулирование может «помешать… появлению инноваций, которые способны помочь в диагностике болезней, ускорить научные исследования, повысить производительность». В который уже раз этот ущерб от упущенных возможностей считается более значительным, чем ущерб, который может нанести ИИ, ограничивая способность людей контролировать свою судьбу или мирно жить в обществе.
2024-й стал первым годом в истории, когда Нобелевская премия в сфере естественных наук была присуждена сотрудникам транснациональной корпорации. Все предыдущие лауреаты являлись профессорами университетов или сотрудниками научно-исследовательских институтов, финансируемых государством; все они публиковали результаты своих исследований в рецензируемых журналах, сделав их результаты доступными всему миру. Хотела того Шведская академия или нет, но её решение наградить сотрудников Google помогает легитимизировать приватизацию науки, которая перестала быть частью общего достояния человечества. Как это случилось со многими другими ресурсами ранее, наука об ИИ спрятана в огороженном саду, доступном лишь для тех, кто может заплатить за вход.
Да, ИИ-модель AlphaFold2, которая принесла Хассабису и Джамперу премию, вместе с исходным кодом была выложена в открытый доступ. Как говорится на сайте AlphaFold.com, «Google DeepMind и Европейский институт биоинформатики EMBL-EBI сформировали партнёрство, чтобы создать базу данных AlphaFold и сделать предсказания [структуры белков] бесплатно доступными научному сообществу». Но, с другой стороны, компания DeepMind владеет множеством патентов на AlphaFold. И, согласно логике прав собственности, именно эта компания, а не общество, всегда будет иметь последнее слово в вопросах использования этой технологии. Сайт AlphaFold находится в доменной зоне «.com», подчёркивая фундаментальное отличие от, скажем, проекта «Геном человека», расположенного в зоне «.gov».
В мире информационных технологий «бесплатное» никогда не бывает бесплатным. Оплата производится данными, а не долларами. Данные, позволяющие AlphaFold предсказывать трехмерную структуру белка, находятся в общественном достоянии. А партнёром DeepMind в проекте разработки AlphaFold стала межправительственная исследовательская организация, финансируемая более чем 20 странами ЕС. По словам Джампера, «публичные данные были абсолютно необходимы для разработки AlphaFold». Без данных, собранных и организованных учеными, которые получали за это деньги налогоплательщиков, не было бы никакой модели AlphaFold.
Winter Sale: Save 40% on a new PS subscription
At a time of escalating global turmoil, there is an urgent need for incisive, informed analysis of the issues and questions driving the news – just what PS has always provided.
Subscribe to Digital or Digital Plus now to secure your discount.
Subscribe Now
Несмотря на дальновидность госслужащих, создававших эту огромную базу данных, правительства регулярно подвергают пренебрежительной критике за отсутствие знаний, навыков, ресурсов и дальновидности, необходимых для содействия инновациям, а также научному и экономическому прогрессу. Нам постоянно говорят, что только частный сектор, с его убедительными финансовыми стимулами, способен делать всё возможное, чтобы толкать мир вперед.
В реальности же частный сектор регулярно пользуется бесплатными результатами трудов учёных, получающих государственные деньги или работающих в государственных научно-исследовательских институтах. Первый спутник был запущен правительством США, а не Илон Маском; американская армия создала интернет до того, как он был коммерциализирован; фармацевтические компании редко вкладываются в фундаментальные научные исследования. А зачем им это делать, если можно просто подождать, пока ученые, финансируемые Национальными институтами здравоохранения США или аналогичными ведомствами, достигнут стадии, когда уже станут возможны прибыльные инвестиции?
Такова логика корпораций, стремящихся к прибыли. Их цель – финансовая отдача, а не человеческий прогресс. Вступив в игру, они стараются монополизировать научные знания, регистрируя патенты или скрывая свои открытия за барьерами законодательства о коммерческой тайне. Без помогающей руки государства у них бы не было ни фундаментальной науки, ни юридической защиты монополий, которые приносят им огромные прибыли, и которые они предъявляют затем в качестве доказательства своего превосходства над государством.
Нетрудно понять, почему частным компаниям нравится эта игра. Загадка в том, почему правительства с готовностью им подыгрывают, отдавая им результаты многолетних научных исследований, профинансированных государством, без каких-либо гарантий, что общество сможет повлиять на способы их использования. Калифорнийский закон должен был обязать разработчиков включать в ИИ-модели возможность их полного выключения в случае возникновения проблем, но эта норма была заблокирована вместе со всем законопроектом.
Нет ничего нового в аргументации, согласно которой, если мы мало знаем о будущем ущербе, следует воздерживаться от вмешательства в работу «частных» рынков, ведь они всегда работают лучше без «вмешательства» государства. Нефтегазовые компании использовали эти аргументы для отрицания угрозы изменения климата и своей роль в нём, хотя даже их собственные исследования доказывали обратное. И опять всё то же самое. Нам явно предлагают доверить своё будущее частным корпорациям, чья единственная цель – максимально увеличить акционерную стоимость. Разве может что-то пойти не так?