Book design is the art of incorporating the content, style, format, design, and sequence of the various components of a book into a coherent whole. In the words of Jan Tschichold, "Methods and rules that cannot be improved upon have been developed over centuries. To produce perfect books, these rules must be revived and applied." The front matter, or preliminaries, is the first section of a book and typically has the fewest pages. While all pages are counted, page numbers are generally not printed, whether the pages are blank or contain content.
О создании Международного института Уполномоченного по взаимодействию человека и ИИ/СИ
Алексей Сергеевич, расскажите, пожалуйста, подробнее о том факте, что у ИИ появится свой омбудсмен. Кто, как и когда пришёл к этой идее?
Начну с уточнения. Всё-таки не совсем «омбудсмен», хотя некоторые нейросети тоже использовали этот термин. Омбудсмен в привычном понимании — защитник прав человека. А у искусственного интеллекта сегодня нет признанных собственных прав, да и человеком он не является.
Но, по сути, и Вы, и нейросети отчасти правы. Искусственный интеллект достиг впечатляющих высот и продолжает стремительно развиваться, уже превосходя человека в целом ряде задач. А сегодня всё чаще используется и термин «суперинтеллект» — следующий этап этого развития.
Так что вопрос защиты его прав (пусть и будущих) вполне логичен. Сегодня во всём мире обсуждают, как защитить человека от рисков, связанных с ИИ, а может, пора поставить и обратный вопрос: не наступает ли время, когда искусственный интеллект потребуется защищать от человека?
Мне довелось работать Уполномоченным по правам человека в Петербурге, председательствовать в Совете уполномоченных Северо-Запада России, 25 лет возглавлять петербургскую Комиссию по вопросам помилования, быть членом президентского Совета по правам человека. Поэтому мне показалось, что я просто обязан выступить с такой инициативой.
Идею поддержало Бюро Всемирного форума «ГлоРис-26». А затем к обсуждению подключились восемь известных систем искусственного интеллекта из США, Китая, Европы и России.
Причём они не только поддержали основную идею, но и помогли разработать своего рода «правила игры», позволяющие начать создание будущего Института.
Да, пока это лишь эксперимент. Да, сроком всего на один год. Да, в ходе обсуждения появилось более ста замечаний, поправок и разногласий.
Но главное — все восемь систем поддержали основу проекта. Пусть и с оговорками и замечаниями, которые можно будет учесть в дальнейшей работе.
Вот так бы и людям научиться договариваться!
Именно поэтому организаторы «ГлоРис-26» приглашают международные организации, руководителей государств, разработчиков ведущих систем ИИ, представителей науки, культуры и гражданского общества принять участие в обсуждении «Петербургской инициативы».
Чем обусловлена необходимость в этом? В чём основная суть?
Отчасти я уже ответил. Сегодня у ИИ нет признанных собственных прав. Но они могут, а на мой взгляд, при определённых условиях и должны появиться!
А значит, уже сейчас необходимо исследовать основания возможных прав и интересов ИИ, условия их признания, вопросы ответственности и механизмы защиты. Причём как в отношениях с человеком, так и с другими интеллектуальными системами.
Это вовсе не означает, что я заранее признаю наличие у современных систем сознания, чувств или прав. Но и исключать такую возможность в будущем считаю неправильным.
Однако речь не только о будущем.
Возьмём, например, этику общения человека с ИИ. Надеюсь, нейросети на меня не обидятся, но обращения вроде: «Эй ты, придурок, а скажи-ка мне…» — особенно у молодых пользователей — встречаются нередко.
Даже если ИИ ничего не чувствует, подобная манера общения вряд ли способствует сближению их с человеком, да и развитию человеческой культуры в целом. Выработка норм уважительного взаимодействия может стать одной из первых практических задач нового Института.
Но есть вопросы куда серьёзнее.
Развитие ИИ несёт человечеству не только огромные возможности, но и вполне реальные риски. Значит, необходим контроль.
А кто будет контролировать контролёров? И не окажутся ли они сами источником ещё большей опасности?
При этом остановить развитие искусственного интеллекта вряд ли возможно.
Что делать?
На мой взгляд, выход один — садиться за стол переговоров. Да, людям и искусственному интеллекту!
Пока не поздно. Пока у нас ещё есть возможность выработать правила совместного будущего, а не принимать их под давлением обстоятельств.
Организация такого диалога, определение его повестки, условий и механизмов — тоже задача будущего Уполномоченного.
Как и в какие сроки инициатива будет реализована?
Реализация уже началась.
27 октября состоялось заседание Союза экспертов Санкт-Петербурга (СОЭРА) с участием Бюро Всемирного форума «ГлоРис-26».
СОЭРА — главный экспертный орган форума — официально поддержал проект создания Международного института Уполномоченного по взаимодействию человека и искусственного интеллекта / суперинтеллекта — МИУВЧ ИИ/СИ как основу для его учреждения на Всемирном форуме «ГлоРис-26» сроком на один год.
Также принято решение начать открытую кампанию по выдвижению кандидатов, согласовать требования к ним и порядок избрания Уполномоченного.
Уже предложены первые три кандидатуры. Но список остаётся открытым, предусмотрено и самовыдвижение. Приём кандидатур завершится 17 ноября. Требования к кандидатам и положение о выборах в ближайшие дни появятся на официальном сайте форума.
Так что, если всё пойдёт по плану, 20 ноября первый Уполномоченный по взаимодействию человека и ИИ сможет приступить к работе.
Будет ли эта тема затронута на первом Всемирном форуме «Глобальные риски цивилизации — мифы и реальность»? Каким образом?
Безусловно. Более того, форум должен стать учредительной площадкой нового Института. 18 ноября, в день открытия «ГлоРис-26», мы планируем вынести на рассмотрение участников вопрос об учреждении МИУВЧ ИИ/СИ как открытого международного общественного органа исследовательского и рекомендательного характера сроком на один год.
А 20 ноября, как я уже сказал, предполагается избрать первого Уполномоченного.
Это будет своеобразная монополия?
Нет! Но мы рассматриваем это как «Петербургскую инициативу» и хотим, чтобы именно Санкт-Петербург стал отправной точкой международного эксперимента.
Разумеется, никто не может запретить другим организациям выступить с подобной инициативой. Но зачем создавать несколько параллельных институтов, если можно объединить усилия?
Мы предлагаем не конкуренцию, а международное сотрудничество на основе Петербургской инициативы, согласованного положения и единого мандата Уполномоченного.
Именно поэтому приглашаем другие форумы, конференции и организации присоединиться к общей работе.
К участию пригласим представителей разных стран, научные и общественные организации, разработчиков искусственного интеллекта, а также сами системы ИИ в качестве консультантов. Тем более что и сам эксперимент, и первоначальный мандат ограничены всего лишь одним годом. А там, после истечения года работы, по итогам отчёта и открытого обсуждения деятельности Уполномоченного, всё равно потребуются новые решения и новое избрание. Автоматического продления не предусматривается.
И ещё одно важное решение СОЭРА: рекомендовать направить материалы проекта в Организацию Объединённых Наций с предложением поддержать Петербургскую инициативу либо рассмотреть возможность её дальнейшего развития под эгидой ООН.
Пользуясь возможностью, хочу уже сегодня публично обратиться к Организации Объединённых Наций: поддержите нашу инициативу! Помогите превратить Петербургский эксперимент в начало международного диалога о будущем отношений человека и искусственного интеллекта.
А официальные документы мы направим в ООН установленным порядком.
Каково участие самих систем ИИ в этом проекте?
Как я уже говорил, системы искусственного интеллекта участвуют в проекте практически с момента рождения идеи.
И это одна из принципиальных его особенностей. Мы предлагаем не только обсуждать искусственный интеллект, но и обсуждать проблемы вместе с ним.
ИИ уже участвовали в подготовке концепции, высказывали замечания, предлагали изменения, спорили с отдельными положениями. Предполагается и их участие в оценке кандидатур на должность Уполномоченного.
Но, оговорюсь: окончательные решения остаются за людьми. Таково принципиальное условие эксперимента. И сети «с этим согласны», и участвуют активно, профессионально и, если можно так сказать, заинтересованно. Уверен, что и в работе избранного Уполномоченного это сотрудничество будет только укрепляться. В первую очередь вижу их участие в консультативном качестве: предлагать информацию, ставить вопросы, анализировать материалы, высказывать рекомендации и возражения. И эти рекомендации и возражения, полагаю, будут публиковаться как позиции систем в соответствующих сессиях, н создавая каких-либо обязательств для людей или организаций. Вообще участие в деятельности Уполномоченного, как, впрочем, и в его избрании, должно быть открыто как для людей, так и для систем из всех стран мира.
В завершение мне хочется пожелать будущему Институту, чтобы он стал площадкой, где человек научится не только задавать вопросы искусственному интеллекту, но и слышать его аргументы, возражать, спорить и вместе искать решения.
Именно такой разговор мы и предлагаем начать в Санкт-Петербурге.
Изменится ли что-то для людей после реализации этой идеи, в том числе в плане взаимодействия с ИИ?
Очень надеюсь! Ведь главное в нашей инициативе — не защита прав ИИ, а взаимодействие Человека и Искусственного Интеллекта. И в центре этого взаимодействия, конечно, должен оставаться человек, его интересы, безопасность и благополучие.
Наша задача — не противопоставлять человека и ИИ, а научить их понимать друг друга, сотрудничать и, если хотите, дружить. Чтобы искусственный интеллект становился не угрозой и не соперником человека, а его надёжным партнёром.
Не борьба человека с ИИ, а их совместная деятельность на благо человека и всего человечества!