23 ноября 2021 года состоялось очередное заседание Президиума Российской академии наук

Председательствует президент РАН академик РАН Александр Михайлович Сергеев.

На заседании состоялось подписание Соглашения о сотрудничестве между федеральным государственным бюджетным учреждением «Российская академия наук» и компанией «Сахалин Энерджи Инвестмент Компани Лтд.». Соглашение подписали президент РАН академик РАН Александр Михайлович Сергеев и главный исполнительный директор компании «Сахалин Энерджи Инвестмент Компани Лтд.» Роман Юрьевич Дашков.

х х х

Академик РАН Александр Михайлович Сергеев назвал имена ученых, награжденных государственными наградами Российской Федерации:

За большой вклад в развитие науки и многолетнюю добросовестную работу награждить:

Орденом «За заслуги перед Отечеством» III ст. — академика РАН Хабриева Рамила Усмановича, научного руководителя федерального государственного бюджетного научного учреждения «Национальный научно-исследовательский институт общественного здоровья имени Н.А. Семашко».

Орденом Александра Невского — академика РАН Марова Михаила Яковлевича, главного научного сотрудника федерального государственного бюджетного учреждения науки Ордена Ленина и Ордена Октябрьской Революции Института геохимии и аналитической химии имени В.И. Вернадского Российской академии наук.

Орденом Почета — академика РАН Базарова Бориса Вандановича, директора Института монголоведения, буддологии и тибетологии Сибирского отделения Российской академии наук.

Медалью ордена «За заслуги перед Отечеством» II ст. — академика РАН Сюняева Рашида Алиевича, главного научного сотрудника Института космических исследований Российской академии наук.

Орденом Александра Невского — академика РАН Гинцбурга Александра Леонидовича, директора федерального государственного бюджетного учреждения «Национальный исследовательский центр эпидемиологии и микробиологии имени почетного академика Н.Ф. Гамалеи».

Почетной грамотой Президента Российской Федерации — академика РАН Ильина Леонида Андреевича, почетного президента федерального государственного бюджетного учреждения «Государственный научный центр Российской Федерации — Федеральный медицинский биофизический центр имени А.И. Бурназяна».

х х х

Члены Президиума заслушали сообщение «Искусственный интеллект в контексте информационной безопасности».

Доклады:

«Безопасность технологий ИИ». Академик РАН Игорь Анатольевич Соколов, директор ФИЦ ИУ РАН, декан факультета вычислительной математики и кибернетики МГУ имени М.В. Ломоносова;

«Кибербезопасность в контексте искусственного интеллекта». Академик РАН Арутюн Ишханович Аветисян, директор Института системного программирования РАН, заведующий кафедрой системного программирования МГУ имени М.В. Ломоносова;

«Человек и системы искусственного интеллекта». Академик РАН Владислав Александрович Лекторский, декан философского факультета Государственного академического университета гуманитарных наук;

«Особенности применения технологий ИИ». Академик РАН Игорь Анатольевич Каляев, научный руководитель направления ЮФУ;

«Математические аспекты безопасности ИИ». Профессор РАН Константин Вячеславович Воронцов, профессор кафедры математических методов прогнозирования МГУ имени М.В. Ломоносова;

«Проблемы безопасности ИИ в РФ и исследования, ведущиеся в академии криптографии». Д.ф.-м.н. Александр Михайлович Шойтов, заместитель министра цифрового развития, связи и массовых коммуникаций РФ, президент Академии криптографии РФ.

Публикуем тезисы некоторых сообщений:

«Кибербезопасность в контексте искусственного интеллекта». Академик РАН Арутюн Ишханович Аветисян, директор Института системного программирования РАН, заведующий кафедрой системного программирования МГУ имени М.В. Ломоносова.

Доклад посвящен новым вызовам в сфере кибербезопасности, которые возникли в связи с широким внедрением технологий искусственного интеллекта (ИИ). Подробно рассматриваются возникающие угрозы и необходимость разработки сквозных технологий, обеспечивающих весь цикл создания и эксплуатации систем ИИ с заданным уровнем доверия. Доклад посвящен также организационным моделям создания и развития соответствующих технологий на примере Центра доверенного ИИ, созданного в ИСП РАН. Победа в конкурсном отборе по поддержке соответствующих исследовательских центров стала для института одним из главных событий 2021 года. Конкурс проводился в рамках федерального проекта «Искусственный интеллект», который курирует Минэкономразвития России. В числе партнёров Центра доверенного ИИ ИСП РАН — МФТИ, Сколтех, МНОЦ МГУ, Мехмат МГУ, Университет Иннополис, ННГУ, ИП РАН, МСЦ РАН, АО «Лаборатория Касперского», ЗАО «ЕС-Лизинг», «Интерпроком», «Технопром».

Тезисы доклада:

1. В 2018 году Президиум РАН принял решение о новом научном направлении «Анализ, трансформация программ и кибербезопасность». В 2021 году новая научная специальность ВАК «Кибербезопасность» была утверждена Приказом Минобрнауки №118. Она охватила такие направления исследований, как анализ и систематизация уязвимостей, моделирование политик информационной безопасности, угроз и атак, масштабируемые средства интеллектуального анализа данных и процессов в распределённых системах и др.

2. Инструменты поддержания необходимого уровня кибербезопасности специфичны и зависят от разрабатываемых систем (традиционных или встроенных); все эти инструменты требуют адаптации. Однако в связи с появлением и широким внедрением искусственного интеллекта (ИИ) появились новые принципиальные вызовы, которые требуют соответствующих фундаментальных результатов и инструментов.

3. Эти новые вызовы связаны с датацентричностью и заключаются в появлении новых классов атак — на обученные нейросетевые модели, причём эксплуатируемые уязвимости могут возникать либо внедряться на всех этапах жизненного цикла модели. Это атаки уклонения, кражи конфиденциальных данных и моделей и др.

4. В связи с этими угрозами необходимы методики их предотвращения, а также комплекс инструментов, обеспечивающий безопасность на всём жизненном цикле разработки систем ИИ с заданным уровнем доверия − от проектирования, сбора и подготовки данных до эксплуатации.

5. Долгосрочное развитие данной области науки, создание соответствующих методик и инструментов возможно только с помощью совместной работы академического сообщества, индустрии и государственных ведомств.

* *

«Человек и системы искусственного интеллекта». Академик РАН Владислав Александрович Лекторский, декан философского факультета Государственного академического университета гуманитарных наук.

Сегодня человек живёт в особом, никогда раньше не существовавшем мире, в котором созданные им самим технологии ИИ заставляют его по-новому жить, иначе понимать самого себя, в мире, в котором возникают новые возможности и новые угрозы, в котором вопросы, обсуждавшиеся философами веками, требуют нового осмысления и, не переставая быть теоретическими, становятся жгучими практическими проблемами.

1. Возникновение разработок в области ИИ побудило многих исследователей попытаться понять естественный интеллект на основании вычислительных моделей, разработанных в исследованиях по ИИ. Так возникла когнитивная наука, развивающаяся на протяжении 50 лет, в которую вошли когнитивная психология, когнитивная нейронаука, когнитивная лингвистика, философия познания и сознания. В рамках когнитивной науки было сделано немало, при этом за 50 лет в ней существенно менялись подходы и концепции. Вместе с тем эта наука продолжает оставаться ареной больших дискуссий по принципиальным проблемам, прежде всего по вопросу о возможностях и границах вычислительного подхода в понимании рациональности, познания, психической жизни и работы мозга. Главный из дискуссионных вопросов — вечный философский вопрос о характере и природе сознания, человеческой субъективности, свободы выбора, понимания и творчества, вопрос о природе норм — логических, познавательных, моральных, правовых, о взаимоотношении сущего и должного, ибо из того, что нечто существует, не следует, что это должно быть. Сами по себе вычислительные модели этих вопросов не решают.

2. Ускоряющееся использование систем ИИ во всех областях жизнедеятельности — в информационных технологиях, в экономике, в оборонном комплексе, в культуре, в образовании, в человеческих отношениях создало новые колоссальные возможности и вместе с тем породило ряд проблем, несущих угрозу тем ценностям, принятие которых делают человека человеком.

Это прежде всего ценность индивидуальной автономии, свободы выбора, понимание человеком смысла своих действий и вытекающая из этого ответственность за результаты. В том случае, когда искусственная интеллектуальная система рекомендует человеку определённые действия и к тому же, когда он не может понять, на основании чего даётся такого рода рекомендация (и система не понимает сама себя), он перестаёт воспринимать себя в качестве самостоятельной личности.

Возможность обработки больших данных с помощью ИИ и выявление таким путём эмпирических корреляций ставит вопрос о будущем научных исследований: высказываются мнения о том, что в этих условиях больше нет необходимости ни в гипотезах, ни в теориях, ни в экспериментах. Обнаруженные корреляции дают возможность предсказания без выявления причинных зависимостей, без объяснения и понимания.

Использование систем ИИ в собирании и обработке персональных данных взламывает границу между приватным и публичным пространством, создаёт возможность для манипуляции и управления поведением.

Всемирная информационная сеть и «Интернет вещей» ставят проблему границ индивидуальности и сохранения этих границ. Юристы обсуждают вопросы о возможности наделения правосубъектностью систем ИИ и о т.н. «машиночитаемом» праве, которое становится не понимаемым не только обычными гражданами, но и специалистами.

Словом, сегодня мир столкнулся с проблемой «дегуманизации». Исторически считалось, что именно разум, рациональность отделяет человека от животного. Сегодня в лице систем ИИ человек имеет дело с такого рода рациональностью, которая нередко ему чужда, в ряде случаев о непонятна и грозит ему лишением фундаментальных человеческих качеств.

Где же выход? Он может быть только одним: разработка таких систем ИИ, которые не враждебны, а доброжелательны в отношении человека, которые будут не хозяевами человека, а его помощниками. Это значит включение в программы искусственных интеллектуальных системы моральных норм (т.н. этичный и «доверенный» ИИ). Это предполагает разработку моральными философами и моральными психологами таких норм, учитывая при этом, что нормы, принятые в разных культурах, могут в чём-то различаться, что существуют, например, разногласия в понимании социальной справедливости, политических свобод и других ценностях.

Иными словами, разработка и использование систем ИИ ставит человека перед необходимостью нового понимания самого себя, своих возможностей и границ, перед необходимостью самосохранения и создания возможностей для саморазвития. Развитие систем ИИ в острейшей форме ставит главный мировоззренческий вопрос: «Что есть человек?».

* *

«Технологии искусственного интеллекта и безопасность информационного пространства». Д.ф.-м.н., профессор РАН, Константин Вячеславович Воронцов.

Информационные технологии Интернета, социальных сетей, поисковых и рекомендательных систем создают не только новые удобства и возможности для миллиардов людей, но и новые угрозы. Увеличилась скорость распространения недостоверной информации, лженаучных и конспирологических теорий, возникли явления автоматической генерации фейков, имитации общественного мнения с помощью ботнетов, образования информационных пузырей, маскировки пропаганды под видом инфотеймента. Эти и другие явления становятся сегодня инструментами политики постправды, направленными не только на манипулирование общественным мнением по отдельным вопросам, но и на ведение информационных войн, искажение картины мира и разрушение социокультурного кода массовых целевых аудиторий.

Противостоять угрозам в информационном медиа-пространстве невозможно без современных технологий машинного интеллекта, способных обрабатывать потоки текстовой и мультимедийной информации объёмом сотни миллионов сообщений в сутки. В интеллектуальном анализе данных стремительно выделилась новая область исследований — детекция фейковых новостей. К ней относятся задачи обнаружения обмана, автоматизированной проверки фактов, выявления противоречивых позиций, несогласия, поляризации общественного мнения, кликбэйтных (несоответствующих контенту) заголовков, оценивания достоверности источников. По всем этим задачам в последние годы предложены хорошо формализованные постановки, собраны наборы данных, проводятся соревнования. Число научных публикаций растёт экспоненциально с 2016 года, что говорит о возрастающем интересе к данной области исследований.

В то же время, недостаточно исследованными остаются те задачи машинного обучения, которые требуют более глубокой гуманитарной экспертизы: детекция речевых манипуляций, замалчивания и других приёмов пропаганды; выделение мифологем, идеологем и иных конструктов картины мира; предсказание психо-эмоциональных реакций и целевых аудиторий воздействия. Академические исследования в области пропаганды и информационных войн активно велись в предшествующие десятилетия представителями гуманитарных наук, практически без использования технологий искусственного интеллекта. Возможности для результативных междисциплинарных исследований возникли лишь несколько лет назад с появлением предобученных языковых моделей на основе глубоких нейронных сетей.

Задачи машинного обучения в данной области структурно делятся на четыре основных типа: классификация медиа-объекта; классификация отношения между парой медиа-объектов; выделение, привязка и классификация фрагмента медиа-объекта; кластеризация подмножества медиа-объектов. Общей особенностью этих задач является необходимость разметки обучающих выборок квалифицированными экспертами в области психолингвистики, медиалингвистики, журналистики, социологии.

Таким образом, мы сталкиваемся с необходимостью интенсификации междисциплинарных исследований в достаточно узком, но крайне значимом, классе задач автоматического понимания естественного языка и иных форм человеческой коммуникации. Формирование размеченных выборок текстовых и мультимодальных медиа-объектов становится одним из магистральных способов формализации гуманитарных знаний в этих задачах.

Технологии искусственного интеллекта и безопасность информационного пространства (pdf, 1 Мб)

* *

В обсуждении приняли участие:

ак. Р.И. Нигматулин, ак. М.П. Кирпичников, ак. В.И. Стародубов, ак. Г.Я. Красников, член-корр. В.В. Иванов.

х х х

Члены Президиума обсудили вопрос «Об утверждении программы работы Общего собрания членов РАН 14-15 декабря 2021 г.». В рамках Общего собрания членов РАН будет проведена научная сессия на тему «Роль науки в преодолении пандемий и посткризисном развитии общества».

х х х

На заседании рассмотрен вопрос о присуждении премии имени А.Н. Несмеянова 2021 года (представление Экспертной комиссии и бюро Отделения химии и наук о материалах) члену-корреспонденту РАН Усеину Меметовичу Джемилеву, доктору химических наук Владимиру Анатольевичу Дьяконову, доктору химических наук Ильфиру Рифовичу Рамазанову (Институт нефтехимии и катализа — обособленное структурное подразделение федерального государственного бюджетного научного учреждения Уфимского федерального исследовательского центра Российской академии наук) — за работу «Новые металлоорганические реакции, изменившие стратегию органического синтеза». Выдвинуты академиком РАН В.П. Ананиковым.

На заседании Экспертной комиссии присутствовали 10 членов Комиссии из 11. В соответствии с результатами тайного голосования единогласно к присуждению премии имени А.Н. Несмеянова 2021 года рекомендованы кандидатуры У.М. Джемилева, В.А. Дьяконова, И.Р. Рамазанова.

На заседании бюро Отделения химии и наук о материалах РАН присутствовали 32 члена Бюро из 48. В голосовании приняли участие 25 членов Бюро. В соответствии с результатами тайного голосования большинством голосов (за — 22, против — 3, недействительных бюллетеней — нет) в Президиум РАН представлен проект постановления о присуждении премии имени А.Н. Несмеянова 2021 года У.М. Джемилеву, В.А. Дьяконову, И.Р. Рамазанову.

Представленная работа относится к разработке и применению металлокомплексных катализаторов в органическом и металлоорганическом синтезе. Выполненные авторами фундаментальные исследования вносят основополагающий вклад в развитие новой области металлоорганической химии — химии малых, больших и гигантских металлокарбоциклов непереходных металлов. Авторами открыто явление каталитической замены в металлокарбоциклах атомов переходных металлов (Ti, Zr, Hf, Co) на атомы непереходных металлов (Mg, Zn, Al, Ga, B), что позволяет реализовывать принципиально новую синтетическую платформу для эффективных и технологичных методов синтеза широкого класса практически важных и ранее неописанных классов природных и синтетических биологически активных соединений.

Данные исследования подняли планку отечественной науки на современный международный уровень и хорошо известны далеко за пределами России.

х х х

На заседании рассмотрен вопрос о присуждении премии имени С.Ф. Ольденбурга 2021 года (представление Экспертной комиссии и бюро Отделения историко-филологических наук) кандидату исторических наук Наталье Павловне Свистуновой (Институт востоковедения Российской академии наук) за исследование «Законы Великой династии Мин со сводным комментарием и приложением постановлений (Да Мин люй цзе фу ли)» в 4-х томах. Выдвинута Ученым советом Института востоковедения Российской академии наук.

На заседании Экспертной комиссии присутствовали 10 членов Комиссии из 10. В соответствии с результатами тайного голосования единогласно к присуждению премии имени С.Ф. Ольденбурга 2021 года рекомендована кандидатура Н.П. Свистуновой.

На заседании бюро Отделения историко-филологических наук РАН присутствовали 19 членов Бюро из 26. В соответствии с результатами тайного голосования единогласно в Президиум РАН представлен проект постановления о присуждении премии имени С.Ф. Ольденбурга 2021 года Н.П. Свистуновой.

«Законы Великой династии Мин» — один из важнейших памятников традиционного китайского права, основа правовой системы Китая с конца XIV до середины XVII в., то есть в период наивысшего расцвета собственно китайской культуры. Кодекс, созданный в 1397 году после векового монгольского владычества и удивляющий своей разработанностью даже в наши дни, сочетает в себе желание опереться на домонгольские традиции китайского права с новаторским подходом ко многим вопросам. Кодекс является не только памятником истории права, но и ценнейшим источником для изучения повседневной жизни самых разных слоев населения Китая раннего Нового времени, отраженной в 460 статьях, а также в 405 дополнительных постановлениях, добавленных в период с 1443 по 1607 гг. с целью учета изменений, происходивших в стране.

Перевод Н.П. Свистуновой явился первым полным переводом кодекса на западный язык. Этот монументальный четырехтомник общим объемом почти в 2000 страниц и более 135 авторских листов, который готовился более полувека и издавался в течение 22 лет, стал фундаментальным вкладом в мировую синологию и вошел в число редчайших мировых рекордов отечественного востоковедения. Перевод также удачно устраняет лакуну между полными переводами предшествующего — танского (VII-X вв.) и последующего — цинского (XVII-XX вв.) законодательств, выпущенных ранее российскими учеными (В.М. Рыбаковым в 1999-2008 гг. и А.Л. Леонтьевым в 1781-1783 гг. соответственно).

Выход в свет осуществленного Н.П. Свистуновой перевода «Законов Великой династии Мин» — одно из крупнейших событий в истории отечественного китаеведения, редкий и замечательный пример получившего успешное завершение проекта, которому суждено стать основой множества работ по истории, праву и в целом культуре традиционного Китая.

х х х

На заседании рассмотрен вопрос о присуждении премии имени М.И. Хаджинова 2021 года (представление Экспертной комиссии и бюро Отделения сельскохозяйственных наук) кандидату сельскохозяйственных наук Юрию Владимировичу Сотченко, доктору сельскохозяйственных наук Николаю Алексеевичу Орлянскому, кандидату биологических наук Елене Федоровне Сотченко («Всероссийский научно-исследовательский институт кукурузы») за научно-исследовательскую работу «Создание и внедрение в производство раннеспелых гибридов кукурузы, позволивших расширить зону возделывания кукурузы на зерно и производство высокоэнергетического силоса». Выдвинуты Ученым советом федерального государственного бюджетного научного учреждения «Всероссийский научно-исследовательский институт кукурузы».

На заседании Экспертной комиссии присутствовали 7 членов Комиссии из 9.

В соответствии с результатами тайного голосования большинством голосов (за — 5, против — 2, недействительных бюллетеней — нет) к присуждению премии имени М.И. Хаджинова 2021 года рекомендованы кандидатуры Ю.В. Сотченко, Н.А. Орлянского, Е.Ф. Сотченко.

На заседании бюро Отделения сельскохозяйственных наук РАН присутствовали 23 члена Бюро из 32. В соответствии с результатами тайного голосования единогласно в Президиум РАН представлен проект постановления о присуждении премии имени М.И. Хаджинова 2021 года Ю.В. Сотченко, Н.А. Орлянскому, Е.Ф. Сотченко.

Авторами создано 86 гибридов кукурузы. Наибольшее использование в производстве имеют ультрараннеспелые гибриды Нур, Машук 150 МВ, Машук 140, Биляр 160, К 140, Байкал, Воронежский 58 МВ, Воронежский 160 СВ, Каскад 166 АСВ, Машук 170 МВ, Машук 171, Катерина СВ, Машук 175 МВ, Машук 185 МВ, Воронежский 175 АСВ, Каскад 185 МВ и среднеранние Ньютон, Машук 220 МВ, Машук 250 СВ.

Представленные гибриды созданы с использованием оригинальных линий, отселектированных авторами работы. Созданные линии и гибриды отличаются быстрой отдачей влаги зерном при созревании выровненности посева, высоким прикреплением початка, что особенно важно для раннеспелых гибридов. Большинство гибридов отличаются повышенной холодоустойчивостью и, благодаря этому, возможно высевать в ранние сроки при температуре почвы 6-8°, что позволяет максимально использовать зимне-весеннюю влагу.

Раннеспелые гибриды пригодны для повторных посевов для получения двух урожаев в условиях юга и особенно на орошении или достаточной влагообеспеченности. Работа по селекции и семеноводству раннеспелых гибридов кукурузы для нашей страны имеет особое значение.

Кукуруза, как высокоурожайная культура, превышающая другие зерновые по урожайности более чем в 1,5 раза, перспективна при использовании раннеспелых гибридов, которые позволят увеличить площадь посева кукурузы в регионах с ограниченным периодом вегетации и произвести 25 млн. тонн зерна, и при возделывании на силос получать высокоэнергетический корм.

х х х

Члены Президиума обсудили и приняли решения по ряду других научно-организационных вопросов.