http://www.ras.ru/digest/showdnews.aspx?id=8b66a41e-6f23-4d77-a7a3-5f08b7b3909c&print=1© 2024 Российская академия наук
Будет ли искусственный интеллект управлять людьми?
Может ли искусственный интеллект сочинять, как Пушкин, рисовать, как Рафаэль, писать, как Толстой, или играть, как Паганини?
Обо этом шла речь на "круглом столе" в Академии наук РФ, организованном "Российской газетой". Собрались ведущие специалисты, изучающие вопросы искусственного интеллекта ("ии") и работу человеческого мозга: В.П. Чехонин, академик РАН, вице-президент РАН, руководитель отдела фундаментальной и прикладной нейробиологии Центра социальной и судебной психиатрии им. В.П. Сербского; М.А. Пирадов, академик РАН, директор Научного центра неврологии; К.В. Анохин, академик РАН, директор Института перспективных исследований мозга МГУ им. М.В. Ломоносова.
Полтора года назад, в октябре 2018-го, на аукционе Christie"s был продан портрет за полмиллиона долларов. Это была первая в истории картина, написанная искусственным интеллектом. Он вначале проанализировал 15 000 портретов за последние пять веков - и написал свой, вполне себе оригинальный. Через полгода американская компания Warner Music заключила первый в мире контракт с исполнителем - интеллектом Endel. За год эта искусственная нейросеть обещала выпустить несколько дисков. Вскоре в США появился и первый виртуальный композитор AIVA, пишущий симфонии. Его, кстати, признала как равного профессиональная музыкальная ассоциация. Тремя годами ранее другой "ии", проанализировав 11 тысяч неизданных книг, "сел" и написал два романа и повесть. "Ии" сегодня может сочинять стихи, придумывать сказки, даже лепить скульптуры. Да, не уровня Пушкина, братьев Гримм и Родена. Но главное - он реально творит. Занимается тем, что, казалось, всегда было сферой живого, человеческого сознания.
Владимир Чехонин: Вы правы, "ии" поднялся до небывалых высот. И тем не менее он - вторичен. Ведь интеллект работает по алгоритмам, которые закладывает человек. Хотя сейчас идут разработки "ии", способного на неожиданные, не поддающейся стандартной логике решения. Но даже в этом случае программу с возможным креативом пишет, прогнозирует этот всплеск креатива ее создатель, программист-нейрофизиолог. Кто во всех приведенных вами примерах вложил элементы человеческого сознания в программу нейросети? Кто поставил задачу написать портрет или роман, или четверостишие? Человек. Оторвать машину от него невозможно. На данном во всяком случае этапе. Программист-нейрофизиолог предполагает те осознанные действия интеллекта, которые выглядят, как его собственные, разумные решения. В будущем, конечно, "ии" наверняка пойдет и дальше.
А, может, уже пошел? Термин искусственный интеллект впервые прозвучал в 1956 году на научной конференции в Дартмутском университете в США в речи ученого Джона Маккарти. Спустя всего 61 год была создана поразившая огромное количество шахматистов интеллектуальная программа AlphaZero. 5 декабря 2017 года она за 4 часа в 100 партиях разгромила в пух и прах - нет, не сильнейших шахматистов мира, с ними к тому времени легко уже расправлялась компьютерная программа Stockfish 8, анализировавшая немыслимые 80 миллионов ходов в секунду. AlphaZero разгромила именно ее. И как! До начала игры "ии" были известны лишь две вещи: как ходят фигуры на доске и цель игры - мат. Больше ничего, вообще. Интеллект начал с нуля и через час самообучения стал сильнейшим игроком на планете. Честно говоря, даже трудно представить, как далеко шагнет "ии" уже в следующие 60 или 100 лет. Терминатор, Ария из фильма "На крючке", репликанты из "Бегущий по лезвию" могут показаться по сравнению с ним надувными шариками из "Детского мира".
Михаил Пирадов: Да, представить сложно, но еще сложней предсказать - к чему развитие "ии" в итоге приведет. Ведь главное его отличие от обычных компьютерных программ - возможность самообучения, самосовершенствования, не зря ведь его называют еще нейросетью по аналогии с мозгом. Другими словами, "ии" сам себя может "сделать". И каким он себя "сделает" - еще вопрос, из которого вытекает другой: а доживем ли мы как цивилизация до превращения "ии" в подобие Сверхразума? И вообще: существует ли в принципе предел возможностей "ии"? В конце концов не станет ли он доминировать над человечеством? По космическим меркам наш мир живет секунды. Конечно, это довольно спекулятивная вещь, но есть предположения, что мы не первая цивилизация на Земле. Но, если предположить хотя бы на миг, что какие-то цивилизации были до нас, то что привело к их исчезновению - термоядерные конфликты вследствие столкновения разумных существ друг с другом или столкновения с искусственным интеллектом, вышедшим из-под контроля?
Доживем ли мы как цивилизация до превращения искусственного интеллекта в подобие Сверхразума? И существует ли в принципе предел возможностей "ии"?
Возвращаясь в день сегодняшний, замечу: далеко не все современные лидеры научно-технического прогресса так уж радостно прогнозируют совершенствование "ии". Илон Маск, например, тратящий свои миллиарды не на фешенебельные яхты, как многие другие мультимиллиардеры, а на поднятие человечества на более высокую ступень развития, считает, что "ии" очень скоро станет пострашнее ядерной бомбы. И он в таких прогнозах не одинок. Так что давайте пока поговорим о том, что уже есть или появится в недалеком будущем с помощью "ии".
Найдено лекарство от рака
Давайте: беспилотные машины, самолеты, медицинская диагностика, создание новых лекарств, абсолютно весь быт, начиная от приготовления пищи и заканчивая стиркой, глажкой домашним роботом, поливкой растений, заказом пиццы или десертов из ресторана к приходу хозяина, все банковские операции, любые общения с клиентами по любой ситуации, "ии" вместо судей, военные системы, воюющие без присутствия человека на поле боя… Что еще?
Константин Анохин: Много чего. Но заметьте: перечисленные функции "ии" - это задачи для узконаправленной нейросети. Той, которая сильна в чем-то одном: вычислении, распознавании лиц, оперировании какими-то данными, будь то банковские, медицинские или военные. Благодаря этому вы всегда сможете отличить "ии" от человека - вспомните дублей, которые изготавливали для себя научные сотрудники НИИЧАВО в фильме "Понедельник начинается в субботу".
Следующим придет универсальный "ии", который, как и человек, будет способен на разные действия и операции. Сейчас он решает сложную математическую задачу, потом уберет квартиру, приведет ребенка из детсада, накормит его обедом. Сегодня подобное невозможно, но многие научные центры работают над этим. Фундаментально важен следующий, третий шаг. Искусственный интеллект пока еще - только про "делать", не про "ощущать". Ни один самый мощный "ии" не знает о своем собственном существовании. Сможет ли человек создать "ии"-системы, которые будут обладать внутренним "я", самоидентификацией, субъективным опытом? Другими словами, существовать на том же уровне бытия, что и мы? И, если да, то кто и как будет решать вопрос о прекращении "жизни" этих существ?
Почему "ии", обладая фантастической памятью, вычислительными способностями, вариантными возможностями, до сих пор не "подсказал" ученым пути создания лекарств от самых агрессивных форм рака, рассеянного склероза, мышечной атрофии, от того же коронавируса?
Владимир Чехонин: По сути, на руководимый мной Совет по научному сопровождению Национальной лекарственной политики возложена ответственность за поиск новых фармпрепаратов, поэтому я отвечу. На сегодняшний день такая помощь от "ии" невозможна. В этой сфере интеллект еще пока слабый. Мы много работаем над моделированием лекарственных препаратов. И ряд продвинутых интеллектуальных программ рекомендуют нам множество определенных химических соединений. Начинаем проверять - соединения не работают. Особенно это касается лекарств, контролирующих высшую нервную деятельность. Мы, да и никто в мире не можем сегодня создать препараты, которые заставят человека продуктивнее мыслить, находить неожиданные решения, идти вопреки логике. Можно заставить его быть более энергичным, работоспособным, но более креативным - не получится. Нужны другие машины с другой мощностью - 200-300 петафлопс (1 петафлопс равен 1 квадриллиону операций в секунду. - Ред.). И тогда, быть может, в один по-настоящему прекрасный день какой-то "ии" выдаст: "Найдено лекарство от злокачественной опухоли мозга".
То есть в самых сложных вопросах мы будем ждать чуда от машины, набитой всевозможными кодами, цифрами, по сути - обыкновенными математическими функциями?
Владимир Чехонин: Контроль в любом случае останется за человеком. Мы ведь до сих пор не знаем, как работает наш интеллект. Как и где формируются мысли, эмоции. Мы не можем смоделировать работу кусочка биомассы весом полтора килограмма. И если в этом нам поможет "ии", - скажем ему спасибо.
Тайна между ушами
Поистине парадоксальная ситуация: космические зонды "Вояджер" и "Пионер" летят уже в другие галактики, а мы на Земле не можем разобраться, как работает серо-белое вещество, расположенное между ушами.
Константин Анохин: Парадокса никакого нет. Эволюция трудилась над созданием серого вещества примерно 500 миллионов лет. Почти все гены человеческого генома, более 80 процентов, вовлечены в работу над этим шедевром - мозгом. По сравнению с ним создать печень, сердце, почки - ерундовое дело. Мозг человека состоит из почти 100 миллиардов нейронов, у каждого нейрона 10 тысяч связей с другими нейронами, это 100 триллионов общих связей, а возможных их комбинаций больше, чем элементарных частиц в известной Вселенной. При этом в долю секунды все эти астрономические степени свободы способны сжаться в один-единственный образ, мысль, действие, ответ. В такой поистине волшебный момент в мозге происходит интеграция невероятного количества информации. Решить загадку, как это происходит, - вершина того, что может постичь человеческий разум.
Но хоть что-то мы знаем о работе мозга? Где, например, находится сознание, разум, душа, если хотите?
Михаил Пирадов: О том, как функционирует мозг, есть определенные представления, но они и близко не отражают всей сложности процессов, происходящих в нем. На их изучение брошены огромные интеллектуальные силы и средства. Каждая четвертая статья, выходящая в мире, посвящена биомедицине, и две трети из них, в свою очередь, посвящены наукам о мозге. Почему? Мозг - это Мы.
Увы, наши земные технологии еще не столь совершенны. Поэтому мы не раскрыли большинство секретов мозга. Один из них, к примеру, который в нашем Центре активно сейчас исследуется, - озарение. Что это - феномен, некая вспышка в мозгу? Особым образом сформировавшаяся, причем мгновенно, сеть нейронов? Как вызвать озарение? Выдающийся канадский эндокринолог Ганс Селье однажды сказал про Александра Флеминга, спасшего, наверное, самое большое количество людей на Земле, изобретя пенициллин: "Если бы не мое уважение к человеку, спасшему столько жизней, то я бы сказал, что этот микробиолог просто грязно работал". Ну, действительно, как может на столе у микробиолога находиться чашка с плесенью?! Но Флеминг увидел плесень и создал из нее пенициллин. Что-то вспыхнуло в его мозгу. И у Менделеева вспыхнуло, и у Эдисона...
Нас ждет революция
Константин Анохин: Позвольте, я скажу о самом главном. О том, что даст ответы на ваши экзистенциальные вопросы. Нас ждет революция в науке о мозге. Сейчас вы говорите о нем, как о сгустке серо-белого вещества между ушами. А тысячи ученых думают о мозге, как о гигантской нейронной сети из миллиардов клеток. Все это драматические заблуждения… Именно они не позволяют увидеть ключ к разгадке тайны нашего бытия. Глядя на мозг лишь как на биологическую субстанцию, мы смотрим ниже уровня его настоящего существования. Один пример: многие годы ученые думали о ДНК лишь как о химической составляющей, длинной полимерной молекуле. Выделив ее, химики видели беловатую нитевидную субстанцию. Но это не сущность ДНК. Сегодня мы знаем, что ДНК - "нить жизни". Потребовалась крупнейшая научная революция, чтобы перевести в наших умах ДНК из области химии в область биологии. Такой же переход на более высокий уровень ждет и наши представления о мозге. Я убежден: мы находимся на пороге этой научной революции и моя работа в последнее десятилетие была целиком посвящена попытке увидеть ее контуры. Результат - теория нейронных гиперсетей, гиперсетевая теория мозга. Наша внутренняя сущность написана не на языке нейронной сети - в этом все дело. Она полностью таится в гиперсети мозга, Вселенной нашего разума.
Внутри любой головы целая Вселенная?
Константин Анохин: Да, именно. Гиперсеть состоит из двух уровней - нижнего и верхнего. Нижний - сеть нейронов. Это мозг в том виде, каким мы его знаем. А каждый узел верхней сети составляют целые облака нейронов. Наверху облако, как сноп, связывается в единое целое. Такие сообщества нейронов в теории были названы когнитивными группами или "когами". Каждый ког - неделимая частица нашего знания о мире и самих себе. Связываясь друг с другом, они образуют сущность нашего "я" - когнитом. У новорожденного таких узлов-снопов еще совсем немного. Но гиперсеть с возрастом разрастается. Мы набираемся опыта, знаний, умений, впечатлений. Облака нейронов толкают друг друга, соединяются, входят друг в друга. И нейронная гиперсеть становится невероятно сложной, уникальной для каждого из нас.
Ей-богу, страшно за мозг…
Константин Анохин: Не волнуйтесь, он справляется с этим. Вот сколько, к примеру, может возникнуть нейронных облаков в голове у конкретного человека? Считайте: один кадр сознания занимает в мозге полсекунды. За нашу жизнь, составляющую пару миллиардов секунд, с вычетом сна, мы создаем не менее одного миллиарда когов. Впечатляет, правда?
Что ты бродишь, нейрон одинокий...
Самое главное отличие "ии" от человеческого разума на сегодняшний день - интеллект ничего не чувствует, у него нет эмоций, он сухо и четко выполняет заложенные в него алгоритмы. Возможно ли, чтобы "ии", например, влюбился в своего создателя?
Владимир Чехонин: Я как экспериментатор уверен: создание искусственного разума, идентичного естественному, с его эмоциями, чувствами, той же симпатией - задача непосильная для современного человека. Не будет Терминаторов, взявших контроль над человечеством. Это фантастика. По одной простой причине: мы не можем заложить в машину алогичное поведение. Оно свойство лишь человеческого интеллекта. Сегодня наука стоит перед созданием первичных элементов живой материи - клеток. И то решить адекватно эту проблему крайне сложно. В России, например, идут работы по созданию искусственных микроорганизмов разных уровней, в частности - молекутов, микоплазмы. Академик В.М. Говорун довольно успешно занимается этим. И мы всячески поддерживаем его эксперименты. Поскольку ясно, что именно отсюда начинается лестница к вершинам "ии".
В октябре прошлого года была утверждена Национальная стратегия развития "ии" в России до 2030 года. На это выделяется 90 миллиардов рублей. При этом те же США тратят на исследования "ии" 200 миллионов долларов ежегодно. Мы пока не входим в тройку лидеров по развитию "ии" - среди них США, Китай и Великобритания. Что нам мешает сделать прорыв в этой области?
Михаил Пирадов: Особым образом подготовленные кадры и деньги. Нехватка первых и острая нехватка вторых. 90 миллиардов - это, поверьте, очень немного для развития "ии", тем более лидерства в нем.
Вопрос, что называется, "на засыпку": Бог - это искусственный интеллект?
Владимир Чехонин: Бог - нечто метафизическое. Мне трудно говорить о Боге-отце, это невозможная для меня степень абстракции. Но его сын Иисус Христос однозначно живой разум.