О
неоднозначных проблемах развития систем искусственного интеллекта (ИИ),
обеспечения технологического суверенитета в этой важнейшей области
корреспондент «РГ» беседует с научным руководителем Научно-исследовательского
института системных исследований РАН академиком Владимиром Бетелиным.
Сегодня
искусственный интеллект триумфально шествует по планете, стал практически
главным героем нашего времени. Только и слышишь, здесь он намного лучше
человека, а там вообще уже его готов полностью заменить. Но вот только что
знаменитый программист Линус Торвальдс, «отец» системы Linux, заявил: сегодня
ИИ состоит на 90 % из маркетинга и только на 10 % из реальности. И вообще эта
шумиха его раздражает. А ранее вы написали, что уровень внедрения нейросетей в
экономику гораздо ниже, чем ожидалось. Более того, некоторые несут угрозу
безопасности граждан и государства. Почему, Владимир Борисович?
Владимир
Бетелин: Торвальдс обратил внимание на, мягко говоря,
странную ситуацию, которая сейчас складывается вокруг искусственного
интеллекта. Вопрос принципиальный, но пока мало кто хочет его обсуждать. Но
давайте для начала проясним, а что вообще такое искусственный интеллект? Есть
несколько определений, но на самом деле всё просто — это компьютер с
программой. И нас сейчас настойчиво убеждают, что совсем скоро он заменит
человека. Но и 10, и 15 лет назад всё было то же самое, но почему-то никто
не замахивался на человека.
Но
только сейчас ИИ начал демонстрировать свои удивительные возможности...
Владимир
Бетелин: Насколько они удивительные, мы еще поговорим.
Давайте обратим внимание, кто громче всех кричит, что ИИ сделает человека
лишним? Бизнес! А наука как раз очень осторожна. Именно на это указывает и
Торвальдс. И в этом вселенском буме суть бизнеса, который всегда ориентирован на
максимальную прибыль.
Когда
200 лет назад началась промышленная революция, в помощь человеку появились
первые станки, машины, о чём шла фактически речь? Как увеличить прибыль. Потом
пришла механизация, затем автоматизация, но человек оставался при деле. Его
ресурс для роста прибыли ещё не был исчерпан. Ситуация стала меняться в
последние годы. Заметьте, что уже давно практически не слышно по лёгкую
промышленность, металлургию и другие отрасли. Они исчерпались с точки зрения
роста прибыли, а потому бизнесу неинтересны.
Много
не заработаешь?
Владимир
Бетелин: И появился новый кумир — «Глобальное
информационное общество». А подоплёка была какая? Массовое расширение объёмов
рынка компьютеров и полупроводников. Триллионы долларов в новую экономическую
деятельность по всему миру — это лозунг США. В 2015 году по решению сената была
разработана стратегия развития Интернета вещей. Согласно этой стратегии
федеральное правительство должно энергично защищать трансграничные потоки
данных путём торговых соглашений и других механизмов принуждения торговых
партнёров.
Прошло
всего несколько лет, и на авансцену вышла цифровая экономика. Для бизнеса она
оказалась настоящей золотой жилой. Суть в том, что очень выгодно торговать
сообщениями. Ведь стоимость передачи мегабайта снижалась примерно на 60 % в
год. И разрабатывать жилу бросились четыре информационных кита — Facebook
(заблокирован в России, принадлежит корпорации Meta, признанной в РФ
экстремистской), Google, Amazon, Apple. Их капитал и вся их мощь стоят главным
образом на передаче сообщений. Каждое стоит немного, но когда их миллиарды, то
деньги потекут рекой! Это суть цифровой экономики. Она вообще не материальна, у
вас нет головной боли про урожаи, добычу нефти или газа, выплавку стали.
Понятно,
надо только монополизировать передачу сообщений, и прибыль фантастическая!
Владимир
Бетелин: Совершенно верно. Но аппетиты растут. Почему бы
не пойти дальше, убрать человека, заменив на ИИ? Человек стоит дорого, болеет,
спит, требует прибавки зарплаты, условий труда и вообще несовершенен. А ИИ
молчит, пашет всю неделю по 24 часа. Идеальный работник. И прибыль диктует
очевидный вывод — почему бы человека не заменить на ИИ? А теперь главный
вопрос: а насколько это всё реально? Не утопия ли?
Но
сегодня ИИ демонстрирует уникальные результаты, обыгрывает человека в шахматы,
пишет дипломы, ставит диагнозы, сел за руль автомобиля... Список становится все
обширнее.
Владимир
Бетелин: Вот про эти «удивительные результаты» нам и
говорят постоянно и навязчиво. Но в тени другие «достижения» нейросетей.
Например, вы знаете, что разработанная в Москве на базе ИИ диагностическая
система «Аида» выдает 13 % ошибок? При 15 миллионах визитов к врачам в год это
2 миллиона ошибок, что почти в 30 раз больше, чем 70 тысяч ошибок
медиков по данным Минздрава. В целом же в аналитическом отчёте
Федерального центра прикладного развития ИИ Минпромторга говорится о низком
уровне использования ИИ промышленными предприятиями и федеральными органами
исполнительной власти. Подчёркивается, что он не показал результаты, которые
сопоставимы с результатами интеллектуальной деятельности человека и тем более
их превосходящие. И что чрезмерный оптимизм опасен, так как приводит к
неоправданными ожиданиям, будто бы он позволит решить многие проблемы
предприятий, а значит, получить всё ту же желаемую прибыль.
Так
что на самом деле может ИИ? Так ли всесилен, как нам рассказывают?
Владимир
Бетелин: Как я уже сказал, это компьютер с программой. А
сам термин «искусственный интеллект» — это красивый эпитет. Есть сферы, где ему
нет равных, а есть, где он ошибается, как в случае с той же «Аидой».
Сейчас
ошибается, но если еще поучится, то перестанет...
Владимир
Бетелин: В том-то и дело, что природа ошибки заложена в
самой сути современных нейросетей. Скажу крамольную вещь, которую знают
специалисты, но не любят выносить на люди: сегодня вообще непонятно, как ИИ
получает результат!
Действительно,
крамола! Но как же его вообще допускают к работе в важнейшие сферы экономики и
государственной власти?
Владимир
Бетелин: Как я сказал, его внедрение идет не так
масштабно, как думали ещё недавно. На самом деле он завоевал вполне
определённую нишу, а в некоторых «буксует». Почему? Напомню, что первый успех к
нему пришел в игре в шахматы. Напомню, что прежде чем выпустить ИИ в люди, его
надо обучить. Причём чем больше вы ему покажете сыгранных человеком партий, тем
он лучше обучается. Важно, что на примере этих партий ему формулируют путь к
победе, алгоритм выигрыша.
А
теперь самое главное. Шахматы в математическом смысле относятся к так
называемым конечномерным упорядоченным множествам объектов. Есть доска, фигуры,
последовательность ходов, где всё очень сильно упорядочено. Причем число
сыгранных партий — «учебных пособий» — хотя и может быть огромное, но все равно
оно конечно. То же самое касается и многих других задач, которыми сегодня
занимаются ИИ — чтение различных текстов, цифр и т.д. И это для систем ИИ
важнейшее условие. Дело в том, что с точки зрения математики конечномерность
«ученых пособий» гарантирует, что вы сможете создать правильный алгоритм. Ему
можно доверять, он не допускает ошибок.
Иная
картина, если объекты, с которыми будет работать ИИ, принадлежат к
бесконечномерным множествам. Например, изображения. И когда вы обучаете ИИ их
распознавать, то вам в принципе никогда не удастся охватить эту бесконечность.
Часть информации все равно остается неохваченной.
Если
совсем просто, то бесконечность нельзя засунуть в конечный компьютер. Но с
изображениями давно работают — например, ставят диагнозы по рентгеновским снимкам.
Владимир
Бетелин: Ставят. Но насколько им можно доверять?
Вспомните пример с «Аидой»! Именно про подобные задачи разработчики и говорят,
что не понимают, как ИИ получает результат. И идут на уловки. Они сводят
бесконечное к конечному, фактически создают эмпирические нейронные сети,
которые ошибаются. Причем, когда и как, не знает никто.
Отсюда
вывод. Наш мир бесконечен, и человек это понимает, а компьютер — нет, ему никак
не объяснить, что такое бесконечность, его «разуму» доступна только конечность.
Поэтому заменить в таких задачах человека нейросетью невозможно в принципе. Но
сделать из неё мощного помощника, который значительно расширяет наши
возможности, намного лучше и быстрее выполняет различные рутинные операции,
конечно, можно и нужно.
Однако,
например, великий и ужасный Илон Маск обещает, что скоро автономные такси
заполонят автотрассы мира...
Владимир
Бетелин: Это классическая бесконечномерная задача. Ведь,
чтобы выпустить такое авто на шоссе, мы должны сделать цифровую модель
водителя, его умений и навыков, а также цифровую модель автомобиля, с которым
он взаимодействует, и ещё цифровую модель среды, в которой этот автомобиль
движется. Всё в одном флаконе.
Чтобы
все это воплотить в ИИ, нужно, как я говорил, бесконечность сделать конечной. А
значит, вводить какие-то ограничения — например, это может быть выделенная
полоса, дистанционное управление, контролёр и т.д. А представьте ещё гололёд,
снег, дождь, туман и массу всяких вещей, что и привносит неопределённости. А
как поступит такой водитель, если надо сделать непростой выбор между двумя
экстремальными ситуациями? И кто ответит за этот выбор?
Если
суммировать, то, повторю, нельзя вообще ставить задачу заменить человека во
многих видах деятельности, передоверив это ИИ. Он хорош только в определённом
классе задач, о которых мы говорили. Для других, связанных прежде всего с
медициной, обороноспособностью, безопасностью человека, он может быть только
помощником человека.
То
есть нельзя его подпускать к таким «бесконечным» задачам? Словом, ИИ, знай свое
место?
Владимир
Бетелин: Можно, но при определённых условиях. Во-первых,
чётко очертить круг видов деятельности, где ИИ может быть только помощником
человека, за которым последнее слово. Во-вторых, надо отказаться от зарубежных
эмпирических систем нейросетей, которые сегодня у нас массово используются, а
создавать собственные, которые имеют математическое обоснование результата. А
значит, им можно доверять. Кстати, такие работы учёные РАН уже начали вместе со
специалистами НИЦ эпидемиологии и микробиологии им. Н.Ф. Гамалеи в рамках
проекта по созданию персонифицированной вакцины для борьбы с онкологическими
заболеваниями.
И
последнее. Я не призываю что-то запрещать, а хочу привлечь внимание к важнейшей
проблеме, которая по мере развития систем искусственного интеллекта становится
всё острее. И требует самого серьёзного обсуждения.
Текст:
Юрий Медведев.
Источник: RG.RU.