Самые продвинутые нейросети пока не достигли уровня неразличимости с
людьми
Ему всего годик, но он пишет
научные диссертации, рисует как известный художник-экспрессионист, сочиняет
музыку и даже разгадывает мысли. Специалисты опасаются, что в будущем у него
могут развиться и плохие наклонности: он научиться обманывать, подделывать
голоса... Вы, конечно, догадались, что я – про ChatGPT – самую яркую программу,
благодаря которой широкая общественность год назад впервые познакомилось с
явлением искусственного интеллекта (ИИ). «Малыш» растет не по дням, а по часам,
а мы зачастую теряемся в догадках: кто он на самом деле, на что способен, и как
человеку, взяв его в свои помощники, в итоге не потерять себя? На днях в Москве
состоялась встреча в Научное кафе, посвященная взаимоотношениям человека и
искусственного разума.
Соорганизаторы встречи –
главный редактор научного журнала Любовь Стрельникова и глава пресс-службы
химфака МГУ им. М.В. Ломоносова Сергей Ивашко пригласили для разговора
ведущих научных экспертов в области искусственного интеллекта. Это заведующий
лабораторией нейросетевых технологий МФТИ Станислав Ашманов, завкафедрой
философского факультета МГУ Елена Брызгалина, ассистент кафедры алгоритмических
языков кафедры вычислительной математики и кибернетики МГУ Наталья Ефремова,
профессор ВМК МГУ Наталья Лукашевич и управляющий директор, начальник
управления экспериментальных систем машинного обучения дивизиона общих сервисов
одного из банков Сергей Марков.
ИИ – что это?
Своеобразный день рождения
ChatGPT (от англ. Generative Pre-trained Transformer - «генеративный
предварительно обученный трансформер») стал поводом поговорить об искусственном
интеллекте вообще. Этому понятию уже без малого 70 лет, и с ним связаны не
только всем известный генератор текстов, но и умный пылесос, и станок с
ЧПУ управлением, и много чего еще.
РОБОТ KISMET С ИСКУССТВЕННЫМ
ИНТЕЛЛЕКТОМ В МУЗЕЕ МАССАЧУСЕТСКОГО ТЕХНОЛОГИЧЕСКОГО ИНСТИТУТА.
Справка «МК». Термин «искусственный интеллект» ввел в 1956 году американский
информатик из Стэнфорда Джон Маккарти.
– Можно ли назвать искусственный интеллект простым алгоритмом, программой,
или это нечто более сложное? – задала первую тему для обсуждения Любовь
Стрельникова.
По словам Натальи Лукашевич,
первые алгоритмы для машинного перевода, действительно создавались при помощи
алгоритмов. Но сейчас одного простого перевода мало, программы, с которыми мы
сейчас имеем дело, должны не просто переводить, но еще и самостоятельно
выводить закономерности, анализировать и делать выводы. Поэтому программисты
создают для них не просто алгоритмы, а так называемые датасеты (от англ.
dataset). Это обработанные и структурированные массивы данных, из которых
программа сама находит то, что ей нужно по определенным признакам).
– То есть мы пишем
программе не просто прямые указание к действию, а ставим более сложную задачу:
если видишь это – сделай так, а если видишь то – сделай по-другому, –
поясняет Лукашевич. – Иными словами, даем наводку к правильному выводу.
По словам Сергея Маркова,
сегодня многие научные школы сходятся на том, что ИИ — это область науки и
технологий, которая занимается автоматизацией решений интеллектуальных
задач.
– Мы занимаемся созданием
системы, которая может подменить в этом человека, – говорит
разработчик ИИ. – Термин «искусственный интеллект» обозначает целую область
науки и технологий. При этом, если говорить о ChatGPT, это всего лишь одна из
программ – яркое явление, благодаря которому масса людей узнала, что такое
генеративные языковые модели, трансформеры, которые кто-то обучает, и они решают
широкий спектр интеллектуальных задач.
Оказалось, что нейросетевое
языковое моделирование – то что, сегодня воспринимается нами, как некое
новшество, – стартовало как явление еще 20 лет назад. В основе
моделирования, по словам Маркова, лежит статистическая лингвистика, которая появилась как
идея о том, что значение слова связано со статистикой и контекстом.
– То есть в какой
компании находится слово, то и определяет его значение, – говорит Марков.
Проиграет ли естественный интеллект ИИ?
Журналистов, собравшихся в
Научном кафе, очень волновало, есть ли у нашей пишущей братии будущее в свете
бурного развития искусственного интеллекта.
Станислав Ашманов успокоил: у
журналиста перед тем, как придумать правильное слово, идет мысль. У ChatGPT –
не так...
– Основатель теории
информации американский инженер Клод Шеннон еще 70 назад занимался
экспериментами по статистической лингвистике. К примеру, он брал текст Шекспира
и «шел» по нему, выписывая, насколько часто разные слова встречаются друг с
другом, – поясняет Ашманов. – <...> У него получалась большая статистика
узнаваемых слов и конструкций, при помощи которых он пытался генерировать
текст. Бред, правда, получался полный, – не хватало широты контекста.
В случае с GPT, по словам
Ашманова, разработчикам удалось расширить это «окошко» контекста — количество
вводимых в программу слов или их кусочков стало огромным. Теперь программа
понимает, какое слово должно идти следующим, тексты получатся более-менее
складными, но гонка за расширение этого «окошка» продолжается.
– В общем, генерация
слов это не то, что делает журналист, – подытоживает ученый. – У того не
просто жонглирование словами, – у него присутствует мыслительный процесс,
понимание того, о чем он пишет. Но есть в любой интеллектуальной деятельности некая
рутина, шаблонные действия, операции. Вот они-то и являются кандидатами по
замене искусственным интеллектом. Но смысл в произведение все-таки
вкладывает человек.
В свою очередь Сергей Марков
высказал мысль о том, что искусственный интеллект может еще догнать
естественный, дело лишь во времени.
– Люди и машины одним
миром мазаны, — говорит Марков. – Мы являемся частью единой физической
вселенной. Наша с вами нервная система – это та же структура, состоящая из
атомов и молекул, а нейроны в нашем мозге определяются электрохимическими
сигналами.
В общем, по словам
разработчика ИИ, ему больше близка точка зрения философа Дидро, который еще в
XVIII веке сказал: «Если я встречу попугая, который будет разумно отвечать на
все мои вопросы, то я буду обязан признать за ним наличие интеллекта».
Соответствующей логикой, только в приложении к компьютеру, руководствовался и
английский математик Алан Тьюринг, который в 1950 году предложил свой
известный тест Тьюринга. Он основывается на игре в имитации.
– Есть две комнаты, – говорит
Марков. – В одной скрывается девушка, в другой — парень. Ведущий берет бумажки,
пишет вопрос и подкладывает под их двери. При этом целью парня является выдать
себя за девушку, а целью девушки — выдать себя за юношу. И дальше Тьюринг
рассуждает: давайте мы возьмем за основу эту процедуру и заменим парня и
девушку на машину и человека и посмотрим, сможет ли машина выдать себя за
человека. Если да, то мы обязаны будем признать наличие интеллекта у
системы, которую мы тестируем. С тех пор прошло 73 года, и мы видим большой
прогресс. Мы видим, что системы на основе ChatGPT4 умеют решать самые разные
интеллектуальные задачи, поддерживать вменяемый диалог, решать прикладные
задачи, но в целом грань не пройдена... В прошлом году 200 научных групп
подготовили более 300 типов тестов, собрали их в огромный набор вопросников, и
мы видим по ним, что самые продвинутые нейросети не достигли уровня неразличимости
с людьми. Есть много задач, которые люди решают лучше. И в общем, это
неудивительно: наш мозг – удивительное устройство, состоящее из 86 миллиардов
нейронов, квадриллиона синапсов... Чтобы смоделировать каждый синапс, нам нужны
сотни тысяч двоичных элементов, – в общем, возможности вычислительной мощи
человеческого мозга превосходят возможности машин.
Однако, по словам Маркова,
вычислительные мощности компьютеров растут по экспоненте, уже сегодня они
научились обыгрывать человека в шахматы и в логическую игру Го. Есть также
примеры в природе, когда, к примеру, нервная система пчелы оказывается более
совершенной по сравнению с нашей при поиске оптимального маршрута. В чем их
сходство? В высокой степени специализации, «заточенной» под решение конкретной
задачи. В целом, целью создания ИИ, по словам ученого, и является лишь
расширение способности людей!
Подытожила дискуссию Наталья
Ефремова, высказав мысль о том, что рано пока человечеству мериться силами с
ChatGPT. Он, по ее словам, знает только то, что знает интернет, а это
гораздо меньше того, что знает и умеет человечество в целом.
Страшное будущее с ИИ
Да, сегодня искусственный
интеллект помогает вести картотеку в поликлинике, он выступает ассистентом
терапевта, «высказывая» свое «мнение» в помощь врачу, анализирует в интересах
ученых большие объемы данных. Но людей все равно беспокоит неопределенность.
Елена Брызгалина, как специалист по этике, описала основной круг опасений
общества, связанных с ИИ.
По ее словам, пока ни с
технической, ни с философской точки зрения не решен вопрос наделения
искусственного интеллекта волей. До тех пор, пока искусственный интеллект не
обладает волей и собственным целеполаганием, это инструмент, который должен
оставаться в наших руках.
Есть идея наделить
искусственный интеллект субъектностью, – и это позиция тех стран которые сейчас
лидируют на рынке (в этой области), – говорит философ. – Но есть позиция
Российской Федерации, которая считает, что ИИ никогда не должен рассматриваться
как субъект. Потому что, если я – субъект, я сам ставлю цель, выбираю способ ее
выполнения и несу за это ответственность.
ЕЛЕНА БРЫЗГАЛИНА
Брызгалина приводит примеры
того, когда можно доверять решения искусственному интеллекту, а когда
нет.
– Все мы когда-то покупали
телефон. Как мы принимали решение, прежде чем выбрать ту или иную модель? Мы
анализировали, сопоставляли цены, характеристики и в итоге выбрали тот, который
отвечал всем требованиям. Такую задачу, по-моему, можно доверить ИИ, – говорит
Брызгалина. – Чего мы не готовы отдать искусственному разуму? Все мы недавно
были в ситуации принятия или непринятия решения о вакцинации. Сколько экспертов
переслушали!? Вам было легче от того, что почти у каждого был свой взгляд на
проблему? Получалось, что в условиях, когда мы столкнулись с новым
заболеванием, с новой вакциной, ни у кого не было достаточной
полноты информации. И что делал каждый из нас?
Мы не принимали решение о
вакцинации как решение на уровне алгоритма — мы руководствовались категорией
ценности. Что лично для меня было ценно? У меня больная мама, и я готова была,
грубо говоря, хоть каждый день вакцинироваться, лишь бы не принести ей вред.
Кто-то, опираясь на схожие категории ценности, готов был внести вклад в
коллективный иммунитет, кто-то просто боялся новой прививки. То
есть все принимали решение не на уровне определенных знаний, а большей частью исходя
из своего личного мнения, этических соображений.
Елена Брызгалина также подняла
проблему искусственного интеллекта и развития личности.
– Я как-то спросила своих
студентов, что они будут делать, когда все за них будет делать интернет.
Знаете, что они мне ответили? «Спать!». Чем мы будет заниматься, когда ИИ
высвободит много свободного времени, – это один из важнейших вопросов.
Философ отметила, что обществу
необходимо уделить больше внимания развитию правовой составляющей в области
искусственного интеллекта. Пока же, по ее словам, право не поспевает за
развитием высоких технологий.
Итак, уровень неопределенности
– восхищения и опасений в связи с развитием технологий искусственного
интеллекта – очень высок. Это можно сравнить с переживаниями
общественности XIX века по поводу развития железнодорожного транспорта.
Вот какое заключение в 1837 году дал по поводу быстрой езды на
поезде Баварский королевский медицинский совет: «Строительство железных дорог
нанесло бы ущерб общественному здоровью. Совершенно очевидно, что быстрое
движение (41 км в час) должно вызвать у пассажиров заболевание мозга, своего
рода буйное помешательство...». Будем надеяться, что, как в случае с
использованием поездов, так и в случае с использованием ИИ человечество найдет
самый безопасный для себя способ.