Чертова дюжина идеального интеллекта. Беседа первая

Прежде чем заниматься искусственным интеллектом, надо определить, что такое идеальный интеллект и каковы его основные свойства
Чертова дюжина идеального интеллекта. Беседа первая
Главный научный сотрудник ФИЦ «Информатика и управление» РАН, доктор технических наук Виктор Финн
Дмитрий Лыков

«Стимул» продолжает серию материалов, посвященных проблеме искусственного интеллекта (см. «Три волны ИИ» и «Обучаться на прецедентах»).

На этот раз мы решили пойти несколько дальше чисто технологических и математических обстоятельств, включив в рассмотрение когнитивную психологию и философию. С точки зрения нашего сегодняшнего собеседника, главного научного сотрудника ФИЦ «Информатика и управление» РАН, доктора технических наук Виктора Финна, без этих областей знания мы останемся в зоне «эмпирической кухни», ущербного развития технологий ИИ вслепую, не отвечая на главные исследовательские вопросы, что в итоге приведет в тупик и технологические приложения. Чтобы понять, что такое искусственный интеллект, необходимо обратиться к интеллекту естественному. Утверждение выглядит очевидным, но наверняка вызовет дискуссию, поскольку не только в России, но и в мире возобладал узко прагматический взгляд на эту тематику.

Беседа с Виктором Финном оказалась довольно большой, поэтому мы публикуем ее в двух частях.

В 1957 году Виктор Финн окончил отделение логики философского факультета МГУ и пришел на работу в отдел математической логики Лаборатории электромоделирования (ЛЭМ) АН СССР. Но это требовало глубоких математических знаний, и Финн поступает на механико-математический факультет МГУ, которое успешно окончил в 1966 году. В дальнейшем он успешно объединил эти направления — философию и математику — в своей научной работе.

Одно из главных научных достижений Виктора Константиновича — метод автоматического порождения и принятия гипотез и основанный на нем класс интеллектуальных компьютерных систем, получивших название «интеллектуальные систем типа ДСМ» — в честь замечательного английского философа и логика середины XIX века Джона Стюарта Милля. К концу 1980-х стало совершенно ясно, что ДСМ-метод не ограничивается конкретной методологией и технологией решения задач, связанных с формированием гипотез в условиях неполноты информации. Он претендует на статус ядра общей методологии рассуждений в гуманитарных и социальных науках.

В течение последних уже более чем двадцати лет Финн руководит созданным по его инициативе отделением интеллектуальных систем Российского государственного гуманитарного университета (ОИС РГГУ), среди выпускников которого целый ряд видных специалистов в области искусственного интеллекта. Последний по времени обобщающий труд Виктора Финна — его книга «Искусственный интеллект: Методология. Применения. Философия».

 

— Если начать с истоков, то идеи искусственного интеллекта возникли в Соединенных Штатах в конце 50-х — середине 60-х годов прошлого века. Идея профессора Джона Маккарти, одного из главных создателей искусственного интеллекта, состояла в том, что искусственный интеллект будет развиваться плодотворно, если мы уточним, что же такое есть интеллект. Но сообщество, которое объявило, что оно занимается проблемами искусственного интеллекта, занялось частными вопросами: программированием игр, шахматными программами, доказательствами теорем, а размышления по поводу того, что, собственно, такое интеллект и каким образом мы будем реализовывать его способности, исчезло из поля их интересов.

В начале становления искусственного интеллекта исследователи говорили, что они будут создавать нечто равновеликое разуму или, по крайней мере, похожее на разум. Считалось, что надо заниматься имитацией и усилением разума, и даже возникло направление сингулярности, которое утверждало: существует опасность, что если будет развиваться то, что они называют искусственным интеллектом, не уточняя, что это такое, то может возникнуть нечто гораздо более мощное, чем мыслительные возможности человека, и начнутся беды для человечества.

Возникновение информационной, компьютерной цивилизации породило ряд иллюзий. Например, иллюзия, которая сейчас господствует: главное — это технологии, если есть технологии, то мы решим практические задачи.

Мне прислали дорожную карту развития искусственного интеллекта, которую сделал Сбербанк по поручению руководства страны.

— И как вам эта карта?

— Должен сказать, что там есть места вполне разумные, сказать, что все это не имеет смысла, нельзя, — но ее пафос в том, что мы для коммерциализации должны создавать программные системы, которые называем системами искусственного интеллекта. Это заблуждение.

magnifier.png В начале становления искусственного интеллекта исследователи говорили, что они будут создавать нечто равновеликое разуму или, по крайней мере, похожее на разум

Во-первых, не уточнено, в чем состоит проблематика систем искусственного интеллекта, что же такое, собственно, искусственный интеллект как явление общественное, научное и так далее. Во-вторых, и это главное, развитие не может происходить за счет усовершенствования технологий, оно может происходить только за счет развития принципов научной составляющей и ее реализации, экспериментально подтвержденной и доказавшей свою полезность.

Для начала нужно понимать, что интеллектуальный процесс есть взаимодействие мыслительного и познавательного процессов, и это разные процессы. Отсюда критика одного из мифов, что, если вы сможете смоделировать мозг, вы решите проблему искусственного интеллекта. Это заблуждение именно потому, что мыслительный процесс принимает участие в познавательном процессе, он его инициирует, он в некотором смысле им руководит, но не сводится к нему.

— Так, может быть, искусственный мозг тоже сможет начать познавать?

— Чтобы ответить на этот вопрос, надо сформулировать основные характеристики идеального интеллекта. И если мы это сделаем, то потом мы определим, что такое естественный интеллект. А дальше уже начнем понимать, как его имитировать, как его усиливать. Это то, чего хотел Маккарти: поймите сначала, что же такое интеллект, что такое слово «интеллектуальный» и как с этим дальше работать.

Для начала мы можем сформулировать 13 характеристик идеального интеллекта. Мы называем их интеллектуальными способностями.

magnifier.png Возникновение информационной, компьютерной цивилизации породило ряд иллюзий. Например, иллюзия, которая сейчас господствует: главное — это технологии, если есть технологии, то мы решим практические задачи

Первая способность — это выделение существенного в обозреваемых данных. Второй признак — порождение целеполагания, порождение последовательности «цель — план — действие».

Третья характеристика — отбор знаний, релевантный цели рассуждения.

И конечно, важное четвертое свойство — способность к рассуждению, а именно к получению выводов из тех посылок, которые вы подобрали. Здесь можно вспомнить одно из аристотелевских определений человека: это разумное животное. А вот с этим, несмотря на величие Аристотеля, согласиться нельзя: человек не является разумным животным, лишь некоторые люди являются разумными животными. Большинство — рассудочные животные: у них есть рассудок, то есть способность к рассуждению, но разум — это более тонкое дело.

ФИНН ДОМА.png
Виктор Финн
Дмитрий Лыков

— Боюсь, общественное мнение расколется на этом тезисе…

— Следующее, соответственно пятое свойство интеллекта, — способность к аргументации и принятию решений на ее основе. Собственно, это источник того, что следует называть рационализмом.

И важное шестое свойство, которое характеризует человеческий интеллект, — рефлексия, способность реагировать на свои знания, действия и их оценивать.

Седьмое свойство — это то, что я называю познавательным любопытством: ответ на вопрос «что такое?» или способность к распознаванию явлений окружающего мира.

Восьмая способность — это способность к объяснению, ответ на вопрос «почему?».

И девятая способность, очень важная, но ее даже специалисты в области искусственного интеллекта иногда игнорируют, — реализация познавательной деятельности посредством синтеза познавательных процедур, образующих эвристику решения проблем. Это не одна познавательная процедура, как, например, дедукция (вывод из посылок истинных заключений, или умозаключение по аналогии), а обычно результат действия комплекса познавательных процедур, когда достигается некоторое новое знание.

Следующая способность, десятая, — способность к обучению и использованию памяти. Обратите внимание: то, что называется машинным обучением, пока реализует только две способности из перечисленных, а именно распознавание (ответ на вопрос «что такое?») и обучение и использование памяти. Поэтому, когда люди говорят, что искусственный интеллект — это машинное обучение, это вредное заблуждение, которое подхватили многие наши люди, поскольку часто копируют то, что происходит в Соединенных Штатах. Кстати, и в программе соответствующего подразделения Сбербанка есть некое влияние этого заблуждения.

magnifier.png В дорожной карте Сбербанка есть места вполне разумные, сказать, что все это не имеет смысла, нельзя, — но ее пафос в том, что мы для коммерциализации должны создавать программные системы, которые называем системами искусственного интеллекта. Это заблуждение

Одиннадцатая интеллектуальная способность — рационализация идей и преобразование их в понятия. Человек часто мыслит не понятиями, а идеями, которые неуточняемы или еще не уточнены, поэтому эта способность обязательна для создания науки — без этого нет науки.

Еще есть двенадцатая способность — способность к интеграции знаний, объединение этих знаний, с тем чтобы создавать концепции и теории, и это очень высокая способность.

Ну и, наконец, тринадцатая и последняя интеллектуальная способность — это адаптация знаний при получении новых сведений из мира, или, если говорить высоким стилем, коррекция теории.

Из этой характеристики интеллектуальных способностей непосредственно вытекает, что не все то, что может в процессе познавательной деятельности делать человек, может быть автоматизировано, что-то мы можем сделать только в интерактивном режиме, в партнерстве с человеком. В частности, способность к трансформации идей в понятия, интеграция знаний для образования теорий, адаптация знаний при их получении, рефлексия — все эти тонкие и важные мыслительные и познавательные деятельности мы можем реализовать только в интерактивном режиме человек—машина. То есть наиболее серьезные системы искусственного интеллекта должны быть партнерскими, человеко-машинными системами.

— И какой вывод мы делаем?

— Отсюда сразу следует следующий практический и теоретический вывод: никакого сверхразума без участия человека и без управления с его стороны сделать нельзя. Если мы фантасты или романтики типа Маска, тогда мы можем говорить о сверхразуме, но если мы начнем уточнять, что представляет собой человеческий разум, мы поймем, что устранить человека из системы человек—машина невозможно. Другое дело, что могут быть созданы мощные человеко-машинные партнерские системы, и при современном этапе развития цивилизации они, конечно, инструмент необходимый, но это инструмент поддержки творчества, а не его замена, вот в чем дело, и это важно. Многие задачи сейчас нельзя решить без компьютера и даже некоторые задачи математики, какие-то переборные задачи, но это не значит, что человек не участвует в этом.

magnifier.png Не все то, что может в процессе познавательной деятельности делать человек, может быть автоматизировано, что-то мы можем сделать только в интерактивном режиме, в партнерстве с человеком

А теперь мы можем уточнить, что такое мыслительный процесс. Это, может, на первый взгляд дерзкое вторжение в когнитивную психологию, но, как мне удалось убедиться, когнитивные психологи не могут представить характеризацию интеллекта, которая не была бы следствием тех 13 признаков, которые мы сформулировали, поэтому мы не противоречим когнитивным психологам, а наоборот, формулируем некоторые, я бы сказал, новые обстоятельства. Так вот, мыслительный процесс — это интенция, то есть вопросы, императивы, цели и установки. С этого начинается мыслительный процесс, в особенности мыслительный процесс теоретика. После того как мы сформулировали интенцию, следует подбор посылок, релевантных цели, а затем рассуждение как получение следствия из тех посылок, которые мы нашли. И наконец, рефлексия — оценка результатов наших рассуждений. Это и есть мыслительный процесс. Сразу же понятно, что не всё в этом мыслительном процессе мы можем автоматизировать: спонтанность, рождение цели, рождение установки. И я бы сказал, что даже вопрос без некоторой инициативы тоже не возникает.

Интуиция, инициатива, интенция, рефлексия и воображение — это высшие психические функции. Совершенно ясно, что эти высшие психические функции не могут автоматизироваться, потому что это основа творчества человека. Они могут только поддерживаться. Например, воображение может поддерживаться созданием каких-то имитационных моделей.

— А почему это невозможно автоматизировать?

— То, что связано с познавательной деятельностью, которая начинается с мыслительного процесса, обладает важным свойством — эмерджентностью, появлением некоего качества, которое не присутствует в частях, оно возникает как таковое, и оно возникает в результате взаимодействия всех этих способностей. Это невозможно имитировать. Это можно только поддерживать. Этому можно только помогать.

А почему мозг может это — проявлять инициативу, выполнять все те функции, о которых вы говорите? Это ясно?

— Дело в том, что это как раз заблуждение, что это мозг. Это важный философский вопрос, на который на самом деле есть ответ в книге Карла Раймунда Поппера, которая называется «Знание и психофизическая проблема. К вопросу о взаимодействии». Согласно Попперу (а он значительно улучшил Платона), существует три мира: мир физический (в широком смысле), мир ментальных состояний и мир объективного знания. Этот мир объективного знания возникает в результате деятельности человека, но затем он становится самостоятельным. И познавательные процессы, в том числе мыслительный, происходят в результате взаимодействия мира ментальных состояний и мира объективного знания. Мир объективного знания сам ведет исследователя, помимо его воли, он уже становится самостоятельным.

И если мы поймем важное различие между мыслительным процессом, познавательным процессом и реализацией этого познавательного процесса благодаря способностям идеального интеллекта, мы сможем сформулировать, что же такое естественный интеллект вообще.

magnifier.png Если мы поймем важное различие между мыслительным процессом, познавательным процессом и реализацией этого познавательного процесса благодаря способностям идеального интеллекта, мы сможем сформулировать, что же такое естественный интеллект вообще

Идеальный естественный интеллект — это система знаний, набор интеллектуальных способностей и высшие психические функции, каковыми являются интенция, инициатива, интуиция, воображение и рефлексия. В совокупности интеллектуальных способностей, применяемых к системе знаний, при участии высших психических функций мы и получаем функционирование человеческого познания, и ясно, что мозг принимает в этом участие, но познавательный процесс не сводится к деятельности мозга, потому что система знаний находится вне мозга.

И первый постулат точной эпистемологии — спецификация предметной области. Прежде чем применять те или иные методы и, соответственно, реализующие их компьютерные системы, вы должны понять, с какими предметными областями вы имеете дело, какова особенность предметной области. Их три. Во-первых, это может быть мир случайных событий. Тогда вы применяете методы теории вероятностей и математическую статистику. Вообще говоря, это вряд ли имеет отношение к искусственному интеллекту, это вычислительная математика и какие-то ее приложения. Второй тип предметной области — наличие детерминации, наличие отношений причинности среди событий. Вот эта предметная область как раз должна активно использоваться при реализации идей точной эпистемологии и в технологиях искусственного интеллекта. Ну и, наконец, третья — это комбинация первых двух, это когда есть одновременно и детерминация, и случайные флуктуации. Понятно, что это более общая область, ее тоже надо развивать, без этого мы многие задачи просто не сможем решить.

 

Продолжение следует

Еще по теме