26 августа 2021

Оставьте сильный ИИ Голливуду

С тех пор как появились компьютеры, человечество то тешит себя надеждой, то пугает перспективой создания машины, по силе интеллектуальной мощи равной мозгу человека, а то и превосходящей его.

В последнее время в связи с успехами разработок в области искусственного интеллекта (ИИ) эти надежды и страхи возобновились с новой силой. Меридит Бруссард решила показать, а может, и доказать, что угроза исходит не от искусственного интеллекта как такового, а скорее от надежд, что он решит все проблемы человечества. Надежд, распространяемых теми, кого она называет «техношовинистами», то есть людьми, исповедующими превосходство техники над людьми. Хотя ИИ всего лишь функция машины, которой управляют люди со всеми их сложностями и предрассудками.

Название книги Бруссард «Искусственный интеллект: Пределы возможного» не отражает всего ее содержания, которое весьма разнообразно: здесь и размышления о технических проблемах использования ИИ, и о социальных ограничениях и последствиях такого использования, о роли цифровых технологий и злоупотреблении ими в современном образовании, о цифровой журналистике, наконец, о том, какую роль сыграли личности создателей ИИ в формировании фантастических надежд на его будущее и о профессиональных и человеческих характеристиках всего сообщества его создателей. Как замечает сама Бруссард, ее книга — это скорее сборник очерков, связанных общей идеей противостояния техношовинизму.

Компьютер — это только молоток

Как пишет Бруссард, «всю свою сознательную жизнь я слышала обещания, что технологии изменят мир к лучшему. Однако с недавних пор я перестала верить, что технологии спасут мир». И это не результат неких ее философских размышлений. Программист по образованию, ставшая преподавателем цифровой журналистики, то есть журналистики, основанной на анализе больших данных (она даже разработала программу Bailiwick, предназначенную для раскрытия историй о финансировании избирательных кампаний). Даже в этой книге она учит читателей, как написать простейшую программу, чтобы показать, как работают алгоритмы и насколько они ненадежны. В конце концов, Бруссард пришла к скептическим выводам о роли и перспективах ИИ на основе своего опыта работы и в программировании, и в журналистике: «Восторженные попытки применить компьютерные технологии в каждом аспекте нашей жизни привели к появлению невероятного количества недоработанных технологий. Они усложняют повседневную жизнь, вместо того чтобы делать ее проще… Есть поговорка: “Когда у тебя в руках молоток, все кажется гвоздями”. Компьютеры — это молотки. И пора наконец остановить слепую погоню за цифровым будущим и начать принимать более осознанные решения относительно того, когда и зачем использовать их». Наверное, каждый из нас сталкивался с такими примерами недоработанных технологий, например с голосовыми помощниками, которые способны привести в бешенство даже уравновешенных людей своими ответами: «Я вас не понял, повторите вопрос». И хотя это частный случай, он очень характерен. Но ситуация, конечно, сложнее.

В основе большинства рассуждений Бруссард об ИИ лежит вводимое ею разделение между, как она называет их, сильным и слабым ИИ. Так называемый сильный ИИ — это, как замечает Бруссард, порождение Голливуда: «Сильный — это голливудская версия. Как раз благодаря такому ИИ оживает робот-дворецкий, который теоретически может обрести сознание и захватить государство, что, в свою очередь, может привести к появлению настоящего Арнольда Шварценеггера в качестве Терминатора и иным не слишком приятным последствиям». Однако, как отмечает Бруссард, еще в 1990-е годы «исследователи поставили крест на сильном ИИ. Сегодня его называют “старым добрым искусственным интеллектом”. Слабый ИИ — настоящий. Он опирается исключительно на вычислительные методы и не настолько увлекателен, как его старший собрат, но удивительно хорошо справляется с разного рода задачами».

Важное различие, по мнению Бруссард, заключается в следующем: сильный ИИ — это то, чего мы желаем, на что надеемся и что представляем себе. Слабый ИИ — то, что у нас реально есть.

Жизнь слишком сложна для ИИ

Проблему применения ИИ Бруссард детально анализирует на примере беспилотных автомобилей, поскольку, как она считает, они наилучшим образом показывают насколько ИИ несостоятелен, по крайней мере в данном случае. И в подтверждение своего мнения приводит слова программного менеджера программы «Машины непрерывного обучения» DARPA Хавы Сигельман (к слову, как выясняется, DARPA отказалась от поддержки автономных транспортных средств): «Жизнь непредсказуема по определению. Для программиста будет непосильной задачей учесть каждую проблему или неожиданную ситуацию, которая может возникнуть, поскольку системы машинного обучения достаточно чувствительны к нарушениям шаблонов из-за того, что в реальном мире сталкиваются с нерегулярностью и непредсказуемостью». То есть жизнь не только непредсказуема, но и слишком сложна, чтобы все ее сложности загрузить в ИИ. Бруссард приводит в пример ситуации, заснятые на дороге при испытаниях беспилотного автомобиля: кадры с детьми, прыгающими, как лягушки, на шоссе, или женщиной в электрическом кресле-каталке, гоняющейся за уткой посреди дороги. И замечает: «Все это не так часто, но все же случается. У людей есть разум, они могут адаптироваться к странностям. У компьютеров его нет, они — не могут». Или описывает ситуацию, когда дети играют на тротуаре в опасной близости от дороги. Водитель-человек догадается, что в этой ситуации нужно соблюдать осторожность, догадается ли ИИ?

Но проблема не только в сложности требований, предъявляемых к системам ИИ, но и в том, что чем больше сложность любой технической системы, тем менее она надежна, что известно любому инженеру и из практики, и из теории надежности. И Бруссард с некоторой иронией приводит пример лифта в ее доме, бесперебойную работу которого не могут наладить уже много лет: конечно, «лифты — сложные механизмы… [Но] у лифта всего лишь одна цель, реализацией которой занимаются высококвалифицированные изобретатели, инженеры-конструкторы, инженеры-механики, менеджеры по продажам, маркетологи, дистрибьюторы, гарантийные службы и надзорные органы. И если все эти люди, работающие вместе десятилетиями, не могут заставить лифт в моем доме делать то, что он должен, мне не слишком верится, что другая группа не менее квалифицированных людей в другой цепи разработки и эксплуатации может заставить беспилотный автомобиль выполнять несколько задач одновременно, не убивая при этом ни меня, ни моего ребенка, ни детей, путешествующих на школьном автобусе, ни детей, стоящих недалеко на автобусной остановке».

И замечает, что «такие привычные устройства, как лифты или автоматические смесители воды, на самом деле имеют значение, поскольку служат индикаторами качества работы всей системы в целом. И пока эти штуки не работают как должно, наивно полагать, что волшебным образом заработают другие, более сложные устройства».

И если обращаться к образу сильного и слабого ИИ по отношению к беспилотному транспорту, то сильный ИИ, в понимании Бруссард, — это абсолютно автономный автомобиль, который лишь голливудская фантазия, а слабый ИИ — это автомобиль, оборудованный помощниками водителя, которые не замещают его. И это реально и необходимо.

Книга в руках ребенка — самое эффективное средство образования

Второй важный сюжет книги — проблемы образования. В главе, посвященной образованию, Бруссард анализирует причины, по которым американские школы после двух десятилетий реформирования образования до сих пор неспособны подготовить учеников к сдаче стандартизированных тестов. Заметим, что эта проблема присутствует и в России. Однако тут с автором приходится поспорить, Бруссард видит важнейшие истоки этой проблемы не столько в самом факте стандартизации, сколько в том, что компании, разрабатывающие государственные и локальные школьные тесты, также издают учебники, в которых есть ответы на вопросы тестов. Однако, как оказалось, в США далеко не все школы могут себе позволить такие учебники. Как пишет Бруссард, «по всей стране разработкой тестов занимаются лишь три компании: CTB/McGraw-Hill, Houghton Mifflin Harcourt (HMH) и Pearson. Они создают тесты и системы их оценки, а также выпускают учебники, по которым школьникам следует готовиться». Как отмечает Бруссард, согласно материалам в прессе, HMH занимает 38% рынка, в 2013 году прибыль компании составила 1,38 млрд долларов». Более того, «в 2012 году издательство Pearson пережило серьезный скандал: выяснилось, что один из абзацев в тесте был полностью скопирован из учебника, изданного ими». То есть это даже не учебник, а шпаргалка. И возникает вопрос о качестве образования, полученного на основе таких учебников.

Удивительным образом Бруссард видит решение проблемы не в том, чтобы разорвать эту монопольную связь, а в том, чтобы обеспечить все школы такими учебниками, что еще более укрепит монополизацию этой сферы.

И при этом делает удивительно верное замечание: «Даже в нашем высокотехнологичном мире простейшее решение [проблем образования] — книга в руках ребенка — оказалось весьма эффективным. Это заставило меня задуматься о том, почему мы тратим так много денег на внедрение технологий в классах, когда у нас уже есть дешевое и эффективное решение, которое неплохо работает». Об этом стоит помнить и в России, где последнее время тоже очень много внимания уделяется насыщению школ всякого рода дорогостоящими гаджетами типа электронных досок, но мало слышно призывов донести до детей книги как самый эффективный способ образования.

И это относится не только к школьникам, но и к студентам. Как замечает Бруссард, «скорость, точность и глубина погружения при обучении страдают, если мы читаем с мониторов. Бумага в этом смысле попросту превосходная технология для погружения в материал, которого мы ожидаем от студентов в рамках их обучения. Чтение с экрана — веселее и сподручнее, да, но ведь чтение с целью понимания не подразумевает веселье или легкость. Оно предполагает обучение. И когда дело доходит до обучения, студенты предпочитают экранам бумажные формы».

Машину можно просто выключить

Многих из тех, кто сам не имеет отношения к программированию и ИИ, завораживают слова «машинное обучение», и они начинают думать, как замечает Бруссард, «что каким-то образом компьютер обзавелся субъектностью и разумом, поскольку он “учится”, ведь обучение — это слово, которое применяется к разумным существам вроде людей (или частично разумным, например животным)». Но на самом деле «“машинное обучение” — это скорее метафора, она означает, что машина может улучшать свои показатели при решении запрограммированных, рутинных, автоматизированных задач. Это вовсе не значит, что машина каким-то образом приобретает знания, мудрость или субъектность, несмотря на все то, что подразумевает слово “обучение”».

Именно распространение преувеличенных представлений о возможностях машинного обучения породили среди фантастов и деятелей Голливуда представление о сингулярности, согласно которой через некоторое время человек интегрируется с вычислительными системами. И машины завоюют мир. Как рассказывает Бруссард, однажды ее спросили, не беспокоит ли ее такое будущее. На что Бруссард ответила: «Это все равно как предполагать, что, если бы вы изобрели машину, которая хочет делать скрепки, затем научили бы ее хотеть делать что-то другое, а потом машина создала бы множество других машин и они бы захватили мир? Это забавно, хотя и бессмысленно. Машину можно просто выключить из розетки. И проблема решена».

Мередит Бруссард. Искусственный интеллект: Пределы возможного. М: Альпина нон-фикшн, 2020. 362 с. Тираж 3000 экз.

 

Подзаголовок:  Программист и специалист по цифровой журналистике Меридит Бруссард написала книгу, в которой показывает, что угроза человечеству исходит не от искусственного интеллекта, а от надежд, которые возлагают на него техношовинисты
Текст подверстки: