ЗНАНИЕ Серия "Знак вопроса". 1989 №2

Человек или машина?

автор - Анатолий Георгиевич Абинов

«Искусственный интеллект» – всемогущий электронный разум!

– Можно?..

Он пришел на экзамен во всеоружии: с зачеткой, ворохом бумаг и с… гитарой.

А гитара зачем?

Оказалось, – для наглядной демонстрации полученных результатов. Программа, которую создал студент, может сочинять музыкальные пьесы в любом, наперед заданном ритме, будь то вальс, шейк или «хэви метал»…

Вот так, что называется с музыкой, у нас в Физтехе проходят экзамены по программированию. Созданные студентами программы играют в шахматы, шашки и другие игры, сочиняют музыку и стихи… И ставя очередное «отлично», я тогда думаю: «А ведь несколько десятилетий назад люди пугали друг друга угрозой машинного бунта. Машины поработят людей, заставят их работать на себя, словно рабов, – такие заявления делались на полном серьезе…»

Эту историю рассказал мне не так давно один из преподавателей Московского физико-технического института. И действительно, история о том, могут ли машины думать и чем грозит человечеству приобретение ими таких способностей, достаточно давняя.

Началось все как будто с пустяков. Уже на заре применения. ЭВМ, наряду с программами, по которым производились математические расчеты, стали появляться и программы «для восприятия и воспроизведения», «поведение мыши в лабиринте» и тому подобные. В общем, довольно скоро программисты выяснили, что худо-бедно, но программированию поддаются многие стороны человеческой деятельности.

«Значит, в принципе машины способны заменить человека на любой работе – не только физической, но и умственной!» – подхватили эстафету писатели-фантасты. А. Азимов, Р. Брэдбери, А. Кларк и многие другие известные и менее известные писатели стали создавать шутливые, а то и мрачные произведения, в которых взбунтовавшиеся роботы шли войной против своих создателей.

Масла в огонь подливали то и дело появлявшиеся сообщения о создании кибернетических муравьев, черепах, кошек и собак, а то и человекообразных роботов, которые своим поведением во многом напоминали живых, настоящих людей.

Всех, пожалуй, перещеголял английский ученый Г. Паск. Сам по своей натуре человек оригинальный (так, например, он считал, что лучшее время для работы наступает после 18–20 часов непрерывного труда, и поэтому работал обычно подряд несколько суток, а потом отсыпался оптом), он ухитрялся найти зачатки разума даже у кристаллов, выращенных им из раствора.

Словом, шумиха среди обывателей и даже в ученом мире достигла таких размеров, что в дело были вынуждены вмешаться специалисты самого крупного ранга – «отец кибернетики» Н. Винер, Дж. фон Нейман и другие.

Прежде всего нужно было определиться, выяснить, что такое искусственный разум. Могут ли вообще машины мыслить? Что скрывается за этим понятием? Среди первых, кто попытался более-менее обстоятельно ответить на эти вопросы, был американский математик А. Тьюринг. В статье, которая так и называлась: «Может ли машина мыслить?», он писал, что если машину с программой, имитирующей действия человека, и самого человека поместить в одинаковые помещения и попросить кого-либо узнать, где есть кто, задавая вопросы в письменной форме или по телеграфу и по тому же каналу получая ответы, то такой наблюдатель, по всей вероятности, окажется в очень большом затруднении.

Это утверждение, кстати, немного позднее блестяще подтвердилось на практике при довольно комичных обстоятельствах. Д. Боброву – ведущему специалисту канадской фирмы «Белт, Беранек энд Ньюмен» стоило больших трудов убедить разгневанного вице-президента фирмы, что на все его вопросы, заданные по телетайпу, занудливо и бесцеремонно отвечал не сам Бобров, мирно спавший в это время, а установленная у него дома вычислительная машина.

В своей же работе Тьюринг сделал такой вывод: машина может с большим правдоподобием подражать человеческому мышлению. Но может ли она мыслить самостоятельно? Ученый, по существу, так и не ответил на этот вопрос, хотя и наметил некоторые пути создания автоматов, которые бы отличались какой-то сообразительностью.

Да и как он мог ответить на этот вопрос более четверти века назад, если и по сию пору никто толком не ответил на другой вопрос: «Что же такое мышление?» Ответ: «Мышление есть высшая форма активного отражения объективной реальности…» – кибернетиков не устраивает, поскольку его не запрограммируешь. Специалистам нужно конкретное описание процессов мышления, которые протекают в голове человека. А раз таких знаний человечество еще не накопило, то и говорить о создании думающих машин пока преждевременно. Машинное поведение будет отличаться правдоподобием только в тех случаях, когда оно, это поведение, как говорят математики, может быть формализовано, наперед задано и какие-то критерии поведения машины заложены в машинную программу. Любая, даже самообучающаяся, машина становится в тупик, если попадает в ситуацию, которую ее создатели предусмотреть не смогли.

Такой вывод следовал из статьи А. Тьюринга. Но наука ведь не стоит на месте. И если чего-то сегодня люди не знают, то они, возможно, будут знать это завтра. А познав что-то сами, смогут научить тому же и машины. Вспомним хотя бы: некоторое время назад ЭВМ не умели воспринимать зрительные и слуховые образы. Теперь, как мы знаем, эти проблемы потихоньку снимаются с повестки дня. Появились уже программы и устройства, которые позволяют ЭВМ читать печатный и даже рукописный тексты, отличать на фотографиях одно человеческое лицо от другого, понимать команды, отданные оператором вслух, и отвечать на его вопросы… Но ведь за всем этим, если вдуматься, стоит и еще одна способность компьютеров – машины начинают осваивать первые навыки логического мышления.

Термин «искусственный интеллект» появился не так давно – в конце 60-х годов. Поначалу он, как рассказывал профессор МФТИ Д. Поспелов, обозначал исследования, целью которых был поиск путей автоматизации тех умственных действий, которые традиционно считались привилегией человеческого мозга. Первые модели-должны были играть в шахматы, шашки…

Успехи в этом направлении хорошо всем известны. Ныне проводятся даже чемпионаты мира по игре в шахматы среди вычислительных машин. Однако моделирование поведения игрока в шахматы. хотя и послужило неплохой рекламой этого научного направления, вовсе не самоцель для той отрасли науки, которая занимается созданием искусственного интеллекта. Таким способом специалисты просто хотели нащупать некие приемы и методы, которыми пользуется человек, когда решает возникающие перед ним умственные проблемы.

Эти первые шаги и сформировали в конце концов новое научное направление, получившее название «теория искусственного интеллекта». Прикладные цели этой теории – заменить некоторые интеллектуальные функции человека работой ЭВМ. И надо сказать, что первые успехи в этом направлении уже достигнуты. В нашей стране, например, создана система «Старт», которая в значительной степени облегчила диспетчерам их сложную работу по управлению взлетом и посадкой самолетов. Разрабатываются системы, помогающие водить эти самые самолеты, а также корабли и другие средства транспорта. Причем речь тут идет не о механическом выдерживании заданного человеком курса, высоты или скорости, но и определении своего Места в океане или воздушном пространстве, реакции на приближающуюся опасность и т. д.

Одновременно с прикладными разработками ведутся и фундаментальные исследования в этой области. Ведь если мы хотим когда-либо создать компьютерную систему, которая могла бы вести себя во многих случаях в точности как человек, а возможно, и лучше его (например, машинам вряд ли когда-либо будет свойственно поддаваться страху, панике и т. д.), то ученым придется решить еще немало фундаментальных проблем.

Как решаются некоторые из этих проблем восприятие окружающего мира, организация диалога на языке, близком к естественному, – мы с вами уже говорили. Поэтому здесь мы уделим главное внимание третьей проблеме – целесообразному поведению машины в окружающем нас мире, которому порою свойственны внезапные, зачастую непредсказуемые изменения. Каким образом люди ухитряются выкручиваться из ситуаций, где нет, казалось бы, – никакого выхода? Это во многом еще непонятно.

Поэтому специалисты сегодня развивают не только специальные кибернетические дисциплины, но и другие, казалось бы, чисто человеческие. Развивается специальная область, так называемая нормативная психология, изучающая поведение человека, у которого как раз «все в норме», т. е. нет отклонений в психике от общепринятых критериев. Изучаются и сами эти критерии – что именно стоит брать за образец нормального поведения? Разбираются ученые также и в основах образного мышления, т. е. пытаются подвести научную базу под способность человека классифицировать даже разнородные факты, приводить свои знания в некую систему и таким образом эффективно пользоваться ими.

Эти методы эвристического подхода позволяют уже в настоящее время отказаться от громоздких алгоритмов последовательного перебора, которыми пользовались еще недавно. Если бы компьютеры, играя в шахматы, пользовались лишь методом последовательного перебора всех возможных вариантов, то партии между ЭВМ, даже при всем быстродействии современной вычислительной техники, продолжались бы… миллионы лет! Однако на практике этого не происходит. Компьютеры сразу же отметают большинство ходов как практически неприемлемые и сосредоточивают основное внимание на нескольких, наиболее перспективных вариантах.

Таким образом, уже сегодня можно сказать, что ученым удалось в какой-то мере дать кибернетическую интерпретацию понятия «разум». Более того, последнее время все чаще говорят о создании ЭВМ так называемого нейронного типа. Однако считать, что мы научили компьютер думать в полном объеме этого слова, пока нельзя. Почему?

– У любого автомата есть свой маленький интеллект, – сказал как-то по этому поводу академик АН УССР Н. Амосов, – и его моделирование не вызывает трудностей. Они возникают, когда мы подходим к воссозданию особенностей человеческого разума. Нам удалось воспроизвести некоторые его «качества». Мы «прощупали» чувства, сознание и подсознание… Сделано несколько моделей на цифровых машинах, которые воссоздали работу мозга в виде семантической сети. Мы даже получили возможность прикоснуться к некоторым чиста психологическим функциям. Однако никакого искусственного интеллекта все же воссоздать не удалось. Почему? Да хотя бы уже потому, что просчитать каждый этап временной сети, уровень активности, допустим, даже 300 их связей (а это по сравнению с мозгом ничтожная величина) на современном уровне техники представляется невозможным…

Амосов сказал это около пятнадцати лет назад. И хотя за пятнадцать лет вычислительная техника значительно усовершенствовалась, вопрос о создании искусственного интеллекта и по сей день остается открытым. Причин тому несколько. Одна из них в том, что одновременно с качественным и количественным ростом вычислительной техники растет и понимание сложности поставленной задачи. На сегодняшний день, например, с достаточной четкостью осознано, что полушария мозга представляют собой, в общем-то, разные «машины». В начале 70-х годов было открыто, что каждому из полушарий свойствен свой образ мышления. Одно преимущественно мыслит логически, другое – образно.

– Наше мышление основано на двух типах восприятия внешнего мира: чувственном (неосознанном) и осознанном, – говорит по этому поводу академик Г. Поспелов. – То, что человек осознает, стало быть, может выразить словами, составляет лишь небольшую часть работы мозга. Процессы мышления нельзя наблюдать непосредственно. О них можно судить лишь косвенно, изучая, как преобразуется информация, поступающая в мозг. Поэтому так мало известно, что происходит в «образном» полушарии. А без этого нельзя создать интеллект, сколько-нибудь похожий на человеческий…

Да и сам процесс логического мышления, оказывается, намного отличается оттого представления, которое бытовало у многих ученых еще недавно. Считалось, что при определенных видах умственной деятельности в мозге работают лишь отдельные центры, ответственные за данные функции, в то время как другие центры отдыхают. Однако эксперименты, проведенные видным советским физиологом Б. Котляром и его коллегами в Московском государственном университете им. М. В. Ломоносова, показывают, что мозг работает как единое целое и нет нейронов, которые бы не реагировали на события в других участках мозга. В нем постоянно формируются так называемые функциональные состояния – сети или ансамбли нейронов, замкнутых между собой особым, каждый раз новым образом. Причем если раньше считалось, что каждый нейрон может иметь сколько угодно связей с другими, то по сегодняшним представлениям, количество таких связей вряд ли более четырех. Этого, впрочем, вполне достаточно для образования самых различных, не повторяющих друг друга ансамблей. Таким образом, вся деятельность, мозга представляет собой некий процесс постоянно сменяющих друг друга состояний.

Но несмотря на все эти достижения, перед исследователями проблемы искусственного интеллекта по-прежнему стоит во весь рост главный, корневой вопрос проблемы: «Что же такое мышление?» В разные годы кибернетики пытались отвечать на него по-разному, и всякий раз оказывалось, что данное определение неполно и искать истину надо глубже. Поначалу полагали, что «думающей машине» достаточно иметь память, потом – способность обучаться, затем – понимать человеческий язык, логически анализировать ситуации хотя бы на шахматной доске…

Всеми этими свойствами современные ЭВМ уже обладают. Неспециалисту порой бывает даже трудно представить, насколько разветвлена и многообразна деятельность современных компьютеров. Например, уже существуют многочисленные экспертно-информационные системы, с которыми специалисты вполне всерьез советуются в самых ответственных ситуациях. Так, скажем, система «советчик врача» помогает ставить правильный диагноз и назначать лечение. ЭВМ также поручают следить за состоянием послеоперационного больного, перекладывая на плечи машины всю тяжесть контроля реанимационных и реабилитационных процессов. Компьютеры принимают сегодня на себя весь груз подготовки ответственных решений в сфере производства и экономики, дают возможность определить, что получится еще до того, как будет запущен экспериментальный ускоритель или взлетит только что вышедший из ворот опытного, цеха самолет. Машины сегодня даже решают военные вопросы. Согласно многим военным доктринам, эффективные военные действия в настоящее время невозможны без кибернетического моделирования и управления. Вопрос, конечно, в том, стоит ли человечеству всецело доверять свою жизнь «электронным стратегам», но в принципе машины к такому положению дел вполне готовы.

Однако все это, повторяю, вовсе не значит, что машины научились думать.

– Всякая вычислительная машина, каким бы поразительным ни оказалось ее умение «самообучаться», адаптироваться к изменяющимся условиям, работает все-таки на основании заранее составленной программы к поступающих исходных данных, – полагает доктор физико-математических наук В. Барашенков. – И хотя такая особенность характерна и для разумного человека – ведь мы тоже реализуем, особенно в первые месяцы жизни, заложенную в нас при рождении генетическую программу, – принципиальное различие состоит в том, что мы способны. мотивированно, т. е. целенаправленно, в зависимости от конкретных условий изменять программу действий, притом так, что новая программа строго логично не вытекает из старой. Наши вычислительные машины и вообще любые кибернетические системы, построенные на тех же принципах, что и современные ЭВМ, этим свойством не обладают. Вот если бы случилось так, что какая-то ЭВМ, решавшая; например, задачи гидродинамики и квантовой механики, сама синтезировала эти два раздела науки и вывела бы уравнения квантовой теории поля, предсказав новые явления в этой не известной ей ранее области, тогда, наверное, мы были бы вправе назвать ее думающей…

Вот, оказывается, что самое главное в процессе мышления! Умение ставить задачу и самопрограммироваться на ее решение.

Но и это еще не все. Посмотрите, скажем, на поведение муравьев или пчел. Они очень оперативно реагируют на изменение окружающей обстановки, будь то изменения в погоде или вмешательство человека, но вправе ли мы их называть мыслящими существами?.. Ответ на этот вопрос остается открытым, поскольку никто, наверное, на сегодняшний день не возьмет на себя смелость сказать, что насекомые разумны. И в то же время списывать все их действия на один лишь чистый инстинкт, т. е. наследственную программу поведения, тоже, наверное, нельзя. Уж слишком неожиданны порой бывают изменения внешней среды, тут никаких инстинктов не напасешься. А насекомые все-таки приспосабливаются, вырабатывают новые программы действий…

В общем, на сегодняшний день многие ученые полагают, что разница между живым и неживым, думающим и недумающим диффузна, проходит где-то на уровне микроскопических объектов, возможно, даже отдельных клеток. Такие свойства разума, как способность к анализу и качественному синтезу в зародышевой форме, присутствуют уже в рефлекторном акте живого организма.

Так что же, значит, на микроскопическом уровне и надо строить мыслящую машину? Вполне возможно. И мы к этому вопросу еще вернёмся. А пока давайте попробуем ответить на другой вопрос: «Так можно ли все-таки построить мыслящую машину?» Да, можно. Вся тонкость в том, на каком уровне она будет мыслить.

– Универсальный разум, я думаю, мы не создадим. Потому что он должен был бы схватить слишком большой круг восприятий и моделей. А вот в том, что можно сконструировать интеллект на уровне человеческого, я не сомневаюсь.

Такова точка зрения академика Н. Амосова. А вот суждение другого специалиста в данной области.

– Мало надежды на то, что увеличение быстродействия и памяти машины до колоссальных величин приведет к превращению количества в новое качество и у машины начнут появляться «собственные мысли», – считает академик Г. Поспелов. И продолжает свои рассуждения: – Тем более абсурдна идея, что в будущем искусственный интеллект будет наделен чувствами и его можно рассматривать как живое существо со всеми правами человека. Такие заявления, как мне кажется, делаются в чисто рекламных целях, ибо под ними нет никакой научной материалистической базы. В самом деле, можно ли представить себе машину, испытывающую к кому-нибудь любовь или ненависть? Я, например, не могу…

Таким образом, можно считать, что ученые спустя десятилетия подвели итог еще одному этапу проблемы создания искусственного интеллекта. Ведь еще в 1950 году уже известный нам А. Тьюринг, отмечая ограниченные возможности тогдашних компьютеров, писал: «Он не может быть добрым, дружелюбным, изобретательным, иметь чувство юмора, отличать истинное от ложного, делать ошибки, влюбляться и становиться предметом любви, получать наслаждение от клубники со сливками, правильно пользоваться словами и размышлять о своей судьбе, совершать нечто действительно новое и быть столь же разнообразным, как и человек…»

Правда, кое-чему за это время компьютер все же научился. Он в какой-то мере умеет отличать истину от лжи, выявляя логические противоречия в поступающей информации. И ошибок в его работе бывает предостаточно. Учится он (и довольно успешно) правильно пользоваться словами. Но вот в главном по-прежнему остается верным высказывание «отца кибернетики» Н. Винера: «Оставьте человеку человеческое, а машине – машиново…» И этот «водораздел», по-видимому, будет существовать всегда.

Что же тогда остается на долю машинного интеллекта? Оказывается, далеко не так мало, как может показаться. Вот несколько примеров…

Книги читать онлайн

Содержание раздела: