ВВЕДЕНИЕ

Современные философы и исследователи науки часто рассматривают междисциплинарные науки как одно из выдающихся достижений заново открытых в 20 веке. Искусственный интеллект и искусственная жизнь представляют прекрасный пример такой интеграции многих научных областей. Конечно, междисциплинарность тоже имеет свою цену. Химики, биологи, специалисты в области вычислительных наук и многие другие изучают различные аспекты живых систем, пользуясь при этом сходными методами. Основными методами изучения искусственной жизни являются: синтез искусственных систем с аналогичным живым системам поведением, изучение динамики развития процесса, а не конечного результата, конструирование систем демонстрирующих феномен созидания. То, что объединяет исследователей в области искусственной жизни (ИЖ) – это методы, в отличие от их целей. Конечно, существует общий интерес к жизни как к феномену для изучения. К сожалению, жизнь слишком сложна, чтобы можно было наметить общие направления в исследованиях. Доказательствам последнего утверждения может служить тот факт, что некоторые заинтересованы в исследовании «систем, демонстрирующих феномены живых систем», другие изучают природу химического репродуцирования или пытаются решить философские проблемы самосознания. В то же время совершенно другой вид исследователей, относящихся к области роботики, пытаются создавать физические системы, демонстрирующие некоторое поведенческое сходство с животными.

Представьте себе хотя бы на секунду возможность существование AI - искусственного интеллекта. Машина способная думать, и осознавать свои поступки. Разве такая машина не будет являться новой формой жизни? Фактически намного более совершенной, чем человек - воздействие времени, болезней, радиации, потребность в пищи и воздухе - все отрицательные стороны человека для нее не свойственны.

С каждым годом мощность процессоров возрастает в несколько раз. Если верить некоторым людям - однопроцессорные системы, чья мощность превышает несколько сот Гига Герц, уже разработаны в таких корпорациях как Intel - за 20 лет компьютеры

прошли путь от лампочных ящиков с мощностью намного меньше сегодняшнего калькулятора, до размеров спичечного коробка.

Самообучение? Это тоже не проблема - такие программы уже тестировались в Японии, единственной проблемой является то, что чтобы компьютер сам понял смысл 2+2 нужно достаточно большой период времени (гораздо более длинный, чем человеку). Но что будет через 10-15 лет?

В фантастических книгах о будущем киборги - всего лишь холодные расчетливые умы, способные думать лишь логически. Однако кто может быть уверенным в том, что рано или поздно машина задастся вопросом - что я есть? Уже сейчас мы пытаемся создать такую машину. Многим это не нравится: Как можно! - говорят они: Как можно ставить человека на один уровень с Богом, а машину на уровень человека? Интересно эти люди задумывались хоть раз над тем, что сам человек мог появиться таким же способом, не одна теория о происхождении жизни еще не доказана. А что если это и есть процесс эволюции? Одни рассы создают других. Уже сейчас ученые могут создать человека из набора цифр - кода ДНК. Почему же не возможно создание компьютерной системы, которая на основе тех же цифр сможет испытывать эмоции, мыслить и понимать, что она существует. Вот вам эволюция - каждая новая расса во много раз превосходит предшественников - компьютер превосходит человека, также как человек превосходит одноклеточный организм.

Но сможем ли мы понять вовремя, что мы создали разумное существо? Возможно, именно так поступили те, кто набрал на клавиатуре число и получил ДНК - хороший способ проверить, способна ли новая получившаяся раса понять смысл и причину ее существования.

В качестве основы данной работы рассматривались труды довольно известного современного философа, ученика Мартина Хайдеггера, Майкла Веллера определяющего в своих работах взаимосвязь современных проблем искусственной жизни и искусственного интеллекта с картезианским и неоаритотелевым подходами рассмотрения мышления и жизни как таковой.

 

 

1. ДВА ВИДА НАУКИ О МЫШЛЕНИИ

Искусственная жизнь, замечательная и быстро развивающаяся область научного знания, которая может совершить переворот в науке о мышлении. С другой стороны, еще весьма большой объем теоретических исследований требуется, чтобы приблизиться к систематическому пониманию концептуальных рамок, в которых может развиваться наука о мышлении на базе искусственной жизни. Такое понимание необходимо не только в академических исследованиях в области философии науки. Оно поможет сформировать вопросы, требующие дальнейшего рассмотрения и объяснить результаты эмпирических исследований. Далее приводится попытка систематического рассмотрения данной проблемы. Целью является разделить и провести сравнение двух видов науки о мышлении (ортодоксальной и биологически-ориентированной), и показать, как эти два отдельных стиля мышления в области научного познания являются потомками двух радикально различающихся взглядов на место разума в природе (картезианский и аристотелев взгляды). Главной идеей будет то, что «искусственная жизнь потенциально может стать интеллектуальным двигателем биологически ориентированной науки о мышлении, действующей в рамках общих аристотелеевых концепций»[1].

Жизнь в науке о мышлении рассматривается как простое явление. Бесспорно, что искусственный интеллект был теоретическим ядром в данной области, в том смысле, что эти концепции, разработанные для искусственного интеллекта или обычно применяемые в этой области (такие концепции как алгоритм, эвристика и обработка информации) обеспечивают науку о мышлении терминологическим базисом. Однако появление в рассмотрении также искусственной жизни придало данной области познания большую законченность.

На практике под крышей термина искусственная жизнь гнездится грандиозное разнообразие различных проектов от моделей копирования ДНК и систем с обратной связью датчик-двигатель до изучения коллективного разума и динамики роста населения. Такое разнообразие приводит к трудности компактного определения для данной области знания. Однако, в контексте данной работы, будет правильным

использовать определение искусственной жизни как попытки познания живых систем (включая, в предельном случае, феномен который можно сгруппировать вместе под такими понятиями как разум, мышление и познание) посредством анализа и/или синтеза артефактов (компьютерных моделей, искусственных миров и роботов). В то же время при адоптации строго ограниченного точного определения искусственного интеллекта (т.е. фундаментально логически обоснованного или основанного исключительно на разуме человеческого уровня) возникает разрыв между искусственной жизнью и искусственным интеллектом для определенных видов исследований в области искусственной жизни (например, разработки роботов с интеллектом животного уровня), хотя они и относятся к некоторому, пусть и нестандартному, типу искусственного интеллекта. Для точности формулировок терминов в дальнейшем рассмотрении проведем различие между искусственной жизнью (которая всегда включает определенные формы искусственного интеллекта) и искусственным интеллектом, который не является в то же время искусственной жизнью. В дальнейшем будем называть второй вариант исследований искусственным интеллектом в ортодоксальной форме (orthodox AI или OAI).

OAI может быть определен путем его отношения к идее, что здоровая наука о разуме может, по большей части, игнорировать биологические размышления, которые тяготеют к входу в общую картину в качестве только «деталей конкретного воплощения» либо «случайные исторические частности», и в целом не обеспечивает и не содержит концепций и принципов обычно используемых для построения научного объяснения разума. Данная тенденция к биологической нейтральности выражается в наборе различных измерений таких как (а) вынесение из области рассмотрения либо предельно упрощенный взгляд на то, что происходит в нервной биологической системе и (в более общем случае) в биологическом теле, (б) пренебрежение скованностью налагаемой на биологический разум необходимостью действовать в реальном времени в часто враждебной, непредсказуемой и не прощающей ошибок обстановке и (в) закрытие глаз на тот факт, что поведение животных зачастую высоко специфично в рамках их экологической ниши.

OAI, охарактеризованное выше, будет использовано в качестве интеллектуального ядра, для того, что будем в дальнейшем называть ортодоксальной наукой о мышлении (orthodox cognitive science OCS). Согласно означенному соотношению, можно ожидать от OCS демонстрации такого же отношения биологической нейтральности, как и у OAI, только в данном случае по отношению к научному объяснению мышления и познания. И это будет именно то, что мы искали. В ортодоксальной истории науки о мышлении, для того чтобы объяснить вид познания демонстрируемого биологическим мыслителем возможно по большей части игнорировать факты биологии биологического мыслителя. (Исключение из этого правила – определение нормальной функции посредством естественного дарвиновского отбора будет рассмотрено далее).

Большинство, хотя и далеко не все, работы в области искусственного интеллекта и науки о мышлении являются ортодоксальными (т.е. как было определено выше, биологически нейтральными). Это включает в себя подавляющее большинство, хотя и далеко не все модели, разработанные под флагом коннективизма. (Удручающее общее утверждение, что коннективисткие сети, в общем, являются «биологически реалистичными психологическими моделями» по-видимому, фиктивно). Далее этому будет дано объяснение. Теперь рассмотрим радикально отличающийся вид исследований: реально биологическая наука о мышлении. Под этим термином подразумевается наука о мышлении, которая следует тому, что Годфри-Смит называл строгой непрерывностью, утверждение о том что «жизнь и разум имеют общую абстрактную структуру или набор базовых организационных свойств… Разум буквально подобен жизни.»1 Согласно этому утверждению, направляющим принципом биологической науки о мышлении будет то, что мышление может быть объяснено с использованием тех же фундаментальных концепций и принципов, что и описание других биологических феноменов. Биологическая наука о мышлении буквально является наукой о жизни.

Отметим четыре положения, касающихся строгой непрерывности:

1. Строгая непрерывность влечет за собой, – но не проистекает из – более слабых форм непрерывности, согласно которой для того, чтобы некоторая сущность имела разум, она должна быть живой, хотя для того чтобы быть живой наличие разума не является необходимым. Данная форма непрерывности сама по себе недостаточна для действительно биологической науки о мышлении, так как она не дает гарантии, что кто-либо должен обращаться к принципам построения живого объекта для того, чтобы понять процесс мышления.

2. Из строгой непрерывности не следует, что жизнь и мышление есть одно и то же. Они находятся в непрерывной последовательности, но не эквивалентны.

3. В контексте биологической науки о мышлении, строгая непрерывность предполагает методологию изучения «снизу-вверх». Сначала исследователь проводит поиск удовлетворительного объяснения некоторого простого не мыслящего проявления жизни (Для основания подходящей теоретической концепции). Затем производится его противопоставление более сложной мыслящей сущности.

4. Строгая непрерывность, в первую очередь, беспокоит тех, кто жаждал действительно обобщенной науки о мышлении. Конечно, может оказаться, что сходный набор структурных свойств выражен не только в жизни и разуме натуральных земных природных существ, но и в их неземных копиях (если данных феномен существует), а также во всех формах искусственной жизни и искусственной ментальности, которая возможно способна существовать (если кто-либо считает, что артефакты могут буквально быть живыми и иметь разум). Если повернуть рассмотрение в эту сторону, то идея об обобщенной науке, о мышлении будет спасена. Однако ничто в идее строгой непрерывности не гарантирует такой результат.

Очевидно, что положение о том, что биологическая наука о мышлении может быть построена вокруг OAI выходит за рамки разумного сомнения. Но как же теперь поступать с искусственной жизнью? Ранее предполагалось, что искусственная жизнь может быть охарактеризована как попытка использования искусственной среды для исследования феномена жизни. Это продвигает нас в правильном направлении. Уже был отмечен тот факт, что объяснение интеллекта, разума и мышления стоит на повестке дня в области изучения искусственной жизни. Это показывает, что канонический взгляд с точки зрения изучения искусственной жизни предполагает рассмотрение данных феноменов как исключительно связанных (и являющихся подмножеством) живых систем, которые заключают в себе, в целом, то, что делают живые системы, согласно слабой форме непрерывности, определенной ранее. Конечно, данное принятие слабой формы непрерывности не обязывает рассматривающих искусственную жизнь принимать ведущий принцип биологической науки о мышлении, тезис о строгой непрерывности. Тем не менее, хотя строгая непрерывность не является строго обязательной в характере искусственной жизни, исследователи, работающие в области искусственной жизни и смежных областях, часто покупаются на эту идею. Например, выдвигается аргумент, что модели искусственной жизни обеспечат объяснение неожиданных проявлений составляющих основу жизни и разума. Также предполагается, что подрыв обычного иммунологического распознавания свой-чужой будет иметь последствия в области таких высокоуровневых явлений как самосознание и индивидуализм. Решающим фактом является то, «что характер искусственной жизни не только допускает строгую непрерывность, но и активно поощряет ее»1. Несмотря на этот факт, искусственная жизнь является действительным OAI.

На данной стадии возникает необходимость прояснить взаимоотношения, существующие между искусственной жизнью и биологической наукой о мышлении. Объяснение живых систем, предлагаемое в рамках искусственной жизни обычно формулируется в рамках теоретического словаря, поддерживающего набор различных научных концепций (таких как самоорганизация, автономия, реакция на внешние проявления и т.п.). Если бы подобные концепции обеспечивались биологической наукой о мышлении с ее теоретическим словарем, тогда искусственная жизнь смогла бы стать таким же интеллектуальным базисом для науки о мышлении, каким ортодоксальный искусственный интеллект является для ортодоксальной науки о мышлении.

 

2. ВСЕ ЕЩЕ КАРТЕЗИАНСКАЯ

Будет очень полезно на некоторое время сконцентрироваться на одном специфическом спорном вопросе, по которому расходятся ортодоксальная и биологическая наука о мышлении, а именно выражение соотношения которое существует между нейробиологическими/биохимическими свойствами живых организмов с одной стороны и мышлением с другой стороны. (В результате данный спорный вопрос создает первое направление биологической нейтральности в ортодоксальной науке о мышлении, как было определено в предыдущей главе). Различие в этом вопросе может быть объяснено тем фактом, что два вида науки о мышлении сформированы в радикально различающихся философских концепциях. В целом биологическая наука о мышлении наиболее органично ложится в рамки общей аристотелевой концепции, в то же время у ортодоксальной науки о мышлении наблюдаются картезианские корни.

Любой, кто даже не проявлял особого интереса к философии разума, знает, что Декарт считал мыслимое и физическое двумя различными, но взаимодействующими онтологическими реальностями. Однако другой вклад, сделанный Декартом в изучение разума, менее широко известен. Этим вторым вкладом является форма психологического обоснования – дуализм обоснования – который одновременно поддерживает следующие тезисы: (1) для объяснения физического явления, некто нуждается в привлечении только специфических физических сущностей и состояний и специфических физических законов; (2) для объяснения психологических явлений, некто нуждается в привлечении только специфических мыслительных сущностей и состояний и специфических законов мышления. Дуализм обоснования прекрасно согласуется с идеей, что мыслительные события являются предельной формой физических явлений. Для физической онтологии, предлагаем ли мы физический или психологический стиль обоснования зависит описания, к которому, с текущими заданными конкретными целями обоснования, склоняются взятые интересующие нас явления.

Важно то, что Декарт мыслил органическое тело мыслителя как еще один физический объект в физическом мире. Учитывая дуализм обоснования, данная идея приводила его к тому, что нейробиологическое/биохимическое обоснование событий в теле мыслителя неуместно в психологическом обосновании событий в разуме мыслителя, в том смысле, что психологическое обоснование может быть проведено в отсутствии любого, сколько бы то ни было детализированного нейробиологического/биохимического знания о теле мыслящего объекта. Данное обосновательное отделение разума от физического носителя приводил в результате к прерывистости в обосновании в данном контексте между жизнью и разумом. Научное обоснование процессов, которые рассматривались картезианством как органические, относящиеся к телесной жизни (такие процессы как пищеварение, размножение и рост) немедленно попадало в область биологических объяснений, которая толковалась как принижаемая физической наукой. Научное обоснование физических процессов, с другой стороны, нуждается в изложении на языке, совершенно отличающемся от биологического языка, в языке специфическом для психологии. Это равнозначно отклонению положений строгой непрерывности. Другими словами, дуализм обоснования несовместим с биологической наукой о мышлении.

В настоящее время функционалисты в философии разума придерживаются взглядов, что определяющее свойство типа ментального состояния является причинная роль того, что состояние играет в посредничестве между (1) сенсорными входами, (2) другими типами ментальных состояний и (3) моторикой поведения. Строго говоря, функционализм не проводит связей к природе основы, на которой реализованы ментальные состояния, так как сущность в некотором частном ментальном состоянии уже является, как уже говорилось, сущностью в некотором специфическом функциональном состоянии, и совершенно эквивалентные функциональные состояния могут быть, в принципе, реализованы биохимически на углеродной основе, в виде кремниевого мозга или в виде картезианского разума самого по себе. Здесь, в принципе, функционализм входит составной частью в дуализм субстанций. Данный принципиальный факт может показаться незначительным, если считать, что функционализм обычно является рабочей лошадкой теории распознавания, согласно которой любая сущность данного типа ментального состояния является единственной и сходна с некоторым физическим состоянием в физической системе. Но, «дополнение к требованиям распознавания не рассматривает нейробиологические и биохимические детали тела биологического мыслящего объекта относящегося к процессу психологического обоснования»1. Согласно функционалистам, процесс психологического обоснования может проводиться в превосходной изоляции от этих частных деталей. Подобная позиция уже рассматривалась ранее: функционализм является формой картезианского дуализма обоснования.

Так как же база дуализма обоснования в функционализме уместна в понимании ортодоксальной науке о мышлении? Ответом является, что ортодоксальная наука о мышлении построена на функционализме. В самом деле, вычислительные состояния (тип состояний к которым прибегают ортодоксальный искусственный интеллект и ортодоксальная наука о мышлении) прекрасные примеры функционально определенных состояний. При этом нет никакого противоречия в том, что одно из классических положений функционализма было выражено в теории путем использования машины Тьюринга. Как только принимается функционалисткие основы ортодоксальной науки о мышлении и вместе с ней общее картезианское рассмотрение отношений между живым телом и разумом которые порождаются данными основами, можно увидеть почему ортодоксальная наука о мышлении связана с идеей, что может быть описано без понимания или существенных ссылок на нейробиологический или биохимический базис данного процесса мышления. Другими словами, можно видеть почему ортодоксальная наука о мышлении принимает положения совершенно неприемлемые биологической наукой о мышлении.

 

 

3. СЛЕДОМ ЗА КАРТЕЗИАНСТВОМ

Теперь самое время затронуть биологическую науку о мышлении, чтобы увидеть, что может быть принято в рассмотрение из области пост-картезианства. Исследования в области коннективистских (или искусственных нейронных) сетей являются подходящей для этого областью, так как подобные исследования относятся как к ортодоксальному искусственному интеллекту так и к искусственной жизни.

3.1. ИСТОРИЯ РАЗВИТИЯ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА

Раньше с понятием искусственного интеллекта (ИИ) связывали надежды на создание мыслящей машины, способной соперничать с человеческим мозгом и, возможно, превзойти его. Эти надежды, на долгое время захватившие воображение многих энтузиастов, так и остались несбывшимися. И хотя фантастические литературные прообразы "умных машин" создавались еще за сотни лет до наших дней, лишь с середины тридцатых годов, с момента публикации работ А. Тьюринга, в которых осуждалась реальность создания таких устройств, к проблеме ИИ стали относиться

серьезно. Для того, чтобы ответить на вопрос, какую машину считать "думающей", Тьюринг предложил использовать следующий тест: испытатель через посредника

общается с невидимым для него собеседником человеком или машиной. «Интеллектуальной» может считаться та машина, которую испытатель в процессе такого общения не сможет отличить от человека.

Если испытатель при проверке компьютера на "интеллектуальность" будет придерживаться достаточно жестких ограничений в выборе темы и формы диалога, этот тест выдержит любой современный компьютер, оснащенный подходящим программным обеспечением. Можно было бы считать признаком интеллектуальности умение поддерживать беседу, но, как было показано, эта человеческая способность легко моделируется на компьютере. Признаком интеллектуальности может служить способность к обучению. В 1961 г. профессор Д. Мичи, один из ведущих английских специалистов по ИИ, описал механизм, состоящий из 300 спичечных коробков, который мог научиться играть в крестики и нолики. Мичи назвал это устройство MENACE (Matchbox Educable Naughts and Crosses Engine). В названии (угроза) заключается, очевидно, доля иронии, вызванной предубеждениями перед думающими машинами.

До настоящего времени единого и признанного всеми определения ИИ не существует, и это не удивительно. «Достаточно вспомнить, что универсального определения человеческого интеллекта также нет дискуссии о том, что можно считать признаком ИИ, а что нет, напоминают споры средневековых ученых о том, которых интересовало, сколько ангелов смогут разместиться на кончике иглы»1. Сейчас к ИИ принято относить ряд алгоритмов и программных систем, отличительным свойством которых является то, что они могут решать некоторые задачи так, как кто делал бы размышляющий над их решением человек.

3.2 ОСНОВНЫЕ ЗАДАЧИ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА

Ранее было уже указано, что нельзя дать исчерпывающее определение ИИ. Однако можно перечислить те задачи, методы, решения которых на ЭВМ принято связывать с понятием ИИ. Ниже приводятся краткие характеристики таких задач.

Автоматическое решение задач представляет собой не столько вычислительную

процедуру поиска ответа, как, например, расчет квадратного корня, сколько нахождение метода решения поставленной задачи. Системы, осуществляющие построение вычислительной процедуры, называют автоматическими решателями задач. Под распознавателями подразумевают устройства, реагирующие на внешнюю среду через различные датчики, например видеокамеры, и позволяющие решать задачи распознавания образов. В таких устройствах результаты распознавания выводятся на экран, используются для принятия решений, и т.п. Например, на современных автоматических боулинговых дорожках установлены видеокамеры, которые после броска шара распознают число и взаимное расположение оставшихся кегель, для подсчета очков. Системы распознавания речи позволяют упростить взаимодействие с компьютером, с помощью упрощенного естественного языка.

Необходимо заметить, что существующие на данный момент системы могут распознавать лишь очень ограниченный набор слов-команд, требуют предварительной настройки на дикцию пользователя и не могут анализировать длинную речь (целые предложения), хотя и ведутся интенсивные исследования в этом направлении.

Задачи доказательства теорем и обучения (например, для овладения навыками в какой-либо игре) решаются с помощью автоматического совершенствования алгоритма посредством обработки пробных вариантов, т.е. как бы с помощью накопления собственного опыта. Следует отметить, что способность к обучению представляет собой одно из основных свойств ИИ.

В настоящее время многие отождествляют понятие ИИ и экспертных систем. Это отождествление появилось во многом благодаря разработкам по созданию программного и аппаратного обеспечения в рамках японского проекта по созданию ЭВМ пятого поколения. Существующие экспертные системы включают в себя огромные базы знаний, сформированные с помощью информации, получаемой от экспертов, т.е. специалистов в той области, для которой создавалась каждая система.

Манипуляция накопленными данными осуществляется в другой части экспертных систем, содержащей правила вывода. Сейчас такие системы с успехом используются в медицине, геологии, проектировании и многих других отраслях.

Для эффективной работы мощных систем ИИ необходима высокая скорость доступа к большим базам данных, а также высокое быстродействие. ЭВМ с обычной архитектурой не удовлетворяют этим требованиям. Обычные последовательные

методы решения задач уступают место методам параллельной обработки, когда несколько процессоров независимо друг от друга выполняют различные части одной программы, или выполняют одинаковые действия над различными частями большого массива данных. Для этого применяются средства от многопроцессорных компьютеров, многомашинных кластеров, до специализированных параллельных процессоров и транспьютеров. Однако в последние годы наблюдается тенденция к использованию массово производящихся, и как следствие дешевых, процессоров для объединения в большие вычислительные комплексы.

В системах искусственного интеллекта человеческие знания, необходимые для решения задач ИИ, должны быть представлены и записаны в форме, пригодной для последующей обработки на компьютере. Сложность заключается в том, что многие аспекты знаний изменяются в зависимости от условий и с трудом поддаются описанию, оставаясь при этом очевидными для человека. Знания должны храниться в системах ИИ в некоторой обобщенной для данной предметной области форме,

позволяющей использовать выбранное представление в любой возможной ситуации. Для хранения знаний требуется большая область памяти, и, кроме того, значительное время уходит на их предварительную обработку. Это очевидное условие может быть упущено при разработке системы.

Многие аспекты ИИ связаны с развивающейся в настоящее время наукой робототехникой. «Идея создания «разумного» робота, способного учиться на собственном опыте, представляет собой одну из центральных проблем ИИ. Такой робот может обладать способностью к ведению диалога на естественном языке

и уметь решать задачи, требующие инициативы и некоторой оригинальности мышления»1. Для этого требуется некоторое предварительное обучение робота, в результате которого он мог бы в отличие от используемых сейчас промышленных

роботов выполнять целенаправленные и заранее незапрограммированные действия.

В течение многих лет идеи ИИ серьезно не рассматривались. Это происходило отчасти благодаря чрезмерному оптимизму некоторых теоретиков, а также из-за появления ряда сенсационных публикаций по этому предмету, впоследствии оказавшихся во многом несостоятельными.

Идея аппаратно-программных моделей человеческого мозга вызывала насмешки, а в сфере технического производства стали избегать разработок, связанных с ИИ, так как результаты их внедрения явно не соответствовали обещаниям. Эта в полном смысле слова плачевная ситуация в настоящее время изменилась к лучшему благодаря новейшим достижениям в разработке аппаратуры и программного обеспечения.

3.3 НЕЙРОСЕТИ

Идея нейронных сетей родилась в ходе исследований в области искусственного интеллекта, а именно в результате попыток воспроизвести способность нервных биологических систем обучаться и исправлять ошибки, моделируя низкоуровневую структуру мозга. Основной областью исследований по искусственному интеллекту в 60-80е годы были экспертные системы. Такие системы основывались на высокоуровневом моделировании процесса мышления (в частности, на его представ-

лении как манипуляций с символами). Скоро стало ясно, что подобные системы, хотя и могут принести пользу в некоторых областях, не охватывают некоторые ключевые аспекты работы человеческого мозга. Согласно одной из точек зрения, причина этого состоит в том, что они не в состоянии воспроизвести структуру мозга. Чтобы создать искусственный интеллект, необходимо построить систему с похожей архитектурой.

Мозг состоит из очень большого числа (приблизительно 10¹⁰)нейронов, соединенных многочисленными связями (в среднем несколько тысяч связей на один нейрон, однако это число может сильно колебаться). Нейроны - это специальные клетки, способные распространять электрохимические сигналы. Нейрон имеет разветвленную структуру ввода информации (дендриты), ядро и разветвляющийся выход (аксон). Аксоны клетки соединяются с дендритами других клеток с помощью синапсов. При активации нейрон посылает электрохимический сигнал по своему

аксону. Через синапсы этот сигнал достигает других нейронов, которые могут в свою очередь активироваться. Нейрон активируется тогда, когда суммарный уровень сигналов, пришедших в его ядро из дендритов, превысит определенный уровень (порог активации).

Интенсивность сигнала, получаемого нейроном (а, следовательно, и возможность его активации), сильно зависит от активности синапсов. Каждый синапс имеет протяженность, и специальные химические вещества передают сигнал вдоль него. Один из самых авторитетных исследователей нейросистем, Дональд Хебб, высказал постулат, что обучение заключается в первую очередь в изменениях силы синоптических связей. Например, в классическом опыте. Павлова каждый раз перед кормлением собаки звонил колокольчик, и собака быстро научилась связывать звонок колокольчика с пищей.

Синоптические связи между участками коры головного мозга, ответственными за слух, и слюнными железами усилились, и при возбуждении коры звуком колокольчика у собаки начиналось слюноотделение.

Таким образом, будучи построен из очень большого числа совсем простых элементов (каждый из которых берет взвешенную сумму входных сигналов и в случае, если суммарный вход превышает определенный уровень, передает дальше двоичный сигнал), мозг способен решать чрезвычайно сложные задачи. Определение формального классического нейрона дается следующим образом:

Он получает входные сигналы (исходные данные или выходные сигналы других нейронов сети) через несколько входных каналов. Каждый входной сигнал проходит через соединение, имеющее определенную интенсивность (или вес); этот вес соответствует синоптической активности биологического нейрона. С каждым нейроном связано определенное пороговое значение. Вычисляется взвешенная сумма входов, из нее вычитается пороговое значение и в результате получается величина активации нейрона.

Сигнал активации преобразуется с помощью функции активации (или передаточной функции) и в результате получается выходной сигнал нейрона.

Если при этом использовать ступенчатую функцию активации, то такой нейрон будет работать точно так же, как описанный выше естественный нейрон.

3.4 ПРИМЕНЕНИЕ НЕЙРОННЫХ СЕТЕЙ

Сеть можно применять в ситуации, когда имеется определенная информация, и

требуется из нее получить некоторую неизвестную информацию. Вот некоторые важ-

ные примеры задач, в которых были успешно решены нейросетевые методы.

1.Распознавание состояния больного.

Применение классических статистических методов описано еще в работах Неймана. С помощью медицинской аппаратуры можно наблюдать за различными показателями состояния здоровья человека (например, частотой пульса, содержанием различных веществ в крови, частотой дыхания).

Стадии возникновения некоторой болезни может соответствовать определенная и весьма сложная (например, нелинейная и взаимозависимая) комбинация изменений наблюдаемых переменных, которая может быть обнаружена с помощью нейросетевой модели.

2.Прогнозирование на фондовом рынке.

Колебания цен на акции и фондовых индексов еще один пример сложного, многомерного, но, в определенных ситуациях, частично прогнозируемого явления. Многие финансовые аналитики используют нейронные сети для прогнозирования цен акций на основе многочисленных факторов, например, прошлого поведения цен этих и других акций в совокупности с различными другими экономическими показателями. В качестве альтернативных вариантов здесь применяются модели авторегрессии и технический анализ.

3.Предоставление кредита.

Как правило, у банка имеется большой набор сведений о человеке, обратившемся с просьбой о предоставлении кредита. Это могут быть его возраст, образование, род занятий и многие другие данные. Обучив нейронную сеть на уже имеющихся данных, аналитик может определить наиболее существенные характеристики, и на их основе отнести данного клиента к категории с высоким или низким кредитным риском. Заметим, сто для решения подобных задач можно параллельно использовать и классические методы, такие как дискриминантный анализ и деревья классификации.

4.Системы слежения за состоянием оборудования.

Нейронные сети оказались полезны как средство контроля состояния механизмов.

Нейронная сеть может быть обучена так, чтобы отличить звук, который издает машина

при нормальной работе (ложная тревога) от того, который является предвестником

неполадок. После такого обучения нейронная сеть может предупреждать инженеров

об угрозе поломки до того, как она случится, и тем самым исключать неожиданные и

дорогостоящие простои.

5.Управление работой двигателя.

Нейронные сети используются для анализа сигналов от датчиков, установленных на двигателях. С помощью нейронной сети

можно управлять различными параметрами работы двигателя, чтобы достичь определенной цели, например, уменьшить потребление горючего.

3.5 НЕЙРОСЕТИ В ИСКУССТВЕННОГМ ИНТЕЛЛЕКТЕ

Работы по созданию интеллектуальных систем ведутся в двух направлениях. Сторонники первого направления, составляющие сегодня абсолютное большинство среди специалистов в области искусственного интеллекта, исходят из положения о том, что искусственные системы не обязаны повторять в своей структуре и функционировании структуру и проистекающие в ней процессы, присущие биологическим системам. Важно лишь то, что теми или иными средствами удается добиться тех же результатов в поведении, какие характерны для человека и других биологических систем. Сторонники второго направления считают, что на чисто информационном уровне этого не удастся сделать. Феномены человеческого поведения, его способность к обучению и адаптации, по мнению этих специалистов, есть следствие именно биологической структуры и особенностей её функционирования.

У сторонников первого информационного направления есть реально действующие макеты и программы, моделирующие те или иные стороны интеллекта. Одна из наиболее ярких работ, представляющих первое направление, это программа «Общий решатель задач» А. Ньюэлла, И. Шоу и Г. Саймона. Развитие информационного направления шло от задачи о рационализации рассуждений путем выяснения общих приемов быстрого выявления ложных и истинных высказываний в

заданной системе знаний. Способность рассуждать и находить противоречия в различных системах взаимосвязанных ситуаций, объектов, понятий является важной

стороной феномена мышления, выражением способности к дедуктивному мышлению.

Результативность информационного направления бесґспорна в области изучения и

воспроизведения дедуктивных мыслительных проявлений. Для некоторых практичес-

ких задач этого достаточно. Информационное направление наука точная, строгая, вобравшая в себя основные результаты изысканий кибернетики и математическую культуру. Главные проблемы информационного направления ввести в свои модели внутреннюю активность и суметь представить индуктивные процедуры.

Одна из центральных проблем, это «проблема активных знаний, порождающих потребности в деятельности системы из-за тех знаний, которые накопились в памяти системы»1.

У сторонников второго биологического направления результатов пока существенно меньше, чем надежд. Одним из родоначальников биологического направления в кибернетике является У. Мак-Каллок. В нейрофизиологии установлено, что целый ряд функций и свойств у живых организмов реализованы с помощью определенных нейронных структур. На основе воспроизведения таких структур в ряде случаев получены хорошие модели, в особенности это касается некоторых сторон работы зрительного тракта.

Создание нейрокомпьютеров, моделирующих нейронные сети (НС), в настоящее время рассматривается как одно из наиболее перспективных направлений в решении проблем интеллектуализации вновь создаваемых ЭВМ и информационно-аналитических систем нового поколения.

В большей части исследований на эту тему НС представляется как совокупность большого числа сравнительно простых элементов, топология соединений которых зависит от типа сети. Практически все известные подходы к проектированию НС связаны в основном с выбором и анализом некоторых частных структур однородных сетей на формальных нейронах с известными свойствами (сети Хопфилда, Хемминга, Гроссберга, Кохоннена и др.) и некоторых описанных математически режимов их работы. В этом случае термин нейронные сети метафоричен, поскольку он отражает лишь то, что эти сети в некотором смысле

подобны живым НС, но не повторяют их во всей сложности. Вследствие такой

трактовки нейронные ЭВМ рассматриваются в качестве очередного этапа высоко

параллельных супер-ЭВМ с оригинальной идеей распараллеливания алгоритмов

решения разных классов задач. Сам термин нейронная ЭВМ нейрокомпьютер, как

правило, никак не связан с какими-то ни было свойствами и характеристиками мозга человека и животных. Он связан только с условным наименованием порогового логического элемента как формального нейрона с настраиваемыми или фиксированными весовыми коэффициентами, который реализует простейшую передаточную функцию нейрона-клетки. Исследования в области создания нейроинтеллекта ведутся на различных уровнях: теоретический инструментарий,

прототипы для прикладных задач, средства программного обеспечения НС, структуры аппаратных средств. Основными этапами на пути создания мозгоподобного компьютера являются выяснение принципов образования межэлементных связей и мозгоподобных системах адаптивных сетях с большим числом элементов, создание компактного многовходового адаптивного элемента аналога реального нейрона, исследование его функциональных особенностей, разработка и реализация программы обучения мозгоподобного устройства.

Одним из наиболее существенных путей расширения функционального диапазона НС, а также повышения их эффективности для традиционных задач является более целенаправленное использование в моделях механизмов и принципов организации мозга. Обоснованием этого служит достаточно экономная реализация функций в мозге, пока не доступная для самых совершенных супер-ЭВМ. В мозге, как и в любой сложной системе, процесс функционирования представляет собой совокупный результат работы его элементов и способов их взаимодействия. Оба эти фактора находят свое отражение в системной работе мозга.

В настоящее время становится очевидным, что успех разработки нейрокомпьютеров и интеллектуализации ЭВМ нового поколения в значительной степени определяется успехом работы над созданием

нового класса базовых элементов с использованием данных о работе мозга. В первую очередь, это касается усложнения архитектуры, простанственно-временного распределения процессов в самом базовом элементе и расширении его функциональных возможностей. Поэтому актуальна необходимость в новом взгляде на

перераспределение основных функций обработки информации между самими

базовыми элементами нейрокомпьютера и сетевыми ресурсами в сторону увеличения логической нагрузки на базовые элементы.

Это связано с тем, что только в самое последнее время, на основе данных

практической нейрофизиологии появилась возможность выделить из огромного числа процессов в мозге небольшое их количество наиболее значимых для переработки информации и выполнения сложных функций принятия конечных решений. Минимально необходимый набор структур, обеспечивающих эти процессы, значительно сузился и вследствие установленных ограничений существующих ЭВМ, которые не могут быть преодолены в настоящее время без использования свойств работы мозга. Кроме того, широко практикуемые однородные структуры искусственных НС на формальных нейронах не используют в полной мере возможностей реальных нейронов: их разнотипность, свойства распределенной и параллельной работы, многоуровневую иерархическую структурированность и соподчиненность в организации базовых структур головного мозга.

Из огромного числа данных о деятельности мозга, по-видимому, наиболее близко к решению проблемы интеллектуализации разрабатываемых ЭВМ относятся факты о механизмах и принципах элементной и сетевой организации процессов и функций в коре больших полушарий (КБП). Это определяется ее функциональной значимостью и уровнем современных данных о конкретных механизмах ее работы. Известно, что КБП является основным субстратом выполнения высших функций, определяющим уровень интеллекта личности.

В настоящее время накоплен и в значительной мере систематизирован экспериментальный и теоретический материал об элементарной организации корковых функций.

Все это дает основания предполагать, что данные о работе высшего отдела мозга могут иметь существенное значение и для идеологии создания нейрокомпьютеров, и для конструктивных решений отдельных их блоков.

В плане общего подхода к моделированию нейрокомпьютера существенно то, что по мере накопления фактов о морфологии, цитохимии и нейрофизиологии появляется все больше путей для перехода от вероятностных к детерминированным

сетям корковой деятельности, основанных на данных об архитектурных принципах

организации КБП. На основе этих данных все четче прослеживается связь особенностей функций КБП с конкретной спецификой ее элементов и связей. Это

позволяет уже на исходной стадии моделирования решать принципиальный вопрос о

соотношении функциональных нагрузок отдельного элемента и сети в целом, определяющим саму стратегию разработки нейрокомпьютера.

На практике этот выбор связан, прежде всего, с определением набора функций и свойств базового элемента и зависит как от уровня технической базы, так и от конструкторского решения их реализации. Обоснованием пересмотра концепции базового элемента нового типа являются данные практической нейрофизиологии, выявившие необходимый минимальный набор базовых свойств реальных нейронов, обеспечивающий реализацию основных информационных функций мозга у животных и человека. В соответствии с этими данными. В задаче создания новых поколений интеллектуальных вычислительных систем и задаче развития робототехники путь интеллектуализации за счет введения квазибиологических автоматов, в конечном счете, окажется технически и экономически более целесообразным направлением по сравнению с введением элементов интеллекта на основе информационно-логических методов.

Для того, чтобы интегрировать эти навязанные биологией наблюдения в логичные теоретические рамки, необходимо также найти некартезианское концептуальное пространство для размышлений о жизни и разуме, пространство в рамках строгой непрерывности. К счастью такое пространство существует в концепции Аристотеля.

 

 

4. ОТ ПСИХОЛОГИИ К PSYCHE-ЛОГИИ

Аристотелев термин psyche обычно переводят как душа, но это не совсем так. Слово душа несет в себе много от бестелесной, спиритической формы существования, которая не соответствует подавляющей тенденции размышлений Аристотеля. Как отмечается, для Аристотеля жалящая крапива имела psyche. Можно сказать, что для Аристотеля psyche организма являлся набор специфически-типологических свойств в силу которых организм жив. Другими словами, «любой вид организмов имеет ассоциированный с ним некоторый набор жизненных свойств, которые при нормальных обстоятельствах могут быть выражены в отдельных представителях данного вида, и в нормальных обстоятельствах для организмов данного вида быть живым значит проявлять типичный для данного вида набор жизненных свойств, то есть psyche»1. Жизненные свойства, составляющие любую отдельную psyche, могут браться из чего-то подобного следующему списку: самообеспечение питанием, рост и развитие, размножение, потребность к пище, тактильные ощущения, бесконтактные формы ощущений, самоконтролируемое движение, разум и интеллект. Грубо говоря, чем далее элемент в этом списке, тем более совершенным сущностям он принадлежит. Это важно, потому что psyche это иерархическая структура, в которой, вообще говоря, способность к определенным жизненным свойствам предполагает способность к менее совершенным жизненным свойствам из приведенного списка. Так, например, способность к тактильным ощущениям предполагает способность к потребности в пище, размножению, росту и самообеспечению питанием. К тому же, существует отношение выразительной зависимости между жизненными свойствами, так что любое жизненное свойство не может быть полностью познано в отрыве от других при рассмотрении конкретной частной psyche.

По взглядам Аристотеля концепция psyche необходима для достижения удовлетворительных обоснований в науках о жизни. Для понимания его аргументации необходимо представить различие между формой и материей. В первом приближении форма по Аристотелю означает что-то вроде различных видов организации. Он говорит о том, что частичные очертания конкретной статуи являются формой статуи, в то время ее материальным содержанием является физический материал, из которого она сделана. Форма топора – это что-то сходное с его способностью рубить, а материальное содержание – дерево и железо, из которых этот топор сделан. Перемещаясь в биологический мир, формой глаза является его способность видеть, а материальным содержанием, в соответствии с аристотилеевым виденьем древней биологии, вода. Формой гнева является что-то вроде желания возмездия; материальным же содержанием, по Аристотелю, является кипение крови в области сердца. Когда Аристотель применяет различие формы и материального содержания ко всем живым организмам, мы говорим, что форма живого существа это его psyche, его набор жизненных способностей; материальное же содержание это органическое тело,

которое реализует эти способности.

Исходя из данного предварительного понимания концепции формы, дать

объяснение в терминах формы означает дать объяснение, в котором характерная особенность организации сущности для лучшего объяснения дается в отличие от материального состава сущности. Так, скажем, кто-то хочет описать, как домашняя муха осуществляет визуально корректируемую навигацию в реальном времени в беспорядочной, динамически изменяющейся обстановке. Аристотелев взгляд должен, по крайней мере, присутствовать в идее, что дисциплины, такие как нейробиология и биохимия могут быть скомбинированы в целях объяснения функционирования машины, допускающей такое поведение. Фактически, что бы наука ни подразумевала под словом материальность, аристотелев взгляд будет предполагать ожидание прямого материального объяснения визуально направляемой воздушной навигации домашней мухи. Такое объяснение далеко не тривиально. Каждый из двух композитных глаз мухи представляет собой панорамный нерегулярный двухмерный массив фото сенсоров. Эти массивы соединены в параллельную сеть соответствующих обработчиков изображения (биологических процессоров) и органов контролирующих полет (процессоров управления полетом), работающих асинхронно в реальном времени. Через последующую нейронную сеть, данная система управляет набором мускулов, которые вместе с гироскопическими органами осуществляют управление крыльями. Тем не менее, любое чисто материальное объяснение, пусть даже комплексное, не позволит науке о жизни понять этот материальный процесс как природный феномен, которым оно, собственно и является. Для создания комплексного природного объяснения, необходимо понимание данного процесса в контексте частичного набора жизненных способностей, которые являются определяющими для жизни домашней мухи – домашняя муха как форма жизни, как можно было бы сказать. Другими словами, специфическая физическая система лежащая в основе визуально направляемой аэронавигации в домашней мухе должна пониматься как допускающая выражение типичной для вида жизненной способности, буквально тип самоконтролируемого движения, который является характеристикой домашней мухи.

Индивидуальные жизненные способности могут, конечно, разделяться различными видами, хотя сказать, что нарцисс и человек разделяют жизненную способность к самообеспечению пищей не то же самое, что сказать, что нарцисс и человек достигли самообеспечения пищей одинаковыми путями; могут быть вариации между видами в том, как выражены разделяемые жизненные способности. Согласно Аристотелю, все живые объекты обладают способностью самообеспечения пищей, роста и разложения и размножения. Растения обладают только этими жизненными свойствами, в то время как животные обладают данными жизненными свойствами плюс также жизненными свойствами, относящимися к области восприятия. Отметим, что это с представление жизненных свойств, относящихся к области восприятия представляет собой первое, с чем сталкиваются и что часто рассматривают как разум и мышление. На верху логической иерархии psyche располагается наиболее причудливая из всех жизненных способностей, то что называют разумом. По Аристотелю, единственное существо, обладающее этой жизненной способностью – это человек. Надо сказать, что почти невозможно соединить аристотелево рассмотрение разума со всем остальным, что он говорит о жизненных способностях, потому что, хотя его основная тенденция отвергнуть идею, что psyche онтологически отделена от тела, он все еще заявляет, что активная часть жизненной способности разума (нечто вроде интеллектуальной интуиции) бессмертна и вечна. Рассматривая эту явную неувязку, современные интерпретаторы, очевидно, поставили человеческий интеллект на одну планку со всем остальным. Одним из путей достижения этого является развитие аристотелева взгляда, что части природного процесса развития, посредством которого мы, люди приходим к выражению полного набора типичных для вида жизненных способностей (наша особая животная форма), является для нас становлением через социализацию и развитие языка рационального использования интеллекта. Для этой траектории развития, классифицируемой как природная, культура и язык могут рассматриваться как чисто биологические феномены – конечно исключительно человеческие, но, тем не менее, чисто биологические. Тем не менее, если предположить, что это может быть сделано, тогда происходит фиксация интерпретации psyche, которая не допускает ни онтологического, ни обосновательного разделения между живым телом и разумом.

Так, согласно Аристотелю, из действительности того факта, что частное живое природное тело имеет psyche характеристики жизни своего вида, следует, что живое природное тело способно производить определенные вещи. При этом разум может рассматриваться просто как одна из этих вещей, способность, которая позволяет некоторым организмам быть живыми. И где проводятся рассуждения о поглощении питания, воспроизводстве, восприятии или мышлении проводятся рассуждения о присущей жизненной способности, биологическом феномене, который может быть объяснен в терминах материи и psyche. Другими словами, Аристотель был теоретиком, придерживавшимся строгой непрерывности. Основным предположением является, что аристотелевская концепция psyche обеспечивает как хорошую поддержку, так и удобный способ рассмотрения и использования более детально тезиса строгой непрерывности, который является центральным стержнем биологической науки о мышлении на базе искусственной жизни.

 

 

ЗАКЛЮЧЕНИЕ

Так как функционализм был определен как неокартезианская теория разума, в качестве контраста ей противопоставляются аристотелевские концептуальные рамки. Производится рассмотрение с аристотелевской точки зрения научной области, относящейся к искусственной жизни.

Сейчас является обычным для функционалистких философов разума в натуралистической традиции соединять идею функций разума с идеей функции дарвиновской эволюции. С дарвинисткой точки зрения функция эволюции , например, части визуальной системы лягушки – определять пищу в формах мух (вместо того, чтобы определять быстро движущиеся черные точки, на которые реагирует подсистема), потому что это то, для чего подсистема была выбрана в течении эволюционной истории лягушки (чем определять быстро движущиеся черные точки, некоторые из которых не являются мухами). Видимо, нет прямой необходимости соединения функции мышления с эволюционными функциями, для того чтобы функционализм смог работать. Однако, функционалисты нуждаются в источнике для апелляции в случае необходимости устранения фиктивных атрибутов функций (т.е. например, что функция части визуальной системы лягушки – определять быстро движущиеся черные точки). Для искусственных систем – источник апелляции сами исследователи. Функции искусственных объектов это то, что заложено в них разработчиками.

В данной работе были рассмотрены основные тенденции развития философии в области искусственно интеллекта и искусственной жизни, в том числе различие между ортодоксальной наукой о мышлении и биологическим мышлением в данной области философии. Первая тяготеет к игнорированию биологических соображений, в то время как последнее держится за мнение, что жизнь и разум разделяют общий набор организационных свойств. Было рассмотрено предположение, выдвигаемое современными философами когнитивистами, что искусственная жизнь является интеллектуальным потенциальным двигателем последнего. Были показаны концептуальные принципы такой движимой искусственной жизнью науки о мышлении. Обращая особое внимание на отношение между нейробиологическими и биохимическими феноменами и мышлением, показано, что переход к функционализму в ортодоксальной науке о мышлении обеспечивает неоспоримое доказательство, что данное приближение проистекает из картезианского рассмотрения взаимоотношений между телом и разумом. С другой стороны, фундаментальные заключения биологического познания поддерживают радикально отличающиеся общие теории Аристотеля. Рассмотрено, как концепция самоорганизации – главная теоретическая идея искусственной жизни – является ключевым камнем неоаристотелевой науки биологического познания.

 

 

ЛИТЕРАТУРА

1. Ежов А.А., Шумский С.А. Нейрокомпьютинг и его применение в экономике и бизнесе. М., МИФИ, 1998.

2. Маккалистер Дж. Искусственный интеллект и пролог на микроЭВМ, М.: Машиностроение, 1990.

3. Девятников В.В. Системы искусственного интеллекта, М.: Издательство МГТУ им. Н.Э. Баумана, 2001.

4. Амамия М., Танака Ю. Архитектура ЭВМ и искусственный интеллект. М.: Мир, 1993.

5. Горбань А.Н., Дунин-Барковский В.Л., Кирдин А.Н. Нейроинформатика. Новосибирск: Наука, 1998.

6. Емельянов-Ярославский Л.Б. Интеллектуальная квазибиологическая система. М.: Наука, 1990.

7. Горбань А.Н. Россиев Д.А. Нейросети. Новосибирск:, Наука, 1996.

8. Лачинов В.М., Поляков А.О. Информодинамика или путь к миру открытых систем. СПб.: Издательство СПбГТУ, 1999.

9. Рассел Б. История западной философии. Новосибирск: Издательство Новосибирского университета, 1997.

10. Уоссерман Ф. Нейрокомпьютерная техника: теория и практика. М.: Мир, 1992.

11. Кузнецов Г. цель жизни. Компьютерра, № 35, 1997.

12. Дрейфус Х. Чего не могут вычислительные машины. М.: Прогресс. 1979.