автореферат диссертации по информатике, вычислительной технике и управлению, 05.13.16, диссертация на тему:Метод согласованного распределения знаний в интеллектуальных системах

кандидата физико-математических наук
Киселев, Игорь Анатольевич
город
Москва
год
1999
специальность ВАК РФ
05.13.16
цена
450 рублей
Диссертация по информатике, вычислительной технике и управлению на тему «Метод согласованного распределения знаний в интеллектуальных системах»

Оглавление автор диссертации — кандидата физико-математических наук Киселев, Игорь Анатольевич

ВВЕДЕНИЕ.

ГЛАВА 1. РАСПРЕДЕЛЕНИЕ ЗНАНИЙ В СИСТЕМАХ

УПРАВЛЕНИЯ ИНТЕЛЛЕКТУАЛЬНЫМ КАПИТАЛОМ.

1.1. роль и место РАСПРЕДЕЛЕНИЯ знаний в корпоративных системах управления интеллектуальным капиталом.

1.2. диссеминация знаний.

1.3. построение таксономии знаний.

ГЛАВА 2. СТРУКТУРНАЯ СОГЛАСОВАННОСТЬ БАЗ ЗНАНИЙ.

2.1. Структурная согласованность и концептуальная структуризация.

2.2. Консонанс и консонансный прообраз.

2.3. поликонсонанс как расширение классического консонанса.

ГЛАВА 3. АЛГОРИТМ УМЕНЬШЕНИЯ РАССОГЛАСОВАННОСТИ.

3.1. Задача определения типа множества.

3.2. Вектор повершинных различий.

3.3. Алгоритм поиска минимально удаленного прообраза.

3.4. Проблемы сокращения трудоемкости алгоритма.

ГЛАВА 4. ПОСТРОЕНИЕ ВЗАИМОСВЯЗЕЙ МЕЖДУ ОБЪЕКТАМИ

И АППРОКСИМАЦИЯ СХОДСТВА.

4.1. ПОСТРОЕНИЕ СХОДСТВА НА МНОЖЕСТВЕ ФОРМАЛИЗОВАННЫХ ОБЪЕКТОВ.

4.2. слабоформализованные объекты документальных баз данных.

4.3. ПОДХОДЫ К ОЦЕНКЕ БЛИЗОСТИ СЛАБОСТРУКТУРИРОВАННЫХ ИНФОРМАЦИОННЫХ ОБЪЕКТОВ ДОКУМЕНТАЛЬНЫХ БАЗ ДАННЫХ.

4.4. Словарные группы и тематическая функция сходства.

ГЛАВА 5. РЕАЛИЗАЦИЯ МЕТОДА СОГЛАСОВАННОГО

РАСПРЕДЕЛЕНИЯ ЗНАНИЙ И ЕГО ИСПОЛЬЗОВАНИЕ ПРИ РЕШЕНИИ АНАЛИТИЧЕСКИХ ЗАДАЧ.

5.1. постановка задачи.

5.2. Общее описание системы.

5.3. ПОЛЬЗОВАТЕЛЬСКИЙ ИНТЕРФЕЙС СИСТЕМЫ.

5.4. Описание меню.

5.5. Описание реализации.

Введение 1999 год, диссертация по информатике, вычислительной технике и управлению, Киселев, Игорь Анатольевич

Тема диссертации: метод согласованного распределения знаний в интеллектуальных системах.

Состояние проблемы. Коренное изменение условий функционирования различных компаний в современном мире, прежде всего в сфере бизнеса, предъявляет новые требования к организации производственных процессов в целом и деятельности отдельных специалистов в частности. Эти изменения обусловлены, прежде всего, высокой динамичностью среды, в которой компании осуществляют свою деятельность, причем динамика изменений часто носит хаотичный, неопределенный и непредсказуемый характер, что требует постоянных адекватных реакций и принятия оптимального решения на каждом этапе всего производственного процесса.

Традиционные технологические решения по организации деятельности компаний базировались, как правило, на прогнозировании возможных условий функционирования компаний, предварительной отработке их адекватного поведения в каждом конкретном случае и соответствующем программировании этого поведения, что находило свое отражение в реализации определенных процедур в информационных или управляющих системах. Эти решения опирались на статические знания, заложенные в них в виде предварительно подготовленной и соответствующим образом обработанной информации, что практически исключало возможность выявления, оценки и реализации альтернативных вариантов поведения в той или иной обстановке, а внесение новых параметров в системы принятия решений было исключительно трудным и требовало значительных затрат, связанных с перепрограммированием отдельных процедур или подсистем. Такие системы оказывались эффективными до тех пор, пока знания, положенные в основу реализованных программ, оставались адекватными условиям функционирования всей компании. Однако в силу именно статической природы этих знаний, подобные системы не могли гибко реагировать на изменения внешних параметров и препятствовали адаптации компаний к изменяющимся условиям своей деятельности, что сегодня является исключительно важным фактором выживаемости. Все это определяет необходимость выработки новых подходов к реализации корпоративных систем управления, где основная задача состоит не в том, чтобы правильно выполнить некоторые предопределенные действия, а в том, чтобы определить, на основе каких знаний (может быть, дополнительных) и какие именно действия необходимо предпринять в сложившихся условиях для успешного решения каждой конкретной задачи. Акцент, таким образом, делается на обработку динамических (активных) знаний и реализацию процедур накопления, обновления и поиска новых сведений, являющихся неотъемлемой частью систем управления знаниями и принятия решений.

Сегодня уже можно привести конкретные примеры (раздел 1.1), когда удачно реализованные системы управления знаниями дали значительные результаты, позволив существенно сократить затраты на обучение персонала, информационную поддержку клиентов или обеспечение взаимодействия различных структурных подразделений компаний. Эти успехи определили значительный рост интереса к созданию подобных корпоративных систем практически во всех областях деятельности, начиная от научной и образовательной и заканчивая военной сферой. Однако, рост предлагаемых сегодня на рынке специализированных средств, декларируемых своими производителями как системы управления знаниями, не повлек за собой адекватного роста числа успешных практических реализаций таких систем. Это обусловлено рядом трудностей, с которым сталкиваются разработчики и которые заключаются в следующем.

Статическая информация, представляющая собой выходные результаты той или иной компьютерной системы, играет в процессе принятия решений пассивную роль в том смысле, что она не несет в себе практически никаких сведений об отношении человека к предпринимаемым действиям. Активную же роль в этом процессе играют знания и опыт специалистов, которые на их основе способны определенным образом интерпретировать эту информацию, разработать различные сценарии дальнейшего поведения и выбрать среди них оптимальный, опираясь на те условия, которые существуют в настоящий момент. Специалисты выступают в качестве составной и неотъемлемой части всей управляющей системы и эффективность ее реализации во многом зависит от того, насколько ее разработчикам удается добиться синтеза высокой производительности современных технологий с новаторскими и творческими способностями специалистов, вовлеченных в производственный процесс. Знания, которыми располагают эти специалисты, составляют основу интеллектуального капитала компании и умение правильно им распорядиться - залог ее успешной деятельности. Это выдвигает на первый план задачу интеграции знаний экспертов в единую корпоративную базу знаний и обеспечение эффективного доступа к ней всех участников процесса выработки решений. Решающее значение в этом играет диссеминация знаний (dissemination - распространение - термин, активно используемый в настоящее время в теории систем управления знаниями [38]), составляющая основу одного из этапов общего процесса, с помощью которого различные эксперты, работая над решением общих или близких аналитических задач, способны обмениваться накопленными ими знаниями, используя различные методы взаимодействия друг с другом, в том числе и посредством управляющих корпоративных систем, какими являются, например, системы принятия решений.

Реальные возможности для решения этой задачи появились с интенсивным развитием глобальной компьютерной сети Интернет. Используемые в этой сети технологические решения нашли широкое применение при создании локальных корпоративных компьютерных сетей (Интранет), что позволило объединить в единое информационное пространство различных специалистов, работающих над решением общих или смежных проблем, но отдаленных при этом друг от друга на сотни и тысячи километров. Это дало возможность реализовать системы, интегрирующие распределенную информацию в единый общедоступный банк данных, однако, практика использования таких систем очень быстро показала, что ключевым моментом здесь является задача организации тематического поиска -выбора из всего массива информационных ресурсов только тех, которые отвечают текущим потребностям эксперта на данном этапе решения той или иной аналитической задачи.

Тематический поиск, в отличие от, например, поиска в реляционных базах данных, отличается большой степенью неопределенности. В лучшем случае он формируется в виде логической комбинации ключевых терминов и не дает однозначного результата, что определяет необходимость проведения классификации данных на основе той или иной интуитивно понятной или легко узнаваемой таксономии. Такая классификация может быть проведена вручную самим экспертом на основе детального изучения им обрабатываемых данных, либо с помощью специализированных программных средств, автоматизирующих этот процесс. Несмотря на то, что качество ручной классификации, как правило, исключительно высокое, она оказывается неэффективной в условиях большой динамики данных и ограниченного времени, которым располагает эксперт для принятия решения. С другой стороны, применение автоматизированных средств классификации, базирующихся на алгоритмах теории графов, математической статистики и пр., дает значительный выигрыш во времени, однако часто характеризуется невысоким качеством результатов, что обусловлено в значительной мере слабой формализацией и структуризацией исходных данных и неопределенностью связей между различными информационными объектами. Кроме того, логика проведения автоматической классификации часто оказывается неясной для эксперта, что может вызвать у него недоверие к ним и их неприятие.

Актуальность темы. Все вышеизложенное позволяет сделать вывод о том, что в современных условиях стремление к созданию технологической схемы тематической классификации информации, которая была бы одновременно экономически выгодной и эффективной, приводит к необходимости разработки комбинированного метода, совмещающего в себе элементы ручной и автоматической классификации. Такой метод позволил бы эксперту контролировать весь процесс классификации и вовремя вносить свои собственные коррективы. Эксперт и автоматизированная система выступают, таким образом, как партнеры, выполняющие общую задачу. Возможность эксперта влиять на ход выполнения процесса классификации означает, что в основу нее должен быть положен алгоритм, на каждом шаге которого может существовать несколько альтернативных и, в принципе, равноценных вариантов следующего шага. Отсутствие указанного комбинированного метода классификации данных является сегодня сдерживающим фактором в организации баз знаний экспертов в системах принятия решений и создание такого метода, сочетающего в себе достоинства ручной и полностью автоматизированной классификации, является, таким образом, актуальным.

Цель работы состоит в создании и исследовании методов, обеспечивающих динамическое формирование экспертом согласованной базы знаний на основе информации, получаемой им в процессе диссеминации знаний в рамках систем управления интеллектуальным капиталом. Создание таких методов предполагает формулирование и обоснование критериев структурной согласованности множества взаимосвязанных объектов и разработку способов контроля согласованности элементов на базе разработанных алгоритмов проблемно-ориентированной классификации.

Достижение поставленной цели даст возможность использовать этот алгоритм при построении систем поддержки принятия решений на базе Интранет-сетей, повысить качество принимаемых решений и создать основу для интеграции деятельности различных экспертов при решении общих аналитических задач. Совместный поиск эксперта и автоматизированной системы наилучшего варианта обеспечит понимание экспертом логики получаемых результатов и повышение доверия к ним.

В большинстве случаев экспертные знания отличаются большой динамичностью, что связано с постоянным ее пополнением и обновлением. В связи с этим создание интерактивного метода кластеризации знаний требует соответствующего расширения понятия согласованности знаний.

Новизна работы. Выполненная диссертационная работа является первой попыткой создания методологии диссеминации знаний в условиях корпоративных управляющих систем на основе управления согласованностью компонентов знаний. При ее реализации автором достигнуты новые результаты, основные из которых заключаются в следующем:

• Расширена теория структурной согласованности на основе критерия Хайдера за счет исследования ее на базе критерия поликонсонанса;

• Исследованы свойства поликонсонансной структуры взаимосвязанных объектов;

• Впервые предложен формализованный метод уменьшения рассогласованности множества объектов в условиях поликонсонанса, на базе которого разработан оригинальный интерактивный алгоритм проблемно-ориентированной классификации данных;

• Проведены теоретические исследования, результаты которых позволяют снизить трудоемкость разработанного алгоритма классификации;

• Разработаны оригинальные методики построения взаимосвязей между слабоструктурированными информационными объектами в документальных базах данных, обеспечивающие общий подход к реализации баз знаний в среде взаимосвязанных данных;

• Предложен новый комбинированный метод построения согласованной базы знаний эксперта в системах принятия решений.

Разработанная в ходе выполнения данной работы программная среда "Resonance" является уникальной как по самой разработке, так и по своему назначению.

Практическая значимость. В целом диссертационная работа имеет экспериментальный характер, хотя предложенная теория и алгоритмы целиком реализованы в эксплуатируемых программных продуктах. Эти программные продукты представляют собой интеллектуальные средства, предназначенные для использования в составе программного обеспечения систем принятия решений или корпоративных систем управления знаниями. Использование предложенного в работе метода и реализующих его программных средств позволяет определять таксономию на множестве информационных объектов, что ведет к повышению качества тематического поиска новых знаний и данных в корпоративных сетях. Возможность настройки параметров, определяющих взаимосвязи между информационными объектами, позволяет поддерживать согласованность знаний за счет выявления взаимосвязей между информационными объектами документальных баз данных, в том числе на CD-ROM дисках, в Интранет-сетях и т.п.

Значительная часть результатов, полученных в ходе выполнения данной работы, вошла в успешно завершившийся проект Российского фонда фундаментальных исследований № 96-01-01326 «Разработка технологии проблемно-ориентированной реорганизации документальных баз данных на CD-ROM носителях». Реализующие метод программные средства включены в демонстрационные макеты программных средств заказных исследований «Жакерия-АН», «ЛИТ-АН» и «Концепция-ВС». Эти инструментальные средства использовались при создании динамической системы мониторинга в информационном агентстве «Новые Информационные Системы».

На защиту выносятся:

1. Определение диссеминации знаний в корпоративных системах управления интеллектуальным капиталом как основного метода формирования интеллектуального капитала и обмена знаниями между экспертами.

2. Определение тематической функции сходства как средства оценки структурных взаимосвязей между слабо формализованными информационными объектами.

3. Алгоритмические методы определения состояния произвольного множества взаимосвязанных объектов для случая консонанса и поликонсонанса степени п > 2.

4. Алгоритмический метод, обеспечивающий интерактивное контролируемое уменьшение структурной рассогласованности множества взаимосвязанных объектов для случая поликонсонанса степени п > 2.

5. Оценка трудоемкости алгоритмических методов, определяющих состояние произвольного множества взаимосвязанных объектов.

6. Комбинаторные методы сокращения временных характеристик для разработанных алгоритмов.

7. Обоснование подхода, основанного на использовании «словарных групп», для реализации проблемно-ориентированной классификации

12 слабоструктурированных объектов в документальных базах данных на основе использования тематической функции сходства.

8. Методические основы организации согласованной базы знаний эксперта в рамках систем интеллектуального корпоративного капитала, базирующиеся на интерактивной проблемно-ориентированной классификации знаний.

9. Программные средства, использованные в системе "Resonance" и реализующие комбинированный метод проблемно-ориентированной классификации знаний и ориентированные на работу с документальными базами данных на CD-ROM дисках в локальных Интранет-сетях.

10. Методика применения разработанного метода при создании систем принятия решений и использование системы "Resonance", реализующей метод, в программном обеспечении систем управления знаниями и принятия решений.

Заключение диссертация на тему "Метод согласованного распределения знаний в интеллектуальных системах"

Заключение.

Результатом работы является разработка метода согласованной диссеминации знаний в системах принятия решений, направленного на обеспечение аналитической деятельности экспертов и обработке данных, составляющих основу интеллектуального капитала компании как интегрированной базы знаний, формируемой экспертами в процессе своей деятельности. Реализация этого метода в виде специализированных программных средств позволила применить технологию инженерии знаний для решения сложных аналитических задач, связанных с обработкой массивов неформализованной и слабоструктурированной информации, в том числе -текстовых документов. В работе достигнуты следующие основные результаты:

1. На основе анализа современных средств и методов организации деятельности экспертов при решении сложных аналитических задач, а также тенденций их развития, определена важнейшая роль диссеминации знаний как одного из основополагающих процессов обмена знаниями между экспертами и формирования таким образом интегрированного интеллектуального капитала компании, подсистемы поддержки которого являются ядром сложных управляющих систем, в т.ч. - систем принятия решений.

2. Сформулирована проблема динамического формирования базы знаний эксперта адекватно решаемой им аналитической задачи в виде сложных сетей взаимосвязанных объектов и построения на основе выявления этих взаимосвязей таксономии знаний как модели рассматриваемой предметной области.

3. Предложен и развит индуктивно-комбинаторный аппарат исследования согласованности структур связей. Исследованы свойства основных состояний множества взаимосвязанных объектов: консонанса (в том числе поликонсонанса), диссонанса и ассонанса.

4. Разработаны алгоритмические методы оценки состояния произвольного множества взаимосвязанных объектов, позволяющие определить одно из трех возможных его состояний: консонанс, диссонанс или ассонанс.

5. Разработаны подходы к построению взаимосвязей на произвольных множествах объектов. Для построения связей на множестве слабоструктурированных данных, например, текстовых документов, предложен метод, основанный на формировании экспертом словарных групп.

6. Разработан интерактивный алгоритмический метод реструктуризации взаимосвязанных данных как основной математический аппарат, направленный на динамическое формирование таксономии знаний эксперта.

7. Проведены исследования, позволяющие оценить эффективность разработанного алгоритмического метода. Сформулирована проблема снижения его трудоемкости при обработке документальных данных и предложены методы ее решения.

8. Созданы системы "Б^ОМ" и "КЕБТЬШСТСЖ" (в соавторстве с Дулиным С.К.), где реализованы разработанные алгоритмы реструктуризации множества объектов на основе матрицы связности. Системы апробованы в ряде функционирующих приложений.

146

9. Создана система "Resonance", представляющая собой программный комплекс для обеспечения аналитической деятельности специалистов в области мониторинга различных ситуаций. Проведены эксперименты по использованию комплекса при решении ряда практических задач.

Библиография Киселев, Игорь Анатольевич, диссертация по теме Применение вычислительной техники, математического моделирования и математических методов в научных исследованиях (по отраслям наук)

1.Аверкин А.Н., Дулин С.К. Логическая модель внутреннего противоречия, основанная на треугольнике Хайдера. Материалы 1. Всесоюзного симпозиума по кибернетике. Сухуми, 1981.

2. Аверкин А.Н., Дулин С.К. Активные системы знаний //2-е Чехословацко-советское совещание молодых ученых по математической информатике, Братислава, ЧССР: Обзор, 1982. С. 13-19.

3. Дулин С.К. Исследование сетей с диссонансами // Изв. АН СССР. Техническая кибернетика, 1982. №5.

4. Дулин С.К. Логика консонанса при изучении внутреннего состояния множества объектов // Вопросы кибернетики. Логика рассуждений и ее моделирование. Научный совет «Кибернетика» АН СССР. 1983. С. 172-179.

5. Дулин С.К. Анализ структуры рассогласованных множеств // Изв. АН СССР. Техническая кибернетика, 1985, №5.

6. Дулин С.К. Состояние системы, оцениваемое по структурному признаку. М.: ВЦ АН СССР, 1987. 22 с.

7. Дулин С.К. Об одной процедуре уменьшения структурной рассогласованности системы знаний // Изв. АН СССР. Техн. Кибернетика. 1987. №2.

8. Дулин С.К. Согласование структур в условиях расширенного понятия консонанса // Изв. АН СССР. Техн. Кибернетика, 1989, № 5.

9. Дулин С.К. Знаковая интерпретация сходства для согласованности множества объектов //Изв. АН СССР. Техн. кибернетика, 1990. Т5. с.22-25.

10. Ю.Дулин С.К. Структурная согласованность данных и знаний. МИФИ.1993.

11. П.Дулин С.К., Дулина Н.Г., Христьяновский Д.Г. О проблемно-ориентированном динамическом управлении структурами информационных ресурсов. М.: ВЦ РАН, 1995. 23 с.

12. Дулин С.К., Киселев И.А. Система согласования структурных компонентов базы знаний // Всесоюзный семинар "программное обеспечение новых информационных технологий", Тверь: Центрпрограммсистем, 1991. с.89-92.

13. Дулин С.К., Киселев И.А. Управление структурной согласованностью в базе знаний // Изв. АН СССР. Техн. кибернетика, 1991. №5. с.29-39.

14. Дулин С.К., Киселев И.А. Активная система обнаружения диссонансов в базе знаний. М.: ВЦ АН СССР, 1991. 23 с.

15. Дулин С.К., Киселев И.А. Моделирование сходства элементов базы знаний. М.: ВЦ РАН, 1994. 23 с.

16. Дулина Н.Г., Киселев И.А. Принципы построения согласованной базы данных на CD-ROM дисках. М.: ВЦ РАН, 1996. 20 с.

17. П.Дулин С.К., Киселев И.А. Реорганизация динамически изменяемых баз знаний семиотических систем в области документальных баз данных на CD-ROM дисках. // Пятая национальная конференция с международным участием по искусственному интеллекту КИИ-96. 1996

18. Дулина Н.Г., Киселев И.А. Построение согласованной модели информационных ресурсов Интернет. М.: ВЦ РАН, 1997. 20 с.

19. Дулин С.К., Киселев И.А. Knowledge base simulation in document data bases // Изв. РАН. Теория и системы управления, 1997, №5.

20. Дулина Н.Г., Киселев И.А. Организация тематического поиска в среде Интранет. М.: ВЦ РАН, 1998. 20 с.

21. Дулин С.К., Киселев И.А. Об одном подходе к интеграции знаний экспертов в системах принятия решений. // Международная конференция по мягким вычислениям и измерениям. Санкт-Петербург, 1998. Т2. с.207-210.

22. Дулин С.К., Киселев И.А. Об одном подходе к экспертному анализу данных в условиях Интранет. // Изв. РАН. Теория и системы управления, 1998. №5. с. 123-131.

23. Дулин С.К., Киселев И.А. Структурирование тематического пространства поиска в иерархических рубрикаторах Интернет. // Научная сессия МИФИ. 1999. Т7. С.150-151.

24. Дулин С.К., Киселев И.А. Структуризация знаний в системах мониторинга. // Изв. РАН. Теория и системы управления, 1999. №5.25.0суга С., Саэки Ю., Судзуки X. Приобретение знаний. Пер. с япон. / под ред. С.Осуги, Ю.Саэки. М.: Мир, 1990. 304 с.

25. Поспелов Г.С. Искусственный интеллект основа новой информационной технологии. М.: Наука, 1988. 280 с.

26. Уэно X. Представление и использование знания. М.: Мир, 1989.

27. Флейшман С.Б. Разбиение множества вершин графа с приложениями к задачам кластеризации. // М.: ВЦ РАН, 1993. 15 с.

28. Хофман И. Активная память. М.: Прогресс, 1986. 312 с.

29. Шапот М.Д., Рощупкина В.Д. Интеграция геоинформационных и экспертных систем. // Научная сессия МИФИ. 1999. Т7. С. 154-157.

30. APQC International Benchmarking Clearinghouse and Arthur Anderssen & Co. Process Classification Framework: Overview, (http://www.apqc.org/).

31. Auluk F.C. An asymptotic formula for pk(n), J. Indian Math. Soc. (NISI), 1942. 6, pp. 113-114.

32. Averkin A.N., Dulin S.K. Decrease of contradiction in active knowledge system // Computers and Artificial Intelligence (CSSR) 1986. V.5, № 3, pp.235-240.

33. Bryan Pfaffenberger. Web search strategies. MIS.Press. 1996.

34. Dataware Technologies, Inc. Knowledge Management: Linking People to Knowledge for Bottom Line Results (www. dataware. com/fomm/kms/kmsfull.htm).

35. Dennis J. Crane. How the Web is Changing the Business of Business Information. 1997 http://www.umi.com/hp/Features/DJ-HK/

36. Heider F. The psychology of interpersonal relation. N. Y., 1958.

37. Ikujiro Nonaka & Hirotaka Takeuchi. The Knowledge Creating Company: How Japanese Companies Create the Dynamics of Innovation. Oxford University Press, 1995 (http://users.ccnet.com/~tom13 59/books.htm#knowledge)

38. Katai O., Iwai S. On the characterization of balancing process of social systems and the derivation of the minimal balancing process. IEEE Transactions on systems, man and cybernetics, 1978, V.8, № 5.151

39. Michael Polanyi. Personal Knowledge, Towards a Post Critical Epistemology in 1958 (http://www.sveiby.com.au/Polanyi.html).

40. Michalski R.S., Stepp R.E. Conceptual clastering: inventing goal-oriented classifications of structured objects // Machine Learning, V.2, Morgan Kaufmann Publishers, Los Atlos, 1986.

41. Reva Basch. Secrets of the super NET searchers. Pemberton Press, c/o Online Inc. USA, 1996.

42. Richard Seltzer, Deborah S. Ray, Eric J. Ray. The AltaVista Search Revolution. Ocborne McGraw Hill. USA, 1997.

43. Thomas H. Davenport and Laurence Prusak. Working Knowledge: How Organizations Manage What They Know. Harvard Business School Press. 1998. (http://www.brmt. com/km/davenport/cio/know.htm).

44. Yogesh Malhotra, Ph.D. Knowledge Management for the New World of Business. 1998 (http://www.brint.com/km/whatis.htm).