автореферат диссертации по информатике, вычислительной технике и управлению, 05.13.11, диссертация на тему:Система формирования концептуального представления предметной области на основе анализа проблемно-ориентированных естественно-языковых текстов

ВВЕДЕНИЕ.

Глава 1. МОДЕЛИ И МЕТОДЫ АНАЛИЗА ЕСТЕСТВЕННО-ЯЗЫКОВЫХ

ТЕКСТОВ. . Ю

1.1. Этапы развития естественно-языковых систем.

1.2. Модели морфологии естественного языка.

1.3. Формальные модели описания синтаксиса.

1.4. Модели представления семантики текста.

1.5. Модели интегрального описания языка.

1.5.1. Генеративная теория и ее развитие. ф 1.5.2. Интегральный подход к описанию языка в модели "Смысл о Текст".

1.6. Системы понимания текста.

1.7. Выводы и постановка задачи.

Глава 2. ТЕОРЕТИЧЕСКИЕ ОСНОВЫ АНАЛИЗА И ПОСТРОЕНИЯ

СЕМАНТИЧЕСКОЙ СТРУКТУРЫ ТЕКСТА.

2.1. Неоднородная семантическая сеть - формализм описания концептуальной структуры предметной области.

2.2. Переход от проблемно-ориентированных естественно-языковых текстов к базам знаний: формализация и типология моделей.

2.3. Описание понятий предметной области на основе имен. ф 2.4. Выявление отношений между понятиями предметной области на основе валентности.

2.5. Построение З-отображения.

2.6. Выводы.

Глава 3. ПРОЕКТИРОВАНИЕ СИСТЕМЫ АНАЛИЗА ПРОБЛЕМНО

ОРИЕНТИРОВАННЫХ ЕСТЕСТВЕННО-ЯЗЫКОВЫХ ТЕКСТОВ НА ОСНОВЕ ЭКСПЛИЦИТНОГО ПРЕДСТАВЛЕНИЯ ЗНАНИЙ О ПРЕДМЕТНОЙ ОБЛАСТИ.

3.1. Общая архитектура системы.

3.2. Словарь валентных слов.

3.3. Словарь именных синтаксем. ф 3.4. Алгоритмы поверхностного синтаксического анализа.

3.5. Алгоритм работы блока семантического анализа.

3.6. База правил интерпретации.

3.7. Выводы.

Глава 4. РЕАЛИЗАЦИЯ СИСТЕМЫ АНАЛИЗА ПРОБЛЕМНО-ОРИЕНТИРОВАННЫХ Ф ЕСТЕСТВЕННО-ЯЗЫКОВЫХ ТЕКСТОВ НА ОСНОВЕ ЭКСПЛИЦИТНОГО

ПРЕДСТАВЛЕНИЯ ЗНАНИЙ О ПРЕДМЕТНОЙ ОБЛАСТИ.

4.1. Общие вопросы реализации системы.

4.2. Представление словарей и их реализация.

4.2.1. Словарь валентных слов.

4.2.2. Реализация словаря именных синтаксем.

4.3. Препроцессор модуля синтаксического анализа.

4.4. Реализация модуля поверхностного синтаксического анализа.

4.4.1. Расширенные сети переходов.

4.4.2. Реализация ATN-конвертора.

4.4.3. Реализация функций ATN -библиотеки.

4.5. Модуль семантического анализа.

4.6. Реализация конвертора базы правил интерпретации.

4.7. Тестирование системы.

4.8. Выводы.

Актуальность проблемы

В настоящее время резко возрос интерес к системам обработки естественноязыковых текстов, что связано с бурным ростом количества информации, используемой обществом. Сегодня около 80% ее находится в неструктурированой форме (в том числе, значительная часть - в виде текстов на бумажных носителях). По мнению многих аналитиков, в обозримом будущем эта пропорция не претерпит заметных изменений. Более того, предполагается, что неструктурированные текстовые данные будут доминирующим типом информации, загружаемой в разного рода хранилища в режиме online.

Отсутствие достаточно глубоких представлений о внутренней структуре, отражающей содержание документов, наряду с громадными объемами компьютерных хранилищ информации, ставят задачу автоматического извлечения содержащихся в текстах знаний в ряд приоритетных исследований в области информатики.

Поиск в Интернет, Data Mining & Knowledge Discovery in Data Bases, задачи создания баз знаний прикладных интеллектуальных систем - это активно развивающиеся сегодня направления исследований, в которых одной из центральных является задача автоматизированного извлечения семантической информации из естественно-языковых текстов.

Исследования в области теории и реализации естественно-языковых систем ведутся с 50-х годов. За это время были разработаны различные методы и подходы, использованные при создании экспериментальных и промышленных систем: "семантики предпочтения" [Уилкс 1972], теория падежей Филмора [Филмор 1981; Бобров 1977], теория концептуальной зависимости [Шенк 1980], модель "Смысл - Текст" [Апресян 1980; Мельчук 1974; Попов, 1982] и др.

Результаты исследований в области искусственного интеллекта [Дракин и др. 1988, Попов 1987, Осипов 1997], а также наблюдающееся в последние годы возрастание интереса лингвистики к изучению прикладных аспектов языка и полученные здесь результаты [Апресян 1982; Богуславский 1996; Золотова 1988] являются базой для разработки новых подходов к созданию естественно-языковых систем, использующих при анализе эксплицитное представление знаний о предметной области.

Все это свидетельствует об актуальности разработки теоретических основ и методов реализации систем формирования концептуального представления предметной области на основе анализа проблемно-ориентированных естественно-языковых текстов. Цель и задачи исследования

Целью диссертационной работы является исследование и разработка моделей, методов и алгоритмов функционирования систем анализа естественно-языковых текстов с использованием эксплицитного представления знаний о предметной области, а также разработка и реализация инструментальных средств обработки текстов и системы перехода от проблемно-ориентированного естественно-языкового текста к представлению концептуальной структуры предметной области.

Конкретизация поставленной задачи предполагает решение следующих подзадач:

• анализ существующих моделей, методов и средств обработки естественно-языковых текстов;

• разработку формальных моделей перехода от естественно-языковых тектов к концептуальному представлению предметной области;

• разработку инструментальных средств поддержки реализации естественноязыковых систем;

• проектирование и реализацию прототипа системы формирования концептуального представления предметной области на основе анализа проблемно-ориентированных естественно-языковых текстов.

Методы исследования

В работе для проведения исследований используются методы и средства искусственного интеллекта применительно к существующим лингвистическим моделям, теория семантических сетей и неоднородных семантических сетей, методы проектирования и реализации программного обеспечения прикладных систем. Научная новизна

Предложена и исследована формальная модель системы перехода от естественноязыковых текстов к концептуальному представлению предметной области в виде неоднородных семантических сетей. На базе использования методов и средств искусственного интеллекта и существующих лингвистических моделей анализа текстов предложены алгоритмы формирования эксплицитного описания баз знаний прикладных интеллектуальных систем.

Спецификой предлагаемого подхода является отказ от классической схемы поэтапного анализа в рамках единой модели языка. Вместо этого на каждом из этапов обработки естественно-языковых текстов используются свои, наиболее адекватные, модели и методы. Однако, несмотря на различные подходы и модели, используемые на разных этапах обработки естественно-языкового текста, модули анализа реализованы и работают согласованно, в рамках единой системы, обеспечивая весь процесс обработки, когда на вход поступает проблемно-ориентированный естественно-языковый текст, а на выходе выдается последовательность выражений на языке интерактивного интерпретатора базы знаний интеллектуальной системы.

Модели и методы разработки такой системы формирования базы знаний предметной области на основе анализа ограниченного естественно-языкового текста и рассматриваются в диссертации.

Практическая ценность работы состоит в том, что предложенные и исследованные модели и методы дают эффективные средства решения задачи формирования базы знаний предметной области на основе автоматизированной обработки проблемно-ориентированного естественно-языкового текста, и могут быть использованы при создании интегрированных интеллектуальных систем для различных предметных областей.

Обоснованность научных положений и выводов, сформулированных в диссертационной работе, подтверждается корректным использованием адекватных математических методов и лингвистических моделей и реализацией на их основе программного обеспечения, использованного для автоматизированного формирования базы знаний прикладной интеллектуальной системы. Реализация результатов работы

Предложенные в работе формальные модели анализа естественно-языкового текста на основе эксплицитного представления знаний о предметной области, а также программное обеспечение, реализованное на основе этих моделей, являются результатом исследований, проводимых автором в ИЦИИ ИПС РАН в рамках выполнения бюджетной темы "Теория построения моделей предметных областей и ее применение к моделированию динамики в системах, основанных на знаниях" НГР 01.9.60.001250, проекта №0201.04.003 Государственной научно-технической программы "Перспективные информационные технологии", проекта РФФИ № 94-01-00539 "Интерактивное выявление семантических структур из текста" и хоздоговорных НИР.

Апробация работы

Основные положения работы докладывались и обсуждались на научных конференциях, в частности, на международном семинаре по компьютерной лингвистике "ДИАЛОГ 99" (Таруса, 1999), X Юбилейной конференции по вычислительной механике и современным прикладным программным системам (Переславль-Залесский, 1999), научных семинарах ИЦИИ ИПС РАН. Публикации

По материалам диссертационной работы опубликовано 5 печатных работ. Структура и объем работы

Диссертационная работа состоит из введения, четырех глав, заключения, списка литературы и приложений. Общий объем основного текста диссертации - 124 стр., список литературы содержит 81 наименований. В работе 20 рисунков и 5 таблиц.

4.8. Выводы

В данной главе на основе анализа существующих метаязыков, инструментальных средств разработки и реализации естественно-языковых систем предложено использовать в качестве языка представления алгоритмов обработки ЕЯ-текстов язык расширенных сетей переходов (АТЫ), а в качестве выходного языка реализации предложенных моделей -мета алгоритмический язык Рефал Плюс. Основные результаты четвертой главы:

1. Разработаны и реализованы инструментальные средства поддержки функционирования системы обработки естественно-языковых текстов, в частности:

- конвертор метаязыка А"Ш и библиотека интерпретации стандартных функций;

• интерпретаторы специализированных языков описания словарей лингвистической базы знаний.

2. Разработаны и реализованы основные компоненты системы обработки ЕЯ-тектов, в частности:

- модуль поверхностного синтаксического анализа;

- модуль семантического анализа предложения на основе использования механизма валентностей.

3. Проведено тестирование разработанного прототипа системы на примерах анализа тектов предметной области. Показано, что полученные в результате выражения концептуального представления воспринимаются блоком интерпретации системы ЗШЕЯ.

Заключение

В диссертации рассмотрены модели, методы и алгоритмы функционирования систем анализа естественно-языковых текстов с использованием эксплицитного представления знаний о предметной области, а также разработка и реализация инструментальных средств обработки текстов и системы перехода от проблемно-ориентированного естественноязыкового текста к представлению концептуальной структуры предметной области. В работе получены следующие основные результаты:

1. На основе проведенного анализа моделей и методов обработки естественного языка, а также алгоритмов и систем автоматической обработки текстов определены требования к современным системам преобразования естественно-языковых текстов в концептуальное описание предметной области на основе эксплицитного использования семантической информации из входного текста.

2. Предложена формальная модель системы перехода от проблемно-ориентированного естественно-языкового текста к представлению концептуальной структуры предметной области (неоднородным семантическим сетям) и формально описаны все ее декларативные и процедурные составляющие.

3. Выявлены механизмы построения семантического графа текста на основе использования имен как способа описания вершин и валентных структур как средства формирования дуг графа.

4. Разработана архитектура системы автоматизированного построения базы знаний на основе анализа ограниченного естественного языка для выделенной предметной области, специфицированы алгоритмы работы основных блоков системы.

5. Реализован инструментарий поддержки работы системы: конвертор метаязыка расширенных сетей переходов и библиотека интерпретации стандартных АТИ-функций, конверторы специализированных языков описания словарей лингвистической базы знаний и базы интерпретационных правил.

6. Реализован прототип системы.

7. Проведено тестирование разработанной программы на примерах анализа текстов предметной области. Полученные в результате анализа выражения воспринимаются блоком интерпретации прикладной интеллектуальной системы с входным языком интерактивного интерпретатора базы знаний.

1. Апресян 1967. Апресян Ю.Д. Экспериментальное исследование семантики русского глагола. М., Наука, 1967, 251 с.

2. Апресян 1974. Апресян Ю.Д. Лексическая семантика. Синонимические средства языка. М., Наука, 1974, 367 с.

3. Апресян 1980. Апресян Ю.Д. Типы информации для поверхностно-семантического компонента модели "Смысл о Текст". Wiener Slawistischer Almanach. Sonderband 1. Wien, 1980, 119 p.

4. Апресян 1982. Апресян Ю.Д., Палл Э. Русский глагол - венгерский глагол. Управляемость и сочетаемость. Budapest: Tankyonvkiado, 1982, т. 1-2.

5. Апресян 1986. Апресян Ю.Д. Дейксис в лексике и грамматике и наивная модель мира. Семиотика и информатика. Вып. 28, 1986, с. 5-33.

6. Апресян 1989. Апресян Ю.Д., Богуславский ИМ., Иомдин Л.Л., Лазурский A.B., Перцов Н.В., Санников В.З., Цинман Л.Л. Лингвистическое обеспечение системы ЭТАП-2. М., Наука, 1989, 296 с.

7. Апресян 1990. Апресян Ю.Д. Лексикографический портрет глагола "выйти". Вопросы кибернетики, N166, 1990, с.70-104.

8. Апресян 1997. Апресян ЮД, Богуславская О.Ю., Левонтина И.Б., Урынсон Е.В., Гловинская М.Я., Крылова Т В. Словарь синонимов русского языка. 1997 - с.

9. Ахо 1978а. Ахо А., Ульман Дж. Теория синтаксического анализа, перевода и компиляции. Т.1. Синтаксический анализ. М., Мир, 1978, 612с.

10. И. Ахо 19786. Ахо А., Ульман Д. Теория синтаксического анализа, перевода и компиляции. Т. 2. Компиляция. М., Мир, 1978, 488 с.

11. Балли 1955. Балли Ш. Общая лингвистика и вопросы французского языка. М., 1955.

12. Бейлин 1997. Бейлин Д. Краткая история генеративной грамматики. В сб. Фундаментальные направления современной американской лингвистики. М., Изд-во МГУ, 1997, с. 13-57.

13. Белоногов 1979. Белоногов Г.Г., Новоселов А.П. Автоматизация процессов накопления, поиска и обобщения информации. М., Наука, 1979.

14. Бидер 1978. Бидер И.Г., Большаков И.А., ЕськоваКА. Формальная модель русской морфологии. М., 1978, вып. 111-112.

15. Богуславский 1996. Богуславский И.М. Сфера действия лексических единиц. М., Школа "Языки русской культуры", 1996.

16. Вежбицка 1968. Вежбицка А. Наброски к русско-семантическому словарю. Научно-техническая информация, 1968. Сер. 12, N 2.

17. Влахов 1974. Влахов С., Муцков Л. Неглагольная лексико-синтаксическая сочетаемость. София, 1974.

18. Вудс 1976. Вудс В. А. Сетевые грамматики для анализа естественных языков. Кибернетический сборник. Новая серия. Вып. 13. М., Мир, 1976.

19. Вудс 1986. Вудс У.А. Основные проблемы представления знаний. // ТИИЭР, т.74, №10, окт. 1986, стр. 32-46.

20. Грис 1975. Грис Д. Конструирование компиляторов для цифровых вычислительных машин. М., "Мир", 1975.

21. Турин 1991. Турин Р.Ф., Романенко СЛ. Язык программирования Рефал Плюс. М., Интертех, 1991.

22. Добров 1998. Добров Б.В., Лукашевич Н.В. Автоматическая интеллектуальная обработка текстов на основе тезаурусно организованных знаний. // Труды КИИ'98. Т.2, с.486-491. Пущино, 1998.

23. Дракин и др. 1988. Дракин В,И., Попов Э.В., Преображенский А.Б. Общение конечных пользователей с системами обработки данных. М., Радио и связь, 1988.

24. Ефимов 1982. Ефимов Е.И. Решатели интеллектуальных задач. М., Наука, 1982, 320с.

25. Забежайло 1998. Забежайло М.А. К проблеме автоматического понимания полнотекстовых документов в информационном поиске. // Известия РАН. Теория и системы управления., 1998, №5, с. 167-176.

26. Золотова 1988. Золотова Г. А. Синтаксический словарь. Репертуар элементарных единиц русского синтаксиса. М., Наука, 1988, 440 с.

27. Иомдин 1990. Иомдин JI.JI. Автоматическая обработка текста на естественном языке: модель согласования. М., Наука, 1990.

28. Казенин 1997. Казенин К.И., ТестелецЯ.Г. Исследования синтаксических ограничений в генеративной грамматике. // В сб. Фундаментальные направления современной американской лингвистики. М., Изд-во МГУ, 1997, с.58-109.

29. Клещев 1984. Клещев A.C. Фреймы. // Представление знаний в человеко-машинных и робототехническихсистемах. -М.: ВИНИТИ, 1984. -Т А , с.122-135.

30. Климов 1974. Климов А.В., Романенко С.А., Травкина Е.В. Инструкция по работе с мониторной системой "РЕФАЛ" для БЭСМ-6. ИПМ, М., 1976, - 72с.

31. Конвей 1967. КонвейМ Е. Проект делимого компилятора, основанного на диаграммах перехода.// В сб. "Современное программирование", Советское радио, М., 1967. с.206-246.

32. Коровина 1977. Коровина Т.И., Румшинский Б.Л., Семенова В.Э., Цинман Л.Н. Аппарат для описания морфологии флективных языков. Предварительные публикации Института русского языка, Вып.91. М. 1977.

33. Кулагина 1979. Кулагина О.С. Исследования по машинному переводу. М., Наука, 1979.

34. Ланкастер 1972. Ланкастер Ф. Информационно-поисковые системы. М., Мир, 1972.

35. Леонтьева 1990. Леонтьева Н.Н, Строение семантического компонента в информационной модели автоматического понимания текста. Автореферат на соискание ученой степени д.т.н. Киев, 1990.

36. Мартынов 1980. Мартынов В.В. УСК - язык представления знаний и эвристического поиска. М., АН СССР, 1980.

37. Маслов 1975. Маслов С.Ю. Теория поиска вывода. Кибернетика, N 4, 1975. с.134-144

38. МЕДИАЛИНГВА 1999. Машинная морфология, //www.medialingua.ru

39. Мельчук 1974. Мельчук И, А. Опыт теории лингвистических моделей "Смысл о Текст". М., Наука, 1974.

40. Мельчук 1984. Мельчук И.А., Жолковский А.К., Апресян Ю.Д. и др. Толково-комбинаторный словарь современного русского языка. Опыты семантико-синтаксического описания русской лексики. Wien, 1984.

41. Минский 1979. Минский М. Фреймы для представления знаний. М., Мир, 1979.

42. Нариньяни 1984. Нариньяни А.С., Яхно Т.М. Продукционные системы. // Представление знаний в человеко-машинных и робототехнических системах. -М.: ВИНИТИ, 1984. -Т.А. -с.136-177.

43. Нариньяни 1995. Нариньяни А С. Проблема понимания ЕЯ-запросов к базам данных решена. // Труды Международного семинара по компьютерной лингвистике и ее приложениям ДИАЛОГ-95. Казань, 1995. с.206-215.

44. Осипов 1990. Осипов Г.С. Построение моделей предметных областей. Неоднородные семантические сети. // Известия АН СССР. Техническая кибернетика. 1990, N5, с.32-45.

45. Осипов 1997. Осипов Г.С. Приобретение знаний интеллектуальными системами. М., Наука, 1997.

46. Паркер-Роудс 1964. Паркер-Роудс А.Ф. О последних работах в области машинного перевода методом тезауруса и языка-посредника. // В сб. Математическая лингвистика. М., 1964.

47. Попов 1982. Попов Э.В. Общение с ЭВМ на естественном языке. М., Наука, 1982.

48. Попов 1987. Попов Э.В. Экспертные системы, М., Наука, 1987.

49. Поспелов 1975. Поспелов Д.А. Большие системы. Ситуационное управление. М., Знание, 1975. - 64с.

50. Поспелов 1981. Поспелов Д. А. Логико-лингвистические модели в системах управления. М., Энергоиздат, 1981.

51. Поспелов 1984. Поспелов Д.А. Логические модели представления знаний. Вводные замечания. // Представление знаний в человеко-машинных и робототехнических системах. -М.: ВИНИТИ, 1984. -Т.А. - с.133-35.

52. Поспелов 1986. Поспелов Д А. Ситуационное управление. Теория и практика. М., Наука, 1986.-285 с.

53. Рефал 1977. Базисный Рефал и его реализация на вычислительных машинах. М., ЦНИИПИАС, 1977 - 258 с.

54. Розенкранц 1970. Розенкранц Д. Программные грамматики и классы формальных языков. // В сб. "Сборник переводов по вопросам информационной теории и практики", ВИНИТИ, М., 1970, N16, с. 117-146.

55. Севбо 1962. СевбоИ.П., Пивоварова Е.П. Об алгоритме независимого флективного анализа русского текста. // В сб. Прикладная лингвистика и машинный перевод. Киев, 1962.

56. Степанов 1981. Степанов Ю.С. Имена, предикаты, предложения. Семиологическая грамматика. М., Наука. 1981, 360 с.

57. Теньер 1988. Теньер Л. Основы структурного синтаксиса. М., Прогресс. 1988.

58. Филмор 1981. Филмор Ч. Дело о падеже открывается вновь. // В сб. Новое в зарубежной лингвистике. Вып. 10, 1981.

59. Филмор 1983. Филмор Ч. Основные проблемы лексической семантики. // В сб. Новое в зарубежной лингвистике. М., Радуга, 1983, с.74-123.

60. Финн 1983. ФиннВ.К. О машинно-ориентированной формализации правдоподобных рассуждений в стиле Ф.Бэкона - Д.С.Милля. Семиотика и информатика, вып.20,1983, с. 35-101. .

61. Фитиалов 1961. Фитиалов С.Я. О построении формальной морфологии в связи с машинным переводом. // Тезисы конференции по обработке информации, МП и автоматическому чтению текста. М., ВИНИТИ, 1961.

62. Хомский 1962. Хомский Н. Синтаксические структуры. // В сб. "Новое в лингвистике", вып. 11, ИЛ, М, 1962, с.412-527.

63. Хорошевский 1979. Хорошевский В.Ф. ATNL - язык представления лингвистических знаний в естественно-языковых системах. // В сб. Вопросы кибернетики. Вып. 55. М., Советское радио, 1979, с. 158-170.

64. Шенк 1980. Шенк Р. Обработка концептуальной информации. М, Энергия, 1980, 362 с.

65. Bobrow 1977. Bobrow D.G., Winograd Т. KRL: another perspective. // Cognitive Science. -1977. - VI, №l.-p.3-46.

66. Chomsky 1965. Chomsky N. Aspects of the theory of syntax. The MIT Press. Cambridge, 1965.

67. Cross Reader 1999. Cross Reader, //www.aha.ru/~suggest/

68. Deliani 1979. Deliani A., Kowalsky R. Logic and Semantic Networks! // Comm. of ACM, N3, Vol.22, March 1979, p.p. 184-192.

69. EXCALIBUR 1999. EXCALIBUR Products & Solutions. // www.excalib.com

70. Floid 1967. Floyd R.W. Nondeterministic algorithms. // Journal ACM, N14, 1967, p.636-644.

71. Glennie 1960. Glemvie A. On the syntax machine and the construction of a universal compiler, Technical Report N2, Computation Center, Carnegie-Mellon University, Pittsburg, PA, 1960.

72. Helbig 1983. Helbig H., Bottger H., String P., Wicaz R., Zanker F., Koch D., Heicking W. FAS-80 ein naturlichsrpachiges Auskunftssystem VEB Roboten ZFT, WIB Nr. 18, 1983, 97 p.

73. Hendrics 1974. Hendrics G.G. Expanding the utility of semantic networks trough partitioning. //Proc. 4-th Int. Joint Conf. Artificial Intelligence. Tbilisi, 1974, p. 1075.

74. Knuth 1967. Knuth D.E. Top-down syntax analysis. Lecture Notes, International Summer Scool on Computer Programming, Copenhagen, 1967.

75. Post 1943. Post E. Formal Reduction of the general combinatorial. // American J. Math., 1943, v.65, N2, p. 197-215.

76. Quillian 1968. Quillian M R. Semantic Memory. //Semantic Information Processing, MIT Press, Cambridge, 1968, p.227-270.

77. Samelson 1960. -Samelson K., Bauer F.L. Sequential formula translation. // Comm. ACM, N3, 1960, p. 76-83.

78. TEXT Analyst 1999. TEXT Analyst, //www.megaputer.com.

79. Wilks 1972. Wilks Y.A. Grammar, Meaning and the Machine Analysts of Language. London, Routledge and Kegan Paul, 1972.

80. Winograd 1983. Winograd T. Language as a Cognitive Process, v. 1: Syntax, Adisson-Wesley Publishing Company, 1983, p.p. 357-401.

81. Wirth 1968. Wirth N. PL 360 - a programming language for the 360 computers. J. ACM, N15, 1968, p.37-54.