![]() |
|
сделать стартовой | добавить в избранное |
![]() |
Технология извлечения знаний из нейронных сетей: апробация, проектирование ПО, использование в психолингвистике |
Министерство образования Российской Федерации Омский Государственный Университет Математический факультетГорбань Павел АлександровичТЕХНОЛОГИЯ ИЗВЛЕЧЕНИЯ ЗНАНИЙ ИЗ НЕЙРОННЫХ СЕТЕЙ: АПРОБАЦИЯ, ПРОЕКТИРОВАНИЕ ПО, ИСПОЛЬЗОВАНИЕ В ПСИХОЛИНГВИСТИКЕДипломная работа Научный руководитель: Член-корреспондент РАН В.В. Шайдуров Омск – 2002 ОглавлениеВведение Цель работы Основные задачи исследования Основные результаты работы, полученные лично автором Апробация работы Публикации Глава 1. Проблема извлечения знаний и обзор методов извлечения знаний 1.1 Знание и приобретение знаний 1.1.1 &quo ;Знание&quo ; 1.1.2. Приобретение знаний 1.2. Методы извлечения и приобретения знаний 1.2.1. Приобретение знаний, обучение и обобщение по примерам в теории классических экспертных систем 1.2.1.1. Трудности при разработке экспертных систем 1.2.2. Методы извлечения знаний из таблиц данных 1.2.2.1. Технология извлечения знаний из таблиц данных 1.2.2.2. Таблица эмпирических данных 1.2.2.3. Статистические методы извлечения знаний из таблицы данных 1.2.3. Методы идентификации систем 1.2.4. Другие методы обработки данных 1.3. Требования к технологии извлечения знаний Глава 2. Нейронные сети 2.1. Коннекционизм 2.2. Элементы нейронных сетей 2.3. Основные архитектуры нейронных сетей 2.4. Обучение нейронных сетей как минимизация функции ошибки Глава 3. Упрощение нейронной сети. 3.1. Что такое упрощение нейронной сети и зачем оно нужно 3.2. Задача извлечения знаний из нейронной сети 3.3. Методы упрощения нейронных сетей 3.3.1. Контрастирование синапсов нейросети 3.3.2. Контрастирование нейронов нейросети 3.3.3. Контрастирование входных сигналов нейросети 3.3.4. Бинаризация синапсов 3.3.5. Упрощение нелинейных преобразователей нейронов 3.3.6. Дополнительные модификации алгоритмов контрастирования 3.3.7. Методы модификации структуры обученной сети 3.4. Требования к процессу упрощения сети для извлечения знаний 3.5. Упрощающие операции над нейронной сетью 3.6. Процедура комплексного упрощения нейронной сети Глава 4. Методы извлечения знаний из искусственных нейронных сетей 4.1. Существующие методы извлечения знаний из обученной нейросети 4.1.1. Методы на основе квантования сигналов сети 4.1.2. Методы извлечения знаний параллельно с обучением нейросети 4.1.3. Методы извлечения знаний из обученной нейросети 4.2. Методы извлечения знаний: требования к методам 4.3. Методология извлечения явных знаний, использующая технологию комплексного упрощения нейросети 4.4. Приемы повышения вербализуемости нейронной сети 4.4.1. Добавление синдрома в набор входных симптомов 4.4.2. Построение иерархии продукционных правил 4.4.3. Ручное конструирование сети из фрагментов нескольких логически прозрачных сетей Глава 5. Нейросетевой анализ структуры индивидуального пространства смыслов 5.1. Семантический дифференциал 5.2. MA -многообразия Литература Публикации автора по теме диплома Приложение 1. Плакаты для защиты диплома. Приложение 2. Статья: Горбань П.А. Нейросетевой анализ структуры индивидуального пространства смыслов. &quo ;Нейрокомпьютеры&quo ;: разработка, применение. 2002, o 4.
С. 14-19. Введение Цель работы Целью дипломной работы является апробация гибкой технологии извлечения знаний из нейронных сетей, настраиваемой с учетом предпочтений пользователя. Тестирование, пробная эксплуатация и разработка новой версии программных средств, реализующих данную технологию. Проведение исследований индивидуальных пространств смыслов на основе данной технологии. Основные задачи исследования Анализ разработанных методов извлечения явных знаний из нейронных сетей с указанием их ограничений и областей применимости. Апробация гибкой настраиваемой на основе предпочтений пользователя технологии извлечения знаний, опирающейся на предварительное проведение комплексного упрощения нейронной сети, выполняющегося с учетом сформированных пользователем требований к результирующему виду извлекаемых знаний. Тестирование, пробная эксплуатация и разработка новой версии программных средств, реализующих данную технологию. Усовершенствование метода семантического дифференциала Осгуда при помощи технологии разреживания обучаемых нейронных сетей. Основные результаты работы, полученные лично автором Предложены следующие приемы, упрощающие и делающие более гибким процесс вербализации (семантического анализа – осмысления в терминах проблемной области) извлеченного из сети набора правил: На основе гипотезы о неединственности извлекаемых правил и учитывая, что разные фрагменты сети (поднаборы правил) будут более или менее правдоподобны и интерпретируемы, предложено конструирование новой, более понятной пользователю нейронной сети из наиболее просто интерпретируемых фрагментов других сетей, решающих ту же задачу. Предложено добавление выходного сигнала некоторого фрагмента сети (содержательно интерпретируемого и правдоподобного с точки зрения пользователя) в качестве нового интегрального признака в число независимых признаков таблицы данных, и решение задачи извлечения знаний на основе полученного расширенного набора признаков. Разработано техническое задание на новую версию программы-нейроимитатора, реализующую предложенные технологии. Усовершенствован метод семантического дифференциала Осгуда при помощи технологии разреживания обучаемых нейронных сетей. Проведена серия экспериментов, заключающихся в исследовании индивидуальных смысловых пространств, проинтерпретированы их результаты. Предложена гипотеза о структуре индивидуального пространства смыслов: оно состоит из многообразия малой размерности, задаваемого культурой («ман-многообразия» от немецкого безличного местоимения «ma ») и сравнительно небольшого множества индивидуальных отклонений, которые могут быть важны для диагностики. Каждая культура имеет небольшое количество специфических для нее ман -многообразий (субкультур). Апробация работы Основные положения работы докладывались на VI, VII Всероссийских семинарах &quo ;Нейроинформатика и ее приложения&quo ;, (Красноярск, 1998, 2000 гг), I, Всероссийской научно-технической конференции &quo ;Нейроинформатика&quo ; (Москва, МИФИ, 1999 г.), VI Международной конференции &quo ;Математика. Компьютер. Образование&quo ; (1999г, Пущино), I er a io al Joi Co fere ce o eural e works (1999г, Washi g o , DC, USA), XXXVII Международной научной студенческой конференции &quo ;Cтудент и научно-технический прогресс&quo ;: Информационные технологии.
Новосибирск, НГУ, 1999 (награждена Дипломом 3 степени). Публикации По теме диплома автором опубликована 1 статья в научном журнале и 4 тезиса докладов. Глава 1. Проблема извлечения знаний и обзор методов извлечения знаний Введение Первый параграф определяет понятия &quo ;знание&quo ; и &quo ;приобретение знания&quo ;. Второй параграф посвящен обзору существующих методов извлечения и приобретения знаний. Рассматриваются существующие в теории классических экспертных систем методы приобретения знаний, рассматриваются использующиеся для извлечения знаний из таблиц данных методы статистического анализа, математического моделирования и идентификации. Третий параграф описывает набор требований к направленной на конечного пользователя технологии извлечения знаний. 1.1 Знание и приобретение знаний 1.1.1 &quo ;Знание&quo ; Под знанием понимается достаточно широкий спектр информации. В представлена следующая классификация типов знаний: Базовые элементы знания (информация о свойствах объектов реального мира). Связаны с непосредственным восприятием, не требуют обсуждения и используются в том виде, в котором получены. Утверждения и определения. Основаны на базовых элементах и заранее рассматриваются как достоверные. Концепции – перегруппировки или обобщения базовых элементов. Для построения каждой концепции используются свои приемы (примеры, контрпримеры, частные случаи, более общие случаи, аналогии). Отношения. Выражают как элементарные свойства базовых элементов, так и отношения между концепциями. К свойствам отношений относят их большие или меньшие правдоподобие и связь с данной ситуацией. Теоремы и правила перезаписи – частный случай продукционных правил (правил вида &quo ;если , то , иначе &quo ;) с вполне определенными свойствами. Теоремы не представляют пользы без экспертных правил их применения. Алгоритмы решения. Необходимы для выполнения определенных задач. Во всех случаях они связаны со знанием особого типа, поскольку определяемая ими последовательность действий оказывается оформленной в строго определенном порядке, в отличие от других типов знаний, где элементы знания могут появляться и располагаться без связи друг с другом. Стратегии и эвристика. Врожденные или приобретенные правила поведения, которые позволяют в конкретной ситуации принять решение о необходимых действиях. Человек постоянно пользуется этим типом знаний при формировании концепций, решении задач и формальных рассуждениях. Метазнание. Присутствует на многих уровнях и представляет знание того, что известно, определяет значение коэффициента доверия к этому знанию, важность элементарной операции по отношению ко всему множеству знаний. Сюда же относятся вопросы организации разного типа знаний и указания, где, когда и как они могут быть использованы. В настоящей работе первому типу знаний будет соответствовать информация об измеримых (или наблюдаемых) свойствах объектов реального мира. Именно эта информация сведена в таблицу данных типа &quo ;объект-признак&quo ;. Остальным типам знаний соответствуют ограничения на диапазоны значений, которые могут принимать признаки объекта (второй тип), информация о взаимозависимости признаков и о возможности описания одних признаков через другие, информация о статистических свойствах значений признаков, Фактически, нас интересует знание второго и последующих типов – знание, которое человек добывает в процессе анализа информации, рассуждений, обобщений, проведения аналогий.
И эти области с разным знаком в свое время каким-то образом разделились.P Г.А. Крысиный киборг Ученые из Института биохимии имени Макса Планка в Мартинсреде отчитались о разработанном ими революционном методе исследования деятельности мозга (некоторые подробности см. в «КТ» #638) на страницах авторитетного Journal of Neurophysiology. Методы исследования мозга, доступные современным нейрофизиологам, способны проследить лишь за небольшим количеством нейронов и страдают от плохого пространственного разрешения. С их помощью пока мало что удается понять. Но теперь на помощь биологам пришли последние достижения полупроводниковых технологий. Специальный чип биохимики создали в тесном сотрудничестве с корпорацией Infineon. На поверхность микросхемы помещается слой живого мозга крысы толщиной с лезвие бритвы. Сенсоры чипа способны взаимодействовать с нейронами в обоих направлениях, возбуждая их электрическую активность и рисуя карту ответной реакции нейронной сети. Чип с шестнадцатью тысячами транзисторных сенсоров на одном квадратном миллиметре был использован для изучения сложного взаимодействия нейронов в тонком слое живой ткани гиппокампа участка коры, тесно связанного с процессами запоминания
1. Аппроксимация функции с использованием нейронных сетей
2. Методы прогнозирования основанные на нейронных сетях
5. Кластеризация с помощью нейронных сетей
9. Классификация римских цифр на основе нейронных сетей
10. Безотходная технология извлечения свинца из колошниковой пыли
11. Технология извлечения палладия из отработанных катализаторов
12. Нейронные сети
13. Проектирование технологии ремонта гидроцилиндров с использованием полимерных материалов
14. Межбанковские отношения на основе использования высоких технологий интербанковских телекоммуникаций
15. Опыт и перспективы использования сети Интернет в коммерческих целях
16. Проектирование локально-вычислительной сети
17. Экспертная система по проектированию локальной сети ("NET Совет")
18. Проектирование локальной вычислительной сети для агетства по трудоустройству
19. Использование Интернет-технологий для обеспечения информативности населения
20. Проектирование локальных сетей
26. Использование сети Интернет в политике
27. Проектирование АТС на районированной сети
29. Экономическая оценка использования новых информационных технологий в бухгалтерском учете
30. Использование информационных технологий в туризме
31. Проектирование первичной сети связи на участке железной дороги
32. Компьютерное мошенничество при торговле ценными бумагами с использованием сети Интернет в США
34. Проектирование технологий и изготовления изделий машиностроения
35. Использование Веб-служб для индивидуализированного обучения, основанного на Веб-технологиях
36. Опыт использования информационых технологий
37. Использование новых информационных технологий при обучении химии в ВУЗе
41. Организация и технология процесса в розничной торговой сети
43. Направления использования информационных технологий в олимпийском движении
45. Использование ГИС-технологий в снеголавинных исследованиях
48. Public Ethernet - широкополосная сеть нового поколения. Взгляд на услуги сквозь призму технологии
49. Использование Internet/intranet технологий для организации доступа к базам данных
50. Продукционная модель (ПМ) знаний и ее использование в ЭС
51. Технологии коммутации кадров (frame switching) в локальных сетях
52. Глобальные сети: Технологии и протоколы
57. Проектирование сети предприятия
61. Использование специальных знаний в современной практике противодействия преступности
62. Использование специальных знаний при расследовании преступлений
64. Интенсификация обучения иностранному языку с использованием компьютерных технологий
65. Виртуальные частные сети. Технология MPLS VPN
66. Использование JAVA-технологий для разработки графических приложений
67. Использование вычислительных сетей
68. Использование информационных и компьютерных знаний в учебном процессе и трудовой деятельности
69. Использование сетей Петри в математическом моделировании
73. Основы организации локальных компьютерных сетей на основе технологии Ethernet
74. Применение технологии "тонкого клиента" в корпоративных сетях
76. Проект сети для центра информационных технологий
77. Проектирование вычислительной сети для сбора информации от предприятий о потреблении электроэнергии
79. Проектирование информационных систем с использованием ERWin, BPWin
80. Проектирование локальной вычислительной сети
81. Проектирование локальной вычислительной сети
82. Проектирование локальной вычислительной сети образовательного учреждения
83. Проектирование локальной сети для рабочих мест на базе сети Ethernet
84. Разработка веб файлового менеджера с использованием технологии Ajax
85. Разработка прикладной программы тестового контроля с использованием технологий JSP и сервлетов
89. Проектирование городской телефонной сети
90. Проектирование локальной вычислительной сети с применением структурированной кабельной системы
91. Проектирование сетей стандарта GSM
92. Разработка широкополосной сети доступа с технологией АТМ
93. Модернизация сотовой сети стандарта GSM с применением технологий GPRS и EDGE
94. Организация технологии и проектирования торгового предприятия ОАО «Фабрика мягкой мебели»
95. Разработка программы продвижения с использованием BTL технологий
96. Использование PR в сети Интернет
97. Использование рекламных технологий в продвижении бренда
98. Оценка экономической эффективности использования информационных технологий в медицине
99. Педагогические условия использования новаторских технологий К. Орфа в обучении детей музыке