Системы искусственного интеллекта и нейронные сети
Нейрон, нейронные сети, основные понятия
Нейрон (формальный, искусственный) — элементарный преобразующий элемент, как составная часть
нейросети , в свою очередь, состоит из элементов трех типов и выполняет две
основные функции — взвешенное суммирование и нелинейное пре образование.
Элементы нейрона — умножители (синапсы), сумматор и нелинейный преобразователь.
Синапсы осуществляют связь между нейронами, умножают входной сигнал ( xj) на число,
характеризующее силу связи, — вес синапса ( wj). Сумма тор
выполняет сложение сигналов, поступающих по синаптическим связям от других
нейронов и внешних входных сигналов. Нелинейный преобразователь выполняет
нелинейную функцию одного аргумента — выхода сумматора. Таким образом, нейрон в
целом реализует скалярную функцию векторного аргумента. Функционирование
нейрона можно разбить на два такта (в соответствии с двумя >его функциями):
1. В сумматоре вычисляется величина возбуждения, полученного
нейроном, (для простоты смещение w0 не
учитывается). 2. Возбуждение пропускается через преобразующую (активационную)
функцию f(•), в результате чего определяется выходной сигнал На рис. 13.2 представлена укрупненная схема
нейрона.
Рис. 13.2. Структурная схема нейрона
Наиболее часто используются следующие функции
активации: Пороговая (ступенчатая) функция где θ — порог срабатывания нейрона.
ПРИМЕЧАНИЕ Концептуально каждый нейрон может
рассматриваться, как ПРАВИЛО «ЕСЛИ (w, x) > θ и, ТО выдать импульс». Следует
отметить, что, например, «небольшая» нейронная сеть для распознавания
образов может содержать десятки миллионов нейронов. Обработка базы знаний,
содержащей такое число правил, трудно реализуема даже на современных
процессорах.
2. Сигмоидная( логистическая ) функция.
Функция называется сигмоидной, если она ограничена по
минимальному и максимальному значениям и имеет везде положительную производную.
Кроме этого предполагается, что функция быс тро сходится к верхнему пределу при
s →+∞ и к нижнему при s →-∞. На пример,
где а — параметр (а > 0), 0
<f ( s ) < 1. График сигмоидной функции
качественно близок к изображению передаточной характеристики биологического
нейрона. Сигмоидная функция приближается к ступенчатой с порогом θ = 0 при a →+ ∞. Очевидно, пороговая функция более
удобна при аппаратной реализации нейрона, тогда как сигмоидная функция
предпочтительна в аналитических исследованиях, поскольку она монотонна, всюду
дифференцируема и имеет непрерывные производные любого порядка. Так ,f’ = af (1-f). 3. Гиперболический тангенс f (s) = th ( as) = , -1<f(s)<1. Свойство не четности тангенса,
а также то, что f (0), иногда оказывается очень удобным.
Таким образом, каждый нейрон характеризуется вектором весовых множителей и
параметрами преобразующей функции. Нейрон способен получать сигналы и в
зависимости от их интенсивности и собственных характеристик выдавать выход ной
сигнал. При этом если выходной сигнал нейрона близок к единице, то говорят,
что нейрон возбужден. Под нейронной сетью обычно понимается структура,
состоящая из связанных между собой нейронов, аксиоматическое определение которых
было дано ранее. К настоящему времени предложено большое количество способов
объединения нейронов в нейросеть (при этом говорят о «топологии» нейросети ).
Не ограничивая общности, можно считать, что нейроны в сети расположены
слоями. Обычно выделяют входной слой, на который подается возбуждающий сигнал,
выходной слой, с которого снимают переработанный сетью сигнал, а все остальные
слои называют скрытыми (поскольку они не видны пользовате лю). Очевидно,
что для адекватного решения задачи функционирования сети нужно правильно выбрать
значения весов связей между нейронами — обучить сеть. Возможны несколько
типов классификации существующих нейросетей . Наиболее часто используются
следующие: по типу входной
информации: сети,
анализирующие двоичную информацию; сети, оперирующие с действительными
числами; по методу обучения: сети, которые для того чтобы
удовлетворять поставленным критериям требуют предварительного обучения перед
включением их в реальную обстановку, — модели с учителем; сети, не требующие
предварительного обучения, способные самообучаться (совершенствовать свои
характеристики) в процессе работы; по характеру распространения информации:
однонаправленные сети, в которых
информация распространяется только в одном направлении от одного слоя элементов
к другому; рекуррентные сети, в которых выходной сигнал элемента может вновь
по ступать на этот элемент и другие элементы сети этого же или предыдущих слоев
в качестве входного сигнала (сети с обратными связями);
по
способу преобразования входной информации: автоассоциативные
; гетероассоциативные . Они отличаются следующим. На всей сети или на
одном ее слое задаются в опреде ленный момент времени исходные состояния
нейронов x =( x 1 , x 2 ,…, xn ) то есть
задается входной образ. Затем этот образ трансформируется в соответствии с
функциями преобразования элементов. Информация распространяется по сети,
происходит ее обработка. В однонаправленных сетях информация распространяется от
слоя к слою, и выходной слой выдает результирующий вектор y =( y 1 ,
y 2 , …, ym ) . (В однослойных сетях происходит
стабилизация сети в одном из состояний.) После этого считываются значения узлов
сети, представляющих выходной вектор. Возможны два варианта: х ≠ у —
гетероассоциативная сеть, осуществляющая отображение входного век тора х
в выходной вектор у; входной вектор х представляет искаженный или сжатый
образ эталона x >0 . Такая сеть называется автоассоциативной .
Выходной вектор, получающийся в результате работы нейросети , характеризует
состояние элементов сети. Смысл, который имеют значения этого вектора, опре
деляется в зависимости от решаемой проблемы. Решение задачи на
нейрокомпьютере принципиально отличается от решения той же задачи на обычной
ЭВМ. Решение задачи на обычной ЭВМ заключается в обработке вводимых данных в
соответствии с априори разработанной и записанной в нее программой. Для
составления программы необходимо разработать алгоритм, то есть определенную
последовательность математических и логических действий, необходимых для решения
этой задачи. Алгоритмы и программы разрабатываются людьми, а компьютер
используется лишь для выполнения большого количества элементарных операций:
сложения, умножения, проверки логических условий и т. п. Нейрокомпьютер же
используется как «черный ящик», который можно обучить решению задач из
какого-нибудь класса. Нейрокомпьютеру «предъявляются» исходные данные задачи и
ответ, который соответствует этим данным. Нейроком пьютер должен сам построить
внутри себя алгоритм решения этой задачи, чтобы выдать ответ, совпадающий с
правильным . Естественно ожидать, что чем больше различных пар (исходные данные
— ответ) будет предъявлено нейрокомпьютеру, тем более адекватную решаемой задаче
модель он сформулирует. Более того, если после этапа обучения нейрокомпьютеру
предъявить исходные данные, которых он раньше не встречал, то желательно, чтобы
он, тем не менее, выдал правильное решение. В этом заключается способность
нейрокомпьютера к обобщению. Поскольку в основе устройства нейрокомпьютера лежит
искусственная нейросеть , то процесс обучения состоит в настройке параметров
этой сети. При этом, как правило, топология сети считается неизменной, а к
подстраиваемым параметрам обычно относятся параметры нейронов и величины
синаптических весов. Обычно в литературе под обучением принято понимать
процесс изменения весов свя зей между нейронами. Классификация методов
обучения нейронных сетей: по способу использования учителя: - с учителем. Сети предъявляются
примеры входных и выходных данных. Сеть преобразует входные данные и сравнивает
свой выход с желаемым. После этого проводится коррекция весов с целью получить
лучшую согласованность выходов; - с последовательным подкреплением знаний. В
этом случае сети не дается же лаемое значение выхода, а только ставится оценка,
хорош выход или плох; - без учителя. Сеть сама вырабатывает правила обучения
путем выделения оценочных признаков из набора входных данных;
по использованию элементов случайности:
- детерминированные методы. В них шаг за шагом осуществляется процеду ра
коррекции весов сети, основанная на использовании их текущих значений,
входов сети, выходов нейронов и некоторой дополнительной инфор мации,
например значений желаемых выходов сети; - стохастические методы. Они
основываются на использовании случайных изменений весов в ходе обучения.
Знаете ли Вы, что такое мысленный эксперимент, gedanken experiment? Это несуществующая практика, потусторонний опыт, воображение того, чего нет на самом деле. Мысленные эксперименты подобны снам наяву. Они рождают чудовищ. В отличие от физического эксперимента, который является опытной проверкой гипотез, "мысленный эксперимент" фокуснически подменяет экспериментальную проверку желаемыми, не проверенными на практике выводами, манипулируя логикообразными построениями, реально нарушающими саму логику путем использования недоказанных посылок в качестве доказанных, то есть путем подмены. Таким образом, основной задачей заявителей "мысленных экспериментов" является обман слушателя или читателя путем замены настоящего физического эксперимента его "куклой" - фиктивными рассуждениями под честное слово без самой физической проверки. Заполнение физики воображаемыми, "мысленными экспериментами" привело к возникновению абсурдной сюрреалистической, спутанно-запутанной картины мира. Настоящий исследователь должен отличать такие "фантики" от настоящих ценностей.
Релятивисты и позитивисты утверждают, что "мысленный эксперимент" весьма полезный интрумент для проверки теорий (также возникающих в нашем уме) на непротиворечивость. В этом они обманывают людей, так как любая проверка может осуществляться только независимым от объекта проверки источником. Сам заявитель гипотезы не может быть проверкой своего же заявления, так как причина самого этого заявления есть отсутствие видимых для заявителя противоречий в заявлении.
Это мы видим на примере СТО и ОТО, превратившихся в своеобразный вид религии, управляющей наукой и общественным мнением. Никакое количество фактов, противоречащих им, не может преодолеть формулу Эйнштейна: "Если факт не соответствует теории - измените факт" (В другом варианте " - Факт не соответствует теории? - Тем хуже для факта").
Максимально, на что может претендовать "мысленный эксперимент" - это только на внутреннюю непротиворечивость гипотезы в рамках собственной, часто отнюдь не истинной логики заявителя. Соответсвие практике это не проверяет. Настоящая проверка может состояться только в действительном физическом эксперименте.
Эксперимент на то и эксперимент, что он есть не изощрение мысли, а проверка мысли. Непротиворечивая внутри себя мысль не может сама себя проверить. Это доказано Куртом Гёделем.
Понятие "мысленный эксперимент" придумано специально спекулянтами - релятивистами для шулерской подмены реальной проверки мысли на практике (эксперимента) своим "честным словом". Подробнее читайте в FAQ по эфирной физике.