Мои 5 копеек по нейронным сетям.
Нейронные сети можно разделить на 2 категории по принципу обучения.
1. Обучение с учителем.
Сеть вначале обучается, а затем начинает эксплуатироваться (обучение при этом не ведётся)
Обучение построено следующим образом:
а) на вход сети подаётся сигнал
б) учитель сообщает сети что она должна выдать по этому сигналу.
в) согласно правилу обучения (например, обратное распространение сигнала - back propagation) сеть подстраивает свои веса так, чтобы при поступлении сигнала получался требуемый результат.
г) идём на а) пока есть ещё сигналы.
Таким образом, сеть учится делать делать то же, что и учитель. Всё как в реальной жизни
Плюсы: получаем от сети в точности то, что хотим получить.
Минусы: высокая зависимость от качества обучающих примеров (насколько хорошо они покрывают всё множество допустимых данных задачи), плохая приспособленность к изменяющимся условиям (сеть уже не обучается после ввода в эксплуатацию).