Оптимальный уровень сложности обучения, или Правило 85 % Уилсона

Существует оптимальный уровень сложности обучения. По крайней мере, для нейронных сетей.

Должен быть оптимальный уровень сложности при изучении нового. Если задачи слишком легкие, то вряд ли останется что-то для дальнейшей работы. Если же они слишком сложные, учащемуся грозит неудача. Где-то должна быть золотая середина.

Как пишет в Nature Communications команда Роберта С. Уилсона из Университета Аризоны, нейронные сети лучше всего учатся, когда допускают около 15 % ошибок, включая имитацию обучения человека и животных. Полученное число соответствует также данным экспериментов по обучению людей.

Уилсон и его команда использовали очень простой тест, в котором электронным испытуемым нужно было только распознать группу движущихся точек. Эту способность можно улучшить тренировкой. Измерима и скорость обучения, которая при уровне сложности 15 % становится максимальной. 

Так называемое правило 85 % Уилсона применимо и ко всем проверенным командой объектам испытаний. Если частота ошибок значительно отличается в том или ином направлении от указанного значения, скорость обучения уменьшается в геометрической прогрессии.

Однако неясно, существует ли такая взаимосвязь у животных и людей и пригодны ли подобные правила к другим типам учебных задач.  Немного преждевременна, вероятно, и попытка вывести на основании результатов «математическую теорию».

Источник: spektrum.de