Метод наименьших квадратов с предварительной ортогонализацией факторов (МНКО). (МОДЕЛИРОВАНИЕ)

Один из самых старых и разработанных методов моделирования по пассивным данным – метод наименьших квадратов (МНК). Которых базируется на подборе уравнения регрессии, чтобы сумма квадратов разности между уравнением и экспериментальными данными была наименьшей из всех возможных. Для произвольной системы факторов задача нахождения обратной матрицы является довольно громоздкой даже для ЭВМ, причем трудоемкость стремительно возрастает с увеличением числа факторов. Одновременно существует еще одна проблема – при признании какого-либо из найденных коэффициентов b_K незначимым следует, исключив фактор X_K, всю вычислительную процедуру проделать заново с самого начала.
Проблема существенного упрощения процедуры определения коэффициентов регрессии и отсеивания факторов может быть решена путем ортогонализации факторов, т.е. подбором для каждой регрессионной задачи своей специальной системы линейно-независимых функций Y(X) таких, чтобы матрица системы нормальных уравнений (X^TX) была единичной. Другими словами, каждая функция Y_kj(X) из системы линейно-независимых функций Y(X) выбирается так, чтобы она была ортогональна ко всем предыдущим и нормирована на заданном множестве экспериментальных точек X _kj с весами w_kj. Тогда матрица (X^TX)^-1 также будет единичной и выражение упрощается.Теперь не только нет необходимости искать обратную матрицу, но и можно отбрасывать незначимые коэффициенты регрессии без пересчета остальных. Выбор системы функций Y_kj(X) осуществляется с использованием ортогональных полиномов Чебышева таким образом, чтобы кривая Y(X) разлагалась по выбранной системе функций в ряд, быстро сходящийся в каждой точке X_kj. При этом система функций должна быть определена на этом интервале значений переменной X_k, на котором расположены экспериментальные точки. Следовательно, метод МНКО сводится к тому, что связь между выходной величиной Y и факторами Х_l Y=f(x1,x2,…xi,…xn)будем искать в виде следующего полинома, включающего эффекты факторов и их взаимодействий где n – количество рассматриваемых факторов; q= 0,…,р – степень полинома, представляющий соответствующий фактор. Однако такой полином, как указывалось выше, трудно найти без предварительной ортогонализации, поэтому промежуточной целью будет поиск вспомогательного полинома следующего вида.Здесь m+1 – число членов уравнения регрессии. Имея в виду, что при обработке пассивной контрольно-измерительной информации степень каждого фактора р на практике не превышает 2, а число взаимодействий ограничивается парным, то общее число членов уравнения регрессии не будет превышать m+1£1+2n+C²_n. При этом для удобства следует производить замену переменных и вместо эффектов факторов Х _l и их взаимодействий вводить единую переменную Z_k.Необходимо отметить, что степень полинома Y_k(X) совпадает с номером столбца k рассматриваемых эффектов Z_k в матрице исходных данных. Тогда именно на полиномы Y_k(X) следует наложить условия

Нахождение мат. модели в МНКО и оценка ее адекватности. Достоинства и недостатки. Задача определения оценок коэффициентов b_k сводится к нахождению коэффициентов А_к при ортогональных полиномах исходя из условий минимизации остаточной суммы квадратовДифференцируя по каждому коэффициенту А_к и приравнивая результат дифференцирования к нулю, получаем систему (m+1) линейных уравнений, решением которой будет выражение для расчета А_к Следовательно, вопрос о включении в уравнение каждого коэффициента А_к проверяется по критерию Стьюдента. Для этого предварительно рассчитывается среднеквадратическое отклонение очередного коэффициента А_к. В крайнем случае для оценки средней дисперсии можно взять эмпирическую дисперсию распределения выходной величины, деленную на 4 (минимальное число равнодействующих составляющих, могут дать нормальное распределение).Величина S{А_к} подставляется в выражение для расчетного критерия Стьюдента.При выполнении условия коэффициент А_к признается значимым и должен быть включен в уравнение, в противном случае – нет.Проверка адекватности уравнения экспериментальным данным осуществляется как обычно, с помощью критерия Фишера. В случае положительного решения можно перейти к отысканию оценок b_k.Простейшим методом нахождения b_k является метод подстановки соответствующих конкретных значений y_k(Z) и приведения подобных членов. Выражения, стоящие перед каждым Z_k, являются искомыми оценками коэффициентов b_k. Следует обратить внимание, что в выражении в связи с обратным отсчетом номера k=m,…,1 индексы отношения x_ij также изменены на обратные. Другими словами, принцип старшинства индексации для первого сомножителя числителя по-прежнему соблюдается.Анализ особенностей МНКО как в теоретическом плане, так и в плане практического применения позволяет обратить внимание на следующее.

1. В условиях пассивного эксперимента оценки коэффициентов b_k в отличие от A_k являются смешанными. Однако по сравнению с МНК предложенный метод позволяет точнее оценить независимых вклад каждого эффекта в соответствующий коэффициент b_k. Это обстоятельство обуславливает более высокую чувствительность МНКО по сравнению с МНК, которая тем выше, чем больше количество исследуемых факторов, причем в этот список могут входить как сильно-, так и слабо- действующие факторы.

2. Эффективность метода зависит от порядка следования факторов (эффектов) друг за другом при расчете коэффициентов модели. В случае расположения их в порядке убывания по степени значимости эффективность метода возрастает. Поэтому целесообразно перед применением МНКО предварительно расположить исследуемые факторы в порядке убывания значимости по отношению к целевой функции. Для этого можно рекомендовать воспользоваться предварительной моделью, полученной с помощью ММСБ или какого-нибудь другого метода.