Regression on the basis of nonstationary Gaussian processes with Bayesian regularization

Journal of Communications Technology and Electronics. 2016. Vol. 61. No. 6. P. 661–671.

Панов М. Е., Бурнаев Е. В., Zaytsev A.

Одним из основных методов построения нелинейных регрессионных моделей является регрессия на основе гауссовских процессов. В данной работе предложен подход к байесовской регуляризации параметров ковариационной функции гауссовского процесса, который позволяет увеличить вычислительную устойчивость алгоритма построения регрессионной модели и её точность. Также предложен метод моделирования нестационарной ковариационной функции гауссовского процесса на основе линейного разложения по словарю параметрических функций. Использование такой ковариационной функции позволяет более эффективно моделировать пространственно неоднородные зависимости. Сочетание приведенных выше методов позволяет получить общий подход к регрессии на основе гауссовских процессов, который может быть легко реализован на практике и не требует настройки каких-либо параметров. Тестирование на большом наборе функций показало эффективность предложенного подхода.

Ключевые слова: regression, регрессия, Gaussian process, Bayesian regularization, a priori distribution, Bayesian regression, Гауссовские процессы, байесовская регуляризация, априорное распределение, байесовская регрессия