О выборе базисных функций регрессии и машинном обучении

Авторы

  • Сергей Михайлович Ермаков Санкт-Петербургский государственный университет, Российская Федерация, 199034, Санкт-Петербург, Университетская наб., 7–9
  • Светлана Николаевна Леора Санкт-Петербургский государственный экономический университет, Российская Федерация, 191023, Санкт-Петербург, наб. канала Грибоедова, 30–32

DOI:

https://doi.org/10.21638/spbu01.2022.102

Аннотация

Как известно, в задачах машинного обучения широко используются средства регрессионного анализа, которые позволяют устанавливать связь между наблюдаемыми переменными и компактно хранить информацию. Наиболее распро страненным является случай, когда функция регрессии описывается линейной комбинацией некоторых заданных функций f_j(X), j= 1, . . . , m, X принадлежит D содержится в R^s. Если наблюдаемые данные содержат случайную ошибку, то восстановленная по наблюдениям функция регрессии содержит случайную ошибку и систематическую ошибку, зависящую от выбора функций f_j. В данной работе указана возможность оптимального, в смысле заданной функциональной метрики, выбора f_j, если известно, что истинная зависимость подчиняется некоторому функциональному уравнению. В ряде случаев (правильная сетка, s ≤ 2) близкие результаты могут быть получены с помощью техники а нализа случайных процессов. Численные примеры, приведенные в данной работе, иллюстрируют существенно более широкие возможности предполагаемого подхода к задачам регрессии.

Ключевые слова:

регрессионный анализ, аппроксимация, базисные функции, операторный метод, машинное обучение

Скачивания

Данные скачивания пока недоступны.
 

Библиографические ссылки

Литература

1. Дрейпер Н., Смит Г. Прикладной регрессионный анализ, пер. с англ. 3-е изд. Киев, Диа- лектика (2016).

2. Гохберг И.Ц., Крейн М. Г. Введение в теорию линейных несамосопряженных операторов, пер. с англ. Москва, Наука (1965).

3. Донской В.И. Машинное обучение и обучаемость: сравнительный обзор. Intellectual Archive, №933, 1–19 (2012).

4. Усевич К.Д. Разложение функций в двумерном варианте метода "Гусеница"-SSA и связан- ные с ним системы уравнений в частных производных. Вестник Санкт-Петербургского универ- ситета. Прикладная математика. Информатика. Процессы управления, вып. 3, 151–160 (2009).

5. Ермаков С.М., Котова Л.Ю. О выборе базисных функций в регрессионном анализе. В: Сб. работ кафедры статистического моделирования СПбГУ, 3–43 (1999).

6. Самарский А.А. Теория разностных схем. Москва, Наука (1989).

7. Голяндина Н.Э., Усевич К.Д. Метод 2D-SSA для анализа двумерных полей. В: Труды VII Международной конференции "Идентификация систем и задачи управления" SICPRO’08, Москва, 1657–1727 (2008).

References

1. Draper N., Smith H. Prikladnoi regressionnyi analiz. 3rd ed. Kiev, Dialeсtica Publ. (2016). (In Russian) [Eng. transl.: Draper N., Smith H. Applied Regression Analysis. 3rd ed. New York, Wiley (1998)].

2. Gokhberg I.Ts., Kreyn M.G. Vvedenie v teoriiu lineinykh nesamosopriazhennykh operatorov. Moscow, Nauka Publ. (1965). (In Russian) [Eng. transl.: Gokhberg I.Ts., Kreyn M.G. Introduction to the theory of linear non-self-adjoint operators in a Hilbert space. In Ser.: Translations of Mathematical Monographs, vol. 18, AMS (1969)].

3. Donskoy V. I. Machine Learning and Learnability: Comparative Survey. Intellectual Archive, no. 933, 1–19 (2012). (In Russian)

4. Usevich K.D. Decomposition of functions in 2D-extension of SSA and related partial differential systems of equations. Vestnik of Saint Petersburg University. Applied Mathematics. Computer Science. Control Processes, iss. 3, 151–160 (2009). (In Russian)

5. Ermakov S.M., Kotova L.Yu. On the choice of basic functions in regression analysis. In: Collection of works of the Department of Statistical Modeling of St Petersburg State University, 3–43 (1999). (In Russian)

6. Samarskiy A.A. The theory of difference schemes. Мoscow, Nauka Publ. (1989). (In Russian)

7. Golyandina N. E., Usevich K.D. 2D-SSA Method for analysis of two-dimensional fields. In: Proceedings of the VII International Conference “System Identification and Control Problems” SICPRO’08, Moscow, 1657–1727 (2008). (In Russian)

Загрузки

Опубликован

10.04.2022

Как цитировать

Ермаков, С. М., & Леора, С. Н. (2022). О выборе базисных функций регрессии и машинном обучении. Вестник Санкт-Петербургского университета. Математика. Механика. Астрономия, 9(1), 11–22. https://doi.org/10.21638/spbu01.2022.102

Выпуск

Том 9 № 1 (2022)

Раздел

Математика

Лицензия

Статьи журнала «Вестник Санкт-Петербургского университета. Математика. Механика. Астрономия» находятся в открытом доступе и распространяются в соответствии с условиями Лицензионного Договора с Санкт-Петербургским государственным университетом, который бесплатно предоставляет авторам неограниченное распространение и самостоятельное архивирование.

Наиболее читаемые статьи этого автора (авторов)