Regresin no lineal

Regresin no lineal
En estadstica, la regresin no lineal es un problema de inferencia para un modelo tipo:

Ejemplo de regresin no lineal

basado en datos multidimensionales

, donde

es alguna funcin no lineal respecto a algunos parmetros

desconocidos . Como mnimo, se pretende obtener los valores de los parmetros asociados con la mejor curva de ajuste (habitualmente, con el mtodo de los mnimos cuadrados). Con el fin de determinar si el modelo es adecuado, puede ser necesario utilizar conceptos de inferencia estadstica tales como intervalos de confianza para los parmetros as como pruebas de bondad de ajuste. El objetivo de la regresin no lineal se puede clarificar al considerar el caso de la regresin polinomial, la cual es mejor no tratar como un caso de regresin no lineal. Cuando la funcin toma la forma:

la funcin

es no lineal en funcin de

pero lineal en funcin de los parmetros desconocidos

,y

. Este

es el sentido del trmino "lineal" en el contexto de la regresin estadstica. Los procedimientos computacionales para la regresin polinomial son procedimientos de regresin lineal (mltiple), en este caso con dos variables predictoras y . Sin embargo, en ocasiones se sugiere que la regresin no lineal es necesaria para ajustar polinomios. Las consecuencias prcticas de esta mala interpretacin conducen a que un procedimiento de optimizacin no lineal sea usado cuando en realidad hay una solucin disponible en trminos de regresin lineal. Paquetes (software) estadsticos consideran, por lo general, ms alternativas de regresin lineal que de regresin no lineal en sus procedimientos.

Regresin no lineal

General
Linealizacin
Algunos problemas de regresin no lineal pueden linealizarse mediante una transformacin en la formulacin del modelo. Por ejemplo, consideremos el problema de regresin no lineal (ignorando el trmino de error):

Aplicando logaritmos a ambos lados de la ecuacin, se obtiene:

lo cual sugiere una estimacin de los parmetros desconocidos a travs de un modelo de regresin lineal de ln(y) con respecto a x, un calculo que no requiere procedimientos de optimizacin iterativa. De todas formas, la linealizacin debe usarse con cuidado ya que la influencia de los datos en el modelo cambia, as como la estructura del error del modelo y la interpretacin e inferencia de los resultados. Estos pueden ser resultados no muy convenientes. Hay que distinguir entre la "linealizacin" usada en los prrafos anteriores y la "linealizacin local" que se adopta para algoritmos clsicos como el de Gauss-Newton. De igual forma, la metodologa de modelos lineales generalizados no use linealizacin para la estimacin de parmetros.

Mnimos cuadrados ordinarios y ponderados

La mejor curva de ajuste se considera como aquella que minimiza la suma de las desviaciones (residuales) al cuadrado (SRC). Este es la aproximacin por el mtodo de mnimos cuadrados (MMC). Sin embargo, en aquellos casos donde se tienen diferentes varianzas de error para diferentes errores, es necesario minimizar la suma de los residuales al cuadrado ponderados (SRCP) (mtodo de mnimos cuadrados ponderados). En la prctica, la varianza puede depender del valor promedio ajustado. As que los pesos son recalculados para cada iteracin en un algoritmo de mnimos cuadrados ponderados iterativo. En general, no hay una expresin de forma cerrada para los parmetros de mejor ajuste, como sucede en el caso de la regresin lineal. Mtodos numricos de optimizacin son aplicados con el fin de determinar los parmetros de mejor ajuste. Otra vez, en contraste con la regresin lineal, podra haber varios mximos locales de la funcin a ser optimizada. En la prctica, se suponen algunos valores iniciales los cuales junto con el algoritmo de optimizacin conducen a encontrar el mximo global.

Estimacin de los parmetros usando Mtodos de Montecarlo

Si el error de cada observacin es conocido, entonces la precisin y confiabilidad de los parmetros puede ser estimada mediante simulacin de Montecarlo. Cada observacin es aleatorizada de acuerdo a su media y su desviacin estndar. Con el nuevo conjunto de datos, una nueva curva es ajustada y las estimaciones de los parmetros registradas. Las observaciones son entonces aleatorizadas y nuevos valores de los parmetros son obtenidos. Al final, varios conjuntos de parmetros son generados y su media y desviacin estndar pueden ser calculados.[1] [2]

Regresin no lineal

Software
Diversos lenguajes de programacin y software estadstico y matemtico contienen funciones de optimizacin. Entre ellos, Gauss, GNU Octave, Matlab, Mathematica, R, Splus; C++ y Fortran maple.

Mtodos Numricos para Regresiones No Lineales

Regresin Exponencial
En determinados experimentos, en su mayora biolgicos, la dependencia entre las variables X e Y es de forma exponencial, en cuyo caso interesa ajustar a la nube de puntos una funcin del tipo:

Mediante una transformacin lineal, tomando logaritmos neperianos, se convierte el problema en una cuestin de regresin lineal. Es decir, tomando logaritmos neperianos:

Ejemplo
x 1 1,2 1,5 2 3 3,7 4 4,5 3 3,4 5 2 4,1 5 7 6,5 y In y 1,0986 1,2237 1,6094 0,6931 1,4109 1,6094 1,9459 1,8718 1 1,44 2,25 4 9 13,69 16 20,25 x2 x Iny 1,0986 1,4684 2,4141 1,3862 4,2327 5,9547 7,7836 8,4231 In y2 1,2069 1,4974 2,5901 0,4803 1,9906 2,5901 3,7865 3,5056

20,9 36 11,4628 67,63 32,7614 17,6455

Numero de datos = n = 8 x promedio = y promedio = = = = 2,6125 = 1,43285

Usando la forma lineal de la Regresin Exponencial: b= a= a=e =e

b

= 0,216047

= 1,43285 - (0,216047)(2,6125) = 0,84272

0,216047

= 2,8597

La ecuacion final que modela el sistema es

Regresin no lineal

Regresin Logartmica
La curva logartmica e , est referida a ya es tambin una recta, pero en lugar de estar referida a las variables originales

Ejemplo
x 1 1.2 1.5 2 3 3.7 4 4.5 3 3.4 5 2 4.1 5 7 6.5 y 0 0.1823 0.4054 0.6931 1.0986 1.3083 1.3862 1.5040 ln x 0 0.0332 0.1643 0.4803 1.2069 1.7116 1.9215 2.2620 ln x2 0 0.6198 2.027 1.3862 4.5042 6.5415 9.7034 9.776 ln x * y 9 11.56 25 4 16.81 25 49 42.25 y2

20.9 36 6.5779 7.7798 34.5581 182.62

a= b=

= = 4.5 - (2.090513)(0.8222) = 2.78117

= 2.090513

La ecuacion final que modela el sistema es

Regresin Polinomial
Algunas veces cuando la relacin entre las variables dependientes e independientes es no lineal, es til incluir trminos polinomiales para ayudar a explicar la variacin de nuestra variable dependiente. Las regresiones polinomiales se pueden ajustar la variable independiente con varios trminos

Ejemplo
x 1 1.2 1.5 2 3 3.7 4 4.5 3 3.4 5 2 4.1 5 7 6.5 y 3 4.08 7.5 4 12.3 18.5 28 29.25 xy 1 1.44 2.25 4 9 13.69 16 20.25 x2 9 11.56 25 4 16.81 25 49 42.25 y2 3 4.896 11.25 8 36.9 68.45 112 131.625 x2y 1 1.728 3.375 8 27 50.653 64 91.125 x3 1 2.0736 5.0625 16 81 187.4161 256 410.0625 x4

Regresin no lineal

5
20.9 36 106.63 67.63 182.62 376.121 246.881 958.6147

Usando una Matriz para calcular valores de los coeficientes

Usando el mtodo de Eliminacin de Gauss-Jordan

La ecuacin final que modela el sistema es

Referencias
[1] Motulsky, HJ & Ransnas, LA (1987) Fitting curves to data using nonlinear regression. FASEB J 1:365-374 [2] McIntosh, JEA & McIntosh, RP (1980) Mathematical modelling and computers in endocrinology. p71 Springer-Verlag, Berlin, Germany.

Bibliografa
G.A.F Seber and C.J. Wild. Nonlinear Regression. New York: John Wiley and Sons, 1989. R.M. Bethea, B.S. Duran and T.L. Boullion. Statistical Methods for Engineers and Scientists. New York: Marcel Dekker, Inc 1985 ISBN 0-8247-7227-X

Enlaces externos
levmar (http://www.ics.forth.gr/~lourakis/levmar/), implementacin Levenberg-Marquardt algoritmo en C/C++, con las interfaces de MATLAB, Perl y Python. Licencia: GPL Arquimedex: Software para Regresin No Lineal (http://soft.arquimedex.com/regresion_lineal.php), Regresin Lineal y No Lineal Online ISAT (http://www.che.utexas.edu/~john/research/isat.htm), Nonlinear regression with explicit error control Zunzun.com (http://zunzun.com), Online curve and surface fitting NLREG (http://www.nlreg.com), a proprietary program Matlab statistic (http://www.mathtools.net/MATLAB/Statistics/) SysLinea 0.1.2 Regresin lineal y non lineal con cdigo fuente en pascal (Open Source GNU/GPL) (https://sites. google.com/site/mgbfreeware/)

Fuentes y contribuyentes del artculo

Fuentes y contribuyentes del artculo

Regresin no lineal Fuente: http://es.wikipedia.org/w/index.php?oldid=51662662 Contribuyentes: Antn Francho, Chocoteco, ConPermiso, Deachp, Donatiu, Gaortizg, GermanX, Ggenellina, HanPritcher, Jarfil, Juan Mayordomo, Lucien leGrey, Matdrodes, Nizampop, Pacomegia, Rhernan, Tano4595, Technopat, Tirithel, Trujilloleonardo, 26 ediciones annimas

Fuentes de imagen, Licencias y contribuyentes

File:Non linear regression 10 x2.png Fuente: http://es.wikipedia.org/w/index.php?title=Archivo:Non_linear_regression_10_x2.png Licencia: Creative Commons Attribution-Sharealike 3.0 Contribuyentes: User:Maque

Licencia
Creative Commons Attribution-Share Alike 3.0 Unported //creativecommons.org/licenses/by-sa/3.0/