Multiplicadores de Lagrange

En los problemas de optimización, los multiplicadores de Lagrange, nombrados así en honor a Joseph Louis Lagrange, son un método para trabajar con funciones de varias variables que nos interesa maximizar o minimizar, y está sujeta a ciertas restricciones. Este método reduce el problema restringido en n variables en uno sin restricciones de n + 1 variables cuyas ecuaciones pueden ser resueltas. Este método introduce una nueva variable escalar desconocida, el multiplicador de Lagrange, para cada restricción y forma una combinación lineal involucrando los multiplicadores como coeficientes. Su demostración involucra derivadas parciales, o bien usando diferenciales totales, o sus parientes cercanos, la regla de la cadena. El fin es, usando alguna función implícita, encontrar las condiciones para que la derivada con respecto a las variables independientes de una función sea igual a cero.

Introducción

Consideremos un caso bidimensional. Supongamos que tenemos la función, f(x, y), y queremos maximizarla, estando sujeta a:

$g(x,y)=c,$

donde c es una constante. Podemos visualizar las líneas de curvas de nivel de f dadas por

$f(x,y)=d_{n}$

para varios valores de d_n, y el contorno de g dado por g(x, y) = c. Supongamos que hablamos de la curva de nivel donde g = c. Entonces, en general, las curvas de nivel de f y g serán distintas, cruzando el contorno donde g = c por lo general intersectará y cruzará muchos contornos de f. En general, moviéndose a través de la línea g=c podemos incrementar o disminuir el valor de f. Solo cuando g=c, el contorno que estamos siguiendo toca tangencialmente, pero no lo corta, una curva de nivel de f no incrementamos o disminuimos el valor de f. Esto ocurre en el extremo local restringido y los puntos de inflexión restringidos de f.

Un ejemplo familiar puede ser obtenido de los mapas climatológicos, con sus curvas de nivel de presión y temperatura (isóbaras e isotermas respectivamente): el extremo restringido ocurrirá donde los mapas superpuestos muestren curvas que se tocan.

Geométricamente traducimos la condición de tangencia diciendo que los gradientes de f y g son vectores paralelos en el máximo. Introduciendo un nuevo escalar, λ, resolvemos

$\nabla$[f(x, y) - λ (g(x, y) − c)] = 0

para λ ≠ 0.

Una vez determinados los valores de λ, volvemos al número original de variables y así continuamos encontrando el extremo de la nueva ecuación no restringida.

$F(x,y)=f(x,y)-\lambda (g(x,y)-c)$

de forma tradicional. Eso es, $F(x,y)=f(x,y)$ para todo (x, y) satisfaciendo la condición porque $g(x,y)-c$ es igual a cero en la restricción, pero los ceros de $\nabla$F(x, y) están todos en $g(x,y)=c$.

El método de los multiplicadores de Lagrange

Sea f (x) una función definida en un conjunto abierto n-dimensional {x ∈ Rⁿ}. Se definen s restricciones g_k (x) = 0, k=1,...,s, y se observa (si las restricciones son satisfechas) que:

$h(\mathbf {x} ,\mathbf {\lambda } )=f-\sum _{k}^{s}\lambda _{k}g_{k}$

Se procede a buscar un extremo para h

${\frac {\partial h}{\partial x_{i}}}=0,$

lo que es equivalente a

${\frac {\partial f}{\partial x_{i}}}=\sum _{k}^{s}\lambda _{k}{\frac {\partial g_{k}}{\partial x_{i}}}.$

Los multiplicadores desconocidos λ_k se determinan a partir de las ecuaciones con las restricciones y conjuntamente se obtiene un extremo para h que al mismo tiempo satisface las restricciones (i.e. g_k=0), lo que implica que f ha sido optimizada

El método de multiplicadores de Lagrange es generalizado por las condiciones de Karush-Kuhn-Tucker.

Ejemplo

Supongamos que queremos encontrar la distribución probabilística discreta con máxima entropía. Entonces

$f(p_{1},p_{2},\ldots ,p_{n})=-\sum _{k=1}^{n}p_{k}\log _{2}p_{k}.$

Evidentemente, la suma de estas probabilidades debe ser exactamente igual a 1, por lo tanto nuestra restricción es g(p) = 1 con

$g(p_{1},p_{2},\ldots ,p_{n})=\sum _{k=1}^{n}p_{k}.$

Podemos usar los multiplicadores de Lagrange para encontrar el punto de máxima entropía (dependiendo de las probabilidades). Para todo k desde 1 hasta n, necesitamos

${\frac {\partial }{\partial p_{k}}}(f+\lambda (g-1))=0,$

lo que nos da

${\frac {\partial }{\partial p_{k}}}\left(-\sum _{k=1}^{n}p_{k}\log _{2}p_{k}+\lambda \sum _{k=1}^{n}p_{k}-\lambda \right)=0.$

Derivando estas n ecuaciones, obtenemos

$-\left({\frac {1}{\ln 2}}+\log _{2}p_{k}\right)+\lambda =0.$

Esto muestra que todo p_i es igual (debido a que depende solamente de λ). Usando la restricción ∑_k p_k = 1, encontramos

$p_{k}={\frac {1}{n}}.$

Esta (la distribución uniforme discreta) es la distribución con la mayor entropía.

Enlaces externos

• Para referencias del trabajo original de Lagrange(Inglés)
• [1]Applet (Inglés)
• Tutorial y applet(Inglés)
• Introducción Conceptual (más un acercamiento de la relación multiplicadores de Lagrange y el cálculo de variaciones como se usan en Física) (Inglés)
• [2] (tutorial hecho por Dan Klein) (Inglés)

Algunos problemas

• Problemas varios y explicación de conceptos relacionados (Universidad de Málaga)