Optimización bayesiana

La optimización bayesiana es una estrategia de diseño secuencial para la optimización global de funciones de caja negra​​​ que no asume ninguna forma funcional. Suele emplearse para optimizar funciones caras de evaluar.

Historia

El término se atribuye generalmente a Jonas Mockus [lt] y se acuña en su obra a partir de una serie de publicaciones sobre optimización global en las décadas de 1970 y 1980.​​​

Estrategia

Optimización bayesiana de una función (negro) con procesos gaussianos (morado). En la parte inferior se muestran tres funciones de adquisición (azul).​

La optimización bayesiana se utiliza normalmente en problemas de la forma ${\textstyle \max _{x\in A}f(x)}$, donde ${\textstyle A}$ es un conjunto de puntos,${\textstyle x}$ que se basan en menos de 20 dimensiones (${\textstyle \mathbb {R} ^{d},d\leq 20}$), y cuya pertenencia puede evaluarse fácilmente. La optimización bayesiana es especialmente ventajosa para problemas en los que ${\textstyle f(x)}$ es difícil de evaluar debido a su coste computacional. La función objetivo, ${\textstyle f}$, es continua y adopta la forma de una estructura desconocida, denominada "caja negra". Tras su evaluación, sólo ${\textstyle f(x)}$ se observa y sus derivadas no se evalúan.​

Dado que la función objetivo es desconocida, la estrategia bayesiana consiste en tratarla como una función aleatoria y colocar una prioridad sobre ella. El prior recoge las creencias sobre el comportamiento de la función. Después de recoger las evaluaciones de la función, que se tratan como datos, se actualiza la priorización para formar la distribución posterior sobre la función objetivo. La distribución posterior, a su vez, se utiliza para construir una función de adquisición (a menudo también denominada criterio de muestreo de relleno) que determina el siguiente punto de consulta.

Existen varios métodos para definir la distribución a priori/posterior sobre la función objetivo. Los dos métodos más comunes utilizan procesos gaussianos en un método denominado kriging. Otro método menos costoso utiliza el estimador de Parzen para construir dos distribuciones para los puntos "altos" y "bajos" y, a continuación, encuentra la ubicación que maximiza la mejora esperada.​

La optimización bayesiana estándar se basa en que cada $x\in A$ es fácil de evaluar y los problemas que se desvían de este supuesto se conocen como problemas exóticos de optimización bayesiana. Los problemas de optimización pueden llegar a ser exóticos si se sabe que hay ruido, las evaluaciones se realizan en paralelo, la calidad de las evaluaciones depende de un compromiso entre dificultad y precisión, la presencia de condiciones ambientales aleatorias o si la evaluación implica derivadas.​

Funciones de adquisición

Ejemplos de funciones de adquisición:

• probabilidad de mejora
• mejora prevista
• Pérdidas esperadas bayesianas
• límites superiores de confianza (LCR) o límites inferiores de confianza
• Muestreo Thompson

Junto con híbridos de éstos.​ Todos ellos compensan la exploración y la explotación para minimizar el número de consultas de funciones. Como tal, la optimización bayesiana es muy adecuada para funciones que son caras de evaluar.

Métodos de solución

El máximo de la función de adquisición suele encontrarse recurriendo a la discretización o mediante un optimizador auxiliar. Las funciones de adquisición suelen comportarse bien y se maximizan mediante una técnica de optimización numérica, como el método de Newton o métodos cuasi-Newton como el algoritmo Broyden-Fletcher-Goldfarb-Shanno.

Aplicaciones

El enfoque se ha aplicado para resolver una amplia gama de problemas,​ entre los que se incluyen aprender a clasificar,​ gráficos por computadora y diseño visual,​​​ robótica,​​​​ redes de sensores,​​ configuración automática de algoritmos,​​ cajas de herramientas de aprendizaje automático de máquinas,​​​ aprendizaje por refuerzo,​ planificación, atención visual, configuración de arquitecturas en aprendizaje profundo, análisis estático de programas, física experimental de partículas,​​ optimización de la calidad-diversidad,​​​ química, diseño de materiales y desarrollo de fármacos.​​​

Véase también

• Bandido multibrazo
• Kriging
• Muestreo de Thompson
• Optimización global
• Diseño experimental bayesiano
• Probabilística numérica
• Óptimo de Pareto
• Dilución de regresión
• Estimación bayesiana recursiva