11 Cálculo
El cálculo es una rama de las matemáticas que se enfoca en el estudio de las tasas de cambio y las acumulaciones infinitas (Stewart 2002). Esta áreas se divide en dos: el cálculo diferencial, que trata sobre cómo cambian las cantidades, y el cálculo integral, que se ocupa de la acumulación de cantidades y de la determinación de áreas bajo curvas, entre otras aplicaciones. El cálculo diferencial permite analizar la tasa de cambio de una función, mientras que el cálculo integral permite encontrar la cantidad total acumulada de algo. Estos conceptos se desarrollan a través de herramientas matemáticas como límites, derivadas e integrales, que permiten modelar y resolver problemas complejos en una variedad de disciplinas.
En el campo del aprendizaje automático, el cálculo tiene varias aplicaciones. Por ejemplo, el cálculo diferencial es esencial en la optimización de funciones, que es un componente clave en la mayoría de los algoritmos de aprendizaje automático. Al entrenar un modelo, como una red neuronal, se busca minimizar una función de pérdida, que mide cuán lejos está el modelo de realizar predicciones precisas. Para lograrlo, se utilizan métodos como el descenso de gradiente, que emplean derivadas para determinar la dirección y magnitud de los cambios necesarios en los parámetros del modelo para reducir la pérdida.
El cálculo integral también juega un papel en el aprendizaje automático, especialmente en la estimación de probabilidades y en técnicas como la integración numérica, que se utiliza para aproximar valores en modelos probabilísticos.
11.1 Cálculo diferencial
De manera intuitiva, la derivada mide cómo cambia el valor de una función cuando la variable independiente experimenta un pequeño cambio. De forma general nos permite entender cómo varía una cantidad en relación con otra.
Formante, si \(y = f (x)\), entonces la derivada se define como la tasa de incremento en la variable observada con respecto a un intervalo muy pequeño. Es decir,
$$
f’(x)= _{h } $$
alternativamente, las siguientes notaciones para la derivada son válidas.
$$
f’(x)= y’ = = = (f(x))$$
11.2 Reglas de derivación
Para calcular la derivada de una función no siempre es necesario recurrir a la definición formal del límite. A continuación, presentamos las reglas algebraicas que permiten hallar la derivada de funciones comunes de manera eficiente.
11.2.1 Regla de la constante
La derivada de cualquier función constante es siempre cero. Esto se debe a que una constante no tiene variación o cambio respecto a la variable independiente.
Si \(f(x) = c\), donde \(c \in \mathbb{R}\), entonces: $$
(c) = 0$$
Sea \(f(x) = 8\). Su derivada es: $$
f’(x) = 0$$
11.2.2 Regla de la potencia
Para cualquier número real \(n\), la derivada de una variable elevada a dicha potencia se obtiene multiplicando por el exponente y restando uno a este último en el nuevo exponente.
Si \(f(x) = x^n\), entonces: $$
(x^n) = nx^{n-1}$$
Sea \(f(x) = x^5\). Aplicando la regla: $$
f’(x) = 5x^{5-1} = 5x^4$$
11.2.3 Regla del múltiplo constante
Si una función está multiplicada por una constante, la constante permanece inalterada mientras se deriva la función.
Si \(g(x) = c \cdot f(x)\), entonces: $$
[cf(x)] = c f’(x)$$
Sea \(f(x) = 3x^4\). Su derivada es: $$
f’(x) = 3 (4x^3) = 12x^3$$
11.2.4 Regla de la suma o resta
La derivada de una suma (o resta) de funciones es igual a la suma (o resta) de sus derivadas individuales.
$$
[f(x) g(x)] = f’(x) g’(x)$$
Sea \(f(x) = x^2 + 7x\). La derivada es: $$
f’(x) = (x^2) + (7x) = 2x + 7$$
11.2.5 Regla del producto
La derivada de un producto de dos funciones se define como la derivada de la primera por la segunda sin derivar, más la primera sin derivar por la derivada de la segunda:
$$
[f(x)g(x)] = f’(x)g(x) + f(x)g’(x)$$
Sea \(h(x) = x^2 e^x\). Definiendo \(f(x) = x^2\) y \(g(x) = e^x\), tenemos: $$
h’(x) = (2x)(e^x) + (x2)(ex) = e^x(2x + x^2)$$
11.2.6 Regla del cociente
Para derivar el cociente de dos funciones, se utiliza la siguiente fórmula, siempre que \(g(x) \neq 0\):
$$
= $$
Sea \(f(x) = \frac{x^2}{x+1}\). $$
f’(x) = = = $$
11.2.7 Regla de la cadena
La regla de la cadena se utiliza para derivar funciones compuestas, es decir, funciones dentro de otras funciones. Si una variable \(y\) depende de \(u\), y \(u\) a su vez depende de \(x\), entonces la razón de cambio de \(y\) respecto a \(x\) es el producto de sus derivadas.
Formalmente, si \(y = f(g(x))\), entonces su derivada es: $$
= f’(g(x)) g’(x)$$
O en la notación de Leibniz: $$
= $$
Sea \(h(x) = \sin(x^3)\). En este caso, la función externa es \(f(u) = \sin(u)\) y la interna es \(g(x) = x^3\).
Derivada de la externa: \(f'(u) = \cos(u) \rightarrow \cos(x^3)\)
Derivada de la interna: \(g'(x) = 3x^2\)
Aplicando la regla: $$
h’(x) = (x^3) 3x^2 = 3x^2 (x^3)$$
Sea \(f(x) = (5x^2 + 1)^4\). $$
f’(x) = 4(5x^2 + 1)^3 (5x^2 + 1)\[ \]
f’(x) = 4(5x^2 + 1)^3 (10x) = 40x(5x^2 + 1)^3$$
11.2.8 Ejercicios
Calcule la derivada de las siguientes funciones polinómicas utilizando la regla de la potencia:
\(f(x) = 7x^4 - 5x^2 + 3x - 10\)
\(f(x) = \frac{1}{3}x^3 + \sqrt{2}x\)
\(f(x) = \frac{4}{x^2} + 5\sqrt{x}\)
Utilice la regla del producto para hallar \(f'(x)\) en las siguientes funciones:
\(f(x) = (x^2 + 1) \cdot \sin(x)\)
\(f(x) = e^x \cdot \cos(x)\)
\(f(x) = \ln(x) \cdot (5x^3 - 2)\)
Aplique la regla del cociente para derivar las siguientes expresiones:
\(f(x) = \frac{x^2 - 1}{x^2 + 1}\)
\(f(x) = \frac{\ln(x)}{x}\)
\(f(x) = \frac{e^x}{\sin(x)}\)
Obtenga la derivada de las siguientes funciones compuestas:
\(f(x) = (4x^3 + 7x)^{10}\)
\(f(x) = \sin(e^x + x^2)\)
\(f(x) = e^{-x^2}\)
La función sigmoide comprime los valores al rango \((0, 1)\) y se define como: $$
(x) = $$
Utilice la regla de la cadena para demostrar que su derivada es \(\sigma'(x) = \sigma(x)(1 - \sigma(x))\).
11.3 Derivadas parciales
Las derivadas parciales son una extensión del concepto de derivada para funciones de varias variables. Mientras que la derivada ordinaria mide la tasa de cambio de una función respecto a una sola variable, manteniendo todas las demás constantes.
Suponiendo una función de varias variables, \(y = f(x_1 \dots x_n)\), la derivada parcial con respecto de una variable, \(x_i\), es decir \(\frac{\partial f}{\partial x_i}\) se calcula como:
$$
= _{x } $$
11.4 Vector gradiente
El vector gradiente de una función escalar es un campo vectorial cuyas componentes son las derivadas parciales de dicha función evaluadas en un punto determinado. Para una función de \(n\) variables, \(f(x_1, x_2, \dots, x_n)\), el gradiente se denota mediante el operador nabla \(\nabla\) y se define como el vector:
$$
f = ^T$$
Geométricamente, el vector gradiente posee propiedades fundamentales para la optimización y el análisis de funciones:
Dirección de máximo crecimiento: En cualquier punto dado, el vector \(\nabla f\) apunta en la dirección en la que la función aumenta más rápidamente.
Ortogonalidad: El gradiente en un punto es perpendicular a las líneas o superficies de nivel de la función \(f\) que pasan por dicho punto.
En algoritmos de aprendizaje automático, como el gradient descent, se utiliza el negativo del gradiente (\(-\nabla f\)) para encontrar los mínimos locales de una función de pérdida.
Consideremos la siguiente función escalar de dos variables, \(f(x, y)\), que define una superficie en el espacio: $$
f(x, y) = x^2 + 3xy + y^2$$
- Calcule el gradiente de la función. SOLUCION: Para obtener el vector gradiente \(\nabla f(x, y)\), calculamos primero las derivadas parciales de primer orden respecto a cada variable:
- Derivada parcial respecto a $x$: $$= (x^2 + 3xy + y^2) = 2x + 3y$$
- Derivada parcial respecto a $y$: $$= (x^2 + 3xy + y^2) = 3x + 2y$$
Por lo tanto, el vector gradiente general es: $$
f(x, y) = \[\begin{bmatrix} 2x + 3y \\ 3x + 2y \end{bmatrix}\]$$
- Evalúe el gradiente en el punto \(P(1, 2)\) SOLUCION: Sustituimos los valores \(x=1\) y \(y=2\) en nuestra expresión del gradiente:
$$$$
Esto nos indica que en el punto \((1, 2)\), la función aumenta más rápidamente si nos desplazamos en la dirección del vector \((8, 7)\).
- Calcule para el mismo punto \((1, 2)\) el negativo del gradiente. SOLUCION: Utilizando el resultado previo para la función \(f(x, y) = x^2 + 3xy + y^2\) en el punto \(P(1, 2)\), el vector de descenso es: $$
$$
$$$$
Como observaremos más adelante en el libro este gradiente negativo es muy utilizado en el entrenamiento de las redes neuronales.
- Dibuje en una gráfica de contornos la superficie de la función, el punto en evaluación y el gradiente en el punto. SOLUCION. Observe la figura 1
11.5 Ejercicios
Determine la derivada con respecto a \(x\) de las siguientes funciones.
\(f(x) = (3x^2 + 5)^4\)
\(f(x) = \sin(x^2)\)
\(y = e^{5x}\)
\(f(x) = \sqrt{x^3 + 1}\)
Encuentre el gradiente de la función \(f\), evalúe el gradiente en el punto indicado \(p_0\). $$
f(x,y)=7xy^2 - 2x^2y\[ \]
p_0 = (1,1)$$
Considere la función escalar \(f: \mathbb{R}^3 \to \mathbb{R}\) definida por: $$
f(x, y, z) = x^2 y + 2yz^2 - 3xz$$
Encuentre el vector gradiente negativo de la función.
Evalúe en el punto \(p_0 = (2, -1, 1)\).