00 — Notation & Refresher

Why this matters for ML

Antes de correr necesitas que la notación no te frene. En ML vas a leer fórmulas llenas de $\sum$, $\prod$, $\log$, subíndices y funciones compuestas. Este módulo fija ese "alfabeto" para que después leas cualquier ecuación sin tropezar. Es corto porque tu base de precálculo ya es sólida: úsalo como repaso rápido y detector de huecos.

Concepts covered

• Summation notation ($\sum$) y product notation ($\prod$)
• Set notation ($\in$, $\subseteq$, $\mathbb{R}$, $\mathbb{R}^n$, intervalos)
• Functions, domain/range, composition ($f \circ g$)
• Exponentials y logarithms (y por qué el log aparece en todo ML)
• Repaso exprés de trigonometría (lo mínimo útil)
• Cómo leer statements matemáticos (∀, ∃, ⇒, ⇔)

Intuition first

No hay video obligatorio. Si algún símbolo te resulta ajeno, búscalo puntualmente en Khan Academy. Ojea MML sección 2.1 para acostumbrarte a su notación (la usaremos).

Theory & key results

Summation y product

$$\sum_{i=1}^{n} x_i = x_1 + x_2 + \dots + x_n \qquad \prod_{i=1}^{n} x_i = x_1 \cdot x_2 \cdots x_n$$ Propiedades que usarás sin parar:

• $\sum_i (a x_i) = a \sum_i x_i$ (saca constantes)
• $\sum_i (x_i + y_i) = \sum_i x_i + \sum_i y_i$ (linealidad)
• El dot product de dos vectores es literalmente $\sum_i x_i y_i$. Media aritmética: $\bar{x} = \frac{1}{n}\sum_i x_i$.

Sets y $\mathbb{R}^n$

• $x \in \mathbb{R}$: "x es un número real". $\mathbf{x} \in \mathbb{R}^n$: "x es un vector de n números reales".
• $A \subseteq B$: A es subconjunto de B. Un subspace (LA-02) será un subconjunto especial de $\mathbb{R}^n$.
• Convención: vectores en negrita minúscula ($\mathbf{x}$), matrices en mayúscula ($A$), escalares en cursiva ($\lambda$).

Functions y composición

Una función $f: \mathbb{R}^n \to \mathbb{R}^m$ toma un vector de $n$ dimensiones y devuelve uno de $m$. La composición $(f \circ g)(x) = f(g(x))$ es la base del chain rule (Calc-02, Calc-07) y de por qué una red neuronal es "funciones dentro de funciones".

Exponentials y logarithms

$$\log_b(xy) = \log_b x + \log_b y, \quad \log_b(x^k) = k\log_b x, \quad b^{\log_b x} = x$$ En ML el logaritmo natural $\ln = \log_e$ es el rey. Por qué aparece tanto:

1. Convierte productos en sumas — y las probabilidades de datos independientes se multiplican; tomar log las vuelve sumables (log-likelihood, MLE en Prob-07).
2. Es monótono — maximizar $f$ es lo mismo que maximizar $\log f$, pero el log es más estable numéricamente y más fácil de derivar.
3. La derivada de $\ln x$ es $1/x$, limpia y central en gradientes.

La sigmoid $\sigma(x) = \frac{1}{1+e^{-x}}$ y la softmax viven de exp; tenlas en el radar.

Leer statements

• $\forall$ = "para todo", $\exists$ = "existe".
• $P \Rightarrow Q$ = "P implica Q"; $P \Leftrightarrow Q$ = "P si y solo si Q".
• $:=$ = "se define como".

Worked example

Reescribe la media y la varianza con notación de suma y verifica una propiedad.

Media: $\bar{x} = \frac{1}{n}\sum_{i=1}^n x_i$. Varianza: $\text{Var} = \frac{1}{n}\sum_{i=1}^n (x_i - \bar{x})^2$.

Propiedad "log de producto → suma": para $x_1=2, x_2=5$, $$\ln(2 \cdot 5) = \ln 10 \approx 2.302 \quad\text{y}\quad \ln 2 + \ln 5 \approx 0.693 + 1.609 = 2.302.\ ✓$$

Notebook exercises (by hand)

1. Expande $\sum_{i=1}^{4} (2i - 1)$ y suma.
2. Escribe el producto $\prod_{i=1}^{3} \frac{1}{i}$ como una sola fracción.
3. Simplifica $\ln(e^3) + \ln(1) - \ln(e)$.
4. Dado $f(x)=x^2$ y $g(x)=x+1$, calcula $(f\circ g)(2)$ y $(g\circ f)(2)$. ¿Son iguales?
5. Reescribe $\log_2(8 \cdot 4)$ como suma de logs y evalúa.
6. Traduce a palabras: "$\forall x \in \mathbb{R},\ x^2 \ge 0$".
7. Demuestra que $\sum_{i=1}^n (x_i - \bar{x}) = 0$ (pista: usa la definición de $\bar{x}$).

Python lab

import numpy as np, sympy as sp

x = np.array([2.0, 4.0, 4.0, 4.0, 5.0, 5.0, 7.0, 9.0])
print("media:", x.mean(), "==", x.sum()/len(x))
print("varianza:", ((x - x.mean())**2).mean())

# verifica log(producto) = suma(logs)
print(np.log(x).sum(), "==", np.log(x.prod()))

# composición de funciones
f = lambda t: t**2
g = lambda t: t + 1
print((f(g(2)), g(f(2))))  # (9, 5) -> no conmutan

# sympy: derivada de ln(x) y de la sigmoid
s = sp.symbols("s")
print(sp.diff(sp.log(s), s))                 # 1/s
print(sp.simplify(sp.diff(1/(1+sp.exp(-s)), s)))  # sigmoid'

Examen final 📝

Ponte a prueba sin mirar el módulo. Intenta cada nivel antes de abrir las soluciones.

🟡 Medio

1. Expresa $\sum_{i=1}^{n}(3i+2)$ en forma cerrada (usa $\sum i = \frac{n(n+1)}{2}$).
2. Demuestra $\log_b(x/y)=\log_b x-\log_b y$ a partir de la regla del producto.

🟠 Medio-difícil

3. Con $f(x)=e^x$ y $g(x)=\ln x$: calcula $(f\circ g)(x)$ y $(g\circ f)(x)$ e indica el dominio de cada una.
4. Reescribe la likelihood de $n$ Bernoulli independientes $\prod_{i=1}^n p^{x_i}(1-p)^{1-x_i}$ como una suma usando logs.

🔴 Difícil

5. Demuestra la identidad de varianza $\sum_{i=1}^n (x_i-\bar x)^2=\sum_i x_i^2 - n\bar x^2$.
6. Explica y justifica por qué $\arg\max_\theta \prod_i p(x_i\mid\theta)=\arg\max_\theta \sum_i \log p(x_i\mid\theta)$ (fundamento de la MLE).