posts a sucio

Author: agarnung

_posts/XXXX-XX-XX-ml-models.md

@@ -0,0 +1,76 @@
+---
+title: ML Models
+tags: [machine learning, divulgation]
+style: fill
+color: info
+description: Various commentaries about various ML models
+---
+
+# Introduction
+
+No eres precisamente un experto en aprendizaje automático y alguna vez te sentiste abrumado en este inmenso bosque de modelos disponibles en machine learning? NO?, Eres un experto? Pues  También es para ti es post. Daremos un "paso hacia atrás" y contemplaremos algunos de los modelos clasicos más importantes en machine learning, para no perderlos de vista y sobre todo recordar que si puedes resolver un prblema complejo suficientemnet ebien mediante una herramienta  sencilla muchas veces es la manera óptima de atacarlo.  
+
+# ML models
+
+Vamos a hacer un muy breve pero conciso compendio sobre las características de algunos de los modeos más ampliamente usados en el mundo del aprendizaje automático, destacando su intuición, fundamentación teórica y casos de uso típicos.
+
+See [https://www.linkedin.com/posts/gunagunal1112_ml-datascience-dataworld-activity-7260909409235578880--jod/]
+See [https://www.linkedin.com/feed/update/urn:li:activity:7291080517934878720/]
+
+## Linear Regression
+simple training among all models
+fast time in predictions
+
+## Logistic Regression
+Iterative optimization needed
+Ideal for binary classification
+
+## Naive Bayes
+Incredibly fast training speed
+Perfect for text classification
+
+## Decision Trees
+Quick predictions after training
+Great for interpretable results
+
+## Random Forest
+Memory intensive during training
+Superior to single trees
+
+## Gradient Boosting
+Memory-efficient implementations available
+Better accuracy-speed trade-off
+
+## PCA
+Fast for low dimensions
+Struggles with high dimensions
+
+## K-Nearest Neighbors (KNN)
+Memory scales with data size
+Heavy prediction phase
+
+## K-Means
+Usually quick convergence
+Scales well with mini-batches
+
+## Support Vector Machines (SVM)
+10/ Dense Neural Networks
+Memory usage varies greatly
+Complex hyperparameter tuning
+
+# Loss Functions
+
+See [https://medium.com/@tam.tamanna18/a-comprehensive-guide-to-machine-learning-algorithms-and-loss-functions-01fe4e7fb053]
+
+# Time complexity
+
+See []
+
+Remember these insights when choosing algorithms.
+
+Consider your data size, available computing resources, and time constraints.
+
+
+Sometimes, simpler models offer the best trade-off between complexity and performance.
+
+Follow Simone Fuscone for more about Data/AI

_posts/XXXX-XX-XX-split-bregman.md

@@ -31,7 +31,7 @@ D^p_J (u, v) := J(u) - J(v) - <p, u - v>, p \in parc_J(v),
 
 donde <p, u - v> es el producto interno entre p (que pertenece al subdiferncial [derivada en un sentido débil] de Jen el punto v) y el vecotr u-v. Actúa como el plano tangente a la función en v.
 
-![bd](./bd.png)
+![bd](./bd.jpg)
 
 D^p_J (u, v) compara el valor J(u) con el plano tangente (que en 1D es una línea) J(v) + <p, u-v>. Escogiendo una H diferenciable, el subdiferencial se convierte en el gradiente nabla_H. Esta no es estrictamente una distancia, pues no es necesariamente simétrica, pero mantiene muchas propiedades de distancia (ver [8]). En vez de medir distancia directa entre dos puntos, la mide como diferencias entr elos valores d ela función, comparando el valor J(u) con una aproximación lineal de J basada en supunto tangente J(v). En otras paralbras, mide la diferencia entre el valor de la función en u, que es J(u), u la mejor aproximación lineal de J(u) desde v.
 
@@ -89,8 +89,14 @@ En [12] se propuso to solve the above-mentioned problem by an alternating direct
 2. compute the solution of the **d-subproblem** with u fixed by means of a projection or shrinkage/soft-threasholding, que impone sparsity controlando (en la dirección de gra u_i,j + b_ij) la magnitud de d_ij (i.e. que muchos ele,mentos de la solución tiendan ser cero o pequeños, regularizando para reducir el ruido co caracteŕisicas no esenciales). Este problema se desacopla sobre el espacio, lo que significa que se puede resolver independientemente para cada píxel..
 
 3. The auxiliary variable b is initialized to zero and updated as bk+1 = bk + uk+1 dk+1.  A good choice of is one for which both d and u subproblems converge quickly and are numerically well-conditioned. In d subproblem, the shrinking effect is more dramatic when issmall. In u subproblem, the effect of and increase when  gets larger. It is also ill-conditioned in the limit gamma -> infinite. Therefore, should be neither extremely large nor small for good convergence [11].
- 
-Un sencillo pseudocódigo un flujo típicao de resolución de un problema convexo mediante S-B es:
+
+Cabe mencionar que una manera alternativa de ver este procedimiento es que: primero se hace las sustituciones de las variables oportunas (e.g. d_i,j = grad u) , lo cual impone **aproximadamente** las restricciones de igualdad, por ejemplo, añadiendo penalizaciones cuadráticas:
+
+(u^*, d^*) = argmin_u_d ||d||_1 + lambda/2 ||f-u||_2² + gamma/2||d - grad_u||_2²,
+
+y luego querremos reforzar **exactamente** la restricción de igualdad d = grad_U aplicando bregman iteration al problema no restringido, lo cual ya nos leva al procedimiento descrito. Estos osn los pasos que componen SPlit Bregman.
+
+Un sencillo pseudocódigo de este procedimineto nos sirve como regla mnemotécnica:
 
 ```
 initialize u = f, d = b = \mathbf{0}
@@ -127,4 +133,4 @@ En [14] usan el enfoque explicado para deconvolutión y no mantienen gamma fijo,
 [11] Variational Models and Numerical Methods for Image Processing Suh-Yuh Yang  2020
 [12] THE SPLIT BREGMAN METHOD FOR L1 REGULARIZED PROBLEMS TOM GOLDSTEIN, STANLEY OSHER 2009
 [13] E. Esser, Applications of Lagrangian-Based Alternating Direction Methods and Connections to Split Bregman, UCLA CAMReport09-21, 2009. ftp://ftp.math.ucla.edu/pub/camreport/ cam09-31.pdf
-[14] Total variation blind deconvolution employing split Bregman iteration Weihong Li et al 2012
+[14] Total variation blind deconvolution employing split Bregman iteration Weihong Li et al 2012