0. 动机 这一系列的 blog 讨论优化问题的重要概念和相关求解方法。 在开始之前，我们需要梳理清楚优化问题中的 基本问题 基础概念 数学工具 求解方法 重要结论 What：什么是优化问题 优化问题的组成三要素： 优化变量 目标函数 约束条件 Why：优化问题的目的是什么 优化问题的目的

定义：张量（矩阵的升维） 一个实的 \(m\) 阶 \(n\) 维张量 \(A\) 由 \(n^m\) 个实数分量构成： \[ A_{i_1,\ldots,i_m} \in \mathbb{R}, \] 其中 \(i_j = 1,\ldots,n\)，\(j = 1,\ldots,m\)。

定义：逐元素幂（component-wise power） 对于向量 \(x \in \mathbb{R}^n\)，用 \(x_i\) 表示它的各个分量， 向量 \(x \in \mathbb{R}^n\) 的 逐元素幂 记为 \(x^{[m]}\in\mathbb{R}^n\)，其第 \(i\) 个分量满足 \[ \left( x^{[m]} \right) _i =

1. 问题描述 这一讲关注以下等式约束优化问题 \[ \begin{align} \label{eq:pblm-2} &\min_{x \in \mathbb{R}^n} f(x) \\ &\text{ s.t. } g_i(x) = 0, i = 1, 2, \ldots, m \nonumber \end{align}

1. 问题描述 这一讲关注以下不等式约束优化问题 \[ \begin{align} \label{eq:pblm-2} &\min_{x \in \mathbb{R}^n} f(x) \\ &\text{ s.t. } g_i(x) \le 0, i = 1, 2, \ldots, m \nonumber \end{align}

0. 问题描述 这一讲关注以下问题： 无约束优化问题： \[ \begin{align} \label{eq:pblm-1} \min_{x \in \mathbb{R}^n} f(x) \end{align} \] 接下来讨论这个问题最优解需要满足的必要条件。 1. 无约束优化问题的必要条件 1.1 一阶必要条件

这一讲不讨论优化问题的求解，只讨论优化问题的相关重要定义。 1. 偏导数 定义1：函数的偏导数 设函数 \(f:\mathbb{R}^n \to \mathbb{R}\)，\(x = (x_1,\ldots,x_n)^\top\)。 定义 \(f\) 在 \(x\) 处的偏导数为 \[ \begin{align} \label{eq:partial-deri

1. windows 系统安装 Poppler 参考 pdf2image 帮助文档 安装 poppler（添加 PATH 并测试是否成功） pip 安装 pip install pdf2image pillow pdf2image 只是调用 poppler 中的 pdftoppm 命令，所以需要安装 poppler 并添加到 PATH 中 2. 编写 Python 代码来将 PDF

1. 美国数学学会 AMS 提供的 “定理类环境” LaTeX 宏包 – amsthm amsthm 是 美国数学学会 AMS 提供的 LaTeX 宏包，专门用来处理： 定理 / 引理 / 命题 / 推论等 “定理类环境” 的定义和编号 proof（证明环境）的排版 不同风格的定理格式（斜体/正常体/备注型） 可以理解成：“让定理环境更好用、更好看”的官方标准包。 2. 定理环