劣モジュラ on Eating Your Own Cat Food

フロー等価木と Gusfield のアルゴリズム

Tue, 23 Dec 2025 00:01:00 +0900

はじめに

この記事は木 Advent Calendar 2025 の 23 日目の記事です．
この記事では無向グラフのすべての頂点対の最大流の情報を持つ木であるフロー等価木を紹介します．
まず，フロー等価木の説明をします．次に，フロー等価木を構築するアルゴリズムの説明とその証明を行います．最後にフロー等価木を実装し，例として競プロの問題を解きます．

無向グラフや最小カットなどの用語についてはGomory-Hu 木を参照してください．

フロー等価木

同じ頂点集合 $V$ をもつ $2$ つの重み付き無向グラフ $G(V, E)$ と $H(V, F)$ を考えます．ただし，$F \subset E$ とは限りません．
$G$ と $H$ の s - t 間の最大流の値をそれぞれ $f_{s, t; G}$，$f_{s, t; H}$ と表記します¹．
任意の $2$ 頂点 $s, t \in V$ に対し $f_{s, t; H} = f_{s, t;G}$ が成り立つとき，$H$ は $G$ にフロー等価（flow equivalent）であるといいます．
特に，木 $T$ がグラフ $G$ にフロー等価であるとき，$T$ をフロー等価木（flow equivalent tree）とよびます．

フロー等価木と似た概念に Gomory-Hu 木があります²．
Gomory-Hu 木は，$G$ の任意の $2$ 頂点 $s, t \in V$ に対し，木の最小 s - t カット $S$ が $G$ の最小 s - t カットとなるような木です³．
Gomory-Hu 木は常にフロー等価木ですが，フロー等価木であっても Gomory-Hu 木でない場合があります．

下の図はグラフ $G$ とそれに対応するフロー等価木 $T$ です．各 s - t 間の最大流の値は $G$ と $T$ で一致します．
一方，$T$ の最小 1-3 カットは $\{1, 2, 4\}$ なのに対し，$G$ のカット $\{1, 2, 4\}$ の容量は $11$ となり，一致しない最小 s - t カットが存在することがわかります．

$s, t$	$G$ の s - t 間の最大流の値	$T$ の s - t 間の最大流の値
$1, 2$	$6$	$6$
$1, 3$	$9$	$9$
$1, 4$	$6$	$6$
$2, 3$	$6$	$6$
$2, 4$	$12$	$12$
$3, 4$	$6$	$6$

フロー等価木を構築するアルゴリズム

変数と関数
- $n$: $G$ の頂点の数
- $p[i]$: 頂点 $i$ の親の頂点
- $fl[i]$: 辺 $(i, p[i])$ の重み
step1: 初期化
1. 各頂点 $s$ について $p[s] \coloneqq 1$
step2: $2$ から $n$ の頂点 $s$ について以下を行う
1. $t \coloneqq p[s]$
2. $G$ 上で最小 s - t カット $X$ を求める．$s \in X$ とする
3. $fl[s] \coloneqq f_{s, t; G}$
4. $s + 1$ から $n$ の頂点 $i$ について以下を行う
  - $i \in X$ かつ $p[i] = t$ なら $p[i] \coloneqq s$ とする

準備

アルゴリズムがフロー等価木を構築する証明をする前にいくつかの補題を導入します．

補題 1

$(X, Y)$ を $x \in X, y \in Y$ であるような最小 x - y カットとする．$u, v \in X$ であるような任意の最小 u - v カットを $(U, V)$ とする．$y \in U$ のとき，$(U^{\prime}, V^{\prime}) = (U \cup Y, V \cap X)$ は最小 u - v カットとなり，$y \in V$ のとき，$(U^{\prime}, V^{\prime}) = (U \cap X, V \cup Y)$ は最小 u - v カットとなる．

系 1

$(X, Y), (U, V), (U^{\prime}, V^{\prime})$ を補題 1 と同様にとる．最小 u - v カット $(U^{\prime}, V^{\prime})$ は $(X, Y)$ と交差せず，$X$ を $(U, V)$ と同様に分割する

補題 2

長さ $k \ge 2$ の互いに異なる頂点列 $v_1, v_2, v_3, \cdots, v_k$ について，$f_{v_1, v_k} \ge \min \limits_{1 \le i \le k - 1} f_{v_i, v_{i + 1}}$ が成り立つ

Gomory-Hu 木の補題 1を参照してください．

系 2

$G$ の $3$ つの頂点 $i, j, k$ について，$f_{i, j}, f_{i, k}, f_{j, k}$ のうち少なくとも $2$ つは最小値である

系 2 を示します．
補題 2 により，$i, j, k$ に対して，$f_{i, k} \ge \min(f_{i, j}, f_{j, k})$ が成立します．
$f_{i, j}, f_{i,k}, f_{j,k}$ のうち，$1$ つだけが最小値であると仮定し，矛盾を導きます．
$f_{i, k}$ が唯一の最小値だとします．すると，$f_{i, k} \lt \min(f_{i, j}, f_{j, k})$ となり，矛盾します．
$f_{i, j}, f_{j, k}$ についても同様に示せるため，系 2 が示せました．

補題 3

アルゴリズムによって構築される最終的な $T$ で，ある頂点 $i$ からある頂点 $j$ へ向かう有向パス $P_{i, j}$ があるとする．さらに，$j$ に入る有向辺 $(k, j)$ があって，$k$ は $P_{i, j}$ 上の $j$ 以外のどの頂点よりも頂点番号が小さいとする．このとき以下が成立する．

アルゴリズムが最小 k - j カット $C$ を計算したとき，（構築途中の）$T$ 上で $i$ は $j$ の隣接頂点だった
「最小カット $C$ において $i$ が $k$ 側にいる」と「最終的な $T$ で $k$ がパス $P_{i, j}$ 上にいる」は同値

アルゴリズムの証明

アルゴリズムが最終的に構築した木を $T$ とします．
アルゴリズムは木の各辺 $(x, y)$ の重みを $f_{x, y}$ としているので，木の辺 $(x, y)$ となるような頂点 $x, y$ について $G$ の x - y 間の最大流の値と $T$ の x - y 間の最大流の値は一致します．
任意の頂点対 $(x, y)$ についても，$G$ 上の最大流の値 $f_{x, y}$ と $T$ 上の x - y パスの辺のうち重みが最小の辺の重みが一致することを示します．
これは，x - y パスを $P_{x,y}$，x - y パスの辺の重みの集合を $P[x, y]$ と表記することにすると，$f_{x, y} = \min(P[x, y])$ を示すと言い換えることができます．
$f_{x, y} \ge \min(P[x, y])$ と $f_{x, y} \le \min(P[x, y])$ をそれぞれ示します．

$f_{x, y} \ge \min(P[x, y])$

$T$ の x - y パスの頂点列 $x = v_1, v_2, \cdots, v_k = y$ を考えます．
補題 2 から $f_{x, y} \ge \min \limits_{1 \le i \le k - 1} f_{v_i, v_{i+1}}$ が成り立ちます．
アルゴリズムは木の各辺 $(v_i, v_{i + 1})$ の重みを $f_{v_i, v_{i + 1}}$ としているので，$\min \limits_{1 \le i \le k - 1} f_{v_i, v_{i+1}} = \min(P[x, y])$ となります．
よって，$f_{x, y} \ge \min(P[x, y])$ が示せました．

$f_{x, y} \le \min(P[x, y])$

背理法で示します．
$f_{x, y} \gt \min(P[x, y])$ となるような頂点対 $(x, y)$ があると仮定して矛盾を導きます．
まず，この不等式を満たす頂点対の中から「$T$ 上の x - y パスの辺数が最も短い」パスを $1$ つ選び $P$ とします．この仮定とさきほど証明した「$f_{x, y} \ge \min(P[x, y])$」から，$P$ より短いパス $P_{a,b}$ については $f_{a, b} = \min(P[a, b])$ が成り立つことに注意します．

アルゴリズムで作られる辺 $(s, t)$ を $s$ から $t$ への有向辺とみなします．すると，すべての辺は番号の大きい頂点から小さい頂点へ向くので，$T$ は有向木になります．
このとき，パス $P$ が直線のときと V 字のときのそれぞれの場合について矛盾が生じることを示します．

Case1: パス $P$ が直線のとき

パス $P$ が $x \rightarrow \cdots \rightarrow v \rightarrow y$ のように，すべて同じ向きの有向パスになっている場合を考えます．

まず，$\min(P[x, y]) = f_{x, v} = f_{v, y}$ を示します．
パス $P$ は $P_{x, y} = P_{x, v} + (v, y)$ という形であるため，パス上の最小重みは

$$\min(P[x, y]) = \min(\min(P[x, v]), f_{v, y})$$

と表わせます．
また，$P_{x, v}$ は $P$ より短いため $\min(P[x, v]) = f_{x, v}$ といえ，これを代入することにより

$$\min(P[x, y]) = \min(f_{x, v}, f_{v, y})$$

を得ます．
$3$ つの頂点 $x, v, y$ を考えたとき，系 2 より $f_{x, v}, f_{v, y}, f_{x, y}$ のうち少なくとも最小値が 2 つあるといえますが，背理法の仮定により $f_{x, y} \gt \min(P[x, y])$ であるため，$f_{x, y}$ が最小値であることはありえません．
よって，$\min(P[x, y]) = f_{x, v} = f_{v, y}$ が示せました．

$T$ の辺 $(v, y)$ を作ったとき，アルゴリズムは最小 v - y カットを計算しています．
ここで補題 3 を $i = x, j = y, k = v$ と対応させると，このカットは x - y カットでもあるため

$$f_{x, y} \le f_{v, y} = \min(P[x, y])$$

となります．
これは，$f_{x, y} \gt \min(P[x, y])$ というような頂点対 $(x, y)$ があるという仮定と矛盾します．

Case2: パス $P$ が V 字のとき

パス $P$ が $x \rightarrow \cdots \rightarrow x_1 \rightarrow z \leftarrow y_1 \leftarrow \cdots y$ のように，$z$ で折り返す形になっている場合を考えます．頂点番号について $x_1 \lt y_1$ を仮定し，$y_1$ - $z$ カットを計算する前に $x_1$ - z カットが計算されたとします．

まず，$m = \min(P[x, y])$ としたとき，$f_{x, z} = f_{y, z} = m$ となることを示します．
$P$ が最短という仮定から，$f_{x,z} = \min(P[x, z])$，$f_{y,z} = \min(P[y, z])$ を得ます．
$P[x, y]$ の最小重み $m$ は 2 つの部分パスの最小値の最小なので以下が成り立ちます．

$$ \begin{alignedat}{2} m &= \min(P[x, y]) \\ &= \min(\min(P[x, z]), \min(P[y, z])) \\ &= \min(f_{x, z}, f_{y, z}) \\ \end{alignedat} $$

系 2 によると $f_{x,z}, f_{x, y}, f_{z, y}$ のうち，少なくとも $2$ つが最小値です．
いま，背理法の仮定により頂点対 $(x, y)$ は $f_{x, y} \gt \min(P[x, y]) = m$ です．
よって，$f_{x, z} = f_{y, z} = m$ が示せました．

x - z パスの中で，重みが $m$ かつ $z$ に最も近い辺を $(u, v)$ とし，$v$ が $z$ 側の頂点とします．

アルゴリズムがグラフ $G$ 上で最小 $x_1$ - z カット $(X_1, Z)$ と最小 u - v カット $(U, V)$ を作ったときを考えます．
補題 3 によって以下がいえます．

最小 $x_1$ - z カットでは，$x, u, v \in X_1$，$y, z \in Z$ となる
最小 u - v カットでは，$x, y, u \in U$，$v \in V$ となる．$z$ が $U$ と $V$ のどちらに入るかは定まらない

ここで，補題 1 を使い最小 $x_1$ - z カットに交差しない u - v カット $C^{\star}$ を作ります．
このとき，$z \in U$ の場合には，$C^{\star} = (U \cup Z, V \cap X_1)$ ととります．
$z \in V$ の場合には，$C^{\star} = (U \cap X_1, V \cup Z)$ ととります．

$z \in U$ のとき，$C^{\star}$ は $v$ と $z$ を分割します
この場合，$C^{\star}$ は容量 $m$ で $v$ と $z$ を分けるカットであるため，$f_{v, z} \le m = \min(P[x, y])$ となります．
$P_{v, z}$ は $P$ より短いため $f_{v, z} = \min(P[v, z])$ となります．
これは，$m$ 以下の重みをもつ辺が $z$ よりに存在することになり矛盾します．
$z \in V$ のとき，$C^{\star}$ は $x$ と $y$ を分割します
この場合，$C^{\star}$ は容量 $m$ で $x$ と $y$ を分けるカットであるため，$f_{x, y} \le m = \min(P[x, y])$ となります．これは背理法の仮定に矛盾します．

問題

例としてパ研合宿 2024 第 1 日「SpeedRun」R - Maximum Water Flowを解きます．

問題概要
$N$ 頂点 $M$ 辺の容量付き無向連結グラフが与えられる．任意の異なる頂点 $i, j$ について，最大流の値を $f(i, j)$ とする．
$(1, 2, \cdots, N)$ の順列 $P = (P_1, P_2, \cdots, P_N)$ のうち，すべての $1$ 以上 $N$ 以下の整数について $P_i \ne i$ を満たすものについて $\sum_{i = 1}^{N} f(i, P_i)$ の最大値を求めよ．

解法
$\text{cost}[i][j]$ を $i$ から $j$ への最大流の値とします．$N \le 100$ なので $N \times N$ 行の行列 cost を作ることができます．
今回はフロー等価木の木構造は不要なので，cost 行列を直接構築します．cost 行列がつくれればハンガリアン法を使うことで割当の最大値が求まります．
コードの主要な部分を解説します．記事や問題概要は one-based だったのに対し，コードは zero-based であることに注意してください．
$5$ 行目で，s - t 間の最大流をもとめ，$6$ 行目で s - t 最小カットを求めています．
$13$ 行目は $s$ とその親 $t$ の最大流の値をそのまま表に書くだけです．
$14 - 18$ 行目では $s$ と $i \lt s$ となる頂点の最大流の値を設定します．
頂点番号が $s$ 以下の頂点はすでに木の位置が決まっているため，s - i パスの最小重みとすることができます．

 1
 2
 3
 4
 5
 6
 7
 8
 9
10
11
12
13
14
15
16
17
18
19
20
21


auto parent = vector(N, 0);
auto cost = vector(N, vector<long long>(N));
for (int s = 1; s < N; ++s) {
 const auto t = parent[s];
 const auto f = dinic.solve(s, t);
 const auto cut = dinic.minimum_cut(s);
 for (int i = s + 1; i < N; ++i) {
 if (parent[i] == t and cut[i]) {
 parent[i] = s;
 }
 }

 cost[s][t] = cost[t][s] = f;
 for (int i = 0; i < s; ++i) {
 if (i != t) {
 cost[s][i] = cost[i][s] = min<long long>(f, cost[t][i]);
 }
 }

 dinic.clear();
}

提出コード

参考

文脈からグラフが明らかなときは，$f_{s, t}$ と表記します ↩︎
Gomory-Hu 木は cut equivalent tree ともよばれます ↩︎
詳しくはGomory-Hu 木を参照してください ↩︎

Gomory-Hu 木

Tue, 23 Dec 2025 00:00:00 +0900

はじめに

この記事は数理最適化 Advent Calendar 2025 の 23 日目の記事です．
この記事では Gomory-Hu 木を紹介します．Gomory-Hu 木とは無向グラフのすべての頂点対の最小カットの情報を持つ木のことです．
まず，無向グラフの s - t カットを紹介し，カット関数が対称劣モジュラ関数であることを示します．次に，Gomory-Hu 木の定義といくつかの補題を示します．最後に Gomory-Hu 木を構築するアルゴリズムの説明とその証明を行います．
実装は今回紹介するアルゴリズムより Gusfield によって提案されたアルゴリズムの方が簡単です．こちらについては別の記事で扱います．

無向グラフの s - t カット

頂点集合 $V$ と無向辺 $E$ からなる無向グラフ $G(V, E)$ が与えられます．辺 $(u, v)$ には容量 $c_{uv} \ge 0$ が定まっているものとします．
任意の頂点集合 $S \subseteq V$ に対し，辺の一方の端点のみが $S$ に属する辺集合を $\delta(S)$ とします．
このときカット関数を以下のように定義し，この値をカットの容量と呼びます．

$$c(S) = \sum_{(u, v) \in \delta(S)} c_{uv}$$

ただし，$\emptyset \subsetneq S \subsetneq V$ を満たす頂点集合 $S$ をカットと呼ぶことにします．今回は無向グラフを扱っているため $c(S) = c(V \setminus S)$ が成り立ちます．
また，2 つの異なる頂点 $s$ と $t$ について $|S \cap \{s, t\}| = 1$ となるカット $S$ を s - t カットと呼びます．そのうち容量が最小のものを最小 s - t カットと呼び，その容量を $\lambda_{s, t}$ で表します．

下のグラフを例に，$s$ に $1$，$t$ に $6$ を選んだときの s - t カットをいくつか見ていきます．

$S = \{1, 2, 3 \}$ は s - t カットのうちの 1 つです． $S$ に属する頂点を赤，$V \setminus S$ に属する頂点を青で示します．
辺の一方の端点のみが $S$ に属する辺は $(2, 4)$ と $(3, 5)$ です．よって，このカットの容量は $4 + 6 = 10$ となります．

$S = \{1, 3, 4 \}$ も s - t カットです．
このカットの容量は $2 + 2 + 6 + 4 + 7 + 9 = 30$ となります．

$S = \{1 \}$ も s - t カットです．
このカットの容量は $2 + 5 = 7$ となります．
$s$ に $1$，$t$ に $6$ を選んだとき $7$ より容量の小さい s - t カットは存在しないためこのカットは最小 s - t カットです．

カット関数の劣モジュラ性

関数 $f: 2^V \rightarrow \mathbb R$ は，任意の $A, B \subseteq V$ で以下の不等式が成立するとき劣モジュラであると呼ばれます．

$$f(A) + f(B) \ge f(A \cap B) + f(A \cup B)$$

また，関数 $f$ は任意の $S \subseteq V$ について $f(S) = f(V \setminus S)$ が成り立つとき対称であると呼ばれます．
対称で劣モジュラな関数は対称劣モジュラ関数と呼ばれます．

無向グラフのカット関数 $c(S)$ が対称劣モジュラ関数であることを示します．
頂点集合 $V$ を $V_1 = A \setminus B, V_2 = B \setminus A, V_3 = A \cap B, V_4 = V \setminus (A \cup B)$ の $4$ つに分割します．

辺の $2$ つの端点がそれぞれ $V_a$，$V_b$ に属する辺集合の容量の和を $\mathrm{cap}(a, b)$ とします．今回は無向辺を扱っているため $\mathrm{cap}(a, b) = \mathrm{cap}(b, a)$ となります．
このとき，以下の式が成り立ちます．

$c(A) = \mathrm{cap}(3, 4) + \mathrm{cap}(3, 2) + \mathrm{cap}(1, 4) + \mathrm{cap}(1, 2)$
$c(B) = \mathrm{cap}(3, 4) + \mathrm{cap}(3, 1) + \mathrm{cap}(2, 4) + \mathrm{cap}(2, 1)$
$c(A \cup B) = \mathrm{cap}(3, 4) + \mathrm{cap}(1, 4) + \mathrm{cap}(2, 4)$
$c(A \cap B) = \mathrm{cap}(3, 1) + \mathrm{cap}(3, 2) + \mathrm{cap}(3, 4)$

これらを整理すると

$$c(A) + c(B) - c(A \cup B) - c(A \cap B) = \mathrm{cap}(1, 2) + \mathrm{cap}(2, 1) = 2\mathrm{cap}(1, 2) \ge 0$$

となり，関数 $c(S)$ は劣モジュラ関数であることがわかります．
また，関数 $c(S)$ は $c(S) = c(V \setminus S)$ が成り立つため対称です．
以上により，無向グラフのカット関数が対称劣モジュラ関数であることが示せました．

Gomory-Hu 木

木から辺 $(u, v)$ を取り除いたときにできる $u$ を含む連結成分の頂点集合を $C_{uv}$ とします．
Gomory-Hu 木は以下のように定義されます．

無向グラフ $G(V, E)$ の Gomory-Hu 木 $T(V, F)$ は，木のすべての辺 $(u, v) \in F$ について，$C_{uv}$ が $G$ の最小 u - v カットとなるような木である．つまり，$c(C_{uv}) = \lambda_{u, v}$ となる¹．
各辺 $(u, v) \in F$ の重みを $w(u, v)$ とすると，$w(u, v) = \lambda_{u, v}$ が成り立つ．

Gomory-Hu 木の定義では，木の辺となるような頂点対が $G$ の最小カットとなることのみを要求しています．
あとで示しますが，この定義は任意の頂点対に拡張することができ，結果として Gomory-Hu 木は次の性質を持つといえます．

$V$ 上の全域木 $T(V, F)$ である（ただし，$F \subseteq E$ とは限らない）．
任意の異なる $2$ 頂点 $s, t \in V$ について，$T$ 上の最小 s - t カットは $G$ 上の最小 s - t カットとなり，その容量は一致する．

以下の図を例に Gomory-Hu 木の性質を確認します．

グラフの頂点 $1$ と頂点 $6$ の最小カットは $\{1\}$ でその容量は $7$ です．一方，木の頂点 $1$ と頂点 $6$ の最小カットは $\{1\}$ でその容量は $7$ です．
グラフの頂点 $3$ と頂点 $5$ の最小カットは $\{1, 3\}$ でその容量は $10$ です．一方，木の頂点 $3$ と頂点 $5$ の最小カットは $\{1, 3\}$ でその容量は $10$ です．

このように，任意の異なる 2 頂点 $s$，$t$ について，木の最小 s - t カットはグラフの最小 s - t カットになり，その容量は一致します．
木の最小 s - t カットは，頂点 $s$ から頂点 $t$ へのパスのうち最も重みの小さい辺 $e$ を削除したときの一方の連結成分となり，カットの容量は辺 $e$ の重みとなるため簡単に求めることができます．

Gomory-Hu 木は $n - 1$ 回の最小 s - t カット計算で求めることができます．
Gomory-Hu のアルゴリズムを紹介する前に，準備としていくつかの補題を導入し，Gomory-Hu 木の性質が定義から導けることを示します．

補題 1

長さ $k \ge 2$ の互いに異なる頂点列 $v_1, v_2, v_3, \cdots, v_k$ について，$\lambda_{v_1, v_k} \ge \min \limits_{1 \le i \le k - 1} \lambda_{v_i, v_{i + 1}}$ が成り立つ．

補題 1 を示します．
$U$ を最小 $v_1$ - $v_k$ カットとし，$v_1 \in U$，$v_k \notin U$ とします．
このとき，頂点列のどこかに $v_i \in U$，$v_{i + 1} \notin U$ であるような $i$ が存在します．

直観的には，次のように考えることができます．
$U$ に属する頂点を $\circ$，属さない頂点を $\times$，不明な頂点を $?$ とします．
このとき，頂点列の所属は $(\circ, ?, ?, \cdots, ?, \times)$ と表せますが，$?$ がどのように決められようとどこかに $\circ, \times$ というペアが現れます．これは，$v_i \in U$，$v_{i + 1} \notin U$ であるような $i$ が存在しているということです．

よって，$U$ は $v_i$ - $v_{i+1}$ カットでもあります．ただし，$U$ は最小 $v_i$ - $v_{i+1}$ カットとは限らないため，$\lambda_{v_i, v_{i + 1}} \le c(U) = \lambda_{v_1, v_k}$ となります．
以上により，$\lambda_{v_1, v_k} \ge \min_{1 \le i \le k - 1} \lambda_{v_i, v_{i + 1}}$ が示せました．

補題 2

$s, t \in V$ を異なる 2 頂点とし，最小 s - t カットを $A$ とする．任意の異なる 2 頂点 $u, v \notin A$ について，$A \subseteq B$ か $A \cap B = \emptyset$ となるような最小 u - v カット $B$ が存在する．

この補題は，すでに存在する最小 s - t カット $A$ と交差しないように最小 u - v カット $B$ をとることができることを意味します．図は $A \subseteq B$ の場合を表しています．

補題 2 を示します．
最小 s - t カットを $A$，最小 u - v カットを $B$ とします．$A \subseteq B$ か $A \cap B = \emptyset$ の場合は補題が成立しているので，$A \nsubseteq B$ かつ $A \cap B \ne \emptyset$ を仮定します． $s \in A$，$s, u \in B$ であるとします²．
このとき，$A \cup B$ が最小 u - v カットとなることを示します．

$A \cup B$ は u - v カット
$u \in B$ であるため $u \in A \cup B$ であり，$v \notin A$ かつ $v \notin B$ であるため $v \notin A \cup B$ です．
よってこのカットは u - v カットです．
$c(A \cup B) = c(B)$
- $c(A \cup B) \le c(B)$
  仮定より，$s \in A \cap B$，$t \notin A \cap B$ であるため，$A \cap B$ は s - t カットです．
  $A$ は最小 s - t カットで $A \cap B$ も s - t カットであるため，$c(A \cap B) \ge c(A)$ となります．
  この不等式をカットの劣モジュラ性である $c(A) + c(B) \ge c(A \cap B) + c(A \cup B)$ に代入することで，$c(A \cup B) \le c(B)$ を得ます．
- $c(A \cup B) \ge c(B)$
  $B$ は最小 u - v カットで $A \cup B$ も u - v カットであるため，$c(A \cup B) \ge c(B)$ を得ます．

以上により，$A \cup B$ は最小 u - v カットといえます．$A \cup B$ を新しく $B$ ととることで，$A \subseteq B$ であるような最小 u - v カット $B$ とすることができます．

Gomory-Hu 木の性質

Gomory-Hu 木の定義から Gomory-Hu 木の性質が導かれることを示します．

$T$ の s - t パス上の最小重みの辺を $(a, b) \in F$ とします．このとき，$C_{ab}$ は s - t カットとなり，最小 s - t カットの容量 $\lambda_{s, t}$ が $w(a, b)$ と一致することを示します．

$\lambda_{s, t} \ge w(a, b)$
s - t パスの頂点列を考えます．
$v_1 = s$，$v_k = t$ とすると，補題 1 より $\lambda_{s, t} \ge \min \limits_{1 \le i \le k - 1} \lambda_{v_i, v_{i + 1}}$ が成り立ちます．
Gomory-Hu 木の定義より $\min \limits_{1 \le i \le k - 1} \lambda_{v_i, v_{i + 1}} = \lambda_{a, b} = w(a, b)$ なので，$\lambda_{s, t} \ge w(a, b)$ が成り立ちます．
$\lambda_{s, t} \le w(a, b)$
$\lambda_{s, t}$ は定義より最小 s - t カットの値です．
辺 $(a, b) \in F$ は $s$ から $t$ への唯一のパス上に存在するため，$C_{ab}$ は s - t カットでもあります．このカットの容量は Gomory-Hu 木の定義から $w(a, b)$ です．よって，$\lambda_{s, t} \le c(C_{ab}) = w(a, b)$ が成り立ちます．

以上により，$C_{ab}$ が s - t カットであり，$\lambda_{s, t} = w(a, b)$ となることが示せました．

Gomory-Hu のアルゴリズム

Gomory-Hu 木 $T$ を構築するアルゴリズムを説明します．
Gomory-Hu 木は，木の各辺がある頂点対の最小カットを表し，その結果として任意の $2$ 頂点間の最小カットが木上で読み取れるという形になっていました．
そこで直感的には，最初に $G$ のすべての頂点を $1$ つの縮約頂点として持ち，辺がある頂点対の最小カットとなるように縮約頂点を分割していくことで木を構築すればよさそうです．
ただし，適当に分割してしまうと以前の分割と交差してしまいすでに作った構造を壊してしまうことがあります．
Gomory-Hu のアルゴリズムはこの問題に対処するために，すでにできている縮約頂点をそれぞれ 1 頂点に縮約したグラフの上で最小カットを計算し，その結果を使って縮約頂点を分割します．
こうすると新しい分割は以前の分割を壊さない形で実行することができるため，分割を積み重ねながら木を安全に構築できます．
具体的なアルゴリズムは以下の通りです．

初期化
- $V(T) = \{V(G)\}$
- $E(T) = \emptyset$
要素数が $2$ 以上の $X \in V(T)$ がある間以下を行う．
- $X$ の中から異なる $2$ 頂点 $s, t \in X$ を選ぶ．
- 縮約グラフ $H$ を構築する．
  - $T$ から $X$ を削除したときの連結成分を $C_1, C_2, \cdots, C_k$ とし，$C_i$ のすべての要素の和集合を $S_i$ とする．
  - $G$ 上で各 $S_i$ を $1$ つの頂点に縮約したグラフを $H$ とする．縮約で生じる並行辺は維持し，同一成分内の辺を除去する．
- $H$ 上で最小 s - t カット $S$ を求め，$A = X \cap S$，$B = X \setminus S$ とする．
- $X$ を $A$ と $B$ に分割する．
  - $V(T) = (V(T) - \{ X\}) \cup \{A, B\}$ と更新する．
  - 新しい辺 $AB$ を $T$ に追加し，その重みを先程求めた最小 s - t カットの値とする．
- 既存の辺を置き換える．
  - $X$ に接続する辺 $XY \in E(T)$について以下を行う．
    - $XY$ を $E(T)$ から削除する．
    - $Y$ が属する側の縮約頂点 $v_{S_i}$ について，$v_{S_i} \in S$ なら $AY$ を，そうでないなら $BY$ を追加する．追加する辺の重みは $XY$ と同じとする．
単一集合となったすべての頂点 $\{v\}$ について以下を行う．
- 頂点 $\{v\}$ を $v$ に，辺 $(\{u\}, \{v\})$ を $(u, v)$ に置き換える．
- Gomory-Hu 木 $(V(T), E(T))$ を返す．

アルゴリズムの実行例

下のグラフの Gomory-Hu 木を求めます．

Phase 1

はじめ，$V(T) = \{ \{1, 2, 3, 4, 5, 6\} \}$ です．
$X$ として $\{1, 2, 3, 4, 5, 6\}$ を選び，縮約グラフ $H$ を構築します．
今回は $X$ に接続する辺はないので，$H = G$ となります．
下の左の図が $T$ で，右の図が $H$ です．

最小 s - t カットの計算
$s$ と $t$ は任意に選べます．今回は $s = 3$，$t = 5$ として，$H$ での最小 s - t カットを求めると，$S = \{1, 3\}$ となり，その容量は $10$ です．
$X$ の分割
$X$ を $A = X \cap S = \{1, 3\}$ と $B = X \setminus S = \{2, 4, 5, 6\}$ に分割し，重み $10$ の辺を張ります．

これらの操作により，$T$ は以下のようになります．

Phase 2

$X$ として $\{2, 4, 5, 6\}$ を選び，縮約グラフ $H$ を構築します．
$G$ について，$T$ から $X$ を削除したときの連結成分 $C_1$ の展開 $S_1$ を $1$ つの頂点 $v_{S_1}$ として縮約します．

最小 s - t カットの計算
$s = 5, t = 4$ とすると，$H$ での最小 s - t カットは $S = \{\{1, 3\}, 2, 5\}$ となり，その容量は $14$ です．
$X$ の分割
$X$ を $A = \{2, 5\}$ と $B = \{4, 6\}$ に分割し，重み $14$ の辺を張ります．
既存の辺の付け替え
$X$ の分割後，更新前の $T$ の辺 $(\{1, 3\}, X)$ がどうなるか考えます．$v_{S_1} \in S$ であるため，この辺は $A$ と接続します．
よって辺 $(\{1, 3\}, X)$ は辺 $(\{1, 3\}, A)$ に付け替えられます．

Phase 3

$X$ として $\{1, 3\}$ を選び，縮約グラフ $H$ を構築します．
$S_1$ を $1$ つの頂点 $v_{S_1}$ として縮約します．

最小 s - t カットの計算
$s = 1, t = 3$ とすると，グラフ $H$ での最小 s - t カットは $S = \{1\}$ となり，その容量は $7$ です．
$X$ の分割
$X$ を $A = \{1\}$ と $B = \{3\}$ に分割し，重み $7$ の辺を張ります．
既存の辺の付け替え
$X$ の分割後，更新前の $T$ の辺 $(X, \{2, 5\})$ がどうなるか考えます．$v_{S_1} \notin S$ であるため，この辺は $B$ と接続します．
よって辺 $(X, \{2, 5\})$ は辺 $(B, \{2, 5\})$ に付け替えられます．

Phase 4

$X$ として $\{2, 5\}$ を選び，縮約グラフ $H$ を構築します．
$S_1$ と $S_2$ をそれぞれ $1$ つの頂点 $v_{S_1}, v_{S_2}$ として縮約します．

最小 s - t カットの計算
$s = 2, t = 5$ とすると，グラフ $H$ での最小 s - t カット $S$ は $\{2\}$ となり，その容量は $8$ です．
$X$ の分割
$X$ を $A = \{2\}$ と $B = \{5\}$ に分割し，重み $8$ の辺を張ります．
既存の辺の付け替え
$X$ の分割後，更新前の $T$ の辺 $(\{3\}, X)$ がどうなるか考えます．
$v_{S_1} \notin S$ であるため，この辺は $B$ と接続します．また，更新前の $T$ の辺 $(X, \{4, 6\})$ は $v_{S_2} \notin S$ であるため，この辺も $B$ と接続します．
よって辺 $(\{3\}, X)$ は辺 $(\{3\}, B)$ に，辺 $(X, \{4, 6\})$ は $(B, \{4, 6\})$ に付け替えられます．

Phase 5

$X$ として $\{4, 6\}$ を選び，縮約グラフ $H$ を構築します．
$S_1$ を $1$ つの頂点 $v_{S_1}$ として縮約します．

最小 s - t カットの計算
$s = 4, t = 6$ とすると，グラフ $H$ での最小 s - t カット $S$ は $\{4, \{1, 2, 3, 5\}\}$ となり，その容量は $12$ です．
$X$ の分割
$X$ を $A = \{4\}$ と $B = \{6\}$ に分割し，重み $12$ の辺を張ります．
既存の辺の付け替え
$X$ の分割後，更新前の $T$ の辺 $(5, X)$ がどうなるか考えます．$v_{S_1} \in S$ であるため，この辺は $A$ と接続します．
よって辺 $(5, X)$ は辺 $(5, A)$ に付け替えられます．

Phase 6

$T$ のすべての頂点の要素数が $1$ なので Step 2 を終了します．
Step 3 は省略します．

証明

アルゴリズムが Gomory-Hu 木を構築する証明をします．
表記を整理しておきます．

$\lambda_{s,t;G}$：グラフ $G$ の最小 s - t カットの容量
$\lambda_{s,t;H}$：縮約グラフ $H$ の最小 s - t カットの容量
$w(YZ)$：木 $T$ の辺 $YZ$ の重み
$C^{\prime}_{YZ}$：木 $T$ から辺 $YZ$ を削除したときにできる 2 つの連結成分のうち，$Y$ に属する連結成分をすべて展開したもの

アルゴリズムの開始時と各イテレーション終了時に，次の不変条件が成り立つことを示します．

木 $T$ の任意の辺 $YZ$ に対してある頂点 $s \in Y, t \in Z$ が存在し，$C^{\prime}_{YZ}$ は元のグラフ $G$ における最小 s - t カットであり，$\lambda_{s, t;G} = w(YZ)$ となる

まず，アルゴリズムの開始時には辺がないので不変条件は成り立ちます．
このあとで，各イテレーション時に以下の $3$ つの辺について不変条件が成り立つことを示します．

新しく追加される辺 $AB$
既存の辺 $XY$ から付け替えられた辺
その他の辺

アルゴリズムの終了時には縮約頂点はすべて展開され，木 $T$ は Gomory-Hu 木の定義を満たしているため，アルゴリズムは Gomory-Hu 木を構築するといえます．

a. 新しく追加される辺 $AB$

アルゴリズムは縮約グラフ $H$ 上で $s, t \in X$ について最小 s - t カット $S$ を求め，$A = X \cap S$，$B = X \setminus S$ と分割します．その上で，辺 $AB$ の重み $w(AB)$ を $\lambda_{s,t;H}$ とします．

辺 $AB$ が不変条件を満たすことを示すため，以下を確認します．

$H$ 上の最小 s - t カットを展開した頂点集合は $G$ 上の最小 s - t カットとなりその容量は一致する．つまり，$\lambda_{s, t;G} = w(AB) = \lambda_{s,t;H}$ となる
$H$ 上の最小 s - t カットを展開した頂点集合は $C^{\prime}_{AB}$ となる

1. $H$ 上の最小 s - t カットを展開した頂点集合は $G$ 上の最小 s - t カットとなりその容量は一致する

アルゴリズムのあるイテレーションで，$S_1, \cdots, S_k$ を順番に縮約していくことを考えます．$S_i$ までを縮約したグラフを $H_i$ とします．$H_0$ はグラフ $G$ に，$H_k$ はアルゴリズムで述べられている縮約グラフ $H$ に一致します．

不変条件より，木の各辺 $YZ$ に対してある頂点対 $(s_{YZ}, t_{YZ})$ が存在し，$C^{\prime}_{YZ}$ は $G$ 上の最小 $s_{YZ}$ - $t_{YZ}$ カットになっています．頂点 $X \in T$ を削除したときの連結成分 $C_i$ と $X$ を結ぶ辺を $Y_i X$ とおくと，$S_i = C^{\prime}_{Y_i X}$ が成り立ちます．
よって，各 $S_i$ はある頂点対 $(s_i, t_i)$ に対する最小 $s_i$ - $t_i$ カットです．
また，$S_i$ は $T \setminus X$ の連結成分から構成されているので，$s, t \notin S_i$ です．

各ステップ $i$ について，$H_i$ には $G$ における最小 s - t カットの容量である $\lambda_{s, t;G}$ と同じ容量の s - t カットが存在することを帰納法で示します．
$i = 0$ のとき，$H_0 = G$ なので自明です．
帰納法の仮定より，$H_i$ には容量 $\lambda_{s, t;G}$ の s - t カット $C$ があります．このとき，$S_{i + 1}$ を縮約して得られる $H_{i + 1}$ にも容量 $\lambda_{s, t;G}$ の s - t カットが存在することを示します．
補題 2 により $H_i$ の s - t カット $C$ は $S_{i + 1}$ を交差しないようにとりなおすことができます．よって，$S_{i + 1}$ を縮約して $H_{i + 1}$ を構築しても，容量 $\lambda_{s, t;G}$ の s - t カットが存在するといえます．
よって，$H$ には容量 $\lambda_{s, t;G}$ の s - t カットが存在することが示せました．

任意の $H$ 上の s - t カットは，縮約を展開すれば $G$ 上の s - t カットになります．縮約は辺の容量を変えないので，カットの容量も維持されます．
したがって，任意の $H$ 上の s - t カットの容量 = 対応する $G$ 上の s - t カットの容量 $\ge \lambda_{s, t;G}$ となり，$H$ の最小 s - t カットの容量は $\lambda_{s, t;G}$ となります．

2. $H$ 上の最小 s - t カットを展開した頂点集合は $C^{\prime}_{AB}$ となる

$H$ の最小 s - t カット $S$ を展開して得られる頂点集合は，アルゴリズムにおける辺の付け替え規則から，更新後の木 $T^{\prime}$ で辺 $AB$ を削除したときの $A$ 側成分 $C^{\prime}_{AB}$ と一致します．
これは，$X$ 内の頂点のうち $S$ に属するものは $A$ に，また各連結成分 $C_i$ に対応する縮約頂点 $v_{S_i}$ が $S$ に属する場合に限り，その成分は $A$ 側に接続されるように付け替えられているためです．

以上のことから辺 $AB$ が不変条件を満たすことがわかりました．

b. 既存の辺 $XY$ から付け替えられた辺

アルゴリズムは，縮約グラフ $H$ 上で $s, t \in X$ について最小 s - t カット $S$ を見つけ，$X$ を $A = X \cap S$ と $B = X \setminus S$ に分割します．もともと $X$ と $Y$ の間に張られていた辺 $XY$ は $A$ に付け替えられて $AY$ になるか，$B$ に付け替えられて $BY$ になります．
以降は $A$ に付け替えられた場合を考えますが $B$ でも同じことがいえます．

$p \in X$，$q \in Y$ であり，XY の重みは $\lambda_{p, q}$ であったとします．

$X$ の最小 s - t カットを求め，$A$ と $B$ に分割したとき，$s \in A$，$t \in B$ であるとします．
$A$ と $B$ は $X$ を分割したものであるため，$C^{\prime}_{AY} = C^{\prime}_{XY}$ とみなすことができます．
辺 $AY$ の重みが $\lambda_{p, q}$ であることを $p \in A$ の場合と $p \notin A$ の場合について示します．

$p \in A$ の場合

辺 $AY$ の重みは $\lambda_{p, q}$ なので，不変条件を満たします．

$p \notin A$ の場合

$\lambda_{s, q} = \lambda_{p, q}$ であることを示します．

$\lambda_{s, q} \ge \lambda_{p, q}$
頂点列 $s, t, p, q$ を考えると補題 1 より $\lambda_{s, q} \ge \min \{\lambda_{s, t}, \lambda_{t, p}, \lambda_{p, q} \}$ が言えます．
$H$ 上の最小 s - t カットを展開したものを $\bar S$ とします．
このとき，$s, q \in \bar S$，$t, p \in B \subseteq V \setminus \bar S$ です．

カット関数は対称なので $V \setminus \bar S$ も最小 s - t カットです．
そこで，補題 2 を $A = V \setminus \bar S$，$(u, v) = (s, q)$ に適用します（このとき $s, q \notin A$ が成り立ちます）．
すると，ある最小 s - q カット $C^{\prime}$ が存在して
$$(V \setminus \bar S) \subseteq C^{\prime} \text{または} (V \setminus \bar S) \cap C^{\prime} = \emptyset$$
が成り立ちます．
前者なら無向グラフなので $V \setminus C^{\prime}$ も最小 s - q カットであり，こちらは $(V \setminus \bar S) \cap (V \setminus C^{\prime}) = \emptyset$ となるので，$C = V \setminus C^{\prime} \subseteq \bar S$ とできます．
後者ならそのまま $C = C^{\prime}$ とおけば $C \subseteq \bar S$ です．
よって，ある最小 s - q カット $C$ は，$C \subseteq \bar S$ であるようにとることができます．
つまり，最小 s - q カットは $t, p \in B$ となるようにとれるので，$\lambda_{s, q}$ は辺 $(t, p)$ の容量に依存しないことがわかります．
よって，大きな容量をもつ辺 $(t, p)$ を追加したとしても不等式が成り立ち，$\lambda_{s, q} \ge \min \{\lambda_{s, t}, \lambda_{p, q} \}$ が成立します．
また，最小 s - t カットは p-q カットでもあるため，$\lambda_{s, t} \ge \lambda_{p, q}$ が成り立ちます．
よって，$\lambda_{s, q} \ge \lambda_{p, q}$ が示せました．
$\lambda_{s, q} \le \lambda_{p, q}$
$C^{\prime}_{XY}$ は $X$ と $Y$ を分けるカットであり，$p \in X$ と $q \in Y$ を分離していて，重みは $\lambda_{p, q}$ でした．
$s \in A \subset X$ なので，$C^{\prime}_{XY}$ は s - q カットでもあります．
よって，$\lambda_{s, q} \le \lambda_{p, q}$ が示せました．

以上より，$\lambda_{s, q} \ge \lambda_{p, q}$ と $\lambda_{s, q} \le \lambda_{p, q}$ の両方が示せたので，$\lambda_{s, q} = \lambda_{p, q}$ が成り立ちます．したがって $w(AY)=w(XY)=\lambda_{p,q}=\lambda_{s,q}$ であり，$s \in A,\, q \in Y$ をとれば辺 $AY$ も不変条件を満たします．

c. その他の辺

アルゴリズムで選んだ $X$ に接続していない辺 $YZ$ は，木 $T$ 上での位置も対応するカット $C^{\prime}_{YZ}$ も変化しないため，不変条件を満たします．

参考

カット関数は $G$ に対して定義されています ↩︎
必要に応じて，$B$ を $V \setminus B$ に置き換える操作と名前の付け替えを行います ↩︎

Quadratic Pseudo-Boolean Optimization

Thu, 09 Jan 2025 00:00:00 +0900

Quadratic Pseudo-Boolean Optimization

次の関数 $E(\bold x)$ を最小化する問題を考えます．$x_{p} \in \lbrace 0, 1 \rbrace$ とし，$\theta_{const}$ は定数を表します．この問題を Quadratic Pseudo-Boolean Optimization(以下 QPBO)と呼びます．

$$ \begin{equation} E(\bold x) = \theta_{const} + \sum_p \theta_{p}(x_p) + \sum_{p \lt q} \theta_{pq}(x_p, x_q) \end{equation} $$

競プロ界隈で「燃やす埋める」や「Project Selection Problem」などと言われる問題は QPBO に帰着することができます¹．
これらの問題は minimum s-t cut に帰着して解くことができますが，どのように辺を張るかなど混乱しがちです．本記事の目的は QPBO を解くアルゴリズムをライブラリ化することで，問題を解くときに辺の張り方や変数のフリップ操作などを考えなくてすむようにすることです．実装は QPBO.hpp にあります．

記事の構成は以下の通りです．
節 1 では s-t cut と minimum s-t cut の説明をします．minimum s-t cut は多項式時間で求めることができます．

節 2 では関数 $E(\bold x)$ が $\theta_{pq}(0, 0) = \theta_{pq}(1, 1) = 0$ であり，どの関数も $0$ 以上の値を返すという単純な関数の場合について考えます．この場合は minimum s-t cut を見つける問題にそのまま帰着できます．

節 3 では節 2 の仮定を排除し，関数 $E(\bold x)$ が劣モジュラ関数であるという仮定のみをおいた場合について考えます．
この場合は再パラメータ化という操作を行うことで単純な関数の場合に帰着させることができます．

節 4 では関数 $E(\bold x)$ が一般の関数の場合について考えます．
$E(\bold x)$ が一般の関数の場合，これを最小化する問題は NP-hard であり，多項式時間で解くことは(今のところ)できそうもありません．この場合は問題を緩和することで劣モジュラ関数の場合に帰着させ近似解を得ることができます．さらに，ここで得られた解は最適解の一部となることが保証されます．

節 5 では競プロの問題をいくつか解いていきます．

1. s-t cut

頂点集合 $V$ と有向辺 $E$ からなる有向グラフ $G = (V, E)$ が与えられます．辺 $(i, j)$ には容量 $c_{ij} \ge 0$ が定まっているものとします．
頂点集合 $V$ を 2 つの部分集合 $S$ と $T = V \backslash S$ に分割します．2 つのノード $s$ と $t$ について $s \in S$，$t \in T$ となるような分割を s-t cut と呼びます．
$S$ から出て $T$ に入るような辺の容量の総和を s-t cut の容量と呼び，以下で定義されます．すべての s-t cut のうち最小のものを minimum s-t cut と呼びます．

$$ \begin{aligned} c(S) = \sum_{(i, j) \in (S, T)} c_{ij} \end{aligned} $$

下のグラフの s-t cut の例をいくつか見ていきます ²．

頂点の部分集合として，$S = \lbrace s, 0, 1 \rbrace$ を選んだとします．
$S$ に属する頂点を赤，$T = V \backslash S$ に属する頂点を青で示します． $S$ から出て $T$ に入るような辺は辺 (0, 2) と辺 (1, 3) です．よって，この s-t cut の容量は 3 + 2 = 5 となります．
すべての s-t cut の中でこのカットより容量の小さい s-t cut は存在しないのでこれは minimum s-t cut です．

頂点の部分集合として $S = \lbrace s, 0, 1, 2, 3 \rbrace$ を選んだとします．
この s-t cut の容量は 2 + 3 = 5 となります．
このカットも minimum s-t cut です．このように minimum s-t cut は複数存在することがあります．

頂点の部分集合として $S = \lbrace s, 1, 2 \rbrace$ を選んだとします．
この s-t cut の容量は，3 + 2 + 4 + 2 = 11 となります．
辺 (0, 1) や辺 (0, 2) は $T$ から $S$ に入る辺なので含まれません．

minimum s-t cut は最大流問題を解き，残余ネットワーク上で頂点 $s$ から到達できる頂点集合を $S$ とすることで求められます．詳しくは最大フロー最小カット定理などを参照してください．
次節から s-t cut を使って $E(\bold x)$ を最小化する方法を見ていきます．

2. 単純な関数の場合

関数 $E(\bold x)$ を最小化する方法を考えていきます．$x_{p} \in \lbrace 0, 1 \rbrace$ なので，変数の個数が $n$ 個のとき解は $2^n$ 個存在します．この $2^n$ 個の解のなかから最小のものを見つけるのが目標です．

$$ \begin{equation} E(\bold x) = \theta_{const} + \sum_{p} \theta_{p}(x_p) + \sum_{p \lt q} \theta_{pq}(x_p, x_q) \tag {1} \end{equation} $$

単純な関数の場合を考えたいので，$\theta_{pq}(0, 0) = \theta_{pq}(1, 1) = 0$ であり，すべて 0 以上の値を返すと仮定します．
この仮定を満たす関数の場合は $E(\bold x)$ の解と s-t cut の解が 1 対 1 対応するようなグラフを作成することができます．よって，グラフの最小 s-t cut がわかれば $E(\bold x)$ の最小値（= 最適解）を求めることができます．

グラフは各変数を頂点とし，これに特別な頂点 $s$ と $t$ を加えた $n + 2$ 個の頂点から構成されます．辺は下記のルールにしたがって張ります．

関数	辺	容量
$\theta_{p}(0)$	$p \rightarrow t$	$\theta_{p}(0)$
$\theta_{p}(1)$	$s \rightarrow p$	$\theta_{p}(1)$
$\theta_{pq}(0, 1)$	$p \rightarrow q$	$\theta_{pq}(0, 1)$
$\theta_{pq}(1, 0)$	$q \rightarrow p$	$\theta_{pq}(1, 0)$

具体例として，変数が $a$ と $b$ の 2 つだけの場合を見てみます．
各変数の値に対応する $E(\bold x) = \theta_a(a) + \theta_b(b) + \theta_{ab}(a, b)$ の値は以下のようになります．$\theta_{ab}(0, 0)$ と $\theta_{ab}(1, 1)$ の値は $0$ であり，$\theta_{const}$ は定数のため省略しています．

a	b	$E(\bold x)$
0	0	$\theta_{a}(0) + \theta_{b}(0)$
0	1	$\theta_{a}(0) + \theta_{b}(1) + \theta_{ab}(0, 1)$
1	0	$\theta_{a}(1) + \theta_{b}(0) + \theta_{ab}(1, 0)$
1	1	$\theta_{a}(1) + \theta_{b}(1)$

ルールに従うと下のグラフが構築されます．
このグラフの s-t cut をいくつか見ていきます．

$S = \lbrace s, a, b \rbrace$ とします．この s-t cut の容量は $\theta_{a}(0) + \theta_{b}(0)$ です．
また，$a = 0$，$b = 0$ としたとき $E(\bold x)$ の値は $\theta_{a}(0) + \theta_{b}(0)$ です．
よって，$S = \lbrace s, a, b \rbrace$ としたときの s-t cut の容量と，$a = 0$，$b = 0$ としたときの $E(\bold x)$ の関数値は一致しています．

別の s-t cut の例をみます．
$S = \lbrace s, a \rbrace$ とします．この s-t cut の容量は $\theta_{a}(0) + \theta_{b}(1) + \theta_{ab}(0, 1)$ です．
また，$a = 0$，$b = 1$ としたとき $E(\bold x)$ の値は $\theta_{a}(0) + \theta_{b}(1) + \theta_{ab}(0, 1)$ です．
よって，$S = \lbrace s, a \rbrace$ としたときの s-t cut の容量と，$a = 0$，$b = 1$ としたときの $E(\bold x)$ の関数値は一致しています．

変数が 2 つの場合は s-t cut は $2^2$ 通りあります．すべてのパターンは以下の通りです．

このように s-t cut の構成と $E(\bold x) $ の構成が 1 対 1 対応するため，minimum s-t cut を計算することで $E(\bold x)$ の最小値を求めることができます．
minimum s-t cut を計算し，$S$ に属する頂点に対応する変数の値を $0$，$T$ に属する頂点に対応する変数の値を $1$ と設定することで最適な $\bold x$ を構成できます．

3. 劣モジュラ関数の場合

「2. 単純な関数の場合」では，$\theta_{pq}(0, 0) = \theta_{pq}(1, 1) = 0$ とし，どの関数も $0$ 以上の値を返すことを仮定していました．
この節ではこの仮定を排除し，関数は劣モジュラであることのみを仮定します．今回は 2 値変数を考えているので，$\theta_{pq}(0, 1) + \theta_{pq}(1, 0) \ge \theta_{pq}(0, 0) + \theta_{pq}(1, 1)$ を満たすことになります．

$\theta_{pq}(0, 0)$ や $\theta_{pq}(1, 1)$ が $0$ 以外の値をとったり関数値が負の値をとる場合があるので，今回はルール通りにグラフを作ることはできません．そこで再パラメータ化という操作を行います．再パラメータ化とは，$E(\bold x)$ の関数値を保ちつつ $\theta_{pq}(1, 0)$ などの各関数値を変化させる操作です．
再パラメータ化を行うと標準形とよばれる以下の条件を満たす形になります³．標準形ではどの関数も $0$ 以上の値をとります．

$min \lbrace \theta_{p}(0), \theta_{p}(1) \rbrace = 0$
$min \lbrace \theta_{pq}(0, 0), \theta_{pq}(1, 0) \rbrace = 0$
$min \lbrace \theta_{pq}(0, 1), \theta_{pq}(1, 1) \rbrace = 0$

再パラメータ化をすると，関数 $\theta_{pq}(x_{p}, x_{q})$ が劣モジュラの場合は $\theta_{pq}(0, 0) = \theta_{pq}(1, 1) = 0$ に，関数 $\theta_{pq}(x_{p}, x_{q})$ が優モジュラの場合は $\theta_{pq}(0, 1) = \theta_{pq}(1, 0) = 0$ になります⁴．
よって，すべての $\theta_{pq}(x_{p}, x_{q})$ が劣モジュラ関数の場合は，再パラメータ化をすることで「2. 単純な関数の場合」に帰着することができます．
再パラメータ化の手続きは以下の通りです．

step1
- すべての (p, q) の各 $j \in \lbrace 0, 1 \rbrace$ について
  - $\delta = min \lbrace \theta_{pq}(0, j), P_{pq}(1, j) \rbrace$
  - $\theta_{pq}(0, j) = \theta_{pq}(0, j) - \delta$
  - $\theta_{pq}(1, j) = \theta_{pq}(1, j) - \delta$
  - $\theta_{q}(j) = \theta_{q}(j) + \delta$
step2
- $\delta = min \lbrace \theta_p(0), \theta_p(1) \rbrace$
- $\theta_{p}(0) = \theta_{p}(0) - \delta$
- $\theta_{p}(1) = \theta_{p}(1) - \delta$
- $\theta_{const} = \theta_{const} + \delta$

再パラメータ化をしたとき，目的関数値が変化しないことを確認します．
step 1 の $j = 0$ では，$\theta_{pq}(0, 0)$ と $\theta_{pq}(1, 0)$ から $\delta$ を引き，$\theta_{q}(0)$ に $\delta$ を加えます．
この操作を行うと $E(\bold x)$ は以下の表のように変化します．$\delta$ が打ち消し合って，目的関数値が保たれていることが確認できます．
また，$\delta$ として $min \lbrace \theta_{pq}(0, 0), P_{pq}(1, 0) \rbrace$ を選んでいるので，$min \lbrace \theta_{pq;00}, \theta_{pq;10} \rbrace = 0$ を満たすようになります．

p	q	$E(\bold x)$	$E^{\prime}(\bold x)$
0	0	$\theta_{const} + \theta_{p}(0) + \theta_{q}(0) + \theta_{ab}(0, 0)$	$\theta_{const} + \theta_{p}(0) + (\theta_{q}(0) + \delta) + (\theta_{ab}(0, 0) - \delta)$
0	1	$\theta_{const} + \theta_{p}(0) + \theta_{q}(1) + \theta_{ab}(0, 1)$	$\theta_{const} + \theta_{p}(0) + \theta_{q}(1) + \theta_{ab}(0, 1)$
1	0	$\theta_{const} + \theta_{p}(1) + \theta_{q}(0) + \theta_{ab}(1, 0)$	$\theta_{const} + \theta_{p}(1) + (\theta_{q}(0) + \delta) + (\theta_{ab}(1, 0) - \delta)$
1	1	$\theta_{const} + \theta_{p}(1) + \theta_{q}(1) + \theta_{ab}(1, 1)$	$\theta_{const} + \theta_{p}(1) + \theta_{q}(1) + \theta_{ab}(1, 1)$

step 1 の $j = 1$ では，$\theta_{pq}(0, 1)$ と $\theta_{pq}(1, 1)$ から $\delta$ を引き，$\theta_{q}(1)$ に $\delta$ を加えます．
$\delta$ として $min \lbrace \theta_{pq}(0, 1), P_{pq}(1, 1) \rbrace$ を選んでいるので，$min \lbrace \theta_{pq;01}, \theta_{pq;11} \rbrace = 0$ を満たすようになります．

p	q	$E(\bold x)$	$E^{\prime}(\bold x)$
0	0	$\theta_{const} + \theta_{p}(0) + \theta_{q}(0) + \theta_{ab}(0, 0)$	$\theta_{const} + \theta_{p}(0) + \theta_{q}(0) + \theta_{ab}(0, 0)$
0	1	$\theta_{const} + \theta_{p}(0) + \theta_{q}(1) + \theta_{ab}(0, 1)$	$\theta_{const} + \theta_{p}(0) + (\theta_{q}(1) + \delta) + (\theta_{ab}(0, 1) - \delta)$
1	0	$\theta_{const} + \theta_{p}(1) + \theta_{q}(0) + \theta_{ab}(1, 0)$	$\theta_{const} + \theta_{p}(1) + \theta_{q}(0) + \theta_{ab}(1, 0)$
1	1	$\theta_{const} + \theta_{p}(1) + \theta_{q}(1) + \theta_{ab}(1, 1)$	$\theta_{const} + \theta_{p}(1) + (\theta_{q}(1) + \delta) + (\theta_{ab}(1, 1) - \delta)$

step 2 では，$\theta_{p}(0)$ と $\theta_{p}(1)$ から $\delta$ を引き，$\theta_{const}$ に $\delta$ を加えます．
$\delta$ として $min \lbrace \theta_p(0), \theta_p(1) \rbrace$ を選んでいるので，$min \lbrace \theta_{p;0}, \theta_{p;1} \rbrace = 0$ を満たすようになります．

p	q	$E(\bold x)$	$E^{\prime}(\bold x)$
0	0	$\theta_{const} + \theta_{p}(0) + \theta_{q}(0) + \theta_{ab}(0, 0)$	$(\theta_{const} + \delta) + (\theta_{p}(0) - \delta) + \theta_{q}(0) + \theta_{ab}(0, 0)$
0	1	$\theta_{const} + \theta_{p}(0) + \theta_{q}(1) + \theta_{ab}(0, 1)$	$(\theta_{const} + \delta) + (\theta_{p}(0) - \delta) + \theta_{q}(1) + \theta_{ab}(0, 1)$
1	0	$\theta_{const} + \theta_{p}(1) + \theta_{q}(0) + \theta_{ab}(1, 0)$	$(\theta_{const} + \delta) + (\theta_{p}(1) - \delta) + \theta_{q}(0) + \theta_{ab}(1, 0)$
1	1	$\theta_{const} + \theta_{p}(1) + \theta_{q}(1) + \theta_{ab}(1, 1)$	$(\theta_{const} + \delta) + (\theta_{p}(1) - \delta) + \theta_{q}(1) + \theta_{ab}(1, 1)$

4. 一般の関数の場合

関数に何も仮定を置かない場合は $E(\bold x)$ の最小化は NP-hard なので，minimum s-t cut 問題に帰着できない場合があります．
この場合でも最適解はだせなくても問題を解けるだけ解く QPBO 法というアルゴリズムがあります⁵．QPBO 法は解として $x_p = \lbrace 0, 1, \emptyset \rbrace$ のいずれかを与えます．$\emptyset$ は解が不明であることを表します．$x_p$ に $0$ か $1$ の値が与えられたとき，$x_p$ はラベル付けされたといいます．
このアルゴリズムは次のような性質があります．

アルゴリズムの出力を $\bold x$ とする．完全にラベル付けされた任意の解 $\bold y$ があるとき，以下のように $\bold z$ を定めると常に $E(\bold z) \le E(\bold y)$ を満たす．

$$ z_p = \left\{ \begin{array}{ll} x_p & \text{if} \space x_p \in \lbrace 0, 1 \rbrace \\ y_p & \text{if} \space x_p = \emptyset \end{array} \right. $$

関数のすべての項が劣モジュラのとき最適解が求まる．
アルゴリズムはフリップ操作に対して不変である．

性質 1 で $\bold y$ に最適解を選べば $\bold x$ は常に最適解の一部となることがわかります．
競プロで役に立つのは性質 2 と 3 です．この 2 つの性質から，すべての項を劣モジュラにするようなフリップ操作がある場合に QPBO 法は最適解を求めることがわかります．

QPBO 法を説明します．
以降は表記が煩雑になるのを避けるためこの節では関数値を以下のように表記することがあります．


$\theta_{p}(0)$	$\theta_{p;0}$
$\theta_{p}(1)$	$\theta_{p;1}$
$\theta_{pq}(0,0)$	$\theta_{pq;00}$
$\theta_{pq}(0,1)$	$\theta_{pq;01}$
$\theta_{pq}(1,0)$	$\theta_{pq;10}$
$\theta_{pq}(1,1)$	$\theta_{pq;11}$

各変数 $x_p$ に対して，$x_{\bar{p}} = 1 - x_{p}$ を導入し，$E(\bold x) = \sum \theta_{p}(x_p) + \sum \theta_{pq}(x_p, x_q)$ を変形します．

$$ \begin{alignedat}{2} E(\bold x) &= \theta_{const} + \sum \theta_{p}(x_p) &&+ \sum \theta_{pq}(x_p, x_q) \\ &= \theta_{const} + \sum \big( \theta_{p;1} x_{p} + \theta_{p;0}(1 - x_{p}) \big) \\ &\quad &&+ \sum \big( \theta_{pq;00} (1 - x_{p})(1 - x_{q}) \\ &\quad &&\quad + \theta_{pq;01} (1 - x_{p}) x_{q} \\ &\quad &&\quad + \theta_{pq;10} x_{p}(1 - x_{q}) \\ &\quad &&\quad + \theta_{pq;11} x_{p} x_{q} \big) \\ &= \theta_{const} + \sum \bigg( \frac{\theta_{p;1}}{2}(x_p + (1 - x_{\bar{p}})) && + \frac{\theta_{p;0}}{2}(x_{\bar{p}} + (1 - x_p)) \bigg) \\ &\quad &&+ \sum \bigg( \frac{\theta_{pq;00}}{2} \big(x_{\bar{p}} (1 - x_q) + (1 - x_p) x_{\bar{q}} \big) \\ &\quad &&\quad + \frac{\theta_{pq;01}}{2} \big((1 - x_p) x_q + x_{\bar{p}} (1 - x_{\bar{q}}) \big) \\ &\quad &&\quad + \frac{\theta_{pq;11}}{2} \big(x_p (1 - x_{\bar{q}}) + (1 - x_{\bar{p}}) x_q \big) \\ &\quad &&\quad + \frac{\theta_{pq;10}}{2} \big(x_p (1 - x_q) + (1 - x_{\bar{p}}) x_{\bar{q}} \big) \bigg) \end{alignedat} $$

ここで，$x_{\bar{p}} = 1 - x_p$ という制約を緩和し，$x_p$ と $x_{\bar{p}}$ が独立に値をとれる緩和問題を考えます．
各変数の係数を比較すると下の関数に分割できることがわかります．再パラメータ化をしてから関数を分割することですべての関数値が $0$ 以上であることが保証されます．これらの関数は劣モジュラ関数なので「3. 劣モジュラ関数の場合」に帰着することができます．

$x_p$
0	$\frac{1}{2}\theta_{p;0}$
1	$\frac{1}{2}\theta_{p;1}$

$x_{\bar{p}}$
0	$\frac{1}{2}\theta_{p;1}$
1	$\frac{1}{2}\theta_{p;0}$

$x_p$	$x_q$
0	0	0
0	1	$\frac{1}{2}\theta_{pq;01}$
1	0	$\frac{1}{2}\theta_{pq;10}$
1	1	0

$x_p$	$x_{\bar{q}}$
0	0	0
0	1	$\frac{1}{2}\theta_{pq;00}$
1	0	$\frac{1}{2}\theta_{pq;11}$
1	1	0

$x_{\bar{p}}$	$x_q$
0	0	0
0	1	$\frac{1}{2}\theta_{pq;11}$
1	0	$\frac{1}{2}\theta_{pq;00}$
1	1	0

$x_{\bar{p}}$	$x_{\bar{q}}$
0	0	0
0	1	$\frac{1}{2}\theta_{pq;01}$
1	0	$\frac{1}{2}\theta_{pq;10}$
1	1	0

上記関数について，ルールに従ってグラフを構築します．整理すると以下のルールに従ってグラフを構築すればいいことがわかります．

$\theta$	edge	capacity⁶
$\theta_{p;0}$	$(p \rightarrow t), (s \rightarrow \bar p)$	$\frac{1}{2} \theta_{p;0}$
$\theta_{p;1}$	$(s \rightarrow p), (\bar p \rightarrow t)$	$\frac{1}{2} \theta_{p;1}$
$\theta_{pq;01}$	$(p \rightarrow q), (\bar q \rightarrow \bar p)$	$\frac{1}{2} \theta_{pq;01}$
$\theta_{pq;10}$	$(q \rightarrow p), (\bar p \rightarrow \bar q)$	$\frac{1}{2} \theta_{pq;10}$
$\theta_{pq;00}$	$(p \rightarrow \bar q), (q \rightarrow \bar p)$	$\frac{1}{2} \theta_{pq;00}$
$\theta_{pq;11}$	$(\bar q \rightarrow p), (\bar p \rightarrow q)$	$\frac{1}{2} \theta_{pq;11}$

このグラフの s-t minimum cut を計算します．各変数の値は，$S$ に属する場合は 0，$T$ に属する場合は 1 をとります．ただし，$x_{\bar{p}} = 1 - x_{p}$ という制約を満たす必要があります．よって，$\bold x$ は次のように構成されます．

$$ x_{p} = \left\{ \begin{array}{ll} 0 & \text{if} \space p \in S, \bar p \in T \\ 1 & \text{if} \space p \in T, \bar p \in S \\ \emptyset & \text{otherwise} \end{array} \right. $$

具体例として，変数が $a$ と $b$ の 2 つだけの場合を考えます．
各変数の値に対応する $E(\bold x) = \theta_a(a) + \theta_b(b) + \theta_{ab}(a, b)$ の値は以下のようになります．

a	b	$E(\bold x)$
0	0	$\theta_{a}(0) + \theta_{b}(0) + \theta_{ab}(0, 0)$
0	1	$\theta_{a}(0) + \theta_{b}(1) + \theta_{ab}(0, 1)$
1	0	$\theta_{a}(1) + \theta_{b}(0) + \theta_{ab}(1, 0)$
1	1	$\theta_{a}(1) + \theta_{b}(1) + \theta_{ab}(1, 1)$

対応するグラフは以下のようになります．表記が煩雑になるので図では $\frac{1}{2}$ を除外しています．このグラフの s-t cut の例をいくつか見ていきます．

$S = \lbrace s, a, b \rbrace$ とします．この s-t cut の容量は $\frac{1}{2} (\theta_{a}(0) + \theta_{a}(0) + \theta_{b}(0) + \theta_{b}(0) + \theta_{ab}(0, 0) + \theta_{ab}(0, 0))$ です．
この値は $a = 0$，$b = 0$ としたときの $E(\bold x)$ の目的関数と一致します．

$S = \lbrace s, a \rbrace$ とします．この s-t cut の容量は $\frac{1}{2} (\theta_{a}(0) + \theta_{a}(0) + \theta_{b}(1) + \theta_{b}(1) + \theta_{ab}(0, 1) + \theta_{ab}(0, 1))$ です．
この値は $a = 0$，$b = 0$ としたときの $E(\bold x)$ の目的関数と一致します．

$S = \lbrace s, a, b, \bar{b} \rbrace$ とします．この場合，$a = 0$，$b = \emptyset$ とし，$b$ のラベルは未定となります．

5. 問題

QPBO を使って競プロの問題を解いていきます．

ARC085 E - MUL

宝石が $N$ 個あり，それぞれ $1,2,\cdots,N$ と数が書かれています。
あなたは，以下の操作を好きなだけ行うことが出来ます(一度も行わなくてもよいです)。

正整数 $x$ を選ぶ。$x$ の倍数が書かれた宝石を全て叩き割る。

そして，$i$ が書かれていた宝石が割られずに残っていた場合，$a_i$ 円貰います。ただし，この $a_i$ は負の場合もあり，その場合はお金を払わなくてはいけません。
うまく操作を行った時，あなたは最大で何円お金を貰えるでしょうか？

まず変数を定義します．
宝石 $i$ が残っているかどうかを $x_i$ で表します．宝石が割る場合 $1$ を，残す場合は $0$ をとります．

次に関数を定義します．
QPBO は目的関数値の最小化を目指すのでコストがいくらかかるかで表します．
宝石 $i$ が残っている場合 $a_i$ 円貰えます．これは $-a_i$ 円のコストを払うということなので，次のように定義できます．

$\theta_{i}(0) = -a_i$
$\theta_{i}(1) = 0$

また，宝石 $i$ を割るにもかかわらず $i$ で割り切れる値が書かれた宝石 $j$ を残すことは許されないので，この場合は無限のコストがかかるとします．よって，次のように定義できます．

$\theta_{ij}(0, 0) = 0$
$\theta_{ij}(0, 1) = 0$
$\theta_{ij}(1, 0) = \infty$
$\theta_{ij}(1, 1) = 0$

この関数は $\theta_{ij}(0, 1) + \theta_{ij}(1, 0) \ge \theta_{ij}(0, 0) + \theta_{ij}(1, 1)$ を満たしているので劣モジュラ関数です．
あとは，すべての $i$ と $i$ で割り切れる $j$ について上記関数を定義すれば問題を解くことができます．

提出コード

ABC193 F - Zebraness

縦 $N$ マス、横 $N$ マスのマス目があります。上から $i$ 行目、左から $j$ 列目のマスをマス $(i,j)$ と表すことにします。マス $(i,j)$ の色の情報が文字 $c_{i,j}$ により与えられます。
$B$ はマスが黒で塗られていることを、 $W$ はマスが白で塗られていることを、 $?$ はマスにまだ色が塗られていないことを表します。
高橋くんは、まだ色が塗られていないマスをそれぞれ黒または白で塗り、白黒のマス目を作ります。マス目のしまうま度を、辺で接する黒マスと白マスの組の個数と定義します。高橋くんが達成できるしまうま度の最大値を求めてください。

まず変数を定義します．
マスを $(i, j)$ で表すとすると関数が見にくいので $p = i \times N + j$ で表します．マス $p$ の色を変数 $x_{p}$ で表します．白の場合 $0$ をとり，黒の場合 $1$ をとります．

次に関数を定義します．
与えられている色の変更はできないので白から黒や黒から白に変更すると無限のコストがかかるとします．次のように定義できます．

マス $p$ の色が黒の場合
- $\theta_{p}(0) = \infty$
- $\theta_{p}(1) = 0$
マス $p$ の色が白の場合
- $\theta_{p}(0) = 0$
- $\theta_{p}(1) = \infty$

マス $p$ と辺で接するマス $q$ が異なる色だと -1 のコストがかかります．

$\theta_{pq}(0, 0) = 0$
$\theta_{pq}(0, 1) = -1$
$\theta_{pq}(1, 0) = -1$
$\theta_{pq}(1, 1) = 0$

これは劣モジュラ関数ではないのですが，変数フリップすることで劣モジュラ関数にすることができます． QPBO 法では変数フリップを考慮しなくていいのでそのまま定義することができます．

提出コード

その他の問題

参考

たぶんです．できない例があったら教えてください ↩︎
この数値例は最大フロー最小カット定理から引用しています ↩︎
標準形は一意に定まるとは限りません ↩︎
単純な関数の場合は劣モジュラ関数を(ほぼ)標準化したものでした．厳密には $min \lbrace \theta_{p;0}, \theta_{p;1} \rbrace = 0$ を満たしていませんが． ↩︎
Minimizing non-submodular functions with graph cuts – a review ↩︎
実装では容量に $\frac{1}{2}$ をかけるのではなく，最後に目的関数値に $\frac{1}{2}$ を掛ければいいです ↩︎