الاختزال في زمن متعدد الحدود

لننظر في بعض المسائل التي صادفناها في الحساب الكفؤ: مقدمة غير رسمية:

1. مسألة 3SAT: اتخاذ قرار ما إذا كانت لصيغة 3CNF معطاة إسناد مُشبِع.

2. إيجاد أطول مسار في رسم بياني.

3. إيجاد أكبر قطع في رسم بياني.

4. حلّ المعادلات التربيعية (quadratic equations) في $n$ متغيّرًا $x_0,\ldots,x_{n-1} \in \R$.

لدى جميع هذه المسائل الصفات التالية:

• هذه مسائل مهمّة، وقد بذل الناس جهدًا كبيرًا في محاولة إيجاد خوارزميات أفضل لها.

• كل واحدة منها مسألة بحث (search)، أي أنّنا نبحث عن حلّ «جيد» بمعنى يسهل تعريفه (مثل: مسار طويل، أو إسناد مُشبِع، إلخ).

• لكلٍّ من هذه المسائل خوارزمية تافهة بزمن أسّي تتضمّن تعداد كل الحلول الممكنة.

• في الوقت الحالي، فإنّ أفضل خوارزمية معروفة لجميع هذه المسائل ليست أسرع بكثير من الخوارزمية التافهة في الحالة الأسوأ.

في هذا الفصل وفي صنف NP والاكتمال في NP ومبرهنة كوك-ليفن سنرى أنّه، على رغم اختلافاتها الظاهرية، يمكننا ربط التعقيد الحاسوبي لهذه المسائل ولعشرات غيرها. وفي الحقيقة، اتّضح أنّ المسائل أعلاه متكافئة حاسوبيًا (computationally equivalent)، بمعنى أنّ حلّ أيٍّ منها يعني فورًا حلّ البقية. وهذه الظاهرة، المعروفة بـ_اكتمال $\mathbf{NP}$_ (NP completeness)، هي أحد الاكتشافات المفاجئة في نظريّة الحاسوب، وسنرى أنّ لها آثارًا بعيدة المدى.

سنرى في هذا الفصل أنّه لكل واحدة من مسائل إيجاد أطول مسار في رسم بياني، وحلّ المعادلات التربيعية، وإيجاد أكبر قطع، فإنّ وجود خوارزمية زمن متعدد الحدود لهذه المسألة يعني وجود خوارزمية زمن متعدد الحدود لمسألة 3SAT أيضًا. بعبارة أخرى، سنقوم بـ_اختزال_ (reduce) مهمّة حلّ 3SAT إلى كل واحدة من المهمّات أعلاه. ومن طرائق تفسير هذه النتائج أنّه إذا لم تكن هناك خوارزمية زمن متعدد الحدود لـ 3SAT، فإنّه لا توجد خوارزمية زمن متعدد الحدود لهذه المسائل الأخرى أيضًا. وسنرى في صنف NP والاكتمال في NP ومبرهنة كوك-ليفن أدلّة (لكنّه ليس برهانًا!) على أنّ جميع المسائل أعلاه ليس لها خوارزميات زمن متعدد الحدود، وبالتالي فهي غير قابلة للحلّ الجوهري (inherently intractable).

تعريفات رسمية للمسائل

لأسباب من الراحة التقنية أكثر من أيّ سبب جوهري، فإنّنا نهتم بـ_مسائل القرار_ (decision problems) (أي أسئلة بنعم/لا) أو بما يكافئها من دوال بوليانية (Boolean) (أي ذات خرج ببت واحد). نمذجة المسائل أعلاه بوصفها دوالًا تربط $\{0,1\}^*$ بـ $\{0,1\}$ على النحو التالي:

3SAT. يمكن صياغة مسألة 3SAT على هيئة الدالة $3SAT:\{0,1\}^* \rightarrow \{0,1\}$ التي تأخذ كمدخل صيغة 3CNF $\varphi$ (أي صيغة من الشكل $C_0 \wedge \cdots \wedge C_{m-1}$ حيث كل $C_i$ هو OR لثلاثة متغيّرات أو نفيها) وتربط $\varphi$ بـ $1$ إذا وُجد إسناد للمتغيّرات في $\varphi$ يجعلها تُقيَّم إلى صحيح (true)، وإلّا فإلى $0$. مثلًا

بما أنّ الإسناد $x = 1101$ يُرضي صيغة المدخل. في ما سبق نفترض تمثيلًا ما للصيغ بوصفه سلاسل نصّية، ونعرّف الدالة بحيث تُخرج $0$ إذا لم يكن مدخلها تمثيلًا صالحًا؛ ونستعمل العرف نفسه لجميع الدوال الأُخرَى أدناه.

المعادلات التربيعية. تقابل مسألة المعادلات التربيعية (quadratic equations problem) الدالة $QUADEQ:\{0,1\}^* \rightarrow \{0,1\}$ التي تربط مجموعة معادلات تربيعية $E$ بـ $1$ إذا وُجد إسناد $x$ يُرضي كل المعادلات، وإلّا فبـ $0$.

أطول مسار. تقابل مسألة أطول مسار الدالة $LONGPATH:\{0,1\}^* \rightarrow \{0,1\}$ التي تربط رسمًا بيانيًا $G$ وعددًا $k$ بـ $1$ إذا وُجد في $G$ مسار بسيط طوله $k$ على الأقل، وتربط $(G,k)$ بـ $0$ وإلّا. مسألة أطول مسار هي تعميم لـمسألة مسار هاملتوني (Hamiltonian Path Problem) المعروفة جيدًا، والتي تحدّد ما إذا كان في رسم بياني معطى من $n$ رأسًا مسار بطول $n$.

أكبر قطع. تقابل مسألة أكبر قطع الدالة $MAXCUT:\{0,1\}^* \rightarrow \{0,1\}$ التي تربط رسمًا بيانيًا $G$ وعددًا $k$ بـ $1$ إذا وُجد قطع في $G$ يقطع $k$ حافة على الأقل، وتربط $(G,k)$ بـ $0$ وإلّا.

جميع المسائل أعلاه في $\mathbf{EXP}$، لكن لا نعرف ما إذا كانت في $\mathbf{P}$ أم لا. على أيّ حال، سنرى في هذا الفصل أنّه إذا كان أيٌّ من $QUADEQ$ أو $LONGPATH$ أو $MAXCUT$ في $\mathbf{P}$ فإنّ $3SAT$ كذلك في $\mathbf{P}$.

الاختزال في زمن متعدد الحدود

لنفترض أنّ $F,G:\{0,1\}^* \rightarrow \{0,1\}$ دالتان بوليانيتان. الاختزال في زمن متعدد الحدود (polynomial-time reduction) (أو أحيانًا "اختزال" (reduction) اختصارًا) من $F$ إلى $G$ هو طريقة لإظهار أنّ $F$ «لا أصعب» من $G$، بمعنى أنّ وجود خوارزمية زمن متعدد الحدود لـ $G$ يعني وجود خوارزمية زمن متعدد الحدود لـ $F$.

التمرين التالي يبرّر حدسنا بأنّ $F \leq_p G$ تعني أنّ «$F$ لا أصعب من $G$».

الخنازير الصفّارة والخيول الطايرة

يمكن استعمال اختزال من $F$ إلى $G$ لغرضين:

• إذا كنّا نعرف خوارزمية لـ $G$ وكان $F \leq_p G$، فيمكننا استعمال الاختزال للحصول على خوارزمية لـ $F$. وهذه أداة مستعملة على نطاق واسع في تصميم الخوارزميات. فمثلًا في أصغر قطع وأقصى تدفّق والبرمجة الخطّية رأينا كيف تتيح لنا نظريّة Min-Cut Max-Flow (القطع الأدنى–التدفّق الأقصى) اختزال مهمّة حساب أصغر قطع في رسم بياني إلى مهمّة حساب أكبر تدفّق فيه.

• إذا برهنّا (أو كانت لدينا أدلّة) على أنّه لا يوجد خوارزمية زمن متعدد الحدود لـ $F$ وكان $F \leq_p G$، فإنّ وجود هذا الاختزال يتيح لنا أن نستنتج أنّه لا يوجد خوارزمية زمن متعدد الحدود لـ $G$. وهذا هو تفسير «لو كانت الخنازير تصفّر لطارت الخيول» (if pigs could whistle then horses could fly) الذي رأيناه في الاختزال. نبيّن أنّه لو كانت هناك خوارزمية كفؤة افتراضية لـ $G$ (أي «خنزيرة صفّارة») فإنّنا بما أنّ $F \leq_p G$ كانت هناك خوارزمية كفؤة لـ $F$ (أي «حصان طائر»). في هذا الكتاب نستعمل الاختزالات كثيرًا لهذا الغرض الثاني، وإن كان الحدّ الفاصل بين الغرضين أحيانًا غير واضح (انظر الملاحظات الببليوغرافية في ملاحظات ببليوغرافية).

أهمّ فرق بين المفهوم في تعريف — الاختزال في زمن متعدد الحدود وبين الاختزالات التي رأيناها في سياق عدم القابلية للحساب (uncomputability) (مثلًا في الاختزال) هو أنّه، من أجل ربط التعقيد الزمني للمسائل، نحتاج أن يكون الاختزال قابلًا للحساب في زمن متعدد الحدود، لا أن يكون قابلًا للحساب فحسب. كما أنّ تعريف — الاختزال في زمن متعدد الحدود يقصر الاختزالات على صيغة محدّدة جدًّا. أي أنّنا لإظهار $F \leq_p G$، بدلًا من السماح بخوارزمية عامّة لـ $F$ تستعمل «صندوقًا سحريًا» يحسب $G$، لا نسمح إلا بخوارزمية تحسب $F(x)$ بإخراج $G(R(x))$. وهذه الصيغة المقيّدة مريحة لنا، لكنّ الناس عرّفوا واستعملوا اختزالات أكثر عمومية أيضًا (انظر ملاحظات ببليوغرافية).

في هذا الفصل نستعمل الاختزالات لربط التعقيد الحاسوبي للمسائل المذكورة أعلاه: 3SAT، والمعادلات التربيعية، وأكبر قطع، وأطول مسار، إضافة إلى غيرها قليلًا. سنختزل 3SAT إلى المسائل الأخيرة، برهنًا على أنّ حلّ أيٍّ منها بكفاءة يؤدّي إلى خوارزمية كفؤة لـ 3SAT. وفي صنف NP والاكتمال في NP ومبرهنة كوك-ليفن نبيّن الاتجاه المعاكس: اختزال كل واحدة من هذه المسائل إلى 3SAT دفعةً واحدة.

تعدّادية الاختزالات. بما أنّنا ننظر إلى $F \leq_p G$ على أنّها تعني (على قدر ما يخصّ الحساب في زمن متعدد الحدود) أنّ $F$ «أسهل أو مساوية في الصعوبة» لـ $G$، فإنّنا نتوقّع أنّه إذا كان $F \leq_p G$ و $G \leq_p H$ فإنّ $F \leq_p H$. بالفعل، هذا هو الحال:

اختزال 3SAT إلى المعادلات الخطّية ذات القيم 0/1 والمعادلات التربيعية

سنعرض الآن أول مثال على اختزال. تقابل مسألة معادلات 0/1 الخطّية (Zero-One Linear Equations) الدالة $01EQ:\{0,1\}^* \rightarrow \{0,1\}$ التي يكون مدخلها مجموعة $E$ من معادلات خطّية في المتغيّرات $x_0,\ldots,x_{n-1}$، وخرجها هو $1$ إذا وفقط إذا وُجد إسناد $x\in \{0,1\}^n$ بقيم $0/1$ للمتغيّرات يُرضي كل المعادلات. مثلًا، إذا كان المدخل $E$ سلسلة تُرمِّز مجموعة المعادلات

فإنّ $01EQ(E)=1$ لأنّ الإسناد $x = 011$ يُرضي المعادلات الثلاث. ونركّز بعيننا على المعادلات الخطّية في المتغيّرات $x_0,\ldots, x_{n-1}$ التي كلّ معادلة فيها على الشكل $\sum_{i \in S} x_i = b$ حيث $S \subseteq [n]$ و $b\in \N$.^[1]

لو طرحنا السؤال عمّا إذا كان $E$ له حلّ $x \in \R^n$ من أعداد حقيقية، فإنّ هذا يمكن حلّه باستعمال خوارزمية الإزالة الغاوسية (Gaussian elimination) المشهورة في زمن متعدد الحدود. على أيّ حال، لا توجد خوارزمية كفؤة معروفة لحلّ $01EQ$. وفي الحقيقة، إنّ مثل هذه الخوارزمية تترتّب عليها خوارزمية لـ $3SAT$ كما تبيّن النظريّة التالية:

INPUT: 3CNF formula $\varphi$ with $n$ variables $x_0,\ldots,x_{n-1}$ and $m$ clauses.

OUTPUT: Set $E$ of linear equations over $0/1$ such that $3SAT(\varphi)=1$ iff $01EQ(E)=1$.

Let $E$'s variables be $x_0,\ldots,x_{n-1}$, $x'_0,\ldots,x'_{n-1}$, $y_0,\ldots,y_{m-1}$, $z_0,\ldots,z_{m-1}$.
For{$i \in [n]$}
  add to $E$ the equation $x_i + x'_i = 1$
endfor
For{$j\in [m]$}
  Let $j$-th clause be $w_0 \vee w_1 \vee w_2$ where $w_0,w_1,w_2$ are literals.
  For{$a\in[3]$}
    If{$w_a$ is variable $x_i$}
      set $t_a \leftarrow x_i$
    endif
    If{$w_a$ is negation $\neg x_i$}
      set $t_a \leftarrow x'_i$
    endif
   endfor
   Add to $E$ the equation $t_0 + t_1 + t_2 + y_j + z_j = 3$.
endfor
return $E$ 

المعادلات التربيعية

والآن بعد أن اختزلنا $3SAT$ إلى $01EQ$، يمكننا استعمال ذلك لاختزال $3SAT$ إلى مسألة المعادلات التربيعية. وهذه هي الدالة $QUADEQ$ التي يكون مدخلها قائمة متعدّدي الحدود في $n$ متغيّرًا $p_0,\ldots,p_{m-1}:\R^n \rightarrow \R$ ذات رتبة لا تتجاوز اثنين (أي إنّها تربيعية) وذا معاملات صحيحة. (شرط الأخير فقط من أجل راحتنا ويمكن تحقيقه بالتحجيم.) ونعرّف $QUADEQ(p_0,\ldots,p_{m-1})$ بأنه يساوي $1$ إذا وفقط إذا وُجد حلّ $x\in \R^n$ للمعادلات $p_0(x)=0$، $p_1(x)=0$، $\ldots$، $p_{m-1}(x)=0$.

مثلًا، ما يلي مجموعة معادلات تربيعية في المتغيّرات $x_0,x_1,x_2$: $$\begin{aligned} x_0^2 - x_0 &= 0 \\ x_1^2 - x_1 &= 0 \\ x_2^2 - x_2 &= 0 \\ 1-x_0-x_1+x_0x_1 &= 0 \end{aligned}$$ ويمكنك أن تتحقّق أنّ $x \in \R^3$ يُرضي مجموعة المعادلات هذه إذا وفقط إذا كان $x \in \{0,1\}^3$ و $x_0 \vee x_1 = 1$.

INPUT: Set $E$ of linear equations over $n$ variables $x_0,\ldots,x_{n-1}$.

OUTPUT: Set $E'$ of quadratic equations over $m$ variables $w_0,\ldots,w_{m-1}$ such that there is an $0/1$ assignment $x\in \{0,1\}^n$
satisfying the equations of $E$ iff there is an assignment $w \in \R^m$ satisfying the equations of $E'$.
That is, $01EQ(E) = QUADEQ(E')$.

Let $m \leftarrow n$.
Variables of $E'$ are set to be same variable $x_0,\ldots, x_{n-1}$ as $E$.
For{every equation $e\in E$}
  Add $e$ to $E'$
endfor
For{$i\in [n]$}
   Add to $E'$ the equation $x_i^2 - x_i = 0$.
endfor
return $E'$ 

مسألة مجموع جزئي من مجموعة

وك نتيجة أخرى لاختزال $3SAT$ إلى $01EQ$، يمكننا أيضًا أن نُبيّن أنّ $3SAT$ (عبر $01EQ$) يختزل إلى مسألة مجموع الجزئية (subset sum) (المعروفة أيضًا بمسألة الحقيبة (knapsack)). في مسألة مجموع الجزئية، يُعطى لنا قائمة أعداد صحيحة $x_0,\ldots,x_{n-1} \in \mathbb{Z}$ وعدد صحيح $T\in\mathbb{Z}$. ونحتاج إلى تحديد ما إذا كانت هناك مجموعة من هذه الأعداد مجموعها $T$ أم لا. أي أنّه، لـ $x_0,\ldots,x_{n-1},T \in \mathbb{Z}$، لدينا $SSUM(x_0,\ldots,x_{n-1},T)=1$ إذا وفقط إذا وُجدت $S\subseteq [n]$ بحيث $\sum_{i\in S} x_i = T$. ولاحظ أنّ طول المدخل في مسألة مجموع الجزئية هو طول السلسلة اللازمة لترميز كل الأعداد، أي ما يقارب $\lceil \log T \rceil + \sum_{i=0}^n \lceil \log x_i \rceil$، بما أنّ ترميز عدد صحيح $x$ بالتمثيل الثنائي يتطلّب $\lceil \log x \rceil$ بتّ.

INPUT: Set $E = \{ e_t \}_{t\in [m]}$ of $m$ linear equations over $n$ variables $x_0,\ldots,x_{n-1}$.

OUTPUT: Numbers $y_0,\ldots,y_{n-1},T \in \mathbb{Z}$ such that there is an $0/1$ assignment $x\in \{0,1\}^n$ satisfying the equations of $E$ iff there is $S \subseteq [n]$ such that $\sum_{i\in S}y_i = T$.

For{every equation $e_t\in E$}
  Let $A \subseteq [n]$ and $b\in \mathbb{Z}$ be such that $e_t$ has the form $\sum_{i\in A} x_i = b$
  Let $v_i^t \leftarrow 1$ -if $i\in A$ and $v_i^t \leftarrow  0$ otherwise.
  Let $b_t  \leftarrow  b$. 
endfor
Set $B \leftarrow 2n$
For{$i\in [n]$}
   Let $y_i \leftarrow \sum_{t=1}^m B^t v_i^t$. 
endfor
Let $T \leftarrow  \sum_{t=1}^T B^t b_t$
return $y_0,\ldots,y_{n-1},T$

مسألة المجموعة المستقلّة

بالنسبة إلى رسم بياني $G=(V,E)$، فإنّ المجموعة المستقلّة (independent set) (المعروفة أيضًا بـ_مجموعة مستقرّة_) هي مجموعة جزئية $S \subseteq V$ بحيث لا توجد حواف لهِمَا طرفاه في $S$ (بعبارة أخرى، $E(S,S)=\emptyset$). كلّ «مفرد» (singleton) (أي مجموعة تتكوّن من رأس واحد) هو بطبيعة الحال مجموعة مستقلّة، لكنّ إيجاد المجموعات المستقلّة الأكبر قد يكون صعبًا. ومسألة أكبر مجموعة مستقلّة (maximum independent set) (ونسميها من الآن فصاعدًا «مجموعة مستقلّة») هي مهمّة إيجاد أكبر مجموعة مستقلّة في الرسم البياني. والمسألة المستقلّة ترتبط طبيعيًا بـ_مسائل الجدولة_: فإذا وضعنا حافة بين مهمّتين متعارضتين، فإنّ المجموعة المستقلّة تقابل مجموعة مهمّات يمكن جدولتها جميعًا معًا دون تعارض. وقد دُرست مسألة المجموعة المستقلّة في سياقات متنوّعة، منها مثلًا حالة الخوارزميات التي تجد البنية في رسوم تفاعل البروتينات (protein-protein interaction graphs).

كما ذُكر في تعريفات رسمية للمسائل، فإنّنا ننظر إلى مسألة المجموعة المستقلّة على أنّها الدالة $ISET:\{0,1\}^* \rightarrow \{0,1\}$ التي، على مدخل رسم بياني $G$ وعدد $k$، تُخرج $1$ إذا وفقط إذا كان الرسم البياني $G$ يحوي مجموعة مستقلّة من حجم $k$ على الأقل. ونختزل الآن 3SAT إلى المجموعة المستقلّة.

INPUT: $3SAT$  formula $\varphi$ with $n$ variables and $m$ clauses.

OUTPUT: Graph $G=(V,E)$ and number $k$, such that $G$ has an independent set of size $k$ iff $\varphi$ has a satisfying assignment.
That is, $3SAT(\varphi) = ISET(G,k)$, 

Initialize $V \leftarrow \emptyset, E \leftarrow \emptyset$
For {every clause $C = y \vee y' \vee y''$ of $\varphi$}
  Add three vertices $(C,y),(C,y'),(C,y'')$ to $V$
  Add edges $\{ (C,y), (C,y') \}$, $\{(C,y'),(C,y'') \}$, $\{ (C,y''), (C,y) \}$ to $E$.
endfor
for {every distinct clauses $C,C'$ in $\varphi$}
  for {every $i\in [n]$}
      if{$C$ contains literal $x_i$ and $C'$ contains literal $\overline{x}_i$}
          Add edge $\{ (C,x_i), (C',\overline{x}_i) \}$ to $E$
      endif
  endfor
endfor
return $(G=(V,E), m)$

INPUT: Graph $G=(V,E)$ and number $k$.

OUTPUT: Graph $H=(V',E')$ and number $k'$, such that $G$ has a vertex cover of size $k$ iff $H$ has a dominating set of size $k'$, that is, $DS(H,k') = VC(G,k)$.

Initialize $V' \leftarrow V, E' \leftarrow E$
For {every edge $\{u,v\} \in E$}
  Add vertex $w_{u,v}$ to $V'$
  Add edges $\{ u, w_{u,v} \}$, $\{ v, w_{u,v} \}$  to $E'$.
endfor
Let $\ell \leftarrow$ number of isolated vertices in $G$
return $( H=(V',E') \;,\;  k+\ell)$