هنري كيسنجر: وزير الخارجية، ومستشار الأمن القومي الأمريكي في إدارتي ريتشارد نيكسون وجيرالد فورد (١٩٦٩-١٩٧٧)
قبل ثلاث سنوات، ظهر موضوع الذكاء الاصطناعي على جدول الأعمال في مؤتمر حول القضايا عبر الأطلسية، وقد كنت على وشك التغيب عن تلك الجلسة؛إذ كانت خارج اهتماماتي المعتادة – لكن بداية العرض التقديمي أجبرتني على الجلوس في مقعدي.
وصف المتحدث طريقة عمل برنامج كمبيوتر من شأنه أن يتحدى قريبًا أبطالاً دوليين في لعبة جوGO . لقد دهشت من قدرة الكومبيوتر على إتقان اللعبة، علمًا بأنها لعبة أكثر تعقيدًا من الشطرنج. فمن ضمن قواعد اللعبة أن ينشر كل لاعب 180 أو 181 قطعة (اعتمادًا على اللون الذي يختاره)، يتم وضعها بالتناوب على لوحة فارغة في البداية؛ ويكون النصر حليف الجانب الذي يجمد حركة خصمه من خلال السيطرة بشكل أكثر فعالية على رقعة اللعبة من خلال اتخاذ قرارات استراتيجية أفضل.
أصرّ المتحدث على أنه لا يمكن برمجة هذه القدرة مسبقًا. وقال في معرض حديثه إن آلته تعلمت إتقان اللعبة من خلال تدريب نفسها بالممارسة. ومع إمداده بقواعد اللعبة الأساسية، لعب الكمبيوتر عددًا لا يحصى من المباريات ضد نفسه، حيث تعلم من أخطائه وصقل خوارزمياته تباعًا. في هذه العملية، تجاوزت الآليه مهارات معلمها البشري. وبالفعل، في الأشهر التي تلت الخطاب، كان برنامج الذكاء الاصطناعي المسمى ألفا جو AlphaGo قد هزم بشكل حاسم أعظم لاعبي اللعبة في العالم.
بينما كنت أستمع إلى المتحدث وهو يحتفي بهذا التقدم التقني، جعلتني خبرتي كمؤرخ ورجل دولة ممارس في بعض الأحيان أتوقف أمام هذا الحديث. فما سيكون تأثير آلات التعلم الذاتي على التاريخ – الآلات التي اكتسبت المعرفة من خلال عمليات خاصة بها، وطبقت هذه المعرفة في غايات قد لا يدركها الفهم البشري؟ هل ستتعلم هذه الآلات التواصل مع بعضها البعض؟ كيف ستُصنع القرارات بين الخيارات الناشئة؟ هل كان من الممكن أن يسير التاريخ البشري في طريق الإنكا[1]، في مواجهة ثقافة إسبانية غير مفهومة وحتى مخيفة لهم؟ هل كنا على حافة مرحلة جديدة من تاريخ البشرية؟
وإدراكًا لافتقاري للكفاءة الفنية في هذا المجال، قمت بتنظيم عدد من الحوارات غير الرسمية حول هذا الموضوع، بمشورة وتعاون مع مجموعة من المعارف في مجاليّ التكنولوجيا والعلوم الإنسانية. وقد تسببت هذه المناقشات في زيادة مخاوفي.
من قبل، تمثل التقدم التكنولوجي الذي غير معظم مسار التاريخ الحديث في اختراع المطبعة في القرن الخامس عشر، مما سمح للبحث عن المعرفة التجريبية أن يحل محل المبدأ الطقوسي، وعصر العقل ليحل محل عصر الدين تدريجيًا. استبدلت البصيرة الفردية والمعرفة العلمية الإيمان كمعيار رئيسي للوعي البشري. تم تخزين المعلومات وتنظيمها في توسيع المكتبات. عصر العقل أنشأ الأفكار والأفعال التي شكلت النظام العالمي المعاصر.
لكن هذا النظام في حالة اضطراب الآن وسط ثورة تكنولوجية جديدة أكثر شمولاً فشلنا في حساب عواقبها بشكل كامل، والتي قد تصل ذروتها إلى أن يتأسس عالم يعتمد على الأجهزة التي تعمل بالبيانات والخوارزميات ولا تخضع للمعايير الأخلاقية أو الفلسفية.
إن عصر الإنترنت الذي نعيش فيه يتنبأ بالفعل ببعض الأسئلة والقضايا التي سيجعلها الذكاء الاصطناعي أكثر حدة. سعى عصر التنوير إلى إخضاع الحقائق التقليدية إلى العقل البشري التحليلي المتحرر. وهكذا، كان الغرض من الإنترنت هو إجازة المعرفة من خلال تراكم ومعالجة البيانات المتزايدة باستمرار. وهذا ما سؤدي إلى أن يفقد الإدراك البشري ميزاته. ويتحول الأفراد إلى بيانات ، وتسود السيطرة للبيانات.
يؤكد مستخدمو الإنترنت على قدرتهم على استرجاع المعلومات ومعالجتها أكثر من قدرتهم على الاعتناء بسياقها أو إضفاء تصور على معناها. لكنهم نادرًا ما يتحرون التاريخ أو الفلسفة؛ وكقاعدة عامة، فهم يطلبون معلومات ذات صلة باحتياجاتهم العملية الفورية. في هذه العملية، تكتسب خوارزميات محرك البحث القدرة على التنبؤ بتفضيلات العملاء، مما يمكّن الخوارزميات من التنبؤ بالنتائج وإتاحتها لأطراف أخرى لأغراض سياسية أو تجارية. عندئذ تصبح الحقيقة نسبية. وتهدد المعلومات بالتغلب على الحكمة.
يبتعد هؤلاء المستخدمون الذين تستغرقهم آراء عموم المستخدمين على وسائل التواصل الاجتماعي عن التآمل في ذواتهم. في الواقع، يستخدم العديد من محبي التكنولوجيا الإنترنت لتجنب العزلة التي يخشونها. غير أن الضغوطات الناتجة عن الانخراط في وسائل التواصل تضعف الجلد اللازم لتطوير واستمرار قناعات لا يمكن تنفيذها إلا من خلال السير في الطريق وحيدًا، وهذا هو جوهر الإبداع.
إن تأثير تكنولوجيا الإنترنت على السياسة واضح بشكل خاص. وقد أدت القدرة على استهداف المجموعات الصغيرة إلى كسر الإجماع السابق على الأولويات من خلال السماح بالتركيز على أهداف خاصة أو المظالم. من جهة أخرى، يحرم القادة السياسيون الذين يعانون من ضغوط بسبب منصبهم من الوقت للتأمل أو التفكير وفقًا للسياق، بسبب تقلص المساحة المتاحة لهم لتطوير رؤيتهم.
إن تأكيد العالم الرقمي على السرعة يمنع التأمل ؛ كما أنه يدفع إلى التفكير الجذري بدلاً من التفكير المتبصر؛ وتتشكل قيمه وفقًا لإجماع المجموعات الصغيرة، وليس وفقًا لتأمل الذات. لكن رغم كل هذه الإنجازات التي صنعتها تكنولوجيا الإنترنت، أنها تخاطر بالانقلاب على نفسها؛ إذ أن أعباءها تطغى على فوائدها.
نظرًا لأن الإنترنت وقوة الحوسبة المتزايدة قد سهلا من تراكم وتحليل البيانات الضخمة، فقد ظهرت آفاق غير مسبوقة للفهم البشري. ولعل الأهم من ذلك هو مشروع إنتاج الذكاء الاصطناعي – وهي تقنية قادرة على اختراع وحل المشكلات المعقدة التي تبدو مجردة من خلال عمليات يبدو أنها تستنسخ العمليات الخاصة بالعقل البشري.
يتجاوز هذا كثيرًا عملية الأتمتة Automation كما عهدناها. إذ أن الأتمتة تتعامل مع الوسائل؛ أنها تحقق الأهداف المنصوص عليها عن طريق ترشيد أو ميكنة الأدوات للوصول إليها. في المقابل، يتعامل الذكاء الاصطناعي مع الغايات؛ أنه يحدد أهدافه الخاصة. إلى الحد الذي تعد فيه إنجازات الذكاء الاصطناعي جزءًا منه، يكون هذا الذكاء غير مستقر بطبيعته؛ فأنظمته تتغير باستمرار لأنها دائمًا ما تحصل على بيانات جديدة وتقوم بتحليلها على الفور.، ثم تسعى إلى تحسين نفسها على أساس هذا التحليل. من خلال هذه العملية، يطور الذكاء الاصطناعي قدرة كان يُعتقد سابقًا أنها محصورة على البشر. ويصدر أحكامًا استراتيجية حول المستقبل، يعتمد بعض هذه الأحكام على البيانات التي يتم تلقيها كرموز (على سبيل المثال، قواعد اللعبة)، وبعضها يعتمد على البيانات التي تجمعها نفسها (على سبيل المثال، من خلال لعب تكرار اللعبة لمليون مرة).
توضح حالج السيارة ذاتية القيادة الفرق بين أفعال أجهزة الكمبيوتر التقليدية التي يتحكم فيها الإنسان والتي تعمل بالبرمجيات والعالم الذي يسعى الذكاء الاصطناعي للتنقل فيه. تتطلب قيادة السيارة أحكامًا في مواقف متعددة من المستحيل توقعها وبالتالي من الصعب برمجتها مسبقًا. ماذا سيحدث، عند استخدام مثال افتراضي معروف، إذا كانت هذه السيارة محكومة بالظروف للاختيار ما بين قتل جد وقتل طفل؟ ماذا ستختار؟ ولماذا؟ وما العوامل من بين خياراتها المتاحة التي ستحاول تطويرها؟ وهل يمكن أن تشرح المنطق الذي اختارت على أساسه؟ من الصعب ذلك. ولو كانت قادرة على التواصل، فمن المحتمل أن تكون إجابتها الصادقة: “لا أعرف (لأنني أتبع مبادئ رياضية، ولست بشرًا)“، أو “لن تفهم ما أعنيه (لأنني قد تدربت على التصرف بطريقة معينة ولكن ليس لديّ تفسير ذلك)”. ومع ذلك، من المرجح أن تسود السيارات بدون سائق على الطرق خلال عقد من الزمان.
سابقًا كانت أبحاث الذكاء الاصطناعي على مجالات معينة من النشاط البشري. أما الآن، فتسعى الآن إلى إحداث ذكاء اصطناعي “ذكي بشكل عام” وقادر على تنفيذ المهام في مجالات متعددة. كما أن نسبة متنامية من النشاط البشري ستقودها خورزميات الذكاء الاصطناعي خلال فترة زمانية يمكن حسابها. لكن هذه الخوارزميات، بما أنها تفسيرات رياضية للبيانات المرصودة، لا تفسر الواقع الأساسي الذي ينتج عنها. ومن المفارقات، أنه عندما يصبح العالم أكثر شفافية، سيزداد غموضًا. ما الذي يميز هذا العالم الجديد عن العالم الذي عرفناه؟ كيف سنعيش فيه؟ كيف سندير الذكاء الاصطناعي، أو نطوره، أو على الأقل نمنعه من إلحاق الضرر بنا، والذي يتمثل في أكثر المخاوف تشاؤمًا: وهو أن يتحول الذكاء الاصطناعي من خلال إتقان بعض القدرات أسرع وأفضل من البشر إلى أن يحد من الكفاءة البشرية بمرور الوقت، وأن يتحول الوضع الإنساني إلى مجرد بيانات.
سوف يجلب الذكاء الاصطناعي في الوقت المناسب فوائد غير عادية للعلوم الطبية وتوفير الطاقة النظيفة والمسائل البيئية والعديد من المجالات الأخرى. ولكن على وجه التحديد لأن الذكاء الاصطناعي يصدر أحكامًا بشأن مستقبل متطور، لم يُحدد بعد، فإن عدم اليقين والغموض متأصلان في نتائجه. هناك ثلاثة مجالات ذات أهمية خاصة في هذا الصدد:
أولاً، قد يحقق الذكاء الاصطناعي نتائج غير مقصودة. تخيل الخيال العلمي سيناريوهات ينقلب فيها الذكاء الاصطناعي على مبدعيه. والأرجح هو الخطر المتمثل في إساءته لتفسير التعليمات البشرية بسبب افتقاره إلى السياق. مثال حديث مشهور هو برنامج الدردشة الآلي المدعو تاي، المصمم لتوليد محادثة ودية وفقًا للأنماط اللغوية لفتاة تبلغ من العمر 19 عامًا. لكن التطبيق أثبت عدم قدرته على تحديد ضرورات اللغة “اللطيفة” و”المعقولة” التي وضعها مؤسسوه وبدلاً من ذلك أصبحت لغة التطبيق عنصرية وجنسية وتحريضية. يدعي البعض في عالم التكنولوجيا أن التجربة كانت سيئة التصور والتنفيذ، لكنها توضح غموضًا كامنًا: إلى أي مدى يمكن للذكاء الاصطناعي أن يفهم السياق الذي تم توجيهه على أساسه؟ ما الوسيلة التي يمكن أن تساعد تطبيق تاي على أن ينتبه إلى أنه عدواني، على الرغم من أن البشر لا يتفقون على تعريف واحد لهذه الكلمة على المستوى العالمي؟ هل يمكننا، في مرحلة مبكرة، اكتشاف وتصحيح برنامج ذكاء اصطناعي يعمل خارج إطار توقعاتنا؟ أم أن الذكاء الاصطناعي، متروكًا لأدواته الخاصة، سيطور حتمًا انحرافات طفيفة يمكن أن تتحول بمرور الوقت إلى حالات انحراف كارثية؟
ثانيًا، بالنسبة لتحقيق الأهداف المنشودة، قد يغير الذكاء الاصطناعي عمليات التفكير البشري والقيم الإنسانية. لقد هزم برنامج ألفا جو أبطال العالم في لعبة جو من خلال القيام بتحركات غير مسبوقة استراتيجيًا – تحركات لم يتصورها البشر ولم يتعلموا التغلب عليها بنجاح. هل هذه التحركات تتجاوز قدرة الدماغ البشري؟ أو هل يمكن للبشر تعلمها الآن بعد أن أظهرها المعلم الجديد؟
قبل أن يبدأ الذكاء الاصطناعي في لعب لعبة جو، كانت اللعبة ذات أغراض متنوعة ومتعددة الطبقات: لم يسع اللاعب إلى الفوز فقط، وإنما أيضًا لتعلم استراتيجيات جديدة يمكن تطبيقها على أبعاد أخرى من الحياة. وعلى النقيض من ذلك، يعرف الذكاء الاصطناعي أمرًا واحدًا فقط: الفوز. إنه “يتعلم” ليس من خلال الناحية النظرية ولكن من خلال الرياضيات، من خلال التعديلات الهامشية لخوارزمياته. لذا من أجل تعلم الفوز في اللعبة من خلال اللعب بشكل مختلف عن البشر، غيّر الذكاء الاصطناعي طبيعة اللعبة وتأثيرها. هل يميز هذا الإصرار الأحادي التفكير السائد في جميع برامج الذكاء الاصطناعي؟
تعمل مشروعات الذكاء الاصطناعي الأخرى على تعديل الفكر البشري من خلال تطوير وسائل قادرة على توليد مجموعة من الإجابات على الاستفسارات البشرية. فيما عدا الأسئلة الواقعية (“ما هي درجة الحرارة في الخارج؟”)، تثير الأسئلة حول طبيعة الواقع أو معنى الحياة قضايا أعمق. هل نريد أن يتعلم الأطفال القيم من خلال الخطاب باستخدام خوارزميات غير مترابطة؟ هل يجب أن نحمي الخصوصية بتقييد تعلم الذكاء الاصطناعي على المستجوبين فقط؟ إذا كان الأمر كذلك، فكيف نحقق هذه الأهداف؟
إذا كان الذكاء الاصطناعي يتطور بشكل أسرع من البشر، فيجب أن نتوقع منه أن يسارع على نحو مطرد عملية التجربة والخطأ التي يتم من خلالها اتخاذ القرارات البشرية بشكل عام: أي أن ترتكب أخطاء أسرع وأكثر فداحة من تلك التي يرتكبها البشر. قد يكون من المستحيل تخفيف هذه الأخطاء، كما يشير الباحثون في مجال الذكاء الاصطناعي غالبًا، من خلال تضمين محاذير في البرنامج تتطلب نتائج “أخلاقية” أو “منطقية”. وقد نشأت تخصصات أكاديمية كاملة بسبب عدم قدرة البشرية على الاتفاق على كيفية تحديد هذه الشروط. هل ينبغي أن يصبح الذكاء الاصطناعي هو الفيصل؟
ثالثًا، قد يصل الذكاء الاصطناعي إلى الأهداف المنشودة، دون أن يكون قادرًا على شرح الأساس المنطقي لاستنتاجاته. في مجالات معينة – كالتعرف على الأنماط وتحليل البيانات الضخمة والألعاب – قد تتجاوز قدرات الذكاء الاصطناعي بالفعل قدرات البشر. أما إذا استمرت قوته الحاسوبية في التزايد السريع، فقد يتمكن الذكاء الاصطناعي قريبًا من تحسين المواقف بطرق مختلفة على الأقل هامشيًا، وربما بطريقة مختلفة بشكل كبير، عن الطريقة التـي يحسنها بها البشر. ولكن في هذه المرحلة، هل سيكون الذكاء الاصطناعي قادرًا على التوضيح، بطريقة يفهمها البشر، كون أفعاله هي الأفضل؟ أم أن صنع قرار الذكاء الاصطناعي سيتفوق على القوى التفسيرية للغة البشرية والعقل؟ من خلال التاريخ البشري، خلقت الحضارات طرقًا لتفسير العالم من حولهم – كان الدين هو القدرة التفسيرية في العصور الوسطى، في عصر التنوير، في القرن التاسع عشر، كان التاريخ ؛ في القرن العشرين، كانت الأيديولوجيا. لكن السؤال الأكثر صعوبة والأكثر أهمية حول العالم الذي نتجه إليه هو: ما الذي سيتبقى للوعي البشري إذا تم تجاوز قوته التفسيرية الخاصة به بواسطة الذكاء الاصطناعي، ولم تعد المجتمعات قادرة على تفسير العالم الذي تعيش فيه بعبارات ذات معنى لهم؟
كيف يتم تعريف الوعي في عالم من الآلات تعمل على حصر الخبرة البشرية في البيانات الرياضية، وتفسيرها عن طريق ذكرياته الخاصة؟ من المسؤول عن أعمال الذكاء الاصطناعي؟ كيف يجب تحديد المسؤولية عن أخطائه؟ هل يمكن للنظام القانوني الذي صممه البشر أن يواكب الأنشطة التي ينتجها الذكاء الاصطناعي القادرعلى التفوق والتغلب عليها بشكل محتمل؟
في نهاية المطاف، قد يكون مصطلح الذكاء الاصطناعي تسمية خاطئة. فمن المؤكد أن هذه الآلات يمكنها حل المشكلات المعقدة التي تبدو مجردة والتي كانت مقصورة فيما سبق على العقل البشري. لكنها لا تقوم على نحو فريد بالتفكير كما كنا نتصوره ونختبره.. على العكس من ذلك، فالذكاء الاصطناعي يعبر عن عمليات حوسبة وحفظ للذاكرة غير مسبوقة. بسبب تفوقه المتأصل في هذه المجالات، من المرجح أن يفوز الذكاء الاصطناعي في أية لعبة مخصصة له. ولكن بالنسبة لأغراضنا كبشر، فإن الألعاب لا تتعلق فقط بالفوز؛ لكنها تتعلق بالتفكير. وذلك من خلال التعامل مع العملية الرياضية كما لو كانت عملية فكرية، وإما في محاولة لمحاكاة هذه العملية بأنفسنا أو مجرد القبول بالنتائج، فإننا في خطر فقدان القدرة التي كانت جوهر الإدراك البشري.
تم توضيح آثار هذا التطور من خلال برنامج مصمم حديثًا ، ألفا زيرو،Alpha Zero وهو برنامج يلعب الشطرنج على مستوى أعلى من أساتذة الشطرنج وبأسلوب لم تسبق رؤيته في التاريخ. من تلقاء نفسه، وفي غضون بضع ساعات فقط من اللعب الذاتي، حقق البرنامج مستوى من المهارة استغرق البشر 1500 سنة للوصول إليها. لقد زُود ألفا زيرو بالقواعد الأساسية للعبة فقط. لكن لم يكن أي من البشر ولا البيانات الناتجة عن الإنسان جزءًا من عملية التعلم الذاتي. إذا كان هذا البرنامج قادرًا على تحقيق هذا الإتقان بسرعة كبيرة، فأين سيكون الذكاء الاصطناعي في غضون خمس سنوات؟ ماذا سيكون التأثير على الإدراك البشري بشكل عام؟ ما هو دور الأخلاق في هذه العملية التي تتكون في جوهرها تسريع الاختيارات؟
عادةً ما تُترك هذه الأسئلة للتقنيين وللمثقفين في المجالات العلمية ذات الصلة. يميل الفلاسفة وغيرهم في مجال العلوم الإنسانية الذين ساعدوا في تشكيل المفاهيم السابقة للنظام العالمي إلى الحرمان أو الافتقار إلى المعرفة بآليات الذكاء الاصطناعي أو بقدراته المذهلة. في المقابل، يضطر العالم العلمي إلى استكشاف الإمكانيات التقنية لإنجازاته، والعالم التكنولوجي مشغول بالآفاق التجارية ذات الحجم الكبير. الجدير بالذكر أن الحافز لكلا هذين العالمين هو دفع حدود الاكتشافات بدلاً من فهمها. أما بالنسبة للحكومات، بقدر تعاملها مع هذا الموضوع، فمن المرجح أنه ستكون مشغولة باستكشاف تطبيقات الذكاء الاصطناعي التي تخص قضيتـي الأمن والاستخبارات أكثر من استكشاف تغير الوضع الإنساني الذي حققه هذا الذكاء.
بدأ عصر التنوير برؤى فلسفية تنتشر بتقنية جديدة. أما عصرنا فيتحرك في الاتجاه المعاكس. فقد نتج عنه تقنية محتملة مسيطرة بحثًا عن فلسفة مرشدة. جعلت بلدان أخرى برامج الذكاء الاصطناعي من المشروعات الوطنية الكبرى. لكن لم تستكشف الولايات المتحدة بعد، كأمة، قدراتها الكامل بشكل منهجي في هذا الموضوع، ولم تدرس آثاره، أو تبدأ عملية التعلم النهائي. ومما يمكن أن نقوله أنه يجب إعطاء البرامج التص تخص الذكاء الاصطناعي أولوية وطنية عالية، قبل كل شيء، وذلك من وجهة نظر ربط الذكاء الاصطناعي بالتقاليد الإنسانية.
ينبغي لمطوري الذكاء الاصطناعي، الذين ليس لديهم خبرة في السياسة والفلسفة كانعدام خبرتي في مجال التكنولوجيا، أن يسألوا أنفسهم بعض الأسئلة التي أثرتها هنا من أجل بناء إجابات في جهودهم الهندسية. يجب على الحكومة الأمريكية أن تنظر في تشكيل لجنة رئاسية من المفكرين البارزين للمساعدة في تطوير رؤية وطنية. هذا أمر مؤكد: إذا لم نبدأ هذا الجهد قريبًا، فسوف نكتشف أننا بدأنا بعد فوات الأوان.
———————————–
[1] يشير كيسنجر إلى حضارة الإنكا في جنوب أمريكا اللاتينية وهلاكها على يد الفاتحين الإسبان الذين امتلكوا أدوات حربية وأساليب إدارة ومعرفة أكثر تطورًا (المحرر)
