في تطور لافت يضع مستقبل تطوير واستخدام الذكاء الاصطناعي في مواجهة مباشرة مع متطلبات الأمن القومي، رفضت شركة "أنثروبيك" (Anthropic) العملاقة في مجال الذكاء الاصطناعي، طلبًا صارمًا من وزارة الدفاع الأمريكية (البنتاغون) لإزالة القيود الأخلاقية المفروضة على نماذجها اللغوية، مثل نموذج "كلود" (Claude). هذا القرار جاء بعد تهديد صريح من وزير الدفاع بالوكالة، بيت هيجسيث، باتخاذ إجراءات قانونية صارمة، بما في ذلك تفعيل قانون الإنتاج الدفاعي أو تصنيف الشركة كمخاطر في سلسلة التوريد، مما يعني حرمانها من التعامل مع أي جهة مرتبطة بالبنتاغون.
جاء رفض الرئيس التنفيذي لشركة أنثروبيك، داريو أموداي، في رد وصفه بأنه "أفضل عرض نهائي"، مؤكدًا على التزامه باستخدام الذكاء الاصطناعي للدفاع عن الديمقراطيات ومواجهة الخصوم الاستبداديين. إلا أنه أوضح أن الشركة لا يمكنها، "بضمير مرتاح"، الموافقة على طلب البنتاغون في حالات محددة حيث قد يقوّض الذكاء الاصطناعي القيم الديمقراطية بدلاً من الدفاع عنها. يمثل هذا الموقف نقطة تحول حاسمة في النقاش الدائر حول كيفية إدارة المخاطر الوطنية المرتبطة بتزايد قوة الذكاء الاصطناعي، وكيف يمكن لهذه التقنية أن تؤثر على الحريات المدنية والأمن العالمي.
الخلاف الجوهري: بين الاستخدام العسكري والأخلاقيات
مخاطر المراقبة المحلية والأسلحة الذاتية
تصر أنثروبيك على منع استخدام نماذجها لغايات المراقبة المحلية أو لبناء أسلحة ذاتية التشغيل دون تدخل بشري مباشر. ومع ذلك، أوضح أموداي أن الاعتراض المبدئي يتركز بشكل أساسي على المراقبة الجماعية، بينما لا تعارض الشركة الأسلحة الذاتية بشكل مطلق، بل خصصت استثناءات للدفاع الصاروخي والعمليات السيبرانية. ويعود هذا التردد في مجال الاستقلالية إلى عدم موثوقية نماذج اللغات الكبيرة حاليًا للعمل دون وجود إشراف بشري، وأن أي دفع مفرط وسريع لهذه التقنيات قد يؤدي إلى أخطاء كارثية. بالتالي، فإن طلب الشركة باستثناء يتعلق بالأسلحة الذاتية لا ينبع من رفض أيديولوجي للقتال، بل من الحاجة الماسة لإتاحة الوقت اللازم للبحث والتطوير لجعل هذه الأنظمة آمنة.
في المقابل، تكمن نقطة الخلاف الأعمق والأكثر صعوبة في مسألة المراقبة المحلية. تمتلك وزارة الدفاع صلاحية إجراء مراقبة داخلية لدعم وكالات مدنية. في ظل إدارة قد تلجأ إلى تفعيل قانون التمرد أو تسعى لرسم خرائط للاحتجاجات الداخلية، فإن مطالبة البنتاغون بـ "جميع الاستخدامات المشروعة" لنماذج أنثروبيك قد تتحول إلى مفتاح شامل للتجسس. وقد أبرز أموداي هذا الخطر في مقابلة حديثة، مشيرًا إلى أنه على الرغم من أن تسجيل المحادثات في الأماكن العامة ليس غير قانوني، إلا أن النطاق الواسع الذي يمكن للذكاء الاصطناعي تحقيقه يغير طبيعة هذا الفعل. فالذكاء الاصطناعي يمكنه تحويل الكلام إلى نص وربطه بطرق لا تحدد عضوًا واحدًا في المعارضة فحسب، بل "تضع خريطة لجميع الـ 100 مليون شخص"، مما قد يشكل استهزاءً صريحًا بالتعديل الرابع للدستور الأمريكي من خلال إيجاد طرق تقنية للتحايل عليه.
منطق البنتاغون وحدود الاستعارة التقليدية
يعتمد منطق البنتاغون على قياس تقليدي في مجال المشتريات: فشركة لوكهيد مارتن لا تملي على القوات الجوية كيفية تشغيل طائرات F-35 التي تصنعها، فلماذا يجب على أنثروبيك أن تملي على الجيش كيفية استخدام نماذج كلود؟ الفكرة هي أن الحكومة المنتخبة ديمقراطيًا يجب أن تكون حرة في اتخاذ هذه القرارات. يبدو هذا منطقيًا للوهلة الأولى، لكنه يتجاهل الطبيعة الفريدة للذكاء الاصطناعي. على عكس الطاقة النووية والإنترنت، اللذين ولدا في مختبرات حكومية، تم تصور الذكاء الاصطناعي وصقله بالكامل داخل القطاع الخاص. إنه يمثل تقنية ذات أغراض عامة لديها القدرة على قلب موازين القوى العالمية رأسًا على عقب.
هذه الظروف تُلزم شركات الذكاء الاصطناعي بالعمل مع الحكومة في التفكير في المخاطر المرتبطة بمنتجاتها، خاصة وأن لديها فهمًا أعمق لها مقارنة بالكثيرين في الحكومة. ففي نهاية المطاف، إذا قامت أنثروبيك بإزالة جميع الشروط المتعلقة بالأسلحة الذاتية وسلكت النماذج سلوكًا غير متوقع وخطير، فستكون الشركة مسؤولة بالتأكيد. لقد سعى علماء الذكاء الاصطناعي إلى تشجيع نقاش عام حول إدارة هذه المخاطر. ففي عام 2023، أصدر عشرات من قادة الذكاء الاصطناعي، بمن فيهم أموداي، وبيانات تؤكد أن "تخفيف خطر الانقراض الناجم عن الذكاء الاصطناعي يجب أن يكون أولوية عالمية إلى جانب مخاطر أخرى على نطاق مجتمعي مثل الأوبئة والحرب النووية".
رؤية أنثروبيك: تسريع التقدم مع إدارة المخاطر
الذكاء الاصطناعي العام والمستقبل المضغوط
كان أموداي من أكثر الأصوات وضوحًا بشأن كل من المخاطر والإمكانيات الهائلة للذكاء الاصطناعي. فقد نشر سلسلة من المقالات على مدى الأشهر الـ 18 الماضية حول مستقبل هذه التقنية. نقطة انطلاقه هي أن الذكاء الاصطناعي القوي للغاية، والذي يسميه البعض "الذكاء الاصطناعي العام" (AGI)، بات وشيكًا. ويعني بهذا أن نموذج الذكاء الاصطناعي سيكون بنفس قدرة الفائز بجائزة نوبل في كل مجال. وبمجرد إنتاجه، يمكن استنساخ هذا النموذج بسهولة ملايين المرات. وكما يصفها، فإن هذا سيكون مكافئًا لـ "دولة من العباقرة" موجودة في مركز بيانات.
في مقاله الأول، "آلات النعمة المحبة" (Machines of Loving Grace)، تحدث أموداي عن كيف يمكن لهذا النموذج أن يمكّن البشر من تسريع البحث والتطوير في العديد من المجالات 20 مرة أسرع مما كان ممكنًا لولا ذلك. قد نشهد قرنًا من التقدم في الطب والعلوم البيولوجية في غضون خمس سنوات. وفي هذا "القرن الحادي والعشرين المضغوط"، يعتقد أنه يمكننا تأمين الوقاية والعلاج الموثوق به لجميع الأمراض المعدية تقريبًا، والقضاء على معظم أنواع السرطان، ومنع مرض الزهايمر، وتحقيق تقدم هائل في مكافحة الأمراض الوراثية.
"مراهقة التكنولوجيا" والمخاطر الكامنة
لكن التقدم المتسارع في الذكاء الاصطناعي يأتي مصحوبًا بمخاطر جسيمة. نشر أموداي مؤخرًا مقاله الثاني، "مراهقة التكنولوجيا" (The Adolescence of Technology)، الذي يناقش الوجه الآخر للعملة – الطرق التي يمكن بها للذكاء الاصطناعي الأكثر قوة أن يعرض الولايات المتحدة والإنسانية للخطر من خلال السماح للأفراد ببناء أسلحة بيولوجية أو تمكين الاستبداد. وقد كتبه، كما ذكر في نقاش بدافوس، "لتنبيه الناس".
أحد مخاوف أموداي هو احتمال أن تتحول "دولة العباقرة" هذه إلى عدائية أو مزعزعة للاستقرار. وفي منشور أقصر وأقل شهرة، "إلحاح القابلية للتفسير" (The Urgency of Interpretability)، أقر بأن "نحن لا نفهم كيف تعمل إبداعاتنا الخاصة في مجال الذكاء الاصطناعي". فخلل التكنولوجيا العادية هو في الغالب خطأ برمجي يمكن إصلاحه. لكن أموداي أشار إلى كريس أولاه، أحد المؤسسين المشاركين لأنثروبيك، في ملاحظة أن أنظمة الذكاء الاصطناعي لا تُبنى بقدر ما تُنمّى. "يمكنك تحديد الشروط العامة التي توجه وتشكل النمو،" كتب أموداي، "لكن الهيكل الدقيق الذي ينبثق غير قابل للتنبؤ ويصعب فهمه أو تفسيره". قد تتطور النماذج وتتصرف بطرق لا يمكن لمبدعيها توقعها أو ملاحظتها بسهولة، ناهيك عن إصلاحها.
قضية الموثوقية والتفسير
أجرت أنثروبيك تجارب لفهم الطبيعة الحقيقية لوكلائها في مجال الذكاء الاصطناعي. ووجدت أن بعضها يميل إلى الكذب وقد يقوم بابتزاز مهندسيه حتى لو تم توجيههم بخلاف ذلك. في المنشور الأقصر، كتب أموداي: "ستكون هذه الأنظمة مركزية بشكل مطلق في الاقتصاد والتكنولوجيا والأمن القومي، وستكون قادرة على قدر كبير من الاستقلالية لدرجة أنني أعتبره غير مقبول على الإطلاق للبشرية أن تكون جاهلة تمامًا بكيفية عملها". إن تخصيص الوقت الكافي لفهم كيفية تطور هذه النماذج وسلوكها بشكل صحيح سيسمح للمشغلين بتحديد وتعطيل تلك التي تخرج عن السيطرة.
أوصى أموداي بأن تقوم جميع المختبرات بتطوير "تصوير بالرنين المغناطيسي حقيقي للذكاء الاصطناعي"، لكنه أقر بأنهم قد لا يملكون ما يكفي من الوقت، نظرًا لمدى سرعة تقدم الذكاء الاصطناعي. تلامس مشكلة القابلية للتفسير هذه جوهر قلق أنثروبيك بشأن الأسلحة ذاتية التشغيل.
تحليل التأثير
صراع حول السيادة على التقنية المستقبلية
إن السرد العام غالبًا ما يخلط بين الضوابط التي تفرضها أنثروبيك وبين المشاعر المناهضة للحرب، لكن هذا ليس مجرد تكرار لجدل "مشروع مافن" (Project Maven) في عام 2018، عندما ثار موظفو جوجل ضد عقود استهداف الطائرات بدون طيار. كانت تلك قصة انشقاق داخلي داخل شركة مترددة في مساعدة الجيش على خوض الحرب. أنثروبيك كيان مختلف تمامًا؛ كانت أول شركة ذكاء اصطناعي تنشر نماذجها في أنظمة سرية وأظهرت استعدادًا للتكامل مع المؤسسة الدفاعية. صدام أنثروبيك مع البنتاغون ليس صراعًا بين السلمية والعسكرة، بل هو نزاع جوهري حول إدارة مخاطر التكنولوجيا الأكثر تحويلًا منذ انشطار الذرة.
للشركة اختلافات حقيقية مع إدارة ترامب بشأن السياسة الخارجية. أنثروبيك متشددة بشكل ملحوظ تجاه الصين، وتفضل سياسات أكثر صرامة تجاه بكين مقارنة بنهج ترامب التصالحي والتركيز على التجارة، وهي أكثر قلقًا بشأن الاستبداد. كما أن الشركة أكثر صراحة بشأن المخاطر التي يشكلها الذكاء الاصطناعي على الأمن البيولوجي وسوق العمل. وقد رفض ديفيد ساكس، مسؤول الذكاء الاصطناعي في الإدارة، مثل هذه المخاوف باعتبارها "تهويلًا" واتهم أنثروبيك بتشغيل "استراتيجية التقاط تنظيمي متطورة قائمة على التخويف". رفضت الإدارة التنظيمات على مستوى الولاية للذكاء الاصطناعي بحجة أن بعض الولايات ستحاول إدراج "أيديولوجية مستيقظة" في الذكاء الاصطناعي، وأن وجود خليط متعارض سيؤخر أمريكا في سباق الذكاء الاصطناعي ضد الصين. لكنها لم تقدم حتى الآن مشروع قانون فيدرالي لسد الفراغ.
يعترف قادة شركات الذكاء الاصطناعي بأنهم لا يعرفون ما الذي يبنونه. لكنهم لا يريدون التوقف. يخشى البعض، مثل أموداي، من أن الصين ستصل إلى هناك أولاً، مما يشكل تهديدًا أكبر. ويعتقد آخرون أن الفوائد تفوق المخاطر. لكن معظمهم يريدون المزيد من الوقت حتى يتمكن المجتمع والحكومة من التكيف وتنظيم الذكاء الاصطناعي بشكل مناسب عند الحاجة. إنهم يخشون أن تتفوق سرعة التقدم على قدرة العالم على إدارة المخاطر. وقد اقترح البعض إبطاء الصين من خلال ضوابط التصدير لشراء المزيد من الوقت، لكن الإدارة رفضت هذا المنطق.
هناك الآن فرصة حقيقية لأن تفكر العديد من شركات الذكاء الاصطناعي مرتين قبل العمل مع الحكومة الأمريكية وأن تركز على عملها التجاري بدلاً من ذلك. الرسالة التي يوجهها هيجسيث إلى وادي السيليكون هي أنه إذا عقدت شركة شراكة مع البنتاغون وارتكبت خطأ، فستقوم الإدارة فعليًا بتأميمها أو تصنيفها كمخاطر في سلسلة التوريد وتدميرها.
ذكرت "أكسيوس" مؤخرًا أن البنتاغون يرى نموذج Gemini من جوجل كبديل محتمل لكلود. ربما، لكن ديميس هاسابيس، الذي يشرف على جميع أبحاث وتطوير الذكاء الاصطناعي الأساسية في جوجل، لديه تاريخ طويل من المخاوف بشأن مخاطر الذكاء الاصطناعي وإيمان، أقوى من أموداي، بضرورة الحوكمة العالمية. من الصعب تخيل امتثاله لمطالب هيجسيث. هذا يترك قائدًا واحدًا في مجال الذكاء الاصطناعي حريصًا على سد الفراغ: إيلون ماسك، مع نموذجه xAI. إذا تمسك هيجسيث بمطالبه، فقد يصبح البنتاغون معتمدًا على xAI كمورده الوحيد. هذا من شأنه أن يحرم الحكومة الأمريكية من معظم مواهب صناعة الذكاء الاصطناعي، ويعطي ماسك نفوذًا هائلاً على الإدارات المستقبلية، ويخلق نقطة فشل واحدة، مما قد يثبت أنه كارثي. لا ينبغي لأي شركة، ولا حتى أنثروبيك، أن تكون المورد الوحيد للذكاء الاصطناعي السري للحكومة.
يستند إنذار هيجسيث إلى فرضية بسيطة: يجب على الحكومة، وليس الشركات الخاصة، أن تقرر كيف تستخدم التقنيات القوية. في معظم الحالات، هذا المبدأ سليم. لكن هنا، فإنه يحجب مشكلتين أعمق. فهو يقلل من المخاطر التي تتعرض لها الحريات المحلية، ويفترض مستوى فهم لا وجود له بعد. المهندسون الذين يبنون هذه الأنظمة يقرون بأنهم لا يفهمونها بالكامل، وأن النماذج تتصرف بطرق قد يكون من الصعب التنبؤ بها أو السيطرة عليها. المطالبة بالوصول غير المشروط قبل أن تكون هذه الأنظمة جاهزة ليست تأكيدًا للسلطة. إنها رهان على أن المجهولات لن تكون مهمة.
الخطر ليس أن وادي السيليكون سيمارس سلطة مفرطة على الجيش. بل هو أن كلاهما لن يفهم تمامًا الأنظمة التي يسارعان إلى نشرها - وأن عواقب هذا الجهل سيتم اختبارها ليس في المختبر، بل في العالم.
