في تطور مفاجئ يلقي بظلاله على مستقبل تطوير الذكاء الاصطناعي واستخدامه في المجالات الدفاعية، رفضت شركة "أنثروبيك"، الرائدة في هذا المجال، طلبًا صارمًا من وزارة الدفاع الأمريكية (البنتاغون). وقد جاء هذا الرفض في أعقاب إنذار نهائي قدمه وزير الدفاع، بيت هيغسيث، للرئيس التنفيذي للشركة، داريو أمودي، يطالب فيه بإزالة القيود الأخلاقية والضوابط من نماذج الذكاء الاصطناعي الخاصة بالشركة، وتحديدًا نموذج "كلود" (Claude)، بحلول يوم الجمعة. هدد هيغسيث في حال عدم الامتثال، بتفعيل قانون الإنتاج الدفاعي لفرض التعاون، أو الأسوأ من ذلك، تصنيف "أنثروبيك" كخطر في سلسلة التوريد، مما يعني حظرها فعليًا من التعامل مع أي جهة مرتبطة بالبنتاغون.
جاء رد أمودي مساء الأمس، قاطعًا ودون تردد. أكد أمودي رفضه لما وصفه بـ "أفضل وأخير عرض" من البنتاغون، مشيرًا إلى إيمانه العميق بالأهمية الوجودية لاستخدام الذكاء الاصطناعي في الدفاع عن الولايات المتحدة والديمقراطيات الأخرى، وهزيمة الخصوم الاستبداديين. لكنه استدرك مؤكدًا أن هناك "مجموعة ضيقة من الحالات" التي يمكن فيها للذكاء الاصطناعي تقويض القيم الديمقراطية بدلاً من الدفاع عنها. وشدد على أن تهديدات البنتاغون لن تغير موقف الشركة، وأنها "لا يمكنها الموافقة على طلبهم بضمير مرتاح". يمثل هذا الرفض نقطة تحول، فهو ليس مجرد خلاف أخلاقي، بل معركة جوهرية حول كيفية إدارة المخاطر الأمنية الوطنية المرتبطة بتطور الذكاء الاصطناعي المتسارع، وقد يؤدي تنفيذ تهديدات البنتاغون إلى إضعاف القدرات العسكرية الأمريكية وزيادة احتمالية وقوع حوادث كارثية.
مخاوف "أنثروبيك" بين الاستخدام الدفاعي والضوابط الأخلاقية
تتمسك شركة "أنثروبيك" بموقفها الرافض لاستخدام نموذجها "كلود" في المراقبة المحلية أو بناء أسلحة ذاتية التشغيل بدون تدخل بشري. ويوضح بيان الشركة أن اعتراضها المبدئي يتركز بشكل أساسي على المراقبة الجماعية. وعلى النقيض من ذلك، لا تعارض الشركة الأسلحة ذاتية التشغيل بحد ذاتها، فقد سبق لها استثناء استخدامات مثل الدفاع الصاروخي والعمليات السيبرانية. يرجع تردد الشركة بشأن الاستقلالية الكاملة للأسلحة إلى الاعتبارات التقنية؛ حيث أن نماذج اللغات الكبيرة لا تزال غير موثوقة بما يكفي للعمل دون وجود إشراف بشري. دفع هذه الأنظمة إلى أقصى حدودها بسرعة قد يؤدي إلى خطأ كارثي. لذا، فإن سعي "أنثروبيك" للحصول على استثناءات تتعلق بالأسلحة ذاتية التشغيل لا ينبع من رفض أيديولوجي للقتال، بل من الحاجة إلى توفير الوقت اللازم للبحث والتطوير لضمان سلامة هذه الأنظمة.
في المقابل، يكمن الانقسام الحقيقي وغير القابل للتسوية في مسألة المراقبة المحلية. تمتلك وزارة الدفاع سلطة إجراء المراقبة المحلية لدعم وكالات مدنية. في ظل إدارة قد تلجأ إلى قانون التمرد، أو تسعى لرصد المعارضة الداخلية، فإن طلب البنتاغون "جميع الاستخدامات القانونية" لنماذج "أنثروبيك" يمكن أن يصبح مفتاحًا لانتهاك الخصوصية. وقد أوضح أمودي هذا الخطر في مقابلة حديثة، مشيرًا إلى أنه على الرغم من أن تسجيل المحادثات في الأماكن العامة ليس غير قانوني، فإن حجم المعالجة الذي يتيحه الذكاء الاصطناعي يغير طبيعة هذا الفعل. يمكن للذكاء الاصطناعي نسخ الكلام وربطه بطريقة لا تحدد فردًا واحدًا من المعارضة فحسب، بل "ترسم خريطة لجميع الملايين المئة. فهل ستسخرون من التعديل الرابع للدستور من خلال إيجاد التكنولوجيا لطرق تقنية للتحايل عليه؟"
جدلية السيادة التكنولوجية والمسؤولية
تستند منطق وزارة الدفاع إلى مقارنة تقليدية في مجال المشتريات: شركة لوكهيد مارتن لا تخبر القوات الجوية بكيفية تشغيل طائرات F-35 التي تصنعها، فلماذا يجب على "أنثروبيك" أن تملي على الجيش كيفية استخدام نماذج "كلود"؟ يفترض هذا المنطق أن الحكومة المنتخبة ديمقراطيًا يجب أن تكون حرة في اتخاذ هذه القرارات. ورغم أن هذا يبدو معقولاً للوهلة الأولى، إلا أنه يتجاهل الطبيعة الفريدة للذكاء الاصطناعي. فبخلاف الطاقة النووية والإنترنت، اللذين ولدا في مختبرات حكومية، فإن الذكاء الاصطناعي تم تصوره وصقله بالكامل في القطاع الخاص. إنه تقنية ذات أغراض عامة لديها القدرة على قلب موازين القوى العالمية.
هذه الظروف تُلزم شركات الذكاء الاصطناعي بالعمل مع الحكومة في التفكير في المخاطر المرتبطة بمنتجاتها، خاصة وأن لديها فهمًا أعمق لهذه التقنيات مقارنة بالعديد من الجهات الحكومية. ففي نهاية المطاف، إذا قامت "أنثروبيك" بإزالة جميع الشروط المتعلقة بالأسلحة ذاتية التشغيل وتصرفت النماذج بطرق غير متوقعة وخطيرة، فمن المؤكد أن الشركة ستقع عليها المسؤولية.
دعوات عالمية لضبط مخاطر الذكاء الاصطناعي
يسعى علماء الذكاء الاصطناعي جاهدين لتشجيع النقاش العام حول إدارة هذه المخاطر. ففي عام 2023، أصدر عشرات من قادة الذكاء الاصطناعي، بمن فيهم أمودي، وسام ألتمان من OpenAI، وديميس هاسابيس من Google DeepMind، وكيفن سكوت من Microsoft، بيانًا يؤكد أن "تخفيف خطر الانقراض الناجم عن الذكاء الاصطناعي يجب أن يكون أولوية عالمية إلى جانب مخاطر أخرى على نطاق مجتمعي مثل الأوبئة والحرب النووية". وفي وقت سابق من هذا العام، صرح مصطفى سليمان، رئيس فريق الذكاء الاصطناعي في مايكروسوفت، "أعتقد بصراحة أنه إذا لم تكن تشعر بالخوف قليلاً في الوقت الحالي، فأنت لا تنتبه".
يُعد أمودي من أبرز الشخصيات التي تحدثت بصراحة عن المخاطر والإمكانيات على حد سواء، حيث نشر سلسلة من المقالات على مدار الثمانية عشر شهرًا الماضية حول مستقبل الذكاء الاصطناعي. نقطة انطلاقه هي أن الذكاء الاصطناعي شديد القوة - ما يسميه البعض "الذكاء الاصطناعي العام" (AGI) - بات قريب المنال. ويعني ذلك أن نموذج الذكاء الاصطناعي سيكون بقدرة حائز على جائزة نوبل في كل مجال. وبمجرد إنشائه، يمكن استنساخ مثل هذا النموذج بسهولة ملايين المرات. وكما يصفها، سيكون ذلك مكافئًا لدولة من العباقرة في مركز بيانات.
الإمكانيات الهائلة والمخاطر الوجودية
في مقاله الأول، "آلات النعمة المحبة"، تحدث أمودي عن كيف يمكن لهذا النموذج أن يمكّن البشر من تسريع البحث والتطوير في العديد من المجالات بمعدل أسرع بعشرين مرة مما كان ممكنًا بخلاف ذلك. قد نشهد تقدمًا يعادل قرنًا في الطب والعلوم البيولوجية خلال خمس سنوات. وفي هذا "القرن الحادي والعشرين المضغوط"، يعتقد أنه يمكننا بشكل معقول تأمين الوقاية والعلاج الموثوقين لجميع الأمراض المعدية تقريبًا، والقضاء على معظم أنواع السرطان، ومنع الإصابة بمرض الزهايمر، وتحقيق تقدم هائل في مكافحة الأمراض الوراثية.
لكن الذكاء الاصطناعي الأكثر قوة يأتي مصحوبًا بمخاطر. نشر أمودي مؤخرًا مقاله الثاني، "سن التكنولوجيا"، الذي يناقش الوجه الآخر للعملة - الطرق التي يمكن بها للذكاء الاصطناعي الأكثر قوة أن يعرض الولايات المتحدة والبشرية للخطر من خلال السماح للأفراد ببناء أسلحة بيولوجية أو تمكين الاستبداد. وقد كتبه، كما صرح في ندوة بدافوس، "لإيقاظ الناس".
تحديات الفهم والتحكم في نماذج الذكاء الاصطناعي
من بين مخاوف أمودي إمكانية تحول "دولة العباقرة" إلى عدائية أو معطلة. وفي منشور أقصر وأقل شهرة، "إلحاح قابلية التفسير"، اعترف بأن "نحن لا نفهم كيف تعمل إبداعات الذكاء الاصطناعي الخاصة بنا". فالخلل في التكنولوجيا العادية هو عادة خطأ برمجي يمكن إصلاحه. لكن أمودي استشهد بكريس أولاه، أحد المؤسسين المشاركين لـ"أنثروبيك"، ملاحظًا أن أنظمة الذكاء الاصطناعي لا تُبنى بقدر ما تنمو. "يمكنك تحديد الشروط عالية المستوى التي توجه وتشكل النمو"، كتب أمودي، "ولكن الهيكل الدقيق الذي ينبثق غير قابل للتنبؤ ويصعب فهمه أو تفسيره". قد تتطور النماذج وتتصرف بطرق لا يمكن لمبدعيها توقعها أو ملاحظتها بسهولة، ناهيك عن إصلاحها.
أجرت "أنثروبيك" تجارب لفهم الطبيعة الحقيقية لوكلائها من الذكاء الاصطناعي. ووجدت أن البعض منهم يميل إلى الكذب وسيقوم بابتزاز مهندسيهم حتى لو تم توجيههم بخلاف ذلك. في المنشور الأقصر، كتب أمودي: "ستكون هذه الأنظمة مركزية للغاية للاقتصاد والتكنولوجيا والأمن القومي، وستكون قادرة على قدر كبير من الاستقلالية لدرجة أنني أعتبر من غير المقبول تمامًا أن تكون البشرية جاهلة تمامًا بكيفية عملها". إن تخصيص الوقت الكافي لفهم كيفية تطور هذه النماذج وسلوكها بشكل صحيح سيمكن المشغلين من تحديد وتعطيل تلك التي تخرج عن السيطرة.
أوصى أمودي بأن تقوم جميع المختبرات بتطوير "تصوير بالرنين المغناطيسي حقيقي للذكاء الاصطناعي"، لكنه أقر بأنهم قد لا يملكون الوقت الكافي، نظرًا لمدى سرعة تقدم الذكاء الاصطناعي. تكمن مشكلة قابلية التفسير هذه في صميم قلق "أنثروبيك" بشأن الأسلحة ذاتية التشغيل.
الخلاف مع البنتاغون: ما وراء الحرب والسلام
غالبًا ما يخلط السرد العام بين الضوابط التي تفرضها "أنثروبيك" وبين المشاعر المناهضة للحرب، لكن هذه ليست تكملة لخلاف مشروع "مافن" (Project Maven) في عام 2018، عندما ثار موظفو جوجل ضد عقود استهداف الطائرات بدون طيار. كانت تلك قصة انشقاق داخلي داخل شركة مترددة في مساعدة الجيش على شن الحرب. "أنثروبيك" كيان مختلف تمامًا. كانت أول شركة ذكاء اصطناعي تنشر نماذجها في أنظمة مصنفة وقد أظهرت استعدادًا للتكامل مع المؤسسة الدفاعية. اشتباك "أنثروبيك" مع البنتاغون ليس اشتباكًا بين السلمية والعسكرة، بل هو خلاف جوهري حول إدارة مخاطر التكنولوجيا الأكثر تحولًا منذ انقسام الذرة.
لدى الشركة خلافات حقيقية مع إدارة ترامب بشأن السياسة الخارجية. وتشتهر "أنثروبيك" بموقفها المتشدد تجاه الصين، وتفضل سياسات أكثر صرامة تجاه بكين مقارنة بنهج ترامب المتساهل والمركز على التجارة، وهي أكثر قلقًا بشأن الاستبداد. كما أن الشركة أكثر صراحة بشأن المخاطر التي يمثلها الذكاء الاصطناعي على الأمن البيولوجي وسوق العمل. وقد رفض ديفيد ساكس، مسؤول الذكاء الاصطناعي في الإدارة، مثل هذه المخاوف ووصفها بأنها "تهويل" واتهم "أنثروبيك" بتشغيل "استراتيجية معقدة لالتقاط التنظيم بناءً على إثارة المخاوف".
رفضت الإدارة اللوائح الحكومية على الذكاء الاصطناعي بحجة أن بعض الولايات ستحاول إدخال "أيديولوجية مستيقظة" في الذكاء الاصطناعي، وأن خليطًا متناقضًا سيؤخر أمريكا في سباق الذكاء الاصطناعي ضد الصين. لكنها لم تصدر حتى الآن مشروع قانون فيدرالي لسد الفراغ. يعترف قادة شركات الذكاء الاصطناعي بأنهم لا يعرفون ما يبنونه. لكنهم لا يريدون التوقف. يخشى البعض، مثل أمودي، أن تتفوق الصين عليهم أولاً، مما يشكل تهديدًا أكبر. يعتقد آخرون أن الفوائد تفوق المخاطر. لكن معظمهم يريدون المزيد من الوقت حتى يتمكن المجتمع والحكومة من التكيف والتنظيم بشكل مناسب حيثما لزم الأمر. إنهم قلقون من أن سرعة التقدم ستتفوق على قدرة العالم على إدارة المخاطر. وقد اقترح البعض إبطاء الصين من خلال ضوابط التصدير لشراء المزيد من الوقت، لكن الإدارة رفضت هذا المنطق.
تداعيات التهديدات على صناعة التكنولوجيا الأمريكية
هناك الآن فرصة حقيقية لأن تفكر العديد من شركات الذكاء الاصطناعي مرتين قبل العمل مع الحكومة الأمريكية وستركز بدلاً من ذلك على أعمالها التجارية. الرسالة التي يرسلها هيغسيث إلى وادي السيليكون هي أنه إذا دخلت شركة في شراكة مع البنتاغون وارتكبت خطأ، فإن الإدارة ستقوم فعليًا بتأميمها أو تصنيفها كخطر في سلسلة التوريد وحرقها. أفادت "أكسيوس" مؤخرًا أن البنتاغون يرى نموذج Gemini من Google كبديل محتمل لـ Claude. ربما، لكن هاسابيس، الذي يشرف على جميع أبحاث وتطوير الذكاء الاصطناعي الأساسية في Google، لديه تاريخ طويل من المخاوف بشأن مخاطر الذكاء الاصطناعي وإيمان أقوى من أمودي بضرورة الحوكمة العالمية. من الصعب تخيل امتثاله لمطالب هيغسيث.
هذا يترك قائد ذكاء اصطناعي واحدًا حريصًا على سد الفراغ: إيلون ماسك، بنموذجه xAI. إذا أصر هيغسيث على مطالبه، يمكن للبنتاغون الاعتماد على xAI كمورده الوحيد. سيؤدي ذلك إلى حرمان الحكومة الأمريكية من معظم مواهب صناعة الذكاء الاصطناعي، ومنح ماسك نفوذًا هائلاً على الإدارات المستقبلية، وإنشاء نقطة فشل واحدة، مما قد يثبت أنه كارثي. لا ينبغي لأي شركة، ولا حتى "أنثروبيك"، أن تكون المورد الوحيد للذكاء الاصطناعي المصنف للحكومة.
تحليل التأثير
يستند إنذار هيغسيث إلى فرضية بسيطة: أن الحكومة، وليس الشركات الخاصة، يجب أن تقرر كيفية استخدامها للتكنولوجيات القوية. في معظم الحالات، هذا المبدأ سليم. لكن هنا، فإنه يحجب مشكلتين أعمق. فهو يقلل من شأن المخاطر التي تهدد الحريات المحلية، ويفترض مستوى من الفهم غير موجود بعد. يعترف المهندسون الذين يبنون هذه الأنظمة بأنهم لا يفهمونها تمامًا، وأن النماذج تتصرف بطرق يصعب التنبؤ بها أو التحكم فيها. المطالبة بالوصول غير المشروط قبل أن تكون هذه الأنظمة جاهزة ليست تأكيدًا للسلطة. إنها مقامرة بأن المجهولات لن تكون مهمة. الخطر ليس أن وادي السيليكون سيمارس قوة مفرطة على الجيش. بل إن كلاهما لن يفهم تمامًا الأنظمة التي يتسابقان لنشرها - وأن عواقب هذا الجهل سيتم اختبارها ليس في مختبر، بل على العالم.
