أعلنت وزارة الداخلية في جنوب إفريقيا عن إيقاف مسؤولين اثنين، وذلك على خلفية اكتشاف استخدام الذكاء الاصطناعي التوليدي وما نتج عنه من "هلوسات" معلوماتية في وثيقة سياسات هامة. تمثل هذه الحادثة سابقة جديدة في استخدامات التقنيات الحديثة ضمن المؤسسات الحكومية، وتسلط الضوء على التحديات التي تواجه دمج هذه الأدوات في عمليات صياغة السياسات الرسمية.
المسؤولان الموقوفان يشغلان منصبين رفيعين؛ الأول هو المدير العام لوحدة الجنسية والهجرة، بينما سيتم إيقاف المدير المعني بصياغة الوثيقة بداية الأسبوع المقبل. جاء هذا الإجراء بعد اكتشاف أن قائمة المراجع المرفقة بالورقة البيضاء المنقحة حول الجنسية والهجرة وحماية اللاجئين قد احتوت على استشهادات غير دقيقة أو مختلقة، وهي ظاهرة تُعرف باسم "هلوسات الذكاء الاصطناعي".
تداعيات استخدام الذكاء الاصطناعي في الوثائق الحكومية
اكتشاف "هلوسات" الذكاء الاصطناعي
كشفت الوزارة عن وجود "هلوسات" في قائمة المراجع الخاصة بالورقة البيضاء المنقحة حول الجنسية والهجرة وحماية اللاجئين. تُشير هذه "الهلوسات" إلى تقديم معلومات غير صحيحة أو مبتكرة من قبل نماذج اللغة الكبيرة (LLMs)، والتي غالبًا ما تنجم عن نقص في البيانات الموثوقة أو سوء تفسير للمعلومات المتاحة.
من الجدير بالذكر أن هذه المراجع المزعومة لم تكن مستشهد بها في متن النص الأصلي للوثيقة، مما يشير إلى أنها ربما أُضيفت بعد الانتهاء من الصياغة الأساسية دون عملية تدقيق كافية. أكدت الوزارة على "الإحراج الذي سببه هذا الأمر"، مؤكدةً أنها ستتخذ من هذه الحادثة فرصة لتحديث وتطوير عملياتها الداخلية.
إجراءات الوزارة وتدابير المراقبة
لم تكتفِ الوزارة بالإيقافات التحذيرية، بل قامت بتعيين شركتين قانونيتين مستقلتين لإدارة العملية التأديبية ومراجعة جميع وثائق السياسات التي أنتجتها الوزارة منذ 30 نوفمبر 2022. جاء اختيار هذا التاريخ بالتحديد لأنه يمثل فترة إطلاق نموذج ChatGPT، أول نموذج لغوي كبير متاح للاستخدام العام، مما يشير إلى تركيز التحقيق على أي استخدام محتمل لهذه التقنيات في تلك الفترة.
تعهدت الوزارة بدمج آليات فحص وإقرار خاصة بالذكاء الاصطناعي ضمن عملياتها الداخلية للموافقة على الوثائق المستقبلية. يهدف هذا الإجراء إلى ضمان دقة وموثوقية المعلومات المستخدمة في صياغة السياسات الحكومية، وتجنب تكرار مثل هذه الأخطاء الناتجة عن الاعتماد غير الدقيق على التقنيات الحديثة.
دروس مستفادة ومواجهة التحديات
تأتي هذه الحادثة في أعقاب واقعة مشابهة شهدتها وزارة الاتصالات وتقنية المعلومات (DCDT) قبل أسبوع، حيث اضطرت إلى سحب مسودة سياساتها الوطنية حول الذكاء الاصطناعي بسبب احتوائها على مصادر واقتباسات وهمية تم إنشاؤها بواسطة الذكاء الاصطناعي. أكد الوزير سولي مالاتسي وقتها أن "من غير المقبول حدوث ذلك"، مشيرًا إلى ضرورة التحقق الدقيق من جميع المراجع.
تؤمن وزارة الداخلية بأن التكنولوجيا الحديثة، بما في ذلك الذكاء الاصطناعي، تشكل أداة تحويلية ولكنها قد تكون disruptive أيضًا، حيث تغير طريقة عمل المؤسسات في القطاعين الخاص والعام. شددت الوزارة على ضرورة "التكيف لمواكبة هذا التطور"، مؤكدةً على أهمية تسخير فوائد هذه التقنيات بطريقة مسؤولة ودقيقة.
الخلاصة: ضرورة التوازن بين الابتكار والمسؤولية
يُسلط هذا الحادث الضوء على التحدي المزدوج الذي تواجهه الجهات الحكومية والمؤسسات الرسمية في سعيها لتبني التقنيات المبتكرة مثل الذكاء الاصطناعي. فبينما توفر هذه الأدوات إمكانات هائلة لزيادة الكفاءة والدقة، فإن الاعتماد عليها دون ضوابط وإشراف صارم يمكن أن يؤدي إلى نتائج عكسية وخيمة، تمس مصداقية الوثائق الرسمية وسلامة العمليات الحكومية.
إن إيقاف المسؤولين وتعيين فرق لمراجعة الوثائق يعكسان خطورة الموقف، ويشيران إلى بداية مرحلة جديدة تتطلب وضع بروتوكولات واضحة لدمج الذكاء الاصطناعي في العمل الحكومي. من الضروري أن توازن المؤسسات بين الاستفادة من الابتكارات التكنولوجية وضمان الالتزام بأعلى معايير الدقة والموثوقية والمسؤولية.
تحليل التأثير
تُعد حادثة "هلوسات" الذكاء الاصطناعي في وثائق وزارة الداخلية بجنوب إفريقيا مؤشرًا هامًا على التحديات التنظيمية والتشغيلية التي تنشأ عن تبني تقنيات الذكاء الاصطناعي في القطاع العام. لا يقتصر التأثير على سحب الوثائق أو إيقاف الموظفين، بل يمتد ليشمل تآكل الثقة في كفاءة الإجراءات الحكومية وقدرتها على مواكبة التطورات التكنولوجية. هذا الحادث، بالإضافة إلى واقعة وزارة الاتصالات، قد يدفع الحكومات الأخرى حول العالم إلى إعادة تقييم استراتيجياتها لدمج الذكاء الاصطناعي، مع التركيز بشكل أكبر على بناء أطر تنظيمية ورقابية قوية تضمن الاستخدام المسؤول والآمن لهذه التقنيات، وتجنب الوقوع في فخ المعلومات المضللة أو المختلقة.
