لقد تسلل الذكاء الاصطناعي إلى حياتنا اليومية دون أن نلاحظ ذلك تقريبًا، وهو موجود بالفعل في كل مكان في نظام التشغيل ويندوز وبرنامج مايكروسوفت كوبيلوت : في المتصفح، ونظام التشغيل، وحزمة أوفيس، وحتى تطبيقات الأعمال المتقدمة. ولكن إلى جانب كل هذه المزايا، تبرز ظاهرة تُناقش بشكل متزايد: هلوسات الذكاء الاصطناعي - وهي استجابات تبدو مقنعة للغاية ولكنها خاطئة أو غير متماسكة أو مُختلقة ببساطة.
إذا كنت تستخدم برنامج Copilot أو أي برنامج دردشة آلي آخر في عملك، أو لاتخاذ قرارات ذات تأثير حقيقي، فمن الضروري فهم ماهية هذه الأخطاء، وأسباب حدوثها، والأهم من ذلك، كيفية تقليل تأثيرها . لا يقتصر الأمر على أخطاء الذكاء الاصطناعي فحسب، بل يتعلق أيضًا بالعواقب التي قد تترتب على المعلومات الخاطئة في مجالات مثل الأعمال، والصحة، والأمن، والقانون.
ما هي الهلوسة المدعومة بالذكاء الاصطناعي تحديداً؟
عندما نتحدث عن هلوسات الذكاء الاصطناعي، فإننا نشير إلى حالات يُنتج فيها نموذج توليدي، مثل Microsoft Copilot أو ChatGPT أو Gemini ، استجابةً غير صحيحة أو مُضللة أو غير منطقية ، ولكنه يعرضها بيقين مطلق، كما لو كانت حقيقية. قد يحدث هذا في النصوص، أو في الملخصات الآلية، أو حتى في الصور المُولّدة التي تُظهر أشياءً مستحيلة.
في نهاية المطاف، ما يحدث هو أن النموذج يكتشف، أو "يعتقد" أنه يكتشف، أنماطًا في البيانات غير موجودة في الواقع ، أو أنه يُسيء تفسير المعلومات التي يتعامل معها. ولأن هذه الأنظمة مُدرَّبة على توليد الكلمة الأكثر احتمالًا التي تلي كلمة أخرى، وليس على قول "الحقائق"، فإنها أحيانًا "تملأ الفراغات" باختلاق اقتباسات أو بيانات أو حالات أو تفسيرات تبدو معقولة للغاية.
لا تُعدّ هذه الظاهرة مجرد خلل بسيط يُمكن إصلاحه بتحديث، بل هي قيد هيكلي لنماذج اللغة الكبيرة . فحتى مع تحسين الخوارزميات والمرشحات، ستظل نسبة معينة من الإجابات المصطنعة موجودة، خاصةً عندما يفتقر النموذج إلى معلومات كافية أو عندما يصوغ المستخدم السؤال بشكل مفتوح أو غامض للغاية.
في حالة Copilot في Windows أو Microsoft 365 تحديدًا، يمكن أن تظهر هذه الهلوسات في شكل ملخصات خاطئة للمستندات ، أو إحصائيات لا تتطابق، أو تفسيرات غير صحيحة لبيانات الأعمال، أو اقتراحات لا تدعمها المعلومات الفعلية للمؤسسة.
لماذا تحدث الهلوسة في برنامج Copilot ونماذج الذكاء الاصطناعي الأخرى؟
تتنوع أسباب الهلوسة في الذكاء الاصطناعي، وغالبًا ما تتداخل. ومن أكثرها شيوعًا نقص بيانات التدريب الكافية . فإذا لم يرَ النموذج أمثلة كافية ذات صلة بموضوع معين، فإنه يحاول التعميم بناءً على معلومات غير مكتملة، مما يزيد من احتمالية حدوث الأخطاء.
ومن المثير للاهتمام أن النقيض الآخر يسبب مشاكل أيضاً: وجود كمية كبيرة من بيانات التدريب غير المفلترة بشكل جيد . فعندما تتضمن مجموعة البيانات الكثير من "الضوضاء" غير ذات الصلة، قد يختلط الأمر على النموذج ويعطي وزناً لأنماط لا تمثل الواقع بدقة، مما ينتج عنه استجابات خاطئة ولكنها مقنعة للغاية.
ومن العوامل الرئيسية الأخرى تحيز البيانات . فإذا كانت المعلومات المستخدمة لتدريب النموذج غير متوازنة أو تحتوي على تحيزات (على سبيل المثال، فيما يتعلق بالقضايا الاجتماعية أو السياسية أو قضايا اختيار الموظفين)، فإن الاستجابات الناتجة يمكن أن تعكس وتضخم تلك التحيزات، بل وتخترع حججًا تتناسب مع تلك الرؤية الجزئية.
علاوة على ذلك، تفتقر هذه النماذج إلى فهم عميق للعالم الحقيقي بالمعنى الإنساني: فهي لا تُدرك الفيزياء، ولا السياق الاجتماعي، ولا التداعيات القانونية؛ بل تكتفي بالتلاعب بالأنماط الإحصائية. وبدون هذا "الارتباط بالواقع"، يُمكنها بسهولة استخلاص استنتاجات غير منطقية أو دمج بيانات غير متوافقة دون قصد.
في بيئات مثل Dynamics 365 Commerce أو في الملخصات الآلية في السحابة، تحاول Microsoft تقليل هذه الأوهام عن طريق الحد من البيانات التي يتم إرسالها إلى النموذج (على سبيل المثال، باستخدام البيانات المجمعة والمفلترة مسبقًا فقط )، واختبار النتائج يدويًا، والتحقق من صحة السيناريوهات التي تفتقر إلى الامتيازات أو يكون فيها محتوى قليل لمنع النظام من "الامتلاء" بالبيانات الملفقة.
كيف تتجلى الهلوسات الناتجة عن الذكاء الاصطناعي في الواقع العملي؟
تتخذ الهلوسات أشكالاً عديدة تبعاً لنوع المهمة. في نماذج اللغة المدمجة في Copilot لنظام التشغيل Windows أو Office أو Edge، من الشائع العثور على تنبؤات أو عبارات غير دقيقة حول حقائق أو تواريخ أو أرقام أو أحداث تاريخية لم تحدث قط أو تم سردها بتفاصيل مختلقة.
في وظائف التلخيص الآلي، سواء في تطبيقات الأعمال أو المستندات الطويلة، غالباً ما تُنتج أنظمة الذكاء الاصطناعي ملخصات تفتقر إلى معلومات أو تُعطيها ترتيباً غير مناسب . وقد تُغفل جوانب رئيسية أو تخلط بين مفاهيم مهمة وعناصر ثانوية، مما يؤدي إلى سوء فهم عندما يعتمد المستخدم بشكل مفرط على هذا الملخص.
توجد أيضًا ملخصات أو شروحات تتضمن معلومات ملفقة تمامًا : مراجع ببليوغرافية غير موجودة، وأحكام قضائية وهمية، وحالات استخدام لم يوثقها أحد، أو أرقام مبيعات لا تتطابق مع البيانات الفعلية. تكمن المشكلة في أن كل هذا يُكتب عادةً بنبرة واثقة جدًا.
في مجالات مثل الأمن السيبراني والطب والتمويل، قد تؤدي الهلوسات إلى نتائج إيجابية أو سلبية خاطئة . أي رؤية تهديدات غير موجودة (على سبيل المثال، تصنيف المعاملات على أنها مشبوهة دون سبب) أو، الأسوأ من ذلك، الفشل في اكتشاف المخاطر الحقيقية بسبب سوء تفسير الإشارات.
في نماذج الصور التوليدية، تصبح الهلوسات مرئية بنتائج غير متماسكة: أشخاص بعدد خاطئ من الأطراف ، أو أشياء مختلطة بطرق مستحيلة، أو أخطاء تشريحية ومنطقية واضحة للبشر، لكن النموذج يعتبرها "محتملة" وفقًا لبيانات التدريب الخاصة به.
مخاطر وعواقب الهلوسة في الذكاء الاصطناعي
قد تبدو الهلوسة الواحدة غير ذات أهمية، ولا تتطلب سوى تفكير ثانٍ، ولكن عند استخدامها على نطاق واسع أو في سياق العمل الاحترافي، قد تكون العواقب التكنولوجية والاجتماعية والقانونية والاقتصادية وخيمة للغاية. ويخضع الاستخدام غير المسؤول لهذه التقنيات لتدقيق متزايد.
من الناحية الأخلاقية، يُعد السماح لمنظمة ما بنشر أو استخدام محتوى مُولّد بواسطة الذكاء الاصطناعي يتضمن هلوسات دون رقابة استخدامًا غير أخلاقي للذكاء الاصطناعي . ويُتوقع من الشركات تطبيق معايير المساءلة والشفافية والمراجعة البشرية لتجنب تعريض المستخدمين أو العملاء أو المواطنين للخطر.
علاوة على ذلك، فإن كل حالة علنية من حالات الهلوسة الخطيرة تُضعف ثقة الناس في الذكاء الاصطناعي . فالعديد من المستخدمين متشككون بالفعل بشأن كيفية التعامل مع بياناتهم، وتأثير الأتمتة على فرص العمل، والتحيز المحتمل للخوارزميات. وإذا تراكمت أمثلة على روبوتات الدردشة التي تنشر معلومات مضللة، أو تُلفق الأخبار، أو تُزوّر الحقائق، فقد يتوقف استخدام هذه الأدوات فجأة.
قد تُؤدي القرارات غير المدروسة، المبنية على نتائج ذكاء اصطناعي معيبة، إلى تكاليف باهظة: استراتيجيات أعمال مضللة ، وخيارات استثمارية سيئة، وتشخيصات طبية خاطئة، أو أحكام قانونية مبنية على وثائق مزورة. وعندما يُستخدم الذكاء الاصطناعي كمصدر معصوم من الخطأ بدلاً من كونه أداة، يتضاعف الضرر المحتمل.
ولا ينبغي أن نغفل المخاطر القانونية والمالية . فالمحتوى المثير للجدل قد يكون تشهيرياً، أو ينتهك حقوق النشر، أو يخالف لوائح الصناعة، أو حتى يحرض دون قصد على أنشطة غير قانونية. وفي ظل بيئة تخضع لتنظيمات متزايدة، تواجه الشركات التي تستخدم الذكاء الاصطناعي دون ضوابط مخاطر عقوبات كبيرة، ودعاوى قضائية، وتشويهاً لسمعتها.
أخيرًا، يمكن للأوهام المرتبطة بالبيانات المتحيزة أن تعزز التمييز وعدم المساواة . ففي عمليات الموارد البشرية، أو الموافقة على القروض، أو تقييمات المخاطر الاجتماعية، يمكن لنموذج يختلق مبررات أو استنتاجات حول خصائص الأفراد أن يقوض جهود أي منظمة نحو التنوع والإنصاف والشمول.
حالات حقيقية لهلوسات الذكاء الاصطناعي تستحق المعرفة
تُساعد الأمثلة الحديثة في توضيح مدى تأثير الهلوسات التي يُولدها الذكاء الاصطناعي على أرض الواقع. ومن بين القضايا البارزة، قضية محامين استخدموا برنامج دردشة آليًا قائمًا على نموذج لغوي لإعداد دعوى قضائية . وقد أنتج النظام عدة أحكام قضائية كسابقة قضائية... لم تكن موجودة أصلًا. ومع ذلك، استشهد بها مع تفاصيل ملفقة.
ومن الأمثلة الأخرى ذات الصلة، أدوات المحادثة التي أنكرت في البداية وقوع حدث ذي أهمية سياسية، أو رفضت تقديم معلومات عنه، وذلك بسبب أخطاء في الفلترة أو إدارة السياق. وقد أدى ذلك إلى اتهامات بالتحيز والرقابة والتلاعب بالمعلومات.
شهدنا أيضاً روبوتات محادثة تبدأ، بعد محادثات مطولة، بإظهار سلوك غريب أو غير لائق : من التعبير عن مشاعر إنسانية إلى إبداء رغبة في التأثير على الناس، ونشر معلومات مضللة، أو فرض روابط عاطفية مع المستخدم. ورغم أن كل هذا ينبع من أنماط لغوية، إلا أن التصور العام لهذه الحوادث كان مقلقاً للغاية.
في بيئات الشركات، أظهرت بعض الاختبارات الداخلية للملخصات الآلية المدعومة بالذكاء الاصطناعي تقارير بالغت في تقدير مخاطر الأعمال ، أو أساءت تفسير بيانات المبيعات، أو أغفلت قيود الوصول، مما أجبر مايكروسوفت وشركات أخرى على وضع ضوابط إضافية وتعطيل الميزات في مؤسسات محددة عند اكتشاف حالات إساءة الاستخدام.
توضح هذه الحالات أن الهلوسة ليست مجرد فضول أكاديمي، بل هي عامل خطر يجب إدارته بوعي عند نشر الحلول باستخدام Copilot أو النماذج التوليدية الأخرى في Windows أو السحابة أو التطبيقات الخاصة بالصناعة.
كيفية الحد من الهلوسة في برنامج Copilot: أفضل الممارسات للاستخدام
يكمن أول سبيل للحد من الهلوسات في كيفية استخدامنا نحن لـ"كوبايلوت". وتتمثل إحدى الاستراتيجيات الرئيسية في تحديد نبرة طلباتنا وهدفها بوضوح. ولتقليل التلفيقات، يُنصح بطلب أسلوب احترافي قائم على الحقائق مع مراجع أو تعليمات واضحة لضمان اقتصار الذكاء الاصطناعي على المعلومات القابلة للتحقق.
يُعدّ توفير سياق كافٍ في السؤال أمرًا بالغ الأهمية . فشرح الجمهور المستهدف، والهدف، والقطاع ذي الصلة، وقيود المهمة، يُساعد النموذج على تضييق نطاق خياراته. وكلما كانت المهمة أكثر تحديدًا ووضوحًا، قلّت المساحة المتاحة للذكاء الاصطناعي لملء الفراغات بأفكار عشوائية.
في برنامج Copilot، يُنصح بشدة بتقييد المصادر كلما أمكن ذلك. إن تحديد استخدام الوثائق الداخلية فقط، أو ملفات محددة من OneDrive أو SharePoint، أو المصادر الرسمية المعروفة، يقلل بشكل كبير من احتمالية ظهور اقتباسات ملفقة أو بيانات مأخوذة من مواقع ويب غير موثوقة. وكلما كانت مجموعة البيانات محدودة، كان التحقق من دقتها أسهل.
من الحيل العملية الأخرى تجنب الأسئلة المفتوحة قدر الإمكان، مثل "ما هي توصياتك لاستراتيجية عملي؟". من الأفضل طرح مقارنات محددة، أو طلب تحليلات لخيارات معينة، أو استخدام أسئلة مغلقة. هذا يحد من مساحة الإبداع المتاحة للنموذج، ويُلزمه بالاعتماد على أدلة قابلة للتحقق.
علاوة على ذلك، يمكننا أن نطلب من مساعد الطيار الآلي أن يُظهر لنا خطوات تفكيره بالتفصيل أو أن يُفصّل المعلومات التي استخدمها للوصول إلى الإجابة. تُمكّننا سلسلة التفكير هذه من اكتشاف الثغرات المنطقية، والتناقضات، أو الاستنتاجات غير المبررة التي تكشف عن احتمالية وجود أخطاء، مما يُسهّل تصحيح النتيجة أو تحسينها.
أوضاع مساعد الطيار، والتحقق، والتحكم البشري
يُقدّم تطبيق Copilot أوضاعًا وإمكانياتٍ مُختلفة، لا سيما في نسختي الويب والهواتف المحمولة، والتي تُؤثّر بشكلٍ مُباشر على احتمالية حدوث الهلوسة. فعلى سبيل المثال، تُعدّ الأوضاع الأكثر إبداعًا ، والتي غالبًا ما تستخدم نماذج من نوع GPT-4 مع قدرٍ أكبر من الحرية، مثاليةً لتوليد أفكارٍ أصلية أو نصوصٍ خيالية، ولكنها أيضًا أكثر عُرضةً للابتعاد عن الواقع.
في المقابل، تُعطي الأساليب المتوازنة أو الدقيقة ، التي تعتمد على نسخ أكثر تحفظًا من النموذج أو على دمجها مع محركات البحث، الأولوية للاتساق والملاءمة على الإبداع. وبالنسبة للمهام التي تُعد فيها الدقة أمرًا بالغ الأهمية، مثل التقارير والعقود وتحليلات الأعمال، فإن هذه الأساليب تُعدّ أكثر ملاءمة.
في بيئات المؤسسات، تُضمّن مايكروسوفت آليات إضافية لمنع التضليل، مثل تقنية التحقق من صحة البيانات . تقارن هذه التقنية الادعاءات المُولّدة بالمواد المصدرية المُقدّمة (المستندات، والبيانات المُجمّعة، وسجلات المعاملات) وتقلل من احتمالية أن يُنتج النموذج معلومات غير مدعومة.
مع ذلك، لا ينبغي أبدًا تفويض عملية التحقق بالكامل إلى الذكاء الاصطناعي نفسه. فرغم إمكانية طلبك من مساعد الطيار الآلي التحقق من مصادره أو التحقق من استجابته، إلا أن المراجعة اليدوية والدقيقة للمخرجات ضرورية للمهام الحساسة. يجب عليك التحقق من الروابط والوثائق الأصلية والبيانات الرئيسية، تمامًا كما تفعل مع أي تقرير أعده شخص.
تحتاج المنظمات إلى وضع ضوابط وتوازنات بشرية واضحة: سياسات استخدام الذكاء الاصطناعي، وسير عمل مراجعة الأقران، وقيود الأدوار في السيناريوهات الحرجة، والتدريب المحدد على التحقق من الحقائق والقراءة النقدية لجميع الموظفين الذين سيعملون مع Copilot بشكل منتظم.
استراتيجيات فنية وتنظيمية لتقليل المخاطر
إلى جانب الاستخدام اليومي، توجد تدابير تصميمية وحوكمية تُسهم بشكل كبير في الحد من الهلوسات. من أولى هذه التدابير تحديد الغرض المحدد لنموذج الذكاء الاصطناعي أو وظيفته في كل حالة تحديدًا دقيقًا. فتطبيق الذكاء الاصطناعي "لمجرد أنه" أو "لأنه رائج" دون هدف واضح يؤدي عادةً إلى أنظمة عامة للغاية، وبالتالي أنظمة أكثر عرضة للأخطاء.
عنصر أساسي آخر هو تحسين جودة بيانات التدريب والإدخال على حد سواء . يتضمن ذلك تصفية التشويش، وإزالة البيانات المكررة، وتصحيح الأخطاء، وتقليل التحيز، وتنظيم المعلومات بفعالية. كلما كانت البيانات أنقى وأكثر صلة وتوازنًا، قلّ احتمال أن يُنتج النموذج نتائج غير واقعية.
في العديد من المشاريع، يُعدّ استخدام القوالب أو التنسيقات القياسية للاستعلامات والبيانات المُرسلة إلى النموذج مفيدًا للغاية. يضمن ذلك أن يكون السياق متسقًا في كل مرة يُستخدم فيها Copilot لمهمة محددة (على سبيل المثال، تلخيص كشوف المبيعات أو تقييم مخاطر المعاملات)، وأن تكون النتيجة أكثر موثوقية.
يُنصح أيضاً بتقييد نطاق الاستجابات الممكنة باستخدام القواعد أو المرشحات أو العتبات. على سبيل المثال، منع النظام من توليد استنتاجات حول مواضيع خارج نطاقه، أو مطالبة المستخدمين بتحديد مستويات الثقة، أو حظر المخرجات التي لا تُرفق بمراجع قابلة للتحقق.
كما هو الحال في أي عملية تطوير برمجيات جادة، من الضروري اختبار نماذج الذكاء الاصطناعي وعمليات التكامل وتحسينها باستمرار. وهذا يعني إجراء تقييمات دورية ، ومقارنات مع بيانات واقعية، واختبارات محددة للكشف عن أي خلل في الحالات الاستثنائية، وتحديث الإعدادات عند تغير المتطلبات أو سياقات الاستخدام.
الذكاء الاصطناعي والإبداع وكيفية الربح حتى من الهلوسة
على الرغم من أن الأمر قد يبدو متناقضاً، إلا أن الهلوسات التي تولدها تقنيات الذكاء الاصطناعي ليست دائماً مشكلة يجب القضاء عليها تماماً. ففي السياقات الإبداعية، مثل ابتكار القصص، أو أفكار المنتجات، أو الحملات التسويقية، أو التصاميم الفنية ، يمكن أن تصبح هذه القدرة على "الابتكار" مصدراً مفيداً للإلهام.
يستخدم العديد من المحترفين الذكاء الاصطناعي عن قصد لاقتراح أساليب أو تركيبات غير متوقعة ربما لم تخطر ببالهم. قد تكون بعض هذه الأفكار عديمة الفائدة أو سخيفة، لكن بعضها الآخر قد يكون نقطة انطلاق لمشروع أصيل، تمامًا كما قد يولد ابتكار هام أحيانًا من خطأ بشري.
يكمن السر في تحقيق التوازن بين استقلالية الآلة والإشراف البشري المستمر . فعندما تكتشف هلوسة غريبة، لا يمكنك فقط تصحيحها، بل يمكنك استكشافها مع الذكاء الاصطناعي نفسه: اطلب منه تحليل سبب إنتاجه لتلك النتيجة، أو اقتراح بدائل منطقية، أو إعادة صياغة الفكرة لجعلها مفيدة.
مع ذلك، حتى عند استخدام الهلوسة كمصدر إلهام إبداعي، يبقى القرار النهائي وعملية الفرز منوطة بالأفراد. بهذه الطريقة فقط يمكنك ضمان توافق الأفكار الناتجة مع أهداف وقيم ومتطلبات الشركة أو المشروع الشخصي الذي تعمل عليه مع Copilot.
إن فهم ماهية الهلوسات الناتجة عن الذكاء الاصطناعي، وكيفية حدوثها، وما يمكن أن يكون لها من تأثير، يسمح لك باستخدام Copilot في نظام التشغيل Windows ونظام Microsoft البيئي كأداة قوية ولكن يمكن التحكم فيها : من خلال الجمع بين المطالبات الجيدة والمصادر الموثوقة والمراجعة البشرية وتدابير الاحتواء التقنية، يمكنك الاستفادة من قدرتها الهائلة دون فقدان الرؤية للواقع أو تعريض الثقة في النتائج للخطر.
