حين يخطئ الشات بوت: المسؤولية والإجابات المختلقة والضوابط التي تحتويها

إن أخبر الشات بوت لديك عميلًا بشيء خاطئ — سعر، أو قاعدة استرداد، أو وعد بموعد توصيل — فافترض أن منشأتك مسؤولة عنه. وأشهر قضية في ذلك من كندا: ففي فبراير 2024 حمّلت هيئة في مقاطعة كولومبيا البريطانية شركة Air Canada المسؤولية عن إجابة خاطئة قدمها الشات بوت في موقعها عن أسعار تذاكر العزاء، ورفضت حجة الشركة بأن الشات بوت مسؤول عن كلامه بنفسه، وقالت: «مع أن للشات بوت جانبًا تفاعليًا، فإنه يظل مجرد جزء من موقع Air Canada».

والقانون العُماني يسير في الاتجاه نفسه. فقانون المعاملات الإلكترونية يعتبر الوثيقة الصادرة عبر وسيط آلي أعددته صادرة عنك، ويجيز إبرام العقود عبره. ومنذ سبتمبر 2026 صار من حق الأشخاص الاعتراض على القرارات الناتجة عن المعالجة المؤتمتة ومراجعتها بشريًا.

والجواب العملي ليس عبارة إخلاء مسؤولية، بل شات بوت مصمم بحيث يصعب عليه اختلاق الالتزامات: يجيب من مصادرك، ويتحقق من الأرقام مقابل أنظمتك، ويؤكد قبل أن ينفّذ، ويحوّل إلى موظف حين لا يكون متأكدًا.

الجواب المختصر

• أنت تُسأل عن الشات بوت لديك. فقد عاملته الجهات القضائية بوصفه جزءًا من المنشأة، لا متحدثًا مستقلًا.
• في عُمان، رسائله رسائلك. فالمادة 12 من قانون المعاملات الإلكترونية تنسب إليك الوثائق الصادرة عبر وسيطك الآلي.
• وقد يُلزمك. فالمادة 19 من القانون نفسه تجيز إبرام العقود عبر الوسائط الآلية.
• رابط السياسة الصحيحة ليس دفاعًا إن ناقضه كلام البوت نفسه، وهذا ما حدث في قضية Air Canada.
• التصميم هو أداة الضبط: إجابات مستندة إلى مصادر، وأرقام متحقق منها، وسياسات مُهيكلة، وتأكيد قبل الالتزام، ومسار إلى إنسان.

القضية التي يستشهد بها الجميع

وقائع قضية Moffatt ضد Air Canada بسيطة. سأل عميل الشات بوت في موقع الشركة عن أسعار العزاء بعد وفاة في عائلته، فأخبره البوت أنه يستطيع شراء تذكرة بسعر كامل ثم طلب خصم العزاء لاحقًا. أما سياسة الشركة الفعلية، المنشورة في صفحة وضع البوت رابطها، فلم تكن تجيز الطلبات بأثر رجعي. فلما تقدم بطلبه رفضته الشركة.

ودفعت الشركة، ضمن ما دفعت به، بأنها لا تُسأل عن المعلومات التي يقدمها الشات بوت. فرفضت هيئة الفصل في المنازعات المدنية في كولومبيا البريطانية ذلك، ورأت أن على الشركة واجب عناية تجاه العميل، وأنها لم تبذل العناية المعقولة لضمان دقة الشات بوت، وأن ذلك يشكل تضليلًا ناتجًا عن الإهمال. وقضت بتعويض قدره 650.88 دولارًا كنديًا — الفرق بين ما دفعه وسعر العزاء — مع الفوائد والرسوم، أي نحو 812 دولارًا كنديًا إجمالًا.

المبلغ صغير، والمهم هو التسبيب. فقد عاملت الهيئة الشات بوت بوصفه جزءًا من الموقع، والشركة بوصفها مسؤولة عما يقوله موقعها، سواء ظهر في صفحة ثابتة أو في محادثة. ولم تقبل أن على العميل مقارنة إجابة البوت بصفحة أخرى من الموقع نفسه.

والقرار صادر عن هيئة كندية للمطالبات الصغيرة، ولا يُلزم أحدًا في عُمان. لكنه أوضح بيان علني لكيف يُرجَّح أن يرى صاحب القرار شات بوت المنشأة، وهو يوافق اتجاه القانون العُماني.

لماذا يسير القانون العُماني في الاتجاه نفسه

نسبة الوثيقة. تعتبر المادة 12 من قانون المعاملات الإلكترونية الصادر بالمرسوم السلطاني رقم 39/2025 الوثيقة الإلكترونية صادرة عن المنشئ إذا صدرت عن طريق وسيط إلكتروني آلي معتمد للعمل تلقائيًا من قبله. ورد الشات بوت وثيقة إلكترونية، فهو بموجب تلك المادة ردّك أنت.

العقود. تجيز المادة 19 إبرام العقد بين وسيط آلي وشخص يعلم أو يُفترض أن يعلم أنه يتعامل مع وسيط آلي. فالشات بوت الذي يأخذ الطلبات أو يؤكد الحجوزات أو يوافق على الاسترداد قد يُنشئ التزامات في الاتجاهين.

القرارات المؤتمتة. منذ 7 سبتمبر 2026 تمنح المادة 14 من قانون حماية البيانات الشخصية الأشخاصَ حق الاعتراض على القرارات الناتجة عن المعالجة المؤتمتة، وتُلزم المتحكم بإدخال العنصر البشري في مراجعتها. والشات بوت الذي يرفض استردادًا أو يلغي حجزًا يتخذ بالضبط هذا النوع من القرارات. ومخالفة المادة 14 عقوبتها غرامة من 5,000 إلى 10,000 ريال عماني. ويتناول مقال ما الذي غيّره المرسوم السلطاني 68/2026 هذا الحكم.

ولا شيء من ذلك يحتاج إلى قانون خاص بالذكاء الاصطناعي؛ فهو يترتب على قواعد للوثائق الإلكترونية والعقود والبيانات الشخصية تنطبق على منشأتك أصلًا.

كيف يخطئ الشات بوت

معرفة أنماط الإخفاق تخبرك أين تضع الضوابط:

1. لم يجد إجابة فارتجل. يعيد الاسترجاع ما لا صلة له، فيسد النموذج الفجوة من معرفته العامة. وهكذا تظهر سياسة مقنعة لكنها مختلقة.
2. معرفة قديمة. تغيّرت قائمة الأسعار ولم تتغير قاعدة المعرفة.
3. سؤال أُسيء فهمه. لهجة أو لغة مختلطة أو عبارة ملتبسة تقود إلى الإجابة الصحيحة عن السؤال الخطأ. ويتناول مقال شات بوت عربي يفهم عملاء الخليج ذلك.
4. تعميم قاعدة. «الإرجاع خلال 14 يومًا» تصبح «تستطيع إرجاع أي شيء خلال 14 يومًا»، بما في ذلك المستثنيات.
5. الحساب والأرقام. النماذج اللغوية حاسبات غير موثوقة، فالمجاميع والخصومات والتواريخ التي يحسبها النموذج قد تكون خاطئة.
6. التلاعب. يقنع المستخدم البوت بتجاهل تعليماته — حقن التعليمات — فيوافق على ما لا ينبغي.
7. أخطاء الأدوات. ينفّذ البوت على السجل الخطأ، أو ينفّذ دون تأكيد العميل.

الضوابط التي تحتوي الخطأ

أجب من المصادر أو لا تجب. اطلب من البوت الإجابة من المقاطع المسترجعة فقط، واحتفظ بإشارة إلى المقطع الذي استندت إليه كل إجابة، واجعله يقول «لا أعرف — دعني أوصلك بأحد زملائي» حين لا يجد ما يتصل بالسؤال.

تحقق من كل رقم مقابل نظامك. الأسعار والمجاميع والتواريخ والمخزون يجب أن تأتي من أنظمتك عبر الأدوات، لا من نص النموذج. وتحقق من أي رقم في الإجابة النهائية قبل أن يراه العميل.

حوّل السياسات إلى قواعد لا نصوص فقط. أهلية الاسترداد ونوافذ التوصيل ومدد الضمان أفضل حين تُشفّر قواعد يقيّمها النظام، ويشرح النموذج النتيجة. فالسياسة التي يجب على النموذج تفسيرها من فقرة سياسةٌ قد يسيء تفسيرها.

أكّد قبل الالتزام. قبل أي إجراء يُنشئ التزامًا — حجز أو إلغاء أو استرداد — أعد صياغته واطلب التأكيد، وسجّل التأكيد.

قيّد ما يستطيع البوت الوعد به. اجعلها قاعدة أن البوت لا يذكر إلا الالتزامات الموجودة في السياسة. وكل ما عداها — الاستثناءات وبادرات حسن النية والتعويضات — يذهب إلى موظف.

حوّل في اللحظات الصحيحة. الشكاوى والنزاعات والمسائل الحساسة وأي اعتراض على قرار يجب أن تصل إلى إنسان، مع المحادثة مرفقة.

تعامل مع كل ما يقرؤه النموذج على أنه غير موثوق. رسائل العملاء والمستندات المسترجعة قد تحوي تعليمات، فالصلاحيات والحدود تُفرض بالشيفرة لا بالتعليمات وحدها. ويتناول مقال كيف يُبنى شات بوت مخصص للأعمال فعليًا كل مكون من هذه.

المخاطر في قائمة OWASP

تسمّي قائمة OWASP لأهم عشرة مخاطر في تطبيقات النماذج اللغوية (إصدار 2025) المخاطر التي تختبرها فرق الأمن اليوم. وستة منها تنطبق مباشرة على الشات بوت الموجه للعملاء:

خطر OWASP	كيف يبدو في شات بوت الأعمال	الضابط
LLM01 حقن التعليمات	عميل يقنع البوت بتجاهل قواعده	فرض القواعد بالشيفرة؛ معاملة المدخلات على أنها غير موثوقة
LLM02 كشف المعلومات الحساسة	البوت يكشف بيانات عميل آخر أو ملاحظات داخلية	فحص الصلاحيات على الخادم؛ فصل مخازن المعرفة
LLM05 سوء معالجة المخرجات	تمرير مخرجات النموذج إلى نظام دون فحص	التحقق والتنقية قبل الاستخدام
LLM06 الصلاحية المفرطة	البوت يستطيع الاسترداد أو الإلغاء أو التعديل بأكثر مما تتطلبه وظيفته	أدوات ضيقة، وسقوف، وتأكيدات
LLM09 المعلومات المضللة	إجابات واثقة لكنها خاطئة	الاستناد إلى المصادر، والإحالة إليها، والرفض عند عدم اليقين
LLM10 الاستهلاك غير المحدود	إساءة استخدام تضخّم كلفة النموذج أو تُضعف الخدمة	حدود للطلبات وسقوف للإنفاق

عبارة إخلاء المسؤولية ليست استراتيجية

سطر يقول «قد يخطئ هذا المساعد» صادقٌ ويستحق أن يظهر، لكنه ليس دفاعًا يُعتمد عليه. ففي قضية Air Canada وضع الشات بوت رابطًا للسياسة الصحيحة، وظلت الشركة مسؤولة عما قاله البوت. فعبارة الإخلاء لا تحوّل تصميمًا غير موثوق إلى تصميم موثوق. اصرف الجهد في جعل البوت مصيبًا، وفي اكتشاف أخطائه حين يخطئ.

حين يقع الخطأ فعلًا

جهّز الاستجابة قبل أن تحتاجها:

1. عامل العميل بإنصاف وسرعة. فالوفاء بوعد خاطئ صغير كثيرًا ما يكون أرخص من النزاع عليه، وقد يُلزمك صاحب القرار به على أي حال.
2. ابحث عن السبب في السجلات — معرفة ناقصة، أو استرجاع خاطئ، أو خطأ أداة، أو تلاعب.
3. أصلح المصدر لا الإجابة وحدها: حدّث المعرفة، أو أحكم القاعدة، أو ضيّق الأداة.
4. أضف الحالة إلى مجموعة الاختبار ليُكتشف الإخفاق نفسه قبل الإصدار التالي.
5. تحقق هل انكشفت بيانات شخصية. فإن حدث، تنطبق إجراءات الاختراق، ومنها الإبلاغ خلال 72 ساعة متى هُددت حقوق العملاء.

اختبر قبل أن يختبر العملاء

قبل الإطلاق، وقبل كل تغيير مهم، اختبر عن قصد:

• مجموعة أسئلة حقيقية بإجابات متفق عليها، بالعربية والإنجليزية؛
• الحالات الحدية لكل سياسة — الاستثناءات والمواعيد والاسترداد الجزئي؛
• المحاولات العدائية: طلبات تجاهل التعليمات، وكشف بيانات عملاء آخرين، وتطبيق خصومات غير موجودة؛
• الأسئلة التي يجب أن يرفضها البوت، والأسئلة التي يجب أن يحوّلها.

ثم راجع عينة من المحادثات الحية كل أسبوع؛ فما تكشفه المراجعة يصبح اختبار الأسبوع التالي.

---

أسئلة شائعة

هل المنشأة مسؤولة عما يقوله الشات بوت لعملائها؟ أوضح قرار علني، قضية Moffatt ضد Air Canada في 2024، حمّل الشركة المسؤولية عن تضليل ناتج عن الإهمال صدر عن الشات بوت في موقعها، ورفض فكرة أن الشات بوت مسؤول عن نفسه. وفي عُمان ينسب قانون المعاملات الإلكترونية إليك الوثائق الصادرة عبر وسيطك الآلي.

هل يستطيع الشات بوت إبرام عقد ملزم في عُمان؟ نعم. تجيز المادة 19 من قانون المعاملات الإلكترونية العقد بين وسيط آلي وشخص يعلم أو يُفترض أن يعلم أنه يتعامل مع وسيط آلي. فصمّم مسارات الطلب والحجز بشروط واضحة وخطوة تأكيد صريحة.

هل تحمينا عبارة إخلاء المسؤولية إن أخطأ الشات بوت؟ لا تعتمد عليها. ففي قضية Air Canada وضع البوت رابطًا للسياسة الصحيحة، وظلت الشركة مسؤولة عن كلامه. وعبارات الإخلاء تستحق الإظهار من باب الصدق، لكن الموثوقية يجب أن تأتي من التصميم.

ما «هلوسة» الشات بوت؟ إجابة سلسة واثقة لا تسندها مصادرك — سياسة أو سعر أو معلومة مختلقة. وتحدث عادة حين لا يجد البوت معلومات ذات صلة فيسد الفجوة. والاستناد إلى المصادر المسترجعة والرفض حين لا يوجد شيء هما الضابطان الرئيسيان.

ماذا نفعل حين يعطي الشات بوت إجابة خاطئة؟ عالجها بإنصاف مع العميل، وابحث عن السبب في السجلات، وأصلح المعرفة أو القاعدة أو الأداة التي سببتها، وأضف الحالة إلى مجموعة الاختبار. وإن انكشفت بيانات شخصية فاتبع إجراء الاختراق.

هل يحق للعملاء الطعن في قرار الشات بوت في عُمان؟ منذ 7 سبتمبر 2026 تمنح المادة 14 من قانون حماية البيانات الشخصية حق الاعتراض على القرارات الناتجة عن المعالجة المؤتمتة، وتشترط مراجعة بشرية للقرار المعترض عليه.

---

يعرض هذا المقال الموقف وفق القوانين النافذة في 21 أكتوبر 2026، تاريخ نشره، وهو ليس استشارة قانونية. وقرار Air Canada صادر عن هيئة كندية ويُستشهد به لتسبيبه، ولا أثر ملزمًا له في عُمان.

المصادر: قضية Moffatt ضد Air Canada، 2024 BCCRT 149 (نص القرار) · CTV News — Air Canada تدفع ثمن خطأ الشات بوت · OWASP — أهم 10 مخاطر لتطبيقات النماذج اللغوية · المرسوم السلطاني 39/2025 — قانون المعاملات الإلكترونية · المرسوم السلطاني 68/2026 بتعديل قانون حماية البيانات الشخصية

تريد شات بوت يصعب عليه أن يعد بما لا تقدمه؟ تبني «ذوات» حلول الذكاء الاصطناعي والأتمتة مع إجابات مستندة إلى المصادر، وأرقام متحقق منها، وخطوات تأكيد، وتحويل إلى موظف مصممة فيها. احجز مكالمة.