مراجعة مخرجات الذكاء الاصطناعي: روتين تحقق للعمل المهني
راجع مخرجات الذكاء الاصطناعي بقدر ما يترتب عليها، ودائمًا مقابل مصادر لم ينتجها الذكاء الاصطناعي نفسه. فمسودة رسالة إلى زميل تكفيها قراءة متأنية، أما ما يذهب إلى عميل أو جهة رقابية أو محكمة أو مريض فيحتاج أكثر:
- كل واقعة ورقم واقتباس وإحالة يُطابَق بمصدر فتحته بنفسك؛
- كل حساب يُعاد؛
- والمخرج يُقارن بالأصل بحثًا عما أسقطه.
فللذكاء الاصطناعي التوليدي طريقة خاصة في الخطأ: أخطاؤه تبدو عملًا صحيحًا. ولهذا يجب أن تكون المراجعة روتينًا ثابتًا لا مزاجًا.
يتناول هذا المقال المراجعة لدى المهنيين الذين يستخدمون الذكاء الاصطناعي في عملهم هم. أما ما يحدث حين يخطئ شات بوت يخدم العملاء، فيتناوله مقال حين يعطي الشات بوت إجابة خاطئة.
الجواب المختصر
- اجعل عمق المراجعة بقدر المخاطر: مسودات داخلية، ودعم قرار، وتواصل خارجي، وعمل مهني منظَّم.
- اجعل المخرجات قابلة للتحقق: اطلب الاقتباسات بمواضعها، وقائمة بالمصادر، وإظهار الحسابات.
- افتح كل مصدر بنفسك. لا تُعدّ الإحالة متحققًا منها إلا حين تقرأ الموضع المحال إليه.
- أعد حساب كل رقم مهم خارج أداة الذكاء الاصطناعي.
- ابحث عما سقط، لا عما هو موجود فقط.
- سجّل من راجع ماذا، ليمكن الدفاع عن العمل لاحقًا.
المقنع ليس بالضرورة صحيحًا
يقرر التقرير الدولي لسلامة الذكاء الاصطناعي 2026 أن «أنظمة الذكاء الاصطناعي الحالية تُظهر أحيانًا إخفاقات مثل اختلاق المعلومات، وإنتاج شيفرة معيبة، وتقديم نصائح مضللة». وتضع قائمة OWASP لأهم مخاطر تطبيقات النماذج اللغوية المعلوماتِ المضللة ضمن المخاطر الرئيسة للبناء على هذه النماذج.
أما المحاكم فكانت أشد وضوحًا. ففي يونيو 2025 نظرت المحكمة العليا في إنجلترا وويلز قضيتين قدّم فيهما محامون سوابق قضائية وهمية، وفي إحداهما لم يكن لثماني عشرة إحالة من خمس وأربعين وجود أصلًا. وحذّر الحكم من أن «الإجابات المتماسكة والمقنعة» لأدوات الذكاء الاصطناعي «قد يتبين أنها خاطئة تمامًا»، ونص على «واجب مهني» بالتحقق من دقة ذلك البحث بالرجوع إلى مصادر معتمدة. والقضية تخص المحامين، لكن المبدأ يسري على كل مهنة يوقّع أهلها على عملهم.
اجعل المراجعة بقدر المخاطر
| المستوى | أمثلة | الحد الأدنى من المراجعة |
|---|---|---|
| مسودة داخلية | ملاحظاتك، ومسودات أولى، وعصف ذهني | اقرأها كاملة؛ لا شيء يغادر مكتبك دون قراءة |
| دعم قرار | ملخصات لمدير، وتحليل يقوم عليه قرار | مطابقة الوقائع والأرقام الأساسية بالمصدر، مع الإشارة إلى الاستعانة بالذكاء الاصطناعي |
| تواصل خارجي | رسائل العملاء، والعروض، ومحتوى الموقع | مراجعة كل الوقائع والأسماء والأسعار والتواريخ والالتزامات، وقراءة النبرة بعين المتلقي |
| عمل مهني منظَّم | الاستشارات، والطلبات الرسمية، والإقرارات الضريبية، والملاحظات السريرية، والعقود | ردّ كل قول إلى مصدر أولي فتحته، وإعادة الحسابات، وتوقيع شخص مؤهل |
الأخطاء التي يميل إليها الذكاء الاصطناعي وكيف تكشفها
| الخطأ | كيف يبدو | كيف تكشفه |
|---|---|---|
| مصادر مختلقة | قضية أو لائحة أو رقم مادة أو تقرير لا وجود له | افتح كل مصدر في موقعه الرسمي أو الأصلي |
| مصادر محرّفة | مصدر حقيقي يُنسب إليه ما لم يقله | اقرأ الموضع المحال إليه، لا العنوان فقط |
| أرقام خاطئة | أخطاء حسابية، ووحدات خاطئة، ومجاميع لا تتسق | أعد الحساب في جدول، وتحقق من الوحدات والعملة والتواريخ |
| إسقاط | ملخص يُسقط البند المزعج | قارن ببنية المصدر: كل قسم وكل التزام |
| معلومات قديمة | قواعد أو أسعار تغيرت منذ ذلك الحين | تحقق من تاريخ كل مصدر ومن النسخة النافذة لأي قانون |
| خلط بين الأطراف | الرقم الصحيح للعميل أو الطرف أو الفترة الخطأ | طابق الأسماء والمراجع والفترات بالسجل |
| التزامات واثقة أكثر من اللازم | وعود أو ضمانات أو مواعيد لم يعتمدها أحد | اقرأ بعين المتلقي، واحذف ما لن توقّع عليه |
| انزلاق الترجمة | معنى انحرف بين اللغتين | اجعل مراجعًا يتقن اللغتين يقارن الجمل الأساسية |
روتين مراجعة من ست خطوات
1. اطلب مخرجات قابلة للتحقق. قبل أن تراجع شيئًا، غيّر ما تطلبه: اقتباسات بأرقام الصفحات أو البنود، وقائمة مصادر، وحسابات تظهر خطوة بخطوة. وأخبر النموذج أن يكتب «غير مذكور» حيث يصمت المصدر. ويتناول مقال هندسة الأوامر للأعمال كيف.
2. افتح كل مصدر. لا تكون الإحالة متحققًا منها إلا حين تجد المصدر في مكان معتمد — الجريدة الرسمية، أو موقع الجهة الرقابية، أو التقرير الأصلي، أو سجلاتك أنت — وتقرأ الموضع الذي أُحيل إليه.
3. أعد الحسابات. أعد كل رقم مهم خارج أداة الذكاء الاصطناعي: المجاميع، والنسب، والضريبة، والتحويلات، والتواريخ والمواعيد. وتحقق من اتساق الوحدات والعملة من أول النص إلى آخره.
4. تحقق من الاكتمال. قارن المخرج ببنية المصدر. فإن كان في العقد اثنا عشر التزامًا وذكر الملخص تسعة، فابحث عن الثلاثة الباقية. وسؤال النموذج «ما الذي في المستند ولا يغطيه هذا الملخص؟» قد يساعد، لكنه لا يغني عن النظر بنفسك.
5. اقرأ بعين المتلقي. هل سيفهم عميل أو جهة رقابية أو مريض شيئًا هنا على غير ما تقصد؟ راجع الأسماء والوعود والنبرة، وأي معلومة سرية لا مكان لها في النص.
6. سجّل المراجعة. دوّن من راجع المخرج، وما الذي طوبق بماذا، وأي أداة أنتجت المسودة. وفي العمل المهم احفظ الأمر والمخرج مع الملف.
أساليب تساعد، وحدودها
- مراجعة النموذج لنفسه. أن تطلب من النموذج نقد إجابته يكشف بعض الأخطاء، لكنه يشاركها مواضع العمى نفسها. فاعتبره مرشحًا أوليًا.
- نموذج ثانٍ. المقارنة بنموذج مختلف قد تكشف خلافات تستحق التحقيق، لكن اتفاق نموذجين ليس دليلًا.
- العينات في الأعمال الكبيرة. حين يستخرج الذكاء الاصطناعي بيانات مئات الفواتير، راجع عينة عشوائية مع كل بند يتجاوز حدًا معينًا للقيمة، ووسّع العينة إن ظهرت أخطاء.
- قواعد التحقق. في الأنظمة، دع الشيفرة تتحقق مما تستطيع: تطابق المجاميع مع البنود، وصحة حساب ضريبة القيمة المضافة، ووقوع التواريخ داخل الفترة. ثم يراجع الناس ما لا تستطيعه القواعد.
- الثقة التي يعلنها النموذج. قول النموذج إنه «متأكد بنسبة 95%» ليس مقياسًا للدقة. اعتمد على المصادر لا على اليقين المعلن.
احذر «انحياز الأتمتة»
تحذّر إرشادات منظمة الصحة العالمية الصادرة في يناير 2024 بشأن النماذج الكبيرة متعددة الوسائط في الصحة من أنها قد تشجع لدى المهنيين الصحيين والمرضى «انحياز الأتمتة» الذي تُغفل معه الأخطاء. والخطر لا يقتصر على الطب: فكلما كانت أداة الذكاء الاصطناعي جيدة في العادة، سهل التوقف عن مراجعتها.
وثلاث عادات تقاومه:
- كوّن رأيك أولًا في المسألة الأساسية، ثم اقرأ إجابة الذكاء الاصطناعي.
- بدّل المراجعين في العمل المهم، كي لا تصير المراجعة إجراءً شكليًا.
- اختبر المراجعين. ضع أحيانًا مسودة معيبة عمدًا في طابور المراجعة، وانظر هل تُكتشف.
كيف تبدو المراجعة في كل مهنة
| المهنة | المراجعة الأهم |
|---|---|
| المحاسبون | تطابق الأرقام مع دفتر الأستاذ، ومطابقة المعالجة الضريبية بالقانون وإرشادات جهاز الضرائب. انظر الذكاء الاصطناعي للمحاسبين. |
| المحامون | فتح كل سند قانوني في مصدر رسمي وقراءته كاملًا. انظر الذكاء الاصطناعي للمحامين. |
| العيادات | مطابقة الملاحظة لما جرى في الاستشارة، ومراجعة أسماء الأدوية وجرعاتها. انظر الذكاء الاصطناعي للأطباء والعيادات. |
| الموارد البشرية | ألا يقوم شيء في قائمة مختصرة أو تقييم على صفة محمية. انظر الذكاء الاصطناعي في الموارد البشرية والتوظيف. |
| المهندسون | مطابقة المعايير وبنود المواصفات والكميات بالمستندات المصدر. انظر الذكاء الاصطناعي لشركات الهندسة والمقاولات. |
إدماج المراجعة في الأنظمة
حين تتكرر المراجعة نفسها مئات المرات، فمكانها النظام: قواعد تحقق، وخطوات اعتماد، وسجل بمن اعتمد ماذا. ويشرح مقال من الأوامر إلى سير العمل متى يتحول الأمر المتكرر إلى أداة، ويتناول مقال من يرى ماذا: التحكم في الوصول وسجلات التدقيق التسجيل.
أسئلة شائعة
كيف أعرف أن الذكاء الاصطناعي اختلق شيئًا؟ كثيرًا ما لا تعرف ذلك بالقراءة، لأن المحتوى المختلق يبدو مقنعًا. افتح كل مصدر محال إليه في موقع معتمد واقرأ الموضع المقصود، فإن لم تجده فعامله بوصفه مختلقًا.
هل يكفي أن أطلب من الذكاء الاصطناعي مراجعة عمله؟ لا. المراجعة الذاتية تكشف بعض الأخطاء، لكنها تشارك النموذج مواضع العمى نفسها. استخدمها مرشحًا أوليًا، ثم تحقق من الوقائع والأرقام والمصادر بنفسك.
كم من الوقت تستغرق المراجعة؟ بحسب المخاطر. المسودات الداخلية تكفيها قراءة، والعمل المهني المنظَّم يحتاج ردّ كل قول إلى مصدر. وإن كانت المراجعة أطول من إنجاز العمل بنفسك، فربما لا تناسب المهمة الذكاء الاصطناعي، أو يحتاج الأمر إلى طلب مخرجات أسهل في التحقق.
أي مخرجات الذكاء الاصطناعي تحتاج أشد المراجعة؟ كل ما فيه إحالات أو أرقام أو محتوى قانوني أو طبي أو التزامات تجاه طرف ثالث، وكل ما سيوقّعه مهني أو يعتمد عليه عميل.
هل نخبر العملاء حين نستخدم الذكاء الاصطناعي؟ اتبع قواعد مهنتك واتفاقاتك مع العملاء. وبعض المحاكم تتوقع ذلك أصلًا: فإرشادات محاكم مركز دبي المالي العالمي بشأن الذكاء الاصطناعي في الدعاوى تطلب من الأطراف الإفصاح «في أقرب فرصة ممكنة»، وألا يعتمدوا على محتوى أنتجه الذكاء الاصطناعي قبل التحقق من دقته.
هل يمكن أتمتة المراجعة؟ جزئيًا. قواعد التحقق والمطابقات والبحث عن الإحالات يمكن أتمتتها في النظام، لكن ينبغي أن يراجع شخص مؤهل كل ما تترتب عليه مسؤولية مهنية أو قانونية.
يعكس هذا المقال إرشادات المحاكم والمصادر المتاحة في 28 أكتوبر 2026، تاريخ نشره، وهو ليس استشارة قانونية.
المصادر: التقرير الدولي لسلامة الذكاء الاصطناعي 2026 — الملخص التنفيذي · حكم المحكمة العليا في قضيتي Ayinde وAl-Haroun، 6 يونيو 2025 · منظمة الصحة العالمية — إرشادات النماذج الكبيرة متعددة الوسائط في الصحة · محاكم مركز دبي المالي العالمي — مذكرة التوجيه العملي رقم 2 لسنة 2023 · OWASP — أهم 10 مخاطر لتطبيقات النماذج اللغوية
تريد أن تكون المراجعة جزءًا من أدوات الذكاء الاصطناعي لديك لا متروكة للذاكرة؟ تبني «ذوات» حلول الذكاء الاصطناعي والأتمتة مع قواعد التحقق وخطوات الاعتماد وسجلات التدقيق مصممة فيها. احجز مكالمة.