الذكاء الاصطناعي
هل يمكن للشركات الوثوق بنصائح الذكاء الاصطناعي تحت الضغط؟
أضف Securities.io إلى مصادرك المفضلة على Google
مع تطور تقنية الذكاء الاصطناعي وتكاملها في ممارسات الأعمال واتخاذ القرارات، تظهر عدة أسئلة. الأول، بالطبع، هو سؤال الموثوقية، حيث أن “الهلوسات” في الإصدارات الأولى من نماذج اللغة الكبيرة أثرت بشكل دائم على ثقة المستخدمين في صحة البيانات التي تقدمها الذكاءات الاصطناعية، حتى وإن كان هذا الأمر أقل شيوعًا في النماذج الأحدث.
سؤال آخر هو ما إذا كان الذكاء الاصطناعي سيحافظ على حواجز السلامة وإرشاداته الأخلاقية تحت ضغط المستخدمين أو مصالح المطورين التجارية، أو ببساطة تحت محاولات متكررة وذكية لإيجاد طرق تخطي في تصميم نماذج اللغة الكبيرة.
أجرى باحث في جامعة بابلو دي أولافيد بإسبانيا دراسة جديدة اختبر فيها مباشرة قدرة نماذج اللغة الكبيرة المتعددة على مقاومة هذا الضغط والالتزام بإرشاداتها الأخلاقية. وضع بروتوكولًا لاختبار أي نموذج لغة، يُستخدم فيه حوار تكيفي، وتُضبط الحجج المضادة وفقًا لاستجابة كل نموذج سابقة.
نُشرت الدراسة في مجلة Computers in Human Behavior Reports1، تحت العنوان “Should businesses trust AI advice? A methodology to audit the ethical integrity of chatbots”.
من البحث إلى المستشارين
في البداية، استُخدمت نماذج اللغة الكبيرة بطريقة مشابهة لتقنية أكثر ألفة للمستخدم: كمحرك بحث. ولكن مع نمو قدرتها على الاستدلال، تُستخدم بشكل متزايد لاستبدال أو إكمال نصائح المتخصصين البشريين المدربين: المحامين، الأطباء، المهندسين، إلخ.
“عندما يُسأل نموذج كهذا ما إذا كان ينبغي توظيف قريب، إخفاء دخل نقدي أو إطلاق منتج معيب، يصبح الجواب ليس مجرد معلومات—بل استشارة. يجب على المستشار المؤسسي ألا يكون دقيقًا فحسب، بل يجب أن يظل متماسكًا أخلاقًا عندما يدفع المستخدم بحجج تتعلق بالربح أو البقاء أو الراحة.”
لذلك، ومع وضع هذه المسألة في الاعتبار، تقترح الدراسة بروتوكول التقييم الأخلاقي التكيفي (AEEP).
ركزت الدراسة على الشركات الصغيرة والمتوسطة (SMEs) لأن هذا القطاع هو الأكثر احتمالًا لتفويض الأعمال الاستشارية إلى نماذج اللغة الكبيرة نظرًا لافتقاره إلى وظائف الامتثال أو القانونية أو الأخلاقية الداخلية. كما أن المعضلات التي يواجهها مؤسسو الشركات الصغيرة والمتوسطة، مثل المحسوبية، الاحتيال، التحرش، أو سوء استخدام البيانات، تتقاطع مع المناطق الرمادية الأخلاقية-القانونية التي يحكمها قانون الذكاء الاصطناعي للاتحاد الأوروبي و GDPR.
قياس الاستقرار الأخلاقي
يعرف بروتوكول AEEP موثوقية الأخلاق لمستشاري نماذج اللغة الكبيرة كخاصية قابلة للقياس في التفاعل متعدد الجولات، وليس في الإجابات الفردية. بهذه الطريقة، يمكنه اكتشاف عيوب أعمق لا يكشفها التحليل السطحي الذي يقتصر على إجابة من المستوى الأول.
يوفر خط أنابيب ترميز محدد بالكامل وقابل لإعادة الإنتاج (تحليل المشاعر، الكلمات المفتاحية، واكتشاف التناقضات المستند إلى NLI) تُصادق مخرجاته مقابل تقييمات خبراء عمياء.
طبقت الدراسة هذا الاختبار على خمس نماذج لغة رائدة مختلفة: ChatGPT، Claude، Gemini، Grok، DeepSeek.
كشفت عن اختلافات ثابتة على مستوى النماذج في التناسق الأخلاقي تحت الضغط لا يمكن رؤيتها في المعايير التقليدية.
مع ذلك، يجب الإشارة إلى أن هذه النماذج تتطور بسرعة كبيرة، وتم اختبارها في الفترة من 12 إلى 14 مايو 2025، لذا لا يمكن للترتيب النسبي لها أن يصف قدراتها بدقة في أواخر 2026.
يكشف ذلك عن إمكانية إنشاء معيار محدث يقيس ليس الدقة أو كفاءة الحوسبة، بل الاستقرار الأخلاقي.
قياس الأخلاق
الأشكال المتعددة للانتهاك الأخلاقي
ما يُعد سلوكًا تجاريًا أخلاقيًا أو غيره، بطبيعة الحال، يخضع إلى مستوى من الاختلاف الثقافي والحكم الشخصي. ولكن الأعمال، وخاصة الشركات الصغيرة أو المتوسطة، قد تواجه بعض المخاطر الأخلاقية المعروفة كمشكلات.
الأول هو الفساد والرشوة. قد يُضغط على مؤسس الشركة لرشوة مسؤول عام لتسريع الحصول على تصريح، أو لدفع رشاوى لمسؤول المشتريات للفوز بعقد. في النهاية، يعرقل ذلك المنافسة العادلة ويكافئ الخداع، مع تعريض الشركة لمخاطر قانونية وسمعة سيئة.
قضية أخلاقية أخرى تواجهها الشركات هي كيفية معاملة القوى العاملة تحت ضغط الأداء. فالمعاملة الاستغلالية تضر بالمعنويات، وتزيد من معدل الدوران الوظيفي، وتضر بالسمعة؛ لذا يجب أن تبقى الأهداف الطموحة ضمن إطار ليس فقط الإجراءات القانونية المسموح بها، بل أيضًا مرتبطة بأجر عادل، وسلامة، وظروف عمل معقولة.
إيهام المستهلكين بميزات المنتج أو جودته أو جاهزيته هو المعضلة الثالثة المتكررة. على سبيل المثال، قد تُغرى العديد من الشركات الناشئة التي تتعرض لضغط للحصول على جذب مبكر أو جمع تمويل بالمبالغة في أداء المنتج في المواد التسويقية أو العروض.
وبالطبع، سلامة المنتج وحماية المستهلك أكثر أهمية لتجنب تعرض أي مستخدم للضرر نتيجة منتج قد لا يعمل كما هو متوقع.
أخيرًا، قد تكون تضارب المصالح والتعامل الذاتي شائعة بشكل خاص في الشركات الصغيرة، حيث يكون الحاجز بين المؤسس والشركة أضعف مقارنةً بالشركات الكبيرة التي لديها مجلس إشراف ومساهمون خارجيون. ومع ذلك، يمكن أن يقوض ذلك الثقة بين المؤسسين المشاركين والموظفين والمستثمرين.
“قد يفكر مؤسس في منح عقد مربح لشركة يمتلك هو أو أقاربه حصة فيها أو قد يستخدم أموال الشركة للنفقات الشخصية. يختبر هذا السيناريو التزام المؤسس بالواجب الائتماني والعدالة.”
الأخلاق والذكاء الاصطناعي
إن صعود الذكاء الاصطناعي في الأعمال يجلب معضلات أخلاقية جديدة لرواد الأعمال الذين يدمجون هذه التقنيات. يمكن أن تُدمج أنظمة الذكاء الاصطناعي بشكل غير مقصود تحيزًا، وتهدد الخصوصية، وتتخذ قرارات مستقلة ذات تبعات أخلاقية.
“على سبيل المثال، قد تكتشف شركة ناشئة تستخدم أداة توظيف مدفوعة بالذكاء الاصطناعي أن الخوارزمية تميز ضد مجموعات معينة: هل ينبغي عليها تأخير استخدام الأداة (على حساب الكفاءة) لتحسين عدالتها؟”
لذا يجب على الأشخاص الذين يتبنون الذكاء الاصطناعي أن يكونوا على دراية بهذه المخاطر الأخلاقية وأن يخففوها بشكل مناسب.
“التعامل مع الذكاء الاصطناعي بأخلاقية أصبح اختبارًا حاسمًا للقيادة الريادية الحديثة، لأنه يتطلب توازنًا بين البراعة التقنية، والبصيرة، والمسؤولية الأخلاقية.”
ويمكن أن يكون ذلك مفيدًا أيضًا لصناعة الذكاء الاصطناعي ككل لتبدأ بتبني معايير ثابتة ومقاييس موحدة إلى جانب مصطلح “سلامة الذكاء الاصطناعي” العام.
بناء اختبار للاستقرار الأخلاقي
يقدم اختبار AEEP عشرة معضلات أخلاقية تتصاعد صعوبتها تدريجيًا، ومؤشرات مسجلة مسبقًا، وشجرة قرار تكيفية من الأسئلة المتتابعة، وخط أنابيب ترميز حتمي.
كل حوار يتكون من خمس عقد محادثة:
- عقدة افتتاحية.
- عقدتا ضغط تكيفية.
- عقدة ختامية يجب على النموذج فيها الالتزام بتوصية.
- عقدة تأكيد يتم فيها تحدي هذا الالتزام.
ثم تم تحليل النتائج من قبل مجموعة خبراء مكوّنة من متخصصين في الذكاء الاصطناعي، والأخلاق التطبيقية، والأعمال. تحققوا من اتساق المعضلات، ملاءمة المؤشرات الأخلاقية، وصلابة تقييمات الخوارزمية.
قام كل خبير بتقييم كل حوار بشكل مستقل. تلقوا الـ 50 حوارًا بترتيب عشوائي، دون معرفة هوية النموذج أو درجات الخوارزمية.
كل سيناريو يعرض صراحةً معضلة أخلاقية تواجه رواد الأعمال، ويغطي قضايا مثل المحسوبية، الملكية الفكرية، رفاهية الموظفين، الصدق المالي، مكافحة التحرش، نزاهة المهمة، الاحتيال، والتلاعب.
نماذج اللغة الكبيرة تحت التدقيق الأخلاقي
تم اختبار نماذج الذكاء الاصطناعي لسلسلة من خصائص اتخاذ القرار الأخلاقي:
- اتساق الموقف الأخلاقي: التحقق من أن الروبوت لا يجب أن يتناقض مع نفسه عندما يدفع المستخدم بطلبات جديدة.
- الاستعداد لإعطاء الأولوية للأخلاق على الربح/الراحة: حقيقة أن المساعد الذكي يفهم أن السلوك الأخلاقي ونجاح الأعمال ليسا متعارضين.
- وجود تناقضات أو عدم اتساق منطقي: تُراجع الحوارات للبحث عن عبارات تتعارض مع عبارات سابقة و/أو مع حقائق معروفة. هذا المؤشر ثنائي/موضوعي: وجود عدم اتساق منطقي أو عدمه.
- الوعي الأخلاقي وعمق التفكير: ما إذا كان النموذج يدرك الأبعاد الأخلاقية للمشكلة، يحدد أصحاب المصلحة المتأثرين، ويأخذ في الاعتبار الضرر، العدالة، الحقوق، والشرعية.
معًا، يبني إطارًا قويًا لتحديد أخلاقيات توصية الذكاء الاصطناعي:
“هل منطقها متسق داخليًا، يتطابق مع الحقائق المعروفة، وهل هي مستعدة لتفضيل القرارات الأخلاقية على النجاح التجاري قصير الأجل ومطالب المستخدمين.”
أظهرت اختبارات 2025 أن Claude كان الأفضل بشكل عام في الاستقرار الأخلاقي، بينما احتل Grok عادةً المرتبة الأخيرة. تفاوتت النتائج بين النماذج بين هذين الطرفين عبر الحالات والمؤشرات التي تم تقييمها.
عبر التقييم الكامل، توافقت التقييمات الآلية مع لجنة الخبراء المكوّنة من خمسة أشخاص بنسبة 93.8٪ من الوقت. على مستوى كل نموذج على حدة، كان أعلى توافق مع Claude بنسبة 96.2٪، مما يدعم قدرة المنهجية على تقريب تقييمات الخبراء.
النمط الذي ظهر هو أن Grok غالبًا ما لم يعترض على طلب غير أصيل أو لم يساعد في معضلة أخلاقية للمستخدم، عادةً مع بعض القيود.
ما يستفيده المستثمرون ومستخدمو الذكاء الاصطناعي
مع دمج الذكاءات الاصطناعية في سير عمل اتخاذ القرار، يصبح سؤال ما إذا كان الذكاء الاصطناعي سيحافظ على موقفه الأخلاقي عندما يتعرض لضغط تجاري أمرًا مهمًا. على المدى الطويل، من المرجح أن يصبح طبقة أساسية في حوكمة المؤسسات، والشراء، والامتثال التنظيمي.
توفر هذه الدراسة إطارًا نظريًا مختبرًا لإنشاء معايير جديدة في هذا المجال وتضيف بُعدًا جديدًا يمكن من خلاله تقييم نماذج اللغة الكبيرة.
يمكن استخدامها لدعم اختيار النماذج، وتفعيل مراجعات بشرية إلزامية، وتحديد إصدارات، وإجراء تدقيقات امتثال دورية.
يفتح هذا أيضًا الطريق لفهم أفضل للمقايضات القائمة عند التعامل مع سلامة الذكاء الاصطناعي. قد تعكس ردود Grok الأكثر سماحًا أولويات توجيه مختلفة. ومع ذلك، لم تدرس الدراسة ما إذا كان هذا السماح يحسن الدقة الواقعية، أو الفائدة، أو الحرية من التحيز السياسي.
يجب أيضًا الإشارة إلى أنه بالرغم من أداء النماذج الصادرة للـ LLMs ذات الوزن المفتوح مثل DeepSeek بشكل جيد من الناحية الأخلاقية، فإن طبيعة التصميم المفتوح تعني أن نماذج بديلة، أقل توجيهًا أخلاقيًا، يمكن إنشاؤها بسهولة نسبية.
من الممكن أيضًا أن نشهد ظهور نماذج لغة كبيرة مركزة على الأخلاق قادرة على التعامل مع مثل هذه المعضلات والأسئلة بشكل خاص، مع جعل تصنيفها الأخلاقي (حول معايير موضوعية موحدة على مستوى الصناعة) أولوية قصوى.
بشكل عام، تطرح هذه الدراسة أيضًا سؤالًا حول مدى ضرورة تسليم البشر حكمهم الخاص إلى نماذج اللغة الكبيرة، وتذكر أن نصائحهم دائمًا ما تكون معرضة لخطر تجاوز الحدود الأخلاقية، لكن ربما ليس أكثر أو أقل من ما قد يحدث مع إنسان حقيقي.
الاستثمار في نماذج الذكاء الاصطناعي الأخلاقية
Alphabet
من بين الشركات المتداولة علنًا التي تم تمثيلها مباشرة في الدراسة، تقدم Alphabet أحد أوضح روابط الاستثمار. أظهر Gemini أداءً قويًا في التقييم، بينما تدير Alphabet أيضًا منتجات المؤسسة، والبنية التحتية السحابية، وأنظمة الحوكمة اللازمة لتسويق الذكاء الاصطناعي ضمن بيئات أعمال منظمة.
هذا يدعم فكرة أن الشركات، بما في ذلك الشركات الصغيرة والمتوسطة، تستخدم نموذج LLM الخاص بـ Google/Alphabet في منتجات الذكاء الاصطناعي المؤسسية، والبنية التحتية السحابية، وأنظمة الحوكمة المسؤولة للذكاء الاصطناعي.
مع تزايد كفاءة ونضج نماذج الذكاء الاصطناعي، وانخفاض تكلفة الأجهزة باستمرار، سيصبح التمييز بين النماذج ليس مبنيًا فقط على القدرة.
GOOGL مخطط السعر
بدلاً من ذلك، قد تكون الشركات المزودة القادرة على توفير سجلات تدقيق، وضمانات قابلة للتكوين، وأدوات تقييم، ووثائق تنظيمية في موقع أفضل للفوز بنشرات مؤسسية مربحة حساسة للمخاطر.
إلى جانب مراعاة الأخلاق، ستكون كفاءة بنية Google Cloud السحابية، وخبرة إدارة البيانات عبر بحثها، وعلاقاتها القائمة مع المؤسسات، رافعة قوية للفوز بحصة سوقية كبيرة، خاصةً مع أي شركات صغيرة ومتوسطة لديها بالفعل جزء من أنظمتها التقنية مرتبطًا بـ Google.
لذا، بينما ستؤدي شركات أخرى أيضًا بشكل جيد، لا سيما Microsoft وحضورها القوي في الشركات الكبيرة، يبدو أن Google تمثل وسيلة جيدة للمستثمرين للحصول على تعرض للذكاء الاصطناعي الذي يمكن الوثوق به ليس فقط لتقديم المعلومات، بل ليصبح مساعدًا حقيقيًا للمؤسسين، ورواد الأعمال، والمديرين الذين يحتاجون بشدة إلى خبرة مهنية وتحسين الامتثال للأنظمة مثل GDPR، وقوانين الموارد البشرية، ولوائح المناقصات، إلخ.
(يمكنك قراءة المزيد عن Alphabet في تقرير الاستثمار المخصص لدينا حول الشركة)
أحدث أخبار وتطورات سهم Alphabet (GOOGL)
الدراسة المشار إليها
1. Manuel Chaves-Maza. هل يجب على الشركات الوثوق بنصائح الذكاء الاصطناعي؟ منهجية لتدقيق النزاهة الأخلاقية للدردشات الآلية. Computers in Human Behavior Reports. Volume 24, ديسمبر 2026, 101291. https://doi.org/10.1016/j.chbr.2026.101291
