قد تؤدي حلقات التغذية الراجعة إلى معاناة نماذج اللغة الكبيرة من “انهيار النموذج” مشابه لمرض جنون البقر

ظهرت مشكلة غريبة في عالم الذكاء الاصطناعي التوليدي. المشكلة قوية ومعقدة لدرجة أنها قد تهدد نطاق الذكاء الاصطناعي التوليدي. قبل الغوص أعمق في فهم هذه المشكلة، دعونا نلقي نظرة سريعة على سبب اعتبار العقبة المتوقعة على منحنى الذكاء الاصطناعي الصاعد ذات أهمية كبيرة. يُعد ذلك مهمًا للغاية. 

كيف يُفترض أن يجعل الذكاء الاصطناعي العالم أكثر كفاءة

على مدى السنوات القليلة الماضية، الفوائد التي قدمها الذكاء الاصطناعي التوليدي للعالم قد زادت من تبنيه بشكل كبير. 92٪ من شركات فورتشن 500 اعتمدت الذكاء الاصطناعي التوليدي، بينما 70٪ من جيل زد جربوا هذه الأدوات.

انتشار الذكاء الاصطناعي التوليدي واسع لدرجة أن ما يقرب من 90٪ من الوظائف الأمريكية قد تتأثر به، و 95٪ من تفاعلات العملاء قد تشملها بحلول عام 2025. بينما تبلغ قيمة السوق الحالية ما يقرب من 45 مليار دولار أمريكي، يمكن للذكاء الاصطناعي أن يزداد فقط ويولد ما يصل إلى 97 مليون وظيفة بحلول العام المقبل. 

إن إمكانات الذكاء الاصطناعي لا مثيل لها، على أقل تقدير. أكثر من مليوني مطور برمجيات يبنون على واجهة برمجة تطبيقات OpenAI، ومعظم هؤلاء المطورين من شركات فورتشن 500 التي كان بإمكانها الاستفادة من أفضل الموارد المتاحة لأعمالهم. ومع ذلك، اختاروا التطوير على واجهة برمجة التطبيقات.

هذا الشعور الإيجابي تجاه إمكانات الذكاء الاصطناعي التوليدي ينعكس أيضًا في استبيان أجرته Deloitte، والذي أفاد بأن 94٪ من التنفيذيين في الأعمال يعتقدون أن الذكاء الاصطناعي هو مفتاح النجاح المستقبلي.

من كل هذه البيانات والحقائق، يتضح أن العديد من الأشخاص حول العالم يتطلعون إلى الذكاء الاصطناعي التوليدي للنمو المستقبلي. ومع ذلك، ظهرت مشكلة قد تتحدى إمكانات نمو الذكاء الاصطناعي: حلقات التغذية الراجعة. في الفقرات التالية، سنستكشف هذه المشكلة بمزيد من التفصيل، مع فحص جميع تداعياتها المحتملة وآثارها.

ما هي حلقات التغذية الراجعة

في أبسط أشكالها، لا تُعد حلقات التغذية الراجعة سيئة أو ضارة. إنها عملية الاستفادة من مخرجات نظام الذكاء الاصطناعي وإجراءات المستخدم النهائي المقابلة لإعادة تدريب النماذج وتحسينها مع مرور الوقت. 

نظرًا لطبيعتها، تُسمى حلقات مغلقة، وتُعرف العملية بالتعلم المغلق. هنا، يحدث مقارنة مستمرة بين المخرجات التي يولدها الذكاء الاصطناعي والقرار النهائي لتزويد النموذج بتغذية راجعة، مما يسمح له بالتعلم من أخطائه. 

ومع ذلك، تنشأ مشكلة مع هذا التعلم عبر حلقات التغذية الراجعة عندما يتم استخدام البيانات الاصطناعية. تدريب نماذج الذكاء الاصطناعي التوليدي يتطلب كميات هائلة من البيانات، التي تكون محدودة في الإمداد ونادرة إلى درجة أن هذه النماذج تستنفد موارد التدريب بالكامل. 

لهذا السبب تسعى الشركات التقنية الكبرى إلى الاستفادة من البيانات الاصطناعية لتدريب الأجيال المستقبلية من نماذج الذكاء الاصطناعي. ومع ذلك، للبيانات الاصطناعية نصيبها من الفوائد والعيوب. 

مزايا وعيوب البيانات الاصطناعية

البيانات الاصطناعية أو التي يُنشئها الذكاء الاصطناعي لها العديد من الفوائد. على سبيل المثال، هي أرخص من البيانات الواقعية، والأهم من ذلك أن إمداد هذه البيانات لا نهائي.

نظرًا لأن البيانات مُصنّعة، فهي لا تأتي من فرد حقيقي وتطرح مخاطر خصوصية قليلة جدًا. أما البيانات الحقيقية، خاصة تلك المستخدمة في مجالات التقنية الطبية والرعاية الصحية، فتنطوي على خطر خروقات الخصوصية. علاوة على ذلك، هناك حالات حيث ساعد استخدام البيانات الاصطناعية في تحسين أداء الذكاء الاصطناعي. 

ومع ذلك، من الجانب الآخر، قد تصبح النماذج التي تغذى بكمية مفرطة من البيانات الاصطناعية محدودة في وظائفها وإمكاناتها، مما يسبب تأثيرات سلبية على إصدارات نماذج الذكاء الاصطناعي التوليدي المستقبلية. توقع هذا الخطر ليس بلا أساس، حيث أن عملًا حديثًا أجرته مجموعة معالجة الإشارة الرقمية في جامعة رايس يؤكده. 

وفقًا لريتشارد بارانيك، أستاذ جامعة رايس في الهندسة الكهربائية وعلوم الحاسوب C. Sidney Burrus:

“تنشأ المشكلات عندما يتكرر تدريب البيانات الاصطناعية، حتمًا، مكوّنًا نوعًا من حلقة التغذية الراجعة — ما نسميه حلقة التآكل الذاتي أو ‘الحلقة المستهلكة للذات’.”

تحدي حلقات التغذية الراجعة الناجمة عن البيانات الاصطناعية

الآن، لفهم الطبيعة الكاملة للمشكلة، يجب أن ننظر إلى حالة حلقات التغذية الراجعة والبيانات الاصطناعية معًا. لخص الأستاذ بارانيك المشكلة بملاءمة قائلاً ما يلي: “عملت مجموعتنا على نطاق واسع على مثل هذه حلقات التغذية الراجعة، والخبر السيء هو أنه حتى بعد بضع أجيال من هذا التدريب، يمكن أن تصبح النماذج الجديدة فاسدة بشكل لا يمكن إصلاحه. وقد أُطلق على ذلك مصطلح ‘انهيار النموذج’ من قبل البعض ⎯، وأحدثًا من قبل زملاء في المجال في سياق نماذج اللغة الكبيرة (LLMs). ومع ذلك، نجد أن مصطلح ‘اضطراب التآكل الذاتي للنموذج’ (MAD) أكثر ملاءمة، بالمقارنة مع مرض جنون البقر.”

لتوضيح صلة هذه المقارنة، مرض جنون البقر هو مرض عصبي تنكسي قاتل يؤثر على الأبقار وله مكافئ بشري ينتج عن استهلاك لحم ملوث. يُقارن ذلك بتحدي حلقة التغذية الراجعة التي تواجه نماذج الذكاء الاصطناعي التوليدي لأن المرض ينتشر من خلال إطعام الأبقار بفضلات معالجة من أقرانها المذبوحين. إن فعل إطعام البيانات المتبقية أو البيانات التي تنبع من العملية نفسها كمنتج ثانوي هو ‘العدوى’ التي تُستمر في نماذج الذكاء الاصطناعي التوليدي المستقبلية.

الدراسة التي تناولت هذه المشكلة كانت بعنوان ‘نماذج توليدية ذاتية الاستهلاك تصاب بمرض MAD‘. ما هو مهم أيضًا في هذا البحث هو أنه أول عمل محكم النظر حول التآكل الذاتي للذكاء الاصطناعي يتعامل مع نماذج الذكاء الاصطناعي البصرية الشهيرة والمعروفة مثل DALL-E وMidjourney وStable Diffusion. وعلى الرغم من أن الفريق عمل مع الذكاء الاصطناعي البصري، كما أشار الأستاذ بارانيك، \”تحدث نفس مشكلات الفساد المشابه لجنون البقر مع نماذج اللغة الكبيرة (LLMs)\”.

الآن بعد أن استعرضنا المشكلة والعوامل التي تدفعها، يجب أن ننظر إلى تأثيرها والطرق التي قد تؤثر بها على التطوير المستقبلي لنماذج الذكاء الاصطناعي التوليدي. 

نقص البيانات الطازجة يؤدي إلى ذكاء اصطناعي غير صحي

المشكلة الأساسية الناجمة عن نموذج لغة كبير متأثر أو مُصاب هي نموذج ذكاء اصطناعي فقر. مع نقص البيانات الحقيقية الطازجة، تصبح المخرجات مشوهة وتفتقر إلى الجودة والتنوع. 

لتوضيح هذا السيناريو بطريقة أكثر فهمًا وبصرية، يمكننا أخذ حالة توليد وجوه بشرية باستخدام الذكاء الاصطناعي. مع تغذية البيانات عبر حلقات تكرارية متقدمة، تظهر إمكانية أن تصبح جميع الوجوه متشابهة، أكثر فأكثر كأنها نفس الشخص. 

شدة مثل هذه الإمكانات الضارة شديدة، على أقل تقدير. يمكن قياس الشدة من خلال تعليق بارانيك، الذي يقول:

“بعض التداعيات واضحة: بدون بيانات حقيقية طازجة كافية، فإن نماذج التوليد المستقبلية محكوم عليها بالجنون (MADness).”

هل هناك أي علاج لهذا الوضع الكارثي الذي يبدو أنه يلوح في أفق عالم تطوير الذكاء الاصطناعي؟ في الوقت الحالي، قدم الباحثون معامل تحيز العينة الذي يأخذ في الاعتبار ميل المستخدمين لتفضيل جودة البيانات على التنوع. يُطلق على هذا الميل اسم ‘الانتقاء الانتقائي’. الجانب الإيجابي هو أنه يساعد في الحفاظ على جودة البيانات عبر عدد أكبر من تكرارات النموذج. ومع ذلك، فإن المقايضة تكون في شكل انخفاض أكبر في التنوع. 

لقد رأينا بالفعل نوع التأثير الذي يمكن أن يحدثه الذكاء الاصطناعي على عالمنا المستقبلي. مع كل هذا الإمكان المتاح للإطلاق، قد تؤثر هذه المشكلة على عدد كبير من أصحاب المصلحة، خاصة الشركات الجديدة والمبتكرة التي تعمل عليها. 

جوجل هي إحدى الشركات الرائدة في تشغيل نماذج اللغة الكبيرة لمجموعة واسعة ومتنوعة من أصحاب المصلحة. ونقص التنوع في الخلاصات التي يولدها الذكاء الاصطناعي هو أمر سيتعين على جوجل التعامل معه في الأيام القادمة. هنا، نلقي نظرة سريعة على قدرات Google AI فيما يتعلق بتشغيل نماذج اللغة الكبيرة.

#1. Google AI

في مجال الذكاء الاصطناعي، هناك جناحان تشغيليان يساعدان Google accomplish its goals وهما Google DeepMind وGoogle Cloud. لتوضيح التعاون بشكل أكثر تحديدًا، يجلب Google Cloud الابتكارات التي طوّرها واختبرها Google DeepMind إلى منصة الذكاء الاصطناعي الجاهزة للمؤسسات حتى يتمكن العملاء من البدء في استخدامها لبناء وتقديم قدرات الذكاء الاصطناعي التوليدي. يقدم Google Cloud ثلاث خدمات نماذج لغة كبيرة.

• الأول هو الذكاء الاصطناعي التوليدي على Vertex AI، والذي يتيح للمستخدمين الوصول إلى نماذج الذكاء الاصطناعي التوليدي الكبيرة من Google لاختبارها وضبطها ونشرها في تطبيقاتهم المدعومة بالذكاء الاصطناعي.
• الثاني هو أداة بناء الوكيل في Vertex AI، والتي تُصمم لتطبيقات البحث المؤسسي والدردشة الآلية. تأتي مع سير عمل مُعد مسبقًا للمهام المعتادة مثل الانضمام، واستهلاك البيانات، والتخصيص، وغيرها.
• الأخير هو Contact Center AI، حل مركز اتصال ذكي يتضمن Dialog Flow، منصة الذكاء الاصطناعي الحوارية من Google التي تدعم كلًا من القدرات القائمة على النوايا ونماذج اللغة الكبيرة.

مع ذلك، واجهت Google أيضًا نصيبها العادل من المشكلات المتعلقة باستخدام الذكاء الاصطناعي. في مايو من هذا العام، أوضح الرئيس التنفيذي لجوجل سوندار بيتشاي أن الشركة أخطأت عندما أنتجت نتائج صور متحيزة عرقيًا استجابةً لاستفسارات المستخدمين. 

كان على جوجل أن pause Gemini’s image-generating features بعد أن اشتكى مستخدمو وسائل التواصل الاجتماعي من حلهم الذي يكرّر صورًا خاطئة، بما في ذلك تصوير الأشخاص ذوي اللون عند تمثيل النازيين. 

مُعيدًا صدى الكثير من الأبحاث التي أشرنا إليها هنا، أقرت الشركة بوجود مشكلة ناشئة عن “قيود في بيانات التدريب المستخدمة لتطوير Gemini”.

مُوضحًا أكثر مكان وجود المشكلة، قال سوندار بيتشاي ما يلي أيضًا:

“هناك أوقات معينة تجيب فيها [على أسئلة مثل] ‘ما هو عدد سكان الولايات المتحدة؟’ نعم، إنه سؤال قابل للإجابة. [ولكن] هناك أوقات تريد فيها إظهار مجموعة واسعة من الآراء الموجودة على الويب، وهذا ما يفعله البحث ويؤديه بشكل جيد.”

وفقًا لبيتشارى، فإن العمل الذي قامت به جوجل على مر السنين يضمن – من منظور البحث – أن الشركة تقدم معلومات موثوقة وعالية الجودة. 

من الناحية المالية، أبلغت شركة Alphabet Inc. (GOOG ) (الشركة الأم لجوجل) عن إيرادات بلغت 307.4 مليار دولار في عام 2023، بزيادة 9٪ عن 282.8 مليار دولار في عام 2022. وصل الدخل التشغيلي إلى 84.3 مليار دولار، بارتفاع ملحوظ عن 74.8 مليار دولار في العام السابق. وعلى الرغم من زيادة النفقات التشغيلية إلى 223.1 مليار دولار، كان صافي الدخل 73.8 مليار دولار، مقارنةً بـ 60 مليار دولار في عام 2022.

#2. Cohere

كيان آخر يقوم بعمل رائع في هذا المجال هو Cohere ومقره في تورونتو. أحد مبادراتهم التي تستحق ذكرًا خاصًا هو ‘Cohere for AI’، مختبر أبحاث غير ربحي يهدف إلى حل مشكلات التعلم الآلي المعقدة. على عكس مجموعة الأبحاث التقليدية، يعمل Cohere for AI كمختبر هجين يضم فريقًا مخصصًا للبحث ودعمًا لمبادرات العلم المفتوح. تتعاون الشركة بشكل مفتوح مع باحثين مستقلين حول العالم لإجراء أبحاث تعلم آلي من المستوى الأعلى.

مجتمع البحث العلمي المفتوح الخاص بـ Cohere هو مساحة تقاطعية تضم باحثين ومهندسين ولغويين وعلماء اجتماع ومتعلّمين مدى الحياة. تزدهر هذه المساحة بمساهمين من أكثر من مئة دولة حول العالم. 

بعض نماذج Cohere تشمل Aya 23 – 8B وAya 23 – 35B، نماذج لغة كبيرة بحثية متاحة ومتقدمة، وC4AI Command R – 104B وC4AI Command R – 35B، أوزان نماذج لتعميم الوصول إلى البحث، وAya، نموذج لغة كبير بحثي متعدد اللغات بشكل هائل. 

مؤخرًا، أعلن Cohere وFujitsu عن شراكة استراتيجية لتطوير وتوفير خدمات الذكاء الاصطناعي للمؤسسات بقدرات رائدة في اللغة اليابانية. وفقًا لشروط التعاون، ستقوم الشركتان ببناء نماذج لغة كبيرة من فئة المؤسسة قوية لتلبية احتياجات الأعمال العالمية.

في مارس من هذا العام، أعلن Cohere أنه يسعى لتقييم قدره 5 مليارات دولار في أحدث جهوده لجمع التمويل. وكان يهدف إلى جمع حوالي 250 مليون دولار من خلال جولة التمويل هذه، وفقًا لمصدر مطلع على الأمر.

أفكار ختامية

LLMs والنماذج التوليدية للذكاء الاصطناعي التي تشغلها تظهر وتتطور بسرعة. هذه الساحة تشمل تقنية متقدمة بطموح هائل وتطلعات مكثفة. وبالتالي، يمكن توقع تدفق كبير للبحوث في هذه الساحة خلال السنوات القادمة. 

منظمات البحث، الشركات التقنية الكبرى، المؤسسات التعليمية—كل صاحب مصلحة محتمل حريص على تكثيف تخصيص موارده في هذه الساحة. مثل هذا الاندفاع من الأنشطة يعني ظهور مزيد من العوائق. لكنه يعني أيضًا تصحيح المسار، التفكير خارج الصندوق، وإعادة تصور الحلول القائمة بأكثر الطرق تحسينًا ممكنة.

انقر هنا لتتعرف على كل ما يتعلق بالاستثمار في الذكاء الاصطناعي.