الذكاء الاصطناعي
ضمان الأصالة مع بزوغ الذكاء الاصطناعي (AI)
اعتماد الذكاء الاصطناعي في جميع مناحي الحياة يتصاعد. تشير التقديرات إلى أن السوق مستعدة للزيادة ثلاثة أضعاف خلال السنوات السبع القادمة.
من حجم يقارب 242 مليار دولار أمريكي، من المتوقع أن ينمو إلى ما يقرب من 740 مليار دولار بحلول عام 2030. بدأت مختلف الصناعات في دمج الذكاء الاصطناعي في عملياتها. الصناعات التي استفادت منه أكثر حتى الآن هي الرعاية الصحية، المالية، التصنيع، الأعمال والخدمات القانونية، إلخ.
بدرجة أقل، بدأ الذكاء الاصطناعي في تغيير نماذج العمليات في صناعات مثل الإعلام، الترفيه، الأمن، التجزئة، الطاقة، إلخ.
مع زيادة اعتماد الذكاء الاصطناعي، ظهرت تحديات ضمان الأصالة كقضية هامة تحتاج إلى معالجة فورية. نبدأ مناقشة اليوم بالنظر إلى ما هي هذه التحديات.
انقر هنا لتتعرف على كل ما يتعلق بالاستثمار في الذكاء الاصطناعي.
تحديات الأصالة في اعتماد الذكاء الاصطناعي
ما كان قوة الذكاء الاصطناعي قد ظهر كضعفه. خوارزميات الذكاء الاصطناعي قادرة على إنشاء صور وفيديوهات ومقالات وأي شكل آخر من المحتوى المتعدد الوسائط يبدو واقعيًا للغاية بحيث يصعب على المشاهد العادي تمييزه عن الأصلي.
للعين المتوسطة، قد يبدو كأنه معلومات أصيلة من مصدر موثوق، بينما في الواقع قد يكون عكس ذلك تمامًا: محتوى زائف تم إنشاؤه لأغراض دعائية خبيثة. حدثت عدة أحداث في الآونة الأخيرة تكشف هذا الجانب من انتشار اعتماد الذكاء الاصطناعي.
صورة انفجار وهمية في البنتاغون تم إنشاؤها بالذكاء الاصطناعي
في مايو 2023، نُشرت أخبار عن انفجار بالقرب من البنتاغون في الولايات المتحدة. أظهرت الصورة الكثير من الدخان الأسود يخرج من الحديقة القريبة من مبنى البنتاغون. تم مشاركة هذه الصورة من قبل حساب تويتر موثوق، Bloomberg Feed، الذي يحمل علامة تحقق زرقاء. وبعد ذلك، شارك العديد من الحسابات الموثوقة ذات العلامات الزرقاء الصورة أيضًا. ومع ذلك، كانت الصورة مُنشأة بالذكاء الاصطناعي، وقد خدعت الكثيرين. السياسة الأخيرة التي أطلقتها منصة X لجعل العلامات الزرقاء متاحة مقابل رسوم شهرية قدرها 8 دولارات أمريكية زادت من تفاقم المشكلة.
نظرًا لأن أي شخص يمكنه الحصول على حساب موثوق وتتمتع الحسابات الموثوقة بمزيد من الظهور، انتشرت الأخبار بسرعة، مما أثار مخاوفًا بشأن انتحال شخصيات عامة، ومسؤولين حكوميين، ومواقع إخبارية، مسببًا فوضى وأزمة أصالة في المجال الرقمي.
على الرغم من أن الصورة لا يمكن للمستخدم العادي على منصة X التعرف بسهولة على أنها مُنشأة بالذكاء الاصطناعي، إلا أن بعض الباحثين في مجال الذكاء الاصطناعي تمكنوا من تحديد العيوب أو الشذوذ.
وفقًا لـ Nick Waters, أحد الباحثين في مجال الذكاء الاصطناعي:
“الدمج ‘غير المعتاد’ لسياج المبنى مع حواجز الحشد أظهر أن الصورة قد تم إنشاؤها أو تعديلها صناعيًا.”
مع ذلك، حقق التزوير هدفه، ولو لفترة وجيزة، من خلال إحداث الفوضى والارتباك على وسائل التواصل الاجتماعي وخارجها.
آلاف الصور الزائفة على Adobe Stock
وفقًا تقرير نُشر في صحيفة Washington Post، تنتشر الصور المخزنة التي تم إنشاؤها بالذكاء الاصطناعي بشكل واسع. أدّى البحث في Adobe Stock باستخدام مصطلح ‘حرب أوكرانيا’ إلى ظهور أكثر من 15,000 صورة زائفة للنزاع. كما أشار التقرير إلى وجود عدد كبير من صور الذكاء الاصطناعي لأشخاص في احتجاجات Black Lives Matter التي لم تحدث أبدًا.
توفرت أيضًا العشرات من الصور التي تم إنشاؤها بالذكاء الاصطناعي لحرائق ماوي. كثير من هذه الصور تشبه إلى حد كبير الصور الحقيقية التي التقطها المصورون الصحفيون بحيث يصعب تمييز الزائفة عن الحقيقية.
قضية المقاطع الإخبارية التي تبدو حقيقية
وفقًا لتقرير آخر نُشر بواسطة Forbes عن التزييفات التي تم إنشاؤها بالذكاء الاصطناعي، يُعد نجم TikTok وYouTube كريشنا ساهي أحد عدة مستخدمي وسائل التواصل الاجتماعي الذين يستخدمون الذكاء الاصطناعي التوليدي لإنشاء مقاطع إخبارية تبدو حقيقية من أبرز المذيعين في وسائل الإعلام الرئيسية التي تتمتع بمصداقية عالية.
من CBS إلى CNN إلى BBC، يضم العديد من مذيعي هذه الوكالات القائمة على هذا القائمة. تُعرف هذه الفيديوهات أيضًا باسم التزييف العميق، حيث تساعد خوارزميات الذكاء الاصطناعي القوية على إنشاء محتوى سمعي بصري يبدو ويصوت كالمذيعين أنفسهم.
وفقًا للتقرير، يمتلك كريشنا ساهي وحده جمهورًا يضم ملايين المشاهدين. تشمل فيديوهاته تعليقات إشكالية على مذيعين مزيفين تم تعديلهم بالذكاء الاصطناعي حول قضايا حساسة مثل إطلاق النار في المدارس، والهجمات الإرهابية، والهجمات الإجرامية، وغيرها.
وفقًا لهاني فريد، خبير التزييف العميق وأستاذ في جامعة كاليفورنيا بيركلي، تستغل هذه الفيديوهات شعبية ومصداقية المذيعين المعروفين كـ “وعاء جذاب لنشر المعلومات المضللة”.
وفقًا للبروفيسور فريد: “في كثير من الحالات، يكون المذيعون معروفين للمشاهدين ومُوثوقين، وحتى إذا لم يكونوا كذلك، فإن صيغة الأخبار العامة مألوفة وبالتالي تُعطى ثقة أكبر.” يعتقد أن إيقاف هذه الظاهرة سيتطلب منا “أن نأخذ حماية حقوق الأشخاص الذين تُستغل صورتهم وصوتهم بصورة غير مشروعة على محمل الجد”.
تزييفات عميقة من حرب غزة
شهد الإنترنت أيضًا غزوًا كبيرًا للفيديوهات المزيفة العميقة المتعلقة بحرب غزة. استجابةً لهذا التحدي، كان جان-كلود غولدنشتاين، الرئيس التنفيذي لشركة CREOpoint، وهي شركة تقنية متخصصة في الذكاء الاصطناعي، دورًا أساسيًا في تقييم صحة هذا المحتوى. وإدراكًا لخطورة الوضع، طورت الشركة قاعدة بيانات لأكثر الفيديوهات العميقة انتشارًا التي ظهرت من غزة، مما يمثل خطوة حاسمة في مواجهة هذا التهديد الرقمي.
According to Goldenstein:
“الصور، الفيديو والصوت: مع الذكاء الاصطناعي التوليدي، سيكون تصعيدًا لم تشهده من قبل.”
غالبًا ما تعيد هذه الفيديوهات استخدام محتوى من صراعات سابقة. تسعى إلى توليد استجابة عاطفية قوية من خلال تضخيم شدة الكارثة.
إلى جانب معرفة الذكاء الاصطناعي التوليدي من جميع جوانبه، تضم فرق إنشاء التزييف العميق أشخاصًا على دراية بعلم النفس البشري وكيفية استهداف أعمق دوافع الناس ومخاوفهم.
في أيدي المروجين، ومنظري المؤامرة، والإرهابيين، أو منظمات الاحتيال، تطورت أدوات الذكاء الاصطناعي التي تُنشئ محتوى زائف إلى واحدة من أكثر الأسلحة فتكًا. الحاجة إلى ضبطها تزداد مع كل يوم يمر.
إحدى أكثر الطرق فعالية لمكافحة هذا التهديد المتزايد هي ضمان أصالة المصدر. جهود البحث وبناء الحلول لضمان الأصالة في كامل نشاطها. فيما يلي بعض الأمثلة الواقعية.
كيف تضمن أصالة المحتوى في عصر الذكاء الاصطناعي؟
تقنية سوني للمصادقة داخل الكاميرا
تستعد شركة سوني للإلكترونيات لإطلاق حل مبتكر. أكملت الجولة الثانية من اختبار تقنية الأصالة داخل الكاميرا بالتعاون مع وكالة الأسوشيتد برس.
تهدف هذه التقنية إلى تمكين الصور الملتقطة من الحصول على شهادة ميلاد تصادق على أصل المحتوى. وبشكل أكثر تحديدًا، ستكون توقيعًا رقميًا يُنتج داخل الكاميرا في لحظة التقاط الصورة في شريحة الأجهزة.
وفقًا لنيال مانوفيتز، الرئيس التنفيذي ومدير العمليات في سوني للإلكترونيات، “تقنية الأصالة داخل الكاميرا أظهرت نتائج قيمة”، وتؤكد الشركة أنها “ستستمر في دفع تطويرها نحو إصدار أوسع”.
اكتمل اختبار الحقل المشترك بين سوني للإلكترونيات وAP في أكتوبر من هذا العام. كان هدف هذه الجولة من الاختبار تقييم كفاءة المصادقة على الالتقاط وسير العمل المتعلق.
كان المتعاون الثالث في هذا المشروع هو CameraBits، المعروف بإنشاء أداة سير العمل القياسية في الصناعة PhotoMechanic.
دور CameraBits في هذا التعاون كان يتمثل في تقديم التقنية لحفظ التوقيع الرقمي للكاميرا من خلال عملية تحرير البيانات الوصفية.
وفقًا لديفيد آكي، مدير التصوير في وكالة الأسوشيتد برس، “الصور الزائفة والمُعدلة تشكل قلقًا كبيرًا للمنظمات الإخبارية. فهي لا تسهم فقط في نشر المعلومات المضللة، بل في النهاية تقوض ثقة الجمهور في الصور الدقيقة والواقعية”.
ستُطلق تقنية التوقيع والمصادقة داخل الكاميرا كتحديث للبرامج الثابتة في عدة نماذج في ربيع 2024.
(SONY )
تتمتع شركة سوني جروب برأس مال سوقي يبلغ 106.35 مليار دولار، ونسبة السعر إلى الأرباح (P/E) تبلغ 19.49، وفي عام 2022 سجلت إيرادات قدرها 82.64 مليار دولار.
تقنية لمكافحة تلاعب الأصوات المزيفة العميقة
قادت التقنيات القائمة على الذكاء الاصطناعي إلى تطورات في توليد الكلام الواقعي. في شكلها الأصلي، يمكن لهذه التقنية أن تكون مفيدة للغاية. يمكنها المساعدة في إنشاء مساعدين صوتيين مخصصين وأدوات اتصال أخرى تعزز إمكانية الوصول. ومع ذلك، على الجانب الآخر، يستخدمها الكثيرون لإنشاء أصوات لفيديوهات التزييف العميق.
للرد على هذا التهديد، طور نينغ تشانغ، أستاذ مساعد في علوم الحاسوب والهندسة في كلية ماكلفي للهندسة بجامعة واشنطن، أداة تسمى AntiFake. ليست أداة لتخفيف الضرر بعد الهجوم، بل هي أداة استباقية تهدف إلى القضاء على المشكلة من جذورها.
According to Prof. Zhang:
“تضمن AntiFake أنه عندما ننشر بيانات صوتية، يصبح من الصعب على المجرمين استخدام تلك المعلومات لتوليد أصواتنا وتزييف هويتنا.”
في خطوة مثيرة لمكافحة القراصنة السيبرانيين المتقدمين، قرر البروفيسور تشانغ ردهم بعملاتهم الخاصة. وفقًا له:
“تستخدم الأداة تقنية الذكاء الاصطناعي العدائي التي كانت في الأصل جزءًا من مجموعة أدوات القراصنة السيبرانيين، ولكننا الآن نستخدمها للدفاع ضدهم.”
المبدأ التشغيلي الأساسي لـ AntiFake هو تشويه الإشارة الصوتية المسجلة بشكل طفيف. طبيعة التشويه دقيقة للغاية بحيث يبدو طبيعيًا للأذن البشرية، لكنه يُترجم إلى شيء مختلف تمامًا للذكاء الاصطناعي.
وفقًا للبيانات المتاحة للجمهور، أظهر AntiFake معدل حماية يزيد عن 95٪. كما أثبت فعاليته في كونه متاحًا لمجموعة متنوعة من الفئات السكانية.
استخدام تقنية البلوك تشين لضمان الأصالة
حلول OARO Media تستفيد من خصائص عدم القابلية للتغيير في تقنية البلوك تشين لمكافحة تهديد التزييف العميق. تساعد في إنشاء سجل بيانات لا يمكن تغييره للشركات والسلطات الحاكمة والمستخدمين الفرديين لتوثيق أي صورة أو فيديو.
طريقة عمل OARO Media على هاتف المستخدم المحمول بسيطة لكنها فعّالة بشكل كبير. يبدأ المستخدم بالوصول إلى كاميرا الهاتف عبر رابط ويب عبر رسالة SMS أو تطبيق شركة التأمين. بعد ذلك، يتم إصدار شهادة للمحتوى البصري، تشمل سجلًا لا يمكن تزويره يضم هوية المستخدم، والمحتوى، والطابع الزمني، وإحداثيات GPS. تساعد هذه العملية صناعة التأمين على توثيق المطالبات وتمييز التزييفات التي تم إنشاؤها بالذكاء الاصطناعي عن الحقيقية.
إيقاف استخدام التزييفات العميقة كجزء من حرب المعلومات
توفر حلول وخدمات Sentinel المضادة للتزييف العميق تساعد الحكومات الديمقراطية، والوكالات الدفاعية، والمؤسسات على حماية مواردها من تأثيرات المحتوى الذي يتم إنشاؤه بشكل خبيث باستخدام الذكاء الاصطناعي. لقد شاركت مع الاتحاد الأوروبي ووزارة الشؤون الاقتصادية والاتصالات في جمهورية إستونيا. ومع ذلك، فهي حل ما بعد الهجوم يساعد على اكتشاف التزييفات العميقة بمجرد انتشارها.
طريقة عملها هي تدفق بسيط من أربع خطوات. في الخطوة الأولى، يرفع المستخدم الوسائط الرقمية عبر موقع Sentinel أو واجهة برمجة التطبيقات (API). يقوم نظام Sentinel تلقائيًا بتحليل الوسائط لاكتشاف تزوير الذكاء الاصطناعي. ثم يقدم حكمًا بشأن ما إذا كانت الوسائط تزييفًا عميقًا أم لا. وأخيرًا، لجعل المستخدمين على دراية بكيفية سير العملية، يعرض تصورًا للتلاعب.
ضمان الأصالة في ظل الذكاء الاصطناعي: سيناريو الابتكار المزدهر للمستقبل
المحتوى غير الأصلي الذي يتم إنشاؤه بالذكاء الاصطناعي هو أداة قوية لتشويه الواقع ونشر الدعاية الضارة. حتى عندما يُنشأ لأسباب تبدو حميدة مثل النكتة أو الحصول على إعجابات على وسائل التواصل الاجتماعي، يمكن أن يثير عنفًا واسع النطاق.
يمتد تأثيره إلى زيادة عدم الثقة في مجالات مختلفة، من العلاقات الدبلوماسية بين الدول إلى التفاعلات بين مؤسسات الخدمات ومستخدميها وحتى العلاقات الشخصية. وبالتالي، فإن إشارة إيجابية هي أن الباحثين والعلماء التقنيين حول العالم قد أدركوا مخاطر المحتوى الزائف غير الخاضع للرقابة. لقد أبرزنا بالفعل عدة مبادرات تتصدى لهذه المشكلة.
هناك المزيد. Sensity، على سبيل المثال، تطور منصة استخبارات تهديدات بصرية. واجهتها البرمجية (API) قادرة بالفعل على اكتشاف أحدث تقنيات التلاعب والتوليف القائمة على الذكاء الاصطناعي. شركة ناشئة أخرى، Quantum Integrity، قدمت حلول SaaS للذكاء الاصطناعي يمكنها اكتشاف تزوير الصور والفيديو.
سيستمر المجرمون السيبرانيون في ابتكار تقنيات جديدة لخداعنا. لكن العديد من المؤسسات ستكون قادرة على توقعها وإحباطها. مع استمرار الابتكار بوتيرة ثابتة، لم تعد المعركة ديفيد ضد جولياث.
انقر هنا لتتعرف على كل ما يتعلق بالاستثمار في خمس تقنيات متقاربة.
