⚠️ مبادرة تحريرية وتحقيق استقصائي

The Dark Side of AI

الوجه الآخر للثورة الاصطناعية. ذلك الذي بات من الملحّ التحديق فيه.

بقلم رضا لمريني • تحقيقات، قراءة نقدية وتأمل إنساني
🏠 الرئيسية 🔴 الفصل 0 📄 1 • هل نعرف حقاً مع من نتعامل؟
ملصق The Dark Side of AI، مشروع تحريري لرضا لمريني

الملصق التحريري لمشروع The Dark Side of AI — عمل تركيبي توضيحي.

الفصل 0 « قبل أن نتحدث عن الذكاء الاصطناعي، لنتعرّف إليه »

كيف تعمل هذه التكنولوجيا التي تغيّر حياتنا بالفعل؟ ماذا تستطيع أن تفعل، وماذا لا تستطيع؟ ولماذا أصبح فهمها أمراً لا غنى عنه؟

الذكاء الاصطناعي في كل مكان

الذكاء الاصطناعي في كل مكان. فهو يترجم رسائلنا، ويقترح علينا الأفلام، ويتعرّف إلى وجوهنا، ويصحّح نصوصنا، ويساعد في بعض القرارات الطبية، بل أصبح يجيب عن أسئلتنا بلغة تشبه لغتنا على نحو لافت. إنه يدخل الشركات والإدارات والجامعات والمستشفيات، وحتى أحاديثنا اليومية.

ومنذ ظهور الأدوات الكبرى للذكاء الاصطناعي التوليدي، أصبح حضوره أكثر وضوحاً. ففي بضع ثوانٍ، تستطيع آلة أن تكتب رسالة، أو تلخّص كتاباً، أو تنشئ صورة، أو تؤلف موسيقى، أو تشرح موضوعاً معقّداً. وأحياناً لا يتطلب الأمر أكثر من طرح سؤال عليها.

سهولة الاستخدام مدهشة. أما التكنولوجيا الكامنة وراءها فأكثر إثارة للدهشة.

فخلف هذه البساطة الظاهرة تختبئ أنظمة معلوماتية شديدة التعقيد، دُرّبت على كميات هائلة من البيانات، وأصبحت قادرة على إنجاز مهام كانت، إلى وقت قريب، تبدو حكراً على الإنسان.

لكن هل نعرف حقاً ما الذكاء الاصطناعي؟ كيف يعمل؟ هل يتعلّم كما نتعلّم؟ وهل يفهم ما يقوله لنا؟ والأهم من ذلك كله: ما الذي يمكن أن نتوقعه منه بصورة معقولة؟

قبل أن نتناول الوعود والمخاوف وموازين القوى التي تحيط بهذه الثورة، علينا أن نتوقف قليلاً عند بعض الأساسيات. ليس لكي نقدّم درساً في علوم الحاسوب، بل لكي نضع بين أيدينا مفاتيح ضرورية للفهم.

فما ينتظرنا يتجاوز بكثير مسألة كيفية عمل آلة.

ذكاء… ولكن من أي نوع؟

قد يوقعنا تعبير «الذكاء الاصطناعي» في سوء فهم. فهو يوحي بأن الآلة أصبحت ذكية بالمعنى نفسه الذي يكون به الإنسان ذكياً. غير أن الواقع أكثر تعقيداً بكثير.

يشير الذكاء الاصطناعي، أو AI، إلى مجموعة من التقنيات التي تتيح للأنظمة المعلوماتية إنجاز مهام ترتبط عادة ببعض القدرات البشرية، مثل التعرّف والتصنيف والتعلّم والترجمة والتوقّع وحل المشكلات وإنتاج المحتوى.

ولا يوجد اليوم تعريف واحد يحظى بإجماع الجميع. وقد حدّثت منظمة التعاون الاقتصادي والتنمية (OCDE) تعريفها في نوفمبر 2023. ووفقاً لهذا التعريف، فإن نظام الذكاء الاصطناعي هو نظام قائم على آلة، يستنتج، انطلاقاً من المدخلات التي يتلقاها ومن أهداف صريحة أو ضمنية، كيفية إنتاج مخرجات — مثل التنبؤات أو المحتويات أو التوصيات أو القرارات — يمكن أن تؤثر في بيئات مادية أو افتراضية. وقد تختلف الأنظمة في درجات استقلاليتها وقدرتها على التكيّف بعد نشرها.

وخلف هذا التعريف فكرة بسيطة نسبياً: تمكين آلة من معالجة المعلومات واستخلاص نتائج منها وإنتاج مخرجات، من دون أن يضطر الإنسان إلى إملاء كل عملية عليها خطوة بخطوة.

لنتأمل مثالاً مألوفاً. عندما يصنّف بريدنا الإلكتروني رسالة تلقائياً ضمن الرسائل غير المرغوب فيها، فقد يعتمد على آليات قادرة على التعرّف إلى خصائص مشتركة بين آلاف الرسائل الاحتيالية. وعندما يتعرّف هاتفنا إلى وجوهنا، فإنه يحلل عناصر بصرية ليتحقق مما إذا كانت تتطابق مع السمات التي تعلّم التعرّف إليها.

في الحالتين، تنجز الآلة مهمة تتطلب أكثر من عملية جمع بسيطة أو سلسلة من التعليمات الأولية.

هذا لا يعني أنها تفكر مثلنا. بل يعني أنها قادرة، بوسائل معلوماتية، على محاكاة بعض العمليات المرتبطة بقدراتنا الذهنية.

وهذا التمييز أساسي.

كيف تستطيع آلة أن تتعلّم؟

لفهم طريقة عمل كثير من أنظمة الذكاء الاصطناعي الحالية، ينبغي أن نتذكر ثلاثة عناصر: البيانات والخوارزميات والنماذج.

البيانات هي المادة الأولية. وقد تكون نصوصاً أو صوراً فوتوغرافية أو أصواتاً أو مقاطع فيديو أو أرقاماً أو معلومات تلتقطها أجهزة الاستشعار.

أما الخوارزميات فهي أساليب رياضية ومعلوماتية تتيح معالجة هذه البيانات.

والنموذج، أخيراً، هو النظام المصمّم لإنجاز مهمة معينة. وفي حالة التعلّم الآلي، يجري ضبطه خلال مرحلة تدريب اعتماداً على البيانات. وبعد تدريبه، يمكن استخدامه لتحليل معلومات جديدة وإنتاج نتيجة.

لنتخيّل أننا نريد تعليم حاسوب التعرّف إلى القطط.

نعرض عليه آلاف الصور: قططاً سوداء وبيضاء وبرتقالية، جالسة أو مستلقية، مواجهة للكاميرا أو ملتقطة من الجانب. وخلال التدريب، يرصد النظام أنماطاً متكررة في الصور: أشكالاً وملامس ونسباً وتوليفات من الخصائص.

ولا يتلقى بالضرورة قائمة كاملة من القواعد من قبيل: «للقطة أذنان مدببتان وشوارب وذيل». بل يتعلّم انطلاقاً من الأمثلة المعروضة عليه.

وبعد التدريب، يمكن أن نعرض على النموذج صورة لم يسبق له أن رآها، فيقدّر ما إذا كانت تمثل قطة.

هذا هو المبدأ العام للتعلّم الآلي، المعروف بالإنجليزية باسم Machine Learning.

وثمة طرق متعددة للتعلّم. ففي التعلّم الخاضع للإشراف، تكون الأمثلة مصحوبة بإجابات متوقعة. وفي التعلّم غير الخاضع للإشراف، يبحث النظام عن مجموعات أو أنماط داخل البيانات من دون أن يتلقى المؤشرات المسبقة نفسها. أما في التعلّم بالتعزيز، فيتقدم النظام من خلال تجربة أفعال مختلفة وتلقي مكافآت أو عقوبات بحسب النتائج التي يحققها.

هذه الأساليب ليست قابلة للاستبدال بعضها ببعض، لكنها تشترك في هدف واحد: تمكين الآلة من استخلاص أنماط من التجربة، بدلاً من اعتمادها حصراً على تعليمات مكتوبة سلفاً.

من الدماغ البشري إلى الشبكات العصبية الاصطناعية

هناك تعبير آخر يتكرر كثيراً عند الحديث عن الذكاء الاصطناعي: الشبكات العصبية.

وليس اختيار هذه التسمية اعتباطياً. فهذه الأنظمة الرياضية تستلهم، بصورة مبسطة جداً، بعض خصائص عمل الدماغ البشري.

في دماغنا، تتواصل الخلايا العصبية فيما بينها عبر وصلات معقدة. أما الشبكات العصبية الاصطناعية فتحاكي بعض مبادئ معالجة المعلومات بواسطة وحدات حسابية مترابطة ومنظمة في طبقات.

وخلال التدريب، يضبط النظام تدريجياً عدداً كبيراً من المعاملات الرياضية بهدف تقليل الفارق بين نتائجه والنتائج المتوقعة، وفقاً للطريقة المستخدمة.

وعندما تتكوّن هذه الشبكات من طبقات عديدة، نتحدث عن التعلّم العميق، أو Deep Learning.

وقد وسّع هذا النهج إمكانات الذكاء الاصطناعي بصورة كبيرة. وأسهم خصوصاً في التقدم المحرز في التعرّف إلى الكلام وتحليل الصور والترجمة الآلية ومعالجة اللغة.

لكن ينبغي الانتباه إلى حدود هذا التشبيه: فالشبكة العصبية الاصطناعية ليست دماغاً مصغّراً. فهي لا تمتلك تنظيمنا البيولوجي، ولا تجربتنا للعالم، ولا بالضرورة أشكال الفهم التي نمتلكها.

ولا ينبغي للمفردات المستعارة من علوم الأعصاب أن تنسينا أننا أمام بنيات رياضية ومعلوماتية.

الذكاء الاصطناعي التوليدي: لماذا يثير هذا الجيل الجديد كل هذا الإعجاب؟

لقد سمعنا جميعاً عن ChatGPT وClaude وGemini وغيرها من المساعدات الحوارية. وتنتمي هذه الأدوات إلى فئة شديدة الظهور من الذكاء الاصطناعي، هي الذكاء الاصطناعي التوليدي.

وتكمن خصوصيتها في قدرتها على إنتاج محتوى استجابة لطلب يقدمه المستخدم. وقد يكون هذا المحتوى نصاً أو صورة أو صوتاً أو فيديو، بل وحتى شيفرة معلوماتية.

تُدرَّب النماذج اللغوية الكبيرة، التي يُشار إليها غالباً بالاختصار الإنجليزي LLM (Large Language Models)، على مجموعات واسعة جداً من البيانات، من بينها النصوص. وهي تتعلم أنماطاً في الكلمات والتعبيرات والبنى اللغوية والسياقات.

ولتوضيح طريقة عملها، يمكن القول إن النموذج اللغوي يحسب، في كل مرحلة، احتمالات العناصر المختلفة التي يمكن أن تأتي تالياً في تسلسل معين. وتسمى هذه العناصر «رموزاً» أو Tokens؛ فقد تمثل كلمة كاملة أو جزءاً من كلمة أو مقطعاً نصياً آخر. ثم تختار آلية التوليد رمزاً من بين الاحتمالات المتاحة، وفق قواعد قد تختلف من أداة إلى أخرى. ويواصل النموذج العملية خطوة بعد خطوة إلى أن ينتج إجابته.

وعندما تتكرر هذه الآلية على نطاق واسع جداً، وتُدعّم ببنى تقنية متطورة، يصبح إنتاج نصوص متماسكة على نحو مدهش أمراً ممكناً.

السؤال يستدعي جواباً. والتعليمات قد تنتج ملخصاً. ويمكن للحوار أن يستمر مع أخذ التبادلات السابقة في الحسبان. كما يستطيع النظام إعادة الصياغة والمقارنة والشرح واقتراح مسارات متعددة.

وهذا تحديداً ما يمنحنا أحياناً انطباعاً بأننا نتحدث إلى شخص.

لكن هذا الانطباع يستحق التمحيص. فالنموذج لا يرجع بالضرورة إلى مكتبة من الحقائق تكون كل إجابة مسجلة فيها سلفاً. بل ينتج رده انطلاقاً من الأنماط التي تعلّمها، والسياق الذي قُدّم إليه، والآليات التي تتحكم في عملية التوليد.

وتستطيع بعض الأدوات أيضاً الرجوع إلى مصادر خارجية أو استخدام برامج أو إجراء عمليات بحث. بينما تعمل أدوات أخرى من دون وصول مباشر إلى أحدث المعلومات. ويتوقف الأمر كله على تصميمها والوظائف المرتبطة بها.

لذلك من المهم التمييز بين ما تعلّمه النموذج خلال تدريبه وما تستطيع الأداة الاطلاع عليه لحظة تقديم الإجابة.

ما فائدة الذكاء الاصطناعي؟

ليس من الإنصاف النظر إلى الذكاء الاصطناعي من زاوية مخاطره وحدها. فهو يفتح أيضاً آفاقاً واسعة، وقد بدأت بعض تطبيقاته تحقق فوائد ملموسة.

في المجال الطبي، تستطيع أنظمة متخصصة المساعدة في تحليل الصور ورصد بعض الحالات غير الطبيعية أو معالجة كميات كبيرة من البيانات. ويمكنها مساندة المهنيين، لكنها لا تحل تلقائياً محل خبرتهم ولا محل مسؤوليتهم.

وفي البحث العلمي، يتيح الذكاء الاصطناعي استكشاف مجموعات معقدة من البيانات، وتسريع بعض عمليات المحاكاة، والمساهمة في البحث عن جزيئات أو مواد جديدة.

وفي التعليم، يمكنه المساعدة في شرح مفهوم ما، أو تكييف تمرين مع مستوى تلميذ، أو ترجمة وثيقة، أو مواكبة عملية التعلم. لكن ذلك يفترض تأطير استخدامه، وألا يخلط المتعلم بين الحصول على المساعدة واكتساب المعرفة فعلياً.

وفي الشركات، يُستخدم في إدارة المخزون والصيانة التنبؤية والتحليل التجاري والعلاقة مع العملاء وأتمتة بعض المهام.

أما في حياتنا اليومية، فهو حاضر أحياناً في أماكن لم نعد ننتبه إليها: اقتراح المحتويات، ومرشحات الرسائل المزعجة، والمساعدات الصوتية، والترجمة الآلية، والملاحة، والتعرّف إلى الصور.

وأخيراً، يمكن أن يصبح في مجالات الإبداع أداة للاستكشاف والبحث عن الأفكار وتوليد الصور والمساعدة في الكتابة.

وليست هذه الاستخدامات كلها متساوية. فبعضها أصبح راسخاً، وبعضها الآخر لا يزال تجريبياً أو يتطلب تحققاً بشرياً صارماً. لكنها جميعاً تبرز حقيقة واحدة: الذكاء الاصطناعي ليس تقنية واحدة محصورة في المختبرات، بل يتغلغل تدريجياً في قطاعات عديدة من المجتمع.

ما الذي يستطيع الذكاء الاصطناعي فعله… وما الذي لا يضمنه؟

هنا ينبغي للحماس أن يفسح المجال لقدر من الحذر.

قد ينتج نظام الذكاء الاصطناعي إجابة مصاغة بإتقان، لكنها غير دقيقة. وقد يختلق مرجعاً، أو يخلط بين حدثين، أو يعرض فرضية على أنها حقيقة، أو يعيد إنتاج تحيز موجود في البيانات التي استُخدمت لتدريبه.

وتشتهر النماذج التوليدية، على وجه الخصوص، بإنتاج ما يسمى «الهلوسات»: أي معلومات خاطئة أو مختلقة تُقدَّم أحياناً بثقة كبيرة.

ولا يعني هذا أن جميع مخرجاتها خاطئة. بل يذكّرنا ببساطة بأن الإجابة المقنعة ليست بالضرورة إجابة جرى التحقق منها.

وقد يعيد الذكاء الاصطناعي أيضاً إنتاج أحكام مسبقة أو اختلالات موجودة في البيانات المستخدمة لبنائه. ويمكن أن يكون أداؤه جيداً في مواقف معينة، وأن يفشل في مواقف أخرى، ولا سيما عندما تختلف الظروف عن تلك التي واجهها خلال التدريب.

ويجب كذلك التمييز بين القدرة على التعامل مع اللغة والفهم الإنساني. فقد يستطيع نموذج أن يشرح الحزن، أو يكتب قصيدة عن الوحدة، أو يخوض حواراً عن الحب. لكن ذلك لا يثبت أنه يشعر بهذه العواطف.

قد ينتج جملاً تشبه ما يقوله شخص يفهم، من دون أن يتيح لنا ذلك الاستنتاج بأنه يمتلك تجربة ذاتية مماثلة لتجربتنا.

لذلك فالذكاء الاصطناعي ليس معصوماً من الخطأ، ولا محايداً بطبيعته، ولا مستقلاً بصورة تلقائية. وتعتمد قدراته على تصميمه وبياناته وأهدافه وأدواته والظروف التي يُستخدم فيها.

وخلف كل نظام توجد اختيارات بشرية: اختيارات تقنية واقتصادية وصناعية، وأحياناً سياسية.

تكنولوجيا وأسئلة عديدة تتجاوز الجانب التقني

أصبح لدينا الآن بعض المفاتيح الأساسية للفهم. نعرف أن الذكاء الاصطناعي يشمل تقنيات مختلفة، وأن بعض الأنظمة تتعلم انطلاقاً من البيانات، بينما يعتمد بعضها الآخر على القواعد، وأن النماذج التوليدية تستطيع إنتاج محتويات توحي أحياناً بوجود محادثة بشرية.

لكن فهم طريقة عمله لا يكفي.

فالتكنولوجيا لا تُقيَّم فقط بما تستطيع إنجازه. بل ينبغي أيضاً النظر في الاستخدامات الموجهة إليها، والمصالح التي تخدمها، ومراكز القوة التي تتركز حولها، والنتائج التي تترتب عليها.

من يملك البيانات؟ من يبني النماذج؟ من يحدد أهدافها؟ من يراقب الشركات والبنى التحتية التي تطورها؟ من يتحمل مسؤولية الأخطاء؟ ومن يستفيد فعلياً من مكاسب الإنتاجية الموعودة؟

تقودنا هذه الأسئلة إلى ما هو أبعد بكثير من علوم الحاسوب. فهي تمس الاقتصاد والسياسة والحريات الفردية والإبداع والعمل، وفي نهاية المطاف تصورنا نفسه للتقدم.

لذلك سيكون من السابق لأوانه أن نستنتج أن الذكاء الاصطناعي يشكل تهديداً للبشرية. وبالقدر نفسه، سيكون من التهور الاعتقاد بأن وعوده تكفي لضمان مستقبل أفضل.

بين الافتتان والقلق، توجد مساحة نريد استكشافها: مساحة الفحص النقدي، ومقابلة الوقائع بعضها ببعض، والتفكير المستقل.

هذا الفصل الافتتاحي ليس سوى مدخل أولي.

لقد فتحنا الباب قليلاً لكي نفهم طبيعة التكنولوجيا التي نتحدث عنها. لكننا لم نستكشف بعد المصالح التي توجه تطورها، والمخاوف التي عبّر عنها بعض صانعيها، والتنافس بين القوى الكبرى، والتحولات التي تحدثها في العمل والإبداع، ولا أسئلة الرقابة والمسؤولية التي تثيرها.

وهنا تحديداً يبدأ تحقيقنا.

لماذا يحذّر اليوم بعض الباحثين والمديرين المشاركين في هذه الثورة من مخاطرها؟ ما الذي يخشونه تحديداً؟ وهل يتفقون فيما بينهم؟ وعندما تتعارض المصالح الاقتصادية والطموحات التكنولوجية والأمن الجماعي، فمن يقرر الاتجاه الذي ينبغي سلوكه؟

سنغادر الآن هذه المفاتيح الأولية لندخل إلى كواليس هذه الثورة.

مرحباً بكم في THE DARK SIDE OF AI.

الوجه الآخر للثورة الاصطناعية. الوجه الذي أصبح من الملح أن ننظر إليه.

تحقيقات وتأملات • المدونة الرسمية

سلسلة مقالات، عمل قيد الإنجاز

ستُصمم كل حلقة من حلقات The Dark Side of AI كمساهمة في مشروع تحريري أشمل. وستشكل المقالات ومصادرها الموثقة مادة مؤلف معمق حول التحولات والمخاطر والرهانات الإنسانية للثورة الاصطناعية.

📝 زيارة المدونة الرسمية ➜
↑