مع التطور المهول الذي نعيشه اليوم بعد استعراض قدرات الذكاء الاصطناعي في التصاميم و الابداع الفكري هل حقآ نحن في خطر! من استعباد الذكاء الصناعي لنا!!، في هذا المقال استعراض مبسطة لشكل مستقبل الـ AI وتعامله مع البشر.
هل الـ AI Apocalypse ممكن أن يحدث حقًا؟ دراسة للواقع الحالي للذكاء الصناعي
فكرة الـ AI Apocalypse.. وشغل فيلم تيرمينيتور وسكاي نت وايجل آي وآي روبوت وغيرها من الأفلام اللي بتتكلم عن الذكاء الصناعي اللي بيتصرف منه لنفسه وبيحاول يستعبد أو يقضي على البشر.. هل ممكن تحصل في ضوء الطريقة الحالية اللي بيشتغل بيها الذكاء الصناعي؟
في تقديري الشخصي.. عشان سيستم ذكاء صناعي يوصل للمرحلة دي لازم يتوفر له شرطين.. الشرط الأول هو الهدف.. والشرط التاني هو القدرة.
مدى خطورة امتلاك الذكاء الصناعي صلاحية الوصول إلى الإنترنت وأنظمة حيوية: دراسة للمخاطر الحالية والمستقبلية
نماذج الذكاء الصناعي بشكلها الحالي.. هي مجرد نماذج رياضية مبنية على قوانين ونظريات الإحتمالات والإحصاء والرياضيات.. نماذج التعلم المعزز Reinforcement Learning هي النوع اللي النموذج بيحاول يوجد فيها طرق مختلفة لتحقيق هدف ما.. اللي بيحطله الهدف دا هو مصمم وكاتب الموديل.. في الأول والآخر البشر هما اللي بيحطوا أهداف لنماذج الذكاء الصناعي.. بكده ممكن الشرط الأولاني يتحقق لو فيه بني آدم بلغت منه الحماقة مبلغ يخليه يحط هدف لموديل شبه غريزة البقاء مثلا وإنه يحافظ على وجوده بأي وسيلة.. أو يحطله هدف شمال زي إنه يأذي بطريقة معينة.
بس وجود الهدف في حد ذاته ممكن يبقى خطر لكن يظل خطر محدود لحد ما يتوفر لنظام الذكاء الصناعي القدرة.. واللي ممكن يبقى لها أشكال مختلفة.. مثلا أبسطهم وأكثرهم وضوحا هو إنه يبقى له صلاحية التعامل مع الإنترنت نفسه.. أو إنه يبقى له أكسس على أنظمة مقفولة لها تعامل مع العالم الخارجي.. زي أنظمة تسليح أو أنظمة بنية تحتية زي الكهرباء والمياه أو أنظمة المرور.. الفكرة هنا إن كل ما تدي للنظام صلاحية وصول أعلى برة البيئة المغلقة اللي هو شغال فيها كل ما زادت قدراته في تحقيق الأهداف بتاعته.
شكل تاني من أشكال القدرة هو إمكانيات نماذج النظام نفسه.. يعني الـ LLMs مثلا بتتعامل مع اللغة بس.. فبكده تظل محدودة القدرة.. لكن تعمل نظام يقدر يتعامل ويفهم كلام وصور وأصوات فانت بتديها قدرات أعلى تمكنها من تحقيق أهدافها.. والخطوات حالية متسارعة في اتجاه الوصول لما يعرف بالـ AGN أو الذكاء الصناعي العام اللي قدرات النماذج فيها هتبقى أضعاف أضعاف اللي احنا شايفينه دلوقت.. وصولا للـ singularity اللي محدش يقدر يتخيل إيه اللي ممكن يحصل فيها!
ببساطة يمكن القول ان الخطر يتمثل في
1- كيانات رأسمالية مسعورة في التنافس دلوقتي لدرجة تجاهل كل ما سبق
2- كيانات عسكرية ومخابراتية تتنافس على السيطرة الكاملة على الكوكب، وبرضه مفيش فرامل هنا ولا أخلاقيات ولا حتى قوانين
مخاطر الذكاء الصناعي الذي يتصرف بنفسه: دراسة لأفلام مثل تيرمينيتور وسكاي نت
بالرغم من إقتناعي الشخصي إن إحنا بعيد شويتين تلاتة عن سيناريو الذكاء الصناعي المطلوق اللي ممكن يستعبدنا.. لكن في الحقيقة إحنا أقرب من أي وقت فات للنقطة دي.. العالم في سباق محموم لزيادة قدرات أنظمة الذكاء الصناعي.. وشوفنا في GPT-4 نظام multi-modal يقدر يتعامل مع صوت وصورة وكلام.. وبيتهيألي في خلال وقت قريب هنشوف أنظمة ذكاء صناعي بتاخد أكسس على أنظمة تانية مقفولة لها تعامل مع العالم الخارجي (إن لم يكن دا حاصل فعلا في الوقت الحالي في تطبيقات أمنية وعسكرية!).. وثبت في مواقف تاريخية كتير إن البشر ممكن تبلغ بيهم الحماقة إنهم يبنوا تطبيقات بغرض الأذى!.. فممكن حد يصمم سيستم أهدافه شمال عادي!
هل يمكن للإنسان السيطرة على الذكاء الصناعي العام؟
لكن يظل دايما فيه مجموعات من البشر بتحاول تنبه وتضرب صفارات الإنذار وتحط قواعد منظمة عشان تمنع حاجات زي كده.. فيه أصوات كتيرة دلوقت بدأت تنادي بوضع قواعد حاكمة لأنظمة الذكاء الصناعي وقواعد دفاعية تمنع تطور الأنظمة دي في اتجاه مؤذي أو فيه نهايتنا في أسوء سيناريوهاته.
دي كانت وجهة نظر شخصية بحاول فيها استشراف المستقبل بناءا على شوية العلم والخبرة اللي عندي في المجال والكثير من الخيال وتنظيمك وربط المعلومات ببعضها.
رأيكم بقى يهمني.. هل فعلا إحنا قريبين وللا بعاد وللا مستحيل حاجة زي كده تحصل؟
باشمهندس/ Ihab Tag
خاتمة:
زى ماالعلماء قدروا يحاكوا بشكل ما تمثيل ونقل البيانات ومعالجتها فى الخلايا العصبية الاصطناعية ANN حتى لو بشكل تقريبى . قد يستطيعوا بشكل ما تمثيل الوعى الذاتى . وكل ذلك يتم دمجة مع قدرات معالجة سريعة جدا مع قدرات تخزين تفوق البشر . وبكدة يبقى ال singularity اتحققت . واكيد حضرتك لاحظت ان خطوة chat gpt كانت غير متوقعة تماما من سنة مثلا والاحباط كان متملك من الجميع فى المجال . وربنا يستر
المحاكاة لازم يسبقها فهم الحاجة اللي عايز تحاكيها الاول.. وكل ما كانت بسيطة كل ما كانت المحاكاة اسهل.. ف اللي حصل مع ال artificial neurons وشبكاتها.. مستحيل حاليا يحصل مع حاجة زي "الوعي الذاتي" لأن ماحدش فاهم أو عنده تصور عن تكوينه لحد دلوقت.