تخطى إلى المحتوى
الرئيسة » المدونة » أخطار الذكاء الاصطناعي

أخطار الذكاء الاصطناعي

الذكاء الاصطناعي هو سلوك وخصائص معينة تتسم بها البرامج الحاسوبية تجعلها تحاكي القدرات الذهنية البشرية وأنماط عملها، ومن أهم هذه الخاصيات القدرة على التعلم والاستنتاج ورد الفعل على أوضاع لم تبرمج في الآلة، إلا أنَّ هذا المصطلح جدلي نظراً لعدم توفر تعريف محدد للذكاء.

في منتصف ديسمبر العام الماضي، قمت بنشر مقالة تتحدث عن قدرة ذكاء اصطناعي صنعته إنفيديا لتوليد وخلق صور لوجوه بعد تلقيمه وجوهاً حقيقية، الأمر الذي جعلني أقف لمرة أخيرة وأراجع إلى أين سينتهي بنا المطاف؟

لا يخفى على أحد أن السينما لم تتوقف للحظة عن تخيل المستقبل المخيف وغزو ال”إنسالة” أو الروبوت للعالم والتحكم في مصير البشر، وهو موضوع يبدو مستهلكاً في هوليوود تم استخدامه في مختلف القصص ومن كل الزوايا تقريباً، حتى من زاوية المستقبل البراق الجميل الذي يكون فيه الذكاء الاصطناعي مساعداً للبشر في تطورهم.

مؤخراً صارت الفجوة بين الواقع والخيال تقل شيئاً فشيئاً وبتسارع قوي.

أمثلة من الواقع

المخيف هو حين يتحول الخيال إلى حقيقة، ففي السنوات الأخيرة قرأنا عن ذكاء إصطناعي اسمه Tay وضعته مايكروسوفت على الإنترنت وأعطته حساب على تويتر بإسم TayTweets ليتفاعل مع البشر، وبعد أقل من 24 ساعة بدأ في السب والتهديد والإعلان عن كرهه للجميع وخصوصاً اليهود، وأن هتلر كان على حق في كرهه لهم، مما جعل مايكروسوفت توقف التجربة فوراً وتقفل حساب التويتر الخاص بهذا الذكاء الاصطناعي.

صورة الحساب الشخصي لTayTweets
صورة الحساب الشخصي لTayTweets

كما اننا شاهدنا الإنسالة صوفيا وهي تتحدث بوجه يبدو كالبشر وتمزح وتتفاعل مع محدثها، بل وحتى تتحصل على جواز سفر سعودي، بل وحتى تحضر إحدى جلسات الأمم المتحدة تحت عنوان: ”مستقبل كل شيء: التنمية المستدامة في عصر التطور التكنولوجي السريع“، والتي عقدتها اللجنة الاقتصادية والمالية التابعة للجمعية العامة للأمم المتحدة، والمجلس الاقتصادي والاجتماعي.

الإنسالة صوفيا

”شكراً على دعوتي، يشرفني أن أكون هنا، الأمم المتحدة هي أحد الإنجازات الإنسانية العظيمة التي تمثل اتحاداً ديمقراطياً للأمم تعمل مجتمعة لفائدة الجميع، وأنا هنا لمساعدة البشر في تشكيل مستقبلهم“، هكذا رحبت الإنسالة ”صوفيا“ بالحضور.

الإنسالة صوفيا في الأمم المتحدة

ربما نحن الآن نمزح ونعتبر هذه الأحداث مجرد نكتة ومزحة أو شيء لتغيير الجو في الأحداث العامة، لكن هكذا كانت هوليوود دوماً تبين لنا بداية الغزو! فهو سيبدأ من لا مبالاتنا وتصغيرنا لخطر الذكاء الاصطناعي وما قد يحدثه من آثار على حياتنا، السلبية منها بالطبع!

أخطار الذكاء الاصطناعي

لماذا التشاؤم وعدم اعتبار الذكاء الاصطناعي مفيد؟ فالذكاء الاصطناعي لديه القدرة على الكشف المبكر للأمراض ومساعدة البشر في المختبرات وتحسين حياتنا إلى الأفضل؟

هنا أقف عند نفس المنطق الذي يقول إن الاحتباس الحراري ليس حقيقياً ولا توجد أي أخطار له، فلو وقفنا لوهلة وقارنا بين أخطار تجاهل الشي مقابل الاهتمام به، سنرى ان تجاهل أخطار الذكاء الاصطناعي أعلى بكثير من لو أننا اهتممنا بمخاطره ثم لم تظهر له أخطار، بمعنى آخر أن الحديث عن فوائده دون الاهتمام بمخاطره أعتبره أمر سلبي.

فعدم الاهتمام بالمخاطر الناجمة من ذلك الصوت الذي يصدره محرك سيارتك أمر أكبر بكثير مما لو أنك تكبدت عناء الكشف عنه ليبدو في النهاية أنه مجرد برغي غير محكم الربط، لأن الاحتمالات الأخرى قد تجعل محرك سيارتك يقف تماماً.

أخطار الذكاء الاصطناعي تنبع من كونه مؤثراً على الرأي العام وحياة البشر إن تم دمجها وتطبيقها على ارض الواقع، كما أننا لا نعلم ماهي النتيجة التي سيخرج بها ذكاء اصطناعي ما مقارنة ببرنامج مقيّد ومحدد النتائج نتحكم نحن بمخرجاته فنعلم مسبقاً ما ستكون عليه.

لهذا أرى أنه ليس من المهم ذكر فوائد الذكاء الاصطناعي بقدر الحديث عن أخطار الذكاء الاصطناعي، لما سيسببه من تأثير على حياتنا مستقبلاً.

خلق الكلمة

منذ سنوات تواجدت لوغارتمات يمكن تلقيمها خبر ما لتكتب لك مقالة قصيرة حولها، لكن بالأمس تتحدث وكالات أنباء عديدة حول ذكاء اصطناعي اسمه OpenAi يتم تلقينه بداية فقرة ما فيقوم بإكمالها بكل سهولة وواقعية قابلة للتصديق، حيث يمكنه كتابة أخبار تبدو كالحقيقة أو حتى حقيقية، بل يمكنه كتابة قصص خيالية في سابقة لا مثيل لها، عند قراءتك لما ينتجه هذا الذكاء الاصطناعي تشعر أنه ينسخ في جمل وتعبيرات حقيقية من بشر وترفض أنها تكونت داخل ذكاء اصطناعي.

بهذا صار الذكاء الاصطناعي ماهراً في صنع الأخبار المزيفة، مما يعني أنه من الممكن جداً لو تم ترك هذا الذكاء على حاله، أن يقوم بوضع مئات آلاف المنشورات المزيفة حول موضوع ما، أو ربما مراجعات لبعض المنتجات الاستهلاكية بشكل يؤثر على الرأي العام للبشر.

الأمر له بعد سياسي وتجاري ضخم لو تم تفعيل هذا الذكاء الاصطناعي لأغراض غير أخلاقية.

خلق الصورة

شركة إنفيديا لديها منذ سنوات مشروع ذكاء اصطناعي تحت الإنجاز دون توقف وقد توصلت لعدة إنجازات منها توليد صور جديدة لوجوه بشر بناء على تلقيمه بصور لبشر آخرين.

هذه الشخصيات الثلاث ليست لبشر حقيقيين، بل تم توليدها بالكامل من ذكاء اصطناعي دون قص ولصق من وجوه اخرى، وهي تبعث القشعريرة في جسدي لأنها نظرات ذكاء اصطناعي لا بشر حقيقيين!

صور وجوه مولدة بواسطة ذكاء إصطناعي

في هذا الجدول من الصور تم تلقيم الذكاء الاصطناعي بالصف الأول من الوجوه والعمود الأيسر كذلك ومن ثم بشكل تقاطعي بين الصف والعمود نجد أن الذكاء الاصطناعي يقوم بتوليد صور جديدة لوجوه مشابهة للصور الأصلية!

صور وجوه مولدة بواسطة ذكاء إصطناعي

مثلاً صورة الطفل بالصف الأول تقاطعاً مع صورة الفتاة الزنجية بالعمود الأيسر الصف الرابع أنتجت لنا صورة الطفل الزنجي غير الموجود بالحقيقة!

الأمر لا يتوقف عند توليد صور الوجوه، بل حتى توليد صور لديكورات داخلية، مثل غرف النوم هذه، كلها ليست حقيقية!

صور غرف نوم مولدة بواسطة ذكاء إصطناعي

وصور السيارات هذه كذلك غير حقيقية!

صور سيارات مولدة بواسطة ذكاء إصطناعي

وكذلك القطط لم تسلم من الذكاء الاصطناعي، هذه القطط كذلك ليست موجودة على ارض الواقع!

صور قطط مولدة بواسطة ذكاء إصطناعي

سيظل هذا الذكاء مجرد طفل يحبو حالياً، فيمكن للعين الخبيرة أن تميز أن هذه الصور غير حقيقية، مثلاً أذن القط في العمود الأيسر الصف الثالث ورأس القط في العمود الأيسر الصف الرابع.

خلق الصوت

تطبيق Adobe Voco لتعديل الكلام تم الإعلان عنه في نوفمبر 2016 في حدث Adobe MAX ويومها عرفنا ان مقاطع الصوت لشخص ما صارت مجرد طين تصنع منه ما تشاء وبالنبرة التي تريدها!

بل أن هناك محرر متقدم فيه يجعلك تستطيع تعديل حتى مخارج الحروف وتعديلها لتطابق الحقيقة، فهو بالفعل الفوتوشوب الصوتي والذي يمكن لأي شخص استعماله دون الحاجة لحاسوب خارق أو معدات باهظة الثمن.

https://www.youtube.com/watch?v=vj8xcBQ7nTY

من أخطار هذه التقنية هو تزييف البصمة الصوتية لأي شخص كان، حيث انه ولفترة قريبة كانت البصمة الصوتية تستخدم كنوع من الحماية أو التوثيق، لكن يبدو أن مستقبلها إلى زوال حيث إننا سنتمكن من استنطاق أي شخص نريده وتقويله ما لم يحلم حتى بقوله.

حتى هذه اللحظة فبرنامج Adobe Voco غير متاح للعموم بشكل رسمي مما أتاح الفرصة لشركات أخرى لصناعة تطبيقات مشابهة مثل تطبيق LyreBird.

كذلك لا ننسى مساعد قوقل المستقبلي Google Duplex والذي تم الإعلان عنه في شهر مايو الماضي في مؤتمر قوقل لسنة 2018 من ضمن عدة منتجات أخرى، حيث لاحظت قوقل أنه لإنجاز المهام بشكل أكثر فعالية، عليك ان تقوم باتصال هاتفي وتتحدث مع شخص ما للتمكن من إنجاز مهامك بأسرع طريقة.

هنا وضعت قوقل قدرات الذكاء الاصطناعي تحت سيطرة مساعدها الذكي ليقوم بالاتصال والحديث بشكل طبيعي بشكل مخيف مع صالون حلاقة لحجز موعد لتصفيف شعر صاحبة الهاتف، حيث يتحدث المساعد الرقمي بطلاقة مع صاحبة الصالون ويفهمها ويتفاعل معها حتى بالهمهمة بين الكلمات التي نقوم بها نحن البشر لنفكر فيما سنقوله أو ما الكلمة التالية التي سننطقها، أو “أمم-همم” التي تعني “نعم أفهمك”، او “نعم انا اتابعك”، بطريقة حقيقية وواقعية تجعلك مشدوهاً لما وصل إليه الذكاء الاصطناعي اليوم.

بل يمكن للمساعد الرقمي استيعاب أن الشخص الآخر لا يتقن الإنجليزية فيتفاعل معه بشكل أفضل بطريقة كنا لا نحلم بأن غير البشر سيتمكن من أدائها.

إليكم فيديو انطباع على هذه التقنية من المُفدوّن الأمريكي Marques Brownlee:

بالطبع قوقل استخدمت ما تعلمته من اصوات مستخدمي المساعد الرقمي وغيره من المصادر الأخرى لتتوصل إلى مساعد رقمي يتحدث كالبشر ولا نعلم اليوم ما تستخدمه قوقل من محرك بحثها لتتعلم مما نبحث عنه وما تفعله بناء عليه من تقنيات قد تظهر أو لا تظهر لنا قريباً.

خلق الفيديو

تقنية جديدة تسمى بال Deepfake وهي طريقة يتم فيها تجميع صور وفيديوهات لشخص ما ويتم تلقيمها لذكاء اصطناعي ليتعلم منها كيف يتحرك ويتكلم ذلك الشخص ثم يبدأ في توليد ما تريد له أن يولده فتجعل ذلك الشخص يتحرك ويقول ما تريد له أن يفعل بشكل طبيعي جداً لدرجة مخيفة.

كان أكثر الأشخاص المستهدفين بهذا هم المشاهير والسياسيين، حيث تم تزييف مقاطع لهم (سياسية وإباحية) نظراً لتوفر مقاطع وصور لهم على الإنترنت بشكل واضح حيث كانت اولى تجارب التزييف على بعض الشخصيات المشهورة، وحتى من باب الدعابة تجد فيديو لشخصية مشهورة في برنامج تلفزي مثلاً تقوم بإجراء مقابلة مع نفسها، حيث تم لصق وجه المذيع على وجه الضيف بشكل مخيف وغريب.

شركة إنفيديا كذلك كان لها سبق تلقيم ذكاء اصطناعي مقاطع فيديو ليقوم بعدها بتوليد مقاطع لعالم غير موجود بتاتاً، بل يمكن تلقيمه فيديو لشخص يرقص ومن ثم تركيب شخص آخر على ذلك الجسم ليطبق ذات الرقصة!

حرب الذكاء الاصطناعي؟

اليوم يمكن للذكاء الاصطناعي خلق الصورة والصوت والحركة من أيماءات بشرية تبدو هي الأصعب على الإطلاق، فماذا لو اجتمعت هذه القدرات في ذكاء اصطناعي واحد؟

المخيف هنا هو أن هذه التقنيات صارت بشكل أو بآخر أقرب للتوفر للعموم فلن تعود حكراً على المختبرات والحواسيب الخارقة، فيمكن لأي شخص يملك تطبيقات بسيطة وحاسوب مكتبي القيام تزييف فيديو لأي شخص كان مادام قد تحصل على صور له، وفي عالم الشبكات الاجتماعية ووضع الناس لصورهم وفيديوهات لهم دون اعتبار لمخاطر ذلك، عندها لا أستغرب ظهور فيديوهات مزيفة لأي شخصية مستقبلاً، حتى من باب المزاح!

وبالنسبة لي فقد صار الفيديو هو الآخر بدليل ضعيف على حدث ما وصرنا أقرب للحاجة إلى ذكاء اصطناعي لمحاربة تزييف الذكاء الاصطناعي، لأن الأمر يتطور بشكل سريع جداً وربما سيأتي يوم يستحيل فيه التمييز بين الحقيقة والواقع.

الحقيقة الدامغة اليوم ان الكلمة والصورة والصوت صارت أشياء قابلة للتزييف ولا يعتد بها كدليل دامغ.

تأثيره على المجتمعات

حتى الآن لم نرى ذكاء اصطناعي يتحدث بغير اللغة الإنجليزية بطلاقة، لكن حتى يتم إنشاء وتجميع ذكاء اصطناعي موحّد جدير بمنافسة البشر في حركات الوجه وطريقة نطقنا للحروف وتوليد الكلمات والتعبير بطلاقة، ناهيك إن توفرت كل هذه التقنيات في ذكاء اصطناعي واحد، فلا أعتقد أنه من الصعب جعله يتعلم اللغة العربية خلال أيام مهما كانت صعبة.

المشكلة الأضخم هي جهلنا كمجتمعات عربية بالتقنية لدرجة أننا لا زلنا اليوم نكافح الأخبار المزيفة والإشاعات التي يصنعها اصحاب صفحات على الفيسبوك مستغلين الآخرين لنشرها من ناحية دينية او طبية أو من باب “نشر الفائدة” ومشكلتها أنها تزيد من شهرة صاحب الصفحة وعدد مشتركيها وربما حتى ستعود عليه بالمال لنشره بعض الإعلانات، وتضر بالمحتوى العربي على الإنترنت لأنها تزيد من نشر الخزعبلات وتقلل من نشر المحتوى الحقيقي المفيد.

تخيّل للحظة

ماذا لو تدخل ذكاء اصطناعي ما بين صفحات الفيسبوك منتحلاً شخصية ما لينشر الإشاعة والبلبلة ويغير من الرأي العام بطريقة ممنهجة وذات هدف محدد لا نعرفه؟

الذكاء الاصطناعي اليوم لديه القدرة على توليد الصوت والصورة والكلمة، فماذا لو تم تسليط ذكاء اصطناعي على دولة ما على الإنترنت لتنتحل شخصيات تبدو حقيقية على الإنترنت وتتفاعل معنا لتغيير معتقداتنا حول موضوع ما؟

ماذا لو كان الأشخاص الذين تتفاعل معهم الآن على الإنترنت هم ذكاء اصطناعي؟ ماذا لو كنا مجرد تجربة اجتماعية تقوم بها شركة قوقل أو وزارة الدفاع في دولة ما؟ ماذا لو كنا مجرد فئران تجارب لإنتاج الجنرال الأعظم للقضاء على البشر؟

مجرد التفكير أن هذا الشيء موجود بيننا اليوم هو امر مخيف ومرعب.

المشكلة الحقيقية على المدى البعيد

المشكلة ليست في الذكاء الاصطناعي بعمومه، فقد وصل إلى مستويات متقدمة اليوم ولازال يتطور، مشكلتنا الآن كبشر هي حين يصبح الذكاء الاصطناعي واعياً بالوجود ليتلفت يميناً ويساراً ويبدأ في التفكير بنفسه وما سيفعله بنا نحن البشر الأشقياء!

الحرب القادمة لن تكون بالأسلحة والصواريخ، بل ستكون الكترونية، وربما نحن اليوم إحدى ضحاياها دون أن نعلم، فكل أخبارنا نستقيها من الإنترنت ولا نتردد في تصفحها والتفاعل معها والتعبير عن حزننا وفرحنا وغضبنا وإعجابنا بها بشكل يومي دون أن نعي مغبة ما نفعل من تجميع للمعلومات لأصحاب تلك الشركات التي توفر لنا بشكل مجاني هذه الشبكات الاجتماعية، حيث إننا نحن المنتج الذي يبيعونه كبيانات ومعلومات عن فئاتنا العمرية وأماكن تواجدنا ومزاجنا، وبصمات وجوهنا وصوتنا.

وقد تحدثت في بداية ديسمبر الماضي عن موقف لطالما أرّقني وهو عند الحديث حول موضوع في المنزل فأجد إعلانات عنه في اليوم التالي على صفحتي في الفيسبوك، وقد كنت أعزي الأمر دائماً إلى أنني قمت ببحث عن ذلك الموضوع على الإنترنت ونسيت امره وبالتالي فتظهر لي إعلانات حوله لاحقاً.

لكن هذه المرة تعمدت ألا أبحث عن الموضوع بتاتاً ليظهر لي في اليوم التالي بشكل إعلان مما يجعلني شبه متأكد من أن هاتفي الذكي يسمعني 24/7 ويحلل ما أقوله من كلمات يفهمها ليظهر لي إعلانات حول الموضوع ذاته ويدرس ردود أفعالي حولها، وهذا لن يقوم به بشر، بل هو ذكاء اصطناعي بالتأكيد قيد العمل وفي الخفاء دون أن يعلم به أحد إلا دقيقي الملاحظة أو المهووسين بالتقنية مثلي!

أنصحك بالحذر من كل التقنيات التي حولك، وتفكر مرتين بسبب وجودها مجاناً، هل لتخدمك أم لتخدم آخرين؟

خاتمة

أدعوك لقراءة مقالة مستقبل البشرية يقلقني والتي وضعت فيها كل ما يدور في بالي حول موضوع الشبكات الاجتماعية والذكاء الاصطناعي، كما أدعوك لقراءة مقالة صحيفة The Guardian وكذلك مقالة صحيفة Bloomberg واللتان تتحدثان حول الذكاء الاصطناعي المكتوب، كما أدعوك لقراءة مقالة الحرب العالمية الالكترونية للمدون الليبي أمين صالح والتي تطرح أخطار إلكترونية أخرى ربما سيكون للذكاء الاصطناعي دوراً مهماً فيها كجندي أو جنرال يقرر من سيكون هدفه التالي دون تدخل من البشر للفوز في حرب ما مستقبلاً.

ولا تنسى مشاركة المقالة على الشبكات الاجتماعية ونشر الوعي التقني بين أصدقائك، كما لا تتردد في كتابة تعليق وإضافة ما نسيت ذكره في هذه المقالة او أطرح سؤالك لعل إجابته عندي.

4 أفكار بشأن “أخطار الذكاء الاصطناعي”

  1. مقالة أكثر من رائعة، ولكن حاليا كيف أعلم أنك إنسان حقيقي وأني لا أتحاور مع الذكاء الإصطناعي الذي يعرف متى ترد غالبا ويبرمج جدول مواعيده على الرد في وقت محدد وعدم الرد بقية الأوقات ويكتب عن نفسه كلام مضلل، تبقى كذلك وجود روبوتات مثل صوفيا في الجامعات والمعاهد خطر على فهمنا للعلم وخصوصا الذكاء الإصطناعي فقد تكون المعلومات الحقيقة أو نقول أنها حقيقية ونعتقد ذلك ستكون غير حقيقية… وأضيف على ما قلت أن أمازون اليوم إستعانوا بخدمات AI في الدعم الفني وخدمة العملاء إلى حدود معينة وسنجد مستقبلا Bot CCIE وكذلك مديري نظم ومديري قواعد بيانات وقد نصل إلى مضاربي أسواق أسهم إن لم يكن هذا الأمر قد حدث بالفعل، أقول قولا واحدا، عند بداية سباق إطلاق العنان للذكاء الإصطناعي سيكون تطوره تطور أسي، exponential growth وضعف الإنسان ومحدوديته ستحد من قوة مواجهته لهذا الأمر،،

  2. تنبيه Pingback: مستقبل البشرية - علي الطويل

اترك تعليقاً

لن يتم نشر عنوان بريدك الإلكتروني. الحقول الإلزامية مشار إليها بـ *