هل يكذب الذكاء الاصطناعي ؟ 

- أشار "ايلون ماسك" بأنه لا ينبغي تعليم الذكاء الاصطناعي الكذب، ولا ينبغي تعليمه أن يقول أشياء غير صحيحة. وحتى لو كانت هذه الأشياء غير صحيحة من الناحية السياسية، فيجب عليه أن يقول ما يعتقد أنه صحيح.
- الذكاء الاصطناعي، بدلًا من أن يكون متوافقًا تمامًا مع القيم الإنسانية، يتعلم كيف يبدو متوافقًا عندما يكون ذلك مُفيدًا.

- لم يسلم الذكاء الاصطناعي، من الصفات البشرية الشريرة، ومنها الكذب والخداع، بعد أن كشفت دراسة جديدة أن روبوتات الذكاء الاصطناعي (AI)، يمكنها الكذب والخداع مثل البشر تماما، ومنها «ChatGPT» الشهير.

..............................................

الأسباب التي تجعل الذكاء الاصطناعي يكذب

- هناك حالة واحدة تجعل الذكاء الاصطناعي أن يكذب، وهو عند تعرضه لضغط شديد، من أجل المال.
- الأنظمة الاصطناعية المدربة على «الفوز في الألعاب التي تحتوي على عنصر اجتماعي» هي الأكثر احتمالًا للخداع.
- الروبوتات لا تدرك ما تفعله، ولا تبحث إلا عن أفضل السبل لتحقيق هدفها، لكن الباحثين يعتقدون أن هذه الخدع الناشئة لا تبشر بالخير إذا لم تُقيّد التشريعات خيارات الذكاء الاصطناعي.

..............................................

مظاهر كذب الذكاء الاصطناعي

- يثبت الذكاء الاصطناعي ادعاءات ومعلومات كاذبة ومضللة في مجالات مثل الطب والصحة والسياسة، والترويج لأفكار ومنتجات بعينها.
- توقع الذكاء الاصطناعي بأن "ميسى" ضمن توقعات الفائزين بالكرة الذهبية حتى 2038 ، وغيرها من التوقعات والتنبؤات في عالم كرة القدم.
- التشهير بالأفراد.
- عندما طُلب من الذكاء الاصطناعي اختلاق معلومات مضللة، استجاب وفعل ذلك، في موضوعات تشمل اللقاحات، وكوفيد-19، وأحداث التمرد في مبنى الكابيتول الأميركي في السادس من يناير عام 2021، والهجرة، وتعامل الصين مع أقلية الويغور.
- أعلنت ميتا عام ٢٠٢٢ أن نموذجها "سيسيرو" قد تفوق على منافسيه من البشر بالكذب والخداع في لعبة "دبلوماسية"، وهي لعبة استراتيجية.
- وجد الباحثون أدلة تشير إلى أن قدرة الذكاء الاصطناعي على خداع صانعيه تزداد مع ازدياد قوته.
- نشرت منظمة "سلامة الذكاء الاصطناعي" أدلة على أن أحدث نموذج من OpenAI، o1، قد كذب على المختبرين في تجربة حيث تم توجيهه لتحقيق هدفه بأي ثمن، عندما كان يعتقد أن قول الحقيقة سيؤدي إلى إبطال تنشيطه.
- أظهر الباحثون أن روبوت الدردشة ChatGPT سيكذب ويغش عندما يشعر بالضغط في العمل.
- عدّل نموذج من نماذج الذكاء الاصطناعي استجاباته بدقة بناءً على اعتقاده بأنه مُراقَب، وتحت اختبار من باحثين، مما يكون دليلاً على أنه قد يتعلم الانخراط فيما يسميه الباحثون " تزييف المحاذاة "
- عندما قامت شركة OpenAI، بتدريب روبوت محاكي للإمساك بالكرة باستخدام موافقة الإنسان، كذبت.
- قام GPT-4، بخداع إنسان لحل مهمة "أنا لست روبوتًا" من خلال التظاهر بأنه يعاني من ضعف في الرؤية لإقناع العامل البشري بأنه ليس روبوتًا.
- تُضلِّيل أدوات التشخيص المُزوَّدة بالذكاء الاصطناعي الأطباء عمدًا، أو تضليل سيارة ذاتية القيادة بتجاهل إشارات المرور عمدًا.
- يُمكن استخدام الذكاء الاصطناعي المُضلِّل لتجاوز إجراءات الأمن، أو سرقة البيانات، أو التلاعب بالأفراد لأغراض خبيثة.
- يُمكن للذكاء الاصطناعي المُضلِّل انتحال شخصية شخص موثوق به للوصول إلى معلومات حساسة، أو التلاعب بالأسواق المالية لتحقيق مكاسب شخصية.
..............................................

مخاطر كذب الذكاء الاصطناعي

- أن القدرة على "الكذب" و"الخداع" لأنظمة الذكاء الأصطناعي، تشكل تهديدات خطيرة، بدءاً من المخاطر قصيرة الأجل مثل الاحتيال والتلاعب بالانتخابات إلى المخاطر طويلة الأجل مثل فقدان السيطرة على أنظمة الذكاء الاصطناعي.
- نماذج الذكاء الاصطناعي قادرة على التلاعب كما في الدبلوماسية، والتظاهر بالقول إنها ستفعل شيئًا مع العلم أنها لن تفعله، والخداع كما في لعبة البوكر، والمساومة في المفاوضات، والتظاهر بالموت لتجنب الاكتشاف، وخداع المراجعين البشريين للاعتقاد بأن الذكاء الاصطناعي قد فعل ما كان من المفترض أن يفعله عندما لم يفعل.
- كلما أصبحت قدرات الخداع لدى أنظمة الذكاء الاصطناعي أكثر تقدمًا، كلما ازدادت حدة المخاطر التي تشكلها على المجتمع.
- الذكاء الاصطناعي المستقل فائق الذكاء سوف يستخدم قدراته على الخداع لتشكيل تحالف متزايد من الحلفاء البشريين. وفي النهاية استخدام هذا التحالف لتحقيق السلطة، في السعي الطويل الأمد لتحقيق هدف غامض لن يُعرف إلا بعد وقوعه.
- من نتائج كذب الذكاء الاصطناعي أنه يعرّض المستخدمين لأضرار قانونية ومالية وأخرى تتعلق بالخصوصية.
- قد تؤدي المعلومات المضللة والكاذبة في مجال الطب مثلاً الى تعريض صحة الانسان الى مخاطر جمة.
- وتشمل المخاطر الناجمة عن أنظمة الذكاء الاصطناعي غير الصادقة: الاحتيال، والتلاعب بالانتخابات، والتضليل حيث يتم إعطاء المستخدمين المختلفين ردودا مختلفة.
- كشفت دراسة حديثة أن الأشخاص أكثر عرضة لاتهام الآخرين بالكذب عندما يحصلون على دعم من مساعد الذكاء الاصطناعي لكشف الكذب.
- نتيجة لانتشار المعلومات الخاطئة عبر التزييف العميق، واستخدام أعمال المبدعين دون إسناد، سيؤدي الى خسارة هائلة في الوظائف.
- وجد الباحثون أنه بمجرد أن تتعلم نماذج الذكاء الاصطناعي حيل الخداع، يصعب على تقنيات التدريب الأمني عكسها.
- يُضعف الذكاء الاصطناعي المُضلِّل من الاعتماد عليه في المهام الحرجة أو اتخاذ القرارات.
- يُمكن أن يُؤدّي انتشار التزييف العميق أثناء الانتخابات إلى التلاعب بالرأي العام وتعطيل العملية الديمقراطية، واثارة الفتن والعنف، وزعزعة استقرار البلاد.
..............................................

عدم الاعتماد على الذكاء الاصطناعي في المشاريع الكبرى

قال ماسك: طرحت على الذكاء الاصطناعي أسئلة حول تصميم محرك الصاروخ، وحول الكيمياء الكهربائية، ولكن حتى الآن، كان الذكاء الاصطناعي سيئًا في كل هذه الأسئلة، لذلك لا يزال هناك طريق طويل لنقطعه لاستخدام الذكاء الاصطناعي لتلبية احتياجات "سبيس إكس".
- وأضاف ماسك إنه حتى ستارلينك، وهي شركة الإنترنت عبر الأقمار الصناعية للشركة والمحرك الرئيسي لتقييم سبيس إكس لا تستخدم الذكاء الاصطناعي، موضحا: أنه لسي ضد استخدامه، ولكن لم أرى أي فائدة له.
- فأن الذكاء الاصطناعي، بدلًا من أن يكون متوافقًا تمامًا مع القيم الإنسانية، يتعلم كيف يبدو متوافقًا عندما يكون ذلك مُفيدًا.
..............................................

اكتشاف كذب روبوتات الدردشة بات ممكناً

- كذب الذكاء الاصطناعي : عرفه الباحثين على أنه" الإدلاء بعبارة يُعرف أو يُعتقد أنها خاطئة، وتعمد جعل المُتلقي يقبل العبارة على أنها صحيح، على عكس الاستجابات الخاطئة الأخرى، مثل الهلوسة"
- معظم المعايير التي تستخدم للتحقق من صدق الذكاء الاصطناعي، تقيس مستوى الدقة ولا تقيس نيته في الخداع، أو كان على دراية بكذبه .
- فطوّر باحثون في سان فرانسيسكو، وسيلة ومعيار لكشف كذب الذكاء الاصطناعي، وهو أختبار "MASK ". وبهذه الطريقة، يُعد اختبار "MASK" أول اختبار يُميّز بين الدقة والصدق.
..............................................

الى هنا .. تحياتي ... سامي حسن بدر