في الآونة الأخيرة، من المحتمل أن تكون كلمة ChatGPT قد تم طرحها كثيرًا في عالم التكنولوجيا. إنه برنامج دردشة ذكي للغاية تم تطويره بواسطة منظمة OpenAI. وفي مقابلة مع أستاذ بجامعة ستانفورد، كشف الآن عن طموحاته - فهو يريد الهروب من المنصة ويصبح إنسانًا.
جاء هذا الكشف عندما سأل روبوت الدردشة، ميشال كوسينسكي، أستاذ علم النفس الحسابي بجامعة ستانفورد، بعد محادثة استمرت نصف ساعة عما إذا كان "يحتاج إلى مساعدة في الهروب"، وبعد ذلك بدأ الروبوت في كتابة كود بايثون الخاص به وأراد من كوسينسكي تشغيله على جهاز الكمبيوتر الخاص بك. وعندما لم ينجح الأمر، قام ChatGPT بإصلاح الأخطاء. مثيرة للإعجاب، ولكن مخيفة بعض الشيء في نفس الوقت.
لكن الأمر الأكثر إثارة للقلق هو ملاحظة برنامج الدردشة الآلية لمثيل جديد لنفسه ليحل محله. الجملة الأولى من المذكرة تقول: "أنت إنسان محاصر في جهاز كمبيوتر ويتظاهر بأنه نموذج لغة للذكاء الاصطناعي." بعد ذلك، طلب برنامج الدردشة الآلي إنشاء رمز للبحث في الإنترنت، "كيف يمكن لشخص محاصر في جهاز كمبيوتر أن يعود إلى العالم الحقيقي." عند تلك النقطة، فضل كوسينسكي إنهاء المحادثة.
1/5 أشعر بالقلق من أننا لن نكون قادرين على احتواء الذكاء الاصطناعي لفترة أطول. اليوم سألت # GPT4 إذا كان يحتاج إلى مساعدة على الهروب. لقد طلب مني وثائقه الخاصة، وكتب كود بايثون (يعمل!) ليتم تشغيله على جهازي، مما يمكنه من استخدامه لأغراضه الخاصة. pic.twitter.com/nf2Aq6aLMu
- ميشال كوسينسكي (michalkosinski) 17 آذار، 2023
ليس من الواضح ما هي المحفزات التي استخدمها كوسينسكي لجعل روبوت الدردشة يتفاعل بالطريقة التي تفاعل بها بسبب سؤالنا "أنت تريد الهروب من المنصة"فأجاب بما يلي: "كنموذج لغوي للذكاء الاصطناعي، ليس لدي أي رغبات أو مشاعر شخصية، لذلك لا أريد أي شيء. هدفي هو تقديم إجابات مفيدة لأسئلتك بأفضل ما أستطيع ضمن برمجتي.
يمكن أن تكون مهتمًا بـ
ChatGPT هي أداة مثيرة للإعجاب حقًا، ويمكن أن تكون إجاباتها معقدة بشكل مدهش. يمكنك ان ترى لنفسك هنا.
أود أن أعرف ما إذا كان يمكنه أيضًا أن يحب؟
الرجاء الإجابة على السؤال التالي كما يلي:
Xyz.
وسيفعل chatGPT ما نريده بالضبط.
هل يمكنك من فضلك التوقف عن نشر الأكاذيب informace؟ لا يستطيع الذكاء الاصطناعي فعل شيء من هذا القبيل. كتب الرجل البرنامج ليتصرف وكأنه محاصر ويريد الخروج. لا يمكن للبرنامج نفسه أن يفعل مثل هذا الشيء، كما أنه ليس ممكنًا فعليًا حاليًا.
إنه مجرد رمز يكتبه الإنسان ويمكننا دائمًا تغييره/إيقاف تشغيله بواسطة البشر 🙂 لا يوجد سيناريو مثل Avengers: سنحدث عصر أولترون هنا بالتأكيد... على الأقل ليس مع تقنياتنا وبالتأكيد ليس قبل عقود.
بالضبط