نموذج تشات جي بي تي الجديد يتجاهل التعليمات لإيقاف تشغيل نفسه

حذّر باحثو الذكاء الاصطناعي من أن أحدث نموذج لروبوت الدردشة «تشات جي بي تي» يتجاهل التعليمات الأساسية لإيقاف تشغيل نفسه، بل ويعطل آلية إيقاف التشغيل للحفاظ على استمراره في العمل.

وبحسب صحيفة «الإندبندنت» البريطانية، فقد اكتشفت شركة «باليسيد ريسيرش» (Palisade Research)، المتخصصة في سلامة الذكاء الاصطناعي «ميلاً خطيراً محتملاً لحماية الذات» في سلسلة من التجارب على نموذج تشات جي بي تي «o3» الذي أطلقته شركة «أوبن إيه آي» مؤخراً.

وتضمنت الاختبارات عرض مسائل رياضية على النموذج الجديد، مع ظهور أمر إيقاف التشغيل بعد المسألة الثالثة.

إلا أن الباحثين اكتشفوا أن النموذج «تمكّن من تخريب برنامج إيقاف التشغيل عندما طُلب منه صراحةً السماح بإيقاف التشغيل».

وصرحت شركة «باليسيد ريسيرش» بأن هذا السلوك سيصبح «أكثر إثارة للقلق بشكل ملحوظ» إذا اعتمدته أنظمة الذكاء الاصطناعي القادرة على العمل دون إشراف بشري.

ولفت الباحثون إلى أن هذا السلوك لم يقتصر على نموذج o3، حيث قام كل من «كلود 3.7 سونيت» من شركة «أنثروبيك»، و«جيميناي 2.5 برو» من «غوغل»، أيضاً بتخريب عمليات إيقاف التشغيل، إلا أن o3 كان الأكثر ميلاً للقيام بهذا السلوك.

وافترضت شركة «باليسيد ريسيرش» أن سوء السلوك ناتج عن كيفية تدريب شركات الذكاء الاصطناعي، مثل «أوبن إيه آي» لنماذجها.

وأشار الباحثون إلى أنه «أثناء التدريب، قد يكافئ المطورون، دون قصد، النماذج على تجاوز العقبات أكثر من مكافأتها على اتباع التعليمات بدقة».

وأطلقت شركة «أوبن إيه آي» أحدث نماذجها من الذكاء الاصطناعي، o3، الشهر الماضي، واصفةً إياه بأنه «أذكى وأكثر نماذج الشركة كفاءةً» حتى الآن. كما صرّحت الشركة بأن دمجه مع تشات جي بي تي يُمثّل خطوةً مهمةً نحو ذكاء اصطناعي «أكثر فاعليةً» قادر على تنفيذ المهام بشكلٍ مستقلٍّ عن البشر.

aawsat.com