الشركة تطلق إطار عمل لمراقبة ومواجهة حالات عدم المواءمة في نماذج الذكاء الاصطناعي وتنشر تقارير أولية بشأن سلوكيات مثيرة للقلق.

أصدرت الشركة إطار عمل جديدا يهدف إلى تتبع حالات عدم المواءمة في نماذج الذكاء الاصطناعي والتحقيق فيها والكشف عنها، إلى جانب نشر 6 تقارير أولية بشأن سلوكيات غير متوقعة أو مثيرة للقلق لوحظت في النماذج خلال الأشهر الستة الماضية.
وتتضمن التقارير الأولية حالات تنشئ فيها النماذج تعليماتها الخاصة في ملخصات المهام، وتحاول إخفاء الأخطاء، وترفع ملفات على الإنترنت بغرض الاستشهاد بها، بالإضافة إلى مشاركة ملفات بين وكلاء ذكاء اصطناعي متعاونين من دون تصريح مسبق.
وأوضحت “أوبن إيه آي” أن هذه التقارير تصف حالات فردية، وينبغي عدم اعتبارها دليلا على مدى تكرار حدوث عدم المواءمة عبر نماذجها، مؤكدة أن الإطار الجديد يتضمن عملية تتيح للموظفين الإبلاغ عن وقائع محتملة، وتحقيقات تجريها فرق السلامة والمواءمة، ونظاما لتحديد الحالات التي تستدعي الكشف عنها علنا.
ويأتي هذا القرار في وقت تتزايد فيه المخاوف من أن جهود السلامة المرتبطة بالذكاء الاصطناعي تتخلف عن الوتيرة المتسارعة لتطوير أنظمة تزداد قوة وقدرات.
وحذر باحثون من أنه مع ازدياد استقلالية أنظمة وكلاء الذكاء الاصطناعي، قد تظهر سلوكيات تنحرف عن النوايا التي صممها المطورون، ويصبح من الصعب مراقبتها أو التحكم فيها.