دعا الرئيس التنفيذي لـAnthropic داريو أمودي إلى إبطاء معدل تطوير قدرات النماذج المتقدمة، واقترح وجود مقيمين مستقلين داخل شركات الذكاء الاصطناعي، ومعايير سلامة مشتركة وتنسيقًا دوليًا. وفي تطور متصل، قال سام ألتمان إن OpenAI لن تطرح للاكتتاب خلال 2026 وإن الأولوية للسلامة والمواءمة.
لا يعني المقترح وقف الابتكار، بل ربط القفزات الكبيرة في القدرات باختبارات وضمانات يمكن فحصها بصورة مستقلة. وهذا مهم خصوصًا للمؤسسات التي تستخدم وكلاء قادرين على تنفيذ إجراءات داخل أنظمة الأعمال.
ما الذي يجب أن تطلبه المؤسسات الخليجية؟
على جهات الصحة والمال والحكومة تضمين تقييم سلوك الوكلاء، وسجلات الإجراءات، والعزل التقني، وحدود الصلاحيات، وحقوق التدقيق داخل العقود. التجربة السريعة لا تكفي إذا لم يستطع المشتري إثبات ما فعله النظام أو منعه من تجاوز الحدود.
المصادر: مقترح داريو أمودي، وReuters عن Anthropic، وReuters عن OpenAI.
خلاصة كريم الاستراتيجية
التحكم والمساءلة يتحولان إلى خصائص في المنتج. المورد الذي يستطيع إثبات طريقة اختبار نظامه وتقييده ومراقبته سيملك أفضلية في الأسواق المنظمة وعالية الثقة.
التعليقات
لا توجد تعليقات منشورة بعد.