إطلاق أول منصة لمنع نماذج الذكاء الاصطناعي من الهلوسة

الغد برس/ بغداد 

أطلقت "Patronus AI" الناشئة أول منصة ذاتية الخدمة للكشف عما يُعرف بـ"هلوسات الذكاء الاصطناعي" ومنعها في الوقت الفعلي، وتصفها الشركة بأنها "مدقق إملائي متقدم" لأخطاء أنظمة الذكاء الاصطناعي، تهدف إلى اكتشافها قبل وصولها إلى المستخدمين.

ويقول أناند كانابان، الرئيس التنفيذي لشركة Patronus AI، إن العديد من الشركات تواجه تحديات تشغيلية تتعلق بعيوب الذكاء الاصطناعي، تشمل الهلوسات، وثغرات أمنية، وسلوك غير متوقع. 

الذكاء الاصطناعي التوليدي

ونقل تقرير لموقع "Venturebeat" عن دراسة أجرتها الشركة، أن النماذج الرائدة مثل GPT-4 تعيد إنتاج محتوى محمي بحقوق النشر بنسبة تصل إلى 44% عند التفاعل، فيما تفشل النماذج المتقدمة في اجتياز اختبارات السلامة الأساسية بنسبة تزيد عن 20%.

ويشدد فاروق جوشي، مدير المنتجات في Patronus AI، على أن تقييم النماذج، وما تقدمه من إجابات للمستخدمين لا يحمي من النتائج السلبية فقط، بل يساعد أيضاً في تحسين النماذج والمنتجات بشكل عام، مؤكداً على أهمية التحسين المستمر عوضاً عن مجرد وضع حواجز وإجراءات الأمان والسلامة.

وفي ظل اندفاع الشركات لاعتماد تقنيات الذكاء الاصطناعي التوليدي في مجال عديدة، مثل روبوتات خدمة العملاء وأنظمة توليد المحتوى، أدركت الشركات أن أدوات السلامة الحالية، مثل Meta’s LlamaGuard، لم تعد فعالة، إذ تصل دقتها إلى ما دون 50%.

"نظام فريد"

وتقدم "Patronus AI" عدة مميزات، من أهمها أداة "تقييم القضاة Judge Evaluators"، والتي تسمح بكتابة قواعد مخصصة بلغة إنجليزية بسيطة، مما يتيح للشركات تحديد المعايير التي تناسب احتياجات منتجاتها، مثل التركيز على الامتثال التنظيمي في القطاع المالي، أو الخصوصية، والدقة الطبية في القطاع الصحي.

يعتبر "Lynx" ركيزة النظام، وهو نموذج متطور للكشف عن الهلوسات يتفوق على GPT-4 بنسبة 8.3% في كشف الأخطاء الطبية.

يعمل النظام بسرعتين، إحداهما سرعة استجابة فورية للمراقبة الحية، وأخرى لتحليل أعمق، مما يسمح بتكييف النظام وفق احتياجات الاستخدام الفوري، أو التحليل الشامل.

علاوة على ذلك، طوَّرت الشركة أدوات متخصصة مثل "CopyrightCatcher"، للكشف عن إعادة إنتاج المحتوى المحمي بحقوق النشر، و"FinanceBench" أول معيار لتقييم أداء الذكاء الاصطناعي في الإجابة على أسئلة متعلقة بالقطاع المالي.

سلامة أنظمة الذكاء الاصطناعي

تتبنى الشركة نموذج تسعير حسب الاستخدام، يبدأ من 10 دولارات لكل 1000 استدعاء خاص بالواجهة البرمجية على مستوى السرعة المنخفضة، و20 دولاراً للسرعة العالية، ما يسهم في جعل أدوات سلامة الذكاء الاصطناعي متاحة للشركات الناشئة والشركات الصغيرة.

وقد نجحت Patronus AI في جذب عملاء من بينهم HP وAngelList وPearson، فضلاً عن شراكات مع شركات كبرى مثل Nvidia وMongoDB وIBM.

ويأتي إطلاق المنصة في وقت حاسم مع التطورات السريعة في نماذج الذكاء الاصطناعي.

وتشير التشريعات الأخيرة، بما في ذلك الأمر التنفيذي للرئيس الأميركي جو بايدن، وقانون الاتحاد الأوروبي للذكاء الاصطناعي، إلى أن الشركات قد تواجه قريباً متطلبات قانونية لضمان سلامة أنظمة الذكاء الاصطناعي.

كلمات مفتاحية :