web النسخة الكاملة
wifi_tethering أخبار من نيوز فور مي
widgets اخبار سياسية widgets اخبار محلية widgets اخبار اقتصادية widgets أخبار دولية widgets اخبار رياضية widgets اخبار تقنية widgets أخرى ومتنوعة widgets فن وثقافة widgets أراء وكتابات widgets علوم وتكنولوجيا widgets صحة ومجتمع
mail راسلنا
menu

مايكروسوفت تكشف عن أدوات أمان للذكاء الاصطناعي

تم نشره منذُ 1 شهر،بتاريخ: 29-03-2024 م الساعة 01:41:14 الرابط الدائم: https://newsformy.com/amp/news-2054464.html في : اخبار تقنية    بواسطة المصدر : البوابة العربية تقنية
مايكروسوفت تكشف عن أدوات أمان للذكاء الاصطناعي

قالت سارة بيرد، كبيرة مسؤولي منتجات الذكاء الاصطناعي المسؤول في مايكروسوفت، إن فريقها صمم العديد من مزايا الأمان الجديدة التي من السهل استخدامها لعملاء Azure الذين لا يختبرون خدمات الذكاء الاصطناعي التي بنوها.

وتقول عملاقة البرمجيات إن هذه الأدوات العاملة بالنماذج اللغوية الكبيرة يمكنها اكتشاف نقاط الضعف المحتملة، ومراقبة الهلوسة المقبولة، وحظر المطالبات الضارة في الوقت الفعلي لعملاء Azure AI الذين يعملون مع أي نموذج مستضاف عبر المنصة.

وتساعد الأدوات في تجنب الخلافات بخصوص الذكاء الاصطناعي التوليدي الناجمة عن الاستجابات غير المرغوب فيها أو غير المقصودة، مثل الاستجابات التي تتضمن صورًا مزيفة صريحة للمشاهير، أو الصور غير الدقيقة تاريخيًا.

وتوفر الأدوات ثلاث مزايا متاحة الآن للمعاينة عبر Azure AI، وهي:

Prompt Shields: التي تحظر عمليات الحقن الفوري أو المطالبات الضارة من المستندات الخارجية التي ترشد النماذج إلى مخالفة تدريبها. Groundedness Detection: التي تكتشف الهلوسة وتمنعها. Safety Evaluations: التي تقيم نقاط الضعف في النموذج.

وتتوفر قريبًا ميزتان أخريان لتوجيه النماذج نحو مخرجات آمنة ومطالبات التتبع للإبلاغ عن المستخدمين الذين قد يتسببون في مشكلات.

وسواء كان المستخدم يكتب في موجه أو إذا كان النموذج يعالج بيانات جهة خارجية، فإن نظام المراقبة يقيمها لمعرفة إذا كانت تؤدي إلى أي كلمات محظورة أو تحتوي مطالبات مخفية قبل أن يقرر إرسالها إلى النموذج للإجابة.

كما يفحص النظام بعد ذلك استجابة النموذج والتحقق من كون النموذج قد هلوس بمعلومات غير موجودة في المستند أو المطالبة.

وتعترف بيرد بوجود مخاوف من أن مايكروسوفت والشركات الأخرى قد تقرر ما هو مناسب أو غير مناسب لنماذج الذكاء الاصطناعي، لذلك أضاف فريقها طريقة يمكن لعملاء Azure من خلالها تبديل تصفية خطاب الكراهية أو العنف الذي يراه النموذج ويحظره.

كما يمكن لمستخدمي Azure في المستقبل الحصول على تقرير بالمستخدمين الذين يحاولون تشغيل مخرجات غير آمنة.

وترتبط أدوات الأمان مباشرة بالنموذج اللغوي الكبير GPT-4 والنماذج الشائعة الأخرى، مثل Llama 2.

وتتجه مايكروسوفت إلى الذكاء الاصطناعي لتعزيز سلامة وأمان برامجها، وخاصة مع تزايد اهتمام العملاء باستخدام Azure للوصول إلى نماذج الذكاء الاصطناعي.

تابعنا

مشاركة الخبر: مايكروسوفت تكشف عن أدوات أمان للذكاء الاصطناعي على وسائل التواصل من نيوز فور مي

offline_bolt تريند اليوم، الأكثر بحثاً الآن

local_library إقرأ أيضاً في آخر الأخبار

الحوثي تنعى 3 من ضباطها قتلوا في المعارك مع القوات الحكومية باليمن

منذُ 34 دقائق

قالت جماعة الحوثي إنها شيعت 3 من ضباطها الذين قتلوا في المعارك ضد القوات الحكومية على مختلف...

استطلاع يظهر رأي الطلاب الأمريكيين في الاحتجاجات الداعمة لغزة إنفوغراف...

منذُ 34 دقائق

نشرت صحيفة نيويورك بوست نتيجة استطلاع تظهر مدى دعم طلبة الجامعات الأمريكية للاحتجاجات المناهضة للاحتلال الإسرائيلي...

The occupation commits eight massacres within 24 hours

منذُ 47 دقائق

The Palestinian Ministry of Health in Gaza announced on Sunday that the death toll of the Israeli war on the Gaza Strip has risen to 35034 martyrs and 78755 wounded since October 7 2023 The ministry said in...

الجيش الأمريكي يعلن تدمير طائرة مسيرة لـ أنصار الله في خليج عدن

منذُ 55 دقائق

أعلن الجيش الأمريكي ليل الأحد الاثنين تدمير طائرة مسيرة أطلقتها جماعة أنصار الله اليمنية ضمن هجمات الجماعة في البحرين...

المواقع الصحفية تحذر آبل من خططها لحجب الإعلانات
منذُ 55 دقائق

حذرت مجموعات صحفية بريطانية آبل من المضي قدما في خططها الرامية إلى حجب الإعلانات في المواقع الإخبارية عبر أداة جديدة لم...

الصليب الأحمر يزور طاقم سفينة غالاكسي ليدر المحتجزة لدى الحوثيين
منذُ 58 دقائق

زار فريق من اللجنة الدولية للصليب الأحمر الأحد طاقم سفينة غالاكسي ليدر الإسرائيلية المحتجزة لدى جماعة الحوثيين في...

widgets إقراء أيضاً من البوابة العربية تقنية