web النسخة الكاملة
wifi_tethering أخبار من نيوز فور مي
widgets اخبار سياسية widgets اخبار محلية widgets اخبار اقتصادية widgets أخبار دولية widgets اخبار رياضية widgets اخبار تقنية widgets أخرى ومتنوعة widgets فن وثقافة widgets أراء وكتابات widgets علوم وتكنولوجيا widgets صحة ومجتمع
mail راسلنا
menu

مايكروسوفت تكشف عن أدوات أمان للذكاء الاصطناعي

تم نشره منذُ 1 شهر،بتاريخ: 29-03-2024 م الساعة 01:41:14 الرابط الدائم: https://newsformy.com/amp/news-2054464.html في : اخبار تقنية    بواسطة المصدر : البوابة العربية تقنية
مايكروسوفت تكشف عن أدوات أمان للذكاء الاصطناعي

قالت سارة بيرد، كبيرة مسؤولي منتجات الذكاء الاصطناعي المسؤول في مايكروسوفت، إن فريقها صمم العديد من مزايا الأمان الجديدة التي من السهل استخدامها لعملاء Azure الذين لا يختبرون خدمات الذكاء الاصطناعي التي بنوها.

وتقول عملاقة البرمجيات إن هذه الأدوات العاملة بالنماذج اللغوية الكبيرة يمكنها اكتشاف نقاط الضعف المحتملة، ومراقبة الهلوسة المقبولة، وحظر المطالبات الضارة في الوقت الفعلي لعملاء Azure AI الذين يعملون مع أي نموذج مستضاف عبر المنصة.

وتساعد الأدوات في تجنب الخلافات بخصوص الذكاء الاصطناعي التوليدي الناجمة عن الاستجابات غير المرغوب فيها أو غير المقصودة، مثل الاستجابات التي تتضمن صورًا مزيفة صريحة للمشاهير، أو الصور غير الدقيقة تاريخيًا.

وتوفر الأدوات ثلاث مزايا متاحة الآن للمعاينة عبر Azure AI، وهي:

Prompt Shields: التي تحظر عمليات الحقن الفوري أو المطالبات الضارة من المستندات الخارجية التي ترشد النماذج إلى مخالفة تدريبها. Groundedness Detection: التي تكتشف الهلوسة وتمنعها. Safety Evaluations: التي تقيم نقاط الضعف في النموذج.

وتتوفر قريبًا ميزتان أخريان لتوجيه النماذج نحو مخرجات آمنة ومطالبات التتبع للإبلاغ عن المستخدمين الذين قد يتسببون في مشكلات.

وسواء كان المستخدم يكتب في موجه أو إذا كان النموذج يعالج بيانات جهة خارجية، فإن نظام المراقبة يقيمها لمعرفة إذا كانت تؤدي إلى أي كلمات محظورة أو تحتوي مطالبات مخفية قبل أن يقرر إرسالها إلى النموذج للإجابة.

كما يفحص النظام بعد ذلك استجابة النموذج والتحقق من كون النموذج قد هلوس بمعلومات غير موجودة في المستند أو المطالبة.

وتعترف بيرد بوجود مخاوف من أن مايكروسوفت والشركات الأخرى قد تقرر ما هو مناسب أو غير مناسب لنماذج الذكاء الاصطناعي، لذلك أضاف فريقها طريقة يمكن لعملاء Azure من خلالها تبديل تصفية خطاب الكراهية أو العنف الذي يراه النموذج ويحظره.

كما يمكن لمستخدمي Azure في المستقبل الحصول على تقرير بالمستخدمين الذين يحاولون تشغيل مخرجات غير آمنة.

وترتبط أدوات الأمان مباشرة بالنموذج اللغوي الكبير GPT-4 والنماذج الشائعة الأخرى، مثل Llama 2.

وتتجه مايكروسوفت إلى الذكاء الاصطناعي لتعزيز سلامة وأمان برامجها، وخاصة مع تزايد اهتمام العملاء باستخدام Azure للوصول إلى نماذج الذكاء الاصطناعي.

تابعنا

مشاركة الخبر: مايكروسوفت تكشف عن أدوات أمان للذكاء الاصطناعي على وسائل التواصل من نيوز فور مي

offline_bolt تريند اليوم، الأكثر بحثاً الآن

local_library إقرأ أيضاً في آخر الأخبار

غضب و حسرة تفاعل مع لقطات لكريستيانو رونالدو خلال مباراة النصر والهلال...

منذُ 5 دقائق

تفاعل مستخدمون لمنصة إكس تويتر سابقا مع لقطات مصورة للاعب كريستيانو رونالدو خلال مباراة بين نادي النصر ومنافسه الهلال...

الفيفا يلجأ لـ المشورة القانونية بشأن طلب الاتحاد الفلسطيني بإيقاف إسر...

منذُ 6 دقائق

قال رئيس الاتحاد الدولي لكرة القدم فيفا جياني إنفانتينو خلال اجتماع في بانكوك في تايلاند إن فيفا سيعقد اجتماعا خاصا...

الكويت تداول فيديو شغب بسجن النساء والداخلية ترد

منذُ 10 دقائق

تداول نشطاء على مواقع التواصل الاجتماعي مقطع فيديو لأعمال شغب داخل سجن للنساء في الكويت الأمر الذي أثار تفاعلا عقبت...

بالصور بدء تسليم المساعدات لغزة عبر الرصيف البحري

منذُ 16 دقائق

أعلنت القيادة المركزية بالجيش الأمريكي الجمعة البدء بتسليم المساعدات الإنسانية عبر الرصيف البحري المنشأ حديثا إلى...

إسرائيل تكشف هوية الرهائن الثلاثة الذين استعيدت جثثهم من غزة
منذُ 21 دقائق

أعلن الجيش الإسرائيلي الجمعة استعادته لجثث ثلاثة من الرهائن من قطاع...

مقتل فلسطينيين اثنين في قصف إسرائيلي وسط رفح
منذُ 23 دقائق

أفادت وكالة الأنباء الفلسطينية وفا في ساعة مبكرة اليوم السبت بأن شخصين قتلا في قصف للجيش الإسرائيلي وسط رفح جنوب قطاع...

widgets إقراء أيضاً من البوابة العربية تقنية