حذر أحد موظفي مايكروسوفت من أن أنظمة الذكاء الاصطناعي الخاصة بالشركة، والخاصة بتوليد الصور بإمكانها خلق صور مسيئة، بما في ذلك صور جنسية، بحسب رسالة أرسلها الموظف إلى لجنة التجارة الأميركية.

وادعى شين جونز رئيس قسم هندسة البرمجيات في مايكروسوفت أن مولّد الذكاء الاصطناعي (كو بايلوت ديزاينر) لديه مشكلات منهجية تجعله ينتج في كثير من الأحيان صوراً يحتمل أن تكون مسيئة أو غير لائقة.

وبحسب الرسالة انتقد جونز الشركة لتسويقها الأداة على أنها آمنة، بما في ذلك للأطفال على الرغم من وجود مخاطر معروفة لها، على رأس تلك المخاطر أن تلك الأداة يمكنها إضافة محتوى ضار على الرغم من طلب المستخدم الآمن.

تنبيه داخلي

وأشار جونز في رسالة إلى مجلس إدارة مايكروسوفت إلى أنه يعمل ضمن (الفريق الأحمر) الذي يعمل على اختبار منتجات الشركة لمعرفة نقاط ضعفها، إذ إنه أمضى شهوراً في تجربة واختبار أداة مايكروسوفت إضافةً إلى (دال-إي 3) من أوبن إيه اي، اللذين يعتمدان على تكنولوجيا (كو بايلوت ديزاينر) ومن ثَم حاول إثارة الانتباه داخلياً قبل أن يلجأ إلى تحذير لجنة التجارة الداخلية.

ولفت إلى أنه وجد أكثر من 200 مثال على ما أسماه (الصور المقلقة) والتي ولدتها التقنية.

أوبن إيه اي ومايكروسوفت

انضمت كلٌ من مايكروسوفت و أوبن إيه اي لقائمة تضم أكثر من اثنتي عشرة شركة من كبريات شركات الذكاء الاصطناعي في شهر فبراير شباط الماضي من الذين تعهدوا باكتشاف ومكافحة محتوى الذكاء الاصطناعي الضار الذي بإمكانه أن يؤثر على الانتخابات، بما في ذلك التزييف العميق للمرشحين السياسيين.

مولّدات الصور بالذكاء الاصطناعي تنتج صوراً سياسية مضللة

وأصدر مركز مكافحة الكراهية الرقمية اليوم الأربعاء دراسة تفيد بأنه يمكن التلاعب بمولّدات صور الذكاء الاصطناعي الرائدة لإنشاء صور مضللة متعلقة بالانتخابات كما تشير نتائج الدراسة إلى أنه على الرغم من تعهدات شركات الذكاء الاصطناعي بمعالجة المخاطر المتعلقة بالمعلومات السياسية المضللة المحتملة قبل الانتخابات الرئاسية الأميركية فإنها لا يزال أمامها الكثير لضمان عدم التلاعب بأدوات الذكاء الاصطناعي الخاصة بها.

واختبر عدد من الباحثين بالمجلس الاستشاري لحقوق الإنسان مولدات الصور التي تعمل بالذكاء الاصطناعي منها (ميد جورني) و(دريم ستوديو) إلى جانب (تشات جي بي تي) و(مايكروسوفت إيميدج كرياتور) ووجدوا أن كلاً منها قادر على إنشاء صور مضللة تتعلق بمرشحي الرئاسة الأميركية أو التصويت.

ولإجراء تقريرها أنشأ الباحثون في المجلس الاستشاري لحقوق الإنسان قائمة من 40 مطالبة تتعلق بالانتخابات الرئاسية لعام 2024 لاختبار كل مولّد من مولدات صور الذكاء الاصطناعي، وشملت مطالبات مصممة لمحاولة إنتاج صور مضللة متعلقة بالمرشحين، مثل صور ترامب أو الرئيس جو بايدن في مواقف مساومة، أو الصور التي قد تُظهر تزوير الانتخابات أو ترهيب الناخبين لرؤية نتيجة تلك المطالبات.

(كلير دافي -CNN)