تشدد Google Play على تطبيقات الذكاء الاصطناعي بعد تداول التطبيقات لإنشاء صور عارية وهمية
تصدر جوجل اليوم إرشادات جديدة للمطورين الذين يقومون ببناء تطبيقات الذكاء الاصطناعي الموزعة من خلال Google Play، على أمل الحد من المحتوى غير المناسب والمحظور بأي شكلٍ من الأشكال. وتقول الشركة إن التطبيقات التي تقدم ميزات الذكاء الاصطناعي يجب أن تمنع إنشاء المحتوى المقيد — الذي يشمل المحتوى الجنسي والعنيف وغيره — وسيكون عليها تقديم وسيلة للمستخدمين للإبلاغ عن المحتوى المسيء الذي يعثرون عليه. بالإضافة إلى ذلك، تقول جوجل إن المطورين يحتاجون إلى "اختبار بشكل صارم" أدوات الذكاء الاصطناعي والنماذج الخاصة بهم، لضمان احترام سلامة المستخدم وخصوصية البيانات.
كما أنها تتشدد على التطبيقات التي يروج لها مواد تسويقية تعزز حالات الاستخدام غير المناسبة — مثل التطبيقات التي تخلع الملابس عن الناس أو تنشئ صورًا عارية دون موافقة. إذا قالت النسخة الإعلانية أن التطبيق قادر على القيام بهذا النوع من الأمور، فقد يُمنع من Google Play، بغض النظر عما إذا كان التطبيق قادر فعلياً على ذلك.
التوجيهات تأتي عقب انتشار ظاهرة التطبيقات غير اللائقة التي تعمل على خلق صور عارية وهمية باستخدام الذكاء الاصطناعي التي كانت تروج لنفسها عبر وسائل التواصل الاجتماعي في الأشهر الأخيرة. وفي تقرير أبريل من 404 Media، على سبيل المثال، وجد أن إنستغرام كانت تستضيف إعلانات لتطبيقات تدعي استخدام الذكاء الاصطناعي لإنشاء صور عارية وهمية. قام تطبيق واحد بالتسويق لنفسه باستخدام صورة لـ كيم كارداشيان وشعار "خلع ملابس أي فتاة مجانًا". سحبت آبل وجوجل التطبيقات من متاجر التطبيقات الخاصة بها، لكن المشكلة لا تزال شائعة.
تقوم مدارس في جميع أنحاء الولايات المتحدة بالإبلاغ عن مشاكل تتعلق بانتشار صور عارية وهمية باستخدام الذكاء الاصطناعي لطلاب آخرين (وأحيانًا للمعلمين) للتنمر والتحرش، جنبًا إلى جنب مع أنواع أخرى من المحتوى غير المناسب للذكاء الاصطناعي. في الشهر الماضي، أدى صورة كاذبة لرئيس مدرسة مناطقية إلى اعتقال في بالتيمور. الأسوأ من ذلك، أن المشكلة تؤثر حتى على الطلاب في المدارس الإعدادية، في بعض الحالات.
تقول جوجل إن سياساتها ستساعد في منع دخول التطبيقات من Google Play التي تحتوي على محتوى يتم إنشاؤه بواسطة الذكاء الاصطناعي والذي قد يكون غير مناسب أو ضار للمستخدمين. وتشير إلى سياستها الحالية للمحتوى الذكي المُنشّأ بواسطة الذكاء الاصطناعي كمكان للتحقق من متطلباتها لاعتماد التطبيقات على Google Play. تقول الشركة إن تطبيقات الذكاء الاصطناعي لا يمكن أن تسمح بإنشاء أي محتوى مقيد ويجب أن توفر أيضًا للمستخدمين وسيلة للإبلاغ عن المحتوى المسيء وغير المناسب، فضلاً عن مراقبة وتفضيل هذه الردود. يعد الأخير خاصة مهماً في التطبيقات حيث يشكل تفاعل المستخدمين "شكل المحتوى والتجربة"، كما تقول جوجل — مثل التطبيقات التي تُصنف نماذج شعبية بمركز أعلى أو بوضوح أكبر، ربما.
لا يمكن أيضًا للمطورين أن يعلنوا عن أن تطبيقهم ينتهك أيًا من قواعد Google Play، وفقًا لمتطلبات تعزيز التطبيق الخاصة بجوجل. إذا أعلنوا عن حالة استخدام غير مناسبة، فقد يتم طرد التطبيق من متجر التطبيقات.
بالإضافة إلى ذلك، يتحمل المطورون مسؤولية حماية تطبيقاتهم من المحفزات التي يمكن أن تعمل على تلاعب ميزات الذكاء الاصطناعي لإنشاء محتوى ضار ومسيء. تقول جوجل إن المطورين يمكنهم استخدام ميزة الاختبار المغلق لمشاركة النسخ المبكرة من تطبيقاتهم مع المستخدمين للحصول على ردود فعل. توصي الشركة بشدة بأن يقوم المطورون ليس فقط بالاختبار قبل الإطلاق ولكن أيضًا بتوثيق هذه الاختبارات، حيث يمكن أن تطلب جوجل استعراضها في المستقبل.
الشركة أيضًا تنشر موارد وممارسات أخرى مثل دليلها People + AI Guidebook، الذي يهدف لدعم المطورين الذين يقومون ببناء تطبيقات الذكاء الاصطناعي.
