مراقب حماية البيانات في المملكة المتحدة ينهي تحقيقه الذي استغرق عامًا في روبوت دردشة Snap GenAI ، لكنه يحذر الصناعة

أغلق راقب حماية البيانات في المملكة المتحدة تحقيقًا استغرق ما يقرب من عام في روبوت الدردشة الذكية التابع لـ Snap ، My AI - قائلاً إنه راضٍ عن أن الشركة عناق أوجدت المخاوف المتعلقة بخصوصية الأطفال. في الوقت نفسه ، أصدر مكتب المفوض السياق للمعلومات (ICO) تحذيرًا عامًا للصناعة بأن يكونوا نشطاء في تقييم المخاطر المتعلقة بحقوق الأشخاص قبل طرح أدوات الذكاء الاصطناعي التوليدي في السوق.

يشير GenAI إلى نوع من الذكاء الاصطناعي الذي كثيرًا ما يسخر من خلق المحتوى. وفي حالة Snap ، تمتد التكنولوجيا لتشغيل روبوت دردشة يمكنه الرد على المستخدمين بطريقة تشبه الإنسان ، مثل إرسال الرسائل النصية والـ Snaps ، مما يتيح للمنصة توفير تفاعل تلقائي.

يعمل روبوت الدردشة الذكية التابع لـ Snap بقوة ChatGPT التابعة لـ OpenAI ، لكن تقول الشركة لوسائل الإعلام أنها تطبق تدابير وقائية متنوعة على التطبيق ، بما في ذلك برمجة الإرشادات والنظر في العمر بشكل افتراضي ، مما يهدف إلى منع الأطفال من رؤية محتوى غير مناسب للعمر. كما يدمج أدوات التحكم الأبوية.

"يجب أن يكون تحقيقنا في 'My AI' تحذيرًا للصناعة" ، كتب ستيفن ألموند ، المدير التنفيذي لمكتب ICO للمخاطر التنظيمية ، في بيان صدر يوم الثلاثاء. "يجب على المنظمات التي تطور أو تستخدم الذكاء الاصطناعي التوليدي أن تأخذ في اعتبارها حماية البيانات منذ البداية ، بما في ذلك تقييم المخاطر بدقة وتخفيفها لحماية حقوق الأشخاص وحرياتهم قبل طرح المنتجات في السوق."

"سنواصل مراقبة تقييمات المخاطر لدى المنظمات واستخدام مجموعة كاملة من سلطات التنفيذ - بما في ذلك فرض غرامات - لحماية الجمهور من الأذى" ، أضاف.

في أكتوبر الماضي ، أرسل مكتب ICO إشعارًا تنفيذيًا أوليًا إلى Snap بسبب ما وصفه آنذاك بـ "إمكانية فشل في تقييم المخاطر الخصوصية التي يشكلها روبوت الدردشة الذكية التوليدي 'My AI'".

يبدو أن هذا الإشعار الأولي الذي تم إرساله الخريف الماضي يعد اللوم الوحيد العلني على Snap. من النظرية يمكن أن تفرض النظام غرامات تصل إلى 4٪ من عائدات الشركة السنوية في حالات تسرب البيانات المؤكدة.

عند إعلان ختام تحقيقها الثلاثاء ، أشارت ICO إلى أن الشركة اتخذت "خطوات كبيرة لإجراء استعراض أكثر دقة للمخاطر التي يشكلها 'My AI'" ، بعد تدخلها. وقالت ICO أيضًا إنه تمكن Snap من إظهار أنها قامت بتنفيذ "تخفيفات مناسبة" استجابة للمخاوف المثارة - دون تحديد ما إذا كانت الشركة اتخذت تدابير إضافية (إن وجدت) (لقد سألنا).

قد تظهر مزيد من التفاصيل عندما يتم نشر القرار النهائي للمنظم في الأسابيع القادمة.

"يعتقد ICO أن Snap قامت الآن بإجراء تقييم للمخاطر المتعلقة بـ 'My AI' والذي يتوافق مع قانون حماية البيانات. ستواصل ICO مراقبة طرح 'My AI' وكيفية معالجة المخاطر الناشئة" ، أضافت الهيئة النظامية.

وفي تعليق على ختام التحقيق ، أرسل المتحدث باسم Snap بيانًا لنا - كتب فيه: "نحن سعداء بأن كانت لدى ICO مقومات أننا اتخذنا تدابير مناسبة لحماية مجتمعنا عند استخدام My AI. بينما قمنا بتقييم المخاطر التي تشكلها My AI بعناية ، نقبل أن يكون تقييمنا يمكن أن يكون قد تم وثيقًا أكثر وقد أدخلنا تغييرات على إجراءاتنا العامة لتعكس التعليقات البناءة من ICO. نرحب بختام ICO أن تقييمنا للمخاطر متوافق بالكامل مع قوانين حماية البيانات في المملكة المتحدة ونتطلع إلى مواصلة شراكتنا البناءة".

رفضت Snap تحديد أي تخفيفات قامت بها استجابة لتدخل ICO.

قال المشرع البريطاني إن الذكاء الاصطناعي التوليدي يظل أولوية تنفيذية. يشير المطورون إلى الإرشادات التي أنتجها حول الذكاء الاصطناعي وقواعد حماية البيانات. لديه أيضًا استشارة مفتوحة تطلب المدخلات حول كيفية تطبيق قانون الخصوصية على تطوير واستخدام نماذج الذكاء الاصطناعي التوليدي.

في حين أن المملكة المتحدة لم تقدم تشريعًا رسميًا للذكاء الاصطناعي بعد ، بسبب اعتماد الحكومة على المشرعين مثل ICO في تحديد كيفية تطبيق القواعد القائمة ، وافق مشرعو الاتحاد الأوروبي للتو على إطار قائم على المخاطر للذكاء الاصطناعي - الذي من المقرر تطبيقه في الأشهر والسنوات القادمة - والذي يشمل التزامات شفافية لروبوتات الدردشة بالذكاء الاصطناعي.