رتبة Meredith Whittaker على تصادم الأمان بين تيليجرام و 'رؤساء الحافة' في OpenAI
\n\nلقد شعرت Meredith Whittaker بأنها قد تعبت من جماعة الأخوية في صناعة التكنولوجيا. جلست مع رئيس Signal في VivaTech في باريس لمناقشة مجموعة واسعة من القضايا الجادة التي تواجه المجتمع، من نشر الإشاعات إلى من يتحكم في الذكاء الاصطناعي، وحتى الدولة الشرطية الداخلية. خلال حديثنا، تناولنا الحرب الأخيرة بين Signal وإيلون موسك وPavel Durov من تيليجرام، و - نظرًا لصدامها المثير للجدل مع سكارليت جوهانسون - آراء Whittaker الصريحة حول القيادة في OpenAI، التي وصفتها بأنها 'مقال سكن الغرفة'.
\n\nبين الأمور الأخرى، تشعر Whittaker بالقلق بشأن تركيز السلطة في خمس منصات تواصل اجتماعي رئيسية، خصوصًا في عام يواجه العالم فيه عددًا كبيرًا من الانتخابات العامة، لا سيما في الولايات المتحدة، والاعتماد الأوروبي على العمالقة التكنولوجيين الأمريكيين الناشئين الاعتماد على تساؤلات أو حقائق.
\n\nكما ناقشنا الإعلانات التي تستخدم تقنيات المراقبة، ونتائج مشروع قانون السلامة عبر الإنترنت في المملكة المتحدة، ومقترحات الاتحاد الأوروبي لمكافحة توزيع المواد الجنسية الاطفال، وسواء كان يجب على Pavel Durov من تيليجرام أن يقضي وقتًا أكثر تأمين منصته بدلاً من أن يلتقطه مصور لحسابه على Instagram.
\n\nوفي النهاية، كشفت لماذا ستقضي الستة أشهر القادمة في أوروبا. (أسئلتي بالخط العريض):
\n\nفي الآونة الأخيرة، كنت تتحدث عن تركيز السلطة في الذكاء الاصطناعي، وأن هذا كان مهمًا في السياق الأوروبي. هل تود توسيع هذا؟
\n\nالجواب القصير جدًا هو أن هذا مهم في السياق الأوروبي، لأن تلك السلطة لا تتركز في أوروبا. نعم، تركز تلك السلطة في أيدي مجموعة من الشركات المتواجدة في الولايات المتحدة، وبعضها الآخر في الصين. ولكن عندما نتحدث عن هذا السياق، نتحدث عن الولايات المتحدة. اعتماد أوروبا، الشركات الناشئة الأوروبية، الحكومات الأوروبية، المؤسسات الأوروبية، على الذكاء الاصطناعي يعتمد في النهاية على البنى التحتية والأنظمة التي تم إنشاؤها والتحكم فيها، وتؤدي إلى الأرباح والنمو لهؤلاء الشركات القليلة.
\n\nهناك جدل في أوروبا حول تسارع التكنولوجيا وتسريع التقنيات. هل تعتقد أن مخاوفهم من التنظيم الأوروبي المحتمل، ربما يبطئ وتيرة التقدم التكنولوجي، مبررة؟
\n\nآسف، أنا أتيت من الأكاديمية. لذلك أنا دقيق في التعريفات. أرغب في فك ذلك قليلاً. هل الافتراض هنا، أنه بدون هذه القيود، ستكون أوروبا حرة لبناء منافسين متساويين لعمالقة التكنولوجيا الأمريكية؟ إذا كان هذا الافتراض، فذلك غير صحيح. الجميع يعرفون ذلك. أي شخص يفهم التاريخ، ونماذج الأعمال، والتشبث العميق بتلك الشركات يعرف أيضًا أنه ليس صحيحًا.
\n\nقد تكون هناك إحباط بسبب تباطؤ التنظيم 'سلسلة B'. ولكن أعتقد أننا بحاجة إلى النظر في تعريف 'التقدم' الذي يعتمد على التخلص من جميع أدوار الحماية التي ستحكم استخدام التقنيات التي تم تكليفها حاليًا باتخاذ تقديرات حساسة للغاية؛ التي يتم ربطها حاليًا ببنية تحتية للرصد الشاملة تسرع من أشكال التحكم الاجتماعي الجديدة؛ التي تستخدم لتدهور وتقليل العمالة. هل هذا ما نريد؟ هل هذا هو التقدم؟ لأنه إذا لم نحدد مصطلحاتنا، أعتقد أننا قد نقع في تلك الحكايات.
\n\nبالطبع، سيصبح بعض الأشخاص من الطبقة المتوسطة تمامًا بعد سحب ربحهم، وهذا جيد بالنسبة لهم. ولكن دعونا لا نربط ذلك بالتقدم نحو مستقبل قابل للحياة. التقدم نحو بنية حكم اجتماعية نافعة، التقدم نحو تكنولوجيا تخدم فعلًا احتياجات الإنسان، التي تكون فعليًا مسؤولة أمام المواطنين.
\n\nلقد ناقشت مثالًا حول نشر الإشاعات حول محتوى AI تم إنشاؤه حول Zelensky وزوجته. مثل الفيديو التقليدي ومواقع الويب التي تم إنشاؤها بواسطة AI.
\n\nالتركيز على deepfakes في فراغ هو في الواقع تفويت الفرصة، مع 'الغابة' تكون حقيقة أننا نعتمد الآن على خمسة منصات تواصل اجتماعي ضخمة كحكام. [TikTok, Facebook, Instagram, Twitter/X و YouTube]
\n\nهذه المنصات الاجتماعية الضخمة الموحدة محفزة لضبط خوارزمياتها للارتباط لأنها تريد المزيد من النقرات، والمزيد من عروض الإعلانات، وترى العنصرية المضطربة للأحداث العنصرية، والأحداث المبالغ فيها، والأحداث المزعجة، والأحداث كاذبة تمامًا، صحيح؟ وهنا حيث نرى، في رأيي، أن AI يستخدم لنشر الإشاعات بطريقة أكثر قوة. هنا حيث ستجد deepfake. لا أحد يذهب إلى موقع ويب بعد الآن. تذهب إلى تويتر، YouTube، تبحث، ترى ما هناك.
\n\nترى عنوانًا وتنقر عليه، تنقر على شخص ينشر من تلك الموقع. أعتقد أننا لا نستطيع أن نجري حوارًا عن الإشاعات دون إجراء حديث عن دور المنصات الاجتماعية الضخمة الموحدة التي ابتلعت نظام الإعلام والنظام المعلوماتي الخاص بنا من أجل الربح والنمو لعدد قليل من الشركات.
\n\nفي المملكة المتحدة، لدينا هيئة معايير الإعلان. في ألمانيا، لا يمكنك الإعلان عن الذكريات النازية، على سبيل المثال على eBay. هل سيكون هناك طرق لمراقبة صناعة الإعلانات وبالتالي، بشكل غير مباشر، إنشاء قواعد أفضل ونتائج أفضل من المنصات التي تعتمد على الإعلانات كنموذج عمل؟
\n\nأعتقد أن حظر الإعلانات عن طريق المراقبة سيكون خطوة أولى جيدة جدًا. سنكون حقًا نقطع في جذور الأمراض التي نواجهها من الصناعة التكنولوجية، والتي هي المراقبة الشاملة باسم التأثير، التأثير على بيع شيء، التأثير لإقناع شخص ما بالتصويت لشيء ما، التأثير على إضلال شخص ما. في النهاية، هذه هي اللعبة.
\n\nتم وضع بيانات التدريب لهذا الرصد الشامل، كما وصفته، في ظل القصة حول استخدام OpenAI للصوت الذي يطلق عليه "Sky" والذي كان يبدو مشابهًا إلى حد ما لشكارليت جوهانسون. لاحقًا، كشفت أنها تلقت اتصالًا من سام ألتمان بشأن استخدام صوتها. هل لديك رأي من فاز في تلك الواقعة؟
\n\nنشرت هذا على تويتر، ولكنها مثل ... براحة الحافة. إنها مهملة للغاية. ومن غير الضروري قل. وحقًا يمزق النقاب عن هذا الخرافة التي تعتبر نفسك رجالًا جادين على آفاق العلم بناءً على قيامك بأشياء مقلقة داخل غرفة النوم تشجع عليها مجموعة من 'رجال النعم' الذين يفكرون أن كل ما تقوله مضحك، لأنهم يتم دفعهم للقيام بذلك، وليس هناك أحد حول هناك يحمل هذه القيادة على كتفيه ويقول 'ما الذي تفعله؟!'
\n\nمؤخرًا في TechCrunch Disrupt ، كان هناك حوار معك حول مشروع قانون السلامة عبر الإنترنت في المملكة المتحدة (الآن قانون). الذي أشير إلى أنه قد يطلب من شركات التكنولوجيا بناء أبوابٍ خلفيةٍ في تشفيرها من النهاية إلى النهاية. ما هو موقفك الآن من هذا الفعل الذي تمت الموافقة عليه؟
\n\nلن نفعل ذلك أبدًا. لن نقوم أبدًا بذلك. ما قلناه كان إذا انتقلوا لفرض تلك الجزء من المشروع، التي يمكن استخدامها من قبل Ofcom لإخبار Signal 'يجب عليهم بناء باب خلفي، يجب عليهم تطبيق المسح على النهاية المتكرر' - وهو باب خلفي - سنغادر [المملكة المتحدة]. لأنن
