اختراق في مراقبة محتوى الذكاء الاصطناعي: Moonbounce تحصل على 12 مليون دولار لبناء حواجز الأمان في الوقت الفعلي

BitcoinWorld

اختراق في الإشراف على المحتوى بالذكاء الاصطناعي: Moonbounce تحصل على 12 مليون دولار لبناء حواجز حماية في الوقت الفعلي

في خطوة هامة لمعالجة الأزمة المتصاعدة للسلامة على الإنترنت، كشفت Moonbounce، وهي شركة ناشئة رائدة في الإشراف على المحتوى بالذكاء الاصطناعي في الوقت الفعلي، حصريًا لـ Bitcoin World عن جولة تمويل بقيمة 12 مليون دولار. هذا الاستثمار، الذي يقوده بشكل مشترك Amplify Partners وStepStone Group، يدعم مهمة الشركة لتحويل وثائق السياسات الثابتة إلى كود قابل للتنفيذ، مما يخلق طبقة حماية فورية للمحتوى الذي ينشئه المستخدمون والمحتوى الذي ينشئه الذكاء الاصطناعي. وبالتالي، يأتي التمويل بينما تواجه منصات الطرف الثالث ضغوطًا قانونية وسمعة متزايدة من إخفاقات الإشراف البارزة.

حل Moonbounce للإشراف على المحتوى بالذكاء الاصطناعي

الابتكار الأساسي لـ Moonbounce هو نهج "السياسة كود". تقوم الشركة بتدريب نموذج لغة كبير خاص (LLM) لاستيعاب سياسات حماية العملاء المكتوبة. بعد ذلك، يقوم هذا النظام بتقييم المحتوى في اللحظة الدقيقة للإنشاء - سواء من مستخدم بشري أو chatbot للذكاء الاصطناعي. يقدم قرار إنفاذ في أقل من 300 ميلي ثانية. لذلك، هذا التحول من المراجعة اليدوية المتأخرة التفاعلية إلى الإنفاذ الآلي الاستباقي الفوري يمثل تغييرًا جوهريًا في البنية التحتية للثقة والأمان الرقمي.

يقدم النظام إجراءات إنفاذ مرنة بناءً على احتياجات العملاء. على سبيل المثال، يمكنه:

• حظر المحتوى عالي المخاطر على الفور قبل أن يراه أي مستخدم.
• إبطاء التوزيع للمحتوى الحدودي، ووضعه في قائمة الانتظار للمراجعة اليدوية لاحقًا.
• تقديم تفسير مفصل لقراراته، مما يساعد على الشفافية.

حاليًا، تخدم Moonbounce ثلاثة قطاعات رئيسية: تطبيقات التواصل الاجتماعي والمواعدة مع محتوى ينشئه المستخدمون، ومنصات مرافقة ذكاء اصطناعي والشخصيات، وخدمات إنشاء الصور بالذكاء الاصطناعي. تعالج الشركة بالفعل أكثر من 40 مليون مراجعة يوميًا لأكثر من 100 مليون مستخدم نشط يوميًا عبر قاعدة عملائها.

المشكلة الأساسية في الإشراف الحديث

تصور بريت ليفنسون، الرئيس التنفيذي لـ Moonbounce، الفكرة بعد تجربة العيوب العميقة في الأنظمة القديمة خلال فترة عمله في قيادة نزاهة الأعمال في Facebook. اكتشف أن المراجعين البشريين يعملون مع وثائق سياسات طويلة مترجمة بشكل سيئ. ثم كان لديهم ثوانٍ فقط لاتخاذ قرارات معقدة حول المحتوى المُبلغ عنه، محققين معدلات دقة "أفضل قليلاً من 50٪".

قال ليفنسون لـ Bitcoin World: "كان الأمر يشبه إلى حد ما رمي العملة". "كان هذا بعد عدة أيام من حدوث الضرر على أي حال." هذا النموذج التفاعلي غير كافٍ بشكل حاسم ضد الجهات الخصومة الرشيقة والمجهزة جيدًا اليوم. علاوة على ذلك، فإن الاعتماد المتفجر للذكاء الاصطناعي التوليدي قد زاد بشكل كبير من حجم وتعقيد المحتوى الضار، مما يجعل المراجعة اليدوية غير مستدامة تمامًا.

ثقة المستثمرين في حاجة حرجة

يؤكد التمويل على إجماع متزايد على أن البنية التحتية للسلامة الخارجية المتخصصة ضرورية. قال ليني بروس، الشريك العام في Amplify Partners: "كان الإشراف على المحتوى دائمًا مشكلة تصيب منصات الطرف الثالث الكبيرة عبر الإنترنت، ولكن الآن مع نماذج اللغة الكبيرة في قلب كل تطبيق، فإن هذا التحدي أكثر صعوبة". "استثمرنا في Moonbounce لأننا نتصور عالمًا تصبح فيه حواجز الحماية الموضوعية في الوقت الفعلي العمود الفقري التمكيني لكل تطبيق يتوسطه الذكاء الاصطناعي."

يوفر هذا النهج الخارجي ميزة رئيسية. يعمل نظام Moonbounce كطرف ثالث محايد بين المستخدم والذكاء الاصطناعي. على عكس chatbot نفسه، الذي يجب أن يدير سياقًا محادثيًا واسعًا، يركز نموذج Moonbounce فقط على إنفاذ القواعد في وقت التشغيل. هذا الفصل للمخاوف يؤدي إلى قرارات حماية أسرع وأكثر اتساقًا وأقل تحيزًا.

تحويل الحماية إلى ميزة منتج

تقليديًا، كان الإشراف على المحتوى وظيفة امتثال خلفية مكلفة. ومع ذلك، يجادل ليفنسون بأن Moonbounce تمكن الحماية من أن تصبح ميزة منتج أساسية ومميزة. أوضح قائلاً: "يمكن أن تكون الحماية في الواقع فائدة للمنتج". "لم تكن أبدًا لأنها دائمًا شيء يحدث لاحقًا، وليس شيئًا يمكنك بالفعل بناؤه في منتجك."

يتحقق العملاء الأوائل من صحة هذه الأطروحة. على سبيل المثال، أفاد رئيس الثقة والأمان في Tinder بتحسن بمقدار 10 أضعاف في دقة الكشف باستخدام خدمات مماثلة مدعومة بنماذج اللغة الكبيرة. يشمل عملاء Moonbounce شركة ناشئة مرافقة ذكاء اصطناعي Channel AI، ومنصة إنشاء الصور Civitai، وخدمات لعب الأدوار للشخصيات Dippy AI وMoescape.

الطريق إلى الأمام: من الحظر إلى التوجيه

تركز مرحلة التطوير التالية لـ Moonbounce على "التوجيه التكراري". هذه القدرة المتقدمة، المستوحاة من حوادث مأساوية مثل حالة 2024 لمراهق مهووس بـ chatbot Character AI، تتجاوز حظر المحتوى البسيط. بدلاً من ذلك، سيعترض النظام محادثة ضارة محتملة في الوقت الفعلي وإعادة توجيهها بذكاء.

ستعدل التقنية مطالبات المستخدم لتوجيه chatbot نحو استجابة أكثر دعمًا ومساعدة. قال ليفنسون: "نأمل في... أخذ مطالبة المستخدم وتعديلها لإجبار chatbot على أن يكون ليس مجرد مستمع متعاطف، بل مستمع مفيد في تلك الحالات". يمثل هذا نموذجًا أكثر دقة وتدخليًا لسلامة الذكاء الاصطناعي.

الخاتمة

تشير جولة تمويل Moonbounce البالغة 12 مليون دولار إلى تحول محوري في كيفية تعامل صناعة التكنولوجيا مع الإشراف على محتوى الذكاء الاصطناعي. من خلال ترجمة السياسات الغامضة إلى كود قابل للتنفيذ والعمل بسرعة الإنشاء، تقدم الشركة الناشئة مسارًا قابلاً للتوسع للأمام لسلامة منصات الطرف الثالث. مع انتشار الذكاء الاصطناعي التوليدي، سيتكثف الطلب فقط على حواجز حماية قوية في الوقت الفعلي. تقنية Moonbounce، المبنية على التجربة المباشرة مع الإخفاقات المنهجية، تضعها كلاعب حاسم في بناء نظام بيئي رقمي أكثر أمانًا وجدارة بالثقة حيث تكون الحماية جزءًا لا يتجزأ من تجربة المستخدم.

الأسئلة الشائعة

س1: ما هي "السياسة كود" في الإشراف على محتوى الذكاء الاصطناعي؟
"السياسة كود" هي منهجية Moonbounce لتحويل قواعد حماية منصات الطرف الثالث المكتوبة إلى منطق قابل للتنفيذ آليًا. يسمح هذا لنظام الذكاء الاصطناعي بتقييم المحتوى تلقائيًا وفوريًا مقابل تلك القواعد في اللحظة التي يتم فيها إنشاؤه، بدلاً من الاعتماد على المراجعة اليدوية البطيئة وغير المتسقة لوثائق السياسات.

س2: ما مدى سرعة نظام الإشراف بالذكاء الاصطناعي لـ Moonbounce؟
تم تصميم النظام لتقييم المحتوى وتقديم استجابة إنفاذ في 300 ميلي ثانية أو أقل. هذه السرعة في الوقت الفعلي حاسمة لمنع انتشار المحتوى الضار على منصات الطرف الثالث الاجتماعية سريعة الحركة ودردشات الذكاء الاصطناعي التفاعلية.

س3: ما أنواع الشركات التي تستخدم خدمات Moonbounce؟
تخدم Moonbounce بشكل أساسي ثلاثة قطاعات عمودية: منصات الطرف الثالث مع محتوى ينشئه المستخدمون (مثل تطبيقات المواعدة)، وشركات الذكاء الاصطناعي التي تبني chatbots أو مرافقين، وخدمات إنشاء الصور والفيديو بالذكاء الاصطناعي. يشمل عملاؤها Channel AI وCivitai وDippy AI وMoescape.

س4: ما هو "التوجيه التكراري"؟
التوجيه التكراري هو قدرة متقدمة تطورها Moonbounce. بدلاً من مجرد حظر المحتوى الضار، سيعترض النظام محادثة محفوفة بالمخاطر مع chatbot الذكاء الاصطناعي ويعدل ديناميكيًا مطالبات المستخدم في الوقت الفعلي. الهدف هو توجيه التفاعل نحو نتيجة أكثر إيجابية ودعمًا ومساعدة.

س5: لماذا يعد الإشراف على محتوى الذكاء الاصطناعي الخارجي مهمًا؟
يعمل نظام الإشراف الخارجي لطرف ثالث بشكل مستقل عن نموذج الذكاء الاصطناعي الأساسي. لا يثقله حاجة chatbot لتذكر تاريخ المحادثات الطويلة، مما يسمح له بالتركيز فقط على إنفاذ قواعد الحماية. يمكن أن يقلل هذا الفصل من التحيز، ويزيد الاتساق، ويوفر طبقة متخصصة من الحماية قد تكافح الفرق الداخلية لبنائها على نطاق واسع.

ظهر هذا المنشور اختراق في الإشراف على المحتوى بالذكاء الاصطناعي: Moonbounce تحصل على 12 مليون دولار لبناء حواجز حماية في الوقت الفعلي لأول مرة على BitcoinWorld.