پیشرفت در نظارت بر محتوای هوش مصنوعی: Moonbounce با تأمین 12 میلیون دلار، محافظ‌های ایمنی در زمان واقعی می‌سازد

BitcoinWorld

پیشرفت در نظارت بر محتوای مبتنی بر هوش مصنوعی: Moonbounce مبلغ 12 میلیون دلار برای ایجاد حفاظ‌های امنیتی در زمان واقعی تامین می‌کند

در یک اقدام مهم برای رسیدگی به بحران فزاینده امنیت آنلاین، Moonbounce، یک شرکت نوآفرین پیشگام در نظارت بر محتوای مبتنی بر هوش مصنوعی در زمان واقعی، به طور انحصاری به Bitcoin World یک دور تامین مالی 12 میلیون دلاری را فاش کرد. این سرمایه‌گذاری که به طور مشترک توسط Amplify Partners و StepStone Group هدایت می‌شود، ماموریت شرکت را برای تبدیل اسناد خط‌مشی استاتیک به کد قابل اجرا، ایجاد یک لایه امنیتی فوری برای محتوای تولید شده توسط کاربر و محتوای ایجاد شده توسط هوش مصنوعی، تقویت می‌کند. در نتیجه، این منابع مالی در زمانی می‌رسد که پلتفرم‌ها با فشار قانونی و اعتباری فزاینده ناشی از شکست‌های برجسته در نظارت مواجه هستند.

راه‌حل نظارت بر محتوای مبتنی بر هوش مصنوعی Moonbounce

نوآوری اصلی Moonbounce رویکرد "خط‌مشی به عنوان کد" آن است. این شرکت یک مدل زبانی بزرگ اختصاصی (LLM) را آموزش می‌دهد تا خط‌مشی‌های امنیتی نوشته شده مشتری را دریافت کند. متعاقباً، این سیستم محتوا را در لحظه دقیق تولید - چه از یک کاربر انسانی یا یک چت‌بات هوش مصنوعی - ارزیابی می‌کند. این تصمیم اجرایی را در کمتر از 300 میلی‌ثانیه ارائه می‌دهد. بنابراین، این تغییر از بررسی دستی واکنشی و تاخیری انسان به اجرای فعال و فوری ماشین، نشان‌دهنده یک تغییر اساسی در زیرساخت اعتماد و امنیت دیجیتال است.

این سیستم اقدامات اجرایی انعطاف‌پذیر بر اساس نیازهای مشتری ارائه می‌دهد. به عنوان مثال، می‌تواند:

• محتوای پرخطر را مسدود کند بلافاصله قبل از اینکه هر کاربری آن را ببیند.
• توزیع را کند کند محتوای مرزی، آن را برای بررسی دستی بعدی در صف قرار دهد.
• استدلال دقیق ارائه دهد برای تصمیمات خود، که به شفافیت کمک می‌کند.

در حال حاضر، Moonbounce سه بخش اصلی را خدمت می‌کند: اپلیکیشن‌های اجتماعی و دوست‌یابی با محتوای تولید شده توسط کاربر، پلتفرم‌های همراه و کاراکتر مبتنی بر هوش مصنوعی، و خدمات تولید تصویر مبتنی بر هوش مصنوعی. این شرکت در حال حاضر بیش از 40 میلیون بررسی روزانه را برای بیش از 100 میلیون کاربران فعال روزانه در پایگاه مشتریان خود پردازش می‌کند.

مشکل بنیادی در نظارت مدرن

مدیرعامل Moonbounce، Brett Levenson، این ایده را پس از تجربه نقص‌های عمیق در سیستم‌های قدیمی در دوران تصدی خود در رهبری یکپارچگی تجاری در Facebook ابداع کرد. او کشف کرد که بازبینان انسانی با اسناد خط‌مشی طولانی و ترجمه ضعیف کار می‌کردند. آن‌ها سپس فقط چند ثانیه برای تصمیم‌گیری پیچیده در مورد محتوای علامت‌گذاری شده داشتند و نرخ دقت فقط "کمی بهتر از 50٪" را به دست می‌آوردند.

"این به نوعی مثل پرتاب سکه بود"، Levenson به Bitcoin World گفت. "این چندین روز پس از وقوع آسیب بود به هر حال." این مدل واکنشی به طور اساسی در برابر بازیگران مخالف چابک و با منابع خوب امروز ناکافی است. علاوه بر این، پذیرش انفجاری هوش مصنوعی مولد به طور تصاعدی حجم و پیچیدگی محتوای مضر را افزایش داده است و بررسی دستی را کاملاً غیرقابل حفظ کرده است.

اعتماد سرمایه‌گذار به یک نیاز حیاتی

این منابع مالی بر اجماع فزاینده تأکید می‌کند که زیرساخت امنیتی خارجی و تخصصی ضروری است. "نظارت بر محتوا همیشه مشکلی بوده است که پلتفرم‌های بزرگ آنلاین را آزار می‌داد، اما اکنون با LLM‌ها در قلب هر برنامه، این چالش حتی دلهره‌آورتر است"، Lenny Pruss، شریک عمومی در Amplify Partners گفت. "ما در Moonbounce سرمایه‌گذاری کردیم زیرا ما جهانی را تصور می‌کنیم که در آن حفاظ‌های عینی و در زمان واقعی به ستون فقرات فعال‌کننده هر برنامه واسطه‌ای مبتنی بر هوش مصنوعی تبدیل می‌شوند."

این رویکرد خارجی یک مزیت کلیدی ارائه می‌دهد. سیستم Moonbounce به عنوان یک شخص ثالث بی‌طرف بین کاربر و هوش مصنوعی عمل می‌کند. برخلاف خود چت‌بات، که باید زمینه مکالمه گسترده را مدیریت کند، مدل Moonbounce فقط بر اجرای قانون در زمان اجرا تمرکز می‌کند. این جداسازی نگرانی‌ها منجر به تصمیمات امنیتی سریع‌تر، سازگارتر و با تعصب کمتر می‌شود.

تبدیل امنیت به یک مزیت محصول

به طور سنتی، نظارت بر محتوا یک عملکرد انطباق پشتیبان پرهزینه بوده است. با این حال، Levenson استدلال می‌کند Moonbounce امنیت را قادر می‌سازد تا به یک ویژگی و تمایزگر محصول اصلی تبدیل شود. "امنیت می‌تواند در واقع یک مزیت محصول باشد"، او توضیح داد. "فقط هرگز نبوده است زیرا همیشه چیزی است که بعداً اتفاق می‌افتد، نه چیزی که واقعاً می‌توانید در محصول خود بسازید."

مشتریان اولیه این تز را تأیید می‌کنند. به عنوان مثال، رئیس اعتماد و امنیت Tinder بهبود 10 برابری در دقت تشخیص را با استفاده از خدمات مشابه مبتنی بر LLM گزارش کرد. مشتریان Moonbounce شامل شرکت نوآفرین همراه مبتنی بر هوش مصنوعی Channel AI، پلتفرم تولید تصویر Civitai و خدمات بازی نقش کاراکتر Dippy AI و Moescape می‌شوند.

جاده پیش رو: از مسدود کردن به هدایت

مرحله توسعه بعدی Moonbounce بر "هدایت تکراری" تمرکز دارد. این قابلیت پیشرفته، الهام گرفته از حوادث تراژیک مانند مورد 2024 یک نوجوان وسواس‌گرفته به یک چت‌بات Character AI، فراتر از مسدود کردن ساده محتوا حرکت می‌کند. در عوض، سیستم یک مکالمه بالقوه مضر را در زمان واقعی رهگیری کرده و آن را به طور هوشمند تغییر مسیر می‌دهد.

این فناوری دستورات کاربر را اصلاح می‌کند تا چت‌بات را به سمت یک پاسخ حمایتی و مفیدتر هدایت کند. "ما امیدواریم که... دستور کاربر را بگیریم و آن را تغییر دهیم تا چت‌بات را مجبور کنیم نه فقط یک شنونده همدل، بلکه یک شنونده مفید در آن موقعیت‌ها باشد"، Levenson گفت. این نشان‌دهنده یک مدل ظریف‌تر و مداخله‌گرتر از امنیت مبتنی بر هوش مصنوعی است.

نتیجه‌گیری

دور تامین مالی 12 میلیون دلاری Moonbounce نشانگر یک تغییر محوری در نحوه رویکرد صنعت فناوری به نظارت بر محتوای مبتنی بر هوش مصنوعی است. با ترجمه خط‌مشی‌های مبهم به کد قابل اجرا و عمل کردن با سرعت تولید، این شرکت نوآفرین یک مسیر مقیاس‌پذیر برای امنیت پلتفرم ارائه می‌دهد. همانطور که هوش مصنوعی مولد همه‌جا حاضر می‌شود، تقاضا برای حفاظ‌های قوی و در زمان واقعی فقط تشدید خواهد شد. فناوری Moonbounce، ساخته شده از تجربه مستقیم با شکست‌های سیستماتیک، آن را به عنوان یک بازیگر حیاتی در ساخت یک اکوسیستم دیجیتال ایمن‌تر و قابل اعتمادتر قرار می‌دهد که در آن امنیت جزء لاینفک تجربه کاربر است.

سوالات متداول

سوال 1: "خط‌مشی به عنوان کد" در نظارت بر محتوای مبتنی بر هوش مصنوعی چیست؟
"خط‌مشی به عنوان کد" روش‌شناسی Moonbounce برای تبدیل قوانین امنیتی پلتفرم نوشته شده به منطق قابل اجرا توسط ماشین است. این به یک سیستم مبتنی بر هوش مصنوعی اجازه می‌دهد تا به طور خودکار و فوری محتوا را در برابر آن قوانین در لحظه تولید ارزیابی کند، به جای اتکا به بررسی دستی کند و ناسازگار انسانی از اسناد خط‌مشی.

سوال 2: سیستم نظارت مبتنی بر هوش مصنوعی Moonbounce چقدر سریع است؟
این سیستم برای ارزیابی محتوا و ارائه یک پاسخ اجرایی در 300 میلی‌ثانیه یا کمتر طراحی شده است. این سرعت در زمان واقعی برای جلوگیری از گسترش محتوای مضر در پلتفرم‌های اجتماعی سریع و چت‌های تعاملی مبتنی بر هوش مصنوعی حیاتی است.

سوال 3: چه نوع شرکت‌هایی از خدمات Moonbounce استفاده می‌کنند؟
Moonbounce در درجه اول سه بخش عمودی را خدمت می‌کند: پلتفرم‌ها با محتوای تولید شده توسط کاربر (مانند اپلیکیشن‌های دوست‌یابی)، شرکت‌های مبتنی بر هوش مصنوعی که چت‌بات یا همراهان می‌سازند، و خدمات تولید تصویر و ویدیو مبتنی بر هوش مصنوعی. مشتریان آن شامل Channel AI، Civitai، Dippy AI و Moescape می‌شوند.

سوال 4: "هدایت تکراری" چیست؟
هدایت تکراری یک قابلیت پیشرفته است که Moonbounce در حال توسعه آن است. به جای مسدود کردن محتوای مضر، سیستم یک مکالمه پرخطر با یک چت‌بات مبتنی بر هوش مصنوعی را رهگیری کرده و دستورات کاربر را به صورت پویا در زمان واقعی اصلاح می‌کند. هدف هدایت تعامل به سمت یک نتیجه مثبت‌تر، حمایتی و مفید است.

سوال 5: چرا نظارت خارجی بر محتوای مبتنی بر هوش مصنوعی مهم است؟
یک سیستم نظارت خارجی شخص ثالث به طور مستقل از مدل اصلی مبتنی بر هوش مصنوعی عمل می‌کند. با نیاز چت‌بات برای به خاطر سپردن تاریخچه‌های مکالمه طولانی تحت فشار نیست و به آن اجازه می‌دهد فقط بر اجرای قانون امنیتی تمرکز کند. این جداسازی می‌تواند تعصب را کاهش دهد، سازگاری را افزایش دهد و یک لایه حفاظتی تخصصی ارائه دهد که تیم‌های داخلی ممکن است برای ساختن آن در مقیاس تلاش کنند.

این پست پیشرفت در نظارت بر محتوای مبتنی بر هوش مصنوعی: Moonbounce مبلغ 12 میلیون دلار برای ایجاد حفاظ‌های امنیتی در زمان واقعی تامین می‌کند برای اولین بار در BitcoinWorld ظاهر شد.