چگونه می توان با هوش مصنوعی بر شبکه نمایش خانگی نظارت کرد؟

به گزارش رویداد برتر با گسترش فضای مجازی و افزایش حجم محتوای صوتی و تصویری نهادهای نظارتی مانند ساترا با چالش های پیچیده ای در مدیریت و نظارت بر محتوای منتشر شده مواجه هستند. در این میان ساترا به دنبال این است از ظرفیت هوش مصنوعی برای انجام هر چه بهتر فعالیت های خود بهره مند شود؛ چراکه معتقد است هوش مصنوعی می تواند به عنوان ابزاری قدرتمند در تسهیل و بهبود فرآیند نظارت پیشینی (پیش از انتشار محتوا) ایفای نقش کند.

بر همین اساس رئیس ساترا معاون این سازمان و همچنین یک کارشناس در حوزه معاونت کاربران و تنظیم گری اجتماعی نکاتی را در باب استفاده از هوش مصنوعی تدوین مقررات برای تولید و انتشار محتوا و نظارت بر فعالیت سازمان تنظیم مقررات رسانه های صوت و تصویر فراگیر در فضای مجازی مطرح کرده اند.

دغدغه مان روی هوش مصنوعی مردمی باشد

سعید مقیسه ـ رئیس ساترا ـ درباره ی ظرفیت هوش مصنوعی معتقد است: کارکرد هوش مصنوعی در زمینه هایی شامل هوشمند کردن سیستم های خبره و پالایش هوشمند محتوا برای ما کاربردی خواهد بود. این یک بعد از هوش مصنوعی است اما در بعد دیگری از هوش مصنوعی ما بیشتر عقب افتاده ایم؛ آن هم تولید محتوا توسط افراد با اتکا به ابزارهای هوش مصنوعی خارجی است که به طور فزاینده ای در میان مردم رواج یافته است. باید توجه داشت که هوش مصنوعی مقوله جدیدی نیست و از زمان معرفی چت جی پی تی این فناوری بین عموم مردم شناخته شده است.

مقیسه معتقد است: پالایش هوشمند محتوا در سازمان ها به خوبی شکل نگرفته اما تولید محتوا توسط مردم با استفاده از ابزارهای ساده و مهارت های حداقلی در حال گسترش است. ما اکنون در کارگروه های هوش مصنوعی در حال آموزش این مهارت ها هستیم. نگرانی اصلی این است که ابزارهای تولید محتوای هوش مصنوعی خارجی زیست بوم فضای مجازی کشور را تحت تأثیر قرار دهند. این تهدید ممکن است از سوی افرادی باشد که آموزش کافی ندیده اند به ویژه نوجوانانی که به راحتی می توانند محتوا تولید کنند بدون اینکه تجربه یا آگاهی کافی از راهبردهای محتوایی داشته باشند. این موضوع می تواند خطرناک باشد. به عبارت دیگر فرزند ما که تا دیروز مصرف کننده بود اکنون به یک تولیدکننده محتوا تبدیل شده است در حالی که در واقع این نرم افزار هوش مصنوعی است که محتوا تولید می کند اما تحت هدایت یک کودک. این محتوا بلافاصله قابل انتشار است و باید به این نکته توجه کرد. بنابراین باید هوش مصنوعی مردمی و هوش مصنوعی حاکمیتی را از یکدیگر تفکیک کنیم. ما باید دغدغه مان بیشتر بر روی هوش مصنوعی مردمی باشد تا بتواند فضای مجازی را سالم تر کند و خدای ناکرده تهدیدهایی برای این فضا ایجاد نکند.

هوش مصنوعی در کدام بخش ساترا راهگشاست

محمدصادق افراسیابی ـ معاون کاربران و تنظیم گری اجتماعی ساترا ـ  معتقد است: فعالیت سازمان تنظیم مقررات رسانه های صوت و تصویر فراگیر در فضای مجازی در حال حاضر در پنج حوزه تدوین مقررات در حوزه استفاده سکوهای صوت و تصویر فراگیر و شبکه نمایش خانگی از هوش مصنوعی برای تولید و انتشار محتوا ملزم ساختن رسانه های کاربر متقاضی مجوز به استفاده از هوش مصنوعی برای انجام هر چه بهتر نظارت محتوایی استفاده از ظرفیت هوش مصنوعی برای نظارت بر فعالیت سکوهای صوت و تصویر فراگیر و شبکه نمایش خانگی با هوش مصنوعی پیوند خورده است.

همچنین شروع مراحل تدوین مقررات استفاده از هوش مصنوعی در سکوهای صوت و تصویر فراگیر و شبکه نمایش خانگی برای تولید و انتشار محتوا و همچنین آموزش مباحث مرتبط با هوش مصنوعی به مدیران و کارکنان ساترا از دیگر امکاناتی است که معاون کاربران و تنظیمگری اجتماعی ساترا معتقد است با استفاده از ظفیت توسط هوش مصنوعی می توان بهره برد.

نقش هوش مصنوعی در نظارت بر شبکه نمایش خانگی

محمدرضا محمدی ـ کارشناس معاونت کاربران و تنظیم گری اجتماعی ـ هم درباره نقش هوش مصنوعی بر نظارت ساترا معتقد است:  هوش مصنوعی می تواند به عنوان ابزاری قدرتمند در تسهیل و بهبود فرآیند نظارت پیشینی (پیش از انتشار محتوا) ایفای نقش کند. هوش مصنوعی با استفاده از الگوریتم های پردازش زبان طبیعی تحلیل تصاویر و ویدئوها و همچنین تکنیک های یادگیری عمیق می تواند محتوای چندرسانه ای را پیش از انتشار بررسی کرده و با تطبیق آن با قوانین و معیارهای اخلاقی و فرهنگی محتوای نامناسب یا خلاف قوانین را شناسایی کند. این تکنولوژی قادر است با سرعت بسیار بالا و دقت بیشتر نسبت به روش های انسانی حجم عظیمی از داده ها را تحلیل کرده و از انتشار محتوای خطرناک یا نامناسب جلوگیری کند. بنابراین فناوری هوش مصنوعی قادر به کنترل همه چالش های پیش روی تنظیم گری سکوها است. استفاده از هوش مصنوعی کمک شایانی به ایفای نقش تنظیم گری و نظارت و کنترل اجرای ضوابط و مقررات می کند. بهره گیری از هوش مصنوعی برای اعمال قواعد تنظیم گری از مهم ترین مأموریت های پیش روی ساترا است.

وی یکی از مزایای مهم هوش مصنوعی را کاهش زمان و هزینه های نظارتی می داند و می گوید: هوش مصنوعی می تواند به صورت خودکار و لحظه ای محتوای تولیدشده را اسکن کرده و بدون نیاز به دخالت انسانی ارزیابی اولیه را انجام دهد. این موضوع نه تنها باعث افزایش بهره وری در فرآیندهای نظارتی می شود بلکه خطای انسانی را نیز کاهش می دهد. الگوریتم های هوش مصنوعی می توانند الگوهای تکراری و موارد خاصی را که ممکن است انسان ها نادیده بگیرند شناسایی کنند و به این ترتیب از بروز اشتباهات و سوءتفاهمات در محتوای نظارتی جلوگیری کنند. علاوه بر نظارت بر محتوا هوش مصنوعی می تواند در پیش بینی رفتار کاربران نیز موثر باشد. با تحلیل داده های بزرگ (Big Data) این تکنولوژی می تواند رفتار کاربران و الگوهای مصرف محتوای آنها را شناسایی کند و در نتیجه پیشنهاداتی به نهادهای نظارتی ارائه دهد که چه نوع محتواهایی احتمالاً می توانند مشکلات فرهنگی اخلاقی یا قانونی ایجاد کنند. این پیش بینی ها می توانند به ساترا کمک کنند تا قبل از انتشار محتوایی خاص برای نظارت دقیق تر و حتی تغییرات در سیاست های نظارتی آماده باشد.

کارشناس معاونت کاربران و تنظیم گری اجتماعی در پایان یادآور می شود: باید گفت با توجه به ظرفیت رسانه های کاربرمحور برای انتشار محتوای تولیدشده توسط کاربران فضای مجازی بهره گرفتن از هوش مصنوعی سبب شده تا به سادگی بدون اتکا صرف به توان نیروی انسانی نحوه انتشار محتوا با قواعد تنظیم گری صورت پذیرد. صاحبان سکوها در اکثر کشورهای غربی برای اعمال نظارت بر سرویس های خود از ظرفیت هوش مصنوعی استفاده می کنند تا امکان هدایت و کنترل محتوا را داشته باشند. در حال حاضر سکوهای ایرانی استفاده چندانی از هوش مصنوعی در فرآیندهای انتشار محتوا ندارند فقط یک سکوی کاربرمحور مدعی استفاده گسترده از هوش مصنوعی است که با توجه به وجود محتوای مجرمانه و نامناسب در این سکو به نظر می رسد قواعد تنظیم گری در این سکو نیز رعایت نمی شود. ظرفیت های مغفول بسیاری در این زمینه وجود دارد که باید فعال شود.

* مطالب این گزارش برگرفته از مجله تخصصی کد است.

انتهای پیام