نظارت بر هوش مصنوعی: آیا شرکت‌های بزرگ می‌توانند به وعده‌های خود عمل کنند؟

جزئیات خبر

در هفته گذشته، شش شرکت بزرگ هوش مصنوعی به کاخ سفید وعده دادند که اجازه خواهند داد تا ناظران خارجی کار آن‌ها را بررسی کنند. این توافق که شامل شرکت‌هایی مانند انویدیا، اوپن‌ای آی و گوگل می‌شود، به گفته رئیس‌جمهور پیشین ایالات متحده، دونالد ترامپ، “از نظر اخلاقی الزام‌آور” است. اما این توافق به وضوح مشخص نمی‌کند که چه کسی ناظران را انتخاب می‌کند و چه مواردی باید مورد بررسی قرار گیرد.

نظارت خارجی می‌تواند ایده خوبی باشد، اما در حال حاضر، هر شرکت خود ناظر خود را انتخاب می‌کند و تعیین می‌کند که ناظر چه چیزی را بررسی کند. این وضعیت یادآور بحران حسابرسی انرون است که در آن شرکت‌ها به حسابرسانی که خود انتخاب کرده بودند، اعتماد کردند و در نهایت به فاجعه‌ای بزرگ منجر شد. در سال ۲۰۰۲، قانون ساربینز-آکسلی به تصویب رسید تا انتخاب حسابرسان را از مدیریت شرکت‌ها جدا کند و نظارت بیشتری بر حسابرسان اعمال کند.

تجربه‌های گذشته نشان می‌دهد که وعده‌های داوطلبانه در صنعت هوش مصنوعی چندان قابل اعتماد نیستند. در سال ۲۰۲۳، شرکت‌های پیشرو هوش مصنوعی به کاخ سفید تعهداتی دادند، اما وقتی محققان به بررسی این تعهدات پرداختند، میانگین نمره‌ها تنها ۵۳ درصد بود. این نشان می‌دهد که حتی وقتی آزمایش‌های خارجی انجام می‌شود، شرایط آن به‌طور کامل تحت کنترل توسعه‌دهندگان است.

یکی از چالش‌های اصلی در آزمایش مدل‌های هوش مصنوعی، امنیت اطلاعات است. شرکت‌ها تمایل دارند که مدل‌های خود را به صورت محدود به ناظران ارائه دهند و این موضوع می‌تواند به خطرات امنیتی منجر شود. به تازگی، گوگل دیپ‌مایند روشی جدید برای آزمایش مدل‌های هوش مصنوعی معرفی کرده که به ناظران اجازه می‌دهد بدون دسترسی به مدل، آن را بررسی کنند.

گزارش اخیر مرکز تحقیقاتی تمرکززدایی نشان می‌دهد که اکنون می‌توان به مدل‌های پیشرفته هوش مصنوعی بدون در اختیار داشتن داده‌ها یا مدل‌ها نظارت کرد. این امر می‌تواند به بهبود شفافیت و اعتماد در صنعت هوش مصنوعی کمک کند. شرکت‌ها باید نام ناظران خود را اعلام کنند و مشخص کنند که چه مواردی تحت بررسی قرار گرفته است.

در نهایت، برای اینکه این توافقات مؤثر باشند، باید ناظران حق انتخاب داشته باشند و شرکت‌ها نیز باید شفافیت بیشتری در این زمینه نشان دهند. ایجاد یک نهاد مستقل برای نظارت بر ناظران می‌تواند به بهبود این وضعیت کمک کند و از تکرار اشتباهات گذشته جلوگیری کند.

جمع‌بندی

توافقات جدید در صنعت هوش مصنوعی می‌تواند به بهبود نظارت و شفافیت کمک کند. اما برای موفقیت، نیاز به شفافیت و نظارت مستقل وجود دارد.