هشدار کارشناسان اروپایی درباره خطر نابودی بشریت با هوش مصنوعی

به گزارش گروه بین الملل خبرگزاری تسنیم به نقل از هفته نامه "اشپیگل"، صدها کارشناس و نخبه متخصص در عرصه هوش مصنوعی در بیانیه‌ای بسیار کوتاه و کلی، روز سه‌شنبه نسبت به خطرات هوش مصنوعی هشدار دادند و اعلام کردند که کاهش خطر نابودی توسط هوش مصنوعی باید در اولویت جهانی قرار گیرد. در این بیانیه خطر هوش مصنوعی همتراز با سایر خطرات برای کل جامعه، مانند همه‌گیری‌ها کرونا و جنگ هسته‌ای قرار گرفته است.

امضاکنندگان این بیانیه عبارتند از سام آلتمن، مدیر عامل OpenAI، دمیس حسابیس، رئیس Google DeepMind، و جفری هینتون و یوشوا بنجیو، محققان هوش مصنوعی برنده جایزه تورینگ. "آدری تانگ"، وزیر دیجیتال تایوان، کوین اسکات، مدیر ارشد فناوری مایکروسافت، گریمز، موسیقیدان و بسیاری از کارشناسان هوش مصنوعی از عرصه تحقیقات و تجارت نیز در این فهرست هستند.

این پیام توسط مرکز ایمنی هوش مصنوعی مستقر در سانفرانسیسکو منتشر شده است. نیویورک تایمز اولین رسانه‌ای بود که آن را گزارش کرد. به نوشته این روزنامه، این بیانیه عمداً مختصر است تا کارشناسانی را گرد هم آورد که در عین حال نظرات متفاوتی در مورد خطر خاص ناشی از هوش مصنوعی یا اقدامات متقابل مناسب داشته باشند.

در پایان ماه مارس هم افراد مشهوری مانند ایلان ماسک و متخصصان هوش مصنوعی نامه‌ای سرگشاده منتشر کردند که در آن خواستار یک وقفه شش ماهه در آموزش سیستم‌های هوش مصنوعی جدید بودند که از مدل فعلی OpenAI GPT-4 پیشی گرفتند. در این نامه آمده است: سیستم‌های هوش مصنوعی قدرتمند تنها زمانی باید توسعه یابند که مطمئن باشیم تأثیر آن‌ها مثبت و ریسک‌هایشان قابل کنترل خواهد بود. در آغاز ماه می، "جفری هینتون"، پیشگام هوش مصنوعی، پس از ترک کارفرمای قدیمی خود از گوگل، هشدار خود را پیگیری کرد. اسامی سایر کارشناسانی که نگرانی های خود را در مورد هوش مصنوعی غیرقابل کنترل در مقالات یا مصاحبه های مهمان طی چند هفته و ماه گذشته بیان کرده اند نیز در نامه سرگشاده مارس و بیانیه جدید سه شنبه گنجانده شده است.

هشداری که اکنون توسط مرکز ایمنی هوش مصنوعی منتشر شده است به ویژه قابل توجه است زیرا بسیاری از امضاکنندگان دقیقاً در آن دسته از شرکت‌هایی هستند که در حال حاضر روی مدل‌ها و برنامه‌های کاربردی قوی‌تر هوش مصنوعی کار می‌کنند و در پست‌های ارشد مشغول به کار هستند.

به عنوان مثال، "سام آلتمن" هفته گذشته در مصاحبه ای با اشپیگل گفت که بسیار نگران است که عوامل جنگ بیولوژیکی با کمک سیستم های هوش مصنوعی ساخته شوند. اما او اعلام کرد که نمی‌خواهد خطوط قرمز را به تنهایی در توسعه این تکنولوژی ترسیم کند. وی افزود: این بسیار مهم است که ما محدودیت‌های این فناوری را در یک فرآیند دموکراتیک تعیین کنیم و کنترل را حفظ کنیم. اتفاقاً ما نیز به عنوان یک شرکت به وضوح ب این مسئله نیاز داریم و بنابراین باید برنامه هایی برای این منظور تنظیم شود.

هوش مصنوعی اخیرا به یک فرصت همراه با تهدیدهای روزافزون بخصوص برای جوامع اروپایی تبدیل شده و مقامات درباره خطرات ناشی از آن هشدار می دهند.

وزاری کار و کشور آلمان هم اخیرا نسبت به تبعیض و کنترل غیرقانونی کارمندان توسط هوش مصنوعی در شرکت‌ها هشدار دادند.

بر اساس تصمیمات اتخاذ شده در آینده قوانین بسیار سخت گیرانه‌تری در آلمان برای نظارت، کنترل یا انتخاب کارمندان با استفاده از هوش مصنوعی وجود خواهد داشت. "نانسی فایزر"، وزیر کشور فدرال آلمان و هوبرتوس هیل، وزیر کار فدرال هر دو می‌خواهند در یک قانون جدید حفاظت از داده‌های کارکنان از نظارت کامل بر کارمندان جلوگیری کنند.

به گفته "نانسی فایزر"، وزیر کشور فدرال آلمان هوش مصنوعی نقش مهمی را ایفا خواهد کرد و این فرصت‌های بسیار زیادی را در بر دارد، اما همچنین این خطر را دارد که فرآیندها دیگر شفاف نباشند، انسان‌ها مورد تبعیض قرار گیرند یا حقوق شخصی از طریق نظارت نادرست نقض شود.

وزیر دیجیتال آلمان نیز اخیرا خواستار مقررات سریع اتحادیه اروپا برای کاربردهای هوش مصنوعی شده است. وی در این باره گفت: هوش مصنوعی وارد زندگی روزمره شده است و زندگی ما را به طور اساسی تغییر خواهد داد. اتحادیه اروپا باید به سرعت به این موضوع واکنش نشان دهد. همچنین وزارت کشور فدرال آلمان خواهان یک چارچوب قانونی شفاف در این راستا است.

برنامه‌های مبتنی بر هوش مصنوعی مانند ChatGPT با کمک هوش مصنوعی محتوا تولید می‌کنند. کاربران می‌توانند دستورات یا جملاتی را مشخص کنند که سیستم‌های مربوطه به‌طور مستقل آن‌ها را با کمک حجم وسیعی از داده‌های اینترنت تکمیل می‌کنند.

انتهای پیام/