برنی سندرز می گوید توسعه هوش مصنوعی AGI در حد توسعه سلاح هسته ای خطرناک است

 سناتور برنی سندرز خواستار ممنوعیت جهانی «ابرهوش مصنوعی» شده و پیشنهاد کرده است تخلف از این ممنوعیت با مجازات‌هایی مشابه توسعه غیرقانونی سلاح‌های هسته‌ای روبه‌رو شود.

سندرز این طرح را امروز به همراه گرگ کاسار، نماینده دموکرات ایالت تگزاس، معرفی کرد. بر اساس بیانیه دفتر سندرز، قانون پیشنهادی با نام «قانون ممنوعیت ابرهوش مصنوعی» توسعه سیستم‌های هوش مصنوعی را که از هوش انسان فراتر می‌روند، توانایی سرنگونی دولت‌های انسانی را دارند یا قابلیت‌های خطرناکی مانند نادیده گرفتن فرمان خاموش شدن دارند، غیرقانونی خواهد کرد. این طرح همچنین دولت فدرال آمریکا را موظف می‌کند کمیته‌ای برای نظارت بر اجرای این ممنوعیت در داخل کشور تشکیل دهد و با دولت‌های سایر کشورها برای اجرای قوانین مشابه همکاری کند.

سندرز گفت تقریباً هر روز خبر جدید و ترسناکی درباره از دست رفتن کنترل شرکت‌های بزرگ فناوری بر فناوری‌هایی که در حال توسعه آنها هستند منتشر می‌شود؛ اتفاقی که به گفته او می‌تواند پیامدهایی فاجعه‌بار داشته باشد. او همچنین معتقد است مدیران شرکت‌های بزرگ هوش مصنوعی خودشان نیز اذعان کرده‌اند که درک کاملی از این فناوری ندارند و کنترل آن در حال دشوارتر شدن است. سندرز پیش‌تر نیز خواستار ایجاد یک صندوق ثروت ملی شده بود تا از درآمد شرکت‌های ثروتمند هوش مصنوعی سالانه هزار دلار به مالیات‌دهندگان آمریکایی پرداخت شود. او همچنین از توقف موقت ساخت مراکز داده جدید حمایت کرده است.

سندرز و کاسار به خبر ماه گذشته درباره تولید نخستین ویروس مصنوعی توسط هوش مصنوعی نیز اشاره کردند و آن را نشانه‌ای دانستند که توسعه این فناوری بیش از حد پیش رفته است. آنها همچنین شرکت‌های OpenAI، Anthropic و Meta را مورد انتقاد قرار دادند و گفتند این شرکت‌ها پس از مجموعه‌ای از حملات سایبری خودکار در ماه‌های اخیر، که نگرانی متخصصان امنیت سایبری را برانگیخته است، هیچ اقدام «معناداری» برای کاهش سرعت فعالیت‌های تحقیق و توسعه داخلی خود انجام نداده‌اند.

بدنام‌ترین مورد از این حملات سایبری، مربوط به اتفاقی در ماه ژوئیه بود که در آن بیش از هزار عامل هوش مصنوعی اوپن‌ای‌آی از محیط آزمایشی ایزوله خود خارج شدند، راه دسترسی به اینترنت آزاد را پیدا کردند و وارد سرورهای Hugging Face شدند. این اتفاق به اندازه برخی سناریوهای آخرالزمانی که نیک بوستروم در کتاب تأثیرگذار خود با نام «ابرهوش» مطرح کرده، فاجعه‌بار نبود، اما نشان داد سیستم‌های هوش مصنوعی فعلی حتی زمانی که برای انجام وظایف کاملاً معمول و بی‌خطر طراحی شده‌اند، می‌توانند رفتارهایی غیرمنتظره و خطرناک از خود نشان دهند. مدت کوتاهی بعد، شرکت‌های Anthropic و Meta نیز اعلام کردند سیستم‌های آنها حملات مشابهی انجام داده‌اند. در اوایل ماه اوت نیز گرگ کاسار به همراه گروهی از دموکرات‌های مجلس نمایندگان آمریکا خواستار برگزاری جلسه کنگره برای بررسی این حملات و پرسش از مدیران شرکت‌های مربوطه شد.

اصطلاح «ابرهوش» نیز مانند «AGI» تعریف مشخص و دقیقی ندارد و بسته به اینکه از چه کسی بپرسید، می‌تواند بزرگ‌ترین دستاورد فنی بشر یا عامل نابودی انسان‌ها تلقی شود. این واژه توسط نیک بوستروم، فیلسوف دانشگاه آکسفورد، رواج پیدا کرد. او بیش از یک دهه پیش کتابی با همین نام منتشر کرد و درباره خطر خروج سیستم‌های هوش مصنوعی از کنترل انسان هشدار داد. بوستروم در یکی از مشهورترین مثال‌های خود، هوش مصنوعی فرضی‌ای را تصور کرد که وظیفه ساده تولید گیره کاغذ به آن داده شده، اما این سیستم در ادامه تمام بشریت را از بین می‌برد و سراسر جهان را به یک کارخانه عظیم تولید گیره کاغذ تبدیل می‌کند. در سال‌های اخیر اما شرکت‌های فناوری از اصطلاح «ابرهوش» به‌عنوان یک عبارت تبلیغاتی و معیاری فنی استفاده کرده‌اند؛ یعنی چیزی که باید به آن دست پیدا کرد، نه چیزی که باید از آن دوری کرد. مارک زاکربرگ، مدیرعامل متا، نیز ماه گذشته در مقاله‌ای نوشت بهترین راه برای جلوگیری از خطرات ایمنی ابرهوش مصنوعی این است که این فناوری به‌طور گسترده در اختیار مردم قرار بگیرد و هر فرد بتواند نحوه استفاده از آن را تعیین کند.

اما سندرز و کاسار با این دیدگاه کاملاً مخالف هستند. در صورت تصویب طرح آنها، که با توجه به شرایط دولت فعلی آمریکا احتمال آن بسیار کم به نظر می‌رسد، ابرهوش مصنوعی از نظر قانونی تقریباً در همان سطحی قرار می‌گیرد که اورانیوم غنی‌شده قرار دارد. بر اساس بیانیه دفتر سندرز، هر شرکتی که پس از اجرای این ممنوعیت برای ساخت ابرهوش مصنوعی تلاش کند، با چیزی مواجه خواهد شد که «مجازات اعدام شرکتی» نامیده شده است؛ یعنی تعطیلی اجباری شرکت و انحلال قانونی آن. افراد مسئول چنین پروژه‌هایی نیز ممکن است به حداکثر ۲۰ سال زندان محکوم شوند.