آیا شرکت‌های فناوری دیجیتال با سرعتی غیرقابل کنترل فناوری‌های هوش مصنوعی را تولید و روانه بازار می‌کنند و این ممکن است باعث برتری این فناوری‌ها بر هوش و ذهن انسان شود؟
گروهی از نوآوران و دانشمندان علم کامپیوتر از جمله ایلان ماسک و استیو وزنیاک، از بنیانگذاران شرکت اپل، به این نتیجه رسیده‌اند و خواستار توقف شش ماهه طرح‌های پیشرفته هوش مصنوعی شده‌اند تا خطرات آن‌ها به دقت بررسی شود.
نامه و يا فراخوان‌ها در این زمینه که روز چهارشنبه ۹ فروردین منتشر شد واکنشی به عرضه «جی‌پی‌تی- ۴» توسط یک استارت‌آپ به نام «اوپن ای‌آی» است که در حقیقت نسخه پیشرفته‌تر «چت جی‌تی‌بی» است و رقابت برای عرضه محصولات مجهز به هوش مصنوعی را در میان شرکت‌های فناوری دیجیتال تشدید کرده است.
گوگل و مایکروسافت نیز قرار است به زودی محصولات مشابهی به بازار عرضه کنند.
در این نامه چه گفته شده است؟
در بخشی از این نامه خاطرنشان می‌شود که «هوش مصنوعی قابل رقابت با هوش انسان می‌تواند برای جامعه و بشریت خطرات جدی در پی داشته باشد». نمونه‌های آن سرازیر شدن اطلاعات غلط و گمراه‌کننده به شبکه اینترنت و ماشینی شدن مشاغل بیشتری است که جامعه را ممکن است به سوی فجایعی که در فیلم‌های علمی- تخیلی می‌بينيم سوق دهد.
این نامه یادآوری می‌کند: «در ماه‌های اخیر آزمایشگاه‌های فناوری هوش مصنوعی در یک رقابت خارج از کنترل مشغول تولید ذهن‌های مصنوعی بسیار قدرتمندی بوده‌اند که هیچکس حتی خالقان آن‌ها نمی‌توانند آن‌ها را درک، پیش‌بینی و به شکل موثری مهار کنند».
در بخش دیگری از این نامه گفته می‌شود: «ما از همه آزمایشگاه‌های تولید هوش مصنوعی می‌خواهیم که آموزش سیستم‌های پیشرفته‌تر از جی‌پی‌تی-۴ را حداقل به مدت شش ماه متوقف کنند. این توقف باید علنی و قابل راستی‌آزمایی باشد و تمامی عوامل مهم را شامل شود. اگر چنین توقفی به سرعت اجرا نشود حکومت‌ها باید دخالت کرده و این وقفه را اعمال کنند».
برخی از دولت‌های جهان از مدتی پیش در حال بررسی مقرراتی برای کنترل و قانونمند کردن فناوری هوش مصنوعی هستند. دولت بریتانیا روز ۹ فروردین با انتشار یک سند رسمی در این زمینه گفت از تنظیم مقررات سختگیرانه که مانع نوآوری‌های فنی شود پرهیز خواهد کرد.
پارلمان اروپا و ۲۷ کشور عضو اتحادیه اروپا نیز مشغول مذاکره برای تنظیم مقررات گسترده‌ای در زمینه هوش مصنوعی هستند.
چه کسانی نامه را امضا کرده‌اند؟
تنظیم و انتشار این فراخوان ابتکار یک نهاد غیرانتفاعی به نام «انستیتو آینده زندگی» است. یوشوا بنجیو، دانشمند برجسته رشته کامپیوتر و برنده جایزه تورینگ به خاطر اختراعات مهم در رشته هوش مصنوعی، استوارت راسل و گری مارکوس، دو دانشمند برجسته دیگر در این رشته از جمله امضاکنندگان طومار هستند.
از دیگر امضاکنندگان این نامه می‌توان به استیو وزنیاک، یکی از بنیانگذاران شرکت اپل و اندرو یانگ، نامزد سابق انتخابات ریاست‌جمهوری آمریکا، اشاره کرد.
ایلان ماسک نیز که اکنون شرکت خودروسازی تسلا، توئیتر و اسپیس‌ایکس را مدیریت می‌کند از جمله امضاکنندگان این نامه است. او که در عین حال از بنیانگذاران و سرمایه‌گذاران اولیه استارت‌آپ «اوپن ای‌آی» است از مدت‌ها پیش نگرانی خود را در مورد خطرات هوش مصنوعی ابراز کرده است.
یکی از امضاکنندگان که پیوستن او به این درخواست تعجب‌آور بوده، مدیرعامل شرکت «استبیلیتی ای‌آی» است که از موفق‌ترین شرکت‌های تولید محصولات هوش مصنوعی و یکی از رقبای اصلی «اوپن ای‌آی» است.
واکنش‌ها چه بوده؟
شرکت‌های «اوپن ای‌آی»، «مایکروسافت» و«گوگل» به سئوالات خبرگزاری‌ها در مورد این نامه پاسخ نداده‌اند. ولی به نظر می‌رسد که نامه به محض انتشار با انتقادهایی نيز روبرو شده است.
جیمز گریملمن، پروفسور رشته حقوق فناوری و ارتباطات در دانشگاه کورنل نیویورک، می‌گوید: «توقف، ایده خوبی است ولی این نامه بسیار مبهم است و به جنبه قانونگذاری و نظارت بر این فناوری نپرداخته است. در عین حال، حداقل در مورد ایلان ماسک، باید گفت که حمایت او از این نامه یک ریاکاری فرصت‌طلبانه است. فراموش نکنیم که آقای ماسک و شرکت تسلا، هر چه که در توان داشتند به کار گرفتند و در برابر پاسخگو کردن این شرکت به خاطر برملا شدن هوش مصنوعی معیوب در خودروهای تسلا مقاومت کردند».
آیا این نامه نشانه‌ای از هیستری در مورد هوش مصنوعی است؟
هر چند این نامه را می‌توان هشداری در مورد نابکاری‌ها و خطرات هوش مصنوعی پیشرفته‌تر از آنچه که در حال حاضر وجود دارد تلقی کرد، ولی دلیل نگرانی برخی از امضاکنندگان آن هوش مصنوعی «ابر انسانی» نیست.
به طور مشخص «چت جی‌پی‌تی» با تمام توانایی خارق العاده‌ای که دارد در نهایت یک ابزار پیام‌رسانی است که براساس حجم بیکرانی از داده‌ها در شکل پیام‌های نوشتاری قادر است پاسخ کاربران به مکالمات دریافتی را پیش‌بینی کند.
گری مارکوس، پروفسور ارشد دانشگاه در نیویورک و یکی از امضاکنندگان این طومار، در پیامی در بلاگ خود نوشت که با نگرانی‌های سایر امضاکنندگان در مورد خطرهای کوتاه‌مدت توسعه هوش مصنوعی و به طور مشخص احتمال بهبود و تقویت خودکار این فناوری ورای هوش و دانش بشری مخالف است.
آنچه که او با آن مخالف است «هوش مصنوعی نامحدود» است که به‌طور گسترده حتی توسط تبهکاران و یا تروریست‌ها برای گمراه کردن مردم و انتشار اطلاعات خطرناک مورد استفاده قرار می‌گیرد.
پروفسور مارکوس هشدار داد: «حتی فناوری‌های فعلی و رایج خطرات بزرگی در پی دارند که ما برای مقابله با آن‌ها آماده نیستیم. با ورود فناوری‌های پیشرفته‌تر وضعیت ممکن است بدتر شود».
