جیمز گریملمن؛ پروفسور رشته حقوق فناوری اطلاعات و ارتباطات در دانشگاه کورنل نیویورک در واکنش به نامه ایلان‌ماسک و صد‌ها محقق مبنی بر توقف شش ماهه سیستم‌های پیشرفته‌تر از جی‌پی‌تی-۴، می‌گوید: «توقف، ایده خوبی است ولی این نامه بسیار مبهم است و به جنبه قانون‌گذاری و نظارت بر این فناوری نپرداخته است. در عین حال، […]
جیمز گریملمن؛ پروفسور رشته حقوق فناوری اطلاعات و ارتباطات در دانشگاه کورنل نیویورک در واکنش به نامه ایلان‌ماسک و صد‌ها محقق مبنی بر توقف شش ماهه سیستم‌های پیشرفته‌تر از جی‌پی‌تی-۴، می‌گوید: «توقف، ایده خوبی است ولی این نامه بسیار مبهم است و به جنبه قانون‌گذاری و نظارت بر این فناوری نپرداخته است. در عین حال، حداقل در مورد ایلان‌ماسک، باید گفت که حمایت او از این نامه یک ریاکاری فرصت‌طلبانه است. فراموش نکنیم که ماسک و شرکت تسلا، هر چه که در توان داشتند به کار گرفتند و در برابر پاسخگو کردن این شرکت به خاطر برملا شدن هوش‌مصنوعی معیوب در خودروهای تسلا مقاومت کردند.» به گزارش سیتنا، صد‌ها متخصص، مدیر و چهره شناخته شده در حوزه فناوری پیشرفته اطلاعات، با انتشار نامه‌ای سرگشاده ضمن هشدار نسبت به «خطر هوش‌مصنوعی برای بشریت»، خواستار توقف دست‌کم شش ماه برای پروژه‌های فوق پیشرفته در این حوزه شدند. این نامه توسط «مؤسسه آینده زندگی» تهیه و به امضاب چهره‌های سرشناس دنیای فناوری اطلاعات رسیده است. گروهی از نوآوران و دانشمندان علوم رایانه از جمله ایلان‌ماسک و استیو وزنیاک، از بنیانگذاران شرکت اپل، به این نتیجه رسیده‌اند که «فناوری‌های هوش‌مصنوعی ممکن است باعث برتری این فناوری‌‌ها بر هوش و ذهن انسان شود» لذا خواستار توقف شش ماهه طرح‌های پیشرفته هوش‌مصنوعی شده‌اند تا خطرات آن‌‌ها به دقت بررسی شود. نامه و یا فراخوان‌‌ها در این زمینه، واکنشی به عرضه «جی‌پی‌تی- ۴» توسط یک استارت‌آپ به نام «اوپن ای‌آی» است که در حقیقت نسخه پیشرفته‌تر «چت جی‌تی‌بی» است و رقابت برای عرضه محصولات مجهز به هوش‌مصنوعی را در میان شرکت‌های فناوری دیجیتال تشدید کرده است.
گوگل و مایکروسافت نیز قرار است به‌زودی محصولات مشابهی به بازار عرضه کنند.
در این نامه چه گفته شده است؟
در بخشی از این نامه خاطرنشان می‌شود که «هوش‌مصنوعی قابل رقابت با هوش انسان می‌تواند برای جامعه و بشریت خطرات جدی در پی داشته باشد». نمونه‌های آن سرازیر شدن اطلاعات غلط و گمراه‌کننده به شبکه اینترنت و ماشینی شدن مشاغل بیشتری است که جامعه را ممکن است به سوی فجایعی که در فیلم‌های علمی- تخیلی می‌بینیم سوق دهد. این نامه یادآوری می‌کند: «در ماه‌های اخیر آزمایشگاه‌های فناوری هوش‌مصنوعی در یک رقابت خارج از کنترل مشغول تولید ذهن‌های مصنوعی بسیار قدرتمندی بوده‌اند که هیچ‌کس حتی خالقان آن‌‌ها نمی‌توانند آن‌‌ها را درک، پیش‌بینی و به شکل موثری مهار کنند.» در بخش دیگری از این نامه گفته می‌شود: «ما از همه آزمایشگاه‌های تولید هوش‌مصنوعی می‌خواهیم که آموزش سیستم‌های پیشرفته‌تر از جی‌پی‌تی-۴ را حداقل به مدت شش ماه متوقف کنند. این توقف باید علنی و قابل راستی‌آزمایی باشد و تمامی عوامل مهم را شامل شود. اگر چنین توقفی به سرعت اجرا نشود حکومت‌‌ها باید دخالت کرده و این وقفه را اعمال کنند.» برخی از دولت‌های جهان از مدتی پیش در حال بررسی مقرراتی برای کنترل و قانونمند کردن فناوری هوش‌مصنوعی هستند. دولت بریتانیا هم با انتشار یک سند رسمی در این زمینه گفت از تنظیم مقررات سختگیرانه که مانع نوآوری‌های فنی شود پرهیز خواهد کرد. پارلمان اروپا و ۲۷ کشور عضو اتحادیه اروپا نیز مشغول مذاکره برای تنظیم مقررات گسترده‌ای در زمینه هوش‌مصنوعی هستند.
چه کسانی نامه را امضاء کرده‌اند؟
تنظیم و انتشار این فراخوان ابتکار یک نهاد غیرانتفاعی به نام «انستیتو آینده زندگی» است. یوشوا بنجیو، دانشمند برجسته رشته رایانه و برنده جایزه تورینگ به خاطر اختراعات مهم در رشته هوش‌مصنوعی، استوارت راسل و گری مارکوس، دو دانشمند برجسته دیگر در این رشته از جمله امضاکنندگان طومار هستند. از دیگر امضاکنندگان این نامه می‌توان به استیو وزنیاک، یکی از بنیانگذاران شرکت اپل و اندرو یانگ، نامزد سابق انتخابات ریاست‌جمهوری آمریکا، اشاره کرد. ایلان‌ماسک نیز که اکنون شرکت خودروسازی تسلا، توئیتر و اسپیس‌ایکس را مدیریت می‌کند از جمله امضاکنندگان این نامه است. او که در عین حال از بنیانگذاران و سرمایه‌گذاران اولیه استارت‌آپ «اوپن ای‌آی» است از مدت‌‌ها پیش نگرانی خود را در مورد خطرات هوش‌مصنوعی ابراز کرده است. یکی از امضاکنندگان که پیوستن او به این درخواست تعجب‌آور بوده، مدیرعامل شرکت «استبیلیتی ای‌آی» است که از موفق‌‌ترین شرکت‌های تولید محصولات هوش‌مصنوعی و یکی از رقبای اصلی «اوپن ای‌آی» است.
واکنش‌‌ها چه بوده؟
شرکت‌های «اوپن ای‌آی»، «مایکروسافت» و«گوگل» به سؤالات خبرگزاری‌‌ها در مورد این نامه پاسخ نداده‌اند. ولی به نظر می‌رسد که نامه به محض انتشار با انتقادهایی نیز روبه‌رو شده است. جیمز گریملمن؛ پروفسور رشته حقوق فناوری و ارتباطات در دانشگاه کورنل نیویورک، می‌گوید: «توقف، ایده خوبی است ولی این نامه بسیار مبهم است و به جنبه قانون‌گذاری و نظارت بر این فناوری نپرداخته است. در عین حال، حداقل در مورد ایلان‌ماسک، باید گفت که حمایت او از این نامه یک ریاکاری فرصت‌طلبانه است. فراموش نکنیم که ماسک و شرکت تسلا، هر چه که در توان داشتند به کار گرفتند و در برابر پاسخگو کردن این شرکت به خاطر برملا شدن هوش‌مصنوعی معیوب در خودروهای تسلا مقاومت کردند.»
آیا این نامه نشانه‌ای از هیستری در مورد هوش‌مصنوعی است؟
هر چند این نامه را می‌توان هشداری در مورد نابکاری‌‌ها و خطرات هوش‌مصنوعی پیشرفته‌تر از آنچه که در حال‌حاضر وجود دارد تلقی کرد، ولی دلیل نگرانی برخی از امضاکنندگان آن هوش‌مصنوعی «ابر انسانی» نیست.
به‌طور مشخص «چت جی‌پی‌تی» با تمام توانایی خارق العاده‌ای که دارد در نهایت یک ابزار پیام‌رسانی است که براساس حجم بیکرانی از داده‌ها در شکل پیام‌های نوشتاری قادر است پاسخ کاربران به مکالمات دریافتی را پیش‌بینی کند. گری مارکوس؛ پروفسور ارشد دانشگاه در نیویورک و یکی از امضاکنندگان این طومار، در پیامی در بلاگ خود نوشت که با نگرانی‌های سایر امضاکنندگان در مورد خطرهای کوتاه‌مدت توسعه هوش‌مصنوعی و به‌طور مشخص احتمال بهبود و تقویت خودکار این فناوری ورای هوش و دانش بشری مخالف است. آنچه که او با آن مخالف است «هوش‌مصنوعی نامحدود» است که به‌طور گسترده حتی توسط تبهکاران و یا تروریست‌‌ها برای گمراه کردن مردم و انتشار اطلاعات خطرناک مورد استفاده قرار می‌گیرد. پروفسور مارکوس هشدار داد: «حتی فناوری‌های فعلی و رایج خطرات بزرگی در پی دارند که ما برای مقابله با آن‌‌ها آماده نیستیم. با ورود فناوری‌های پیشرفته‌تر وضعیت ممکن است بدتر شود.»
مدیرعامل شرکت ملی پخش فرآوردههای نفتی ایران، گفت: با توجه به حجم عظیم انتقال فرآورده و امکان بروز اختلال و خطا، همچنین لزوم پایش و رصد مستمر شاخصهای توزیع فرآورده در بیش از ۳۷ منطقه و ۲۳۵ ناحیه عملیاتی، استفاده از سامانههای هوش‌مصنوعی باید در ساختار این شرکت قرار گیرد. به گزارش مناقصهمزایده به نقل […]
یک مطالعه جدید این پرسش را مطرح می‌کند که آیا مدلهای زبانی بزرگ هوش‌مصنوعی، واقعاً مدلهای منسجمی از جهان میسازند؟ به گزارش فارس به نقل از نوروساینسنیوز، یک مطالعه جدید این پرسش را مطرح می‌کند که آیا مدلهای زبانی بزرگ هوش‌مصنوعی (LLM)، علیرغم خروجیهای دقیق آن‌‌ها در وظایف پیچیدهای مانند ارائه مسیریابی یا انجام بازیها، […]
عضو هیئتعلمی ایرانداک، با پرداختن به جوانب اخلاقی به این سؤال پاسخ داد که آیا می‌توان مسئولیت نویسندگی یک مقاله را برعهده هوش‌مصنوعی گذاشت یا خیر؟ به گزارش مهر، رحمان شریفزاده؛ در کرسی ترویجی «اخلاق و سیاست هوش‌مصنوعی» از سری پیشنشستهای هشتمین دوره جایزه ملی فناوری اطلاعات که در ایرانداک برگزار شد، در مورد اینکه […]
فعالان حوزه هوش‌مصنوعی باور دارند نبودن سرمایهگذار پایهای و مهاجرت نیروی کار متخصص از اصلی‌‌ترین چالشهای استارتآپهای هوش‌مصنوعی در ایران هستند. به گزارش پیوست، دومین گردهمایی استارتآپی پاندورا با هدف اجرای پروژه‌های عملیاتی هوش‌مصنوعی و تمرکز بر کسبوکارهای این حوزه برگزار شد. نوید شهدی، مدیرعامل شرکت Vector، درباره چالش کسبوکارهای حوزه هوش‌مصنوعی در ایران، گفت: […]
دیدگاه بسته شده است.